この記事を聞く
推定3分
この記事の音声バージョンは、人工知能ベースのテクノロジーによって生成されています。発音の誤りが発生する可能性があります。私たちはパートナーと協力して継続的にテストし、結果を改善しています。
人工知能大手アンスロピックは金曜日、外国人による使用を防ぐというトランプ政権の指示に従うため、「フェイブル5」と「ミトス5」として知られる最新のAIモデルをオフラインにしたと発表した。
この輸出規制は、最先端の AI モデルへのアクセスを制限するという米国政府によるこれまでで最も重要な措置となる。 Anthropic は今週、Fable を大規模にリリースしました。このモデルはさらに高度な Mythos の限定版であり、サイバーセキュリティ上の懸念から同社はこのモデルへのアクセスが非常に制限されています。
アンスロピックは声明で、金曜日午後に米政府から指示を受け取り、国家安全保障上の懸念については明示していないとし、この問題に対する政府の対応に同意できないと述べた。
同社は「政府は透明性、公平性、明確で事実に基づいた法的手続きの一環として、安全でない配備を阻止する能力を持つべきだと信じている」と述べた。 「この行動はこれらの原則に準拠していません。」
アンスロピックはこれを「誤解」と呼び、モデルへのアクセスを「できるだけ早く」回復したいと述べた。
現在9:44人間の神話はどれほど強力ですか?
商務省はコメント要請に応じていない。
この措置は、ドナルド・トランプ米大統領が、最先端の人工知能システムを一般公開する最大1カ月前に連邦政府が国家安全保障上のリスクを検討する枠組みを確立する大統領令に署名してから10日後に行われた。命令には、人工知能開発者の参加は任意であると記載されている。
4月に初めてMythosを導入したとき、Anthropicは、ソフトウェアの欠陥を大規模に発見するこのモデルの能力は、悪用されれば経済、公共の安全、国家安全保障に深刻なリスクをもたらす可能性があると述べた。
同月、カナダ銀行のティップ・マクラム総裁は、国際通貨基金の春季会合の余興で記者団に対し、フォーラムではこのモデルについてかなりの議論があったと語った。
しかしマクラム氏は、ミトスは一度限りの出来事ではなく、AI開発の性質上、企業、規制当局、政策立案者はこの急速に進化するテクノロジーに対処するための計画を立てる必要があることを意味していると強調した。
Mythos であれ、別の AI モデルであれ、脆弱性を発見して悪用するこれらの新しいテクノロジーの能力により、強力なサイバーセキュリティ防御を導入することが「重要視される」とマクラム氏は述べました。