サンフランシスコ — サイバーセキュリティのトップ当局者や専門家らからなるグループは、トランプ政権に対し、外国人によるアンスロピックの最新人工知能モデルの使用を禁止する指令の解除を求めており、この措置は米国の敵対者に害を及ぼすどころか、むしろ助ける可能性があると主張している。
Anthropicは金曜日、指令に従うためにFable 5およびMythos 5として知られる最新のAIモデルをオフラインにしたと発表した。人工知能大手は、潜在的な安全上の問題について政府が警告した懸念から、政府がとった措置が正当化されるとは思わないと述べた。
アンスロピックは、コンピューターの脆弱性の検出と悪用において人間のサイバーセキュリティ専門家を上回る能力があるため、一部の最新テクノロジーの使用を一部の顧客に制限していると述べた。サンフランシスコに本拠を置く同社は、これまでにも最新モデルの機能についてホワイトハウスと協議を行ってきた。
日曜の書簡の中で、アドビやエヌビディアなどの企業の100人以上のサイバーセキュリティ専門家とリーダーは、米国政府に対し、擬人化モデルに関する輸出管理ガイドラインを解除し、「将来のAIリスク評価を扱うためのオープンで科学的かつ透明なプロセスに取り組む」よう求めた。
書簡では、Anthropic の Mythos モデルはソフトウェアの欠陥の発見と武器の悪用に関しては「非常に優れている」ものの、「これらのタスクに関しては特別に優れているわけではない」とし、書簡の署名者の多くはセキュリティ監査やトレーニングに他のベースモデルやオープンソースモデルを定期的に使用していると述べた。
書簡は、米国の敵対勢力が急速に進歩する中、最高のサイバー防衛能力を「正当な理由なく」奪うことは危険であると述べた。
書簡には、中国のモデルは「米国の最良のモデルよりわずか数カ月遅れている」と書かれており、中国政府が公表されている以上の民間能力にアクセスできる可能性さえある。
輸出規制は、最先端のAIモデルへのアクセスを制限するという米国政府によるこれまでで最も重要な措置となった。 Anthropic は先週、Fable を大規模にリリースしました。このモデルはより高度な Mythos の限定版であり、サイバーセキュリティ上の懸念から同社はアクセスが非常に制限されています。
商務省は月曜日にコメントの要請に応じなかった。
金曜日の指令は、ドナルド・トランプ大統領が、最先端の人工知能システムの国家安全保障上のリスクを一般公開の1か月前までに審査する連邦政府の枠組みを確立する大統領令に署名してから10日後に発出された。命令によれば、人工知能開発者の参加は任意であるという。
トランプ政権と、潜在的なリスクを最小限に抑え、米国にとっての経済的および国家安全保障上の利益を最大化するためにAI開発を抑制しようとしている安全志向のアントロピックとの間の緊張が高まっている。
国防総省との契約紛争の後、ピート・ヘグセス国防長官はアンスロピックがサプライチェーンのリスクがあると宣言しようとしたが、これはアンスロピックが2つの連邦裁判所で異議を申し立てた米国企業に対する前例のない動きである。同社は、国防総省が自社の技術を完全自律型兵器や米国民の監視に利用しないようにしたいと述べた。ヘセット氏は、同社は国防総省が合法とみなすあらゆる使用を許可しなければならないと述べた。
