Anthropic PBC は、テクノロジーをすべての外国人の手に渡さないようにするというトランプ政権による前例のない命令を受けて、Mythos を含む最先端の AI モデルへのアクセスを無効にしました。
米国政府は国家安全保障上の懸念を理由に、「米国内外を問わず」外国人によるFable 5とMythos 5モデルへのアクセスを停止するようAnthropicに指示したと同社は声明で述べた。
米当局者は商務省が書簡を送ったことを認めた。それ以来、モデル開発者は互換性を確保するために、両方のシステムへのアクセスをすべての顧客に閉鎖しました。
米国政府が米国企業が開発したフロンティアAIモデルへの外国からのアクセスを制限するためにこれほど抜本的な措置を講じたことはこれまでになかった。トランプ政権とバイデン政権は半導体やスーパーコンピューターなど他の技術への海外アクセスを制限しており、AIモデルへのアクセスを遮断するメリットを主張する人もいる。しかし、ソフトウェア自体に対する制限により、憲法上および商業上の懸念が生じました。
アンスロピックは、同社がサイバーセキュリティタスクの実行をブロックしていたMythosの最近リリースされたバージョンであるFable 5のセキュリティバリアが「ハッキング」またはバイパスされる可能性があることを発見した後、米国政府がこの命令を出したと信じていると述べた。
アンスロピックはウェブサイトへの投稿で、「脱獄の可能性の発見が、数億人に展開されている商用モデルのリコールの原因となることに我々は同意しない」と述べた。 「この標準が業界全体に導入されれば、すべてのフロントエンド モデル サプライヤーのすべての新しいモデルの導入が実質的に停止されると考えています。」
ウォール・ストリート・ジャーナルの報道によると、Amazon.comの研究者らがジェイルブレイク研究を実施し、Anthropicのモデルにいくつかの脆弱性があることが判明したという。
機密事項について匿名を条件に語った関係者らによると、アマゾンと米国政府は規制が課される前にこの脆弱性について連絡を取っていたという。関係者の１人によると、アマゾンの最高経営責任者（ＣＥＯ）アンディ・ジェシー氏がこうしたやりとりに関与していたという。ザ・インフォメーションは先に、ジェシーが米国当局者に懸念を表明したと報じた。
アマゾンの広報担当者は、政府がセキュリティリスクについて同社と協議することは珍しいことではないと述べたが、そのような協議の詳細については明らかにしなかった。
国家安全保障の名の下に AI モデル システムへのアクセスを制限する政府の動きは、OpenAI、Google、Alphabet Inc のメタ プラットフォームを含むすべての主要な AI モデル開発者にとって前例となる恐れがあります。 Nvidia Corp.のCEOであるJensen Huang氏やOpenAIのCEOであるSam Altman氏などの業界リーダーは、これまで米国政府のシステムを奨励する代わりに米国政府のシステムを奨励してきた。鉛。
Nvidia Corp.が支援する人工知能スタートアップ企業Cohere Inc.の共同創設者、Aidan Gomez氏は土曜日のインタビューで、「世間知らずで、おそらくこのてこが利用されないことを望んでいた人たちにとって、これは大きな警鐘だ」と語った。 「もうそれを否定できる人はいない。」
アンスロピック社は、政府の命令を午後5時21分に受け取ったと述べた。金曜日のニューヨーク時間。この終了命令は、これまでの声明や、トランプ大統領が最近署名した、政府がモデル試験ライセンス制度を追求しないことを示唆した大統領令に反している。
金曜日の指令はまた、アンスロープとトランプ政権内の一部との間の長年にわたる緊張を高める恐れがある。今年初め、AI開発者は軍事および監視目的でのテクノロジーの使用をめぐって国防総省と衝突した。政府は爆発の結果、同社が米国のサプライチェーンにリスクがあると宣言し、米政府機関に同社製品の使用を停止するよう命じた。
非公開企業の Anthropic は、自社をより責任ある AI 開発者として長い間位置づけてきたが、4 月に初めて Mythos モデルを非常に限られたグループの企業や機関にリリースし、そのサイバーセキュリティの穴を発見する能力が広範な配布には危険すぎると警告した。
この限定版がアンスロピックとトランプ政権の間の緊張を緩和するために機能している兆候がある。4月に米国政府は主要な連邦政府機関がミトスのバージョンを利用できるようにする準備をしていた、とブルームバーグは以前報じた。
神話はまた、自主的なモデルテストを求める最新の大統領令など、トランプ政権のAI政策の取り組みを加速させた。この命令では、その中には強制的なライセンス制度を創設するものとして解釈されるべきではないと特に明記されています。
トランプ大統領の元AI皇帝で現在大統領科学技術諮問委員会の共同議長を務めるデイビッド・サックス氏は、Anthropic社が自社のFableモデルにおけるガードレールの脱獄を修正することを拒否したと述べた。
「管理者の今の望みは、Anthropicが安全性の問題を解決し、輸出規制が解除され、Fableが一般公開に戻ることだ」と同氏はXへの投稿で書いた。「管理者はこれらすべてをできるだけ早く実現したいと考えている。率直に言って、Anthropicが以前は最優先事項だと言われていた安全性の要求に応じたくなかったのは混乱している」
最新の政府の制限は、最先端の人工知能モデルを提供し、その技術が利益を生む可能性があることを投資家に証明しようとする米国の開発者間の競争と衝突する。 OpenAIとAnthropicの両社は、SpaceX自身の歴史的なIPOに続き、今年の新規株式公開を目指している。
最新の AI モデルの提供を急ぐあまり、Anthropic は今月初めに長いブログを投稿し、政府と AI 開発者が、テクノロジーがもたらす可能性のあるリスクを回避するために、いつテクノロジーの作業を遅らせるかを共同で決定するシステムを要求しました。
同社は当時の投稿で、潜在的に危険なAI作業を「表示または一時停止するオプションがあれば良いのに」と述べた。人工知能は、人間の作業を何千倍も効率化するか、あるいは代替できるところまで進歩しており、新たなリスクを生み出していると同社は述べた。
欧州連合の執行部門は、アンスロピックの声明を検討しており、強力な新しいAIモデルに関連する潜在的なリスクとサイバーセキュリティ上の懸念について同盟国と引き続き協議していると述べた。欧州委員会は、最近の動向は欧州の技術主権の必要性を浮き彫りにしていると付け加えた。
「フィールド上の皆さん、私はそれを見ることに特に興奮しているわけではありません」とクールのゴメスは語った。 「私はそれがパートナーであるとは思わない。過去80年にわたって発展してきたより広範な技術提携にとって、それが正しい行為だとは思わない。」
イーストランドとロエンクロンはブルームバーグに寄稿している。 Shirin Gaffari、Yi Wei Wong、Jan Vulpicelli、Spencer Soffer、Thomas Seale が支援しました。
