ChatGPTメーカーのOpenAIは金曜日、ドナルド・トランプ大統領政権の要請により、同社の新しい人工知能モデルのリリースを制限すると発表した。これは、サイバーセキュリティリスクを引き起こす可能性のあるAI製品に対する前例のない政府の監視の最新のものである。
OpenAIは、GPT-5.6 Solと呼ばれる同社の新しい人工知能製品は、現時点ではトランプ政権が承認した「信頼できるパートナーの小グループ」のみが利用できると述べた。
OpenAIは声明で「この種の政府アクセスプロセスが長期的なデフォルトになるべきだとは考えていない」と述べた。同社は、テスト期間は「今後数週間でより広範な可用性を実現するための道のり」における一時的なステップであると考えていると述べた。
OpenAIによる強力な新しい人工知能システムの段階的リリースは、ClaudeチャットボットのメーカーであるOpenAIのライバルであるAnthropicに対する今月初めの政府の行動に続いて行われた。 Anthropic は、Fable 5 と Mythos 5 として知られる 2 つの新しい AI モデルを、外国人による使用をブロックするトランプ大統領の指示に従うため、一般に公開した数日後にオフラインにしました。
ホワイトハウスは金曜日、急成長するテクノロジーの拡大に伴う課題に対処するため、人工知能研究所との提携を継続すると発表した。
Anthropicが今年初めに、同社のMythosモデルは悪意のあるハッカーによって悪用され、世界中の重要なコンピュータネットワークを脅かす可能性のある方法でソフトウェアの欠陥を検出することに長けているとAnthropicが警告して以来、当局は懸念を強めている。
トランプ大統領は6月初め、最先端のAIシステムが一般公開される最大30日前までに連邦政府が国家安全保障上のリスクを審査する枠組みを確立するAI監視に関する大統領令に署名した。命令ではAI開発者の参加は任意であると説明されているが、その枠組みはまだ完全には開発されていない。
トランプ大統領の同盟者の一部は、政府の監視を強化する必要があるとしてアンスロピックとそのCEOダリオ・アモデイ氏を非難している。
トランプ大統領の技術科学顧問会議の議長を務める投資家のデビッド・サックス氏は、最近のポッドキャストで「ダリオ氏は数カ月前の4月にワシントンを訪れ、基本的に『ミトス』と呼ばれるサイバー兵器を作成したと述べた」と語った。 「そして、彼はコルチゾールレベルを上げ、皆を非常に心配させました。そして、このモデルが高度なサイバー能力を備えているという感覚という点で、これにはある程度の真実がありました。」
サンフランシスコに本拠を置くOpenAIは、同社の新しいSolモデルはサイバー攻撃を実行することよりも「人々が脆弱性を発見して修正することを支援することに優れ」ており、同社自身のリスク閾値を超えていないと述べた。しかし、特に彼のモデルが他のツールと組み合わされた場合、予期せぬリスクが生じる可能性があることを同氏は認めた。
「この不確実性と、このモデルの機能における広範な段階的な変更が、当社がこのモデルの機能向上とより強力な保護手段および段階的リリースを組み合わせる理由である」と同社は金曜日に述べた。
OpenAIはこれまでのところ、新モデルの使用を承認した約20社の顧客の名前を公表していない。
サイバーセキュリティ専門家の広範なグループは、AnthropicがMythosのより安全なバージョンとして宣伝していたFableを閉鎖するに至った政府の行動を批判した。現在、2週間ほど利用できなくなっています。
スタンフォード大学のサイバーセキュリティ専門家アレックス・ステイモス氏は今週初めに記者団に対し、「サイバーセキュリティ業界では、この行動に事実上の根拠があると信じている人はほとんどいないと言いたいだけだ」と語った。
セキュリティ企業AI Corridorの最高製品責任者であり、Facebookの親会社であるMetaの元最高セキュリティ責任者であるステイモス氏は、Anthropicのクラウドコンピューティングの主要支援者であるAmazonによるFableに関する研究の分析をレビューしたところ、中国製を含む他の公開されているAIモデルには存在しないリスクは見つからなかったと述べた。
「政権がこのレースで米国が中国に勝つことを本気で望んでいるなら、それは彼らができる最も愚かな行為だ」とステイモス氏は語った。
OpenAIの最高経営責任者（CEO）サム・アルトマン氏は水曜日、このモデルのリリースについてハワード・ラトニック米商務長官と会談したが、これはAI業界幹部とトランプ政権関係者との間のここ数週間の一連の交渉の一環である。
アンスロピックもそれらの協議の一部であったが、アモディはトランプ政権とより論争の多い関係にあった。国防総省はアントロピカを、戦争における人工知能の使用について倫理的および安全性への懸念を引き起こす国家安全保障上のリスクと定義し、トランプ大統領自身も連邦政府機関にクラウドの使用を停止するよう命令した。 Anthropic は訴訟でこれに応え、現在も連邦裁判所で係争中である。
