この記事を聞く
推定4分
この記事の音声バージョンは、人工知能ベースのテクノロジーによって生成されています。発音の誤りが発生する可能性があります。私たちはパートナーと協力して継続的にテストを行い、結果を改善しています。
ChatGPTメーカーのOpenAIは金曜日、ドナルド・トランプ米大統領政権の要請を受けて、同社の新しい人工知能モデルのリリースを制限すると発表した。これは、サイバーセキュリティリスクを引き起こす可能性のあるAI製品に対する前例のない政府の監視の最新事例である。
OpenAIは、GPT-5.6 Solと呼ばれる同社の新AI製品は、現時点ではトランプ政権が承認した「信頼できるパートナーの小グループ」のみが利用できると述べた。
OpenAIは声明で「この種の政府アクセスプロセスが長期的なデフォルトになるべきだとは考えていない」と述べた。
同社は、テスト期間は「今後数週間でより広範な可用性を実現するための道のり」における一時的なステップであると考えていると述べた。
OpenAIによる強力な新しい人工知能システムの段階的リリースは、ClaudeチャットボットのメーカーであるOpenAIのライバルであるAnthropicに対する今月初めの政府の行動に続いて行われた。
Anthropicは、外国人による使用を禁止するトランプ大統領の指示に従うため、新しいAIモデル「Fable 5」と「Mythos 5」を公開してからわずか数日後にオフラインにした。
教皇庁からの最初の公開書簡の中で、教皇レオは各国政府に対し、紛争を優先し、世界を終わりのない戦争への道に導くリスクがあると述べ、人工知能システムの開発を遅らせるよう求めた。
ホワイトハウスは金曜日、急成長するテクノロジーの拡大に伴う課題に対処するため、人工知能研究所との提携を継続すると発表した。
Anthropicが今年初めに、同社のMythosモデルは悪意のあるハッカーによって悪用され、世界中の重要なコンピュータネットワークを脅かす可能性のある方法でソフトウェアの欠陥を検出することに長けているとAnthropicが警告して以来、当局は懸念を強めている。
この動きはトランプ大統領の大統領令に基づくものである
トランプ大統領は6月初め、AI監視に関する大統領令に署名し、最先端のAIシステムが一般公開される最大30日前までに連邦政府が国家安全保障上のリスクを審査する枠組みを確立した。命令ではAI開発者の参加は任意であると説明されているが、その枠組みはまだ完全には開発されていない。
サンフランシスコに本拠を置くOpenAIは、同社の新しいSolモデルはサイバー攻撃を実行することよりも「人々が脆弱性を発見して修正することを支援することに優れ」ており、同社自身のリスク閾値を超えていないと述べた。しかし、特に彼のモデルが他のツールと組み合わされた場合、予期せぬリスクが生じる可能性があることを同氏は認めた。
「この不確実性と、このモデルの機能における広範な段階的な変更が、当社がこのモデルの機能向上とより強力な保護手段および段階的リリースを組み合わせる理由である」と同社は金曜日に述べた。
現在9:44人間の神話はどれほど強力ですか?
サイバーセキュリティ専門家の広範なグループは、AnthropicがMythosのより安全なバージョンとして宣伝していたFableを閉鎖するに至った政府の行動を批判した。現在、2週間ほど利用できなくなっています。
スタンフォード大学のサイバーセキュリティ専門家アレックス・ステイモス氏は今週初めに記者団に対し、「サイバーセキュリティ業界では、この行動に事実上の根拠があると信じている人はほとんどいないと言いたいだけだ」と語った。
セキュリティ企業AI Corridorの最高製品責任者であり、Facebookの親会社であるMetaの元最高セキュリティ責任者であるステイモス氏は、Anthropicのクラウドコンピューティングの主要支援者であるAmazonによるFableに関する研究の分析をレビューしたところ、中国製を含む他の公開されているAIモデルには存在しないリスクは見つからなかったと述べた。
「政権がこのレースで米国が中国に勝つことを本気で望んでいるなら、それは彼らができる最も愚かな行為だ」とステイモス氏は語った。
