匿名を条件にPOLITICOとの対談に応じたホワイトハウス高官とこの問題に詳しい政府当局者によると、ホワイトハウスとアンスロピックは、新しい人工知能モデルのセキュリティ上の欠陥の深刻度を評価し、政府介入の可能性を導く枠組みの構築に取り組んでいるという。
この取り組みは、ホワイトハウスが Anthropic に輸出規制を課し、業界ではジェイルブレイクとして知られるセキュリティ上の欠陥が認識されたため、Anthropic が最新の強力な AI モデルである Fable 5 と Mythos 5 へのすべてのユーザー アクセスを一時停止することを余儀なくされた後に行われた。
政府関係者とAnthropy CEOのダリオ・アモディ氏は脱獄の深刻さについて意見が異なっているとPOLITICOが以前報じたが、テクノロジーはそのような論争を定義し評価する政府のインフラを超えた。 POLITICO は、Business Insider と同様、Axel Springer Global Correspondent Network の一部です。
このような出来事や将来の出来事を評価するための標準的な方法を作成しようとする試みは、政府が、放置すれば経済と国家の安全保障を脅かす可能性があると一部の人が懸念する、新しく強力なモデルのための安全レールの確立をいかに急いでいるかを浮き彫りにしている。
また、Anthropic と政府との間の交渉は、どの AI モデルもハッキングから完全に免れることはできないという理解を反映しており (Anthropic のモデルに対する最初の擁護の一環)、政府は企業がセキュリティ リスクを測定するためのルールを起草すべきであるとの認識を、今週初めにフランスで開催された G7 会議で他の大手 AI 企業や各国指導者らからも伝えられた。
ホワイトハウスとアンスロピック（公共政策責任者のサラ・ハック氏と共同創設者のトム・ブラウン氏が主導）の間の議論は、セキュリティ対策が回避された範囲、暴露された機能、侵害の実際的な影響など、将来の脱獄を評価するために使用できる共通のベンチマークを開発することを目的としていた。
アントロピックとホワイトハウスはコメントの要請にすぐには応じなかった。
アンスロピックに対する輸出規制はまだ解除されていないが、技術基準設定演習に向けた動きは交渉が進展していることの表れである。金曜日、Anthropic社が脆弱性は限定的で重大なセキュリティ上の欠陥には当たらないと主張してFableの導入要求を拒否したため、交渉は事実上決裂した。
ホワイトハウスはこれに応じて、外国ユーザーによる同モデルへのアクセスを禁止する輸出規制を課し、同社は市場からの撤退を余儀なくされた。
しかし週末にかけて、政府高官やアンスロピックの指導者たちは、アンスロピックの共同創設者であるトム・ブラウン、商務長官のハワード・ルトニック、国家サイバー局長のショーン・ケアンクロスらと一連の長時間にわたる会談を行った。これらの会談はワシントンでほぼ一週間にわたる個人的な会合につながった。アントロピックは月曜日、政府関係者との調整を図るため、上級研究者と防衛専門家を商務省に派遣した。
この物語はオリジナルです POLITICOに掲載されました そしてこれは、アクセル・シュプリンガーの世界的な記者ネットワークのおかげであり、同社のニュースルームのリソースを活用して、野心的なスクープ、調査、インタビュー、意見記事、分析を公開しています。これにより、POLITICO、Business Insider、WELT、BILD、Onet、Fakt などのジャーナリストが、複数のプラットフォームで数億人の国際的な視聴者に向けた主要な記事で協力できるようになります。