中国、重慶 – 3年前、サンフランシスコ南方ののどかな町ウッドサイドで、米国と中国は人工知能がもたらす危険性について初めての高官級協議を開催した。習近平国家主席とベテラン外相は、中国とワシントンの間に緊急時の人工知能ホットラインを確立すべきだという信念を真剣に抱いているようだった。
彼らは、米国大統領選挙のわずか数カ月前に、2024年にスイスで外交努力を開始することを承認した。交渉に関与した４人の関係筋によると、大規模な米国代表団が大きな期待を抱いて到着したが、突然打ち砕かれたという。中国省はAIの暴走に関する米国の懸念を学術的、ほぼ理論的なものとして一蹴し、すぐに中国を阻止する米国の新たな取り組みとして北京で見られている輸出規制に話題を移した。
バイデン大統領政権で国家安全保障問題担当補佐官を務めるジェイク・サリバン氏はインタビューで、「当然、彼らは能力に関する何らかの制約や制限を伴う米国の外交的取り組みは罠だとみなしている」と語った。
信頼の欠如、そして民主党がドナルド・トランプにホワイトハウスを失ったにも関わらず、同年11月にペルーで合意に達し、人工知能を核兵器の管理や規制から遠ざけることで双方が合意した。
「AIで何かができるという封印が解けたのです」とサリバン氏は語った。 「政権移行期に、私は次期トランプチームに、対話を真剣に取り上げる必要があると伝えた。しかし、トランプ政権の見解はもっと自由放任的で、彼らはそれに特に興味を示していないようだった。」
「ここ数週間ですべてが変わった」と彼は付け加えた。
トランプ政権は、かつてはテクノロジーの優位性を求めて戦うことに熱心だったが、今では初めて、AIが放っておけば解き放たれる力について検討している。
アンスロピック社の強力な新モデル「ミトス」のデビューに対する北京とワシントンの共同警戒を受けて、当局者らはタイムズ紙に、意外な展開として、緊急チャンネル協議を再検討するためのトランプ大統領の今週の国賓訪問を前に、静かな議論が行われたとタイムズ紙に語った。
政府高官は日曜、記者団に対し、ホワイトハウスは「米国と中国に重点を置いている多くの分野で、他のAIと同様にAIのコミュニケーションチャネルを構築することを検討している」と語った。
同当局者は、「このコミュニケーションチャンネルがどのようなものになるのか、その形式や内容はまだ決まっていないと思う」とし、「しかし我々は首脳会談のこの機会を利用して対話を開始したいと考えている。我々はこの問題に関するコミュニケーションチャンネルを確立する必要がある」と述べた。
Mythos の能力は、政府のデータベース、金融機関、医療プログラムなどのデジタル通信システムに侵入して悪用できる前例のないサイバー兵器として業界や政府全体で認識されており、計り知れない結果をもたらします。
今週発表されるかどうかはまだ明らかではない。専門家らは、人工知能の規制に関する米中の協議（双方が完全には理解していない、あるいは管理していない技術の使用を管理する一種の軍備管理協定の策定）には疑惑や誤解、リスクが伴うだろうと専門家らは指摘する。
戦略国際問題研究所ワドワニ人工知能センター所長のアーロク・メータ氏は、「現在、米国の政策立案者から中国との正式なAIガバナンス協議への支援はほとんどない」と述べた。
メータ氏は「論理的には、これは勝者総取りのレースであり、米国がこのレースに勝つためには人工知能の進歩を加速させることが不可欠だということだ」と述べた。
アメリカ第一
中国は、AIにおける米国のリーダーシップ、そして米国のAI企業の一般的な戦略が世界を限界まで押し上げているという強力な主張を持ってこれらの議論に臨むだろう。
OpenAI、Google、Anthropic、Microsoft、Meta Platformsなど、この分野の米国の主要企業はすべて、共通の定義のない閾値である汎用人工知能（AGI）を実現できるモデルを最初に構築しようと競い合っているが、人間の知的作業を実行するにはモデルが必要であるという点ではほとんどが同意している。
一般的な理論は、AGI を最初に達成した者は、自己トレーニング、再帰的知能の向上、指数関数的な成長という 2 倍の報酬を保証し、すべての競合他社を置き去りにするというものです。
一方、中国企業は、腐敗した産業やシステムに人工知能を統合し、モデルをトレーニングして個々のタスクを改善し、よりカスタマイズされたアプローチで成長を加速することに焦点を当てた、国家認可の戦略に従っている。
戦略国際問題研究所の中国ビジネス・経済上級顧問スコット・ケネディ氏は、「中国人は人種は一つではなく、複数の人種が存在すると信じている」と述べた。 「米国はAGIの達成に注力しているが、中国は製造業、人型ロボット工学、モノのインターネットのあらゆる側面など、自国経済の他の分野へのAIの普及と応用に注力している。」
中国の学者、AI業界関係者、歴代政府は中国政府の戦略的思考と誠実さに疑問を抱いてきた。
カーネギー国際平和基金で中国を中心に世界の技術問題を研究するマット・シーハン氏は、「AGIはここのコミュニティに深く浸透しており、AGIには変革の可能性があるため、中国が注目していないことが信じられないほどだ」と述べた。 「アプリケーションに重点を置いていると言っていますが、どこかの山に隠されたAGIプログラムの偽物でしょうか？」
しかし、ほとんどの内部関係者は、中国企業に対する中国政府の指示は中国の真の意図を明らかにしていると信じている。
「彼らは米国ほど不器用ではありませんし、それは今でも変わらないと思います」とサリバン氏は言う。
バイデン大統領は2023年に中国の習近平国家主席をカリフォルニア州ウッドサイドに歓迎する。
(ダグ・ミルズ/プール画像)
中国の進歩は米国の予想を上回っているが、特にDeepSeekが1年以上前にモデルをリリースして以来、同国はAGIに向けたより強力なモデルの開発に必要な広範な戦略ではなく、特定のアプリケーションにコンピュータ能力を集中させてきた。
「それは単なるチップではありません。お金です」とシーハン氏は付け加えた。 「中国の大手企業は米国企業に比べて財務的にはるかに制約されている。ここではバブルの懸念があるが、OpenAIの評価額は8000億ドル近い。上場した中国の大手企業の評価額は200億ドル。利用可能な資金には桁違いの開きがあるだけだ。」
それでも、米国政府の中には、中国が技術を丸ごと盗むだけであれば、同様の計算能力は必要なくなるのではないかと懸念する人もいる。
そうするのは簡単ではありません。しかし先月、ホワイトハウス科学技術政策局はメモの中で、中国企業が「米国のフロンティアAIシステムを蒸留する産業規模のキャンペーン」を行っており、最先端の既存モデルの性能を「数分の一のコストで」事実上複製していると非難した。このメモは、この活動を許可したとして中国を非難していない。
その際、慎重に構築されたセキュリティプロトコルは意図的に抽象化されるとメモは付け加えた。
中国の交渉上の優位性
戦略的計算が何であれ、中国はレースで後を追うトランプ政権との協議に入るだろうが、ゴールラインの性質については意見が一致していない。
理論的には、AGI は再帰的な自己改善の段階に到達し、その結果人間の理解や制御が失われる可能性があります。しかし、中国人ではなくアメリカ人だけがこの閾値に到達したいと考えているとしたら、それを阻止する責任は誰にあるのでしょうか？
バイデン政権で国務省の人工知能政策を主導し、ジュネーブ会談に参加したダニエル・ラムラー氏は、AGIに対する関心の欠如とそのリスクに対する無知という中国の主張に疑問を呈した。同氏は、中国が競争で遅れているのは戦略的計画のせいではないと述べた。
「中国の技術者は米国のAIエコシステムを注意深く観察しており、時には自分の考えを発言することがある」とレムラー氏は語った。 [Mythos] 絶望的なまでのモデル。中国のトップAI研究所のリーダーらはここ数カ月、Mythos以前から、自社のコンピューティングがいかに制限的であるかについて声を上げてきた。アメリカの競合他社には決して追いつけないかもしれないと言う人もいた。」
レースのこの段階での協議は、最近の米中外交の歴史でおなじみのパターンに従う可能性がある。中国政府は発展において米国に遅れをとっていると主張し、最終的には交渉のテーブルでより大きなハンディキャップと譲歩を約束する。
中国の世界貿易機関への加盟や中国政府とオバマ政権間のサイバーセキュリティ交渉など、他の競争分野では最終的に合意に達したが、米国企業は後から考えて不利益を被ったと米国政府が信じている。
ラムラー氏は、トランプ政権は「国益に根ざした明確な期待を持って中国とのAI外交に取り組む必要がある」と付け加えた。
シリコンバレー自体もAI規制に関して意見が分かれている。 Anthropic は、他の AI 企業が安全性と互換性への懸念を真剣に受け止めていないという懸念に基づいて設立され、そのモデルである Mythos についてトランプ政権に警告を発し、ホワイトハウスで今後の最善の方法について熟考するきっかけとなった。
スコット・ベッソン財務長官は、米大手銀行の指導者たちと会合した後、銀行の脆弱性について警戒し、将来のモデルリリースを監査するよう米政府に内部で勧告した。中国ではすでにこの慣行が実施されており、「重み」として知られるモデルのトレーニングパラメータが公開されている。
政府による監視の提案ですら、シリコンバレーからの反発を引き起こした。ホワイトハウスは先週、連邦審査への新モデルの提出は完全に任意であると業界同盟を安心させるメモを送った。
AIを巡る米中両国の交渉が最終的に再開された場合、交渉は冷戦時代に核兵器を規制する軍備管理協定に至った場合よりもはるかに複雑なものになると専門家らはみている。
両国は、世界金融システムに対する不安定の脅威だけでなく、両国を標的にする可能性のある生物兵器やサイバー兵器の使用を狙う悪役の手に高度な人工知能ツールが渡ってしまう拡散についての懸念についても議論する予定だ。
そして最終的には、中国と米国の軍隊への人工知能の統合を規制することについて議論するかどうかを決定する必要があるが、これは信頼が最も低く検証が最も困難な世界最大のライバル国間ではほぼ考えられない目標である。
AIがもたらす可能性を最も恐れている業界関係者らは、トランプ政権に対し、中国との協議は存続の必要性であると語った。
Anthropic の CEO 兼共同創設者であるダリオ・アモデイ氏は、2025 年にニューヨークで開催されるイベントで講演します。
(マイケル・M・サンティアゴ/ゲッティイメージズ)
しかし、外交を擁護してきたアントロピック内部でも、中国政府が現在の不利な立場を利用して米国産業を窮地に陥れるのではないかとの懸念がある。
業界関係者２人によると、業界関係者らは単一の包括的合意を求める代わりに、核指揮統制協定などの特定のリスクを軽減するために中国政府との的を絞った協定を追求するよう政権に助言しているという。
サリバン氏によると、習氏も中国の王毅外相も、目の前の技術開発の深刻さには何らかの協力が必要であることを内々に理解しているようだという。
「概念的なレベルでは、彼らはこの問題に確信を持って承認したと思います」とサリバン氏は言いました。「しかし、彼らの緊急度のレベルは私たちよりもかなり低く、時間をかけて行われる長期的なプロセスであると考えていたと思います。」
「彼らの緊急性のレベルとその中での役割は増大している」と彼は付け加えた。
