先月のアリゾナ大学の卒業式で、Googleの元最高経営責任者（CEO）エリック・シュミット氏は2026年の卒業生に対し、彼らがAIの未来を形作ると語った。群衆は彼にブーイングをした。他の卒業式も同様のパターンでした。AI について希望に満ちた発言をした後、群衆から拒否されました。
彼らの怒りは本物であり、正当なものです。テクノロジー企業の幹部らは、人工知能が私たちの仕事、学校、人間関係、戦争を作り変えるだろうと語った。しかし同時に、私たちの同意や参加なしに発展する変化から私たち全員が恩恵を受けると信じることも求められました。私のような多くのアメリカ人にとって、その約束は当てはまりません。私たちは、自分たちの将来は自分たちではなく、自分たちのために決められているように感じています。
過去数十年にわたり、テクノロジー政策は、科学者、業界の CEO、調達担当者、弁護士の領域である、狭い技術的な問題として扱われてきました。この春、法王と大統領がこの問題を道徳的かつ政治的な問題に変えた。 5月25日、教皇レオ14世は人工知能と人間に関する初の回勅「マグニフィカ・ヒューマニタス」を発行した。そして6月2日、ドナルド・トランプ大統領は「高度な人工知能におけるイノベーションとセキュリティの促進」と題する命令に署名した。 2 つの論文にはこれ以上の違いはありません。
教皇の回勅は人類に焦点を当てており、権力は道徳によって制限されるよう求めている。一方で、トランプ大統領の命令は、米国がどのようにして中国より先を行くのかを疑問視している。 1つ目は敬意についての瞑想であり、2つ目は支配のための戦略です。ただし、どちらの声明も人工知能のみに関するものではありません。どちらも変化します。権限は市民から機械に、そして公の議論から個人の手に移ります。
2 つの文書間のギャップは、戦争と国家安全保障に関する分野で最も大きい。この回勅の最も強力な警告は、致命的で取り返しのつかない決定を人工システムに決して委ねてはならないというものだ。誰が生き、誰が死ぬかを機械が決めるべきではありません。兵器は熱の兆候を読み取り、キャラクターを追跡し、攻撃を推奨することはできますが、命を終わらせるということが何を意味するのかを理解することはできません。家族、法廷、歴史には答えられません。教皇レオの言葉を借りれば、「いかなるアルゴリズムも戦争を道徳的に許容できるものにすることはできない」。
トランプ大統領は、現在進行中のイランとの戦争を含め、海外での多くの紛争に米国を巻き込んでいる。そのため、彼の命令はより戦術的な角度から国境システムにアプローチし、トランプ政権当局者が最も先進的なモデルを秘密裏にテストすると述べている。これは自律型兵器を具体的に認可するものではないが、最先端の AI システムとその戦争での使用に関する決定がどこで行われるか、つまり密室で行われることを定義している。将来的には、人工知能の軍事力、サイバー力、社会的力に関する最も深刻な疑問が、機密レビューと財務長官のスコット・バッサンなどの人物間の民間協力を通じて答えられるだろう。陸軍長官ピート・ヘセス。そしてハワード・ラトニック商務長官。
民主主義は、このような問題を公の場で、公聴会や投票、誰かが拘束できる記録によって解決する必要がある。さて、この命令により、彼らは大衆の手の届かないところに置かれる可能性があり、そこではほとんどの国民が意見を聞くことはできません。
より広範には、トランプ大統領の最高執行責任者は、審査プロセスのほぼ全体を政府と、「人工知能の開発者および研究者」または「人工知能業界」として知られる少数の組織に委譲している。その後、政府機関は、モデルを設計した企業と協力して、機密のベンチマークプロセスを通じてどのモデルを市場にリリースするかを決定します。彼らは協力して、一般の人々が目にする前に最先端のシステムを確認できる「信頼できるパートナー」を選び、政府はモデルがそれらのパートナーに届くまで最大 30 日前まで検査します。この命令はコメント期間を設けるものではなく、公聴会を設定するものでもなく、命令文にあるように、誰でも同氏に対して強制できる「実質的または手続き上の」権利を創設するものではない。参加は任意であり、つまり招待によるものであり、フレームワークの設計を支援する開発者が、他の参加者を選択するのに役立ちます。一般の人々はその後、それについて読みます。
注文が署名される前から、この力強さは完全に表れていました。アクシオスは、マーク・ザッカーバーグ氏、イーロン・マスク氏、デービッド・サックス氏が初期の草案を拒否する前にトランプ氏と会談したと報じた。 ワシントン・ポスト 業界での会話を言語の対照的な部分について説明します。これらの協議で何が起こったにせよ、より深刻な不均衡が露呈した。これらのシステムを構築している企業はすでに、自社を管理するルールに直接アクセスできるルートを持っている一方、一般の人々はまだそのルールへの参加を待っているのだ。
ここで私たちは教皇の回勅に行き着きますが、そこではそのような発明の根底にある危険性についての言葉が与えられています。データ、アルゴリズム、プラットフォーム、インフラストラクチャが少数の手に集中すると、人間の可能性を広げるはずの商品が排除のツールになる可能性があります。インテリジェンスは公共機関やコミュニティが設計できるほどオープンな共有インフラストラクチャになるのでしょうか?それとも、それはレンタル容量となり、建設資本を持つ一部の企業によって一般に売り戻されるのでしょうか?
確かに、この進化はすでに進行中です。人工知能はすでに人々に直接影響を及ぼしており、機械が人々について何を決定するか、そして人々の生活から何を奪うかという点で影響を与えています。このソフトウェアはすでに子供の学業の約束を評価し、ローンの価格を決定し、誰が治療を受けるかを分類し、その人がどの求人応募を見るかを決定している。これらのシステムが急増し、私たちの通常の生活がより多くのシステムを通過するにつれて、判断がどのように達成されたかを確認する方法ができないままに行われることがますます増えています。
ここで、レオの回勅による人間の尊厳の擁護が鍵となります。親、患者、従業員、学生、求職者、誰もが自分が選択しなかった制度による判決に拘束される可能性があり、異議を申し立てることはできません。法廷では、彼らはそれぞれ立っていた。人生を変えるような自動的な決断では、彼らは決断を下せないかもしれません。
AI が人々にどのような影響を与えるかを評価するのを一時停止すると、未来が中国に移ってしまうのではないかという懸念がワシントンでもシリコンバレーでも同様に蔓延しています。より速く行動し、質問を少なくし、建設業者を信頼してください。しかし、自由社会ではスピードを同意の代わりとして扱うことはできません。このような変化はゆっくりと、そして一度に起こります。調達契約、モデルアクセス契約、および条項では、システムが構築され、デフォルトが設定され、取り決めが高すぎてキャンセルできないまでは誰も読みません。私たちはまだ遅い段階にいます。
解決策は通常の民主主義だ。学区がランキングアルゴリズムを購入する前の公聴会、モデルがいつ自分を判断したかを知り、異議を申し立てる権利、機密扱いの州外での最前線のモデル決定の公開レビュー、誰が利益を得るのか、誰が暴露されるのか、そして誰が結果に異議を申し立てることができるのかを問う調達規則である。
私は『マグニフィカ・ヒューマニタス』の強力な呼びかけに戻ります。「現代の『建設現場』で自らの手を汚すことを恐れないようにしましょう。」この春ブーイングを起こした学生たちは、政策立案者たちが認めるのに何年もかかったということをすでに知っている。それは建設現場が壁で囲まれているということだ。決定は内部で行われます。自由な人々はまだそれらを保持することができますが、それはすでに決定されたことが告げられるまで静かに待つことを拒否する場合に限ります。
