人工知能の最先端にいる企業は、速度を緩める準備ができているはずだと、その中でも最も早い企業の 1 社は述べています。
Claude チャットボットの開発者である Anthropic は、AI システムはいわゆる再帰的自己改善の瀬戸際にある可能性がある、つまり人間の入力をほとんど必要とせずに独自の後継機を設計して構築できる段階にあるのではないかと主張しています。同社は、これにより人間がテクノロジーの制御を失うリスクが高まる可能性があると述べた。
「私たちは、世界にとってそれが良いことだと信じています。 オプション 社会構造と調整研究が技術の進歩に追いつくことができるようにするために、AIの開発を遅らせたり、一時的に停止したりする必要がある」とアンスロピック氏は、「AIが自らを構築するとき」と題した6月4日のブログ投稿で述べた。
科学ジャーナリズムの支援に対して
この記事を気に入っていただけましたら、受賞歴のあるジャーナリズムをサポートすることをご検討ください。 サブスクリプション。サブスクリプションを購入すると、今日の世界を形作る発見やアイデアに影響を与えるストーリーの未来を確保することができます。
この提案は、人工知能のガバナンスにおける困難な問題を浮き彫りにしています。景気が減速すれば、複数の国の競合する企業や政府が、それらを拘束する条約がなければ同じ規制を同時に受け入れる必要があり、競争は激化するばかりだ。このため、この警告は技術的に重要であると同時に、政治的にも困難を伴うものとなっている。アンスロピック社は、依然としてリーダーであり続けるレースにブレーキをかけるよう求めている。
テクノロジーの進化のスピードは社会に「多大な影響」を与える可能性があるとブログ投稿では述べた。同社はその行動が危険信号であると指摘した。 Anthropic 社は、クラウドが自社のシステムにマージするコードの 80% 以上を作成していると述べ、これは同社が 2025 年初めに Cloud Code をリリースする前の 1 桁台前半から増加しています。また、Anthropic 社のエンジニアは、数年前に比べて四半期ごとに約 8 倍のコードを出荷していると付け加えました。同社は、人工知能構築の各段階で人間の役割はますます小さくなっていると主張した。同社は「われわれはまだそこまで到達しておらず、再帰的な自己改善は避けられないわけではない」と述べた。 「しかし、ほとんどの機関の準備が整っているよりも早く実現する可能性があります。」
Anthropic は、人工知能の開発を遅らせたり一時停止したりして、企業が追いつくことを可能にするために、「グローバル調整メカニズム」と呼ばれるものを浮上させました。
エントロピーでは詳細が不足していました。同氏は、緩やかなモデルとして中距離核ミサイルに関する軍備管理協定を指摘した。このような一時停止を継続するには、業界トップの研究機関が参加する必要があり、実際に速度を落としたことを示す信頼できる方法が必要になる、と同紙は述べた。
「速度を緩めるべきだとは思いません」とベントレー大学の数学准教授であり、アルゴリズムと社会に関する2冊の本の著者であるノア・ジャンシルコサ氏は言う。 「私たちは読んだ [Anthropic CEO] Dario Amudi のブログ投稿。彼は全速力で前進したいと思っていると思う。」
エントロピーが応答しませんでした サイエンティフィック・アメリカンの そのようなブレーキがどのように機能するのか、あるいは同社のシステムができることを誇張しているという批判を同社がどのように見ているかについての質問。
ジャンシラコーサ氏も、この中断は強制力のないものだと考えている。 「それは本当に不可能です」と彼は言います。 「減速の可能性はゼロだ。私は中国のことを話しているわけでもない。イーロン・マスク氏は決して減速しないだろう。」
この提案は、一部の研究者が警戒しているパターンに当てはまります。 2か月前、AnthropicはMythosと呼ばれるモデルを発表したが、このモデルはソフトウェアの脆弱性を検出する能力が高すぎるとして公開を拒否した。休止を求める声は、アンスロピックが秘密裏に新規株式公開を申請した数日後、そして同社の評価額が1兆ドルに達した資金調達ラウンドから間もなくして出されたものだ。
懐疑的な人にとって、このような驚くべき声明はビジネス戦略、つまりアンスロピックが規制に向けて競争を続ける一方で規制の監視を抑制する方法であると解釈される可能性があります。ジョージア工科大学インタラクティブコンピューティング学部のマーク・リドル教授はブルースカイに「大手AI企業は一斉に『再帰的自己改善』という誇大広告に乗っている」と投稿した。
アンスロピックは、今後数カ月かけて政府、研究者、競合するAI企業を招集し、協調的な減速が実際に機能するかどうかをテストすると述べた。
「特に心配するようなことはありません」とジャンシラクーサ氏は言う。 「彼らは独自性という概念をもてはやしています。それがゲームチェンジャーであるということですが、私にはそれが見えません。私にはそれが前進し続けているように見えます。物事が加速するかもしれませんが、そうでないかもしれません。」 AIによって書かれた別のコードであるAnthropicによって引用された証拠は、このテクノロジーが「大きな飛躍」ではなく有益であることを示唆している、と彼は言う。
科学のために立ち上がる時が来た
この記事が気に入っていただけましたら、サポートをお願いいたします。 サイエンティフィック・アメリカン 180 年にわたって科学と産業の擁護者としての役割を果たしてきましたが、今はその 2 世紀の歴史の中で最も重大な瞬間かもしれません。
私は サイエンティフィック・アメリカン 私は 12 歳から定期購読者であり、それが私の世界の見方を形作るのに役立っています。 サイアム いつも私を教育し、楽しませてくれて、私たちの広大で美しい宇宙に対する畏敬の念を抱かせてくれます。あなたにもそれが役立つことを願っています。
もしあなたが に登録する サイエンティフィック・アメリカンあなたは、私たちの報道が有意義な研究と発見に焦点を当てていることを保証するために協力してください。米国中の研究所を脅かす決定について報告するリソースがあること。そして、科学そのものの価値があまりにも認識されていない現在、私たちは駆け出しの科学者と現役の科学者の両方をサポートします。
その代わりに重要なニュースを受け取ります。 魅力的なポッドキャスト、素晴らしいインフォグラフィック、 ニュースレターや必須のビデオをお見逃しなく 挑戦的なゲーム、そして科学の世界で最高の執筆とレポート。あなたもできます 誰かに定期購入を勧める
私たちが立ち上がり、なぜ科学が重要なのかを示すことがこれほど重要な時期はありません。このミッションで私たちをサポートしていただければ幸いです。
