トロント大学の研究者らは、人工知能を利用して、世界中のコンピューターのあらゆる既知の欠陥を標的にし、インターネット上に騒乱を急速に広めることができる危険なコンピューター「ワーム」を作成する方法を発見したと発表した。
コンピューター科学者らは火曜日の夜に発表された論文の中で、このプログラムは構築可能であり、作成したプロトタイプは人間の介入なしにテストネットワーク全体に拡散できると述べた。
研究者らはテスト ネットワークを公共のインターネットから隔離したままにしました。また、ハッカーが攻撃の設計図として紙を使用できないように、ワームの構築方法を説明した論文の一部の詳細も編集しました。
しかし、彼らの研究は、人工知能が防御が困難なコンピューターハッキングの新時代をもたらしているのではないかという懸念を引き起こす可能性がある。また、AI の進歩が、ほんの数年前には想像しにくかったようなリスクをコンピューター ネットワークに生み出しているという証拠が増えています。
人工知能企業アンスロピックは4月、同社の最新技術「クラウド・マイス（Cloud Myth）」は強力すぎるため、ハッカーがこれを利用してコンピュータ・ネットワークのセキュリティ・ホールをかつてないほど早く悪用できる可能性があると述べた。
Anthropic は、ハッカーが悪用する前にセキュリティの脆弱性を修正するためにシステムを使用できるように、重要なコンピュータ インフラストラクチャを維持する約 40 の組織にこのテクノロジーのリリースを制限しました。
1週間後、Anthropicの主なライバルであるOpenAIは、同様のテクノロジーのリリースを制限していると発表した。 OpenAI は、新しいシステムを数百の組織と共有し、その後数週間で展開を数千のパートナーに拡大しました。
(ニューヨーク・タイムズは、人工知能システムに関連するニュースコンテンツの著作権侵害を主張して、2023年にOpenAIとマイクロソフトを告訴した。両社はこれらの主張を否定した。)
トロント大学の論文は、AI の恐怖に新たな展開を加えています。このワームを動かしている AI テクノロジーは「オープンソース」または「オープン ウェイト」、つまりオンラインで自由に共有されているため、誰もその使用方法を制限できません。ことわざの魔神がボトルから出てきた。
「これを防ぐには、完全に安全なシステムが必要ですが、それが現時点では不可能であることはわかっています」と、プロトタイプの構築とテストを行ったチームを率いたトロント大学のコンピューター工学教授ニコラス・パペノット氏は語った。
研究室の Web サイトで論文を公開したパペノット博士とそのチームは、20 年前にハッカーがインターネット上に公開し始めたコンピューター ワームの本質的に AI を利用したバージョンの作成に成功しました。他の種類のコンピュータ ウイルスとは異なり、ワームは人間の手を借りずに、単独でマシンからマシンへと拡散します。
SQL Slammer、Conficker、Stuxnet などの名前を持つこれらの自己複製プログラムはそれぞれ、コンピューターの特定の脆弱性を悪用し、数百万台のマシンを乗っ取り、データを盗み、ファイルを削除し、一般に大混乱を引き起こしました。
10 年間にわたる攻撃の後、多くのコンピュータ ユーザーは、最も顕著な脆弱性に迅速にパッチを適用する方法を学びました。しかし、脅威が消えることはありませんでした。 2017 年には、別のワーム WannaCry が、世界中のマシンの別の重大な欠陥をターゲットにして、150 か国の 300,000 台以上のマシンに感染し、データを人質に取り、ビットコインでの身代金の支払いを要求しました。
トロントの研究者が作成したプロトタイプは、このタイプの自己複製ワームをさらに一歩進めたものです。遭遇した各マシンに新しい攻撃を適用することで、ネットワーク全体に急速に広がる可能性があります。 Papernot 博士が説明したように、このワームは新しい攻撃戦略に「反応」する可能性があります。
「これにより、マルウェアの拡散を阻止することが大幅に困難になる」と同氏は述べた。 「デバイスをワームから保護するためにデバイスに適用できるソフトウェア パッチはこれ以上ありません。」
このワームは、Windows または Linux オペレーティング システムを使用するコンピュータ上で実行できます。また、このワームはその複雑さにより、より強力なマシンを見つけなければ動作できませんが、ラップトップ、プリンタ、カメラなど、同じネットワーク上のそれほど強力ではないマシンを攻撃する可能性があります。
セキュリティ専門家は、AI が攻撃に適応できることに驚きません。過去 1 年間、米国、中国、および世界の他の地域の企業は、特にコンピューター コードの記述に優れた人工知能システムを構築してきました。 AI システムがコードを記述できれば、ソフトウェア アプリケーションの脆弱性を悪用できる可能性があります。
しかし、Anthropic や OpenAI などの企業が提供する主要なシステムは、オープンソースではなく、多くのコンピュータで実行するには大きすぎる可能性があるため、ワームにパッケージ化することはできません。多くの専門家は、オープンソースの AI テクノロジーは、自己複製するコンピューター ワームを駆動するほど強力ではないと考えています。
しかし、ここ数カ月間、中国の企業や政府研究所も、ますます強力なオープンソース システムをリリースしています。トロントの研究者らは、これらの機能を強化する方法でオープンソース システムを強化しました。
彼らは、どのようなオープンソース システムを使用したかを公表しませんでした。しかし、彼らのプロトタイプは、ハッカーが同様のワームを構築できることを示していると彼らは述べています（まだ構築していない場合）。
一部の外部専門家は、人工知能システムはエラーを起こしやすいため、脅威は限定的かもしれないと述べた。 AI脅威を専門とするセキュリティ会社イレギュラー社のダン・ラハブ最高経営責任者（CEO）は、「通常、実験室環境で作成できるものと、世界の環境で重大な損害を引き起こすことができるものとの間には、大きなギャップがある」と述べた。
「AI システムは予測不可能で不器用な傾向があります」と彼は付け加えた。 「彼らは奇妙なことをするので、それがセキュリティ保護を引き起こす可能性があります。」
しかしラハブ氏は、人工知能は今後も進歩すると警告した。つまり、企業はできるだけ多くのソフトウェアの脆弱性を修正する必要があり、人工知能を使用してそれを支援できるということです。
このため、Anthropic は Mythos をより幅広いグループと共有し、AI の脅威と戦うために使用できるようにする必要があると研究者らは述べています。アンスロピックは火曜日、さらに150の組織とテクノロジーを共有すると発表した。
「最終的には、人々がこの技術を利用して脆弱性にパッチを当てられるように、より広範囲に配布することが最善策だ」と、この論文を査読したがワーム作成チームの一員ではなかったトロント大学コンピュータサイエンス教授のデビッド・リー氏は語った。
トロント大学の研究者らが説明した方法は、脆弱性を見つけてパッチを適用するためにも使用できるとリー博士は述べた。他のサイバーセキュリティ技術と同様に、このワームは攻撃にも防御にも使用できます。
同氏は、「このワームは、見つかった脆弱性を修正するように修正できる」と述べた。 「テクノロジーの力は、それを使って何をするかによって決まります。」
