ロイター通信が最初に報じたように、Anthropicは、アリババとそのQwen AIラボに関連するグループが、クラウドに多くの質問をするだけでクラウドから能力を引き出す大規模なキャンペーンを行っていると非難した。。 AI開発者は、アリババが約2万5000の不正アカウントを利用して2880万以上のインタラクションを生み出し、クラウドに関する詳細な機密情報を収集したと主張する書簡を米国議員に送った。
アリババはこの申し立てに対して公的に反応しておらず、アンスロピック社の主張に対する独立した確認も行われていないが、そのレベル自体が非常に大きな影響を及ぼしている。膨大な量のアカウントとインタラクションは目を引くものですが、さらに興味深いのは、AI モデルの秘密が漏洩する可能性のある脆弱性がどのように明らかにされるかということです。
AI 開発者は現在、敵がモデル蒸留として知られる手法を通じて、基礎となるコードやトレーニング データを見ずにこれらのモデルから学習できるのではないかと懸念しているかもしれません。基本的に、AI モデルは、膨大な数の適切な質問をされた場合、自分自身に関する不明瞭な事実を無意識のうちに共有します。たとえて言えば、本に関するテストを想像してください。ただし、本を読む代わりに、著者にその人生、考え方、本を書いた経験、その他数十万の質問について 100 万の質問をします。おそらく、表紙を破ることなく、彼らが書いたすべてを知ることができる可能性がかなり高いでしょう。
AIに話しかけるだけでコピーできますか?
モデルの改良は、AI 企業がモデルのバリエーション、特に小型で高速なオプションを構築するために使用する一般的な手法です。しかし、競合他社が自社のモデルを使用して競合他社を出し抜くことを許容する企業はありません。しかし、それがエントロピーの主張です。偽のアカウントは、クロードに対し、高度なソフトウェア エンジニアリングと彼の危険な思考の性質に関連する、複雑かつ非常に詳細な質問を数多くしたとされています。アンスロピック氏は、回答によってモデルがどのように機能するかを明らかにし、アリババ独自の競合する AI システムの開発を加速させたと主張した。
謎は明らかです。大規模な言語モデルは、質問に答えるように設計されています。それぞれの答えは、モデルがどのように動作するかについてユーザーに何かを教えてくれます。自分自身に関する情報を提供せずに、AI モデルや人間と対話することはできません。通常、それは問題ではありませんが、Entropy が主張する規模では、会話がリバース エンジニアリングされます。
Anthropic がモデル蒸留が禁止されていると主張するのはこれが初めてではありません。 Anthropicは今年初め、DeepSeek、Moonshot AI、MiniMaxに対して同様の訴訟を起こした。また、OpenAI を含む他の企業も、自社もこの技術の被害者であると懸念を表明しています。
自社の AI モデルをトレーニングするために、独自の資料を含む公的に入手可能な情報の膨大なコレクションを使用していた企業が、それらのモデルがどのように貴重な知的財産であるかを議論しているという明らかな皮肉を無視することはできません。
人工知能の軍拡競争
人工知能開発者は、ライバルと競争するにはモデルの動作が重要であると考えています。別の企業が十分に慎重に設計された質問をすることでこの動作の多くを再現できれば、フロントエンド モデルのトレーニングに何十億ドルも費やすことが無駄に思えてきます。
Anthropy は、モデル蒸留によって、自社の長年の作業を実質的に無償で別の企業に移転できると主張しています。アントロピック氏は議員に対し、できるだけ早く行動を起こし、この問題と闘うよう求めた。主要なモデルが簡単に模倣されてしまったら、イノベーションを起こす動機はあまりなくなり、AI の競争はコピーを勝ち取ることだけになってしまいます。また、既存の AI モデルの機能に匹敵する新しい AI モデルが長年にわたる独自の研究から出現するか、単に既存のオプションをコピーするだけであるため、最適なモデルを選択するのは困難です。
Anthropic が最終的にその主張を証明できるかどうかにかかわらず、次の AI の戦いは最も賢いモデルを構築することではないかもしれないことがわかりました。それは、他の人があなたのモデルに話しかけるのを阻止し、それがどのように機能するかを一度に 1 つずつ学習することかもしれません。
Google ニュースで TechRadar をフォローしてください そして お気に入りのソースとして追加してください 専門ニュース、レビュー、意見をフィードで入手するため。

あらゆる予算に最適なビジネス ノートパソコン