あるチャットボットと別のチャットボットが大惨事を引き起こす可能性があります
写真/ゲッティイメージズ
高品質の会話やテストを提供して新しい AI モデルをトレーニングすることで報酬を得ている人々は不正行為を行っており、代わりに ChatGPT のようなチャットボットを使用してその仕事を行っていると複数の内部告発者が述べた。 新しい科学者。一見広く普及しているように見えるこの慣行は、より高度なモデルの「崩壊」につながる可能性があるため、人工知能の将来を損なう可能性があります。
現在機能している人工知能モデルのほとんどは、インターネットから収集したテキストとデータに基づいてトレーニングされました。しかし、モデルが拡大し、さらに多くのトレーニング データが必要になるにつれ、AI 企業は、結果として得られる定性データによって将来の大規模言語モデル (LLM) の能力と有用性が向上することを期待して、AI との会話やテストを行う従業員を雇用し始めています。
これらの労働者は通常、AI 企業に直接雇用されるのではなく、第三者によって雇用され、フルタイムの低賃金契約なしで働くことがよくあります。アリス * という名の従業員によると、たとえ会社のポリシーに反しているとしても、チャットボットを使用してタスクをより速く完了するなどの近道を選択する動機になる可能性があります。
「これは非常に一般的なことです。私が働いたことのあるすべての会社には、それに関する明確なガイドラインがあり、明らかに人々を捕まえようとしているので、彼らは気にしていると思います。しかし、彼らがそれを止めることはできないと思います」とエリスは言います。
アリスは自分はそうだと言う ChatGPT を使用してトレーニング タスクを完了することに「まったく」罪悪感を感じておらず、AI 出力の通常の兆候 (ほとんどの em-em ダッシュなど) を回避するようにチャットボットに指示している限り、罪悪感を回避するのは簡単だと述べています。 「最もずさんなユーザーだけが捕まるのです」と彼女は言う。 「AI の兆候を少しでも認識している人なら、自分の出力に AI を使用しないように指示できます。そのとき、あなたはどうしますか?」
「これらの企業が質の高いデータを望むのであれば、質の高い契約を提供する必要がある」とエリス氏は言う。 「むしろ、彼らは短期間で雇用され、何の前触れもなくプロジェクトが終了すると放り出される、球技の人間なのです。」
別の従業員である Bob* は、Outlier と呼ばれるトレーニング プラットフォームで働いていました。当初、彼は AI のトレーニングを任されており、そのために AI を使用していたと彼は言いましたが、その後、リーダーの地位に昇進し、他の人が同じことをしているのを見つけることが仕事の一部でした。
「経営陣は穏やかな寛容と完全な禁止の間で揺れ動いていた」とボブは言う。 Outlier の従業員は、Hubstaff と呼ばれるツールを使用して追跡され、ランダムな間隔でデスクトップのスクリーンショットを撮り、実際に注文どおりのタスクを実行しているかどうかを確認します。ボブはこれらのスクリーンショットから AI モデルの証拠を探します。
「人々はそれを好むでしょう [AI models like ChatGPT] 他のタブで開かれているか、最小化されているので、明らかにタスクバーに表示されます」とボブ氏は言います。「デスクトップ上のフォルダーなどにも名前が付けられています」 [AI use] 遠い。”
スケールAIを所有するアウトライアーはコメント要請に応じなかった。 Scale AIはウェブサイトで、MetaやCiscoのような巨大テクノロジー企業のために仕事をすると主張しているが、どちらも回答していない 新しい科学者彼の返答の要求。ボブ氏は、個人的にグーグルのプロジェクトに取り組んできたと述べたが、グーグルもコメント要請に応じなかった。
複数のプラットフォームで働いてきた別の従業員、キャロル* さんは、彼女の AI の使用は、長いタスクのガイドラインに矛盾するものがないか自分の仕事をチェックすることから始まったと語ります。違反があれば、プロジェクトからの拒否と利益の損失を意味する可能性があるためです。
「収入源がないのではないかと心配していましたが、その後は LLM を通じてすべてを管理するのが楽になりました」とキャロルは言います。 「私が現在行っているプロジェクトの多くは、シナリオの作成です。そのため、シナリオの作成に 1 つの LLM を使用し、シナリオに接続するファイルの作成に別の LLM を使用します。罪悪感はありますが、前述したように、最初は間違いを犯していないことを確認することの方が重要でした。」
「本当に成功できるか心配です [AI] 悪い。自分自身を訓練するためにモデルを使用することは価値の一部を奪うと思いました」とキャロルは言います。
英国バーミンガム大学のマーク・リー氏は、AIが生成したコンテンツで再帰的にトレーニングされた場合、AIモデルが「クラッシュ」することが研究で判明したと述べている。これが発生すると、モデルの機能が大幅に低下し、役に立たなくなります。このプロセスは、AI 共食いまたは AI ハイブリッド化として知られることもあります。
「これは最悪のシナリオのようなものです。そしておそらく現実世界で起こることではありません」とリー氏は言う。 「人間はまだ何人かいます。そして、人間のデータが 10% 程度あれば、それが減り、モデルの崩壊が防止されます。」
しかし、リー氏は、こうした従業員が行っている不正行為には結果が伴わないわけではなく、業績に悪影響を与えるだろうと述べている。 「壊滅的な事態になる代わりに、AI が人間のようなタスクを実行するのがそれほど得意ではないことがわかります。モデルが期待できるほど優れていないと思うので、それは問題です。」
※個人情報保護のため名前は変えてあります
主題:
