人為的エラーがどのようにして大規模な言語モデルに対する武器となったのか

最近、友人がコーヒーを飲みながら、受けた落胆的なフィードバックについて私に話してくれました。 「彼らはそれが良いと言ってくれました」と彼女は言いました、「しかし、それはAIによって書かれたように読めました。」彼女に会ったとき、何が起こったのかすぐに理解しました。彼女の信頼性が疑問視されたのは、彼女の仕事が悪かったからではなく、あまりにも素晴らしく、あまりにも明確で、あまりにも雄弁で、あまりにも洗練されていたためでした。

人工知能ツールの急速な加速により、優れた文章についての私たちの考え方が変わりつつあります。デジタル時代では、顔のない大きな言語モデルではなく、実際の人間が言葉の背後にいるということを伝えることがますます重要になっています。これを行うための逆説的な方法の 1 つは、驚くべきことに、文章の質を損なうことです。

アラン・チューリングも 1950 年代にそのような提案をしています。より説得力のある人間らしく見せるために、意図的なタイプミスをいくつか散りばめるというものです。もちろん皮肉なことに、チューリングはこのアドバイスを機械に適用しました。

私の友人の経験は孤立したものではありません。優れた文章は、かつてはスキルの証でしたが、ますます多くの読者、査読者、採用担当者にとって、道徳的疑惑の源となっています。私たちがかつて知性と努力を示すために使用していたスキル、つまり明快さ、正確さ、よくまとまった文章は、その意味を失い始めています。

問題は、AI によって作成されたコンテンツを簡単に識別できないことにあり、誤検知 (つまり、誰かが AI ツールを使用していると誤って非難すること) が深刻な懸念事項になっています。研究によると、人間も人工知能も、人間が作成した文章と機械が作成した文章を確実に区別できないことがわかっています。人間が作成した文章と AI が混在すると、パフォーマンスはさらに悪化します。その結果、AIの検出に盗作検出ツールを使用していた多くの大学が、その信頼性への懸念から使用を中止した。

この不確実性の状況の中で、一部の作家は、依然として自分たちに得られる唯一の信号、それが適切に名付けられたヒューマンエラーであることに気づきました。繰り返される単語、小さな文法上の間違い、少しぎこちないフレーズ – これらは不注意の兆候としてではなく、実際の人間の手の証拠として機能し始めました。不具合が確認されました。

エラーは、大学への出願、就職への出願、専門的な通信など、競争の激しい状況においてすでに戦略的に導入されています。採用担当者は、まさに関心のある人が書いたことを示すために、カバーレターに意図的なタイプミスを 1 つ残すよう候補者にアドバイスし始めました。

もちろん、これらはすべて不安定であり、エラー信号の通貨は時間を借用したものです。不完全性が真正性の認識可能な兆候になると、すぐに模倣可能になります。ユーザーはAIシステムに対して、より粗く、洗練されておらず、より人間的なサウンドを求めるでしょう。システムは要件を満たし、間もなく、調整された無能力状態の実行に熟練するようになるでしょう。

信頼性の回復に向けて進むべき道は明らかではありません。おそらく状況によっては、AI の支援なしで、より直接的な著者証明が必要となるでしょう。たとえば、対面での評価、仲介なしの評価、手書きの提出、リアルタイムの説明などです。あるいは、AI ツールがますます飽和する世界では、おそらく重要なスキルは単にそれらを上手に使用する方法を知ることになるでしょう。一部の大学では、評価の一環として指示を提出する限り、学生が試験で AI を使用することを許可しています。

しかし、確実に思えるのは、信頼性と作者の古い痕跡を定義したり見つけたりすることがますます難しくなっているということです。そして、それらが存在する場合、それらは疑惑とともに影に隠れています。