- 45 の引用のうち、実際の情報源を正確に反映しているのは 5 つだけです
- 完全な偽物もあれば、帰属やタイトルが「文字化け」されているものもあった。
- GPTZero は、Avirah の引用には影響があると主張しており、報告は世界中に出回っている
GPTZeroの研究者らは、主要な政府報告書、学術論文、その他の研究が人工知能の妄想にどのように感染しているかを明らかにしており、同社はその傾向を調査する第2次報告書を作成している。
最近の恥ずかしい事件では、アクティブ AI に関する KPMG の報告書が、実際には AI によって生成されたエラー、誤った引用、誤解を招くケーススタディに満ちていることが判明しました。
研究チームは「報告書にある45件の引用のうち、実際の情報源を正確に指摘しているのは5件だけだ」と述べ、他の多くは完全に虚偽であるか大幅に歪曲されていると付け加えた。
AIの妄想が詰まったAIレポート
GPTZero は、誤った引用を指すために「雰囲気引用」という用語を使用しました。この場合、生成 AI がもっともらしく見える誤った引用を作成するように見えました。このレポートには、帰属の誤りやタイトルの言い換えなど、本物の参照の奇妙な組み合わせも含まれていました。
「人は一貫したタイトルの言葉遣い、主題と著者の取り違え、複数の構成員にまたがる情報の繰り返しなどはしないだろう」と彼らは付け加えた。
研究者らはバイブの引用について賛否両論を主張しているが、最終的にはそれは依然として幻覚とみなされるべきであり、「バイブには結果がある」と結論づけている。
この場合、彼らは、KPMGが非常に大きな影響力を持っているため、その調査結果がニュースレポート、ブログ投稿、その他の会話を通じて世界中で引用される可能性が高く、潜在的な誤った情報の拡散を促進していると主張しています。彼らはまた、この報告書が LLM に引用され、情報がさらに拡散することを懸念しています。
これは、米国再生可能化に関する米国大統領委員会（MAHA）による調査にも「歪曲または捏造された」脚注が含まれていたことを明らかにした2025年の同様の報告書に続くものである。
「GPTZeroは、研究者、学者、コンサルタント、学生、そしてたまたまインターネットで情報を探している人にとって、空中引用は明らかに危険であると主張している」と同社は結論づけている。
Google ニュースで TechRadar をフォローしてください そして お気に入りのソースとして追加してください 専門ニュース、レビュー、意見をフィードで入手するため。
