深宇宙で輝く地球と、月のクレーター状の地平線が正面に広がる写真が、2026 年 4 月に人々の目に留まりました。宇宙飛行士が NASA のアルテミス II ミッションに搭乗中にこの画像を撮影したもので、有名なアポロ 8 号の「地球の日の出」画像と同様に、その画像は即座に現実のものと感じられ、多くの人にインスピレーションを与えました。
しかし、人工知能を使用してテキストを促してから数秒以内に、ほとんどの人が視覚的に似た画像を思いつくことができるとき、人はどの画像が本物であるかをどのように判断するのでしょうか?
AI によって生成された科学画像が公共の場で蔓延しているのは、単なる誤った情報の問題ではありません。視覚科学のコミュニケーションと社会の信頼を研究している研究者として、私はこれが人工知能の時代における科学への信頼の危機の一因にもなっていると信じています。また、視覚的信頼性を確立するために科学者が長い間依存してきたツールがその効力を失いつつあります。
AI によって生成された画像は科学に浸透しています
AI ツールは、科学的なビジュアライゼーションの作成、共有、公開の方法をすでに変えています。
研究者はこれらを使用して、イラストの作成、合成データの生成、実験室画像の編集、教育や一般向けの資料の作成を行います。
AI は科学者が複雑なアイデアをより創造的かつ効率的に伝達するのに役立ちますが、それらのツールはイラストレーション、改善、生産の間の境界線を曖昧にします。
2024年、AIが生成した生物学的に不可能な構造を示す図を発表した後、2本の論文が撤回された。 2026年4月、ニューイングランド・ジャーナル・オブ・メディシンは、臨床画像がAIを使用して操作されていたことを発見し、論文を撤回した。これらは世間の注目を集めた事件のみであり、おそらく氷山の一角にすぎません。研究者らは、AIが生成する視覚的物質は、材料科学などの視覚的証拠に大きく依存する分野にとってますます脅威となると警告している。
学術出版社は AI 検出ツールを導入し始めています。ただし、偽の画像を検出するように設計されたシステムは、ほとんどの場合、偽の画像を作成するように設計されたシステムより遅れます。多くの検出器は、検出するようにトレーニングされた画像パターンのみを検出できます。新しい AI モデルが出現すると、開発者は常に新しいデータを取得し、それに追いつくために検出器を再トレーニングする必要があります。
最大の懸念は、最初の審査に合格するのに十分な信憑性を保ちながら、科学的な詳細を微妙に歪めている現実的なビジュアルです。
科学的な画像を信頼する
何十年もの間、科学的画像は制作が困難だったこともあり、権威を持っていました。顕微鏡画像、気候グラフ、宇宙写真の作成には、高価な機器、機関のリソース、専門知識が必要でした。ほとんどの人は、このような画像を作成できる人がほとんどいなかったため、そのような画像が実際の観察を表していると考えていました。
私自身の研究も含め、科学コミュニケーションに関する研究によると、人々は何らかの精神的近道を使って科学的なビジュアルを判断していることが示唆されています。画像は技術的に洗練されているように見えますか?それは信頼できる機関からのものですか?それは私がすでに信じていることと一致しますか？汎用 AI は、これら 3 つのヒューリスティック、つまり精神的な近道を弱体化させます。
現在では、誰でもテキスト プロンプトから洗練された科学的な外観の画像を作成できます。画像は、インターネット上で配布される際にも、元のソースから切り離されます。視覚的な品質や制度上の帰属が科学的画像の信頼性を判断するための信頼性の低い手がかりになると、人々は何か別のもの、つまり以前の信念に頼る傾向があります。
その結果、誰かの既存の信念に異議を唱える本物の科学画像は人工知能の創作として却下される可能性がある一方、それを裏付ける捏造画像は証拠として容易に受け入れられるようになりました。このように、人工知能は先制的思考、つまり、すでに同意していることは受け入れ、同意しないことには疑問を抱くという人々の傾向を高める可能性があります。
ビジュアルは科学的主張の証拠として長い間使用されてきたため、この変更は重要です。専門家以外の視聴者は、科学者が発見したものを見るためだけでなく、感情的なつながりを築き、提示された科学の信頼性を認識するために画像に依存します。
国民が視覚的な証拠を完全に信頼しなくなってしまえば、科学は公衆とのコミュニケーションのための最も強力なツールの 1 つを失うことになります。
制限ではなく透明性
AI ツールは、研究者が自分の研究をさまざまな聴衆に伝えるのに大きな利点をもたらします。課題は、画像が伝えようとしている科学に対する AI の信頼性の無さを黙って伝えることなく、これらのツールを使用することです。
今後の現実的な方法の 1 つは、研究者が画像の出所 (画像がどこから来たのか、どのように作成されたのか) を、データの出所をすでに扱っているのと同じくらい真剣に扱うことです。
科学者は資金源、研究方法、利益相反を定期的に開示しています。同様の基準が科学画像にも必要になる可能性があります。この画像の作成または変更には人工知能が使用されましたか?それは直接観察ですか、シミュレーションですか、それともイラストですか?画像は正確に何を表していますか?またそれはどのように検証されましたか?他の研究者がそれを再現できるでしょうか?
私と同僚は、人々が AI に精通しているかどうかが、AI が生成したビジュアルの信頼性をどのように判断するかを大きく左右することを発見しました。 AI ツールに精通している人は、AI の開示を透明性の表れと考える傾向が高く、AI によって生成されたコンテンツはラベルのないコンテンツよりも信頼できると評価する人もいます。
透明性は、視聴者に、見ているものを理解するために必要なコンテキストを提供しますが、画像がどのように作成されたかに関するすべての論争を解決できるわけではありません。 AI によって生成された科学画像を責任を持って使用するには、誠実さ、専門的規範の遵守、さまざまな分野での証拠に基づく標準の共同開発が必要です。
本物のイメージが強く残る理由
1968 年に撮影されたアポロ 8 号のオリジナルの「アースライズ」写真は、大きな感情的影響を与えました。 2026 年のアルテミス II の画像も同様です。
それらを重要なものにするのは、その美しさだけではありません。これは、科学的現実との追跡可能な関係です。人々がこれらの惑星の写真を見ると、その画像の背後に宇宙飛行士、物理的なカメラ、文書化されたミッション、検証可能な観察があることもわかります。この意味で、真正性とは、画像と世界の間の文書化された関係です。
生成型人工知能の時代において、科学機関はもはや視聴者がそのビジュアルを自動的に信頼すると想定することはできません。現在、信頼は透明性、文書化、視覚的証拠がどのように作成されるかについての明確なコミュニケーションに依存しています。
ガイドラインと基準がなければ、科学はあらゆる画像に疑問を投げかけられ、いかなる画像も本質的な信頼性を持たない世界に陥る危険性があります。
この記事は、複雑な世界を理解するのに役立つ信頼できる事実と分析を提供する独立した非営利報道機関である The Conversation から再公開されたものです。これを書いたのは: Nan Li、 ウィスコンシン大学マディソン校
続きを読む：
Nan Lee は、この記事から利益を得るであろういかなる会社や組織にも勤務したり、相談したり、株を所有したり、資金を受け取ったりすることはなく、学術上の任命以外の関連する所属も明らかにしていません。
