【衝撃】科学誌がAI生成の「巨大すぎる生殖器を持つネズミ」画像を掲載!? 〜AIを見抜く目、持っていますか?〜
みなさん、こんにちは!三森一輝です!
今日は、ちょっと笑えるようで、実は笑えない…そんなAIにまつわる衝撃ニュースをお届けします!
■ 科学誌にとんでもない画像が載ってしまった!
2024年2月、査読付きの科学誌「Frontiers in Cell and Developmental Biology」が、とんでもないミスをしてしまいました。
精子幹細胞に関する研究論文に添付された図なのですが、なんと…
「4つの睾丸と、不釣り合いなほど巨大なペニスを持つネズミ」
の画像が掲載されてしまったんです!!
しかも、その画像には「dissilced」「testtomcels」といった、実在しない謎の単語まで含まれていました。
これ、どう見ても「AI生成画像」なんですよね。
Midjourney(AIの画像生成ツール)で作られた画像だと言われています。
■ 査読を通過してしまった衝撃
「いやいや、科学誌でしょ?チェックしなかったの?」
そう思いますよね。私も思いました。
でも、この論文は「査読(ピアレビュー)」という、専門家による審査プロセスを通過して掲載されているんです。
つまり、複数の専門家の目を通ったはずなのに、誰も気づかなかった…
これ、めちゃくちゃ怖くないですか?
■ 48時間で撤回!でも問題は残った
この論文は、SNSで拡散されて大炎上した結果、わずか48時間で撤回されました。Frontiers側も公式声明を出して、「科学的記録の完全性を守るため」に撤回・削除したと発表しています。
(出典:Frontiers公式声明、Science Integrity Digest、VICE、Gizmodo、The Guardian)
でもね、問題はここで終わりじゃないんです。
「なぜこれが査読を通ってしまったのか?」
「AI生成コンテンツを見抜けない現状」
「他にも同様の論文があるのでは?」
こういった疑問が、世界中の学術界で議論されるようになりました。
■ 日本語でも「意味不明な文字」に要注意!
このケースでは英語の論文でしたが、日本語のコンテンツでも同じことが起きています。
AI生成画像の中に書かれた文字、よく見ると「なんか変」じゃありませんか?
例えば:
・漢字っぽいけど存在しない文字
・ひらがな・カタカナが微妙に崩れている
・文字の一部が欠けている、余分な線がある
こういった「違和感」に気づけるかどうかが、AI生成コンテンツを見抜くポイントになります。
■ 私たちができること
AIの進化は止まりません。そして、AIが生成するコンテンツはどんどん精巧になっています。
だからこそ、私たちには「AIを見抜く目」が必要です。
具体的には:
1.違和感センサーを働かせる
「なんか変だな」という直感を大事にしましょう。手の指の数、文字の形、背景の歪み…ちょっとした「おかしさ」に気づく感覚を磨くことが大切です。
2.出典・ソースを確認する習慣
情報やコンテンツを見たら、「これ、どこから来たの?」と確認する習慣をつけましょう。
3.「便利だから」で思考停止しない
AIは確かに便利です。でも、その出力結果を無条件に信じるのは危険。人間による最終チェックは絶対に必要です。
■ まとめ
今回の「巨大生殖器ネズミ」事件は、笑い話として消費されがちですが、実は非常に深刻な問題を浮き彫りにしています。
AI技術が進歩すればするほど、私たちには「AIを使いこなす能力」だけでなく、「AIの出力を見抜く能力」「AIに対する適度な警戒心」が求められます。
AIは道具です。便利な道具ですが、使う側の人間がしっかり目を光らせていないと、とんでもないことになる。
そんな教訓を、この「ネズミ」は教えてくれているのかもしれませんね。
最後まで読んでいただき、ありがとうございます!これからもAIにまつわる面白い(そしてちょっと怖い)話をお届けしていきます!
AIについてもっと知りたい方は私が運営しているAI駆動研究所で、最新の情報が載っているので年末の暇な時間でのぞいてみてください!
ーーーーー
【主な出典】
・Frontiers - Frontiers statement concerning the article "Cellular functions of spermatogonial stem cells…"(2024年2月)
・Science Integrity Digest - The rat with the big balls and the enormous penis(2024年2月)
・VICE - Scientific Journal Publishes AI-Generated Rat with Gigantic…(2024年2月)
・Gizmodo - Science Journal That Published 'Rat' AI Gibberish…(2024年2月)
・The Guardian - Quality of scientific papers questioned(2025年7月)


コメント