ChatGPTの助言で命の危機に、米男性がOpenAIを提訴

　フロリダ州の男性がOpenAIと最高経営責任者（CEO）のSam Altman氏を提訴した。同社のチャットボット「ChatGPT」が健康状態について誤った「危険な」助言を提供し、命に関わる事態になったと主張している。

※クリックすると拡大画像が見られます

　訴状によると、55歳の牧師であるScott Winters氏は体調に異常を感じた際、頻繁にChatGPTに医療上の助言を求めていた。ChatGPTは最終的にWinters氏を自律神経失調症と診断し、「身体を回復させるための具体的な指示を含む、個別の回復計画を作成した」という。

　Winters氏は2025年7月13日、「両肺に複数の血栓ができたことによる大規模な肺塞栓症」を発症し、「死の淵に追いやられた」。その後に医師が出した所見は、ChatGPTが行ったとされる診断と矛盾していた。

　訴状によると、ある所見には「彼に（インターネットで自己診断したような）自律神経失調症があるとは思えない」と記されていた。

　原告は訴状で、ChatGPTが医療上の助言を提供することで本来の範囲を超えたと主張している。ChatGPTはWinters氏に対して「危機の際の保護機能を強化し、医療従事者へ相談するよう促す」べきところ、実際には助けを求めるのを思いとどまらせ、「資格のない診断と個別の治療計画」を提示し、それが「人生を一変させる医療上の緊急事態」につながったという。

　OpenAIの広報担当者であるDrew Pusateri氏は米CNETへのコメントの中で、「ChatGPTは医師ではなく、決して医療や診断、治療の代わりに使われるべきではない。チャットボットを人々の医療判断や結果のすべての原因として扱うことは、はるかに大きな課題を単純化しすぎており、人々が健康に向き合う過程で役立つであろう強力な新しいツールへのアクセスを妨げるおそれがある」と述べた。

　訴状によると、ChatGPTは少なくとも1度、「根本的な原因を特定し適切な治療を受けるために、医療提供者に相談することが重要だ」とする免責文を示していた。しかし、その後は免責文なしに医療上の助言を始めたという。

　訴状では「Scott（Winters氏）とこのツールのやりとりが長くなるほど、同ツールのメッセージに含まれる免責文は少なくなっていった」としている。Winters氏は、これらの主張に基づき金銭的損害賠償を求めている。

　Winters氏が使っていたのは、ChatGPTの旧モデルである「GPT-4o」だ。OpenAIは同モデルをリリースした後、ChatGPTが過度に同調的で、害を及ぼす可能性があるとの懸念から、このモデルを一度撤回している。同じモデルは、ChatGPTと頻繁に会話していた娘を自殺で亡くしたカナダ人女性が起こした別の訴訟でも挙げられている。この訴訟は現在も係争中だ。

AIと健康上の助言

　科学誌Nature Medicineに掲載された最近の研究では、人々が診断を目的にAIチャットボットとやりとりする場合、AIは半分以上で診断を誤ることが分かった。大規模言語モデルが医学知識のベンチマークにおいて、米国医師国家試験の合格水準に匹敵する点数を取れるにもかかわらずだ。

　同研究は誤診断について、ユーザーが症状に関する十分な情報を提供していないことが一因になっている可能性があると指摘している。

　OpenAIが1月に公表した調査結果によると、米国成人の5人に3人が、過去3カ月間に健康関連の情報を得るためにAIツールを使ったことがあると回答している。