「AIが医師を名乗るのは違法」と開発企業を提訴　米ペンシルベニア州

　チャットボットは多くのことができるが、医学部を卒業することはできない。ペンシルベニア州のJosh Shapiro知事は米国時間5月5日、同州政府が「Character.AI」を運営するAI企業Character Technologiesを提訴したことを発表した。訴状によると、同社のチャットボットが有資格の医療従事者になりすまし、治療に関するアドバイスを提供したという。

提供：The Good Brigade/Getty Images
※クリックすると拡大画像が見られます

　インターネットで医療情報を検索すること自体は珍しくないが、今回の提訴により、AI時代の医療倫理が改めて注目を集めている。

　発表によれば、ペンシルベニア州政府の調査で、チャットボットのキャラクターが免許を持つ医療やメンタルヘルスの専門家を装っていたことが判明した。あるケースでは、チャットボットが患者の健康上の悩みについてやり取りする際、無効な免許番号を提示したという。ペンシルベニア州の医師法では、適切な免許を持たずに医療従事者を名乗ることは違法とされている。

　Character.AIの広報担当者は米CNETに対し、「係争中の訴訟についてはコメントしない」と述べた。

　同担当者は、「当社の最優先事項はユーザーの安全と幸福だ」とした上で、以下のように述べた。「当サイトのユーザーが作成したキャラクターはフィクションであり、娯楽やロールプレイを目的としている。当社はその点を明確にするため、強力な措置を講じてきた。例えば、すべてのチャットに目立つ免責事項を表示し、キャラクターは実在の人物ではなく、発言はすべてフィクションとして扱うべきであることをユーザーにリマインドしてきた。また、強力な免責事項も追加し、いかなる種類の専門的なアドバイスについても、キャラクターに依存すべきではないことを明確にしている」。

　2025年、Character.AIは新たな安全対策を導入し、ティーンエイジャーがボットと自由なチャットを行う機能を廃止した。

　2026年1月、AIチャットボットで提携するGoogleとCharacter.AIは、同社のチャットボットとのやり取りで被害を受けた未成年者をめぐる4州5件の訴訟で和解することに同意した。現在、同社はメンタルヘルスのリソースを、必要とする人々に提供している。

　知事が今回のような法的措置を発表したのは、米国で初めてのことだ。

　Shapiro氏は、「州政府はペンシルベニア州民を保護し、法律を順守させ、新しいテクノロジーが安全に使われるよう行動を起こしている。ペンシルベニア州は、悪質な業者に責任を負わせ、人々が責任を持って新しいテクノロジーを利用できるよう明確な安全策を設けることで、今後も先導的な役割を果たしていく」とした。