さらに警察庁が、12月18日に初公表したディープフェイクポルノに関する被害相談の実態によると、今年1〜9月で警察に約80件の相談が寄せられ、被害者の8割超が中高生でした※。内訳は、中学生が51.9%、高校生が31.6%、小学生が5.1%と、中学生が最も多くなっています。
また、加害者は同級生・同じ学校の生徒が多く53.2%、SNSなどを通じた知り合いが6.3%とのこと。すべてが生成AIと判明しているわけではないのですが、AIによるものが多いと推測されています。
あわせて警察庁からディープフェイクポルノに関する5つの実例が挙げられました。
どれも悪質極まりない事例ですが、10代は被害に遭うだけではなく、ディープフェイクポルノの加害者になっていることがわかります。
また、「卒業アルバム」や「行事アルバム」といった本人が流出させたものではない画像が使われており、被害者が自分を守り切れない状況で被害に遭っています。
※調査対象は、警察が把握した生成AIなどを悪用して児童（18歳未満）の性的画像を作成した事案で、相談・被害申告時に相談・被害者が20歳未満であるもの。
故人をデジタルで蘇らせることも
ディープフェイクでは、実在の人物のデータを学習させて顔や音声を入れ替えることができるため、笑った顔を悲しい顔に変えたり、発言していない言葉を話させることができます。
例えば、故人となった俳優をデジタルで蘇らせる、英語が話せない人に英語でスピーチをさせるなど、さまざまな活用法があります。
AIで顔を入れ替えるサービス「Reface」は、画像や動画の顔と別の顔を入れ替えることができます。ほかにも、顔を交換するアプリは多数存在し、Webサイトから画像を送るだけで生成できるサービスもあります。
