AI生成ソフトを使った児童性的虐待コンテンツに関する最新の調査報告が発表された。調査を行なったのはインターネット上で児童を性的に虐待する画像や動画を監視するイギリスの非営利団体、Internet Watch Foundation（IWF）。インターネット黎明期から活動を続ける同団体は、近年のコンテンツにおけるAIの影響に危機感を表している。
2025年に確認されたAI生成による児童性的虐待の画像および動画は8,029件。これらはアクセスに特定のソフトウェアなどを要する闇サイトだけではなく、一般向けの商業ウェブサイトにも流通している。コンテンツ全体にAI生成が占める割合はまだ少ないが、増加の速度と内容は深刻だ。
特に顕著なのが動画である。AI生成によって作られた児童の性的虐待動画の件数は前年13件に対し3,443件、約260倍に増加した。そのうちの6割以上が、イギリスの法律で性的虐待コンテンツの深刻性を区分する「カテゴリーA」に分類される内容だった。挿入を伴う性行為、加虐行為、動物との性行為などである。
虐待の対象は女児が圧倒的多数、違法なAI生成コンテンツ全体の97％を占める。また、新生児から2歳児を扱った画像や動画が前年の5件から92件に増加するなど、AI生成によって、より「あり得ない」（あってはいけない）表現も可能になった。実際に撮影した行為をAIで更に暴力的な内容にした例もあり、AI生成によって動画や画像の現実性と残酷性が強まっている。
これらの画像や動画はAIによって作られたフィクションとは言い切れない。AIがイメージを生成するには学習が必要であり、それに使われているのが、既にインターネット上に存在する現実の虐待写真や動画だからだ。カナダの児童保護団体 Canadian Centre for Child Protection が2017年に行なった調査によると、性的虐待を受けた児童の70%がインターネット上で自分の画像や動画を元にしたAI生成コンテンツを他人に見られる恐れを感じており、そのうち30%はすでに見られたことがあると答えている。さらに、87%がAI生成コンテンツを見た者から付きまといや脅迫などの被害を受けている。10年前に受けた性的虐待の画像を元にした動画を作成・拡散された女性が「当時の暴力が今も続いているように感じている」と話しているように、現実の被害者が際限なく苦しめられているのだ。
児童を性的に虐待する内容のAI生成テキスト、画像、動画、音声に関する規制は国によって異なる。イギリスではAIの使用有無に関わらず、こうしたコンテンツの作成、所有、流通が法的に禁止されており、昨年は児童性的虐待コンテンツの作成を目的にしたAIソフトの開発、所有、流通も処罰の対象に加えられた。米国は問題となるコンテンツを有するウェブサイトの運営者に対し法的責任を義務付けるとしているが、当該コンテンツの所有は処罰の対象としていない。EUは加盟国によって法律の定義が異なるが、AIソフトの提供やコンテンツの保持などの規制に向けて法整備を進めている。
ただし法律による規制は、明らかに追いついていない。インターネット上の小児性愛者コミュニティでは自律的にタスクを実行するエージェント型AIの活用が話題に上がっており、それが実現する時期もそう遠くないだろう。技術を提供する側にも利用する側にも倫理はない。画期的なシステムを開発するほどの頭脳があれば、現状を予想できたはずではないか。欲望を現実にする手段が放たれてしまった以上、取り返しはつかない。