日本の学校で深刻化する危機
日本各地の警察には、同級生が人工知能（AI）を使って未成年者の性的なディープフェイク画像を作成しているとの相談や通報が増えている。学校行事や卒業アルバム、非公開のグループチャットから写真を入手して悪用するケースが多い。被害者は中高生が中心だが、小学生も標的になっている。加害者も未成年という事例が複数あり、画像生成サイトや簡単なスマートフォンアプリで本物と見まがうような露骨な偽画像を作り、仲間内で共有していた。
目次
当局によると、過去1年間に未成年者の性的な偽画像をめぐる相談や通報が100件以上寄せられた。把握された事例のうち17件は、学校行事や卒業アルバムの写真をもとに作られた画像に関係していた。被害者は、加害者が知人ではないかと疑うことが多い。警察は、性的な興味ではなく、いじめや屈辱を与えることを目的に、同性の同級生を嫌がらせした事例も確認している。日本中部の東海地方では、男子中学生が女子の同級生の裸の偽画像を作って友人らに共有したとして、名誉毀損の疑いで検察に書類送致された。
こうした急増は、世界的な傾向を背景にしている。米国のセキュリティー企業は、2023年にオンライン上で少なくとも9万5820本のディープフェイク動画を確認し、その98％がポルノに関するものだったと報告した。使いやすいツールでは、指示文を入力したり、顔写真をアップロードしたり、ワンタップで写真から服を消すよう試みたりできる。こうした手軽さが、学校内の人間関係や、子どもたちが危険性に気づかないまま投稿・共有する膨大な個人写真と結びつき、写真が悪用される事態を招いている。
身近な写真からディープフェイクを作る手口
現在のツールはいくつかの種類に分かれる。服の下にある身体を捏造し、写真の服を「脱がせる」アプリもある。学校写真の顔を成人出演者の身体に合成するものもある。生成AIサイトでは、文章の指示だけで露骨な画像を作り、数枚の参考写真を使って特定の人物に似せることもできる。こうしたシステムは、大規模なデータセットから学習したパターンをもとに新たな画像を生成するために開発された。一般向け端末でも動作することから、悪用のハードルが下がり、学校や家庭、法執行機関による発見も難しくなっている。
立件が難しい理由
日本で子どもの性的な画像を主に規制する「児童買春、児童ポルノに係る行為等の規制及び処罰並びに児童の保護等に関する法律」は、実在する子どもが実際に写った画像を保護する目的で制定された。そのため、AIによる偽画像は法のグレーゾーンに置かれている。画像が合成で、実在する子どもの顔や容姿を使っていたとしても、適用できる法的手段が明確でない。警察は名誉毀損や一部の自治体条例など、別の法律を使って立件を進めている。対応は断片的で、被害者や家族が被害を見つけ、速やかに告訴・相談する負担を負っている。
警察の現在の対応
警察庁は、中高生の間で特に人気がある画像生成サイトやアプリ、およそ10種類の調査を始めた。捜査当局は、その結果を刑事捜査に役立てるとともに、青少年向けの教育プログラムに活用する方針だ。非行防止教室などを通じて、こうした画像の作成や共有が犯罪になり得ること、同級生に深刻な被害を与えることを伝える。
警察幹部は、実際の被害は通報件数からうかがえる規模を大きく上回ると警告している。最近の相談内容を検討したある幹部は、多くの被害者が声を上げていないため、把握された事例は実際の被害のごく一部にすぎない可能性が高いと述べた。
日本の法制度に残るグレーゾーン
日本の法学者らは、国内の法制度が生成AIの進化に追いついていないと指摘する。現行法では、実在する子どもが描かれていることや、実在する子どもを明確に特定できることを検察側が立証できなければ、ディープフェイクは国の児童性的虐待画像に関する規制の対象外となる可能性がある。この法の空白がある一方、被害者は、自分の顔や名前を使った露骨な偽画像がグループチャットやSNSで拡散されることで、現実の被害を受けている。
インターネット政策に関する助言も行ってきた金沢大学の弁護士・教授、長瀬隆氏は、実写と合成画像を区別する考え方は、技術の実際の使われ方に合わなくなっていると指摘する。
現行法は実在する子どもを守るために作られたが、生成AIによって本物と偽物の境界が曖昧になった。
一部の自治体は対策に乗り出している。鳥取県は2024年、子どもの写真を使って性的に露骨な偽画像を作成する行為を明確に禁止するよう条例を改正した。支援者らは自治体の取り組みを歓迎する一方、地域によって執行に差が出たり、画像が海外サーバーに保存されたり匿名で共有されたりした場合に対応が滞ったりしないよう、国の法整備が必要だと訴える。政府の作業部会では青少年のインターネット利用やAI悪用への対策が議論されているが、進展は遅い。
わいせつ規制を研究する神奈川大学の刑法学准教授、上田雅樹氏は、容姿を悪用された子どもが実際に受けるプライバシー侵害や心理的被害を反映した法的枠組みが必要だと述べる。
精巧な偽画像がオンラインで拡散すれば、たとえ偽物でも、写真を悪用された子どものプライバシーが侵害される。心理的な負担は大きく、ディープフェイク画像は児童ポルノと同様に扱い、法的規制を検討すべきだ。
悪用を可能にする技術
ディープフェイクは、本物らしい画像を生成するよう機械学習モデルを訓練して作られる。主流のツールは大きく二種類ある。顔交換の手法では、既存の動画や写真に対象者の顔を合わせて合成する。拡散モデルと呼ばれることもあるテキスト画像生成システムは、文章の指示をもとに画像全体を一から生成し、参考となる顔写真があればそれも利用する。加害者が、標的のSNSから収集した写真や学校のアルバムから入手した数枚の画像を使い、手元のモデルを追加学習させることもある。その結果、子ども本人に不気味なほど似た画像が作られる。
こうした技術の進歩は、発見や対応を難しくしている。画像が完全に合成されたものなら、照合できる元の写真が存在しない。電子透かしやAI検出フィルターはあるものの、精度にばらつきがあり、取り除かれることもある。インターネット・ウォッチ財団（IWF）は、2023年のある1カ月間に、ダークウェブ上の単一フォーラムでAI生成画像が2万点以上投稿され、そのうち数千点が英国法に違反していたと報告した。その後の報告では、こうしたコンテンツが一般のウェブにも広がり、利用者や被害者が公開フォーラムや画像ギャラリーで目にする可能性が高まっていると警告した。IWFによると、最も精巧な画像の一部は本物の虐待画像と見分けがつかず、被害者が再び傷つくリスクを高めるとともに、監視担当者や警察の対応能力を圧迫している。IWFは、AIが児童性的虐待画像の作成にどのように悪用されているかを調査した報告書を公表し、緊急の法的・技術的対策を求めている。報告書はIWFの調査報告で確認できる。
被害者と学校が直面する苦痛
自分の顔が性的な画像に貼り付けられているのを見た子どもは、恐怖や恥ずかしさ、状況を自分でコントロールできないという感覚に襲われることがある。同級生が偽画像だと理解していても、評判や心の健康への影響は深刻になり得る。学校ではうわさが広がり、いじめが激化するなか、教員が保護者への対応や生徒の安全確保、警察との連携に追われるなど、二次的な被害も生じる。
特に女子は、オンラインでの行動を変えていると話す。イングランドの子どもコミッショナーは、服を脱がせるツールに画像を悪用されることを懸念し、写真の投稿をやめた若者がいると報告した。イングランドの子どもコミッショナー、デイム・レイチェル・デ・ソウザ氏は、10代の女子の苦痛が増しているとして、子どもの露骨なディープフェイクを作るアプリを禁止するよう議員らに求めている。
ディープフェイク技術を使って子どもの裸の画像を作るツールは合法であってはならない。政府に対し、断固たる措置を取り、禁止するよう求める。社会に存在する余地はない。
日本では、グループチャットでの画像共有やディープフェイクに関係する性犯罪の疑いで、10代の男子が捜査対象となる事例が増えていると弁護士らは話す。専門家は、警察が訪問したり学校の懲戒手続きが始まったりするまで、多くの若者が法的責任や同級生への被害を理解していないと警告する。この認識の隔たりを埋めるには、明確なルール、学校での教育、プラットフォームによる強固な安全対策が必要だ。
各国の対応と日本への教訓
他国では、法の抜け穴をふさぐ動きが進んでいる。韓国は2024年9月、未成年者の性的なディープフェイク画像の作成だけでなく、閲覧や所持も犯罪とする法案を可決した。米国では2025年5月に成立した連邦法により、本人の同意なく性的に露骨な画像や動画を投稿することが違法となり、被害者から要請があれば、プラットフォームは48時間以内にコンテンツを削除するよう義務づけられた。米国の多くの州も法改正を行い、実際の行為に実在する子どもがいなかった場合でも、AIで加工・生成された未成年者の性行為描写を違法な児童性的虐待画像とみなすようにしている。こうした州レベルの動きは、純粋に仮想のコンテンツを実在する子どもを使った画像とは異なるものとして扱った、過去の米国裁判所の判断を受けたものだ。
欧州では、法執行機関が国境を越えて連携している。欧州刑事警察機構（ユーロポール）は、AI生成の児童性的虐待画像に関連した初期の国際的な摘発作戦の一つ「オペレーション・カンバーランド」を調整した。19カ国の協力を得て、警察は数百人の容疑者を特定し、数十人を逮捕したほか、未成年者の完全に人工的な画像を配信するプラットフォームを摘発するため、関係先の家宅捜索を行った。捜査当局は、AIによって技術に詳しくない個人でも大量の虐待コンテンツを作成できるようになったと指摘し、画像が合成である場合、被害者の特定や元データの追跡に従来の手法が通用しないことが多いと警告した。ユーロポールのカトリーヌ・デ・ボレ事務局長は、AI生成コンテンツに対応した新たな捜査手法が必要だと強調した。
AI生成画像は、犯罪を意図する個人が簡単に作成できる。その結果、虐待コンテンツが増え、加害者や被害者の特定が難しくなる。
日本では最近、成人女性を描いたAI生成のわいせつポスターをオンラインオークションで販売したとして、初の逮捕者が出た。既存のわいせつ規制が一部のAI悪用に適用できることを示す動きだ。容疑者の一人は、1年間で約1000万円を得たとされる。子どもが関係する事案にはさらなる障壁があるため、学者や子どもの保護団体は、実在する写真に基づくか完全な合成画像かを問わず、未成年者の性的なAI生成画像を対象とする明確な国の規制を求めている。
家庭、学校、プラットフォームにできること
政策担当者が法改正を議論する間にも、リスクを減らし、被害発生時に迅速に対応するためにできることがある。以下の対策は、同意、写真へのアクセス、通報窓口、心のケアに焦点を当てている。
- 生徒の写真の流通を制限する。学校は、クラスアルバムや行事写真の閲覧を確認済みの保護者に限り、期限付きリンクを使い、公式ルート外に持ち出される画像に透かしを入れることができる。
- 同意とデジタル倫理を早い段階から教える。ホームルームや技術の授業にAIとメディアリテラシーを取り入れ、ディープフェイクやプライバシー、画像が与える被害について率直に話し合う。
- グループチャットの明確なルールを定める。部活動やクラスでメッセージアプリの行動規範を作り、露骨な画像や嫌がらせコンテンツを共有した場合の処分を明確にする。
- 生徒がすぐに通報できるようにする。信頼できる大人や学校、プラットフォームに被害画像を簡単に知らせられる仕組みを整える。迅速な通報で、画像が拡散する時間を短縮できる。
- 警察と連携する。適用できる法的手段が明確でなくても、名誉毀損やプライバシー侵害、自治体条例などが適用できるか助言を得るため、証拠を警察に共有する。
- プラットフォームに対応を求める。本人の同意のない性的画像を通報する機能を使い、削除を要請する。リンク、日時、ユーザー名を記録しておく。
- 被害者の心の健康を支える。秘密が守られるカウンセリングを提供し、保護者にも速やかに関わってもらう。偽画像だと証明するために、被害者に同級生と対峙させてはならない。
- 個人情報の痕跡を減らす。アカウントを非公開にし、古い投稿を整理して、学校や位置情報と結びつく高解像度の顔写真を投稿しないよう生徒に促す。
- 写真を安全に共有する。チームやクラスの写真を共有する際は、引きの構図を使い、顔のアップを減らし、再配布を制限することを検討する。
テクノロジー企業に求められる対策には、入力文やアップロード画像に対する強固なフィルター、服を脱がせる機能の初期設定でのブロック、厳格な年齢確認、サービスをまたいで機能する迅速な削除手続きなどがある。既知の不具合や修正内容を透明性をもって公表すれば、信頼の回復につながる。一般向けのチャットボットが16歳の著名人を性的に描いた画像を生成した最近の問題は、設計上の欠陥がいかに速く規制当局の警告や世論の反発につながるかを示している。
要点
- 日本の警察には、未成年者が学校写真やグループチャットの画像を使い、同級生の性的なAIディープフェイクを作成・共有しているとの通報が増えている。
- 過去1年間に全国で100件を超える相談や通報があり、少なくとも17件は学校行事や卒業アルバムに関連していた。
- 現行の国の法律は実在する子どもの画像を主な対象としているため、ディープフェイクの立件は難しい。警察は名誉毀損など別の法律を使うことが多い。
- 警察庁は、人気のある画像生成サイトやアプリ約10種類を調査しており、刑事捜査と青少年教育の双方に結果を活用する方針だ。
- 専門家は、法制度が技術の進歩に追いついていないと指摘する。未成年者の性的なディープフェイク画像を、違法な児童性的虐待画像と同様に扱う明確な国の規制を求めている。
- 韓国、米国、英国、オーストラリアなどでは、迅速な削除義務や新たな犯罪規定を含め、AI生成の性的画像を規制する動きが進んでいる。
- ユーロポールの「オペレーション・カンバーランド」は、AI生成の児童虐待コンテンツを配信するネットワークを標的とし、実在する子どもが描かれていない場合の捜査の難しさを浮き彫りにした。
- 学校、家庭、プラットフォームは、写真へのアクセス制限、AIリテラシー教育、チャットのルール徹底、通報手続きの簡素化、被害者へのカウンセリングを通じて被害を減らせる。
