インド最高裁、児童性的虐待コンテンツ削除に向けた共通データベース設置を命令　子どものインターネット一律禁止は退ける

子どものオンライン利用を認めた共通検知システム

インド最高裁は中央政府に対し、各サービス上の児童性的搾取・虐待コンテンツ（CSEAM）をプラットフォームが特定して削除できるよう、「国家ハッシュ・URLリストデータベース」を設置するよう命じた。登録内容は、少なくとも3人の訓練を受けた人間の分析担当者がそれぞれ独立して審査しなければならない。データベースに保存するのはデジタル識別情報とインターネットアドレスであり、虐待画像や動画そのものではない。

2026年10月15日付の136ページに及ぶ命令は、ソーシャルメディア企業に報告期限を設け、利用しやすい苦情申し立て制度を求めるとともに、学校でのデジタル安全教育を指示した。政府は、次回審理となる2026年12月10日までに、実施状況を記した宣誓供述書を提出しなければならない。

J・B・パルディワラ判事とK・ヴィノード・チャンドラン判事は、2024年9月23日の判決に従っていないとの申し立てを受け、「Just Rights for Children Alliance & Anr. v. S. Harish & Ors.」事件でこれらの指示を出した。

裁判官団は、テクノロジー企業の義務強化と、子どもにはインターネットにアクセスし利用する基本的権利があるとの憲法上の判断を併せて示した。年齢を理由とする一律の制限は支持せず、保護者の指導、より安全なアカウント設定、虐待コンテンツを作成・流通させたり、そこから利益を得たりする者への措置を重視した。

各プラットフォーム単独の削除では不十分な理由

最高裁は、現行制度の実務上の弱点を指摘した。ある企業が虐待コンテンツを検知して削除しても、別のプラットフォームが独自に特定していなければ、同じ画像や動画、リンクが掲載され続ける可能性がある。

2021年情報技術（仲介者ガイドラインおよびデジタルメディア倫理規定）規則の第4条第4項は、特定の仲介者が自社のコンピューター資源上で以前に削除したコンテンツに言及している。裁判官団は、この考え方ではサービス横断的な連携検知を支えるには範囲が狭すぎると判断した。

申し立てでは、利用者を虐待コンテンツや外部サイトに誘導する有料広告があったとの指摘も取り上げられた。インド国内で調査された84件の広告のうち、55件がプラットフォームの報告システムを通じて通報された。そのうち43件は同社の広告基準に準拠していると判断された。通報された広告の約78％にあたる。

最高裁によると、問題はコンテンツの再投稿だけでなく、利用者を搾取へと誘導する経路にも及ぶ。そのため、枠組みには既知のコンテンツの特定、外部アドレスの確認、警察への通報、流通によって得た収益の調査が含まれる。

国家データベースの仕組み

国家ハッシュ・URLリストデータベースは、インド・サイバー犯罪調整センター（I4C）の「Sahyog Portal」内に置くか、独立した保管庫として運用できる。Sahyogは現在、苦情や削除通知を振り分けている。新たなデータベースは、確認済みの虐待コンテンツを検知するための共通参照システムを加えるものとなる。

ハッシュとはファイルから生成されるデジタル識別情報で、指紋にたとえられる。プラットフォームは識別情報を照合し、別の場所ですでに特定されたコンテンツを認識できる。知覚ハッシュを使えば、サイズ変更や形式変換などが行われた後の類似画像や動画も検知しやすくなる。

URLはインターネット上のアドレスだ。これらのアドレスを登録することで、虐待コンテンツを掲載する既知の場所へ利用者を誘導するリンクに対し、プラットフォームが措置を取れる。リンクを掲載するプラットフォームの外部にコンテンツが保存されている場合も対象となる。

政府は、大規模ソーシャルメディア仲介者が知覚ハッシュ照合とURL登録を利用するためのガイドラインまたは標準業務手順書を策定しなければならない。最高裁は、技術の変化に応じて定期的に改定できる指針が望ましいとした。

プラットフォームは自社サービス内のコンテンツをデータベースの登録内容と照合し、法執行機関は共通の識別情報を使って、オンライン上の別の場所にある一致コンテンツを特定する。確認済みの情報があれば、各社が一から検知を始めるのではなく、複数のサービスを横断した措置につなげられる。

登録前に3人が独立して審査

最高裁は、コンテンツをデータベースに登録する前に複数段階の確認を求めた。ソフトウェアによる予備審査は可能だが、訓練を受けた人間の分析担当者が少なくとも3人、それぞれ独立して、当該コンテンツが児童性的搾取・虐待コンテンツ（CSEAM）に該当するかを審査しなければならない。

登録情報は暗号化された経路で提出する。保管庫に保存するのは該当するハッシュとURLのみとし、審査記録、アクセスログ、独立監査の記録を残さなければならない。誤った登録は速やかに削除する必要がある。

データベース登録を根拠とした削除措置の影響を受けた人は、異議申し立ての手続きを利用できなければならない。削除通知には措置の根拠を記載し、プラットフォームとデータベース管理機関のどちらに申し立てればよいか分かるようにする。

こうした保護措置により、強力な共通検知システムと誤りを正す手段が結び付く。登録内容は複数のプラットフォームで措置を引き起こす可能性があるため、最初の審査の正確さは、その後のすべての削除に関わる。

2時間以内の報告が求められるケース

最高裁は、新たに特定されたコンテンツと、すでに国家データベースに登録されているコンテンツで手続きを分けた。この枠組みで「発信元不明のコンテンツ」とは、プラットフォーム独自の検知や苦情対応を通じて審査されるコンテンツを指す。「既知のコンテンツ」とは、確認済みのデータベース登録情報と一致するコンテンツを指す。

• プラットフォームが発信元不明のコンテンツを独自に検知して削除した場合、2時間以内に削除を報告しなければならない。
• 苦情を受けて削除した場合、プラットフォームは苦情の処理後直ちに報告し、遅くとも処理完了から2時間以内に報告する。
• 既存のデータベース登録情報と一致するコンテンツは、プラットフォームが直ちに無効化・削除し、該当する削除について週ごとにまとめて報告しなければならない。

この手続きで新たに特定したコンテンツを削除・報告する前に、プラットフォームはその内容を確認しなければならない。該当する場合、2020年性犯罪からの児童保護規則第11条に基づき、特別少年警察部門、地元警察、サイバー犯罪ポータルなど、インド法上指定された当局に知らせる必要がある。データベースの指定機関が別の当局である場合は、そこにも通知しなければならない。

2時間の期限は、削除後または苦情処理後の報告に適用される。すでにデータベースで確認済みのコンテンツとの一致については、直ちに削除する義務に加え、週ごとの報告手続きが適用される。

2024年9月の判決ではすでに、報告義務を2000年情報技術法第79条と結び付けていた。同条は、利用者が投稿したコンテンツに対する責任について、条件付きの保護、いわゆるセーフハーバーを定めている。最高裁は、仲介者がこの保護を受けるには、相当な注意義務を果たし、児童保護法上の報告義務を遵守しなければならないと判断した。

苦情は訓練を受けた担当者に届く必要

プラットフォームは、明確に「CSEAM報告」と表示された専用カテゴリーを設け、2段階以内でアクセスできるようにしなければならない。報告時には個人情報の入力を義務付けず、匿名性を保つ必要がある。苦情担当責任者の情報も、ウェブサイトやアプリで簡単に見つけられるようにする。

各苦情について24時間以内に受領通知を出し、受付番号を付与しなければならない。訓練を受けた苦情担当責任者が審査し、申立人には判断とその理由を伝える必要がある。自動化ツールは予備審査を支援できるが、苦情の審査には訓練を受けた担当者が責任を負う。

最高裁は、コンピューターで処理できる統一形式の報告書も求めた。報告形式をそろえれば、企業ごとに異なる様式を照合する手間をかけずに、当局が利用可能な形で情報を受け取れる。

中央政府には、適切な規則改正を通じて、仲介者全体に説明責任の要件を広げるよう求めた。利用者にとっての変化は具体的だ。利用しやすい報告経路、進捗を追える苦情受付、実施した措置の説明が得られる。

広告収入と購読料も調査対象に

裁判官団は仲介者に対し、CSEAMその他の禁止された有害コンテンツが、有料壁や購読サービスを通じて直接または間接に提供、ホスティング、アップロード、宣伝、流通されるのを防ぐよう指示した。有料壁とは、コンテンツにアクセスする際に利用者へ支払いを求める仕組みを指す。

最高裁は、こうしたサービスを通じて流通した禁止コンテンツから得た収益を没収し、引き渡すべきだと述べた。また政府に、必要な枠組みを整備し、情報技術法および関連規則に基づく義務違反に対する相応の金銭的制裁を検討するよう求めた。

制裁額は、違反の重大性、期間、反復性に加え、企業の規模や売上高を考慮すべきだとした。これにより、違反の繰り返しと、責任を負う事業者の規模の双方を踏まえた対応が可能になる。

命令は、画像を加工して虐待コンテンツにしたり、利用者をそこへ誘導したりするツールの広告など、搾取を可能にする電子コンテンツも対象とする。最高裁は、情報技術法と関連規則の規制対象は視覚的描写に限られないとし、第67B条(d)項と規則第3条第1項(b)号に言及した。

命令に先立ち、電子情報技術省は、CSEAMを宣伝する有料広告をめぐり、2026年7月にMetaのコンプライアンス責任者へ通知を出したと最高裁に伝えていた。この手続きは継続中だった。政府の説明によると、その後の協議を経てGoogleとMetaは、インドの法執行機関に事案を直接報告することで合意した。

子どもへの一律禁止を退けた理由

裁判官団は、生命と個人の自由を保障する憲法第21条と、言論・表現の自由を保障する第19条第1項(a)号に基づき、インターネットへのアクセスと利用は基本的権利だと認めた。子どもは年齢にかかわらず、これらの権利を有するとした。

パルディワラ判事とチャンドラン判事は、命令の中で保護とアクセスの関係を次のように説明した。

子どもたちの安全と自由は相反するものではありません。子どもたちはその両方を享受する権利があります。

最高裁は、禁止されても子どもが隠れてインターネットを使い続け、規制の緩いサービスへ移る可能性があると判断した。脅迫や操作を受けている子どもは、オンラインにアクセスしたことで罰せられるのを恐れ、助けを求めるのをためらうおそれもある。

裁判官団は、利用者全員に機微な情報の大量収集と監視を通じて年齢を証明させる制度について、プライバシー上の懸念も示した。その代わりに、保護者の同意、指導、見守りに加え、子ども専用モードを提案した。

想定される設定には、初期設定で非公開となるアカウント、知らない大人からの連絡制限、広告やコンテンツの管理が含まれる。10代未満の子どもについては、保護者の同意を相応の方法で確認する案を示した。具体的な制度設計は中央政府に委ねる一方、成人向けコンテンツのウェブサイトなど、本質的に有害なサービスには対象を絞った制限を認めた。

保護策には学校教育も含まれる

最高裁は、年齢に応じたデジタル安全教育と性教育を中核的なカリキュラムに組み込むよう指示した。授業では、同意、安全な接触と危険な接触、健全な人間関係、個人情報の保護、オンライン上の搾取、虐待の通報方法を扱うべきだとした。

国立教育研究訓練評議会と州教育研究訓練評議会は、児童心理学者、教育関係者、子育ての専門家とともに教材を開発する。最高裁はまた、学校にヘルプラインの電話番号を掲示し、小学校段階から啓発活動を始めるよう求めた。

子どもたちは、企業が導入を求められる技術的対策に加え、危険を見分け、信頼できる大人に伝える方法を学ぶことになる。教育面の対策は、画像やリンクがプラットフォームに特定される前に、子どもが操作や脅迫に遭う状況にも対応する。

最高裁の用語選択にも、被害に焦点を当てる姿勢が表れている。2024年9月の判決では、犯罪の性質をより正確に反映させるため、POCSO法における「児童ポルノ」という用語を、児童性的搾取・虐待コンテンツを表す表現に置き換えるよう国会に検討を促した。

12月10日までに政府がすべきこと

電子情報技術省と法務省は、ガイドラインや標準業務手順書の策定、情報技術規則の適切な改正を通じてこの枠組みを実施しなければならない。必要に応じて情報技術法の改正も求められる。政府の宣誓供述書には、仲介者が現在使っている技術ツールを含め、進捗状況を記載する必要がある。

電子情報技術省はすでに、女性・児童開発省、内務省、通信局などの関係者と作成した手続き案を提出していた。トゥシャール・メータ法務次官は、最終決定に向けて追加の時間を求めた。

この訴訟は複数の段階を経て進んできた。

• 2024年9月23日：最高裁がCSEAMに関する先行判決を出し、仲介者の報告義務などを示した。
• 2026年2月：政府が仲介者規則を改正し、CSEAMに関する具体的な相当注意義務を追加した。
• 2026年7月：電子情報技術省が、CSEAMを宣伝する有料広告をめぐりMetaのコンプライアンス責任者に通知を出した。
• 2026年8月14日：最高裁が重大な遵守上の不備に懸念を示した。
• 2026年10月15日：裁判官団がデータベース、報告、教育、説明責任に関する枠組みを示した。
• 2026年12月10日：次回審理を予定。政府の進捗に関する宣誓供述書も同日までに提出される。

命令は、データベースの運用開始日や金銭的制裁の具体額を示していない。12月の審理では、共通検知、信頼できる報告、子どもがより安全にオンラインへアクセスできる環境に向けて政府が講じた措置の説明が求められる。

要点

• 国家データベースには、児童性的搾取・虐待コンテンツそのものではなく、確認済みコンテンツのハッシュとURLを保存する。
• 登録候補はすべて、訓練を受けた人間の分析担当者3人以上が独立して審査しなければならない。
• 指定された削除は2時間以内の報告が必要。既存のデータベース登録情報との一致は直ちに削除し、週ごとに報告する。
• プラットフォームは24時間以内に苦情を受け付けた旨を通知し、訓練を受けた人間による審査を行わなければならない。
• 最高裁は有料壁や購読サービスを通じた流通を禁じ、制裁と禁止コンテンツからの収益に対処する枠組みを求めた。
• 子どもにはインターネットへアクセスする基本的権利があり、一律禁止より対象を絞った保護措置が望ましいとした。
• 政府は2026年12月10日の審理までに実施状況を報告しなければならない。