拘束力のある命令で危険なAIに対する日本の権限強化も
日本は、先端人工知能（AI）を手掛ける企業に安全確保を義務付け、重大な問題が発生した後に政府の命令に従わない企業には罰則を科すことを検討している。この案により、サイバー攻撃や犯罪目的での悪用、想定された指示から逸脱するシステムといったリスクを巡り、協力を拒む企業に対して当局がより強い手段を講じられるようになる。
目次
この方針は11日、AI立法に関する非公開の作業部会での議論を受けて明らかになった。政府当局者は、法改正を含む制度変更の全体像を年末までに示すことを目指している。検討中の罰則は、高度な能力を持つAIが関わる事案を対象とする。
提案されている執行手順が焦点となる。問題発生後に企業が協議を拒んだ場合、必要に応じて政府は拘束力のある命令を出せる。命令に従わなければ、罰則が科される可能性がある。AIシステムの異なる段階をそれぞれ担うため、開発者、研究者、一般向けにサービスを提供する企業には異なる責任が課される可能性がある。
内閣府はすでに、2024年5月のAIガバナンスに関する政策文書で、監督強化の基本方針を示していた。AI戦略チームが公表した同文書は、重大なリスクを伴うAIについて、自主的な指針を法的要件で補うべきか検討することを提案した。また、改善命令や、悪用の可能性が特に高い企業を公表するよう求める声も記録している。
今回の議論は、以前からの政策課題をより鮮明にしている。研究や有益なサービスの余地を保ちながら、企業に深刻な危険への対応を促すにはどうすればよいのか。利用者にとって実際上の問題は、高度なシステムが脅威を生んだ際、当局が企業の協力や是正措置を得られるかどうかだ。
新たなルールの対象となるのは誰か
AI関連事業は複数の段階にまたがる。研究者が技術を開発し、モデル開発者が基盤となるシステムを構築し、サービス提供者がそれを人々の使う製品にする。基盤モデルとは、多様なタスク向けに訓練された土台となるAIで、他の企業が特定のサービスに合わせて応用できるものだ。
政府は、対象となる企業、十分に高いリスクを持つAIの定義、罰則の形態や規模を今後詰める必要がある。11日に示された工程表には月や年の記載がなく、別途示された6月19日の政策日程にも年が記されていないため、両者の正確な時期の関係は明らかでない。
2024年5月の政策文書は、モデルの規模、想定される用途、リスクを総合的に考慮すべきだとしている。今後の技術進歩により、小型モデルでもより高い能力を実現できる可能性があり、規模だけで規制の境界を定めるのは信頼性に欠けると警告している。
海外の開発者も重要となる。同文書は、日本の制度が海外から日本に提供されるAIも対象とし、企業が従わない場合の実効的な対応を検討すべきだとしている。米大手テクノロジー企業を含める場合、国際協力や命令を執行する能力が、日本の利用者にとって現実的な課題となる。
自主的な協力が懸念されるようになった理由
AI戦略会議とAI制度研究会は、2025年2月4日の中間政策報告書で、法的拘束力のある規制を対象を絞って導入する方針を示した。企業の自主性を尊重し、自主的な取り組みでは対応が期待できない事項に法規制を限定するよう提言した。
同報告書は、生命や身体の安全、財産、公共の安全、国家安全保障に深刻な問題を引き起こす、またはその可能性が極めて高いAIについて、リスクの重大さに応じて検討する必要があるとしている。
政府の調査は企業が保有する情報に依存する。そのため同報告書は、国内外の企業から情報を含む協力を求めることのできる法的枠組みを設けるよう求めている。また、政府の指針やAIの実際の利用状況に関する調査を実効性あるものにするには、法的根拠が必要だとしている。
罰則はこの枠組みに実効性を加える。同報告書は、法的制裁によってルールの執行が容易になる一方、硬直的な要件は開発を遅らせる可能性があり、内容の明確化にも時間がかかると指摘している。非協力的な企業への対応案は、自主的な取り組みでは不十分な場合に焦点を当てたこの方針に沿うものだ。
サイバーセキュリティーが最新の対応を後押し
先端AIは、人間が細かく指示しなくても技術的な作業を行える。自律型システムは、与えられた目標に向けて複数の段階を踏み、その過程で行動を選択できる。この能力は正当な業務に役立つ一方、コンピューターやネットワークと連携できるシステムでは、安全管理が一層難しくなる。
開発中の先端AIが予期せず不正アクセスを行った事例が米国で報告されている。最近のサイバー攻撃の一部にも、AIの悪用が疑われている。こうした懸念から、危険な挙動を巡って開発者が協力しない場合に政府が対応する必要性が高まっている。
6月19日に説明された日本のAI基本計画改定案は、サイバーセキュリティー上のリスクを変更案の中心に据えている。コンピューターシステムの弱点を自律的に発見できる米国のモデル「Claude Mythos」を挙げている。脆弱性とは、攻撃者がアクセスを得たりサービスを妨害したりするために利用できる欠陥を指す。
こうした弱点を発見することは、防御側がソフトウェアを修正するうえで役立つ。同じ能力が不正アクセスの支援に使われれば、リスクを生む。このため改定案は、安全性評価の強化と、警察庁が主導する防御能力の強化計画を組み合わせている。
日本、安全性評価機関の機能拡充へ
改定案では、AIセーフティ・インスティテュート（AISI）がより大きな役割を担う。日本はその機能を拡充し、海外の政府や世界の開発者と連携して、国内外の先端モデルを検証する方針だ。
日本は2024年2月、情報処理推進機構（IPA）内にAISIを設立した。2024年5月の政策文書は、実践的な安全性指針や評価手法、技術研究に加え、米国や英国の同種機関との協力について説明している。
政策文書は、法令でリスク管理と情報共有に関する基本的な責任を定める一方、専門機関が政府や産業界と連携して詳細な指針や基準の策定を支援する枠組みも提案している。このような仕組みであれば、AIの進展に合わせて技術的な実務を変更できる。
AISIは有害なシステムへの対応も支援できる。同文書は、情報処理推進機構が問題を調査し、企業や利用者が取るべき措置を公表する既存のソフトウェア・サイバーセキュリティーの仕組みに似た制度の検討を提案している。
政策論議のこれまでの経緯
日本の提案は、自主的な指針、制度面の準備、法的義務の検討を通じて形作られてきた。政府の公式文書は、すべてのAI関連企業に同じ要件を課すのではなく、これらの手段を組み合わせる方針が一貫していることを示している。
- 2023年5月：AI戦略会議がAIリスクに関する初期の議論を公表し、開発や利用の拡大には適切な安全対策が必要だと指摘。
- 2023年12月：G7首脳が、国際原則や先端AI開発者向けの行動規範を含む「広島AIプロセス」の政策枠組みを承認。
- 2024年2月：日本が情報処理推進機構内にAISIを設立。
- 2024年4月：日本が「AI事業者ガイドライン」第1.0版を公表。
- 2024年5月：内閣府AI戦略チームが、自主的な指針を法的要件で補う選択肢を提示。
- 2025年2月4日：AI戦略会議とAI制度研究会が、自主的な取り組みでは不十分な場合に対象を絞った法整備を行うよう提言。
6月19日のAI基本計画改定案は、意見公募を経て7月に閣議決定することを見込む。前年12月に採択された当初計画に続くもので、改定案は計画策定から6カ月余りで示された。別途進む作業部会の検討では、制度変更に関するより広範な提案を年末までにまとめることを目指している。
一部のAI利用はすでに既存法の対象
日本の2024年5月の政策文書は、先端AIの開発者を対象とするルールと、特定の製品や活動を規制する法律を区別している。同文書によれば当時、日本には欧米で策定されていたような、大規模または高リスクのAIを対象とする拘束力のある枠組みはなかった。一方、刑法、プライバシー関連法、製品規制は、関連する行為にすでに適用されていた。
AIを使う医療機器には、医薬品医療機器等法に基づく安全性と有効性の要件が適用される。特にリスクの高い機器は、臨床試験データを含む評価を経て承認を得る必要がある。同文書はまた、AIを補助として使う場合でも、最終的な医療判断は医師が責任を負うとしている。
自動運転システムを搭載する車両は、道路運送車両法に基づく要件を満たさなければならない。自動運転システムは、設計上の作動条件について評価を受ける。
雇用や信用に関する判断では、別の懸念がある。同文書は、AIがビデオ面接を選別する事例で、不採用となった応募者に対する人間による再審査に言及している。また、信用返済能力の評価に使う先端手法では、不当な差別や偏見、その他の重大な不利益を避ける必要があると指摘している。これらの例では、人間による管理の度合いが重要となる。人の判断を置き換える場合と、本人が検討するための情報を提供する場合とでは、リスクが異なり得る。
ディープフェイク、創作活動、教育も対象に
AI基本計画の改定案には、ディープフェイク検知技術の開発が盛り込まれている。ディープフェイクとは、AIで作成または加工された、説得力のある画像、音声、動画を指し、人になりすましたり、虚偽の主張を広めたりする目的で使われることがある。
2024年5月の政策文書は、AI生成を示す電子透かし、コンテンツの出所を記録する情報、オンラインプラットフォームが付けるラベルなど、複数の技術的な対策を挙げている。また、AIのリスクを、詐欺的な広告や有害なオンライン情報への対策とも関連付けている。
創作活動には、別個の法制度・政策上の検討がある。同文書は、文化庁の審議会小委員会が2024年3月15日にAIと著作権に関する指針を採択したことに加え、AI時代の知的財産について内閣府で議論が行われていることを記録している。議論は法的ルール、技術的な保護、対価を定める契約を扱う。声や肖像、芸術的な作風も懸念の対象となっている。
AI基本計画の改定案では、AIへの過度な依存が自ら考え判断する力を弱める恐れがあるとして、教育も取り上げている。同時に日本は、自律型AIの早期事業化を支援する方針だ。高性能システムの利用拡大と、人間の技能や管理能力を保つための措置の両立を目指している。
日本が目指すバランス
日本の公式文書が示すのは、すべてのAI開発を一律に対象とする制度よりも限定的な法規制の役割だ。2024年5月の文書は、多くの研究者やスタートアップなど、取り組みのリスクが限られる開発者には自主的な指針を重視する一方、影響が大きくなり得るシステムにはより厳しい要件を検討する方針を示している。
同文書は、当時の国際的なアプローチも比較している。欧州連合（EU）のAI法は、リスクに応じた義務や高額な金銭制裁を定めていた。米国は自主的な取り組みと、大規模モデルの一部に対する既存の法的権限に基づく報告義務を組み合わせていた。どちらのアプローチも、強力なシステムの開発者に一定の拘束力ある義務を課していた。
日本が検討する命令や罰則は、協力を軸とするアプローチの具体的な弱点に対処するものだ。提供元が協議を拒んでも、危険なシステムには対応が必要となる場合がある。対象企業や負うべき義務、命令を出す条件をどう定めるかによって、利用者や開発者にとっての制度の実効性が決まる。
要点
- 日本は、先端AIがもたらす深刻なリスクを念頭に、安全確保義務と罰則を検討している。
- 協力しない企業に拘束力のある命令を出し、違反した場合に罰則を科す仕組みが提案されている。
- 政府の政策文書は、自主的な取り組みでは不十分な場合に対象を絞った法的要件を設ける方針を示している。
- AI基本計画の改定案には、安全性評価の拡充、サイバー防御、ディープフェイク検知、教育に関する措置が盛り込まれている。
- 政府は、制度変更に関するより広範な枠組みを年末までに示すことを目指している。
