韓国、AI基本法で世界の先頭に立つ
韓国は、人工知能を包括的に規制する世界初の法律体系を正式に成立させたと発表した。全6章43条からなる「AI基本法」は木曜日に成立し、極めて広範なAI活動と関係者を対象とする規制枠組みを定めた。この法律は、AIがますます社会を動かす時代において、国民を保護するとともに、当局が「信頼の基盤」と表現するものを築くことを目指している。
目次
この画期的な動きにより、韓国はAIガバナンスへの統一的なアプローチを構築するうえで、他の主要経済圏をリードする立場になった。欧州連合は昨年から一部のAI関連規制の適用を始めたが、AI法の中核部分は8月から段階的に施行される。米国には依然として連邦レベルのAI法がないが、ホワイトハウスは先月、AIイノベーションを阻害するとみられる「過重な」州法に異議を唱える大統領令を発出した。中国は異なるアプローチを採り、既存のサイバーセキュリティ法に倫理やリスク監視に関する規定を追加している。
韓国のAI基本法は、人工知能技術を規制する世界的な取り組みにおける重要な前進を示すものだ。この法律は、韓国AI産業の成長を促進することと、AI導入に伴う潜在的なリスクから国民を守るための必要な保護策を実施することという、相互に補完する2つの目標を達成するよう設計されている。
私たちは、世界的なコンセンサスの最も基本的なレベルからこれに取り組んでいる。規制によってAI開発を止めることが目的ではない。人々が信頼を持ってAIを使えるようにすることが目的だ。
情報通信部AI政策室のキム・ギョンマン次官補によるこの発言は、技術の進歩を妨げることなく、安全性と信頼性に関する国民の懸念に対応する、バランスの取れた枠組みを韓国が作ろうとしていることを示している。
高影響AIシステムの定義
韓国の新法の重要な柱は、「高影響AI」への着目である。これは、人の生命、安全、基本的権利に重大な影響を与える可能性を秘めたシステムを指す。法律は、AIシステムに強化された監督と透明性確保の措置を求める重要分野として、次の11分野を具体的に定めている。
- エネルギー供給システム
- 飲料水の製造工程
- 医療サービスシステム
- 医療機器の開発と使用
- 核物質および施設の管理
- 刑事捜査における生体情報の分析
- 採用および融資の審査
- 交通システムと管理
- 公共サービスに影響を与える政府の意思決定
- 教育における生徒評価
- 人の生命、安全、権利に重大な影響を与えるその他の分野
こうした高影響用途について、企業は複数の主要な保護策を講じなければならない。求められた場合にはAIシステムの意思決定の論理を説明できること、必要に応じて人間が介入できること、そして利用者に対してAIを活用したサービスとやり取りしていることを明確に知らせることだ。融資や採用の候補者を選別するシステムなどにも適用される。
この法律は「高影響AI」と、韓国が「高性能AI」と呼ぶものとの重要な区別を導入している。欧州連合が規制において用途別のリスクを中心に据えるのに対し、韓国は技術的な基準を適用して規制対象となるシステムを定める、異なるアプローチを採った。これらの基準には学習に使った累積演算量などの指標が含まれるため、最も厳格な安全要件の対象となるのは、ごく限られた先進モデルだけになる。
現時点で韓国政府は、国内外の既存AIモデルのいずれも、この高性能条項に基づく規制基準を満たしていないと示している。同様に、当局者によれば、現在「高影響」に該当する国内サービスはないが、レベル4以上の完全自動運転車は、将来的にこの基準を満たす可能性がある。
透明性要件とAI表示
韓国のAI規制で最も目立つものの一つが、AI生成コンテンツの透明性に関する要件だ。新法の下では、実際のものと誤認される可能性のあるAI生成コンテンツに、透かしなど明確な表示または音声によるラベルを付けなければならない。この要件は、偽情報や欺瞞のリスクをもたらすディープフェイクやその他のAI出力を主な対象としている。
表示の方法はコンテンツの種類によって異なる。安全性や真正性のために実際のものとAI生成物を見分けることが重要な出力には、目に見える表示が義務付けられる。一方、ゲーム、アニメーション、ウェブ툰などAIを使って制作された創作コンテンツについては、利用者に直ちには見えないメタデータへのラベル記載を含め、目立たない開示方法も認められる。
このきめ細かなアプローチは、ウェブ툰制作などの業界で疑問を生んでいる。プラットフォームや制作者にとって、「AI生成」コンテンツの定義がどこまで広く適用されるのかが不確実だからだ。背景の生成、彩色、編集など一部にAIを使った場合も開示義務の対象になるのかという懸念が残っている。この法律は、単にAIツールを利用する個人ユーザーを規制するものではないが、AIを活用した制作ツールを提供する企業や、AI生成作品を配信するプラットフォーム、企業には適用される。
AI生成コンテンツに透かしを施すことは、ディープフェイクなどAI技術の悪用による副作用を防ぐための最低限の保護策である。
省庁当局者のこの発言は、AI悪用への基本的な保護措置として表示を重視する政府の姿勢を強調するものだ。透明性要件はコンテンツ表示にとどまらず、利用者がAIを活用したサービスとやり取りする際の義務的な開示にも及ぶ。企業は、高影響AIや生成AIを利用した製品やサービスを提供する際には、通常、ポップアップ警告や目立つ通知などの方法で、事前に利用者へ知らせなければならない。
ガバナンス体制と産業支援
AI基本法は、韓国のAI政策に包括的なガバナンス体制を定めている。科学技術情報通信部がAI政策の実施を担う主要機関となり、国家AI委員会は大統領の下で、より広範なAI政策の方向性を審議、決定する。法律はまた、政策実施を支援し、安全上の懸念に対処するためのAI政策センターとAI安全院も設置する。
規制措置に加え、この法律は韓国のAI開発と成長を支援するための多くの規定を盛り込んでいる。こうした振興策には、AI研究開発の支援、AI技術の標準化、AI学習データの開発、企業によるAI技術の導入と活用を支援する取り組みが含まれる。中小企業、スタートアップ、AI分野の人材育成の支援にも特に力点が置かれている。
法律はまた、「AI基本計画」を策定する法的基盤も提供する。これは韓国のAI技術開発に向けた政策ロードマップとなるものだ。この包括的なアプローチは、AI規制の成功には制限だけでなく、世界のAI競争においてイノベーションと競争力を積極的に支援することも必要だと認識している。
企業の初期負担を軽減するため、韓国政府は少なくとも1年間の猶予期間を設けた。この期間中、当局は実態調査や行政制裁を行わず、代わりに相談と教育に重点を置く。企業が自社システムが法律の適用範囲に当たるかどうかを判断し、適切に対応できるよう、AI法専用サポートデスクも設けられた。
AI安全院や国家情報社会庁などの機関の専門家が在籍するAI基本法ヘルプデスクは、新規制を遵守しながらAIの開発、事業、利用に取り組む者に対し、機密性の高い相談と助言を提供する。
コンプライアンス要件と制裁
韓国で事業を行う企業、または韓国の利用者にサービスを提供する企業は、新法の下で特定のコンプライアンス義務を負う。世界年間売上高1兆ウォン（6億8100万ドル）以上、国内売上高100億ウォン以上、または国内で1日100万人以上の利用者を持つなど、一定の基準を満たす外国AI企業は、当局との連絡役として現地代表を選任しなければならない。現在、OpenAIやGoogleなどの大手企業がこれらの要件に該当している。
AI事業者は、AIを開発し提供するAI開発事業者と、開発事業者から提供されたAIを使ってAI製品またはサービスを提供するAI利用事業者の2つの類型に分けられる。どちらの類型にも透明性義務が課されるが、規制の重点は依然として主に高影響AIと生成AIシステムに置かれる。
韓国法の執行手法は、他の法域と比べて意図的に穏当なものとなっている。刑事罰は設けられていない。その代わり、法令違反には是正命令を優先し、命令が無視された場合にのみ上限3000万ウォン（2万6200ドル）の過料を科す。政府当局者が強調しているように、これは罰則よりもコンプライアンスを重視する姿勢を反映している。
比較すると、EUの規制枠組みは違反の種類に応じて異なるレベルの制裁を定めており、はるかに強い。世界年間売上高の最大7％の行政罰金も含まれる。制裁の重さにこれほど大きな違いがあるのは、最低限の規制を維持しながら基本的な安全枠組みを確立するという韓国の明示的な方針を反映している。
韓国法で過料の対象となる3つの具体的な違反は、高影響AIまたは生成AIを利用した製品、サービスの提供時にAIによる事業運営について当局へ届け出なかった場合、必要があるにもかかわらず国内代表を選任しなかった場合、そして科学技術情報通信部長官が出した停止命令または是正命令に従わなかった場合である。
業界の反応とスタートアップの懸念
政府はAI基本法を、安全を確保しつつイノベーションを支援するバランスの取れたアプローチと位置付けているが、テクノロジー業界のすべての人がこの見方を共有しているわけではない。韓国のスタートアップは、新規制がもたらし得るコンプライアンス負担に懸念を表明しており、特に他の国の類似した枠組みより早く施行されることを問題視している。
スタートアップ・アライアンスの調査によれば、AI専業スタートアップのうち正式なコンプライアンス計画を整えていると回答したのは2％にとどまり、約半数は新法の要件を完全には理解していないと認めている。この不明確さは、法律の曖昧な表現によって規制リスクを避けるため、過度に慎重な開発戦略を取らざるを得ないのではないかと懸念する創業者の間に不安を広げている。
少し理不尽さを感じます。なぜ私たちが最初にこれをやらなければいけないのか。
韓国スタートアップ・アライアンス共同代表のリム・ジョンウク氏によるこの発言は、世界の競合他社に先駆けて包括的なAI規制の対象となることに対する、一部の起業家の苛立ちを表している。AI規制で先陣を切ることが韓国に有利にもたらすのか、それとも国内企業を国際的に不利な立場に置くのかを、多くの創業者が疑問視している。
李在明大統領はこれらの懸念を認識し、政策立案者に業界の声に耳を傾け、ベンチャー企業やスタートアップに十分な支援が行き渡るよう求めた。李大統領は最近の側近との会合で、想定される副作用を先回りして管理しつつ、制度的支援によって業界の可能性を最大化することの重要性を強調した。
科学技術情報通信部は、こうした懸念に対応するため、猶予期間中に企業向けガイダンス・プラットフォームと専用支援センターを設ける計画だ。報道官は、政府が業界への負担を最小限に抑える措置を引き続き検討しており、国内外の産業動向次第では猶予期間の延長も検討していると述べた。
国際的なアプローチとの比較
韓国のAI基本法は、他の主要経済圏の手法とは異なる独自の規制理念を示している。この法律は、民間部門の自主性を重視する米国モデルと、安全性、信頼性を重視するEUの規制モデルの双方を参照している。それでも韓国は、世界のAI競争において先進国になるという目標を達成するため、最小限の規制とAI振興の調和を図る独自の道を選んだ。
EUのAI法と同様に、韓国の枠組みはAIシステムを定義し、基本的権利影響評価（FRIA）を含む高影響AIに関する多様な義務を定めている。ただし、具体的な規制水準は今後の下位法令によって変わる可能性があり、下位法令は2025年前半に公表される見通しだ。
韓国とEUのアプローチの大きな違いの一つは、義務の構造にある。EUのAI法はAIバリューチェーンにおける関与者の類型に応じた異なる義務を定める一方、韓国のAI基本法は、関与者の類型を区別せずに義務を包括的に定めている。この簡素なアプローチは複雑さを減らす可能性があるが、多様なAIエコシステム全体に適切な監督を適用するうえでの課題にもなり得る。
高影響AIの定義についても、韓国のアプローチはEUの手法と異なる。EUが医療、採用、法執行などの分野で使われるAIを対象とする用途別リスクに焦点を当てるのに対し、韓国は技術的な基準を適用して規制対象システムを定める。学習に使った累積演算量などの指標が含まれるため、現在の技術力では規制対象となるシステムの数はかなり少なくなる可能性がある。
規制理念の違いは、違反に対する制裁にも現れている。EUは世界年間売上高の最大7％の罰金という強い制裁を定めているが、韓国の枠組みで課される行政罰金は最大3000万ウォン（約2万6200ドル）にとどまる。この大きな違いは、罰よりもコンプライアンスと是正を重視する韓国の姿勢を反映している。
世界的な意義と今後の展望
韓国による包括的AI法の成立は、世界のAI情勢に重要な意味を持つ。欧州連合に次いで包括的なAI規制枠組みを採用した2番目の国として、韓国は、各国がAIガバナンスへの独自のアプローチを検討する際に参考にし得る新たな立法例を示した。
尹錫悦大統領の戒厳令宣言とその後の弾劾をめぐる政治的混乱にもかかわらず、この法律が成立したことは、AI規制の重要性に関する超党派の合意を示している。法案は2024年12月26日の国会本会議で、圧倒的な与野党の支持を得て可決され、AIの課題への対応における幅広い政治的合意を浮かび上がらせた。
今後を見通し、韓国当局者は、現行法制は完成品ではなく出発点だと認めている。多くの規定の詳細な実施は、下位法令と分野別ガイドラインに左右される。それらは、法律が2026年1月に完全施行されるまでの1年間の準備期間中に確定する予定だ。
韓国が異なる規制対象や分野の特性を踏まえ、関係省庁の専門性を調和させていくうえで、国家AI委員会の調整機能は極めて重要になる。個人情報や著作権から医療、防衛に至るまで、AI技術がすべての分野に広がる中、効果的なガバナンスには、複数の政府機関間の慎重な調整が必要になる。
AIに関する世界的な規範とガバナンス議論が活発化する中、AIの信頼性を確保するための規制における国際的な相互運用性と協力の必要性は、さらに高まっている。特にAIガバナンスにおいてイノベーションと安全上の懸念をどう両立させるかという点で、韓国のアプローチはこれらの国際的な議論に影響を与える可能性がある。
要点
- 韓国は、人工知能の開発、導入、利用を対象とする世界初の包括的AI法であるAI基本法を成立させた。
- この法律は、医療、金融、交通、政府サービスを含む11の重要分野で「高影響AI」を定義し、強化された監督と人間による介入能力を求めている。
- AI生成コンテンツには表示が義務付けられ、実際のものと誤認される可能性のあるコンテンツには目に見える透かしを、ウェブ툰やアニメーションなどの創作作品には目立たない表示を用いる。
- 売上高または利用者数の基準を満たす外国AI企業は、韓国内に現地代表を選任しなければならない。
- 法令違反に対する制裁は上限3000万ウォン（2万6200ドル）で、世界年間売上高の最大7％に達するEUの罰金より大幅に低い。
- この法律は、罰則より指導を重視する1年間の猶予期間を設け、コンプライアンス支援を求める企業のために専用ヘルプデスクを用意している。
- スタートアップは、コンプライアンス負担と法律の曖昧な表現に懸念を表明しており、正式なコンプライアンス計画があると回答したのは2％だけだった。
- この法律は、AI技術への信頼の基盤を築きながら、韓国を世界のAI主要国トップ3に位置付けることを目指している。
- 韓国のアプローチは、先進AIシステムの規制に用途別リスクではなく技術的基準を重視する点でEUと異なる。
- 下位法令と詳細なガイドラインに向けた1年の準備期間を経て、2026年1月に完全実施を開始する。
