韓国の無料AI展開、アクセス拡大はリスク対策と両立できるか

公共AIサービス、構想から実地検証へ

韓国は、すべての国民が人工知能（AI）を無料で利用できるよう準備を進めている。学校の課題や医療、行政サービス、日々の判断に活用できるチャットボットやAIエージェントを、幅広い人々が使えるようにする構想だ。「AI for All（すべての人にAIを）」と名付けられたこの取り組みは、技術を広く普及させ、米国や中国との競争力を高めることを目指す。一方で、AIが社会生活に日常的に浸透するなか、安全対策はその普及に追いつけるのかという難題も浮き彫りになっている。

李在明（イ・ジェミョン）大統領率いる政府は、まずベータ版のサービスを開始し、来年以降、試験運用を恒久的な税金で賄う公共サービスに移行するかを検討する計画だ。提案されているサービスでは、SKテレコム、KT、カカオが率いる国内3つのコンソーシアムが開発した汎用AIツールを利用できる。政府は各グループに、負荷の高いAIシステムの学習や稼働に使われる専用チップ、エヌビディア製のB200 GPU（画像処理装置）を数百基貸与している。

政府は将来的に、政府関連サービスを通じて、医療予約や住居探し、税務相談を支援するAI仲介サービスの導入を構想している。複雑な書類手続きや長い待ち時間に苦労する人々にとって、公共サービスが利用しやすくなる可能性がある。一方で、誤りやプライバシー侵害、偏った提案が、生活に不可欠なサービスを利用する人々に影響を及ぼすおそれもある。

政府は2027年までの導入に2500億ウォンを充てており、これは今年度のAI予算10兆ウォンに上乗せされる。こうした規模は、AIの基盤を構築し、民間の有料契約を利用できる人だけでなく、広くアクセスできるようにする国家戦略を反映している。試験運用では、無料利用が有用な公共インフラにつながるのか、また、情報や質問を扱うシステムを国民が信頼できるのかが問われる。

なぜAI業界のリーダーは技術に警鐘を鳴らすのか

韓国の計画が進むなか、AI業界の著名人からは、急速な開発には深刻なリスクが伴うとの警告が相次いでいる。米AI企業アンソロピックのダリオ・アモデイ最高経営責任者（CEO）は、業界に開発の減速を求めてきた。アンソロピックで働き、オープンAIにも在籍した元エンジニアは、同社を退職した後、歯止めのない開発によって「私たち全員が近い将来に死ぬかもしれない」と「心から恐れている」と語った。ノーベル賞受賞者で「AIのゴッドファーザー」とも呼ばれるコンピューター科学者のジェフリー・ヒントン氏も、高度なシステムが人間の制御を離れれば、人類の存続を脅かす可能性があると警告している。

こうした警告が懸念する事態は、自律型兵器や機械によるサイバー攻撃から、大量失業まで幅広い。もっと身近なリスクとしては、精巧な偽画像や偽動画、自動化された差別的な判断、確信に満ちていても不正確な回答をするシステムへの依存がすでに問題となっている。公共サービスでの導入がこれらすべての危険を生むわけではないが、AIを大規模に使いやすくすることで、リスクにさらされる人を増やしかねない。

汎用AIシステムは、人間のように世界を理解するのではなく、データ内のパターンを見つけて回答を生成する。文章の作成や要約、情報の検索には役立つ一方、虚偽を事実のように述べることもある。行政や医療関連の場面では、利用者が回答を確認でき、誤りを正す権限を持つ担当者に連絡できる明確な手段が必要だ。

ソウルはどのような安全対策を講じているのか

韓国は、1月に施行された「AI基本法」に基づき、AI利用の拡大に対応するルールを整備している。この枠組みは、人間による監督、影響評価、合成コンテンツの明確な表示を定めている。こうした措置は、AI生成コンテンツを見分けやすくし、組織に対して、システム導入前に潜在的な被害を検討するよう求めるものだ。

国の資金で運営されるAI安全研究所にも、リスクの評価と技術面の監視役を担う任務が与えられている。その活動は、正式な規則と同じくらい重要になる。システムが安定して動作するか、機微なデータが保護されているか、重大な判断に利用者が異議を申し立てられるかを評価するためだ。影響評価は、現実の影響を検証し、問題が見つかった際に改善につなげて初めて有効となる。

政府サービスとの連携が計画されているため、責任の所在を明らかにすることが特に重要だ。AIアシスタントが誤った税務案内をしたり、医療予約の依頼を適切に処理できなかったりした場合、利用者はどの機関が責任を負い、どこに助けを求めればよいのかを知る必要がある。システムが国民と意思決定を担う職員との間の障壁になってはならない。人による確認が実質的な意味を持つのは、利用しやすく、迅速で、自動化された提案を覆すことができる場合だ。

無料で利用できても、運用に費用がかからないわけではない。公共機関は、計算処理やセキュリティー、保守、評価の費用を負担し、サービスが個人情報をどれほど保存するかも決める必要がある。政府による計算処理用ハードウェアやソフトウェアへの投資は、持続的な公共サービスを支える要素の一つにすぎない。監督や支援にも継続的な財源が必要となる。

雇用とディープフェイク悪用はすでに議論の焦点に

韓国が懸念する問題の一部は、すでに起きている被害に根差している。韓国銀行によると、15～29歳の就業者数は2022年6月から今年6月までに28万5000人減少した。同行は、その減少の94％が自動化の影響を強く受ける業種で起きたと推計している。この数字は若年層の雇用と技術変化が深く関わっていることを示すが、減少の原因がAIだけにあることを証明するものではない。景気動向や採用をめぐるその他の変化も雇用に影響を与える。

自動化によって特定の作業が置き換えられても、職業全体がなくなるとは限らない。それでも、初級業務が自動化されたり、雇用主が採用を減らしたりする労働者にとっては安心材料にならない。定型的な事務作業やサービス業務が従来、就職への入り口となっていた場合、若い労働者は特に影響を受ける可能性がある。AIの導入が広がるなか、政策担当者は雇用者数の総計だけでなく、仕事の質や採用動向も追う必要がある。

多くの韓国国民にとって差し迫った懸念は、犯罪目的での悪用、特に性的虐待を伴うディープフェイクだ。2020年に発覚したオンライン性搾取事件「N番部屋事件」やその後の事例を受け、2024年にはディープフェイク関連の法律が強化された。それでも、アムネスティ・インターナショナル韓国が最近開いたフォーラムで示された数字によると、昨年、警察はディープフェイク関連の犯罪を1553件記録した。

デジタル性犯罪の調査団体「チーム・フレイム」の代表、ウォン・ウンジ氏は、調査報道メディア「ニュースタパ」とともに、今年の大半を費やしてテレグラムのチャットルーム約50件に参加してきた。同氏は、AIツールによって匿名の加害者が増え、被害者の年齢が低下している実態を記録してきた。画像生成や顔の入れ替えを行うツールで、虐待的なコンテンツを作成しやすくなる一方、暗号化されたオンライン空間や匿名性の高い場は、捜査や責任追及を難しくすることがある。

刑事法は対策の一部にすぎず、被害の防止や支援も重要だ。被害者には画像の迅速な削除、被害申告に関する実務的な支援、さらなる拡散からの保護が必要となる。AIツールがより広く使われるようになるなか、公共の利用促進策では、本来の目的が無害であっても、システムが有害なコンテンツの作成や配布に悪用される可能性を考慮しなければならない。

教育現場ではAIの価値が別の形で問われる

教育も新たな摩擦の場となっている。昨年、政府がAI搭載教科書に1兆2000億ウォンを投じる計画を一時打ち出したことに対し、教育関係者が抗議した。懸念はソフトウェアが機能するかどうかにとどまらなかった。学習者が問題に取り組む前にシステムが答えを示すことで、生徒が何を失うのかも問われた。

抗議に加わった忠清南道の小学5年生担任、ソン・グンサン氏は、AIは「ただ答えを与えるだけ」で、「教育的な価値はあまりない」と述べた。この批判は教育の基本的な違いを示している。課題を終えることと、そのやり方を学ぶことは同じではない。難しい概念を説明したり、生徒に合わせて練習内容を調整したりするツールは役立つかもしれない。一方、読解や思考、作文を省いてしまうツールは、こうした能力を弱めるおそれがある。

読解力の低下への懸念が議論を急がせているが、AIが生徒の成績変化を招いた証拠とみなすべきではない。学校には、特定のツールが読解力や集中力、自主的な学習にどのような影響を与えるかを示す根拠が必要だ。授業をAIが支える場面と、学習過程から遠ざけるべき場面を選ぶうえで、教師にも役割が求められる。

教室でのルールは、一般向けチャットボットのルールと異なる場合がある。生徒には年齢に応じた保護、データ収集に関する明確な制限、自らの理解度を測る課題が必要だ。AIは教師の授業準備を支援したり、学習者に別の説明を示したりできるが、教育上の人間関係に取って代わることも、すべての生徒のニーズを確実に判断することもできない。

誰もが使えるAIは公共の信頼につながるか

「AI for All」は、AIへのアクセスを公共インフラと位置づける意欲的な取り組みだ。このモデルは、高度なツールを主に富裕層や大企業だけが利用できるという格差を縮める可能性がある。信頼できるアシスタントがあれば、情報を探し、定型的な書類を作成し、利用しにくいサービスにつながる手助けになるかもしれない。こうした恩恵はツールの質と、システムが機能しないときに人間から回答を得られるかどうかにかかっている。

誰もが利用できるようになると、設計上の選択がもたらす影響も変わる。民間のチャットボットに不具合があれば利用者に影響するが、公共サービスの不具合は人口のはるかに大きな割合に及びうる。システムが公的記録や行政機関の業務手順と連携すれば、情報漏えいや不正確な出力は一つの会話を超えて影響する可能性がある。厳格なプライバシー制限、独立した検証、システムの実績に関する明確な記録、不服申し立ての手段が、サービスへの信頼を左右する。

韓国には強力な技術産業があり、大規模な試験運用を進めるだけの資源もある。中心的な課題は、技術力に加えて、国民に対して説明責任を果たすサービスをつくることだ。そのためには、システムがどのようなデータを収集するのかを説明し、誤りの責任者を明らかにし、外部の検証に足る情報を公開する必要がある。また、利用者数や機能の数を成功の証拠とみなすのではなく、サービスが人々の役に立っているかを測ることも重要だ。

今回の導入は、誤りが現実の損失につながる分野で人間の判断を保ちつつ、公共投資によってアクセスを広げられるかを試すものとなる。韓国の法律と安全研究所は枠組みを提供するが、その価値はAIが教室や職場、政府機関に入るなか、実際にどう機能するかによって評価される。

要点

• 韓国はSKテレコム、KT、カカオが関わるコンソーシアム主導で、AIの無料試験運用を計画している。
• 政府はAIを恒久的な公共サービスとし、予約や税務案内などのサービスにつなげることを目指している。
• AI基本法は、人間による監督、影響評価、合成コンテンツの表示を義務づけている。
• 雇用をめぐる懸念には、自動化の影響を受ける業種に集中した15～29歳の就業者数の減少がある。
• AIツールを使った性的虐待への懸念が続くなか、昨年、警察はディープフェイク関連の犯罪を1553件記録した。
• 即座に答えを示すことで学習が妨げられるとして、教師らはAI搭載教科書に異議を唱えている。