AIに何を許すべきかを定める99条の提案
浙江大学の研究者らが、8章99条からなる人工知能法の専門家提案を発表した。中心となる考え方は、AIシステムに与える権限を、その信頼性と、実行するタスクがもたらす結果に見合ったものにすべきだというものだ。
目次
浙江大学版の提案第1.0版は、9月24日の発表会で披露された。同大学の公式開催通知によると、会合は2026年9月24日午後2時から5時30分まで、紫金港キャンパスで開催された。議題には、産業の発展とともに、権利保護や説明責任も盛り込まれており、提案が対応を目指す二つの要請を反映している。
AIの影響を受ける人々にとって、実務上の懸念は切実だ。モデルの運営者は、イラストレーターの作品を許可なく学習に使えるのか。言語モデルが有害で誤った回答をした場合、誰が責任を負うのか。自分の顔を無断で使った動画がネット上で拡散した後、どう証拠を保全し、救済を求めればよいのか。
企業が抱える懸念は別にある。重複するコンプライアンス要件、製品を利用可能にする前の煩雑な手続き、そして中小企業には負担が難しいコストだ。研究者らは、自らのアプローチが、こうした圧力に対応しながら権利を守ることを目指すとしている。
この文書は、議論とさらなる改訂に向けた学術的提案だ。最も練り上げられているのは、特定の状況におけるAIの評価方法で、システムに何ができるのか、どの程度確実に動作するのか、影響を受ける人々にとって何が懸かっているのかを結び付けている。
草案はどのように策定されたか
起草チームは提案の作成に約6カ月を費やし、集中的な改訂を5回行った。当初174条だった草案は99条となり、75条、約43%削減された。策定過程で本文が大幅に整理されたことを示しているが、条文数だけでは、個々の規定が利用者や企業にどのような負担を課すかは分からない。
研究者らは杭州のAI企業20社以上に加え、大手インターネット企業を訪問した。また、之江立法フォーラムでの議論、関係省庁・委員会との意見交換、数回にわたる専門家審査も研究に反映された。杭州のAI産業とイノベーション都市としての発展に関する二つの地方条例案の作業と並行して、研究が進められた。
主催したのは、浙江大学光華法学院、同大学デジタル法・ガバナンス研究所、浙江省立法研究院、浙江大学立法研究院。公式議事次第では、光華法学院の研究者である李文龍が提案の発表と説明を担当するとされた。
策定から発表までの経緯は次の通り。
- 約6カ月にわたり、チームは企業訪問や意見聴取を行い、5回の改訂を重ねた。
- 9月24日、浙江大学で提案を発表。公式通知では開催年を2026年としている。
- 会合後、チームは寄せられた意見を取り入れ、さらなる改訂版を作成する計画を示した。
提案規則を支える三つの問い
浙江大学デジタル法・ガバナンス研究所の所長、孫暁霞は、この枠組みを「実行能力」「認知成熟度」「タスクの性質と影響」という相互に結び付いた三つの要素で説明する。簡単に言えば、AIシステムに何ができるのか、どの程度信頼できるのか、そしてその判断がどれほど重要なのかという問いだ。
孫は、中国語でAIリスクの要因について次のように説明した。
人工知能のリスクは、機械の能力の高さから生じるのではなく、能力、認知、タスクの間の不適合から生じると考えています。
システムは、人が介在せずに長い一連の操作を実行できても、通常とは異なる状況の認識に苦慮することがある。そのようなシステムに人の安全に関わるタスクを任せれば、行動の自由度と、異常を見極める能力との間に危険な隔たりが生じる。
そのため提案は、技術に単一のラベルを付けるだけではなく、システムの具体的なバージョン、想定される用途、動作環境を規制当局が調べることを想定している。同じ基盤技術でも、タスクが異なれば必要な管理措置も異なり得る。
能力と信頼性を分けて評価
提案する能力尺度は、「支援」「限定的自動化」「高度自動化」「自律実行」の4段階。評価では、システムがどの程度自律的に動くか、判断がどこまで広く影響するか、どのツールにアクセスできるか、どれほど長時間連続して稼働できるか、デジタルまたは物理的な環境を変化させられるかを考慮する。
ツールへのアクセスが重要なのは、行動を提案するだけのAIシステムと、実行する権限を与えられたシステムでは、及ぼす影響の範囲が異なるからだ。他のソフトウェアや機器を操作する許可があれば、誤った回答が現実世界で一連の行動を引き起こしかねない。
認知成熟度も、基礎、一般、高度、厳格管理の4段階で評価する。正確性や一貫性、通常と異なる入力を認識して誤りを修正する能力、サイバーセキュリティ、追跡可能性、人が制御を引き継げる条件などを調べる。
もう一つの要素は、信頼度の較正だ。簡単に言えば、システムが示す自信の度合いと、実際に正答する頻度が一致しているかを確かめることだ。頻繁に誤るのに確信があるように振る舞うシステムは、利用者が監督するのが特に難しい。
この枠組みでは、重要な出力を説明できるか、定められた境界内でシステムが動作を保てるかも調べる。能力と信頼性を分ければ、自律的に行動できるほど強力でも、慎重な対応が必要なタスクを任せるには十分な信頼性がないシステムを見分けられる。
どのタスクがより厳しく審査されるのか
提案では、タスクを影響度に応じて「低」「一般」「高」の3段階に分類する。影響を受ける権利の重要性、被害の発生可能性と深刻度、影響を受ける人数、影響の継続期間、結果を覆せるかどうか、救済を受けられるかどうかなどを考慮する。
脆弱性も重要となる。決定に異議を申し立てる力が限られている人に影響する判断は、同様の判断でも、すぐに支援を受けられる人に関わる場合より慎重な検討が必要になることがある。
生命・健康、個人の自由、人間の尊厳、平等な機会、重要な財産上の利益、教育、雇用、社会保障、司法、行政上の法執行、公共の安全に関わるタスクは、高影響と推定される。また、多数の人々に重大な影響を及ぼし得るタスクも同様に扱う。
提案はまた、影響度の分類にかかわらず、禁止されたAIの利用を開発、導入、使用してはならないとしている。提案とともに公表された説明には、禁止される利用の詳細な一覧や、冒頭で挙げた著作権、誤った出力、顔の置き換えをめぐる問題に対する具体的な法的回答は示されていない。
医療の事例で適合の原則を説明
孫は、システムに任せる仕事が技術力と同じくらい重要であることを示す例として、医療画像や病理分析を挙げた。AIは大量の画像や医療データを素早く処理できる一方、難しい症例や通常とは異なる状況では、推論能力に限界が残ることがある。
適切なタスクを割り当てるには、両方の特性を考慮する必要がある。難しい診断をシステムに全面的に任せ、その判断を過度に信頼すれば、この枠組みが解決を目指す不適合が生じる。
孫は中国語で、その狙いを次のように述べた。
適合を求めることは、単に制限を課すこととは異なります。能力、認知、タスクの間で最適な適合を目指すものです。
難度の高いタスクで十分な性能を発揮できないシステムは、廃棄するのではなく、より複雑でないタスクに再配置できるというのが孫の見方だ。実務上の選択肢は、無制限の利用を認めるか、利用を全面的に禁止するかの二択ではない。当局や運営者は、タスクやシステムの権限、人の関与の度合いを調整できる。
病院にとって、このアプローチは、AIに具体的にどの業務を任せるのか、その周囲にどのような安全策を設けるのかに注意を向けるものとなる。患者にとって中心的な懸念は、判断の重大さに応じた役割がシステムに与えられているかどうかだ。
AIの変化に応じて承認も見直す必要
提案するガバナンスのプロセスは、研究開発、テスト、導入、運用、改良、撤回の6段階を対象とする。システムの能力や利用状況は導入後に変わる可能性があるため、分類は全段階を通じて継続する。
モデルの更新によって、システムが実行できる行動の幅が広がることがある。新たな環境への展開により、判断の影響を受ける人や、関わる利害の重要性が増す可能性もある。新たなデータによってモデルの挙動が変わり、以前のテストでは分からなかった形で信頼性が低下することもあり得る。
提案は、システムまたはタスクが変わった場合の再評価を求めている。評価を具体的なバージョン、目的、動作環境に結び付けることで、いずれかの要素が変わった際に運営者が義務を見直す理由を明確にする。
孫は、適合の原則が法規則の指針となり得る分野として、分類、義務の割り当て、評価、高影響用途の特定、規制の強度、リスク管理、法的責任、時間の経過に応じた調整の8つを挙げる。これらの判断を一つの枠組みで結び付け、AIガバナンスの一貫性を高めることが、提案の主な狙いだ。
権利保護と企業の義務は細部で交わる
イラストレーター、誤った回答、偽造動画をめぐる問題は、技術的なテストにとどまらない説明責任の重要性を示している。補償や有害なコンテンツの削除を求める人には、自らが受けた被害から責任を負う当事者へとつながる、実行可能な手段が必要だ。
提案は、法的責任を適合の枠組みに位置付ける。システムが割り当てられたタスクに適しているかどうかが、義務や説明責任をめぐる検討に関わることになる。ただし、評価結果と既存の民事責任規則との関係は、さらなる詳細な検討が必要な課題の一つだと孫は述べている。
認知成熟度をどう検証するか、能力と信頼性、タスクの要求との隔たりがどの程度あれば不適合と判断するかも、研究者らが具体化する必要がある。そうした判断が、企業による枠組みの適用の一貫性や、規制当局が評価をどれだけ効果的に検証できるかを左右する。
発表会の議事次第は、実務上の相反するニーズを同じプログラムに盛り込んだ。産業分野のセッションには、学術・技術関係者とともに、美団と抖音の法務専門家が名を連ねた。権利と説明責任を扱うセッションには、アリババのコンプライアンス部門責任者、弁護士、大学研究者が挙げられていた。参加者の顔ぶれは主催者が幅広い視点を求めたことを示しているが、議事次第から、参加者が草案について共通の立場を取っていたとは判断できない。
中小企業にとって具体的な課題は、必要となる評価の数、提出しなければならない証拠、製品の開発に伴う義務の変化だ。AIの影響を受ける人々にとって重要なのは、そうした義務が被害の予防に役立ち、問題が起きた際に実際に利用できる救済につながるかどうかだ。
研究チームは、会合で寄せられた意見をもとに提案を改訂する予定だ。今後の中心課題は、適合の原則を、実際の紛争や製品に関する判断で適用できる検査方法、基準値、責任規則へと具体化することにある。
要点
- 浙江大学のAI法専門家提案は8章99条で、当初の174条から整理された。
- この枠組みは、システムの実行能力、認知上の信頼性、割り当てられたタスクを結び付ける。
- 健康、自由、雇用、教育など、影響の大きいタスクは高影響と推定される。
- 評価は開発・利用の全サイクルを対象とし、システムやタスクが変われば見直す。
- 学術的提案は今後も改訂され、検査方法、基準値、責任規則のさらなる具体化が必要となる。
