偽造判決が裁判所への提出書類に
韓国の最高裁判所は、人工知能（AI）に関連する虚偽の法律引用について、裁判官を対象に初の調査を公表した。民事、家庭、行政事件を担当し、この質問に回答した裁判官のうち196人（80.7％）が、存在しない判例への言及に遭遇していた。裁判所に提出された書類には、実際の最高裁判決に見せかけた捏造判決が含まれていた例もあった。
目次
10月6日から16日に実施され、11月2日に公表されたこの調査には、全国の裁判所から裁判官360人が回答した。また、弁護士だけでなく、本人訴訟を行う人も、虚偽の法律上の引用を含む書類を提出していたことが分かった。
最高裁の行政機関である裁判所行政処は、民事訴訟法と刑事訴訟法の改正について、法務省など関係機関と協議する方針だ。協議では、不正確な書類の提出に対する過料などの措置について、法的根拠を設けることが議題となる。
裁判官の多くは対策の必要性を強く訴えた。91.7％が制度的な措置が必要と回答し、そのうち64.8％は「非常に必要」とした。裁判所行政処は、虚偽の引用の確認に裁判官や相手方当事者の時間と費用がかかり、迅速な裁判を受ける権利が損なわれる恐れがあると述べた。
調査結果が示すもの
最も多かった問題は、実在しない判決への言及だった。実在する判決について、内容が改変されていたり、趣旨が誤って伝えられていたりする例にも裁判官は遭遇していた。判例とは、法律の適用方法について主張を裏付けるために引用される、過去の裁判所の判断を指す。
調査では、回答者は虚偽の引用を複数選択できた。民事、家庭、行政事件を担当する裁判官の回答は次の通り。
- 196人（80.7％）が、実在しない判例への引用に遭遇。
- 159人（65.4％）が、判例の内容を誤って伝える記述に遭遇。
- 41人（16.9％）が、虚偽または存在しない法律・規則への引用に遭遇。
- 10人（4.1％）が、虚偽または存在しない学術論文などの出版物への引用に遭遇。
各割合は、質問ごとの回答者を母数としており、調査全体には裁判官360人が参加した。裁判官は複数の種類の誤りを報告できたため、各項目は重複している。
実在しない判例を報告した裁判官は、判例の内容を誤って伝える記述を報告した裁判官より37人多く、196人対159人だった。この結果は、確認作業には引用された判決を見つけることと、その判決が主張を裏付けているかを読むことの二つが必要だと示している。
虚偽の引用はどのような形で現れたか
裁判官によると、最高裁判決の形式を模したAI生成文書が提出されていた。また、見慣れない法律上の主張に、検索しても見つからない最高裁事件番号が添えられた書類もあった。
事件番号は通常、特定の訴訟手続きや判決を特定する手掛かりとなる。その番号から判決を確認できない場合、裁判官や相手方当事者は、主張の根拠となる判断を特定するために余分な時間を費やさなければならない。
実在する判決について、裁判所の判断内容が改変されていたり、本来の趣旨から外れた形で引用されたりする書類もあった。事件番号を確認するだけでは、問題は解消しない。提出書類の主張と実際の判決を照合する必要もある。
AIツールとの会話内容や訴訟戦略に関する文言が含まれた書類もあった。こうした記述は、書類の作成にAIが使われたことを裁判官が見て取れる形で示していた。
調査は、AIの「ハルシネーション」、つまり誤った情報が真実であるかのように示される現象への懸念を調べた。裁判書類では、もっともらしい法律用語や事件番号、判決の形式が使われることで、捏造された事件が本物らしく見えることがある。
弁護士と本人訴訟の当事者、双方が誤りを提出
虚偽の判例やその他の不正確な資料を誰が提出したか尋ねたところ、この質問に回答した裁判官のうち164人（69.5％）が当事者本人を挙げた。また136人（57.6％）が、代理人や弁護人として活動する弁護士を挙げた。
164人という数字は、訴訟当事者が提出した虚偽の引用に遭遇した裁判官の数を指す。調査全体を通じて、裁判官は訴訟手続きの中で受け取った不正確な資料について回答した。
本人訴訟の当事者と弁護士の双方から虚偽の引用に遭遇した裁判官もいるため、回答グループは重複している。これらの数字は、そうした経験を報告した裁判官の数を示すもので、調査の焦点は不備のある書類すべての件数ではなく、裁判官が問題にどれほど直面したかにあった。
弁護士が関与している点は、検証義務の提案に特に重みを持たせる。専門家が代理人となる場合、法律の知識を持つ人が依頼人の主張と裁判所の間に入る。それでも、質問に回答した裁判官の半数以上が、弁護士の提出した不正確な資料に遭遇していた。
本人訴訟を行う人が直面する実務上の課題は異なる。弁護士の助けを借りずに主張を準備し、相手方への対応もしなければならない。裁判所行政処は、こうした当事者にとって、捏造判決や実在する判決の誤った説明を見抜き、異議を唱えることは特に難しい可能性があると警告した。
捏造された判例の確認は誰が負担するのか
裁判所行政処は、虚偽の引用が相手方に追加の作業を押し付ける可能性があると述べた。見慣れない判例を含む書類を受け取った側は、その判例を検索し、引用内容を確認し、誤りを説明する反論を準備する必要が生じることがある。
そのため、虚偽の引用がもたらす負担は、記載された書類だけにとどまらない。弁護士を依頼している当事者には追加の法的作業が必要となる場合があり、弁護士のいない人は、実在しない判決への参照を自分の時間を使って調べなければならない。
裁判官も同様の負担に直面する。判決が実在するか、内容が改変されているかを確認する時間は、紛争の審理にかかる時間に上乗せされる。裁判所行政処は、この追加作業が手続きの長期化や司法へのアクセスの遅れにつながると指摘した。
虚偽の引用が権威ある最高裁判決のように見える場合、懸念は特に具体的になる。最高裁判決に見えることで相手方は慎重な調査を迫られ、裁判所も、それを前提とする法的主張を検討する前に引用の問題を解決しなければならない。
四つの対策に過半数が賛成
裁判官は複数の対策案を支持し、主な案はいずれもほぼ同水準の支持を集めた。過料の法的根拠を設ける案には215人（61.4％）が賛成した。引用した判例などを確認する義務を設ける案には214人（61.1％）が賛成した。
AIの利用を開示するよう求める案には212人（60.6％）が賛成した。懲戒手続きへの付託を含む弁護士への制裁案は、194人（55.4％）が支持した。
過料の法的根拠を設ける案とAI利用の開示案の賛成者数の差はわずか3人で、215人対212人だった。この僅差は、回答者が一つの対策に絞るのではなく、複数の方法で問題に対処することを支持していたことを示している。
各案は、裁判書類の準備や提出の異なる段階に対処するものだ。検証義務は法律資料の確認を求める。開示によってAIの利用を裁判所に伝える。過料は提案されている法制度の下で金銭的な責任を生じさせ、懲戒手続きへの付託は弁護士の行為を関係する専門職の手続きに委ねる。
繰り返し虚偽の引用を行うことは、懲戒手続きへの付託を検討する行為の一つに挙げられた。裁判所行政処の提案は、提出書類の正確性に対する責任と、不正確な資料が裁判所に提出された場合の措置を組み合わせている。
法改正の協議とオンライン指針を検討
裁判所行政処は、法務省など関係機関と民事訴訟法・刑事訴訟法の改正について協議し、国会に意見を提出する方針だ。改正案では、過料などの措置に法的根拠を設けることを想定している。
裁判所行政処が示した今後の手順は次の通り。
- 10月6日から16日：全国の裁判所の裁判官が調査に参加。
- 11月2日：調査結果を公表。
- 今後：関係機関と協議し、法改正に関する裁判所行政処の意見を国会に提出。
協議や法案の採決、過料の導入時期は示されていない。過料の想定額や適用条件の詳細も、発表された計画では未定のままだ。
裁判所行政処は、電子訴訟サイトでAIの利用に関する指針を公表することも検討している。弁護士や訴訟当事者が裁判手続きを行う場に助言を掲載し、AIを使って作成した資料の正確性を確認できるようにする狙いがある。
調査結果は、指針で実務上優先すべき点として、判例の実在と内容の両方を確認する必要性を示している。実在する事件番号は判決の特定に役立ち、判決を読むことで裁判所が実際に何を述べたかを確認できる。裁判官が遭遇した事例は、両方の確認が重要な理由を示している。
要点
- AIに関連する虚偽の引用について最高裁が初めて実施した調査には、裁判官360人が回答した。
- 質問に回答した民事、家庭、行政事件担当の裁判官のうち、80.7％が実在しない判例への引用に遭遇していた。
- 裁判官は、最高裁判決の捏造、検索できない事件番号、改変された判決、提出書類に残されたAIとの会話文を報告した。
- 虚偽の資料は、訴訟当事者本人と代理人の弁護士の双方から提出されていた。
- 回答者の91.7％が制度的な対策を支持し、過料、検証義務、開示、弁護士への制裁はいずれも過半数の支持を得た。
- 裁判所行政処は、訴訟手続法の改正に向けた協議を予定し、電子訴訟サイトでの指針公表も検討している。
