【BOOK】『有罪、とAIは告げた』中山七里：著 想像と創造の間で
AIが人を裁く時代はもうすぐそこに来ているのかもしれない。
あらゆる業界・業種においてコスパ・タイパが叫ばれる昨今、chatGPTをはじめとした「生成AI」が現場に導入され始めている。
大量のデータから最適な組み合わせを提示するその能力から、仕事の効率化・迅速化が必要とされる場面では重宝されている。
もし、裁判官の業務をAIが代わりにできるのなら、大量の法律知識や過去の判例などを「深層学習」し、最適な「判決」を導き出せるかもしれない。
人が人を裁く時代から、AIが人を裁く時代になるのか。
一歩、いや、半歩先のリアルを描くリーガルサスペンス。
緊急出版！ 人工知能は罪を裁けるのか！？
東京地方裁判所の新人裁判官・高遠寺円は、日々の業務に忙殺されていた。公判、証人尋問、証拠や鑑定書の読み込み、判例等の抽出、判決文作成と徹夜が続く。
東京高裁総括判事の寺脇に呼び出された円は、ある任務を命じられる。中国から提供された「AI裁判官」を検証するというものだ。〈法神2〉と名付けられたその筐体に過去の裁判記録を入力する。果たして、〈法神〉が一瞬で作成した判決文は、裁判官が苦労して書き上げたものと遜色なく、判決もまた、全く同じものだった。業務の目覚ましい効率化は、全国の裁判官の福音となった。しかし円は〈法神〉の導入に懐疑的だった。周囲が絶賛すればするほどAI裁判官に対する警戒心が増す。
そんなある日、円は18歳少年が父親を刺殺した事件を担当することになる。年齢、犯行様態から判断の難しい裁判が予想された。裁判長の檜葉は、公判前に〈法神〉にシミュレートさせるという。データを入力し、出力された判決は――「死刑」。ついに、その審理が始まる。
罪は、数値化できるのか。裁判官の英知と経験はデータ化できるのか。連載、即緊急出版！ 目前に迫るあり得る未来に、人間としての倫理と本質を問う法廷ミステリー。
AI裁判官の現実味
少し古い話題だが、東京大学でchatGPTを裁判官にした模擬裁判イベントが行われたことがあった。
chatGPTがローンチされて誰でも使えるようになったのは2022年12月。
それから数ヶ月しか経っていない時期に、もうこんな事例が現れたことにも驚いた。
ChatGPTが裁判官？AIに裁かれる未来、受け入れますか｜NHK（https://www3.nhk.or.jp/news/special/sci_cul/2023/05/special/ai-judgement/）
模擬裁判では、架空の刑事事件をchatGPTが裁判官になって判決を出すという。
架空の刑事事件は次のようなケース。
元交際相手Aから嫌がらせを受けた女性Bが、現在の交際相手Cに相談したところ、交際相手Cが元の交際相手Aを殺害し、女性Bも殺害に共謀したとして殺人の罪に問われる、といった内容だ。
検察官、弁護人、被告人は人間が担い、質疑応答を繰り返したのち、chatGPT裁判官が出した判決は、「無罪」。
状況等から女性Bが元交際相手Aに憎悪の感情を抱いていたことは認めたが、殺害について具体的な計画性があったわけでもなく、共謀についても確定できる証拠はない、とした。
それを「傍聴」していた人たちの感想は、そのまま現時点でのAIに対する危うさを示していた。
「AI裁判官は被疑者や被害者の見た目に影響されることもないので、公平な裁判ができるのではないか」
「AI裁判官がどういう思考で判決を出したのか、ブラックボックスな部分があるので、実際の裁判だと被告は納得できないのではないか」
「人間の判決とAIの判決を比較できるといいのではないか」
AIを裁判に活用するのであれば、まずは事務作業の効率化や省力化という部分から活用されるだろう。
やがて事務作業だけでなく、裁判業務の核となる業務への活用も進められるとは思うが、人が人を裁くという「神の領域」に触れる行為であると考えれば、まだまだ危うくて慎重にならざるを得ないだろう。
本作では、中国で開発された「AI裁判官」である「法神2号」を日本の裁判所が試験的に導入する、という世界が展開される。
実際に「ロボット裁判官」が部分的に導入されているエストニアの事例なども紹介されている。
政府業務のほとんどを電子化しているエストニアでは、7000ユーロまでの契約上の紛争に関する少額訴訟に限ってではあるが、ロボット裁判官が導入されており、裁判のスピード化を図っている、と2019年の記事にある。
人工知能が担う新たな領域――エストニアの「ロボット裁判官」とは？ | AMP[アンプ] – ビジネスインスピレーションメディア（https://ampmedia.jp/2019/04/14/robot-judge/）
エストニア在住の方の記事のようだ。
（他の記事も欧米のAI関連情報が多く読み応えがある。大津陽子 | AMP[アンプ] – ビジネスインスピレーションメディア https://ampmedia.jp/author/yoko-otsu/ ）
その後、2024年時点でもまだロボット裁判官が他の規模の裁判には活用されてはいないようだ。
それはやはり東京大学の模擬裁判での傍聴人の感想にもあったように、AIのブラックボックスな振る舞いが人の人生を左右する裁判という場における振る舞いとしては適切ではない、という懸念からだろう。
判決を出すまでの過程を、論理的に明確に表現できなければ、被告も原告も納得できないだろうことは容易に想像がつく。
また、アメリカのコーネル大学での研究において、AIを司法判断のツールとして活用するにあたって、大規模言語モデル（LLM）では、アフリカ系アメリカ人が使うような英語を使う人物に対して、有罪判決を下す傾向が強い、という結果が出ているという。
これは、AIを活用する上での重大な懸念材料であるとともに、これによって、AIが発し、人間が受け取るフィードバックによって差別や偏見が助長されてしまった、ということだ。
これは、AIを使う側であるはずの人間が、AIから出力された情報によって思考や行動が変わってしまうという、極めて重大な問題である。
「AI裁判官」は黒人に死刑を宣告しがち…差別的な行動を取るAIの登場で問題視されていること（小林 啓倫） | マネー現代 | 講談社（https://gendai.media/articles/-/126566?page=4）
前述の東京大学での模擬裁判の事例でも、AI裁判官を構築する上での懸念点が浮き彫りになっていたという。
現実の裁判では、検察官、弁護人の順番で主張を述べ、最後に裁判官が判決を言い渡すことになっている。
この時、検察官が「有罪」を主張し、弁護人が「無罪」を主張すると、判決は「無罪」になる傾向が強いという。
次にデータの内容は変えずに、先に弁護人が「無罪」、検察官が「有罪」と主張すると、判決は「有罪」に傾くという。
内容ではなく順番で判決が変わってしまうという問題が出てきてしまったのだ。
東京大学ではこうした問題に対して、さまざまなアプローチを行なって、改善を繰り返し、公平な判決をアウトプットできるAI裁判官を目指してイベントを行ったようだ。
本作ではこうしたAIによる危うさとともに人間側の過ちについても、炙り出している。
作中ではAIとの向き合い方と人間側の振る舞いを、スマートフォンに置き換えて表現している箇所がある。
いややスマートフォンは人々の生活になくてはならないものになっている。
何をするにもスマホを介して情報を得たり、アプリを活用するなどしている。
だが、一方で人間自身があまり深く物事を考えなくなってしまっているのではないかと警鐘を鳴らすシーンがあるのだ。
人間は自分たちが思っているほどには勤勉ではなく、怠惰な生き物であるというのだ。
裁判官はAIに代替できるのか？
本作では「裁判官はAIに代替できるのか？」という大きな裏テーマが作品全体に通底している。
本作が驚異的なのは、その大きすぎる問いに、明確に答えを出している点である。
実際に裁判官としてご活躍された方の記事にも、裁判官がAIには代替できない存在である、あるべきであるとの考えが見受けられる。
AI時代の裁判官 | N&Aニューズレター | ナレッジ | 西村あさひ（https://www.nishimura.com/ja/knowledge/newsletters/thought_leadership_241216）
しかしながら、人間の裁判官は、最後まで必要であって、決してＡＩが代替できるものではないと確信している。 まず、ＡＩ学習の対象が既存の判決のみであれば、従前の判例を変更することは容易ではない。法の創造は、社会の変化に対応して実定法の基準を創造的に形成していくべきものであり、これは人間にしかできないことだと思う。
（中略）
最近でも、非嫡出子相続分違憲判決や待婚期間違憲判決等の判断がされたが、家族の関係や親子関係、価値観の多様化という社会の変化を的確にとらえる判断も、人間の裁判官こそが可能なことである。
AIは人間には真似ができないほど大量の情報をインプットし、その中から確率的に「正しいであろう答え」をアウトプットしているに過ぎない。
裁判には、過去からの判例だけでは対応しきれないものがたくさんある。
新たな解釈や人間の感情の機微が必要な場面もあり、それがのちの司法制度をも変えていくこともあるのだ。
そうした「創造性」「想像性」こそが、人間にできることであり、人間にしかできないことなのだろう。
物語は終盤、この人間の創造性をキーとして「どんでん返し」が繰り広げられる。
デジタルは「0」と「1」の世界であり、そのゼロとイチの間には何もない。
だが我々人間には、ゼロとイチの間にある無限の世界を「想像」し、新たな解釈を「創造」できるのだ。
有罪、とＡＩは告げた
生成AIで世界はこう変わる (SB新書)
シンギュラリティはより近く 人類がAIと融合するとき
生成ＡＩ時代の「超」仕事術大全
生成AI・30の論点 2025-2026 (日本経済新聞出版)
