人工知能に絶対に任せてはいけないこと
◾ 自動運転に関する公開セミナー
先日（ 9月20日 ）、弁護士会主催の自動運転に関する公開セミナーが行われたため出席した。内容そのものは、ほぼ旧知と言ってよく、自分にとってそれほど目新しい発見があったわけではないのだが、Q&Aセッションで少々気になる論点が出てきて、それがずっと気になっていた。今になって振り返ってみると、意外に本質的で重要な概念／思想の一端が氷山の一角のように顔を出していたのではと思えてくる。折角なので多少なりとも整理して、書き残しておこうと思う。
◾法律の完全執行社会の到来
人間が運転に関与しない自動運転車は、法律を完全に遵守することを前提として設計されるだろうから、スピード違反はしないと考えられる。これは人間だけがドライバーである現状とは非常に大きな違いだ。実際に運転経験のあるドライバーなら同意していただけると思うが、スピード違反をまったくしたことがないドライバーは限りなくゼロに近いと断言できる。しかもこの『スピード違反』は、他の車の流れを阻害しないように、流れに乗ることを意図した結果であれば、形式的には違反であることには変わりはないが、時にはそうすることで、全体の流れを乱さず、結果として渋滞や事故を抑止する効果が現実にあることも知られている。このような状況における『スピード違反』は検挙されることはまずないし、検挙されても注意程度で見逃してくれることが多い。それが暗黙の了解となっていることはベテランドライバーなら誰でも知っていることだ。だから、自動運転車のメリット/デメリットを語る際には必ず出てくるのが、人間のドライバーと自動運転車が混在した場合に想定される混乱（場合によっては事故）である。
だが、道路には自動運転車が大多数ということになれば、スピード規制の完全遵守ということも可能かもしれない。それについて今回のイベントの司会を務めた福井健策弁護士が述べた一言が非常に印象深く耳の奥底に残った。『法律の完全執行社会の到来』である。
実のところこれは、自動運転車に限らない。監視カメラは街のあらゆる場所に張り巡らされ、GPSによって位置は把握され、メールやSNSの発言も全て補足されようとしている。今後とも人間活動のあらゆる場所に人工知能等のアーキテクチャーが浸透し、果ては、犯罪を犯しそうな人間を特定して常に監視し、場合よっては犯罪を起こす前に捕獲する、映画の『マイノリティ・レポート 』*1のような一場面が本当に実現できそうな勢いである。（すでにMicrosoftが取り組み、かなりの精度が出ているという報道もある。*2）事前に捕獲できるくらいなら、法律の完全執行を実現することなど造作もないことだろう。
先日、とある監査の話を聞いていた時に、おやっと思ったのだが、この監査が大変細かいところまで正確に補足していることに驚いた。なんと会議に参加したメンバーの勤怠まで正確に把握して問題点を指摘しているのだという。具体的にどんなことが指摘されていたかは伏せておくが、これなら、従来は見つからなかったような重箱の隅を突くような問題が大量に見つかり、さぞ数多くの指摘が出てくることだろう。どうやらこのからくりは、情報収集／分析の部分に専用のソフトウェアを採用したことにあるらしい。確かにこれは監査する側にとって僥倖と言えるだろう。時間はセーブでき、効率も上がる。今後は監査の完全執行も可能になるかもしれない。だが、執行される側にとってはどうだろう。表立って楯つくことはできないにせよ、何か決定的な違和感があることを否定できないはずだ。
◾大岡裁き
自動運転車のスピード規制完全遵守について質問を受けた、中央大学の平野教授は、非常に興味深い見解を述べる。今後はもっと『大岡裁き』が行われるようになるべきだ、というのである。江戸中期の名奉行である大岡忠相の『大岡裁き』については、ここで詳しく説明するまでもないほど有名だと思うが、それでも一つだけ例をあげておこう。
ある時、ふたりの女がひとりの子を連れてやってきた。たがいに「自分こそこの子の本当の母親です」といって一歩もしりぞかない。
そこで大岡様はこう言った。
「子の腕を持て。お前は右じゃ。そちは左を持つがいい。それから力いっぱい引き合って勝ったほうを実母とする」女たちは子供の腕をおもいきり引っぱりはじめたが、子供が痛がって泣くので、一方の女が思わず手を放した。勝った女は喜んで子を連れてゆこうとしたが、大岡様は 「待て。その子は手を放した女のものである」 と言うのだった。
勝った女は納得できず、 「なぜでございます。勝った者の子だとおっしゃられたではありませぬか」 とはげしく抗議した。そこで大岡様はおっしゃった。 「本当の母親なら子を思うものである。痛がって泣いているものをなおも引く者がなぜ母親であろうか」
型通りの法律や決まり事を当てはめるだけでは、どこか納得がいかないで、それよりもっと大事なことがある気がすることがある。大岡忠相は、その『もっと大事なこと』（＝情理？）をわきまえた裁きを下すことで庶民から喝采を受けたと言われる。『大岡裁き』自体は、それを批判する向きもあるものの、法律の執行には、時に単純に技術的、形式的に行うだけでは済まない『何か』があることを教えてくれるのは確かだ。
平野氏はこの『大岡裁き』で意図するところを説明するために、英米法でいうところの衡平法（Equity)について言及していた。法律に馴染みのない人にはこちらの方が更に何が言いたいかわからないと言われてしまいそうだが、非常に大雑把に言えば、判例法の積み上げ（コモン・ロー）が導く判決だけでは、どうしても不自然さが残る（衡平を欠く)と考えられる場合に、裁判官が衡平法に基づき救済するということが起きる。これを称して『大岡裁き』と称したものと思われる。厳密に言えば、この両者の法理の源泉はかなり出自を異にしているから同じとは言えないが、平野氏の言いたいことは理解できる。
◾違和感の正体
そもそも、一見法律が完全に執行されれば社会は今より良くなると思われがちだが、それは大いなる誤解というべきだ。これは、このブログでも何度も取り上げてきた、『法化社会』（社会の隅々まで法的ルールが浸透し、公正な裁判を通じた紛争解決とそのインフラ整備が高度に実現した社会）の問題と通じるところがある。
この問題点については、以前、社会学者の宮台真司氏等の言説を参照させていただきながら、以下の2点をあげておいた。
1. 概念言語だけで物事が解決すると思い込む者が激増し、概念言語の外側には、音楽等の芸術、愛情、感情のような『概念言語ではないもの』があり、人間社会はその両方のバランスで成り立っていることが軽視されるようになってしまった。
2. 法的な、言語概念に偏った『安全』『安心』を安易にも止めた結果、些細な問題の解決でも安易に法律に丸投げし、共同体や個人どうしで行う人間的な的な問題解決能力を失わせ、共同体や個人間の信頼感や一体感を失わせ、社会や共同体が保持していた『安心感』やその源泉自体を消し去ることになってしまった。
日本は、70年〜80年代以降、この『法化社会』の方向に突き進み、現在ではその負の帰結によって、社会全体が泥沼にはまってしまったような状況にあるが、ここにさらに、人工知能のようなアーキテクチャーを導入して、『法律の完全執行社会』を招き寄せ、水も漏らさぬ『法化社会』を実現しようとしているのであれば、これははっきりと『ディストピア（ユートピアの正反対の社会）』に向かっている言わざるをえない。すでに形式的な法制度と日本の本来の法文化／法意識は乖離し始めているきらいがあるが、これが決定的な亀裂となり社会が解体してしまう恐れがある。
◾ 人工知能と人間の違い
第3世代の人工知能には莫大な可能性があることを否定するものではない。完全自動運転車の実現も時間の問題だろう。現状の仕事の多くも人工知能に置き換わっていき、人間の負担が減っていくことも必然だろう。それは一面、素晴らしい『ユートピア』を想起させるものだ。だが、人工知能が実現できることとその限界、人工知能と人間の相違を峻別して、人間がやるべきこと／できることは、人工知能に丸投げしないで、人間がその役割を十全に果たさないと社会は『ディトピア』に暗転してしまう。
人工知能がどんなに進化しても、人間の機能のうち、論理や理性を司る大脳皮質的な能力に限定されざるをえないが、一方、人間の脳は、動物と同じような旧皮質の部分が依然大きな部分を占め、感情はしばし理性的判断を押しのける。そもそも人間は身体を持ち、そのようなものの総合的な統一体として判断する存在だ。自分が得た情報をベースに常に独自の価値判断を行い、場合によっては、過去の情報蓄積の成果を飛び越える（そしてそれは創造力の源泉とも言える）。価値判断は常に身体的／生命的とならざるをえないが故に、人工知能がどんなに進化しようと、その判断とは一線を画すものだ。そして、まさに『大岡裁き』はこの人間の価値判断能力に依拠している。
囲碁や将棋、株価の予測、ロボットの動作等、価値判断の入る余地のない（少ない）領域であれば、人工知能は人間を上回る成果を成し遂げることになるだろう。だが、人間の価値判断に関わる問題を含む場合は、情報の収集や整理、仮設の設定等、人工知能の手助けを仰ぐことはあっても、最終的には人間が判断しないと決まらない領域は残り続ける。自動運転車のケースで言えば、周囲の運転環境の認識や動作に関わる部分は無限と言っていいほど進化していくことは必定だが、トロッコ問題*3のような人間の倫理が関わるような問題の解決には、人工知能に最終判断を任せることは決してできないということになる。カント主義的な原則は人間の判断をしばし左右し、その結果、５人を犠牲にしても１人を殺さない判断が出てきうる。身体を持たない人工知能がこの境地に辿り着けるとは考え難い。
◾ 今求められる態度
自動運転でもそうだし、その背後にある人工知能についても、そろそろ初期の熱狂がおさまって、逆に極端なほどの悲観論や嫌悪感等が出てくる時期だ。だが、そんな楽観と悲観の大波に乗って右往左往するのではなく、人工知能と人間との本質的な違いを十分に理解した上で、これをどのように役立て、共生していくのが良いかを現実的に考えていくことが今一番求められる態度というべきだろう。
