日本的シンギュラリティ待望論を超えて
■ 大量の書評が書かれている新井紀子氏の新著
発売からだいぶん時間が経ってしまったが、数学者の新井紀子氏の新著『AI vs. 教科書が読めない子どもたち』*1 は非常に評判が良く、この種の書籍としては異例の販売実績を誇り、版を重ねているという。私も発売と同時に読ませていただき、何か書いておこうと思いながら、ついタイミングを失してしまった。だが、どうやらこのタイミングの遅れには思わぬ効用もあったと言えそうだ。というのも、多くの人に注目された本書には非常に多くの書評が書かれていて、それが第三者視点として大変参考になる。
書評の中には、多くの批判も含まれ、それこそ新井氏が本書で述べる、日本人の読解力の低下の証左と言えそうなものも多いが、それでも、それなりの論拠を持つ『断固たる批判者』も少なくない。断固たる批判者とは一体誰のことなのか。どうしてそのような断固たる批判者が出て来るのか。今回は主としてその『批判者』に注目して考察を進めてみたい。そうすることで、見えてくる問題は、意外に根深く、かつ重要に思えるからだ。
■ シンギュラリティは来ない？
新井氏は本書の前半で、『シンギュラリティは来ない』と断言する。これについては、すっきりと納得できたという感想が非常に多い一方で、少なからず批判も招いたようだ。特に目につくのは『そもそもシンギュラリティの定義が間違っている』という類の批判だ。本書をよく読めば、そこのところは主要な争点とは言えず、しかも、そこで脊髄反射して止まってしまうと、もっと大事な論点に関わる議論が深まっていかないと思われる。よって議論を噛み合わせるべく、少し補足的に代弁すると、ここは、次のように述べるべきところだと考えられる。
『シンギュラリティの議論では、近々、人工知能が人間の知的能力を全ての点で凌駕する時が来る、という理解をしている人が非常に多いようだが、少なくとも現在の人工知能が達成できているのは、数学／数式に翻訳できることだけである。ところが人間の知的能力や認識能力には数式には翻訳できない領域も大きく（どこまで大きいのかまだ解明できてさえいない）、従ってそういう領域まで含めて人工知能が人間を凌駕するという言説には無理があり、その意味でのシンギュラリティは来ない』
そして、このことをさらに読者に納得してもらうために、新井氏が『数学』について詳しい説明を加えている部分も大変参考になる。
論理、確率、統計。これが4000年以上の数学の歴史で発見された数学の言葉のすべてです。そして、それが、科学が使える言葉のすべてです。次世代スパコンや量子コンピューターが開発されようとも、非ノイマン型と言おうとも、コンピューターが使えるのはこの３つの言葉だけです。（中略）私たちの知能の営みは、すべて論理と確率に置き換えることができるでしょうか。残念ですがそうはならないでしょう。（中略）数学が発見した、論理、確率、統計にはもう一つ決定的にかけていることがあります。それは「意味」を記述する方法がないということです。（中略）人間なら簡単に理解できる、「私はあなたが好きだ」と「私はカレーライスが好きだ」との本質的な意味の違いも、数学で表現するには非常に高いハードルがあります。
『AI vs. 教科書が読めない子どもたち』より
私をはじめとするとする、文系学問に多少なりとも親しんだ者にとっては、新井氏の説明ですべてが腑に落ちて、さらなる議論は不要に思えるはずだ。というのも、基本的には『論理、確率、統計』では人間の意識や心の領域（特に、主観的な意識体験や心的生活のうち内観によって知られうる現象的側面、すなわち『クオリア』）のことは記述しきれないことは言うまでもなく、その膨大な記述しきれない領域に取り組んできた長い人類の知的営為にこそ人間の人間たる所以があることを確信しているからだ。
■ それでもシンギュラリティは来る？
しかしながら、おそらくそれでも納得できない人達もいる。しかもその数はかなり多そうだ。そして、その人達を論破することは思った以上に難しい。そういう人達の人工知能に関わる典型的な物言いは、次のようなものになると考えられる。
『人間の脳も電気信号と化学変化によって動いているから、全てコンピュータで再現できる』
このような主張／信念の背後には本人が意識しているかどうかは別としても、『物理主義』あるいは『要素還元主義』および『因果的思考』として括られるような思想があると考えられる。
物理主義とは、この世界の全ての物事は物理的であり、また世界の全ての現象は物理的な性質に還元できるとする立場のことを言う。人工知能の文脈で言えば、知能の中で、物理的説明が成り立たない心的なものの存在を否定する。そして、要素還元主義および因果的思考に基づけば、現象はすべて個々の要素に還元でき、要素相互間に確固とした因果関係が存在していると考え、対象を分解し、分解された部分の因果関係を見れば元の複雑な全体の性質や振る舞いも理解できるはず、ということになる。
■ 近代科学は限界に突き当たったはずだったが・・
この考え方は、19世紀末くらいまでの近代科学のベースにあって、技術の進歩に大いに寄与したことは確かだ。しかしながら、ニュートン物理学のように、要素還元主義の手法が馴染む領域はともかく（そもそも要素還元主義は近代物理学から借用してきた概念とも言える）、心理学はじめ、歴史学、社会学、言語学等の人間の『心』に関わる社会科学にまで応用されるようになると、その欠陥や限界が随所で指摘されるようになる。中でも批判者として有名かつその後の影響力が甚大だったのは哲学者のフッサールで、彼は、近代科学の発想の基礎にある、『客観的な世界があるのだという暗黙の想定』を否定して『現象学』*2を構築した。そして現象学は20世紀の哲学の新たな、そして巨大な流れを形成することになる。
当の自然科学の分野でも、分解してしまうと本質が抜け落ちてしまうもの、全体としての挙動は個々の要因や部分からは明らかでないような（『複雑系』等）現象が続々と指摘されるようになる。物理学においても、巨視的現象を論じる古典物理学では要素還元主義がベースとなっていたが、微視的現象を論じる量子物理学が進歩することによって、微視的現象は要素還元主義的なアプローチでは解明できないことがわかってきた。
このように、20世紀に至って近代科学は限界に突き当たった、というのが、哲学史／科学史の『常識』といっていいと思うが、ただ、現実には、『要素還元主義＋因果的思考』を乗り越える手法が完全に確立したわけではなく、まして、一般人の世界観として浸透しているとは言い難い。
■ いまだに一般の組織内での主流は要素還元主義
例えば、通常のビジネスの現場でも、まず社員教育は要素分解に基づく『論理的思考』を鍛えるところから始まる。マニュアルも作りやすくその成果は試験等を通じて数値評価できるから、企業組織においては非常に扱いやすい。特に、いまだに製造業における品質管理活動で世界的な競争力を実現したと自負する企業の多い日本では、要素還元的主義的なマインドを持つ人が非常に多い。
だが、実際の組織は人間が構成している有機物であり、特に営業のような仕事が長い人は、肌感覚として、要素還元主義がしばし通用しないことを実感している。ところが、これを合理的な教育メニューに、それこそ要素還元的に落とし込むことには非常な困難が伴うから、勢い、伝統的な手法である、営業現場を身を以て直接体験し、身体でその仕事の全体性を感じることをもって教育とすることになる。ところが皮肉なことに、この『教育』は手法や成果を言語化／数値化することが難しいから、教育を受ける若手からは評判が悪かったりする。
組織内での、現場に近い部署と管理組織の対立はどの企業でも見られることだが、その背後にはこの要素還元主義をめぐる認識の違いがあると考えられる。近年の日本では、短期的成果主義を中途半端に受け入れた結果、要素還元主義的なマインドを社内に蔓延させてしまった企業はすごく多い。（その結果、現場の暗黙知は軽視され、競争力が削がれるようなことが起きた。）『要素還元主義＋因果的思考』をモダン、これを乗り越えようとする立場をポストモダンと定義するなら、ほとんどの組織では、未だにモダンの世界観が主流と言っても過言ではない。
■ 現代物理学／数学の目の眩むような成果
しかも、手法としての要素還元主義はともかく、『物理主義』自体は、過去の遺物と斬って捨てることができるほど明快に決着がついているとは言えない。いまだに科学の最前線で活躍する人たちの中にも、『物理主義』的な信念を固守する人たちは少なくない。しかも、現代の物理学と数学のタッグによる成果は凄まじく、量子物理学や宇宙論など、目の眩むような素晴らしい発見が相次いでいて、それこそ通常の人間の認識の限界である4次元（縦×横×高さ×時間）をはるかに超える世界の解明が進んできている。この世界は、何故か数学で解明が進み説明できる構造になっているようなのだ。すべての謎が物理学／数学で解明できるに違いないというのは『仮説』に過ぎないが、とはいえ、現実に驚くべき達成の数々を見せられると、無下にこの仮説の可能性を否定しにくい気もしてくる。
もちろん、だからといって、人間の意識や心の解明が進んだのかというと、そういうわけではなく、物理学／数学で解明できた世界と人間の意識や心との邂逅は相変わらず非常に大きな課題として残っている。ただ、スティーブン・ホーキングと共にブラックホールの特異点定理を証明した、イギリスの数学者／理論物理学者のロジャー・ペンローズのように脳内の情報処理に量子力学が深く関わっているという仮説（ペンローズの量子脳理論）を提示して、意識は原子の振る舞いや時空の中に存在していると述べているような人もおり、今後はこの課題の解明も物理学／数学によって、急速に進む可能性は大きい。（但し、それでさえ、主観的な意識体験等を説明するには不十分と私には思えるのだが・・）
このように見ていくと、新井氏が『シンギュラリティは来ない』と断言しても、それでもシンギュラリティは来ると断固として自説を曲げない人がいるのも無理はないように思えて来る。
■ゴジラが破壊しアトムが再創造する？
加えて、今の日本でシンギュラリティ論を積極的に支持する人の多くは、現状の日本の非常に鬱屈した状態を破壊してくれる存在として、いわば、戦後の日本の歴史上繰り返し登場する『ゴジラ』による破壊の派生系の一つとして待望しているのではないかと思われるふしがある。
さらには、日本の独自のアニミズム、すなわち、すべてのものに魂が宿る、というような一種の生気論がもう一つの背景としてあって、脳の電気信号と化学変化を電子的にトレースできれば、人工知能に何らかの魂が宿るに違いないという、ある種の信念が見え隠れする。
この二つが合体して、人工知能がゴジラのように牢固な既存の秩序を破壊して、その後に来る新世紀を、鉄腕アトムのような魂の宿る人工知能が再創造して欲しいとの潜在願望（夢？）があるのではないか。だから、感情的にもシンギュラリティの夢を捨てたくないという『気分』が皆が思う以上に広く浸透していて、新井氏のように理性的にシンギュラリティを否定しても、感情的に反発してしまう素地があるように思える。
若干、妄想気味な仮説とお叱りを受けそうな気もするが、個人的には案外ありそうなストーリー（仮説）と考えている。今後の日本は、特に東京オリンピックの後には、高齢化が一層進み、日本企業は世界との競争に勝てず、経済的には停滞し、人工知能によって失業者が増加し、それなのに、社会の中枢は相変わらず高齢者に握られていて固定的で、変革も難しい状況が予想される。となると、上記で述べたような『日本的シンギュラリティ待望論』は、今は一時期に比べてかなり沈静化したかに見えるが、形を変えながらも何度でも復活するのではないか。特に人工知能が囲碁のチャンピオンに勝った、というような技術的な達成に関わる情報が出てくる度に復活して盛り上がる、という構図が繰り返されると考えられる。このように、シンギュラリティ待望が盛り上がる現象を社会学の立場からも、もう少し腰を据えて探求してみる必要があるのではないか。
■ 本当の課題は？
本書の後段で、新井氏は、中高生の教科書くらいの文章を対象とした読解能力が著しく落ちている現実を知って、衝撃を受けたと語る。ただでさえ現状の仕事の半分は人工知能が奪うと言われているのに、こんなことでは『人工知能ができないこと／人間でなければできないこと』を担いうる人材が日本から払拭してしまい、大変悲惨なことになる、との危機感が表明されている。オリジナルの（シリコンバレー的な）シンギュラリティの言説には、技術が何でも解決するというような楽観論がベースにあることが指摘されているが、今のままでは大半の日本人は、その成果を享受できるどころか、搾取される側に堕する恐れが大きい。仮にシンギュラリティが技術的に達成されても、日本社会が破壊されてしまう恐れがあることにもっと注目する必要がある。そういう意味で、徹底したリアリズムで臨む必要がある。
少なくとも、個人レベル、あるいは個々の企業のレベルでは、新井氏の言う、論理、確率、統計、すなわち数学で記述できる以外の人間の能力を可能な限り伸長させ、そこから生み出しうる成果物を徹底的に大きくしていくことに真剣に取り組む必要があると言わざるを得ない。
私は正直なところ、『日本的シンギュラリティ待望論』を標榜する人達に少なからず同情的だし、そもそも人工知能は人間の知能全般を超越する必要もなく、人工知能の特徴を最大限に生かした達成自体が人間社会を根本的に変えてしまうインパクトを持っている、と言う点については確信がある。その意味での現状を破壊するゴジラは間違いなくやって来る。だから、人工知能の限界を見極めた上でのマックスをゴールに設定し（そのゴール自体がとんでもなく凄い）、一方で、人間ならではの能力をあらためて評価し直して開拓し、来るべき近未来に備えることが賢明だ。しかも、ここにはまだ見ぬダイヤモンドの原石が眠っていることは間違いない。それを見つけ、掘り出し、磨くこと。そのために時間を最大限使っていくべきだと思う。
