『自動機械化する人間とその上位に立つ人工知能』という可能性

 

 

◾️ 人工知能は人類を滅ぼすか

 

人工知能AI)関連の最近の話題の中で、皆が最も関心を持っているのは、一つには、人の仕事が人工知能に奪われてなくなってしまうのではないかという議論だと思われるが、一方、特に欧米を中心に、遠からず人工知能が人間を上回る知性を獲得してしまい、その結果人類が滅びるような壊滅的な影響を被るのではないかというシナリオへの関心も相変わらず高い。

 

『シンギュラリティ(技術的特異点)』という本来専門家しか耳にすることのなかった用語が、その用語をポピュラーにした、米国を代表するフューチャリストで、Googleの技術ディレクターでもあるレイ・カーツワイル氏の名前とともに、すっかり一般人にも知られるようになったことでもそれはわかる。

 

カーツワイル氏は、シンギュラリティの時期を当初2045年と述べていたが、最近のインタビューでは16年も早い、2029年にコンピューターは人間レベルの知性を獲得すると述べて世界を驚かせた。*1人工知能は人類を滅ぼしかねないと早くから危惧を表明していた、理論物理学ホーキング博士らをよそに、当のカーツワイル氏は極めて楽観的だ。

 

他ならぬ私自身、この問題について早い段階から強い関心を持って、かなり真剣に識者の意見を精査して、自分なりに探究してみたわけだが、人工知能が人間を超える知性を持つこと、すなわち、『幅広い知識を持って、何らかの自意識を持ち、問題設定や、自律的な判断までできるようになること』につき、合理的に納得できる理由は見つからなかった。2029年はおろか、2045年を待っても(それどころかもっとずっと長い将来に渡って)、実現できると確実に判断できる材料を見つけることができなかった。

 

これは、いわゆる『強い人工知能』あるいは『汎用人工知能AGIArtificial General Intelligence)』の実現可能性の問題と置き換えてもよいと思う。そのほうが、現在行われている主要な議論により整合して語ることができそうだ。これに対して、現在急速な進化発展の途上にあるのは、『弱い人工知能』あるいは『専用人工知能/特化型人工知能』ということになるが、こちらのほうは、予想をはるかに上回るスピードで日進月歩で進化している。だが、汎用人工知能の進化は特化型人工知能の進化と基本的には関係がないとされる。つまり、いくら特化型人工知能が進化したからといって、その延長上に汎用人工知能の出現はないということだ。すなわち、何らかの別の大きな飛躍がなければ、汎用人工知能はできないし、今の所その飛躍については何も目処がたっていない。

 

そういう意味では、極論すれば『サルが30年ほどすると人間になる可能性もあるかもしれない』という物言いとさほど違わないように聞こえる。もちろん、サルも人間になったのだとすれば、汎用人工知能が生まれる可能性をまったく否定はできないが、少なくとも進化論のアナロジーを使うのであれば数十年といったようなショートレンジの間尺に合うようには思えない。実際、人工知能の専門家の中にも、カーツワイル派の議論を絵空事と斬って捨てる人は少なくない。

 

厳密に可能性をすべて否定したわけではないとはいえ、自分なりにこのような結論に達して以降、正直、汎用人工知能は私の主たる関心事ではなくなったことは確かで、最近ではそちらの探求は一旦中止して、特化型人工知能の進化と社会への影響のほうにもっぱら関心を向けていた。

 

だが、どうやらそれは少々甘い見通しだったようだ。汎用人工知能が近いうちに完成するという見込みは相変わらず持っているわけではないが、『特化型人工知能の進化と人類の未来』に範囲を絞っても、どうやらあまり楽観ばかりはしていられないのではないかと思えてきた

 

 

◾️ 特化型人工知能の恐るべき可能性

 

もともと、この特化型人工知能の進化についても、東京大学大学院の松尾豊准教授の工程表に示されている通り、第三世代の人工知能を特徴付けるディープラーニングの発展は、現状は主として画像認識のような『認識』、すなわち画像からの特徴量を抽出することが可能な程度のレベルだが、これが音声、動画と範囲を広げ、さらに、さまざまな(マルチモーダルな)データから特徴量を抽出し、それを相互に連関できるようになる。認識のレベル自体も人間並みから人間以上を実現していく。そして、その延長上に、さまざまな運動ができるようになり、プランニング、推論、言語の理解と進み、この段階に至ると、人間の経済活動(すなわち仕事)の大半は人工知能/ロボットが行うことができるようになると考えられる。

 

この実現のスピードは当初の想定を超えて明らかに加速度がついて上がっている。と同時に、できることの範囲が広がっている。画像認識で、Google人工知能YouTube上の猫の画像を認識することを学習した、と大きな話題になったのは、2012年のことだったが、2015年には、もう人工知能の画像認識能力は人間を上回る精度を出せるようになった。音声認識でも、先ごろ、Google音声認識は、エラー率が1年経たずに8.5%から4.9%まで改善して、もはや人間レベルに近くなったとの報道があった。自然言語処理についても、Facebook人工知能DeepText』など、人間の文章はほぼ理解できるという。Google翻訳も、文脈が読み込めるようになってきて、ますます精度が上がってきている。昨今では、人間の感情の認識、すなわち『感情認識AI』への取り組みも盛んで、こちらのほうも、人間のレベルを超えていくのもそう遠くではなさそうだ。

 

だが、それより何より、人工知能の急激な進化を強烈に印象付けたのは、Google傘下のDeepMind社が開発した、囲碁人工知能『AlphaGo』だろう。短期間に急激に強くなり、トップレベルの棋士との勝負に完勝した。10年は無理と言われてきたことをあっさりと実現してしまったことは、囲碁関係者だけではなく、広く世界に人工知能の進化の凄まじさを知らしめることになった。(先ごろ行われた、世界最強の囲碁棋士・柯潔(カ・ケツ)氏と、AlphaGoによる一連の対局も、AlphaGoの勝利で終わった。)

 

 

◾️ ビジネスの頂点に君臨するであろう人工知能

 

日本の将棋ソフト『ポナンザ』を開発して、現役の名人のタイトルホルダー、佐藤天彦名人を撃破した開発者の山本一成氏は自著『人工知能はどのようにして「名人」を超えたのか?―最強の将棋AIポナンザの開発者が教える機械学習・深層学習・強化学習の本質*2で将棋のみならず、囲碁のことについても言及しているが、ポナンザもAlphaGoも、人間が長い間の歴史の中で編み出して蓄積した定石を超える新しい手筋を次々に開発しているという。これは巷間その存在を誰もが知るようになってきたいわゆる機械学習(評価基準は人間が与える。いわゆる教師付き学習)に加え、強化学習と言われる人間(教師)が不要で、未知の領域であっても人工知能が調べた結果をフィードバックすることを通じて学習を進める手法、さらにはAlphaGoの能力を強化することに大きく寄与したと言われる、モンテカルロ法という、直接の評価が困難でも、ランダムな試行の反復結果をもとに、有望な行為を確率的に選択できる方法によって実現されているが、現段階ですでに、人工知能に対戦相手に勝利するという最終目的を与えておけば、教えられた以上のことを自ら学び、勝利のための新たな手段(手筋)を無限に開拓していけるようになっている。

 

このことが示唆する将来像は、実に恐るべきものだ。人間の経済活動に関わる、いわゆる『仕事』は、山本氏の言うように、囲碁ほど複雑だろうか。例えば、すでに株式トレーディングについては、株取引を完全自動化する『人工知能ヘッジファンド』が登場しているが*3世界最大級の投資銀行であるゴールドマン・サックスでも、ニューヨーク本社では2000年には600人のトレーダーが株式の売買を行っていたのが、2017年現在で本社に残っているトレーダーはわずか2人だという囲碁は対戦相手に勝利する、という最終目的があり、ゴールが明確に定まっていれば、人工知能の能力が人間を上回るということがわかった。株式トレーディング(もちろん、債権、商品、為替等何でも同じだ)では、同じく収益の極大化という最終ゴールがあれば、人間を上回るパーフォーマンスを発揮することを証明し始めているともいえる。ヘッジファンドのトレーダーと言えば、高給取りの代表格のようなもので、大変人気のある仕事だが、その分、高いパーフォーマンスを求められる難易度の高い仕事ではなかったのか。いわば、ビジネスの中で最も難易度が高い仕事の一つが人工知能に置き換わろうとしている、という言い方もできる。通常我々が取り組むホワイトカラーの仕事で、囲碁や株式トレーダーのレベルを超える難易度があるものがどれだけあるのだろうか。

 

もちろん、ビジネスといっても、例えば会社経営には、短期的な利益だけではなく、長期的な観点での視野や洞察力、ビジョン構築力が必要で、そこには政治的な配慮、地域との調整、従業員の心理状態の理解、企業の経済価値以外の存在価値の追求等、様々な要素が複雑に絡み合っているのであり、株式取引での利益極大化や、囲碁のような勝敗というような単純なゴールで必要な判断以上の判断要素がある、との声が聞こえて来そうだ。だが、本当にそうだろうか。

 

昨今のように、あらゆるデータを取得することが可能になってきており、さらにそれが強力に推進されている状況では、長期的な利益、投資の収益から、政治的への対処、従業員の心理状態にいたるまで、データを取り数値で測り、分析し、それをもとに合理的な判断が可能となると考えられるようになってきている。山本氏は、チェスに比べて将棋のコンピューターが人間のチャンピオンに勝てるようになるのに、20年の年月の差があったのは、将棋の方が局面の数が多かったからではなく、勝つために将棋の何をどのように計算すれば良いかわからなかっからだという。勝利条件を数式に置き換えることができなければ、従来のコンピューターでは、勝利することはできない(逆に、それができればすぐに人間には負けなくなる)。まして、囲碁など、皆目見当もつかなかったという。

 

ところが、上記で述べたような機械学習+強化学習+モンテカルロ法の組み合わせで、最新の人工知能は、将棋でも囲碁でもこれを乗り越えた。だからこそ、人間に勝利するまでに成長し、さらに人間にはもはや理解できない成長を続けている。現段階で、ビジネスには、人間が数式やフォーミュラに置き換えることができるものとできないものがある。できたものは、すぐにコンピューターのほうが人間を上回ることができる。だが、これからの人工知能は、人間がそのプロセスを理解することのできない何らかの方法で(山本氏の言う黒魔術により)、ビジネス上のあらゆる解決策を見つけていくと考えられる。

 

 

◾️ インパルス・ソサイエティ

 

しかも、最近の米国企業を見ていると、ステークホルダーは株主に一元化され、短期収益中心主義がますますエスカレートし、そのために、経営者が従業員の雇用に配慮することはなくなり、政治的な障害はロビーイングにより取り除き(有利な方向に誘導し)、市場のあらゆるデータを取得し、それ合算することにより、さらに一層分析を精緻に行い、その結果を市場予測、製品/サービス開発から、広告宣伝等に利用するのみならず、選挙の結果にまで影響を及ぼそうとする。しかも、人工知能のようなテクノロジーが現れ、進化する度に、そのような方向に最大限利用されるようになってきている。人間の経済社会のほうが、特化型人工知能を最大限生かす方向に歪曲化されてきているとさえ思えてしまう状況が確かに起きてきている。

 

米国のジャーナリスト、ポール・ロバーツ氏は近著『「衝動」に支配される世界---我慢しない消費者が社会を食いつくす*4で、米国では社会全体が効率的市場の価値観に支配され、自己の欲求を満たすためであれば、社会的な責任も他者への配慮も生態系への負担も一切無視した、モラルの欠片もない社会が出来上がってしまったと嘆く。脳の辺縁系、爬虫類脳に対する刺激で人間の行動は制御されてしまい、欲しいもの、短期的な利益にユーザーは誘導され、ユーザー自身それを求める(求めさせられる)。だれもが、短期的な利益、欲しいものに突き動かされ、その他の社会に重要な価値(自己犠牲、献身等)が忘れられてしまった。これをロバーツは『インパルス・ソサイエティ』呼ぶ。昨年のトランプ大統領誕生を契機に米国の現状についての情報が大量に流れ込んでくるようになったが、同様の状況報告は一人ポール・ロバーツだけではなく、多方面から入ってくるようになった。そして、人工知能はこのタイプの社会に非常に相性が良く(短期的な利益は最も計算フォーミュラに落とし込み易い)、だとすれば、その社会の問題の解決方法は人工知能のほうが良く知っていて、人間が下位に置かれるような悪夢が本当に実現する方向に向かっている、ということにならないだろうか


アレクサンドル・コジューヴは戦後の米国で台頭してきた消費者の姿を『動物』と呼んで批判したが、今のままでは、米国の行き着く先は動物どころか、まさに映画マトリックスで表現されたような、即物的な欲望の達成のみを求めて眠りこける(あるいは夢遊病者のように彷徨う)自動機械のようになってしまいかねない。マトリックスでは、人間は機械のエネルギーとしてしか存在価値がなかったが、このままでは米国も同じような状態になってしまうのではないか。

 

 

◾️ 岐路いる人類

 

山本氏は、人工知能は、いかに人間の理解できない学習を重ねていくことになろうと、人間の情報を元に学習する存在であることはかわりはなく、人工知能に高い倫理観を期待したいのであれば、人間の側がそのような存在であることが必要と述べている。だが、今は人工知能が劣化した倫理観を持つことを恐れる以上に、人間が知性(あるいは、人間性)を眠らせようとしていることこそ、恐れるべきではないのか。ここに問題があると認識すれば、解決策はある。だが、問題を見ずに知性を眠らせてしまえば、解決に至る道は開けない。そういう意味では、人間(というより人類)は今、非常に重要な岐路にいるのではないかと思えてならない。

 

欲望の自動機械になったほうが、人類にとっては幸福なのでは、というシニカルな見解を持つ人も決して少なくないが、人間の奥深い真の満足感、きらめくような感動、友愛を通じて持つことができる深い信頼関係、狭い自分の枠を突破して広がる自由の素晴らしさ等は、脳の辺縁系、爬虫類脳の部分をフルに刺激できても、経済合理性が究極まで達成されたとしても、それだけで得ることができるわけではない。人間は本来それ以上の高い価値を求めていくことができる可能性を秘めていると信じたい。