読者です 読者をやめる 読者になる 読者になる

人工知能に揺さぶられる『人間の心』/誰も逃れることはできない

現実味の増した人工知能(AI)の問題


自分で書いておいて言うのも何だが、昨今、人工知能(AI)に関する記事や書籍がやたらに増えた。研究者が語る専門的な内容にはじまって、産業論的なアプローチから、SFタッチのものまで、猫も杓子もという感じだ。しかも、つい半年か一年そこら前には、まだ現実のトピックとしてはあまりにSF的で、真面目に議論するのが気恥ずかしい、との空気さえ感じたものだが、最近ではぐっと現実味が増してきた感がある。加えて、記事の中には、ギョッとするようなとびきりの高名が混ざるようになった。



現代最高の知性が表明する懸念


その一人は、米国の電気自動車ベンチャー企業であるテスラモーターズ社のCEOとして知られるイーロン・マスク氏である。氏の業績について言えば、テスラモーターズ社だけでも世界に与えたインパクトは非常に大きいわけだが、別の市場で、これまた非常に高い評価を得ている、電子メールやインターネットを利用した決済サービスを提供するPayPal(ペイパル)社の前身、X.com社の共同設立者でもある。その他にも宇宙輸送を可能にするロケットを製造開発するスペースX社を起業したり、太陽光発電会社ソーラーシティを共同で立ち上げたり、多才で桁外れのスケールの起業家だ。その才能は、アップルのスティーブ・ジョブズ氏に勝るとも劣らないとの評価さえ出始めている。


この人について語った本、『イーロン・マスクの野望 未来を変える天才経営者』*1の商品説明文には次のように書かれている。

スタンフォード大を2日で辞めてペイパルを興して資金を得、ポルシェより速い電気自動車をつくり、民間で初めて国際宇宙ステーションドッキングに成功。電気自動車太陽光発電で環境を守り、宇宙ロケットで火星を目指す。今世紀、世界No.1「発明家」。この男が未来への先導者だ!


その『未来への先導者』はこのところ、人工知能についても度々言及している。これが実に衝撃的だ。

人工知能核兵器よりも潜在的に大きな危険性がある』
「人工知能は核兵器よりも危険」イーロン・マスクが警鐘ツイート


『AIによって、われわれは悪魔を呼び出そうとしている。』
「人類はAIによって悪魔を呼び出そうとしている」:E・マスク氏、再び懸念を表明 - CNET Japan


保守的な、技術に疎い頑固者や、宗教家ではないのだ。およそ現代の経営者の中でも、最も技術を信頼し、技術の未来に楽観的に見えるイーロン・マスク氏が鳴らす警鐘の影響は計り知れない


加えて、ある意味イーロン・マスク氏を上回る天才も同様の警鐘を鳴らしている。ノーベル物理学賞受賞者で、車椅子の物理学者としても有名な、スティーヴン・ホーキング博士だ。博士が英インデペンデント紙に語ったところによると、人工知能は病気や戦争、貧困の根絶に貢献する可能性がありながらも、人類史上最悪の脅威になりうるし、人間の役に立つと見せかけた人工知能や自動運転の乗り物たちが、いつか人類の終わりを招くかもしれないと述べ、ロボットの開発に警鐘を鳴らしているという。

「人工知能は人類史最悪の脅威」―ホーキング博士 - ライブドアニュース


短いコメントだけでは真意を正しく知ることは難しいが、いずれにしても、天才起業家と科学の分野における現代最高の知性がそろって、ある段階で人工知能が何らかの『意志』や『判断力』を持って、人間に敵対的な行動をとるようになり、それを人間が止めることができなくなる、というシナリオが現実のものとなる懸念を抱いていることは確かだ。



ごく近い将来、必ず起きて来る問題


だが、いくら現代最高の知性にそういわれても、さすがに実感を持って受け入れるのは難しいと感じる人は多いと思う。しかも、仮にそういうことが起きるとしても、今から20〜30年後、すなわち一世代くらい後のことと考えられるので、当面自分には関係ないし、そのころには回避のための議論も成熟しているだろう、というような納得のしかたで片付ける人がほとんどのように思われる。


私自身も、人工知能が人間の脳を分子レベルまでスキャンして、脳とまったく同じ機能を実現できるようになったとしても、人間と同じ意志や意識を持ち、人間のようになるという予測に関してはやや懐疑的なのだが(そう考える理由は長くなるのでまた次の機会にしたい)、意識や意志を持たなくても、人工知能が人間を根本から揺さぶる存在になることは不可避だし(必ず起きて来るし)、しかもそれはごく近い将来に起きると考えている。



人工知能にどこまで判断を委譲できるのか


最先端の人工知能は、大量の情報を読み込んで自ら学習し(機械学習)、分析し、人間がまだ気がついていない『意味ある相関関係』(因果関係ではない)を大量に見つけて、予測精度や判断力を進化させることができ、その点では人間がまったくおよびもつかないくらいの能力を獲得していくことは確実視されている。情報が少ない場合に直感的な判断を下す能力は人間の方が優れているし、それはこれからも変わらないだろうが、大量に情報がある場合には、『人工知能の判断』が『人間の判断』に可及的速やかに置き換わっていくはずだ。


例えば、すでにニューヨーク証券取引所NYSE)の取引全体の約7割は人工知能が行っていると言われているし、もっと身近なところでも企業の広告宣伝など、ユーザー分析からユーザーへの提案にいたるまで、事実上すでに人間から機械に主導権が移りつつあると言っても過言ではない。だが、問題は、人工知能が下す(人工知能に判断させる)判断の判断基準だ。その基準は本当にいつも正しいのだろうか? 少なくとも納得のいくものなのだろうか?


よく例として取り上げられるようになってきているのが『自動運転車の判断』の問題だ。自動運転車が高速で走っている時、人が一度に飛び出して来て、止まることはできず、誰かを助けるためには誰かを殺すしかない状況で、自動運転車の人工知能はどう判断するのだろう。まさに、ハーバード大学マイケル・サンデル教授により一般人にも知られるようになった『トロッコ問題』 そのものと言える。
トロッコ問題 - Wikipedia


この判断は、人間の側で熟考した上で決めてプログラムする必要があると思うが、では、人間はこの『トロッコ問題』にどう結着をつけるのか。老女と若い男性なら、経済価値が大きいから老女をひくのか。もっと複雑なケース(子供と青年等、青年男女等)で、人工知能が瞬時に下す判断はどうなるのか。それを人間の側は受け入れられるのか。法的に無理矢理解決したとしても、道徳的な煩悶に苛まされることにならないのか人工知能の判断』が浸透すればするほど、全領域に渡って、同様のジレンマが可視化されるようになるだろう。


また、株式市場おける人工知能は、市場の非常に小さな変化も見逃さず、最適な売買を猛烈なスピードで繰り返すという点では人間の能力をはるかに凌駕しているが、時に暴走することがあることも知られている。ブロガーのちきりんも例にあげているが(オリジナルは、小林雅一氏の著書『クラウドからAIへ』*2 )、2010年5月、ニューヨーク証券取引所で実際にこれが起こり、ダウ工業平均株価が10分で 900ポイントも下落して数十兆円が吹き飛んだり、20秒のうちに株価が20ドルから1セントに下落した企業もあったという。後に『フラッシュ・クラッシュ』と命名されたというが、人工知能が一瞬に下す判断に人間が介入することは事実上不可能だ。しかも、人工知能が学習を繰り返して判断力が高度になればなるほど、人間には下された判断の理由を知ることが出来なくなる。この状態を人間社会は受け入れることができるのだろうか。



孤独化する現代人


多少違った観点の問題もある。昨今の日本では、人間同士の対面のコミュニケーションがどんどん希薄になり、『孤独化』『孤立化』が社会問題になりつつある。


生涯未婚比率(50歳時点での独身比率)は2010年の段階で、およそ、男性20%、女性10%だが、「18〜34歳の未婚男性で異性の交際相手がいない割合は61.4%」「そのうち、そもそも異性との交際を望んでいない割合は27.6%」というようなデータもあるようだから、若年層の未婚率は上の世代よりずっと高くなる恐れがある。この未婚率が高い現在の20〜30代が50歳に到達するころには、3人に1人は独身ということになりかねないという見通しもあるし、この見通しには結構リアリティがある。

男子会で考える、若年層の恋愛離れと今後の動向? - 久我 尚子
生涯未婚率は男35%、女27%にも:少子化対策無力



また、高齢者についても、今後も一人暮らしが急増すると予測されている。国立社会保障・人口問題研究所が2014年4月に発表した世帯数の将来推計によれば、2035年には世帯主が65歳以上の高齢世帯のうち、一人暮らしが4割近くになるという(2010年には498万人だが、2035年には762万人に増える)。

東京の高齢者世帯、44%が一人暮らし 20年後 :日本経済新聞


若者は恋愛や結婚から遠ざかり、独身が増え、独居老人も激増する。これが近未来の日本の姿だ。若年男性は、昨今、恋愛や結婚をしなくなっているといわれているが、異性自体に興味がなくなったのかと言えば、そうともいえないようだ。ニンテンドーDS向けに発売された恋愛シミュレーションゲームラブプラス*3は爆発的に売れたし、恋愛はしなくても、アイドルのもとへ詰めかけるアイドルおたくの数はものすごい。意欲の問題ではなく、異性とのコミュニケーション能力が劣化している、あるいは、恋愛や結婚のベースとなる経済力に不安が多い人が増えた、という説明のほうが納得がいく。



ロボットが売れて社会が死滅する?


ここに、人間的な喜怒哀楽のような感情を完璧にシュミレートし、あらゆる人間に対応できるコミュニケーション能力を備えた人工知能が、人間と寸分変わらない(というより人間の理想型の姿をした)姿で現れれば(そして、それは確実に実現する)、それこそ爆発的に売れることは火を見るよりあきらかだ。


これは孤独を託つ人たちにとって、ある意味大変な福音であることは確かだが、同時に、人間社会の変質の可能性をはらむ大問題でもある。コミュニケーション力が劣化しているといわれることの多い若年層ならずとも、煩わしい人間との関係より、ロボットのほうがいいと考える人が激増する未来は、私にはかなり現実的に思える。これも、確実にやって来るが、人間社会に深刻なインパクトを及ぼしかねない未来といえよう。暴動は回避できるかもしれないが、社会は静かに死滅していくかもしれない。



共生の仕方を考えるべき


このごとく、20〜30年先のことではなく、これからの10年の間にも次々に顕在化し、深刻な問題を人間に突きつけて来るのが確実なのが人工知能の問題、と考えておくべきだ。そしてそれは、技術や工学的な問題である以上に、人間の心理、哲学/思想、感情等、『人間の心』の問題なのだということをはっきりと認識して臨むことが求められる。しかも忘れてならないのは、それは一方で、便利で、楽しく、ワクワクする未来像と共にあるがゆえに、ほぼ確実にやって来る未来であることだ。そういう意味で人工知能/ロボットは、回避することより、より良い共生の仕方を考えることが現実的だし、その前提で向き合っていくべきで、しかも早急に準備を始める必要がある。この準備をどう進めるのがいいか、最近私はそのことで頭がいっぱいだ。

*1:

イーロン・マスクの野望 未来を変える天才経営者

イーロン・マスクの野望 未来を変える天才経営者

*2:

クラウドからAIへ

クラウドからAIへ

*3:ラブプラス