知を導く「鍵（La Clef）」はここに！中公新書ラクレポータルサイト

ＡＩ（人工知能）の進歩はめざましい。2045年にシンギュラリティ（技術的特異点）が訪れ、ＡＩが人間よりも正確で賢明な判断を下せるようになるという仮説がある。

では、「超知性体」となったＡＩがあやまちを犯し、自動運転車が暴走したり、監視カメラ等が集めたデータによって差別的な評価選別が行われたりしたとき、誰が責任をとるのか。

そもそも、ＡＩが人間を凌駕するという予測は正しいのか。来るべきＡＩ社会を倫理的側面から徹底的に論じた初めての書。〈はじめに〉をご紹介！

---〈はじめに〉---

テレビをつけるとＡＩ（Artificial Intelligence／人工知能）の紹介番組をやっていた。近ごろこの類の番組やニュースはとても多く、ぼんやり観ているだけでもなかなか面白い。扱われるトピックスは自動運転である。

人間のドライバーのかわりに、クルマがひとりでにハンドルを回し、アクセルやブレーキを操作して運転してくれればまことに便利だ。老境にはいった私にとっても朗報である。安全性も高まり、交通事故もへるだろう。何しろ人間には眼が二つしかないけれど、自動運転車（self-driving car）には周囲環境を認知するセンサーが四方八方についている。気が散る心配もない。さらに、ＡＩは膨大なデータを吸収して学習していくから、どんどん賢くなり、運転操作の精度を増すように進化していくだろう。過疎地の高齢者にとって、自動運転車の普及は死活問題である。公共交通機関が衰退していく地方で、自動運転が救いになることは間違いない。

さらに、自動運転にかんするさまざまな技術革新は、自動車メーカーにとって画期的なものだ。日本経済の基幹部分は自動車産業だから、経済成長の起動力にもなるだろう。

......テレビをながめていると、そんな楽観的な考えがつぎつぎに湧いてくる。これも深層強化学習というＡＩの新技術開発の成果らしい。とすればＡＩがひらく二一世紀の未来は明るいと、誰しも思うのではないか。

しかし一方、四〇年もＡＩの盛衰をながめてきた私から見ると、かならずしもそうとは言いきれないのである。

実用化の前に、自動運転ＡＩは入念なチェックとトレーニングを重ねるだろうし、また学習の効果として操作の正確さが増していくのは事実だ。だがそれはあくまで周囲環境が安定している、という条件下においてである。たとえば突然、大型の台風や豪雪などで道路状況が激変したら、自動運転車が誤作動し暴走する恐れはないのだろうか。人間のドライバーなら何とか特殊状況に対応して退避行動をとることができるが、ＡＩは未知の状況のもとでいかに作動するか予測不能である。積み重ねた学習がかえって固着した操作をもたらし、柔軟な対応が不可能になるかもしれない。巨大な重い金属の塊が人々をなぎ倒しながら疾走する、という悪夢が起きないと言いきれるだろうか。

仮にそういう悪夢が起きたとき、いったい誰が責任をとるのか。もはやドライバーはいない。責任を負うのは、自動運転車の使用者か、設計者か、あるいはメーカーの経営者か。この種の事故には多数の人物が関与するので、下手をすると誰一人責任をとらないだろう。

自動運転にかぎらず、ＡＩを社会で実稼働させるときはまず、その作動の仕方をいかに規制すべきか、という倫理的かつ法的な問題を解決しなくてはならない。とかく経済効果やビジネスへの配慮が先行して倫理的考察は後回しにされがちだが、自然環境汚染をはじめ、技術進歩が途方もない悲劇をもたらした事例は数かぎりなくあるのだ。

さらにここで、ＡＩ特有の深遠な問題があらわれる。それは、人間でなく機械（ＡＩ）が、あたかも疑似的な人格をもったように倫理的判断を下せるのか、という問題である。

一般にＡＩは「自律型機械」だと思われている。海外には、ＡＩロボットを「電子人間」として認めようという議論さえあるようだ。自動運転車で言えば、みずからの判断で次に起こる事態を予測し、事故を回避しつつ目的地までたどりつくと考える人も多い。

たとえば、前方に突如、子供が飛び出してきたとする。避けようとハンドルを切れば、対向車と正面衝突してしまう。このとき、人間のドライバーならその瞬間、咄嗟の判断で行動し、結果にたいして責任を負うだろう。一方、自動運転車の場合は、どんな事態にはどう対応するかが前もって決まっている。もし、ＡＩが「自律型機械」であるとすれば、明示的な倫理基準の遵守がもとめられることになるため、自動運転車もあらかじめ、何らかの倫理基準にもとづいてどうするかを決定済みでなくてはならない。

とはいえ、である。ＡＩといっても所詮は、設計者のプログラム通りに作動する機械にすぎない。いったい機械に倫理的判断などできるのだろうか。倫理的判断というのは、基本的に人間の共感によって支えられている。身体をもたないＡＩに共感能力などもとめるのは無理だ、というのが常識ではないのか。

だが問題はなかなか複雑なのだ。たとえば有名なシンギュラリティ（技術的特異点）仮説というものがある。二〇四五年ころに、ＡＩの能力が人間をしのぎ、人間よりも正確で賢明な判断を下せるようになる、という大胆な仮説である。考えてみると、われわれ人間の思考判断も、一千億個ほどの脳細胞のネットワークにもとづいて実行されている。ＡＩの深層学習モデルはこれを模擬しているのだが、ハード／ソフトの進歩発展は速い。やがてコンピュータの能力が人間の脳を凌駕し、論理だけでなく共感をふくむ情動さえも包含する、という主張もあながち否定できない。

バイオ科学が人間の脳の仕組みを分析し、ＡＩがそれを模擬するなら、いずれＡＩが人間より賢明になるというＳＦ（サイエンス・フィクション）的予言も説得性をもちはじめる。技術進歩とともに、人間のほうが、自らの判断よりＡＩのデータ分析を信頼するようになるかもしれない。すると、大部分の人々は無用者階級として機械の奴隷におちぶれる。そして彼らを、ごく一部のエリートが「神の人（ホモ・デウス）」として支配する、という地獄の未来が近々やってくるのだろうか......。

いや、諦めるのはまだ早い。問われているのは「そもそも人間の主体的判断とは何か」なのだ。まず、ＡＩが「自律型機械」だというのは本当だろうか。軽々しくそういう宣伝文句を信じる前に、自律性とは何かを正面から深く洞察しなくてはならない。

自律性とは元来、生物だけに許される特質ではないのか。生物は時々刻々、自分で自分を創り変えながら生存している。ここがポイントだ。人間のつくったプログラム通りに作動するＡＩは所詮、他律型機械にすぎないから、自由意思とも責任とも無関係なはずなのである。それなのになぜ、ＡＩは自律型機械のように見えるのか――ここに解くべき謎がある。

こういった問題を根本から考えないかぎり、ＡＩ時代の倫理などをきちんと語ることはできない。いま政府はＡＩに関する基本原則を議論しているようだが、具体的な諸方針を打ちだす前に、とりくむべき課題は多いのではないだろうか。

むろん、自動運転などＡＩの諸応用分野において、法制度の整備をはじめ実践的検討も大切である。だが、その基層をなす倫理や道徳といったテーマを避けていては、健全なＡＩ社会を構築することなどできないだろう。例によって欧米の下した結論を鵜呑みにするだけでは、あまりにお粗末だ。

本書では、以上のような問題意識にもとづいて、ＡＩ倫理の基本的なとらえ方を分かりやすく整理してみた。倫理観のベースとなる社会的正義の理念から検討をおこなうが、哲学的な議論にとどまらず、自動運転／監視選別／ＡＩ創作といったトピックスについて、現実の動向をふまえて議論を展開した。なかなか困難な試みだったが、やりがいのある挑戦だったというのが正直な感想である。