世界のグローバルエリートが「意識とは」「人間とは」といった問いに向き合う理由　脳科学者・茂木健一郎 × サラリーマン（知の越境家）・正木伸城

チームワークを最大化するのに必要なこと

正木：発刊されたばかりの『クオリアと人工意識』（講談社現代新書）さっそく読みました。脳科学の話もなされていますが、「創造性とチームワーク」に関する最新の知見や人工知能といった、ビジネスシーンで浸透してきている話がでてきて、多くの人に読まれるべき本だなと思いました。

茂木：正木さん、宣伝をどうぞ宜しくお願いします（笑）。でも、幅広い人に読んでもらいたいですね。いま言及された「創造性とチームワーク」というテーマひとつ取っても、結構、誤解されていたりするので。チームワークにとって何が大事か。高い能力をもつ人だけを集めること？　高い能力をもつ人をリーダーにすえること？　これらは必ずしも「Yes」ではない。最も大事なのは、メンバーの社会的感受性、つまり「お互いの気持ちを感知する能力」なんです。研究でそういった結果が出ています。

正木：Googleのリサーチチームが出した答えも、そこでした。Googleは「チームを組むことの効果を最大化するには？」という問いを立て、「プロジェクトアリストテレス」という実験を行いました。その結果、最も大事なことの一つが、スキルの高さでも気が合うことでもなく「心理的安全性」であるということがわかった。「このチームなら失敗したりネガティブなことをしても受け容れてもらえる、安心できる」ということ、これがチームワークを高めたというんです。

茂木：その話って、街ゆくビジネスマンのうち、どのくらいの人が知っているんでしょうか。これは僕の主観ですけど、アメリカのビジネスマンと日本のビジネスマンで「教養の格差」がかなりあると感じていて、GAFAや中国の企業と戦っていけるのかなと不安になることがあります。

正木：うーん、ビジネス雑誌やビジネス書などでは、「心理的安全性」というワードが少し流行しましたが、どうでしょう。たとえば茂木さんが先の本で言及されている「最適な正答率」問題ってありますよね。正答率100％の生き物や組織はかえってもろかったりする。なぜなら、予想外なこと、文脈から外れたこと、時勢の変化などに対応する余白がないから。この話題などもかなり昔からビジネスシーンで言われてきましたが、「100％正解」というものを求める風潮はまだまだ残っている気がします。

茂木：事前に100％成功することがわかるプランなんて立てようがないじゃないですか。それじゃ、何もできない。その本にも書きましたが、人工知能の学習アルゴリズムにおいても正答率って85％くらいに落ち着くんです。これは、チンパンジーからハチまで、さまざまな生物に課題を与えてトレーニングした時に落ち着く正答率のパーセンテージとすごく近いんです。

正木：100％が、時にナンセンスになるという話も、ずっと以前から、たとえば車のハンドルの「あそび」にたとえたりされてビジネス書で語られてきました。

茂木：先ほどの「心理的安全性」、失敗しても安心ってほんとうに大事なんです。その方が大胆に挑戦できる。Google Glassなどの研究開発で知られる｢Google X Lab｣の開発者は、｢失敗には報酬を」と真顔で言いますからね。失敗に価値を認めるところが、まず違いますよ。もちろんそれは、思いつき的に、やぶからぼうにやっていいという意味ではなく。

正木：“失敗とは、そのやり方ではうまくいかないという発見である”といったトーマス・エジソン的な発想ですよね。なかなかそういった境地が開けない現実はあります。ですが一方で、“ユーザーの声だけを聞いていては生まれなかった”と言われるiPhoneや、“現場の声を聞いていたら開発されなかった”と言われるウォークマンの例をとってもわかるように、強烈にイノベーティブなことって、既存の文脈や常識の「外」から生まれる可能性がある。

人工知能によって職業がなくなっていく！？　事務系が危険という話も

茂木：ちなみに、市場における人工知能の関心って、正木さんの肌感ではどれくらいですか。

正木：僕がIT企業に勤めているからかもしれませんが、関心度はとても高いという印象です。IT界隈に限れば凄まじいトレンドとして鎮座しています。茂木さんの『クオリアと人工意識』は、人工知能についての言及が多い本ですね。まさに今、シンギュラリティ（技術的特異点）などが市場でも知られてきていて、「人工知能が人間の知能を超える」なんて語りもなされています。「人工知能が発達することで、多くの職業が必要なくなる」なんてオックスフォードから出たレポートも話題になりました。私のまわりにも「事務系の職はAIに取って代わられる」と信じている人がいます。ぶっちゃけた話、茂木さんはAIによって職業がなくなると思いますか？

茂木：代替される業務はあります。定型業務などはAIが担っていくでしょう。これは日本の文化的な話かもしれませんが、ハンコや帳票が必要なくなっていくだろうなってことは割と想像できる話です。それ以外にも、例えばAI搭載の自動運転技術が進めば、タクシーの運転手がどうなっていくかわかりません。ただ、人工知能にも苦手なことがあります。例えば、カンヌ国際映画祭でパルムドール（最高賞）を受賞した「パラサイト」という映画があります。あの映画のストーリーテリング、格差の構造的問題を入れながら情愛も描き、最終的にパッケージングするみたいなことは人工知能にはできません。いわゆるコンセプトワーク、これはまだAIにできないんです。

正木：コンセプトを具体化し、形にする仕事ですね。

茂木：コンセプトワークって、別にイノベーティブな専門職の専売特許ではなくて、事務系でも技術系でも、多かれ少なかれ存在するものだと思うんです。だから、「事務系は職を失う」みたいな単純な話では語れないというか、語ってしまっては雑になる。ただ、影響を受けやすい職種・業種はあるでしょう。事務系／技術系といった二軸ではないところで、仕事が変化することは間違いないと思います。

正木：この本のタイトルには「人工意識」とありますが、内容は人工知能を意識したものになっていて、意識やクオリアについて語っています。帯文を読んで驚いたのですが、茂木さんのライフワークと言っていい「意識」や「クオリア」について本格的に書かれたのは16年ぶりなんですね。

茂木：そうなんです。連載とか、すでに話が進んでいたものをまとめた本はその後も出ましたが、真正面から取り組んだ本としては十数年ぶりです。当時、これからは英語で書いていこうっていう考えがあって、実際、英語の本も出しているんです。現在進行形で、今も意識について英語で書いています。

なぜ「人工知能」ではなく「人工意識」という語を題名にしたのか

正木：今回、満を持して、クオリアや意識について日本語で書かれたことには意図があると思っているんです。僕は、この本は“現今の人工知能ブームに向けて書かれている”と感じました。それを確信したのは第4章のタイトルです。「知性に意識は必要か」とあります。今回、茂木さんとの語らいの場をいただいたので、16年前よりもっと前のご著作を全部読んだんです。そのあと、今回の新書を読んだ時に「あっ」と思って。

茂木：全部ってマジですか！？　凄いね（笑）。

正木：たぶん16年前だったら「知性に意識は必要か」ってお題にピンとこない人が多かったと思うんです。なぜって、動物にも意識はありますから。少なくとも動物を見ていると、意識があるように見える。多くの生物にも「まあ意識はあるよね」という前提がまずあって、そこに知性がプラスされているのが人間だと。まさにホモ・サピエンス（賢い人間）だと、自分たちをそう理解している人たちからすれば、「知性に意識は必要か」って「そりゃ必要でしょ」という話になる。でも、今は人工知能が進展して、「意識がない知性」の可能性が強く言われるようになった。つまり「知性に意識は必要か」というお題にリアリティがともなう時代になった。だから「人工知能きっかけ」でこの本を書かれたんだろうなとは思いました。

茂木：仰るとおり、タイトルは『クオリアと人工意識』となっていますけど、メインは人工知能に対する語りです。理化学研究所に入った時、僕がやっていたのは物理学でした。でも、数理物理学者ロジャー・ペンローズの本に出合って、もともと関心があった人工知能への欲求が強くなって、脳科学をやろうと決めたんです。そして今、人工知能がブームになっている。人工知能は過去にも数回ブームがありましたが、いまの人工知能の流行に対して、僕なりに言えることがあるなと感じて、この本を出しました。直近までの英語圏の文献をしっかり押さえて書いたので、グローバル基準の内容になっているはずです。

正木：その上で、タイトルにあえて「人工知能」ではなく「人工意識」という言葉を使った。

茂木：先ほど話題に出たコンセプトワークみたいなものは、人工知能時代においても人間の付加価値が出せるところです。そのコンセプトワークに「意識」が欠かせないんですね。ペンローズが言っているように、全体を統合して見るものが意識です。今の人工知能ブームの中で、その「意識」を大事にする視点が置き去りにされていると感じていて、僕はそこを強調したいと思いました。人工知能の技術が進んでも、人間にしかできないことって、ありますから。

正木：個人的には、いま世間は人工知能に過剰な信頼というか、期待を抱いていると思っているんです。あれもこれも自動化されて、凄い時代が来る、みたいに。でも実際は、定量化できる、計算できるものに自動化は限られるだろうという話がある。

茂木：先に正木さんが言及したオックスフォードの原論文って意外とみんな読んでないんですよ。原文にはAIって書かれてなくて、コンピュータライゼーションについて論じられているんです。もともと計算をするための機械として誕生したコンピュータがどこまで性能を向上させられるか。計算が高速化することで、計算過程としてコンピュータに落とせる仕事がどうなっていくか。それを検討している。

正木：知能云々というより、計算の話なんだと。

茂木：計算に落とせる仕事と落とせない仕事が世の中にはあって、それが職業という枠と一致するわけではないんです。だから、単純に「この職業がなくなる」と浮き足立つのは早計だと思います。しかも人工知能って、ペンローズの時代からあまり変わっていないともいえるんです、数理的には。要はコンピュータが速くなっただけで、ジェフリー・ヒントンのニューラルネットワークだってディープラーニングだって、考えは昔からあって、ただ計算が及ばなくて実現できなかっただけなんです。

人工知能と人間は「共存」していくべき

正木：計算が高速化して、できなかったことができるようになった。新しい発想はそうそう出てこないですよね。かといって、このまま計算を速くしていって、どこかで「意識」みたいなものが「誕生しました！」なんてことにはならないでしょうから。

茂木：「知性に意識は必要か」と問われれば、知性にとって意識は必要です。人工知能を人間の知性に近づけて総合的な判断のできる知性にしようと考えるなら、意識というテーマと向き合う必要があります。ただ、現状のままの人工知能でもかなり多くのことができる可能性はありますので、人工知能と「共存する」という考えは大事だと思いますね。「職が奪われる」といって嘆くより、「計算やそれに類する定型業務『以外』のことに時間が割けるようになる」と考えたほうがいい。

正木：人体をスキャニングするようにして体の中を解析し、がんを早期発見したり、過去の判例をさかのぼって分析する、みたいなことはAIの方が得意だったりします。実際、そういう例があるので、医師や弁護士といった専門職も危ないといわれています。ですが、たとえばfMRIの画像解析が医師にとってのすべてではない。判例を見渡すことが弁護士のすべてでもない。昔の話ですが、産業革命の時に「機械が普及したら失業する！」と考えた人たちが抗議行動を起こしました。

茂木：ラッダイト運動ですね。

正木：当時も、最終的に街中が失業者であふれ続けるということにはなりませんでした。仕事が変化しただけです。

茂木：繰り返しになりますが、AIによる仕事の変化はあると思うんです。そこで大事なのは、問いを見つけること。社会が複雑化して正解がわからないと言われる現代だからこそ、「仮説を立てる」「問う」ということが大切になります。

正木：ITの世界に「アジャイル開発」ってありますよね。マクロもミクロも設計しぬいて大きなプランを立てて開発するという考えがある一方で、設計とプログラミングを素早く繰り返し、トライアンドエラーしながら製品をつくっていくという手法がある。これなんかは、仮説というか、問いを立てることの連続でもあるといえます。そうすることで、大きなリスクを避けることができたりする。

茂木：そのアジャイルを教育課程でやっているのがアメリカとかなんだと思うんですよね。たとえば、漢字検定ってありますけど、日本が「正しい漢字を書きなさい」だとしたら、向こうは「新しい漢字を考えなさい」みたいなことをさせているんです。よく「木」2つで「林」、「木」3つで「森」、「木」4つで「ジャングル」とか言われますよね。そんな感じで問いと生成を日常的に繰り返して、新しいものをつくっていく。そういう発想がAI時代における共存に必要です。

ビッグデータで扱われる個人情報と人間の尊厳

正木：「共存」を考える時に大事になってくるのは、「AIに何ができるか」を知ることと同時に、「人間に何ができるか」を知ることなのかなと僕は思っています。一時期話題になったケンブリッジ・アナリティカ的な発想で、インターネット・SNSなどを使って人々の投票行動を特定の候補者に誘導するといったことを「させない」知恵につながるのは「人間」についての深い洞察です。今でも、レコメンドで「あなたにおすすめの商品はコチラ」と提示したり、広告からステルスマーケティングまで、さまざまなところに「人間を操るフック」がある。AIにうまく方向づけられてしまってはいけない。

茂木：それって一番のポイントですよ。いわゆる「デジタルレーニン主義」です。データ・マニピュレーションと人間の共存というか、人間の自由や個人の尊厳をどう守っていくかというのは、最も大事なイデオロギー論争です。世界のリーダーもビジネスパーソンも、この話と無縁ではない。それを考える時に、「意識とは何か」「人間とは何か」「脳がどんなものであって、AIはどんなものなのか」という基本を自分なりに踏まえておかないと、何もできないでしょう。世界のトップエリートが、文学や哲学に親しんだり、教養を身に着けるのって、それを知っているからだと思うんです。

正木：すでにレーティングシステムで個々人の信頼度が判断されるという事態は始まっていますからね……。融資審査もそうですし、クレジットカードがつくれるかどうか、飛行機や列車のチケットが買えるかどうか、大学進学や企業の採用で、この人間は是か非か、みたいなことがビッグデータとAIによって判断されてしまうという話はもう夢物語ではない。

茂木：それって一見、合理的なんですけど、人間の尊厳を守る立場からみれば、すごくナンセンスですよ。ここは今の指導的立場にいる人たちをはじめ、みなが一番考えなければいけないところですね。誰かが考えてくれるだろうって発想では、極端な話、操作される側になってしまう。かといって、誰かの考えをマネすれば対応できるというものではない。

いまセンスを磨くべき理由。合理的であることがすべてではない

正木：自分でも考えていく必要がありますね。しかも、必ずしも合理的だから「良し」というわけでもないですから。茂木さんのご著作で、哲学者ベルクソンが出てきますよね。今回の新書でいえば「純粋記憶」概念を使われている。

茂木：そこ、今回の本の最大の飛び道具ですよ。あと、「意識はコピーできるのか」とか。

正木：「クオリア」という語もふくめ、ぜひみなさんに知ってほしいところと僕は思っています。ベルクソンでいえば、彼は「純粋持続」ということも言っています。たとえば、私たちは「時間」というものを「測れるもの」「数えられるもの」と考えがちですが、それでは時間の本質を見失ってしまうとベルクソンは考えました。茂木さんのご著作でも折々、私たちの「今」という感覚には実は幅があるという議論がでてきますね。私たちは「今」というと「無限に短い瞬間」を考えがちですが、感覚的にとらえられる最短の「今」には幅があると。これは学術的にはどう評価されているのでしょうか。

茂木：ワーキングメモリーなんかも話題になっていますが、そこには膨大な実験のデータによる裏づけがあります。

正木：時間を短く分割していくといっても、人間の知覚的に限界があるという話はすごくおもしろいと思いました。たとえばゼノンのパラドクスってありますよね。アキレスと亀の競争とか。アキレスと、その前方にいる亀が「よーいドン」で競争をするんだけど、ちょっと前の時点まで亀がいたところにアキレスが到達した頃には、亀も前進していて、すでに少し前に進んでいる。で、その地点までアキレスが到達すると、やはり亀はそのわずかな時間のあいだに少し前進していて、やはり少し前に進んでいる。この考えを推し進めていくと、アキレスは永遠に亀に追いつけないという話になる。

茂木：でも、現実にはそんなことはあり得ないって話ですね。ありえないのに、なぜか論理的に推論していくと、「ずっと追いつけない」という解が出せてしまえる。じゃあ、このパラドクスに論理的に反論しようかと取り組み始めたら、想像したよりも相当に難しい話になっていく。

正木：ゼノンのパラドクスにはある前提が存在します。それは「時間は無限に分割できる」という前提です。通過算的にいえば、ある瞬間アキレスは亀を追い抜けるはずなんです。でも、その瞬間の少し手前の時点で、時間を無限に細切れにして推論を重ねていくと、追いつけないという話にできてしまう。ところが、「人間が知覚できる『今』には幅がある」という科学的知見を持ち込めば、「そもそもゼノンのパラドクスってナンセンスじゃん」という話ができます。折り紙を四十数回折りたためば、月に到達するみたいな話も、数学的にはそうかもしれないけどナンセンスだよねってなるじゃないですか。それと似ている。しかも科学は時間の分割ということに疑義を呈していて、その発想の起点ってベルクソンの「持続」の概念と重なるんです。

茂木：科学を推していただいてありがとうございます（笑）。さすがツーブロック（笑）。

正木：え？　あ、僕の髪型（笑）。ちょっと話題でしたね、ツーブロック。

茂木：でも、いまアートとビジネスといった話題でも「センス」というトピックが語られていますが、「それってナンセンスだよね」と思える感覚知はとても大切だと思います。合理的なもっともらしい話に違和感をもつ感性だって、活きる場面がある。「時間」という概念ひとつ取っても、あたりまえなようでミステリーなんです。その「時間」について考える、まさに哲学的なことを日本人も身につけていったほうがいい。哲学も「問い」を大切にする学問ですから。Appleとか、最近でいうとNetflixのユーザーエクスペリエンスのつくりこみって、おそらく意識の科学、意識の現象学を応用していると思うんです。意識的にそうしているかはわかりませんが、それを僕は感じる。「センス」を磨くことは、ユーザーインターフェースの洗練などにだってつながります。ビジネスに限らず、学びの大切さが実感されるようになるのがAI時代だということは言えるので、これからも探究を続けていきたいです。

＜茂木 健一郎 氏の著書はこちらから＞
クオリアと人工意識