東京大学大学院情報学環教授　西垣 通

機械はどこまで生命体に近づけるのだろうか。生命体と機械の違いを「心」の有無にあると考えてみよう。では、心はどこから生まれるのだろうか。常識では心は脳の働きによって生じると考えられている。一方、脳科学の研究が進むほどに、脳と電子機械のあいだに本質的な違いがないことが明らかになる。心と脳には関わりがあることは確からしいが、脳イコール心というわけではなさそうだ。ではいったい、私たちの生命体らしさはどこにあるのだろうか。

生命体と機械はどう違うか

　
大阪大学大学院基礎工学研究科システム創成専攻知能ロボット学研究室（石黒研究室）のアンドロイド（人間酷似型ロボット）。

人間のような機械を創ることは、エンジニアにとって永遠に見果てぬ夢である。先日、外見が不気味なほど人間に似ている大阪大学の実験ロボットが評判になった。だがこれは顔の表情など外見を実在の人物から写しとったリモート制御の人形で、中身は空っぽである。本当の夢実現からはほど遠い。

求められるのは外見の類似ではなく、人間の「心」をもったロボットなのだ。では心とは何かと問われると難題だが、すぐ想起されるのは例のチューリング・テストだろう。手短にいうと、われわれが電子メールなどでロボットと対話し、相手が人間かロボットか区別がつかなければ、そのロボットは心をもっていると判断できるというわけだ。

チューリング・テストは、ある機械が知的かどうか（人工知能であるかどうか）を判定するためのテスト。アラン・チューリングが1950年に発表した論文『Computing Machinery and Intelligence』において考案した。人間の判定者が、1人の（別の）人間と1台のコンピュータに対して通常の言語での会話を行う。このとき人間も機械も人間らしく見えるように対応する。質問者（プレイヤーC）は、A とB どちらのプレイヤーがコンピュータでどちらが人間かを、文字上の質問に対する返事によって判断して回答する（概念図）。質問者が、機械と人間を区別できなかった場合、機械はテストに合格したことになる。

判断基準は曖昧だし、テストとしては不十分な感じもするが、狙いはよく分かる。対話中に話題がどんどん予想外の方向に発展することは珍しくない。それでも相手が当意即妙に答を返し、面白い対話ができれば、相手は心の持ち主といえる。だが、対話が途切れたり、異常な答が返ってきたりすれば、心の持ち主ではないと判断できるということだ。

機械は「他律的」な存在である。だから基本的には、予め他者（設計者）から与えられた処理ルールにもとづき、入力に対して定型的な出力を返してくる。予想外の状況には決して対応できない。一方、生命体である人間は「自律的」な存在である。だから、与えられた状況に柔軟に適応し、どんな話題にも何とか対応できるというわけだ（グッと詰まって、場違いな答を返す場合もあるけれど）。

ここには大切なポイントが潜んでいる。人間（生命体）は、過去の自分にもとづいて、時々刻々、現在の自分を生成し続けていく。何かを学習するといっても、外部から客観的・三人称的な知識をそっくり脳に入力するのではなく、自分なりのルールで解釈して記憶する。自己循環的に解釈と記憶、そしてルール調整を繰りかえしていくのだ。その意味では、人間の知識とはあくまで主観的・一人称的な「閉じたもの」といっても過言ではない。

ところが人工知能をもつ通常のロボットの記憶装置には、設計者が前もって外部から入力した客観的知識が詰まっているだけである。だから、人工知能研究者はなかなか「心」を創り出せないのだ。

ロボットは客観的な理性なら持てるかもしれないが、主観的な感情を持つことができない。相手のちょっとした一言で、予想外にカッと怒ったり涙ぐんだりする「心」こそ、生命体の特徴なのである。

システム環境ハイブリッド

ウンベルト・マトゥラーナ（Humberto Romesín Maturana、1928年～）チリの生物学者。1970年代はじめに教え子のフランシスコ・ヴァレラとともにオートポイエーシスの概念を創出。ハトの網膜の反応が外界の物理的刺激とは簡単には対応しないという観察事実から、生命システムとは神経系を有していようといまいと認識を行うシステムであるとの考えに達し、徹底的構成主義 (radical constructivism) や相対主義的認識論 (relativisticepistemology) を提唱した。進化プロセスは適者生存としてではなくナチュラル・ドリフトとして捉えることを主張した。
（Photo by Ars Electronica, showing Huberto Maturana (CL) speaking at the ORIGIN Symposium III.）

フランシスコ・ヴァレラ (Francisco Javier Varela Garcia, チリ、タルカワノ、1946年～2001年) チリ生まれの生物学者・認知科学者。ウンベルト・マトゥラーナとともに、オートポイエーシス理論の提唱で知られる。1980年にチリ大学の生物学教授としてチリに帰国した後、1986年からはパリに拠点を定め、1988年よりその死までフランス国立科学研究センター (CNRS) で研究部長を勤めた。1987年にはチベット仏教と科学者との対話を通じて心の科学の発展をめざす団体の設立にかかわり、ダライ・ラマ14世をはじめとする仏教徒との会議を開催している。
(Photo from the collection of joan halifax, upaya zen center)

こういった生命体の本質をとらえた理論が、基礎情報学の支柱の一つである「オートポイエーシス理論」である。これを哲学の一種と見なす人も多いが、元来は、知覚生理学や理論生物学をベースにした理系の理論である。創始者であるウンベルト・マトゥラーナとフランシスコ・ヴァレラは、サイバネティカルな機械システムと生命体の認知観察概念とを組み合わせて、この独自の理論を提唱した。

オートポイエーシスの「オート(auto)」とは自分のこと、「ポイエーシス(poiesis)」とは制作のことである。つまりそれは「自分で自分を創りあげる」ことを意味する。生命体が設計図にもとづいて外部制作されるのではなく、遺伝的に内部発生していくのは明らかなことだろう。生命体は「オートポイエティック（自己創出）・システム」なのだ。そして、人間の「心」も、過去の「思考＝イメージ」にもとづいて現在の「思考＝イメージ」を継続的に創出していくオートポイエティック・システムの一種ととらえられるのである。

さて、ここで難問が現れる。いったい、ロボットは永遠に心を持てないのだろうか。機械はオートポイエティック・システムではないから不可能だ、と一刀両断することはできる。しかし、すべての処理ルールを外部から与えるのではなく、ロボットが徐々に処理ルールを学習していく、というアプローチは十分考えられるし、すでに実験もされている。ただし「学習のルール」を与えているではないか、という反論も出るだろう。論争は果てしない。

肝心なのは「心」の内容をもう一度見つめ直すことだ。太古の人類とは異なり現代人の「心」にはすでに機械的要素が無数に入りこんでいる。たしかに細胞は細胞だけから産出されるのかもしれない。だが、心の中の「思考＝イメージ」が「思考＝イメージ」を自己循環的に産出するプロセスには、携帯電話やインターネットなどの機械的な要素プロセスが微細に混入しているはずだ。

ネオ・サイバネティクス研究者であるマーク・ハンセンは、こういう有り様を「システム環境ハイブリッド」と名づけている。自律的で主体性を持つはずの人間の「心」を取りまく外部環境の中に、他律的ルールで作動する電子機械が増殖しつつある今、この点を考慮しないと正確に「心」をとらえることはできないというのである。

主観と客観をつなぐ知

われわれの心の働きのなかに、非オートポイエティックな要素が混入しており、その度合いが急速に増していることは確かだ。まさにそれこそが、効率化の一方で生命的活力を損なう危険をもはらむ。とすれば、システム環境ハイブリッドの内実を一歩ふみこんで分析しなくてはならない。

実はこれは、心脳問題（心身問題）という昔からある難問の現代版に他ならない。「心」とは、主観的・一人称的な存在だが、「脳」とは客観的・三人称的な存在だ。「心」はクオリアなどと呼ばれる一回限りの個人的体験からできているが、「脳」とは要するにぶよぶよの白っぽい物質である。「脳」はさかんに研究されていて、物理化学的性格は違うものの、脳と電子機械との間に本質的な相違を見出すのは難しい。

さて、「三人称的な脳からいかにして一人称的な心が生まれるのか」というのが、心脳問題の浅薄で常識的な表現である。「浅薄で常識的な」と断ったのは、実はそういう問いかけをするかぎり、この問題は決して解けないからだ。脳を分析して心の謎を解き明かすという常識は、客観的・三人称的な知識を合理的に組み合わせて真理に至る、という伝統的な科学的方法論にもとづいている。もちろん、それが有効な問題もあるが、心脳問題については、アプローチが逆なのだ。むしろ、心の謎を解いて脳のメカニズムに迫らなくてはならない。つまり、主観的・一人称的な知識から、いかにして客観的・三人称的な知識が生まれるのかが、実はわれわれの解くべき問題なのである。

連載第二回でのべたように、ネオ・サイバネティクスは、単眼的・絶対的な従来のシステム論と異なり、複眼的・相対的なシステム論であり、それぞれのシステムが自分なりの世界を構成すると考える。だから当然、主観的・一人称的な知識から出発する方法論が採択されるのである。

とはいえ、いったいどのようにして、主観的知識と客観的知識を結べばよいのだろうか。オートポイエーシス理論が教えるように、われわれの「心」とは本来、閉鎖系である。人の心から心へと意味（情報）をまるごと伝達することなど原理的に不可能だというのが、基礎情報学の出発点なのだ。だが、正確ではなくても、何らかの意味が伝わっているからこそ、われわれの社会生活は曲がりなりにも成立している。システム環境ハイブリッドを論じるには、そこに分析のメスを入れなくてはならない。

一つのアイデアは、チューリング・テストから得られる。「私とあなた」という二人のあいだの対話、つまり「二人称のコミュニケーション空間」から出発することである。はたしてその延長上に、三人称の客観的知識は見つかるのだろうか。

【スマートフォンと哲学が出会うとき●ソーシャルメディア時代の基礎情報学】バックナンバー

にしがき・とおる
1948年東京生まれ。東京大学工学部卒、工学博士。日立製作所主任研究員ならびに明治大学教授を経て、1996年に東京大学社会科学研究所教授。2000年より東京大学大学院情報学環教授。文理にまたがる情報学を研究している。著書『デジタル・ナルシス』でサントリー学芸賞（芸術・文学部門）受賞。このほか『、スローネット『』ネットとリアルのあいだ』など著書多数。『1492年のマリア』など小説も手がける。

『人間会議2012年夏号』
『環境会議』『人間会議』は2000年の創刊以来、「社会貢献クラス」を目指すすべての人に役だつ情報発信を行っています。企業が信頼を得るために欠かせないCSRの本質を環境と哲学の二つの視座からわかりやすくお届けします。企業の経営層、環境・CSR部門、経営企画室をはじめ、環境や哲学・倫理に関わる学識者やNGO・NPOといったさまざまな分野で社会貢献を考える方々のコミュニケーション・プラットフォームとなっています。