「心」はどこから生まれるのか――人工生命・AI・哲学から問い直す人間と機械の境界（後編）

―AIと人工生命のお話が出ました。昨今のAI技術の進歩は、飯塚先生の人工生命の研究にどのようなインパクトをもたらしているとお感じになりますか？

インパクトですか……。扱える情報の質、複雑性がすごく上がりました。ミニマルモデルを作るということだけでなく、人の個別性のようなものを作り上げられるインパクトがある、と言いますか。計算能力が上がったことで、できることがすごく増えました。

―ますます飯塚先生の好奇心を満たす助けになりそうですね。飯塚先生、ある取材記事の中で「生涯を閉じるまでに自分の意識を安全なところに移したい」とコメントされていましたが、その研究は進展されていますか。

進展していないですね。やはり、意識という最終的な興味には当然関心があって、ロボットが意識を持つのかという面もあるのですが、結局、意識のようなものが、まあお化けとか精神のような感じになってしまうのですが、そういうものが存在していて、それが機械に宿るのか、という考え方をすると、先ほど申し上げたように「移したい」というような言い方になるのです。ただ、思うのはやはり、意識はそういうものではなくて、相互作用の中から生まれているものだな、ということをすごくよく思うようになりました。

実際には、「意識を移せば何とかなる」「自分の死に対する恐怖を避けるために、永遠に生きるためにはコンピューターに移せばいいのではないか」という安易な言い方だったと思うのですが、やはり反面、意識はそういうものではないな、ということもよく思っています。私は相互作用をベースにした考え方をしているので、相互作用の下で生まれてくるのが意識のようなものだと感じています。

ですので、永遠には生きられないけれど、永遠に生きるためにはどうすればいいか……。今はいろいろなアバターのようなもの、デジタルツイン（現実世界の物体・設備などをセンサーで取得したリアルタイムデータに基づいてデジタル空間に精密に再現し、分析・最適化・予測に活用する技術）などと言われて様々な取り組みが行われるようになってきましたが、自分の意識をどこかに移せるとは思っていません。野望としては移せるようなことができたらいいとは思うのですが、結局のところできないと思っています。ただ、自分がいたという何かは残すことができるだろう、少なくとも自分にとっての自分は、何か残すようなことができるのではないかと思っています。

―わかりました。それでは、すでに出ているCHAINにも少し触れたいと思うのですが、このCHAINというのはどんな特徴を持った組織なのか、具体的にどのような教育活動をされているのか、触れていただけますか。

はい。CHAINは、そんなに大きい組織ではないのですが、2019年に、北海道大学の文系の先生方の尽力によって立ち上げられたセンターです。特に文学研究院の先生方が中心となって、従来の学問分野の枠を越えて、新しい科学や新しい考え方を生み出していこうということで設立されました。もともとの大きなテーマは、「意識」「自己」「社会性」「合理性」といった、人間の心や認知、さらには生命、知能、AIに関わる問題を、これまでの一つの学問分野だけではなく、分野を横断しながらどのように科学的に捉えていくか、ということだったと思います。学際的な研究の重要性は昔から言われていますが、実際には、それぞれの分野に異なる考え方や方法論がありますので、単に異なる分野の研究者が集まるだけでは、なかなか新しい研究にはつながりにくいところがあります。CHAINは、そうした分野の違いそのものを越えて、最初から一緒に新しい問いや研究の枠組みをつくっていこうという発想で始まったところが、非常に特徴的だと思っています。

元々私もAIもやりますし、動物のこともあります。いろいろなことをやって、いろいろな興味があって、どこかの分野に限定されているわけではありません。人工生命も、どこかの決まった分野に入っているわけではないので、CHAINという組織は、そういう学際的なマインドを持った人が集まってできているセンターなのです。そういうものを作る必要がある、ということを、センター長の田口茂先生や、文学研究院の先生方が考えて、それで作られたセンターです。

今は5人の専任教員がいまして、私と、神経科学や哲学、認知科学、文化人類学の先生方が集まって運営しています。通常の限られた分野の勉強ではなく、分野を越えた人材を育成しようという教育センターになっています。

私自身は、そのセンターでディープラーニングを教えているのですが、単にディープラーニングを知りたいという学生だけでなく、文系の学生や、普段コンピューターを使わないような学生にも、「AI倫理を学びたい」「自分の研究に応用したい」という学生がたくさんいますので、そういう学生にもわかるように人工知能を教えたりしています。神経科学の先生が文学部や理学部の学生に脳科学を教えたりもしています。とにかく、医学、工学、情報科学、理学、薬学、文学、心理学などいろいろな専門の学生が集まってきて、学際的な研究や教育を行えるようなセンターになっています。

―CHAINのホームページも拝見したのですが、その中に「現代における最先端の科学が突き当たっているスリリングな問題に取り組んでいく」というメッセージがありました。このスリリングな問題とは、どのような問題があるのですか。

それぞれいろいろな思いがあると思いますが、私が思いつくのは、やはり意識の問題や、社会の作り方についてです。AIが入ってきて、私自身もCHAINに加わってからいろいろと問題意識を持つようになりました。「AIがあって便利だから」ということだけで突き進んでいくと、そういう社会はどうなのだろうか、という思いがあります。AIと人間が協力していくような、違う社会の作り方があるのではないかと思っています。

ごく簡単に言いますと、今までは、そうしたコンピューターシステムがなかったので、投票によって政治家を選び、その政治家が国を運営してルールを作り、社会を動かしていくという時代でした。しかし今は、一人ひとりの声を全部吸収したり、その意見を拾い上げたりすることができるような世の中になってきています。そうした中で、どういう社会が一番いいのだろうか。今の投票で決めていくような社会の動かし方とは違う社会の動かし方があったり、自動運転が入ってきたりと、社会がどんどん変わっていく中で、どういう新しい社会システムがありうるのか、ということが考えられます。今までの既存のシステムの中で、市役所があって、何かがあって、というシステムだけでなく、そうではない新しい未来がきっとあるだろう、ということが考えられます。

先ほど申し上げた意識の問題もそうですが、通常、みんな意識はどこかに宿っていて、その実体をどう捉えるか、という考え方をしがちです。ただ、私たちは、そうではない意識の捉え方ができるのではないかと考えています。心の問題もそうです。先ほどの鳥のロボットの話もそうですが、孤独を抱えた人間が生きていく中で、ロボットがそこにいたときに、それが本当に心を持っているように思える状態はどうやって作れるのか、心をどう作るのか。AIの研究では、「知能をつくる」「心をつくる」という目標が掲げられることがありますが、知能や心とはそもそも何なのか、それがどのような関係性や相互作用の中から生まれるのかについては、まだ十分に分かっていない部分が多くあります。だからこそ、既存の枠組みで知能や心をそのまま再現しようとするのではなく、まずその成り立ちそのものを問い直す必要があると考えています。たとえば、感情らしい振る舞いを外から与えて、それらしく見せるだけでは、心を作ったことにはならないと思うんです。大事なのは、人や環境との関わりの中で、なぜそのような状態や振る舞いが生まれるのか、というところまで含めて捉えることです。そうした意味で、心の表現を作るのではなく、心が成立する仕組みそのものに迫るような人工知能をどう作っていくか。そこが非常にスリリングな問題だと思っています。

―生命を探求していくと、最終的には人間とは何か、社会はどこに向かうのか、に突き当たるという流れでいくと、実際CHAINでも「人間とは何かを学問的に問い直す」プロジェクトを展開されているご様子ですね。

はい、そうですね。

―このプロジェクトは着々と進んでいらっしゃいますか。

そうですね、心の問題や自己の問題というのが、やはり人間とは何かということに関わっています。先ほど申し上げた運動主体感や身体所有感といったものが……。ロボットの場合、「これがロボットの境界です」「このボディがここだから、ここが境界なんです」「これが自己と他者の区別ですよね」と境界をあらかじめ決めることができますし、その内側を自己、外側を他者や環境として扱うこともできます。ただ、人間の自己というものは、そんなに簡単に境界を引けるものではないですよね。先ほど申し上げた腕の所有感の話のように、腕を切り落とした瞬間に、今まで自分の腕だったものが、目の前で腐って環境と同化していき、それが自分ではなくなっていく、ということも起こりうるわけです。そういう意味で、人間とは何かという考え方が、もう少し、我々が「エナクティブ」（認知を生物と環境の相互作用を通じて生じる能動的な過程として捉える認知科学の立場）と呼んでいるアプローチ、つまり相互作用の中で自己が動的に作られているという人間観のようなものが、少しずつ広められたらいいなと思っています。我々としては、そういう考え方が少しずつ積み上がってきてはいるのですが、それが社会にも少し浸透していけばいいなというふうに考えています。

―わかりました。実は今、生命を探求していくと人間とは何かに突き当たる、というお話をさせていただいたのですが、大阪大学の石黒浩先生も、「ロボットの研究は突き詰めていくと結局は人間とは何かなんだ」、とおっしゃっていました。やはり大学の先生方は皆さん、「人間とは何か」というところに突き当たるのだな、と思いました。飯塚先生は「科学と哲学を融合させた新たな研究領域を切り開いていきたい」というコメントもされていましたが、これは今も変わっていらっしゃいませんか。

そうですね。科学と哲学を融合するというよりも――この言い方が正しいかどうかわかりませんが――哲学の良いところは、というお話になります。我々、コンピューターや機械、ロボットを作っている人たちは、結局のところ「物を作って人間を考える」ということに縛られているんですね。では身体をどう作りますか、人間っぽいものを作って、その中に心をどう入れますか、というような考え方になって、ソフトウェアとハードウェアが分離されたような考え方にならざるを得ません。

自然に生命ロボットを作ろうとすると、ソフトを作ってモーターをつけて、それをコントロールするコントローラーをつけて、という考え方にならざるを得ず、そうすると知らないうちに、それが基本的な頭の中の考え方になっていくのです。コンピューターでやろうとすると、プログラムをどう作るか、どうなっているか、というところにも、やはり結構縛られてしまいます。

でも哲学の良いところは、頑張ればそういう呪縛から逃れられることなのですよね。そもそもの前提を問い直す、たとえば「そもそも意識というのはここにありますよね」という、主体的・主観的な立場から物事や世界を語るようなスタンスが結構あります。私自身あまりわかっていない部分もあるのですが、もともとの考え方を崩すような考え方がいくつもあるのです。「これは面白いな」と思うものもあれば、「これは全く言っていることがわからないな」というものもあります。

ただ、仮にその前提に立ったら心の問題や意識の問題はどうなるかな、と考えてみると、意外に新しい方法が見えてきて、「こういうふうに作ってみたらいいのではないか」と気づくことがあります。我々は意外に、こういう前提条件に縛られて、正しいかどうかもわからないまま「当たり前だ」と思っていることを使っているなあ、ということがすごくよくありますね。

そういう意味で、哲学の話を聞くと、根本から考えを変えて新しいことができる、という機会が生まれることがあるので、私は哲学と科学はやはり一緒に進んでいくものかなというふうに思っています。

―今、飯塚先生のコメントの中で「そもそも」という言葉をいただきましたので、その「そもそも」でお伺いします。そもそも人や生物と機械の差というのは、埋めることができるのでしょうか。

私はできると思っています。それは究極的には、というお話になってきますが、本当に究極的に考えると、ChatGPTなどが出てきて、かなり埋まってきているんじゃないかという気もします。最終的にはやはり埋まると私は思っているんですよね。

それは、いかに相互作用を成立させるか、ということが問題になっている気がします。ChatGPTによって言語的な障壁がかなり下がっているということもありますし、身体的な相互作用というのもおそらくあって、身体的な相互作用における何かがうまくできあがると、そこにはやはり機械とか人間とかという差はだいぶ薄れてくるのではないかなと思います。

そうして薄れてきた世界を考えると、いろいろまずいこともあるような気がしますが――たとえば「ロボットに対する人権はどうなのか」だとか、いろいろ出てきそうな気がします。それでもやはり、人間と機械の差というのは、最終的には分かりにくくなってくるかなというふうに思っています。

―わかりました。最後の質問です。飯塚先生、AI技術に今後どんな発展、進歩を期待されますか。

いろいろ道はあると思います。先ほどからAIに対して批判的な言い方をしていた部分もあるのですが、AIはAIで、「こういうのがあったら便利だな」というものがあって、人間らしくなければいけないということを捨てて、そちらに特化した何かが突き抜けて進歩していく、というやり方もあると思うんです。人間に近づいてくると人間とはこの点で異なるとか、いかにもそれが問題であるかのように言われますが、人間とは全く違う突き抜けた知能、そういうことを言ってもいいんじゃないかな、もっと強く言ってもいいのではないかな、と思っています。

なんとなく、AIを人に寄せたい、寄せるということを無理にやっているような気もしていて。そのほうがやはり世の中に受けるじゃないですか。「意識のコンピューターができましたよ」と言ったほうが受けるから、みんな言っているのかもしれないけれど、そうではなく、とにかく道具としてのコンピューターを極めていくようなものがあってもいいんじゃないかなと思っています。それを極めていく途中の経過の中に、人間らしさのようなものを見ていくくらいの気持ちでもいいのかなと。

もう一つ申し上げますと、私は小さい頃、「ナイトライダー」というアメリカのドラマがありまして、車が喋ったり、自動運転してくれたり、主人公を助けてくれる自動ロボットが出てくるのですが、その「キット2000」というのを、子供の頃「こんなのが世の中にあるのか」とずっと信じていました。大きくなるにつれて、それが全部ドラマで作られた幻想だったのかと気づいて、少しショックを受けたこともあるのですが……。それでも、キット2000のようなものが出てくる世界、そうしたAIの発展を私は期待しています。もちろん、技術として上がっていくことで自分にできることが増えるのも、すごく嬉しいですね。

―飯塚先生、貴重なお話をお聞かせいただき、ありがとうございました。

【編集後記】 

今回の取材で印象に残ったのは、飯塚氏の研究が「人工生命」や「AI」という最先端の技術を扱いながら、最後には極めて身近な「自分とは何か」「他者とは何か」という問いに戻ってくることである。くすぐったいという感覚、ゴム手袋を自分の手だと感じる錯覚、道具を身体の延長として扱う感覚、動物とのリアルタイムなやり取り。こうした身近な現象を一つずつ手掛かりにしていくと、「自己」は最初から完成されたものではなく、身体や環境、他者との相互作用の中で動的に形づくられているという見方が立ち上がる。そこからAIやロボットを考えると、単に「人間そっくりの機械を作る」という発想とは異なる景色が見えてくる。さらに哲学との対話やCHAINでの文理融合の取り組みからは、技術を進歩させるだけでなく、技術を前提にしてしまった私たち自身の思考を問い直す姿勢も伝わってきた。AIの性能競争が加速する今だからこそ、「何ができるか」だけでなく「何を人間らしいと考えるのか」を立ち止まって考える。本インタビューは、そのための刺激的な視点を与えてくれる。