GUAN｜森崎茂公式サイト

    １

『人間機械論』からノーバート・ウイナーの特徴的な考えを抜粋する。ＡＩのディープラーニングという手法がウイナーの提唱したフィードバックという概念をアルゴリズムによって深化した「特徴量」であることがよくわかる。

たとえば、エレベーターに乗ろうとする場合、外側のドアがただ開くだけではたりないのであり、われわれが与えた命令によってドアが開くときにエレベーターがそのドアの所に来ているようになっていなければならない。ドアを開ける操作の起動が、エレベーターが実際にそのドアの所に来ているか否かによってきまるようになっていることが大切である。もしそうでなければ、何かの原因でエレベーターが途中にとまっていて、乗ろうとする人が竪穴に踏みこんで墜落するかもしれない。このように機械を、それがやるはずの行動によってではなく、実際にやった行動に基づいて制御することが、フィードバックと呼ばれるものである。それには感覚器的要素と運動器的要素が必要であり、前者は後者によって起動され、監視器の機能、すなわち実際なしとげた行動の検知器の働きを行なうのである。

これと非常によく似たことが人間の動作において行なわれる。たとえば私が葉巻を取り上げる場合、私は何か特定の筋を動かそうと意思しているわけではない。実際、多くの場合私はどんな筋肉が働くのか知らない。私がすることは、或るフィードバック機構を働かせること、すなわち葉巻を取り上げるにはあとどれだけ動かせばよいかという距離が、おくれている筋がどれであっても、その筋への新たな追加命令となって作用するような一つの反射運動を起こさせることである。このようにして、手の初めの位置がひどくさまざまであっても、或いはまた筋の疲労による収縮力の減退がどれほどであっても、ほぼ同じ意識的命令によって同一の仕事が遂行されることができるのである。

こんなわけで神経系と自動機械は、過去になした決定に基づいて決定を行なう装置という点で根本的に似ている。最も単純な機械は、二つの可能性の間の決定－例えばスイッチを開くか閉じるかの決定－を行なう。神経系では、個々の神経繊維もまた電気のパルスを運ぶか運ばないかの決定を行なう。機械にも神経にも、将来の決定を過去の決定に依存させる特殊な装置があり、神経系では、この仕事の大部分は「シナプス」と呼ばれるきわめて複雑な接点でなされる。この接点には何本かの神経繊維が入ってきて、そこから一本の神経線経が出てゆく。多くの場合、こういう決定のなされる仕組みは、シナプスからでてゆく線経が発火するためには、シナプスにはいる繊維のうち何本がパルスを運んでこなければならないかということに基づくと考えられる。これが、機械と生物との類比の少なくとも一部の基礎である。生物体のなかのシナプスは機械のなかのスイッチ装置に相当する。

強いAIの論理の土台がサイバネティックスとして述べられている。サイバネティックスとはなにか。同一性がそれ自体のなかにもつ空隙を技術が充填することが可能となったきっかけの理念だと思う。ウイナーのフィードバックという理念をアルゴリズムが再帰的に実現することで、ディープラーニングが可能となった。ディープラーニングの核心は「特徴量」という概念にある。パターン認識をアルゴリズムとしてコンピュータに組み込めば、コンピュータがパターン認識を再帰的にフィードバックし、それをアルゴリズムに繰り入れ演算することになる。この演算の過程はあたかもコンピュータが自我をもったかのようにみえる。松尾豊は『人工知能は人間を超えるか』で言っている。「ディープラーニングは、データをもとに、コンピュータが自ら特徴量をつくり出す。人間が特徴量を設計するのではなく、コンピュータが自ら高次の特徴量を獲得し、それをもとに画像を分類できるようになる。ディープラーニングによって、これまで人間が介在しなければならなかった領域に、ついに人工知能が一歩踏み込んだのだ」「いったん人工知能のアルゴリズムが実現すれば、人間の知能を大きく凌駕する人工知能が登場するのは想像に難くない。少なくとも、私の定義では、特徴量を学習する能力と、特徴量を使ったモデル獲得の能力が、人間よりもきわめて高いコンピュータは実現可能であり、与えられた予測問題を人間よりもより正確に解くことができるはずである。それは人間から見ても、きわめて知的に映るはずだ」。AIが知的に映ることと人間の知性はまったく相関していないが、コンピュータが特徴となる関係の型を学習し、その関係の型を再帰的にフィードバックしアルゴリズムを実行するさまは、あたかもコンピュータが自我をもったかのようにみえる。いきおい松尾豊はとんでもないことを主張する。マルクスの価値形態論から言語の理論をつくったソシュールの機能的な言語論にその責の一端がある。ソシュールの言語論は本質的に記号論だから言語は容易に記号として可視化される。

かつて、言語哲学者のソシュールは、記号とは、概念（シニフィエ）と名前（シニフィアン）が表裏一体となって結びついたものと考えた。シニフィエは記号内容、シニフィアンは記号表現ともいわれる。図19に示すように、シニフィアンであるところの「ネコ」という言葉は別に任意のものでよいが、いったん結びついてしまうと、ネコという名前（シニフィアン）は、ネコの概念（シニフィエ）を表すように了解され、運用されるようになる。
 コンピュータがデータから特徴量を取り出し、それを使った「概念（シニフィエ‥意味されるもの）」を獲得した後に、そこに「名前（シニフィアン‥意味するもの）」を与えれば、シンボルグラウンディング問題はそもそも発生しない。そして、「決められた状況での知識」を使うだけではなく、状況に合わせ、目的に合わせて、適切な記号をコンピュータ自らがつくり出し、それを使った知識を自ら獲得し、活用することができる。これまで人工知能がさまざまな問題に直面していたのは、概念（シニフィエ）を自ら獲得することができなかったからだ。
 いま、コンピュータが、与えられたデータから重要な「特徴量」を生成する方法ができつつある。コンピュータがシニフィエを獲得する端緒が開かれつつある。

 コンピュータが概念（シニフィエ、意味されるもの）を自力でつくり出せれば、その段階で「これは人間だ」「これはネコだ」という記号表現（シニフィアン、意味するもの）を当てはめてやるだけで、コンピュータはシニフィアンとシニフィエが組み合わさったものとしての記号を習得する。ここまでくれば、次からは、人間やネコの画像を見ただけで、「これは人間だ」「これはネコだ」と判断できることになる。

人間の思考の回路は電気回路とおなじであると云う仮説を前提にすると人間の考えることはアルゴリズムとして計算可能だということになる。もちろん計算可能であるということも仮説にすぎない。これが強いAIの立場というものだ。入力が決まれば出力も決まるという機能的な考えだが、ここでは是非は問わない。そういう考え方もまた可能ではある。松尾が驚いているのは画像認識しているその当体のコンピュータが認識を再帰的に判断できるということのなのだ。ある関係の型のなかからパターンを抽出できるということだ。この場面でソシュールの言語論が援用されている。とてもわかりやすくてつるんとしている。わたしには科学的信の宗教性が表明されているような気がしてならない。この宗教性はたしからしさという共同的な迷妄に覆われている。人であることにつきまとう迷妄を人工知能は模倣するだけではないのか。科学知の迷妄はどこに行きつくか。松尾豊かは言う。

われわれが生きるこの世界において、複雑な問題を解く方法は、実は、選択と淘汰、つまり遺伝的な進化のアルゴリズムしかないのかもしれない。優れたものは繁栄し、そのバリエーションを残し、劣ったものは淘汰される。人間の脳の中でも、予測という目的に役立つニューロンの一群は残り、そうでないものは消えてゆくというような構造があるのではないだろうか。
 私の研究室では、ディープラーニングをこうした選択と淘汰のメカニズムによって実現しようという研究を行っている。組織の進化も、生物の進化も、脳の中の構造の変化も、実は同じメカニズムで行われているのではないか。そう考えると、個人と組織、そして種との関係性は思ったよりも密であり、そして「システムの生存」というひとつの目的に向けて、備わっているのかもしれない。

ああ、ここでもまた適者生存か。まるでベジャンの『流れとかたち』の主張そのものではないか。個人と組織のメカニズムも、生物の進化や脳の構造的変化のメカニズムもおなじと考えることは勝手だが、それもまた仮説にすぎない。どうして見たこともない仮説がこうもやすやすと可視化されるのか。この迷妄をAIが模倣するだけではないのか。AIという人間のシュミラークル。遺伝子工学や生殖医療やAIの急速な進展に伴い、自己という現象の起源の闇はますます巨大化する。自己という始まりの不明はどう解消することができるのか。この特異点を解消しないかぎりニヒリズムが漸増するだけだ。それが自然であると人はそこに身の丈を合わせていくのだろうか。こういった機能主義的な主張にたいしてペンローズは猛然と反発した。AIを批判した『皇帝の新しい心』とこの本が引き起こした論争を受けて書かれた『心の影』や『ペンローズの量子脳理論』、『宇宙の始まりと終わりはなぜ同じなのか』は、同一のモチーフによって貫かれている。人間の心は計算可能ではない。意識の起源を解明するには量子重力理論が必要である。そのためにはまったく新しい数学が要請される。ペンローズの主張はこの流れに沿ってなされている。いくつかの公理によって成り立つひとつ系があるとして、その系に矛盾がないことを、系を支える公理を使って導くことはできないというゲーデルの不完全性定理は、ペンローズに衝撃をもたらした。AIが人間の知性を超えることは原理的にできないという根拠については、どれほど優れたAIであってもアルゴリズムの内部にゲーデル文が存在してしまう不可避性を背理法を使って激烈に批判する。いいぞ、ペンローズ。

    ２

ペンローズの『心の影（Shadow of the Mind）』を読みかえしていて、ギクッとした。それはつぎのところだ。

（ａ）「知能」は「理解」を要求する。
（ｂ）「理解」は気づきを要求する。
私は、気づきを意識の現象の一つの側面－受動的側面－と捉えている。意識には、能動的側面すなわち自由意志の感覚もある。

ペンローズは語りうることを明晰に語っている。コンピュータにはアルゴリズムに従った計算可能なプロセスしか実行できない。意識は計算不可能な思考を実行できる。したがって、コンピュータは意識の下位概念としてしか存在できない。神経細胞の発火と電気回路のＯＮとＯＦＦが似ているようにみえても、ニューロンの発火は精神現象の主役ではなく、それは「心の影」にすぎない。だから強いＡＩが意識をもつことは原理的にありえない。ペンローズがゲーデル文をこまかく論じながら言っていることはここに尽きる。

わたしの理解では、ペンローズの、気づきが意識の現象のひとつの側面ということは、同一性を暗黙の公理にする心的な現象であり、アルゴリズムではない、非計算的な過程もそのなかに意識の外延性としてふくまれている。
チューリングとゲーデルはおなじことにきづき、計算可能性と非計算的な過程の理解について離反した。意識の、ある気づきが同一性にすぎないとき意識ははじまりの不明を、是非ではなく抱え込んでしまうということだ。
ではペンローズにとって気づきの能動的側面はなんだろうか。かれは自由意志だと言う。この自由意志はプラトン的な世界が実在するということによって担保されている。それがペンローズの第十八願だといってよい。わたしは根源の二人称が曲率ゼロの意識の平面に投射されたとき、人びとはこの気づきを同一性に封じ込め、外界と内面という自然をつくったのだと思う。

 言ってみれば、自然数はすでに″そこに″ある、つまりプラトン的世界のどこかに存在していて、私たちは対象を意識（アウェア）するという能力を介して、その世界に入ることができるのである。もしも私たちが知性のないコンピュータにすぎないならば、私たちにはその意識という能力がないことになる。
 ゲーデルの定理が示しているように、自然数の性質を私たちが理解できるのは、規則によるわけではない。自然数が″何であるか″を理解することは、プラトン的世界と接触することである。
 こうして私の主張をさらに一般化すると、数学的理解は計算的なものではなく、ものごとに気づく能力に依存した全く異なる何かである。そこで次のように言う方がいるかもしれない。「あなたが証明したと主張するのは、せいぜい数学的洞察が計算的ではないということだけだ。意識の他の形態については、それほど多くを語っていないではないか。」
 だが私は、それで十分だと思う。数学的理解と他の種類の理解とを区別することは、不合理である。（略）理解は数学に特有のものではない。人間は、一般的理解という特性を発達させているが、数学的理解が計算的でないのと同様、その特性は計算的ではないのである。一般的に人間の理解と人間の意識とは区別できない、と私は思う。そこで、人間の意識がどういうものかわからないと述べたものの、人間の理解がその一例だと思うし、あるいは少なくとも、理解は意識を必要とするだろう。また私は、人間の意識と動物の意識とを区別するつもりもない。これについて、さまざまな団体の人々と、私はトラブルを起こすかもしれない。
 人間は他の多くの種類の動物と非常によく似ていると思う。確かに私たちは、いくつかの親類よりも多少は理解力が優れているかもしれないが、彼らもある種の理解をしているのであるから、やはり「気づく」という意識（アウェアネス）をもっているに違いないのである。
 以上のようなわけで、意識の″ある″局面における計算不可能性、特に数学的理解における計算不可能性は、計算不可能性というものが″あらゆる″意識の特徴であることを強く示唆している。これは、私の提案である。（ペンローズ『心は量子で語れるか』）

ペンローズはかれの第十八願を完全な量子重力理論を数学として語ろうとしている。できあがるのに数世紀かかるかもしれない。アインシュタインの夢を受け継いでペンローズも見果てぬ夢を生きている。わたしはわたしの夢を内包論として考えつづける。同一性的な意識の起源ははじまりの不明に行きつく。吉本隆明の「心的な過程は生理的な過程の矛盾を補償するための吐け口」という規定もこの罠をまぬがれない。また生理過程の矛盾の緩衝域として心的なものと定義した上で、「心的な存在としての人間は、すでに〈把握している〉ということをも把握しうる冪乗された心的領域を累加しているという前提を、その把握が包括している」としても、生存の最小与件が生存しないことと対応していると考えても、自同律の不全感が解消されることはない。わたしたちが当面している世界の地殻変動を、自己に先立つ存在の肯定性によって包み込むとき、ビットマシンの外延革命の中核にあるはじまりの不明を包摂することができるのだと思う。到来するあたらしい世界のシステムは生をさらに細切れにしていく。わたしたちは生というちいさな自然に穴を掘り、それを内面として生きている。そしてこのちいさな窪みの底で生きている。窪みと窪みはつながっていない。人格を媒介にした理念でさえもつながらない。生をビット情報に還元することで私性はより強化される。むきだしのハイパーリアルな生存競争だ。文明の外在史と精神の内在史の矛盾を意識の外延表現で解くことはできない。同一性的な心性に痕跡のように面影として残っている意識を内包化するとふいに宮沢賢治の世界が「遠いともだち」として立ちあがるような気がしている。言葉をじぶんにとどけることは、言葉を内包化することによってただちに可能となる。言葉が言葉を生きるとき、わたしたちのちいさな自然にある内面は内包化されて、みなが互いに「遠いともだち」となってあらわれる。

〔付記〕ペンローズの気づきとヴァイツゼッガーの感覚は似ている。

生命はどこかから出てくるのではなくて元来そこにあるものであり、新たに開始されるものではなくてもともと始まっているものである。

ところで、およそ人間精神が生命に立向って驚嘆せざるをえないもの、それは犯し難い合法則性のようなものではない。むしろこの合法則性とは、人間精神が自らの不確かさによる苦難と自らの存在のおぼつかなさから来る脅威からの救いを求める安全地帯なのである。われわれを真に驚嘆せしめるものは、むしろ生命が示すさまざまに異った可能性の見通し難い豊かさにある。現実に生きられていない生命の充溢、それは現実に生きられ体験されているほんの一片の生命よりも、予想もつかぬほど豊かである。もしもわれわれが現実的なもの以外に、可能なるもののすべてに身を委ねたとしたならば、生命は恐らくは自己自身を滅してしまうことになるだろう。だからこの場合には、有限性は人間の悟性が遺憾ながら限定されたものであることの結果としてではなく、生命の自己保存の戒律としてわれわれの眼にうつる。（ヴァイツゼッカー『ゲシュタルトクライス』）