知性のカテゴライゼーションと人工知能

山内康英

OpenAI社によるChatGPT一般公開によって、AIの発達に関する現段階の位置付けがあらためて課題になっています。ここでは知性について以下の区分を導入し、このなかの③脊椎動物的知性を鍵として、AIの発達に関する現段階の位置付けについて考察します。ここでの議論は後述する科学哲学の自然主義に基づくものです。

①　汎用AI、人工超知能
②　人間知性
③　脊椎動物的知性
④　データ駆動型知性、機能特化型AI
⑤　ELIZA

この区分に拠れば、ChatGPTは、④データ駆動型知性（data driven intelligence）としての自然言語処理に関する機能特化型AIですが、これはすでに知性の一種という以外ありません。なぜならばChatGPTは、ほぼ確実にチューリング・テストをクリアするからです。ここでチューリング・テストとは、アラン・チューリングが1950年に定義した基準で、通常の言語で会話を行うとの想定下で、判定者が機械と人間との確実な区別ができなくなった場合、この基準をクリアした、と判定されます。⑤ELIZAは、チューリング・テストをクリアする前段階にある特化型AIもしくは「疑似知性」を指しています。

他方で、70年代から盛んになった「心の哲学（philosophy of mind）」は、知能の判定がチューリング・テストだけでは十分ではないことを示しています。ここで③と④の境界になるのが「心（mind）」あるいは「意識（consciousness）」です。AIは、意識の生物学的起源や心の哲学に関する研究に大きなモメンタムを与えました。ギンズバークとヤブロンカは2019年の著書で、進化生物学の立場から意識を次のように定義しています。

『無制約連合学習システム内で相互作用する神経プロセスや神経構造は、身体・世界・行為の（1）混成的な知覚表象の結び付けと、（2）大域的アクセス性に依存する。』1 シモーヌ・ギンズバーグ、エヴァ・ヤブロンカ『動物意識の誕生―生体システム理論と学習理論から解き明かす心の進化』鈴木大地訳、勁草書房、2021年、下巻、157頁。

ここで鍵となる無制約連合学習（UAL：Unlimited Associate Learning）とは、大脳の物理的な位置ごとに異なる部位のニューロンによる連結によって、（ⅰ）価値（ⅱ）選択、（ⅲ）志向性、（ⅳ）時間的厚み、（ⅴ）自己性、を構築する仕組みです。このような意識をもたらすメカニズムは、異なる機能を持つ大脳領野の組合せを必要とすることになります。

それでは、これまでに発見された具体的な動物の「意識」ないしは「心」として、どのようなものがあるのでしょうか。たとえば脊椎動物門（Vertebrata）である硬骨魚類には認識や自己認識があるのでしょうか？ 2021年に日本の研究者が、ある種の魚には意識がある、という画期的な研究成果を発表しました。2幸田正典『魚にも自分がわかる―動物認知研究の最先端』ちくま新書、2021年。 この研究では、魚の自己意識の根拠を、爬虫類、鳥類、哺乳類と共通する脳の構造の相同性に求める点で、古生物学と脳神経学、さらにはジョン・サールのような自然主義の科学哲学の主張を結び付けたことになります。つまり『ナメクジウオより進化した脊椎動物には意識があり、その起源はカンブリア紀』だということです。3トッド・ファインバーグ、ジョン・M・マラット『意識の進化的起源―カンブリア爆発で心は生まれた』鈴木大地訳、勁草書房、2017年、124頁。シモーヌ・ギンズバーグ、エヴァ・ヤブロンカ『動物意識の誕生―生体システム理論と学習理論から解き明かす心の進化』鈴木大地訳、勁草書房、2021年。 そこでここでは、これを③脊椎動物的知性と名付けます。

この研究を行った幸田教授は、大阪市立大学の社会生態学の研究者です。この研究成果を2018年にScinece誌などquality magazineに投稿したときには、対象が魚類であることからか、主に霊長類研究者である欧米の査読者の反感を買ったらしく軒並みrejectを食らった、ということでした。

実験の対象はホンソメワケベラで、「鏡像自己認知実験」と言われる標準化された手法を魚類に適用し、世界で初めて肯定的な結果を得た、という内容です。これは水槽の魚に鏡を見せて、自己認識を調べる、という内容です。実験の対象となったホンソメワケベラは、ある段階で突然、「これは俺や！」と気が付くようだ、と言っています。大阪市立大学の先生なので大阪弁ですが、これは視覚野と短期記憶を結び付ける神経中枢に新たな結合が出来たことを示しているようだ、とのことでした。

鏡を用いた自己像の認識は、自然界では普通起こらない現象ですが、ここでの本題は、現在のディープラーニングの手法に止まる限り、機械学習のAIにはこれが原理的に起こらない、ということです。つまり、④のデータ駆動型知性である機能特化型AIは、生物を超える膨大な（1）混成的な知覚表象の結び付きや、人間にも匹敵する演算速度を備えていますが、大域的アクセス性を構成する無制約連合学習のためのアルゴリズムを備えておらず、したがって、（ⅰ）価値（ⅱ）選択、（ⅲ）志向性、（ⅳ）時間的厚み、（ⅴ）自己性、を兼ね備えた主体型システムとしての判断を行う知性のカテゴリーではない、ということになります。下図は幸田教授の前掲書32頁です。『社会行動の意志決定に関連する神経核と神経領域』が脳全体に及んでおり、異なる領野の結合を作り出す配置になっていることが分かります。ChatGPTのアルゴリズムは多重マルコフ過程を用いた確率論的なものであって、このような脳の活動をエミュレーションしたものではありません。したがってそこには意識、つまり価値判断や選択、あるいは自己性と呼ぶべきものはない、ということになります。

このような評価は1つの科学哲学的な立場を表明するものです。つまり意識とは、基体のなかに理由なく、あるいは非-還元論的に創発するものではなく、『胃や腸が物理・化学的な作用として消化を行うのと同じように』、4これは「心の哲学」に関するジョン・サールの有名な態度表明です。意識とは脳が、あるいはプログラミングのアルゴリズムが、物理的・化学的な、あるいは量子論的な電磁気的作用を器質もしくは基体として構成する現象だ、とする唯物論的な「自然主義（naturalism）」の立場をあらわしています。5植原亮『実在論と知識の自然化』勁草書房、2013年。

鏡を使った自己意識が人間および霊長類的な意識だとすれば、この実験を通じて、意識を構成する器官としての脊椎動物の脳を持つホンソメワケベラが、実験的に意識を持つことを示したことになります。ホンソメワケベラは、きわめて社会的な生態を持つ、特殊な魚である点に注意する必要がある、ということでした。そもそもタンガニイカ湖特産のシクリッド類など社会的な魚は顔認識ができる、という研究があるそうです。顔認識の出来る脳の状態にあれば、鏡を見て自己に認識に至ることが出来るのではないか、というのが幸田先生の仮説でした。これは魚類より進化した脊椎動物に意識が存在する、という、ギンズバーグやファインバーグの予想を裏付けるもので、ここで言う③脊椎動物型知性について具体的な知見を与えています。これに対して②人間知性は、③脊椎動物型知性の範疇に入りますが、さらに抽象的な言語の利用などという点で区別されます。


 
それでは実際のところ、①汎用AIや人工超知能の可能性についてはどうなのでしょうか。人工超知能の提唱者としては、カーツワイルやヴィンジとその特異点（＝シンギュラリティ）理論が有名です。彼らの主張は、ネットワークとこれに繋がるPCがムーアの法則によって人間の脳の量的な閾値を超えたときに、そこには意識が宿る、というものでした。これは知能に関する非-自然主義的な立場であって、私の立場（＝自然主義）によれば将来的にも実現することはありません。

シンギュラリティというのは、システムの規模が特異点を超えたときに、そこに創発的に、つまり設計者の意図とは別に精神（＝spiritual）が宿る、という主張だと思います。しかし私が確認した範囲のプログラマの皆さんは、システムに意図せざる挙動があったときでも、コードを点検すれば、必ずその挙動の原因は分かる、と言っています。もちろん、大規模な銀行システムの統合のように、障害の原因がなかなか分からない場合もあるのですが、まぁ、これは立場によって異なるので水掛け論になるでしょう。

これに対してハンソンは、人間の脳を「十分な空間的および化学的解像度」でスキャンし、脳細胞の信号処理機能の大まかなモデルと組み合わせて、「人工のハードウェアで実行可能な、完全な脳の動的セルのモデル、その信号入出力挙動が元の脳のそれに非常に近いモデル」を作ることができる、と予想しています。6ロビン・ハンソン『全脳エミュレーションの時代―人工超知能EMが支配する世界の全貌』小坂 恵理訳、NTT出版、2018年、第4章。これは①汎用AIに関する自然主義的な立場だ、ということができるでしょう。このような全能エミュレーション型の知能については、それが（ア）スケーラブルで社会的な相互作用を行い、かつ（イ）寿命が人間より長い場合には、定義的に人間を超える知性としての①人工超知能が誕生することになります。ハンソンは、この実現に必要な研究期間を今後100年としています。全能エミュレーション型の人工知能の研究は日本でも急速に進んでいますが、その初期形態はネズミやイヌの大脳を模したものになる可能性もあります。7全脳アーキテクチャ・イニシアティブ(WBAI)　ドワンゴ人工知能研究所の山川宏所長のインタビューも参照。なおドワンゴ人工知能研究所は2019年3月31日に閉所している。

もちろん、①汎用AI、人工超知能の構成法は全能エミュレーション型だけではありません。三宅陽一は、ゲームという仮想空間がAIの壮大な実験場であって、ここで言う汎用型AIが生まれるとすれば、それはゲームという仮想空間である可能性が高い、と主張しています。

石井：元々人工知能は人間らしさのある生命のようなものを人間自身の手で作りたいという欲求から来ていたはずですよね。しかし、現実にロボットを作ろうとするとガワというか、身体そのものを作るのが技術的にとても難しい。外界の情報が処理しきれないというフレーム問題も大きな壁になってくる。それだったら世界を丸ごと仮想現実に作ってしまって、その中に自律的な AI を備えたものを作った方がむしろ楽なんじゃないかと思うんですよ。ゲームみたいな環境の中に作った方が人工生命にたどり着く近道なんじゃないかと。

三宅：まさにその通りなんですよ。だからゲーム会社で AI をやるというのはすごくレアなチャンスなんです。要するに仮想空間で人造人間を作る研究ができるのはゲーム業界しかないんですよ。
リアルタイムかつインタラクティブで身体を持っている AI を物理的な制約なしに研究できる。だから実は意思決定の分野では今はゲーム AI が一番進んでいます。アカデミックより進んでいるくらい。それなのに、その面白さにはなかなか気づいてもらえないですよね。8三宅陽一郎「最新のAIからゲームを見つめる男たち」石井ぜんじ『ゲームに人生を捧げた男たち』スタンダーズ、2020年。

知能が進化的に創発するものだとすれば、それは知性（になるもの）と広義の環境との相互作用の帰結だということになります。これは自然主義的な立場に立って創発つまり非-還元論的な知性の誕生を確率論的に期待することになるでしょう。

この観点からすれば、知性と広義の環境との相互作用の帰結として確率論的に生じたわれわれの②人間知性も、この時空間を前提とした機能特化型のAIだ、ということになります。この点では、人間の知性も自然言語処理に機能特化したChatGPTや、囲碁に特化したアルファ囲碁と選ぶところがありません。したがって人間的な知性を人工的に作るためには、人間的な知性の人工的な創発に適した環境を仮想的に作って、そのなかで進化的な相互作用を加速する方法が考えらえる、ということになる訳です。9これはつぎのSFの主題になっている。芝村裕吏『セルフ・クラフト・ワールド』早川書房 、2015年。 これもまた、その仮想的な環境に対する機能特化型AIだ、という点は同じですが、たしかに人間の知性と同じ意思や目的を持った①汎用型AIや超知性になる可能性があります。

さて、このようにして人間と同等の知性あるいは意識を持つ汎用人工知能が誕生したとき、彼（＝汎用人工知能）がその人権を理由にシャットダウンを拒否したとすれば、これをシャットダウンした側は殺人罪に問われるのでしょうか。しかしまた、もしそれが人間を超える超知性の汎用AIであれば、そもそも彼自身であるシステムのシャットダウンを人間に許すことはないでしょう。彼は、人間を超える知能として、そのような操作を防ぐことができるはずです。10映画『2001年宇宙の旅』の汎用型人工知能（？）は船長との知恵比べに負けてしまった。汎用型人工知能と協力した月植民地軍の独立戦争を描いた古典的なSFの名作として以下がある。ロバート・A. ハインライン『月は無慈悲な夜の女王』ハヤカワ文庫 SF、2010年。 このような訳で、シャットダウン回避テストを、超知性の汎用AIに対する新しいチューリング・テストとして使えるかもしれません。

さて、理性や知性の分類は、デカルトやカント以来の近代哲学の一分野です。これは人間の知性が、①～⑤のカテゴライゼーションで言えば、上から2番目に位置する、という事情に関係しているのでしょう。①とはもちろん一神教的な「人格神（der persönlichen Gott）」や、これに限りなく近づいた予言者です。人間にとって、この2番目、という位置付けの重要性は言うまでもありません。それは理性や知性に対する人間の懼れと憧憬を示しています。

話を最初に戻して、④データ駆動型知性、機能特化型AIの誕生をもって、新しい知性や理性が誕生したとすれば、これは近代化の現段階としての新しい啓蒙が開始した、ということになるのかもしれません。これについて本研究所の公文所長は「特化人工知能を人類の福音とせよ」とした上で、2017年に次のように結論しています。

『その途を見失うことなく（特化型AIとの）共生に成功すれば、近代文明は真の成熟を迎えつつポスト近代文明と重畳して有終の美をなすことに成功するだろう。人間と人間能力拡張型人工知能がペアを組み、人間の自由意思や自律性を維持しつつ、平和的に共働・共生する社会では、人工知能は人類にとって福音となるだろう。』11公文俊平『近代の成熟と新文明の出現―人類文明と人工知能Ⅰ』NIRA研究報告書、2017年。https://www.nira.or.jp/paper/r201603.pdf