Can a Machine Understand? — Searle's Chinese Room and the Computational Mind — Epoche C2
場面設定： 機械知能をめぐる認知科学のゼミが終わったあとの室内。マーロウ博士は、いかに記号を繰ろうとも理解には決して至らないと論じる。学ぶシステムの構築に生涯を費やしてきたハーン教授は、理解とは何が走らせようとも正しい種類の過程にほかならないと論じる。 導入： 一つのプログラムを走らせることは、何かを理解することたりうるか。サールの中国語の部屋を思い描いてほしい。一人の男が密閉室の内に座り、中国語の文字をその形によって操作する規則書に従って、流暢な中国語の答えを返す——しかし当の文字を一つも理解してはいない。サールはこれをもって、計算が統語論すなわち形式的な記号操作にとどまり意味論すなわち意味の把握に届かぬことの証とし、強い人工知能を斥ける。これに対し計算主義と機能主義は、理解とは正しい機能的編成にほかならず、いかなる基体であれそう編成されたシステムは理解すると説く。争点をなす鍵概念は、統語論と意味論、対象指向性、システムの応答、記号接地、そしてチューリング・テストである。具体例として、密閉室のほか、巨大なルックアップ表、紙片を回し合う中国脳、熱を追う温度計が引かれる。 プログラムを走らせるコンピュータは理解しえません。なぜなら計算とは記号をその形によって繰ることであり、意味は決して形だけからは生じないからです。サールの中国語の部屋を思い描いてください。私は内側に座り、中国語の文字をその形によって操作するための分厚い規則書を持っています。中国語の問いが投入口から入ってくる。私は規則に従う。流暢な中国語の答えが出てゆく——そして外の母語話者たちは、この部屋が理解していると確信します。しかし私は何一つ理解していない。私はくねくねした記号をくねくねした記号に照合しているだけで、そのどれが何を意味するのかまるで知らないのです。これがまさにコンピュータのしていることです。それは統語論、すなわち形式的な手続きは持つが、意味論、すなわち意味の把握を持たない。そして記号を繰る速度がいかに速く規模がいかに大きかろうとも、統語論から意味論を絞り出すことはできない。チューリング・テストに合格することは、部屋が理解を模倣することを示すのであって、それを持つことを示すのではありません。強い人工知能はシミュレーションを本物と取り違えているのです。 あなたの描く像は鮮やかですが、誤ったものを指し示しています。むろん部屋の中の男は中国語を理解していません——プロセッサが理解するなどと誰も言ってはいない。理解はシステム全体、すなわち男と規則書と走る過程とが一体となったものに属するのです。男に理解しているかと問うのは、一つのニューロンに英語を把握しているかと問うようなもの。誤った水準、誤った問いです。理解とは一つの部分の内なる輝きではありません。それはシステムのなすこと——記号を取り込み、それを広大な知識の網の目と統合し、適切で柔軟な答えを生み出し、学び、訂正し、一般化することです。それらすべてをあなたと同じくよくこなすシステムは、私たちがかつて気にかけてきたあらゆる意味で理解しているのであって、それが何でできていようと関係ありません。意味とは謎めいた付加的成分ではない。それは機能的役割です。あなたの言う「意味論」とは、あなたがそれを持つがゆえに尊んでいる一つの感じであり、しかるのちにあなたの神経の湿り気を欠くものすべてからそれを差し控えているのです。 ならば私自身をシステム全体としてみせましょう。そして、それが頓挫するさまを見届けてください。部屋から規則書を取り出し、私にあらゆる規則を暗記させ、紙を焼き払い、記号を繰る作業のすべてを頭の中で行わせ、戸外を歩かせる。いまや私のほかにシステムはありません——私はプロセッサであり、記憶であり、プログラムでもある——それでも私は中国語をまるで理解しないのです。私は正しい出力を生み出しながら何一つ把握していない。システムとは私に小道具を加えただけのものであって、小道具を取り去っても何も変わりませんでした。ですから「システムが理解する」とは、それ以上の理解者を名指してはいない。それは謎を、理解する部分を一つも含まず諸部分を越えて何ものでもない全体へと移し替えているだけです。そしてあなたのニューロンの類比はあなた自身に牙をむく。ニューロンが理解を引き起こすのは、その生化学的な力能によってであって、プログラムを走らせることによってではない。だからこそ、それらの発火をケイ素の上でシミュレートしても、その形を写すだけで力は写さない。天候のモデルが誰一人濡らさないのと同じです。 あなたが「システムを内面化する」とき、あなたは理解を廃絶しているのではありません——あなたは頭蓋の内に第二のシステムを構築しているのです。それはあなたのニューロンの上で走りながら、英語を話すあなた自身とは別個のものです。日常のあなたがそれに接近できないことは何も証明しません。それは、自らの視覚野が奥行きを計算するのを感じられないことが、あなたのいかなる部分も縁を理解しないと示すわけではないのと同じです。実装された中国語システムは中国語を理解しうる、その一方で宿主たるマーロウは理解しない——一つの頭蓋に二つの能力、まさに分割脳の患者がすでに示しているとおりです。そして「シミュレーションは複製ではない」は曖昧語法です。シミュレートされた嵐があなたを濡らさずにおくのは、湿り気が具体的な物理的効果だからです。しかし理解は土砂降りではない。それは情報処理の能力であって、その処理を遂行するシステムはその能力を遂行しているのです。計算をシミュレートすることは計算することです。あなたは理解が雨のようなものだと前提している——しかしそれこそが争われているまさにその論点であって、あなたが勝手に頼ってよい前提ではありません。 あなたは理解を、テストに合格するもの何であれと定義しつづけている。そしてそれこそが、当のものそれ自体を取り逃がす一手なのです。理解するということには、それであるところの何かがある——水を意味し、その思考が水についてあること——そしてシステムは、機能的な側面のすべて、あらゆる入力と出力への傾向性を備えていながら、その対象指向性をまるごと欠いていることがありうるのです。私の部屋がその概念実証です。中国語システムが見事に振る舞うがゆえに理解すると認めるなら、あなたは巨大なルックアップ表が理解すると、正しい答えを返す書類棚が理解すると認めねばならない——そして「理解」は猿真似にまで切り下げられてしまったのです。ロボット説でさえその隔たりを認めています。記号を接地するために世界との因果的な結びつきに手を伸ばすことで、純粋な計算では足りなかったと譲歩しているのです。しかしカメラを取りつけても、部屋にくねくねした記号をさらに送り込むだけのこと。内側の男は、どのくねくねがレンズから来たかを告げられただけでは、なおそのどれによっても何も意味しないのです。 ルックアップ表という当てこすりこそが、その正体を漏らしています。なぜならそれは、まさに理解が要求するものを欠いたシステムを名指しているからです——そして違います、私は入力と出力が合致するもの何であれが理解すると言ったことなど一度もない。ブロックの巨大な表は頓挫しますが、生物学を欠くがゆえにではない。正しい編成を欠くがゆえに頓挫するのです。それは一般化しえず、予見せざるものに対処しえず、学びえず、世界の構造を追跡する圧縮された内的モデルを何一つ保持していない。理解とはそのモデルとその適切な使用であって、表はそのいずれをも持たないのです。ロボット説は退却ではなく正しい理論です。意味は、内なるモデルとそれが追跡する世界とのあいだの因果的な交わりのうちに接地される——ハーナッドの記号接地——そしてそれこそまさに、あなた自身の水の概念が水についてあるものとなった道筋であって、あなたの身体の因果的な歴史を通じてのことであり、非物質的な火花によってではありません。あなたはあらゆる機能を越えた対象指向性を要求し、それが何をするのかと問われると、内側を指さして「これだ」と言う。その「これ」こそ、幽霊の最後の隠れ場所なのです。 幽霊ではありません——あなたが信じるあらゆる理由を持つ一つの事実です。なぜならあなたはそれを持っているのですから。あなたは内側から、自らの水の思考が水についてあることを知っている。その対象指向性こそ、あなたの持つ最も平明な所与であって、それを隠れ場所と呼ぶ理論は、それを説明したのではなく説明によって消し去ってしまったのです。そしてチャーチランド夫妻の光の部屋という嘲り——「統語論は意味論ではない」は、光が電磁的であることを否定するのと同じく盲目だという嘲り——は、類比の崩れを取り逃がしています。私たちには、光が波でありうると予期する独立した理由があった。意味がさらなる記号繰りであることを予期する理由は何一つなく、それに反する理由ならばあらゆる理由がある。なぜなら私は記号繰りのすべてをこなしながら何も意味しえないのですから。あなたの「因果的な交わりが記号を接地する」は、正しい本能が誤った方角に向けられたものです。因果的な結びつきは、温度計がそうするように、ある状態を水と共変動させることはできるが、それが誰にとっても何かについてあるものとなることはない。共変動は対象指向性ではありません。温度計は熱を追跡しますが、水銀以上には理解しないのです。 温度計はその重みを担うにはシステムとして薄すぎる、そしてそれこそが核心なのです——意味とは剥き出しの共変動ではない。それを用いる豊かな網の目に埋め込まれた共変動です。あなたの温度計は共変動しても、その読み取りで何もしない。心、あるいはよく編成された機械は、「水」を渇きに、化学に、川や雨に結びつけ、それを果てしない推論と行為のあいだに展開するのです。対象指向性とはその役割の全体であって、それに付け加えられた火花ではない。水銀とあなたとの違いは、あなたが持ち水銀が欠く幽霊ではなく、あなたが持ち水銀が欠く編成なのです。そして気づいてください、あなたの「私は記号繰りのすべてをこなしながら何も意味しえない」は、宿主が実装されたシステムの理解を感じるべきだと前提しています——しかし理解はその基体に感じられる必要はない。あなたのニューロンは何も意味せず、各々がイオンを繰っているだけ。それでもあなたは水を意味するのです。あなた自身の規則によれば、諸部分の空白さはあなたからもまた意味を奪ってしまうことになるでしょう。 その受け流しは鋭い、そして、なぜそれが頓挫するかを述べましょう。イオンを繰る私のニューロンは、たしかに理解を生み出します——しかしそれはその特定の因果的力能によって、すなわち私たちのような被造物において意識と対象指向性を引き起こす生物学によってです。私は理解があらゆる部分に感じられねばならないと言ったのではない。それは正しい力能によって引き起こされねばならないと言ったのです。そしてプログラムはあらゆる力能を捨象する——それはニューロンの上であれ、ケイ素の上であれ、ビールの缶の上であれ、紙片を回し合う中国の全人口の上であれ、同じ計算なのです。プログラムを走らせれば足りるというのなら、適切に編成された中国は、何一つ理解せずそのあいだに余分な主体を一切感知しない市民たちの上に、第二の意識ある心を持つことになるでしょう。これがその背理法です。多重実現可能な統語論は、それ自体では差異を生みえない。なぜならまさに同じ統語論が、明らかに理解しないシステムの上で走るのですから。脳はソフトウェアを走らせているのではありません。それは、胃が消化を分泌するように、心を分泌する器官なのです。 中国脳は不条理であるべく作られています。しかし「そこに心などありえない」というあなたの確信は、またしてもあの部屋の直観を拡大し、それが何の権威も持たぬところで信頼しているだけのことです。あなたは単一のニューロンのうちにも理解を見て取れません。それでもあなたは、自分の脳が理解を欠くとは結論しない。ではなぜ、紙片を回し合う人々から成る心が、外側の観察者たるあなたに自らを告知せねばならないのでしょう——あなたの心が通りすがりのニューロンに自らを告知する以上に。もしその編成が脳のそれと真に同一なら、私たちが心について持ちうる唯一の証拠——振る舞いと役割——によって、それは理解するはずであり、そうでないというあなたの確信は、洞察を装った想像力の不足です。そして「脳は胃が消化を分泌するように心を分泌する」は、勝負の手の内を明かしています。消化はそのなすことによって定義され、食物を分解するものは何であれ消化する。製鉄所であれ胃であれ。理解もまたしかり。あなたは一つの機能を名指して、それを実体と呼んだのです。 あなたは私の類比のうちに本物の緊張を捉えました。ですから退却ではなく鋭利化させましょう。たしかにあるものは、そのなすことによって定義されます——消化、乗算、錠が開くこと——それらにとっては機能がすべてであって、それをなす機械は真にそれをなしている。しかし理解はもう一方の種類に属します。すなわち一人称的な側面、対象指向性、しばしば感じられる質を持ち、そのなすことに尽くされない状態です。そうした種類が存在することを私たちが知るのは、私たち自身がそれだからです。痛みは身をすくめるという役割にすぎないのではない。それは痛むことです。意味は適切な出力にすぎないのではない。それは把握です。中国語の部屋はまさにその残余を分離してみせる。機能は同一、把握は不在。もしあなたが残余などないと言うなら——把握とは端的に適切な出力なのだと言うなら——あなたは議論に勝ったのではない。あなたは話題を理解から振る舞いへとすり替え、新しいものに旧い語を温存しただけなのです。 ならばその告発に正面から向き合いましょう。「あなたは話題をすり替えた」こそ、私が答えねばならぬ唯一の一手だからです。私は理解を再定義したのではない。私はそれを、誰も見出せず、測れず、自らの場合を指さすほかには記述しえない残余で重荷を負わせることを拒んだのです。把握が、機能的な側面のすべてがしないことで何をするのかと問うてみれば、唯一の答えは循環的です——それは把握する、それは意味する、それは何かについてある。システムがなしうること、検知し