サール――記号を操作しても意味は理解できない（中国語の部屋） — Epoché
現代 心の哲学と技術の哲学 約 17 分 本文 約 6,900 字 図 4・表 2 原典 1 節 この課の要点 部屋・意味・応答の 3 つ 部屋 中国語を知らない人が、英語の手引き書に従って漢字を操作し、中国語の問いに正しい答えを返す。外からは中国語が分かる人に見えるが、中の人は一語も分からない。コンピュータは記号を形だけで扱う点でこの人と同じなので、プログラムを動かすだけでは理解は生まれない、とサールは論じた（「心・脳・プログラム」1980）。 意味 計算は記号の形（統語論）だけで定義されるが、心には意味の中身（意味論）がある。形の操作をいくら重ねても意味には届かない、とサールは言う。ただしサールは、機械は考えられないとは言わない。脳は機械であり、脳は考える。退けるのは、記号の計算だけで考えることが生まれる、という主張である。 応答 批判は、部屋全体が分かる（システム応答）、体を与えれば分かる（ロボット応答）、脳の神経をまねれば分かる（脳シミュレータ応答）などに分かれる。サールはどれにも、足されたものはやはり記号の操作にすぎない、と答えた。議論は今も決着していない。 はじめに ジョン・サール（1932〜2025）は、アメリカの哲学者です。カリフォルニア大学バークレー校で教え、2025 年 9 月 17 日に亡くなりました。1980 年の論文「心・脳・プログラム」で、中国語の部屋と呼ばれる思考実験を示しました [1] [2] 。 二つ前の課のパトナムは、心の状態を、入力・出力・ほかの状態との関係という働きで定めました [3] 。それなら、同じ働きをするプログラムを動かすコンピュータにも、同じ心がありうることになりそうです。 サールはこれに、外から見て完全な答えを返せても、それだけでは意味を理解したことにはならない、と答えました [2] 。前の課のネーゲルが問うたのは経験の主観的な性格でしたが、サールが問うのは記号の意味です。 この課の問い 中国語を一語も知らない人が部屋にこもり、英語で書かれた手引き書のとおりに漢字の札を並べ替えて返すだけで、外の人には「中の人は中国語が分かる」としか思えない答えを出せたとします。そのとき部屋の中に、中国語の理解はあるのでしょうか。心を働きで定めるなら、答えは「ある」になりそうです。 この課のことば 強い AI 正しくプログラムされたコンピュータは、心をまねるだけでなく、本当に言葉を理解し、心を持つ、という主張です。サールの名づけで、中国語の部屋はこれに向けられます。 弱い AI コンピュータは心の働きをまねられるので、心理学や言語学の研究に役立つ道具だ、という控えめな主張です。理解や知能を持つとは言いません。サールはこれを退けません。 統語論（シンタックス） 記号をその形だけで扱う決まりです。どの形の記号の次にどの形の記号を置くかを、意味を見ずに定めます。サールによれば、コンピュータの計算はこれだけで定義されます。 意味論（セマンティクス） 記号が何を意味し、何を指すか、ということです。「りんご」という字の形ではなく、それが赤い果物を指すことの側です。 志向性 心の状態が何かについてのものであることです。チョコレートが欲しいという欲求も、マンハッタンについての考えも、それぞれ何かに向かっています。 チューリング・テスト 文字のやりとりで、相手が人間か機械か見分けられなければ、その機械に知能を認めてよい、という数学者チューリングの提案（1950 年）です。 中国語の部屋――記号を操作すれば意味が分かるのか 二つ前の課のパトナムに従えば、同じ働きをするプログラムを動かすコンピュータにも、同じ心がありうることになりそうです。前の課のネーゲルは、働きをすべて書き出しても経験の主観的な性格が残る、と問いました。サールは別の角度から、働きを満たしても意味の理解が生まれない場面を思い描いてみせました [2] 。この章では、部屋の思考実験、統語論から意味論は出てこないという主張、主な反論とサールの応答を、順に読みます。 部屋の中の人――手引き書どおりに漢字を並べる サールは 1980 年の論文「心・脳・プログラム」で、次の場面を思い描きました [1] [2] 。中国語を一語も知らない英語の話し手が、部屋に閉じこめられています。手もとには、漢字の書かれた紙と、それを扱うための英語の手引き書があります。外から差し入れられる漢字の列は、本人は知りませんが、中国語の問いです。本人は手引き書のとおりに漢字を組み合わせ、外へ返します。それは問いへの正しい答えになっていて、外の人には中国語の話し手と見分けがつきません。それでも本人は、中国語を一語も理解していません [2] （図 1） 。 外から見える理解と、中で起きていること 形を合わせているだけ 何を問われたか分からない 中の人は 中国語が 分かる 入力：問い 出力：答え 人物の配置と吹き出しは本教材の作例 図 1 中国語の部屋の場面を絵にしたものです（本教材の絵）。外の人には正しい答えが返ってくることしか見えず、中の人にとって漢字は意味の無い形です。漢字の箱と一冊の手引き書の形はのちの要約によるもので、1980 年の論文では紙が三つの束に分けて渡されます。 論文の初めの形では、紙は三つの束に分けて渡されます。台本にあたる束、話の束、問いの束です [1] 。当時、短い話を読んで問いに答えるシャンクのプログラムが、話を「理解する」と言われていました [2] 。部屋の場面は、このプログラムがすることを、人が紙の上でしてみせるものです。のちの要約では、漢字の箱と一冊の手引き書という、より簡単な形で語られます [2] 。 サールは、ある理論が「こうすれば理解が生まれる」と言うなら、そのとおりに自分でしてみたらどうなるかを思い描けばよい、と考えます [2] 。部屋の中の人は、コンピュータがすることを、紙と鉛筆でそのまましています。漢字の箱はデータベース、手引き書はプログラム、問いは入力、答えは出力にあたります。こうして部屋は、中国語の理解についてのチューリング・テストに通ります [2] 。 ところが中の人にとって、漢字の列は意味の分からない形の並びにすぎません。英語の話について英語で問われれば、本人は意味が分かって答えます。中国語では、形を合わせているだけです。答えの上手さは同じでも、本人にとってこの二つはまったく違います [1] 。サールはここから、コンピュータはコンピュータである限り、中の人が持たないものを何も持たない、と述べます。中の人が正しいプログラムを動かしても中国語を理解しないなら、どのコンピュータも、それだけでは理解しない、というのです [2] 。 ここで間違えやすい 中国語の部屋を、当時のコンピュータがまだ下手だったという話と取らないようにしましょう。サールは、どれほど上手なプログラムでもよいと仮定しています。答えが完全でチューリング・テストに通っても、なお理解が無い、というのが議論の要です [2] 。また、中の人が手引き書を読み違えるから分からないのでもありません。中の人は手順を一つも誤らずに実行しています。足りないのは手順の正しさではなく、記号の意味です。 統語論と意味論――形の操作は意味に届かない サールの議論は、SEP の整理では背理法の形にまとめられます [2] （図 2） 。強い AI が正しいなら、中国語のためのプログラムがあって、それを動かすどんな仕組みも中国語を理解するはずです。ところが私は、そのプログラムを動かしても中国語を理解しません。だから強い AI は誤りだ、という形です。二つ目の前提を支えるのが、部屋の思考実験です [2] 。 前提 1 強い AI が正しければ、中国語の プログラムを動かすものは中国語を 理解する 前提 2 私はそのプログラムを動かしても、 中国語を理解しない（中国語の部屋） 結論 強い AI は誤りである。統語論だけでは 意味論に足りない 退けないもの 弱い AI（心のまね）と、脳は機械であり 考えること 図 2 SEP の整理による、強い AI への背理法です（三段の形はサール本人の書き方そのままではありません） [2] 。二つ目の前提を部屋の思考実験が支え、点線の段は、この議論が退けないものを示します。 その奥にあるのが、統語論と意味論の区別です。計算は記号の形だけで定義されますが、心には実際の意味の中身があります。統語の操作だけをいくら重ねても、意味には行き着きません [2] 。サールはのちに、こう言い直しました。同じプログラムかどうかは、どんな物の上で動くかを問わずに決まります。その決め方は、脳が考えを生み出す生物の力を抜き落としてしまう、というのです。SEP は、これを 2010 年の言い方として引いています [2] 。 ここでサールは、心のまねと心そのものを分けます。コンピュータで心の働きをまねて、心理学や言語学の研究に役立てること（弱い AI）を、サールは退けません [2] 。嵐のシミュレーションで誰も濡れないように、理解のシミュレーションも理解そのものではない、という対比も、1980 年の論文に出てきます [1] 。 そのうえでサールは、機械は考えられない、とは言いません。脳は機械であり、脳は考える、とサールは言います [2] 。退けるのは、形の上の記号の計算だけで考えることが生まれる、という主張です。脳と同じ因果の力を持つものなら、考えることもありえます。問題は、プログラムを走らせるという点だけでそうなるか、です。なおサールは、のちにこの結論を、意識と志向性についての主張として言い直しました。SEP は、この言い直しは 1980 年の議論から直接には出てこない、と注意しています [2] 。 ここで間違えやすい サールを、心は物でないものだとする二元論者と取らないようにしましょう。サールは、心は脳の生物としての力から生まれる、と考えます [2] 。前のネーゲルの課の表 1 では、サールを「主観的な物理の性質」の立場、つまり物理の中に主観があるとする側に置きました。また、「統語論から意味論は出てこない」は、どんな機械も考えられないという意味ではありません。退けられるのは、プログラムを動かすことだけで理解が生まれる、という一点です。 反論と応答――部屋全体・ロボット・脳のまね サールは 1980 年の論文で、それまでの講演で受けた主な反論に、あらかじめ答えました [1] [2] 。SEP は反論を三つの道に分けます。一つ目は、中の人が分からないことは認めつつ、別の何かが分かると言う道です。二つ目は、今の部屋では分からないが、ロボットや脳のまねなら分かると言う道です。三つ目は、中の人が分からないことさえ認めず、直観が当てにならないと言う道です [2] （表 1） 。 この表で分かること： 反論の多くは、中の人が分からないことを認めたうえで、理解のありかを部屋全体・体・脳のまねへ移そうとします。サールはどれにも、足されたものは記号の操作にすぎない、と答えました。 反論 何を足すか 反論の言い分 サールの答え システム応答 手引き書・箱・書きつけ 部屋全体が中国語を理解する 全部覚えても意味は分からない ロボット応答 カメラ・腕・世界とのつながり 見て触れれば記号に意味が付く カメラの信号も記号の列だ 脳シミュレータ応答 神経の発火を一つずつまねる 脳と同じ働きなら理解する 水道管と弁でも理解は無い 他人の心の応答 （何も足さない） 人の理解も振る舞いで知るだけ 問題は何を帰しているかだ 表 1 中国語の部屋への主な反論と、サールの答え。言い分と答えは SEP の紹介によります [2] 。 最もよく出された反論は、システム応答です。中の人は大きな仕組みの一部、コンピュータの中央処理装置にすぎず、手引き書もデータベースも書きつけも含む部屋全体が中国語を理解する、という反論です [2] 。サールは答えます。手引き書もデータベースも全部覚え、計算を頭の中ですませれば、中の人が仕組みの全部になります。部屋を出て外で中国語を話せるかもしれません。それでも、たとえば「ハンバーガー」にあたる中国語の語が何を意味するかは、分からないままです [2] （図 3） 。 システム応答 部屋全体なら分かるのでは 部屋全体が中国語を理解する？ 中の人は処理装置にすぎない SEP 4.1 の紹介による作例 サールの答え：全部を覚える 手引き書も箱も覚えた ？ 語が何を指すかは分からない 通りの場面は本教材の作例 図 3 システム応答と、それへのサールの答えを絵にしたものです（本教材の絵。応答と答え、ハンバーガーの例は SEP の紹介によります [2] ）。一つ目の絵は部屋全体を点線で囲んで理解のありかを部屋全体に移す反論を、二つ目の絵は全部を覚えこんで外を歩いても語と物のつながりが切れたままであることを示します。 ロボット応答は、カメラやマイクと腕を付けて世界の中で動かせば、記号に意味が付く、と言います。サールは、カメラの信号も、部屋の隅のテープに流れる数字の列として届くだけで、中の人の仕事が増えるだけだ、と答えます [2] 。脳の神経の発火を一つずつまねるプログラムなら分かる、という脳シミュレータ応答には、水道管と弁を神経と同じ配置で開け閉めしても理解は無い、と答えました [2] 。 反論の側にも、さらに言い分があります。チャーチランド夫妻は、磁石を振っても光が見えないからといって、光が電磁波でないとは言えない、という「光る部屋」の例で、直観に頼る議論の危うさを示しました [2] 。大きな言語モデルが文章を書く今、この議論がどう当てはまるかが、あらためて論じられています [2] 。 ここで間違えやすい 反論が出尽くして、どちらかが勝ったと取らないようにしましょう。それぞれの応答に再反論が続き、議論は今も決着していません [2] 。また、サールの議論が、今の大きな言語モデルについて答えを出した、と取るのも誤りです。今の技術にどう当てはまるかは、開かれた問いです。 原典を読む 第 1 章の一つ目の節で見た部屋の場面を読みます。原語の本文の利用条件が確かめられなかったため、訳ではなく要点の要約で示します。 サール「心・脳・プログラム」 部屋の場面 形を合わせても、意味は分からない 論文