概説
中国語が理解できない英国人に、沢山の中国語のカードが入った箱と、そのカードの使い方が書かれた分厚い英語のマニュアルを持って部屋に入ってもらう。部屋には小さな穴が開いていて、そこから英国人は中国語で書かれた質問を受け取る。そして英語のマニュアルに従って、決められた中国語のカードを返す。その英国人は中国語が理解できず、質問の意味もわからないにも関わらず、中国語によるコミュニケーションを成立させており、外部の人からは中国語を理解しているかのように見える。
ジョン・サールは、中国語でなく英語で質問に答えることになったところを併せて想像してもらえば、コンピューターの「計算」と、実際に何かを「理解」することの違いがわかる、と述べる。
思考実験の意味
この思考実験全体はコンピューターのアナロジーになっている。すなわち小部屋全体がコンピューターを表し、マニュアルに従って作業する英国人は、プログラムに従って動くCPUに相当する。
心の哲学の観点からこの思考実験を見ると、
物理主義の一種である
機能主義に対する批判となっている。中国語の部屋では、解釈や理解を一切行うことなしに、純粋に機能的なシステムの使用を通じて知的活動を模倣することができるということが証明されている。すなわち「意識体験は機能に付随しないから機能主義は間違っている」ということである。
またサールは言語哲学の観点から以下のように論じている。
1、コンピューター・プログラムは統語論的である。
2、統語論がそのまま意味論なのではない。
3、心には意味論がある。
4、ゆえに、プログラムの実行がそのまま心なのではない。
人間の心は記号以上のなにかを備えており、心が記号に意味を与えている、となる。
哲学の観点からは、
チューリングテストに合格するような高度な人工知能でも意識を持つことはありえない。これは強いＡＩの実現可能性の否定である。
なおこのサールの中国語の部屋は、プログラムでは知能を実現できないということを証明するための喩えとして引用される場合があるが、中国語の部屋は、マニュアルに沿うという固定的な処理で理解を実現しているという点で、むしろ逆であり、その引用方法は適切でない。
なお、思考実験は機能主義への批判を通じて
意識のハードプロブレムの主張と、物理主義への批判にもなっている。つまり現代の科学技術によって脳細胞を観察しても、そこで明らかになるのは個別のニューロンたちの連続的な活動だけである。ここではコンピューターのアナロジーが別の意味で用いられる。ニューロンたちが順番に発火していくその過程で、
現象的意識や
クオリアが現れる様子を見ることはできない。それはコンピューターの活動と同じである。「ニューロンたちの発火」というのは統語論的であるが、そこには意味論が欠けている。現象的意識やクオリアは、ニューロンたちの発火という物理現象に、論理的に還元する事はできないのである。
中国語の部屋に対する反論
サールは中の人が中国語を理解していないことから対象は中国語を理解しているとはいえないと論じているが、チューリング・テストの観点からすると、そう断定するためには中の人間だけでなく、箱全体が中国語を理解していないことを証明しなければならないことになる。すなわち、中の人とマニュアルを複合させた存在が中国語を理解していないことを証明しなければならない。
一方、知能の基準となっている人間の場合でさえ、脳内の化学物質や電気信号の完全な解析が行われず、知能の仕組みが明らかになっていないのだから、中国語の部屋も、中身がどうであれ正しく中国語のやり取りができている時点で中国語を理解していると判断して良いのではという、強いＡＩ支持者からの反論も存在する。つまり中の人は中国語を理解していないが、部屋全体は中国語を理解している、ということである。
以上のような反論に対してサールは、中国語の部屋を体内化、すなわち部屋の中にある中国語のマニュアルを英国人が丸暗記することを想定して反論する。部屋の中での実験と違うのは、文字でなく発音のマニュアルの暗記ということであり、中国人が特定の発音をしたら、それに対応した特定の発音を返すということである。その英国人は、中国語を理解していないにもかかわらず、傍から見れば中国語のネイティヴのように会話ができている。もちろんその会話には意味論が欠けているということである。
コンピューターは「心」を持てるか？
私にはコンピューター・プログラムの知識があるが、プログラマーとしての見解を述べれば、強いＡＩ支持者の「部屋全体は中国語を理解している」という反論は的外れであり、「理解」という言葉を矮小化している。すなわち「理解」という語をより厳密に「意味の理解」とするならば、部屋全体は確かにシステムとして中国語を理解しているように動作するが、それはそのシステムを作ったのが英語と中国語の「意味」を理解できる人間だからであり、従って「部屋を作った人間は中国語の意味を理解している」、また「部屋は意味を理解できる人間の、動作の部分のみの再現である」というのが正しい。つまり部屋がシステムとして中国語を理解するよう動作しているよう見えても、その動作にはサールがいうように「意味」の理解をともなっていないし、クオリアがともなっているともいえないのである。
これはコンピューター・プログラムについても同様であり、プログラムの具体的なソースコード（関数、演算子、記号、数値）を記述する者は、「意味」を理解できる人間である。プログラマーはコンピューターの実行結果――出力されたものが、人間にとって「意味のあるもの」になるようにソースコードを記述するのであり、関数や演算子や数値、その処理過程自体に意味が与えられているのではない。意味とはあくまで人間が読み取るものなのである。その「意味の理解」こそが「心」なのである。
もちろん、コンピューターの内部に意味やクオリア、つまり「心」が「無い」ということは論証できないものであるが、もし複雑な計算が可能で、人間のように対話することが可能なコンピューターには心があるとするなら、それはゼンマイ仕掛けの人形やトースターにも心があるとする汎心論の立場に等しいのである。
結論として、機能主義によって定義された「心」とは、
クオリアや
現象的意識の存在を無視する
行動主義と同根のものであり、機能主義とは脳科学に吸収さるべき立場であると考える。
柴田正良『ロボットの心 7つの哲学物語』講談社現代新書 2001年
ジョン・R・サール『MiND 心の哲学』山本貴光・吉川浩満 訳 朝日出版社 2006年
デイヴィッド・J. チャーマーズ『意識する心―脳と精神の根本理論を求めて』林一 訳 白揚社 2001年
