「中国語の部屋」とは?AIの心を考える思考実験【わかりやすく解説】

Check point !

「中国語の部屋」は、1980年に哲学者ジョン・サールが提唱した思考実験です。

「質問に正しく応対できていたとしても、質問の内容を理解しているとは限らない」ということを示す思考実験で、人間や人工知能の「意識」についての問題を考える際に用いられます。

「中国語の部屋」とは?どんな内容?

中国語の部屋は、以下のような思考実験です。

思考実験「中国語の部屋」

ある部屋の中に、英語しか話せない英国人を閉じ込めます。

部屋には小さな穴が空いており、この穴から中国語の文章が書かれた手紙が入れられます。

この英国人は中国語を全く知らないので、何が書いてあるのか、なんと返せばいいのかわかりません。

しかし部屋の中には解説本があり、本の説明の通りに記号を並べれば、返事が成立するようになっています。

英国人が解説本に従って返信していくことで、「中国語での手紙のやり取り」が可能になりました。

部屋の中からの返信を受け取った人は「この部屋の中の人は中国語を理解している」と考えるでしょう。

つまり、本に書いてある作業を繰り返すことで、中国語を理解していなくても、中国語の受け応えが可能になるのです。

この場合、この英国人は中国語を理解していると言えるのでしょうか?

中国語の部屋は、AI(人工知能)や、人間の知識について論ずる際に使用されることが多い思考実験です。

例えば、将来的にロボットが人間のようにスムーズな会話ができるようになったら、私たちはそれを単なる機能と思うでしょうか?

もしかしたら、心があるように感じるかもしれません。

思考実験「中国語の部屋」では、「マニュアルに則った行動ができただけで、知能を有していると言えるのかどうか」という人の知能や意識について考えることができます。

中国語の部屋の結論と目的は?

この思考実験を考えたサール自身は、この思考実験において「中国語のやり取りができること」と「知能として中国語を理解していること」は無関係とし、「この英国人は中国語を理解していない」としています。

中国語の部屋は、機能主義への反論のために提唱されました。

機能主義とは、簡単に言えば、意識的な体験や感覚的な体験は機能的な役割で説明可能とする立場です。

この思考実験では、解説本の機能により「中国語の受け応え」はできていますが、英国人には「中国語を理解している」という意識が全くありません

つまり、「中国語の理解」という感覚や意識は、「中国語の受け答え」という機能に全く影響していないのです。

このことから、意識体験は機能に伴わないため、機能主義は間違っているとサールは主張したかったのです。

中国語の部屋をコンピューターで考える

ジョン・サールは、この思考実験で、「人間の意識と知能は別物」とし、いかに精度が上がってもコンピューターに心を持たせることは不可能だ、と結論づけました。

もともとこの思考実験は、サールの『脳・心・プログラム』(Minds, brains, and programs)というコンピューターと人間の脳についての論文で使用されたものです。

それでは、「中国語の部屋」の実験をコンピューターの機能にあてはめ、「コンピュータは心を理解できるのか」という問題に置き換えてみましょう。

  • 英国人のいる部屋全体=コンピューター
  • 解説本の通りに作業を行う英国人=プログラムに従って動くCPU(コンピューターの知能)
  • 中国語の解説本=心を詳細に解析したプログラム

部屋の中で、英国人は解説本に従って対応することで、中国語で手紙のやり取りを行い、外の人間に「部屋の中にいる人は中国語を理解している」と思わせます。

しかし、実際には中国語を理解しているわけではなく、解説本の指示通り機械的に作業していたにすぎません。

同じように、「心を解析したプログラム」を読み込んだコンピューターは、まるで心があるかのように応対することができます。

しかし、そのコンピューターはあくまでプログラムの通りに応対しているだけで、心を理解しているわけではありません。

強いAI・弱いAI

ジョン・サールは、この思考実験を『脳・心・プログラム』(Minds, brains, and programs)という論文の中で使用しました。

J. Searle, 1980, “Minds, Brains and Programs”, The Behavioral and Brain Sciences,
参考文献

サールは論文の中で、強いAI・弱いAIという言葉を使用します。

強いAIは、人間の脳と同じくらい高い認知能力や処理能力を持ったAI。

弱いAIは、計算や決められた会話などの簡単な作業に特化したAI。

サールは、「強いAIは人間と同じよう心を持つ」という論に反論し、 中国語を理解していない英国人のように、どれだけ人間らしい応対をする強いAIでも、「心を持っている」とは言えないと主張しました。

反論:「チューリング・テスト」

中国語の部屋は「チューリング・テスト」と比較して考えられることも多いです。

「チューリング・テスト」は、人間のようにふるまうAIを見分けることができるか、を探るテストです。

質問に対して、人間とAIが答え、どちらがAIか見分けるテストで、見分けられないほど人間らしい答えができるAIは作ることができるのかを考えます。

チューリング・テストに関しては以下の記事で解説していますので、詳しく知りたい方はぜひご覧ください。

チューリングテストを「中国語の部屋」に当てはめると、「他人と中国語でやり取りができているので、中国語を理解しているといえる」となります

さらに、たとえ中国語を理解していなくても、解説本によって中国語でのやり取りができるのであれば、「英国人Aが中国語を理解していないこと」は全く問題ではありません。

さらに英国人Aが解説本を暗記してしまえば、英国人Aが中国語がわからないと証明することはできません。

限りなく人間に近い知能を持つAIが、人間と同じ見た目でいたら、人間と違うと気が付けるでしょうか?

こうした観点から、AIの可能性を探っていくのが「チューリングテスト」の目的です。

このように、AIの知能とその可能性をめぐって、様々な意見が出ています。

近い未来、人間と同じ精神を持つAIはできるかどうか、今も議論が重ねられています。



人間の知能との関係

「中国語の部屋」や「チューリング・テスト」のように、AIが人間に近づけるかどうかを問う問題は、突き詰めていくと「人間の知能」の問題につながります。

そもそも人間の「知能」というもの自体が、未だに解明できない曖昧なものです。

私たちが「心」と呼ぶものも脳の機能によって発生する現象で、解説本通りに作業していることと変わりないのかもしれません。

もっと身近な例でいえば、メールのやり取りをしていて、相手が正しくメールの内容を認識しているかどうかはわからないですよね。

自分の認識している事柄も、相手が同じように認識しているかどうかは調べる方法がないのです。

まとめ

最近では、AIによって人間の仕事がなくなっていくとも言われています。

技術の進化により強いAIが開発されていけば、AIも人間と同じように生活していく未来が来る、という人もいるでしょう。

反対に、「中国語の部屋」でサールが言ったように、どれだけ優秀でも所詮は「そうプログラムされただけ」であり、人間のような感受性を持つ強いAIは実現できないのかもしれません。

この問題を考えていくと、

  • 人間の脳を再現したAIならどうなのか
  • 発達しすぎたAIは人間にどのような影響を与えるか
  • AIが人間のような意識をもったら、「心」が生まれるのか
  • そもそも人間の知能や心、理解とは何なのか

といった具合に、科学技術・人間社会・哲学などの様々な分野に発展していきます。

技術が進んでいけば新たなAIの問題が生じていくのかもしれません。