弱いAI

「中国語の部屋」という思考実験は、アメリカの哲学者、ジョン・サールによって考え出されたものです。この実験は、機械がどれだけ複雑な処理をこなせるようになっても、本当にものを考えていると言えるのかどうかという問題を私たちに問いかけます。 想像してみてください。ある部屋の中に、中国語が全くわからない人がいます。この人は、中国語で書かれた質問が書かれた紙切れを受け取ります。部屋の中には、分厚い説明書が置いてあります。この説明書には、中国語の文字をどのように組み合わせればよいかが、事細かに書かれています。まるで料理のレシピのように、どの文字にどの文字を組み合わせれば、どのような答えが作れるのかが、全て指示されているのです。 部屋の中にいる人は、中国語の意味は全くわかりません。ただ、説明書に書かれた通りに文字を組み合わせ、紙に書き写すだけです。そして、書き写した紙を部屋の外に出します。部屋の外には、中国語を理解できる人が待っています。この人から見ると、部屋の中から出てきた答えは、まるで中国語を理解している人が書いたかのように自然で正しいものです。まるで部屋の中にいる人が中国語を理解しているかのように見えます。 しかし、本当に部屋の中にいる人は中国語を理解していると言えるでしょうか？ この人は、ただ説明書に従って文字を操作しただけで、中国語の意味は全く理解していません。料理のレシピ通りに料理を作れるからといって、料理人が食材や栄養について理解しているとは限らないのと同じです。この思考実験は、たとえ機械が人間のように振る舞えたとしても、それは単なる記号の操作に過ぎず、真の理解や知性とは異なるのではないかということを示唆しています。つまり、表面的に知的に見える行動と、本当の理解の間には大きな隔たりがあるということを、この「中国語の部屋」は私たちに教えてくれるのです。

「中国語の部屋」と呼ばれる思考の試みは、アメリカの思想家ジョン・サールが考え出したものです。この試みは、機械がどのように言葉を扱うかを深く考えるために行われました。 想像してみてください。ある部屋の中に、中国語が全く分からない人がいます。この人には、中国語で書かれた質問が紙で渡されます。部屋の中には、分厚い手引書があります。この手引書には、中国語の質問に対して、適切な答えを返すための、とても細かい手順が書かれています。この人は、手引書に書かれた通りに記号を並べ替え、中国語の答えを作り出します。 部屋の外には、中国語の分かる人がいます。この人から見ると、部屋の中の人は中国語を理解しているように見えます。まるで、中国語で書かれた質問を読んで、中国語で答えを書いているように見えるのです。しかし、実際には、部屋の中の人は中国語を全く理解していません。ただ、手引書に書かれた手順に従って、記号を並べ替えているだけです。 この思考の試みは、計算機がまるで人間のように言葉を理解しているように見えても、本当は記号を処理しているだけで、真の理解や意識を持っていないかもしれないということを示しています。計算機は、大量の情報を処理し、複雑な計算を行うことができます。しかし、それはあくまでも手順に従って記号を操作しているだけで、言葉の意味を理解しているわけではありません。 例えば、翻訳の機械を考えてみましょう。翻訳の機械は、膨大な量の文章データを使って学習し、異なる言葉の間の関係を把握します。そして、ある言葉を入力すると、別の言葉で出力します。これは、まるで言葉を理解しているかのように見えます。しかし、実際には、翻訳の機械は言葉の意味を理解しているのではなく、言葉の使われ方のパターンを学習しているだけです。つまり、「中国語の部屋」の例のように、記号を操作しているに過ぎないのです。 この思考の試みは、人工知能の研究において、非常に重要な示唆を与えています。人工知能が真に言葉を理解するためには、記号の操作だけでなく、言葉の意味や背景にある文化、文脈などを理解する必要があると言えるでしょう。