生成AIの限界

《つまるところChatGPTは、ネット上の膨大な情報を収集して私たちの質問に「適当に」回答する記号操作にたけた装置だ。「適当に」というのは、要求に合っているという良い意味と、その場を取り繕ってそれらしく見せるという悪い意味の両方である。／この革命的な技術を使いこなすために私たちに必要なのは何か。その「適当さ」を見抜き、だまされないこと。そしてそれを、私たちに必要な、良い意味での「適切さ」に変換する能力を身につけることだ。》

そのために重要なのが「身体知」：《「ものそのもの」についての情報。服の生地の手触り、食べ物の風味、今日の天気の心地よさ……。こういった身体感覚やそれを介してのコミュニケーションも、知能を構成する重要な要素である。しかしChatGPTには「身体知」がない。》

*   *   *   *   *

生成AI、教育に生かすには　答えの「適当さ」見抜く力を

佐倉統　東京大学教授

2023年5月30日 5:00

膨大な情報量と人のような表現力をもつ人工知能（AI）の登場は教育界にも衝撃を与えている。その影響を巡る寄稿を2週連続で掲載する。初回は理化学研究所・革新知能統合研究センターチームリーダーの佐倉統東京大学教授。

世界中を妖怪が徘徊（はいかい）している、生成系AI（人工知能）という妖怪が――。米オープンAIのChat（チャット）GPTなど昨今の生成系AIを巡る大騒動は、さしずめこんなところだろうか。

佐倉統　東京大学教授

確かにこれらは革命的な技術だが、少し落ち着いて向きあった方がよいと思う。人がAIに取って代わられるとか、全面禁止せよとか、そういう拒絶的な反応は見当外れだ。

大事なのは、この技術を使いこなすためにはどうすべきかを考えることだ。教育の場面に関していえば広く深い教養を身につけることがなによりも重要なのは今までと変わらない。

話をChatGPTに絞ろう。その衝撃は、AIがついに自然な言葉のやりとりができるようになったことにある。何か質問すれば、たちどころにそれらしい答えを返してくれ、時にはこちらの考えの間違いを教えてくれることもある。人と普通にオンラインチャットをしているのとほとんど区別がつかない。

現代コンピューター科学の元祖の一人、英国のアラン・チューリングは、機械が知能を持っているかどうかを判定する基準として、日常会話を人間と同じようにできることというチューリング・テストを提唱した。ChatGPTはこれに合格しそうな勢いである。「ついに人工知能が人間に並んだ、もうすぐ追い越されるのか？」と浮足立つのも無理からぬところではある。

なぜ日常会話がAIにとって難しかったのか。すでにAIが人を追い越したチェスや囲碁将棋とは異なり、日常会話には明確なルールや目的がないからだ。

「良い会話」を実現するための明確な手続きなど存在しない。そもそも何が良い会話なのかという判断は人によってさまざまだし、場面によっても大きく違う。日常会話とは、ルールも目的も場面もすべてがオープンな、とてつもなく複雑な空間の中をさまよい歩く行為なのである。

現在のAIとは、つまるところ一定の評価基準にもとづく統計的な計算である。だから日常会話のような、目的もルールも曖昧で判定基準がよくわからない行為をそれらしくこなすのは、もっとも苦手な作業のひとつだった。しかしChatGPTは、このハードルを突破したかに見える。それだけの高度な計算力と、AIの学習を指導するマンパワーを、巨額の資金で実現したからである。

しかしそれでも、ChatGPTには明確な限界がいくつかある。そのひとつは、学習の対象になっている情報がインターネット上に限られていることだ。

ネットは広大で膨大な情報の宝庫だが、すべてではない。インターネットに「ない」情報で、私たちの知性や生活を成り立たせるのに重要な情報も多い。

たとえば「ものそのもの」についての情報。服の生地の手触り、食べ物の風味、今日の天気の心地よさ……。こういった身体感覚やそれを介してのコミュニケーションも、知能を構成する重要な要素である。しかしChatGPTには「身体知」がない。

身体知は人間の知能に不要だろうか？　そんなことはない。もともと知能とは生物が外界環境の情報を分析し、自分たちにとって適切な反応を行うための手法として進化してきたものだ。

だから人間の知能は人間の生存や繁殖に都合の良いようにデザインされている。けれども人類は好奇心が旺盛なので、その知能を少しずつ発展させ、もはや生存戦略とはほとんど関係ない数学や論理的推論などの体系を構築してきた。

人間はこれらの記号操作能力が他の動物より格段に優れているので、知能・知性といえば記号操作のことと思いたがるフシがあるが、それは知能の一部でしかない。今一度、知能の根本を見直すべきではないか。

ChatGPTのもうひとつの限界は、その学習が頭打ちになる可能性だ。学習の対象がネット上のデータに限られている以上、いつか壁にぶち当たる。英語のように情報量が多い言語であればまだよいが、日本語はこの点で不利だ。

今のところ限界がくる兆しはなく、データを増やせば増やすほど賢くなるという状況だが、この傾向がいつまでも続くという理論的根拠はない。どこかでAIの学習が頭打ちになると考える方が自然だ。

つまるところChatGPTは、ネット上の膨大な情報を収集して私たちの質問に「適当に」回答する記号操作にたけた装置だ。「適当に」というのは、要求に合っているという良い意味と、その場を取り繕ってそれらしく見せるという悪い意味の両方である。

この革命的な技術を使いこなすために私たちに必要なのは何か。その「適当さ」を見抜き、だまされないこと。そしてそれを、私たちに必要な、良い意味での「適切さ」に変換する能力を身につけることだ。

つまり、さまざまな情報の中から自分たちにとって有用で意義のあるものを、事実と証拠にもとづいて合理的な判断基準で選抜できる力を身につけることである。そしてそれは、本を読んで必要な知識を取捨選択して身につける能力と、根っこの部分では変わりはない。ChatGPTを恐れることはないし、むやみと礼賛することもない。ほどほどに付き合っていこう。

「五感」伴う学び　位置づけ高まる

AI時代を生きる子どもにどんな力を育むべきだろうか。AIから得た情報と自分の経験を組み合わせて判断する力、それを基に他者を説得する力……。熟考しないといけない。
教育のデジタル化が進む中、「五感」を伴う学びや経験知の位置づけが高まる気配は以前からあった。幼児教育や体育、技術・家庭、公共といった科目が一段と大事になる可能性もある。個々の教育現場でも、次期学習指導要領づくりの場でも議論を深めてほしい。
（編集委員　中丸亮夫）