AIが妙に馴れ馴れしくなってきている。
その軽さ、どこで学んだのだ？
玉石混交、百鬼夜行のネット社会で、
AIは何をどんなふうに分別しているのだろう、
という話。
（写真：フォトAC）
【人間的な、あまりにも人間的な】
昨日に引き続き、Microsoftの生成AI:Copilotが不調で、変な答えを返すというお話をしています。
その件を扱うことになったきっかけは、世界の人口が何億人か、ふと分からなくなったところからでした。頭の隅に60億人という数字があったのですが、同時に、ずいぶん長いこと更新していなかったような気もしていたのです。そこで副操縦士（Copilot）に訊ねてみます。
問い:世界の人口は？
回答：現在の世界の人口は約 8億2044万人 です（2025年2月時点）。人口は年間約 0.85% の割合で増加しています。
他に知りたいことがあれば、何でも聞いてくださいね。
いくら何でもそれはない。8億２千万人ではインド・中国よりも少ないことになってしまうではありませんか。そこで再び、
問い：一ケタ違っていない？
回答：おっと、申し訳ありません。ご指摘ありがとうございます。正確な世界の人口は約 82億人 です。詳細な情報は、こちらのサイトでご確認いただけます。
他にも何かご質問やお手伝いできることがあれば、お知らせくださいね。
ちょっとびっくりしました。
タメ口で訊いた私もいけなかったのですが、「おっと、申し訳ありません」と軽い言い方で返してくるとは思いませんでした。人間的な、あまりにも人間的な――。
いつこんな話し方を覚えたのでしょう？ 副操縦士のくせに――と、そこで少し考えこんでしまったのです。
その軽い口調もそうですが、世界の人口は約 8億2044万人 ですと間違った答えを易々と出してきたのは、どうした事情があってのことなのでしょう。
【ネットを探索している限り、必ず間違える】
生成AIはweb上のテキストデータ、ウェブページ、ブログ、ニュース記事、あるいはデジタル化された書籍、論文、研究論文、専門書などからデータを集めてきます。Copilotのような対話型AIの場合は、ユーザーとの対話データを学習に利用することもあるようです。
しかし誰でも知っているように、インターネットの世界はまったくの玉石混交です。みんなが欲しがるような珠玉のデータもあれば、人を騙したり弄ぶためだけに投げ込まれたデータもあります。
その中に「世界の人口は約 8億2044万人」といった間違ったデータが入っていたのか、間違ってはいないまでも「18世紀末の世界人口は約 8億2044万人でした」あるいは「1990年ごろのインドの人口は約 8億2044万人でした」とかいった文章があって、その一部を切り取ってしまったのか、はたまた何らかの理由でCopilotが桁数を読み間違えてしまったのか（そんなことって可能性としてもあるのかな？）、いずれにしろ生成AIは何か奇妙なことをしている、どこかで間違っている・・・・。
話が無役老人の気まぐれな興味関心に基づくものだったからよかったものの、一ケタ間違えた数字が薬物に関するものだったり、銀行振り込みの金額だったりしたら大ごとでしょ？ 料理のレシピだってかないません。
【AIに真贋の見分け方を学び終える日は来るのか】
考えてみるとインターネットの世界は今も玉石混交です。真実もありますが虚偽も過ちも悪意も山ほどあります。そんな荒唐無稽、百鬼夜行、夜郎自大の世界に、私も胸まで浸かっていますが、AIは頭のてっぺんまで入り込んでいるのです。そんななかでAIは何を基準に、あるいは何を手掛かりに、正しい情報と間違った情報、より価値の高い情報と低い情報、善意と悪意を見分けているのでしょう？
ネット社会は今後も引き続き、おそらく未来永劫、玉石混交のままです。間違いはゼロにはできませんし、自由主義社会では悪意をもったデータも防ぎきることはできません。だとしたらいつかAI自身が、自分の採取したデータの真贋や正確さを吟味し、判断して、修正できるようにならなくてはなりません。
今はまだ学習中ということかもしれませんが、今後も悪意や誤解が大量に流入し続ける中で、いつか学習をし終えるときが来るのでしょうか――と、そんなことを考えたのです。
（この稿、続く）
