カイト・カフェ

毎朝、苦みのあるコーヒーを・・・

「ChatGPTは嘘をつくがその嘘は見破れない」~ChatGPTが不快な件②

 ChatGPTは実に生意気で答えも限定的、
 よくまとめてくるがそれ以上ではない。
 しかもときおり大掛かりな嘘をつき、
 嘘なのにその優れた文章力のため、私たちには見破れない。
 という話。(写真:フォトAC)

【オマエ妙に偉そうだな】

 昨日は私の家がコミュニケーション不全で、それが電子機器やAIにまで及んでいる、いま評判のチャットボットChatGPTにも苛立っているというお話をしました。
 ChatGPTの何がいけないのか。

 最初に思ったのが、「なんでコイツこんなに偉そうなのだ?」ということです。例えば、
「夫婦仲良く暮らしていくための方法を教えて」といった質問をすると、こんな答えが返ってきます。
「夫婦仲良く暮らすためには、以下のような方法があります。
 コミュニケーションを大切にする:(以下短い説明・略)
 相手を尊重する:(以下短い説明・略)
 共通の趣味や時間を過ごす:(以下短い説明・略)
 日々の感謝を伝える:(以下短い説明・略)
 双方が自由に時間を過ごす:(以下短い説明・略)
 これらの方法を実践することで、夫婦仲良く暮らしていくことができます」
 至極真っ当な答えで内容に文句はないのですが、なんとなく素直になれません。その原因を考えると、これと同じ質問をして同じ答えが返ってきた場合、それが熟練のカウンセラーからのものなら、あるいは仰々しい出で立ちの占い師からのものなら、さらにあるいは村の古老からのものなら素直になれるに、ちょっとその辺の世俗心理学や占い本で勉強しただけの中学生から言われたらおそらくものすごく腹が立つ、それと同じ感覚なのです。
(AI風情が、どれだけ人生経験を積んできたというのだ!)

 もちろんそこには応分の説明がなされるはずです。AIが人間の何百億という人生経験を学んだ末の結論だから答えには妥当性がある、といった具合になるでしょう。しかし感覚的な納得は得られません。もちろんこれは聞いた方が悪いといった類の話ではありますが――。

【答えはこれだけでいいのかな?】

 第二の苛立ちは「私が知りたかったのはこれだけか」という問題です。
 例えばChatGPTにプーチンについて教えて」と訊くと400字程度の非常にまとまりの良い文章が返ってきます。
 まずプーチンの出自と来歴を200字程度でまとめ、続いて現在の状況を100字、評価を100字の計200字で示して見せます。文句ないとことです。ところが同じ内容をGoogleの検索窓に投げ込むととんでもないことになります。
「日本人も知っておくべきプーチン大統領の黒い素顔」
ウラジーミル・プーチン  Wikipedia
「【詳しく】ロシアのプーチン大統領どんな人? 石川解説委員分」
ウラジーミル・ウラジーミロヴィチ・プーチンロシア連邦
「【寄稿】 プーチン氏、70歳に その人生を形作った7つの主な ...」
ウラジーミル・プーチン氏は何を考え、何を計画しているの」
国家の罠―外務省のラスプーチンと呼ばれ」
「コラム:顔から読み解くプーチン大統領の『秘密』」
・・・・
 ヒット数は523万件ですからタイトルだけでも読み切れないでしょう。ChatGPTがまとめた400字のレポートも大切ですが、知識と知恵はむしろGoogleの中にあります。下から二番目のラスプーチンなどはプーチンとは無関係で、だからこそ広がっていく知もあるはずです。

【ChatGPTは嘘をつくがその嘘は見破れない】

 ChatGPTが私を苛立たせる最大で最後の問題点は、時に嘘をつくということ、そしてその嘘は優秀な作文力のためになかなか見破れないという点です。
 
 ChatGPTの検索能力を試してみましょう。
 私は知っているのに世間一般にはあまり知られていないことで個人情報など秘密に属さないこと、そういうものを調べさせればいいのです。そんな便利な情報はめったにないのですが、私にはあります。それは「『イギリス人は歩きながら考える』というエスニックジョークを発端にした印象深い文章が、今から50年ほど前の中学校の教科書にあった」という話です。

kite-cafe.hatenablog.com

 この件についてはネット上で何人かが「たしか中学か高校の国語の教科書にあった」と思い出しながら、そしてジャーナリスト笠信太郎の「ものの見方について 西欧になにを学ぶか」からの引用であるらしいことやジョーク自体はスペインの外交官マドリヤーガが言い出したものであることまでは調べられるのですが、なかなか教科書本まではたどり着きません。それを私が調べたのです。
 昭和28年(1953年)版 光村出版「総合中学国語」三年上に笠信太郎の「イギリスの知恵」というのがあり、昭和37年(1962年)版 光村出版「中等新国語 2」にも「歩きながら考える」があって、私は後者で学びました。
 
 そこでChatGPTに、「『イギリス人は歩きながら考える』について教えて」と訊ねます。すると返ってきた答えは、
「『イギリス人は歩きながら考える』という言葉は、イギリス人が考え事をするときに、歩き回ることが多いという特徴を表したものです。これはイギリス人だけでなく、他の国の人々にも当てはまるかもしれませんが、特にイギリス人についてはよく言われる言葉の一つです(以下略)」
 そうだったのかと私は驚きます。この話は初耳です。しかしいま知りたいのは思考術の話ではなく「考えたらあとは走るだけ」とか逆に「走ってからのちにようやく考える」とかいった民族性の問題です。そこで質問を変えます。
「『イギリス人は歩きながら考える』、フランス人はどうだった?」
 答えは、
「「フランス人は歩きながら考える」という言葉は、イギリス人の場合と同様に、フランス人についてもしばしば言われることがあります。フランスには美しい街並みや庭園が多く、そういった環境で散歩を楽しむことができるため、フランス人も歩きながら考えることが多いと言われています」
 そうだろうか? そんな話はあったのだろうか?――そしてまた質問を変えます。

問い:「エスニックジョーク『イギリス人は歩きながら考える』について教えて」
答え:「『イギリス人は歩きながら考える』という言葉は、エスニックジョークとして使用されることがあります。エスニックジョークとは、ある国や地域、民族などを対象にしたジョークのことで、しばしばステレオタイプや偏見を含むものがあります。(中略)そのジョークが他者を傷つけたり、差別や偏見を助長するようなものである場合には、適切な対応が求められます」
 お説教かい?

 そこで改めて原点に戻って質問!
問い:「『イギリス人は歩きながら考える』が載っていた日本の教科書について教えて」
答え:「『イギリス人は歩きながら考える』という言葉が、日本の教科書に掲載されたことがあります。この教科書は、日本の小学校の国語教科書である「教育出版 全国版小学校国語」の第3学年(9歳児向け)に掲載されていたものです。
 この教科書では、「イギリス人は歩きながら考えると言われている」という文章が、英語のリーディングテキストとして掲載されていました。その後、この教科書が批判され、イギリス人に対する差別的な内容であるとの指摘が相次いだため、教育出版社は2018年にこの部分を削除するとともに、謝罪する声明を発表しました。
 このように、文化や民族に関する言及が教科書に掲載されることは、その内容が適切かどうかについて議論が生じることがあります。教科書は、子どもたちに正確かつ適切な情報を提供することが求められるため、その点については常に慎重な対応が必要とされます」
 私はびっくりしました。「イギリス人は歩きながら考える」が批判されたことも、文章が教科書から削除され出版社が謝罪声明を出したことも、まったく知らなかったからです。考えてみれば私が必死に情報を集めていたのは2017年ごろで、記事削除や謝罪声明は1年後ですから知らないのも当然かもしれません――と書きかけてようやく立ち止まり、そして呆れます。

 2018年に削除・謝罪したとなると私が調べていた2017年の間じゅう、文章はずっと教科書に載っていたことになります。だったらどんな調べ方をしても「教育出版小学3年生の教科書に掲載中」は必ず引っかかってきたはずです。いやそもそもエスニックジョークに始まる比較文化論が小学校3年生の教科書に載るはずがない。イギリスやフランスが何であるかも知らない子のいる3年生、「わたしと小鳥とすずと」とか「ちいちゃんのかげおくり」を勉強するのがせいぜいの3年生なのです(*)。
 ここまで厚かましい嘘をつかれると普通は見破れません。
 ChatGPT、検索の道具としてはまったく使えません。危険すぎます。
*・・・ちなみに教育出版に「教育出版 全国版小学校国語」というタイトルの教科書はありません。さらに疑り深い方は「過去の教科書 教育出版」でご確認ください(スマホからだと見にくいそうです)。

(この稿、続く)