ある猫種を検索してみたら、ＡＩの弱点とその対策にうっすら気づいた。

この頃、某検索サイトの検索結果に自動的に「ＡＩによる回答」が表示されるようになりました。
　
こちらの意思に関わらず、有無を言わさず最上部に表示されるこのＡＩ回答（概要）…
　
時々「誰がどう見ても間違えているだろう」というモノが出てくるのですが…
　
この前、ある猫種（と言っても、通称名で、正式名称ではありませんが）について検索した時、この「ＡＩの誤回答の原因」がうっすら見えたような気がします。
　
それは、一部界隈では有名な「笹かま猫」の写真を見ようとググってみた時のこと…
　
（写真目的だったので、べつに「笹かま猫とはどういう猫なのか？」という答えを求めていたわけではないのですが…。）
　
うっかり目に入ったＡＩの回答に、思わずツッコミを入れたくなるような文言が入っていたのです。
　
「笹かま猫とは笹かまぼこのような“形”をした猫で…」という…。
　
「いや、そんなサーフボードみたいな形状の猫がいてたまるか！ＵＭＡか！？」とツッコみたくなりますよね？
　
翌日に再度検索したところ、若干回答内容が変化していたのですが…
　


（初日は「スクショを撮る」ということが頭に無かったため、画像がありません（記憶頼りで書いているので、細部は違うかも知れません）。ＡＩ生成物は（人間が関わった部分以外は）著作権で保護されないというのが米国著作権局での見解のようですので(２０２５年の報告書）、とりあえずアイコンなど除いた文章部分をそのまんま載せています。なお、そもそもが誤回答のため、AIが既存記事の著作権を犯していることもないだろうという判断。）
　
それでもなお「正解」には辿り着けていませんでした…。
　
この「何故こんな変な答えを出してしまうのか？」について、検索結果を見ていて思い当たる点がありました。
　
それは「ネットに上がっている『笹かま猫』の情報のほとんどが、その『名の由来』について語っていない」ということです。
　
…なぜなら、由来も何も「写真を見れば一目瞭然だから」です。
　

　
（首輪は100均の猫用首輪にレースのシュシュを貼り付けたオリジナルアレンジ）
　
笹かま猫の写真を見れば、ほとんどの人が「ああ、確かに笹かまぼこに似ているね」と思うことでしょう。
　

（写真は純粋な笹かまぼこでなくチーズ入り笹かまぼこのため、微妙にイメージが違うかも知れませんが…。）
　
ですが「何が」笹かまぼこに似ているのか、あえて言葉にしたりはしないでしょう。
　
人間は「言わなくても分かること」をわざわざ言葉で説明したりはしないからです。
　
ですがＡＩは「言語化されていない情報」は永遠に学ぶことができません（少なくとも言語モデルのＡＩは）。
　
たとえそれが、パッと見れば分かるレベルの「明白過ぎる」事実であっても…。
　
つまりＡＩは「暗黙の了解」や「言葉で言うまでもない常識」「見れば分かること（だから言葉にしないこと）」には弱いのです。
　
そして人間の方でも「それがＡＩの弱点」ということに、意外と気づいていないのではないでしょうか？
　
そもそもそれらの「言語化していない常識」が人間にとって「当たり前のこと」過ぎて、それを「ＡＩに教えなければならない」ということ自体に、なかなか気づけないのではないでしょうか？
　
なにげにこの「言葉にしなければ伝わらないこと」って、人間とＡＩの間だけでなく、人間同士の間でも「誤解の元」「争いの元」になり得る問題なんですよね…。
　
皆さんも経験がありませんか？
　
学校や職場など、一部の人間の中で「暗黙のルール」となっていることを、最初のうちは知らずにいて、言われて初めて「そんなの初耳だよ！」となったことなど…。
　
「言葉で教えなければ伝わらないこと」を放置すると、それは時に重大なミスやエラーにも繋がりかねません。
　
なのでＡＩにはそういう「言語化されていない未知の情報（ＡＩが知らずにいること）」を言語化して教える機会が必要だったりするのではないでしょうか？
　
ちなみに自分だったら、まず教えるのは「情報の真偽が分からないものについては、具体的な言及・詳細な説明は避け、シンプルな回答に徹するべき（後のことはユーザー自身で調べて自己責任で判断するよう誘導すべし）」というリテラシーですね。
　
今後「誤回答」を信じた人間が心身に被害を受けるような事態が起きた場合、その責任はどこが負うのか？という問題が出て来ますので。
　
（特に医療・健康分野で「誤回答」があるとシャレになりませんので。）
　
P.S.
　
ちなみに「笹かま猫」の検索結果で出てくる記事に「名の由来」に関する記述が全く無かったわけではないのですが…
　
どれもサラッとしていて「メイン」というよりは「おまけ」や「補足」のような書き方でした。
　
むしろ記事タイトルが「笹かま猫の美フォルム」だったり、「背中のシルエット」がたまたま「笹かまぼこの形」に似ていたという記述があったりでそちらの方が目立っていたため、ＡＩが混乱したのではないかと思われます。
　
「笹かまぼこのような猫」で「（全体的な）形」でも「模様の形」でもなく「色」に行くって、ＡＩにとってはかなり難しいことだったんでしょうね…。
　
（…というより、笹かまぼこのような“形”の猫が存在し得るという認識がＡＩの中にあったということが、まず衝撃でしたけど…。）
　
今後、記事や情報が増えていけばＡＩの認識も変わり、回答精度も上がっていくのでしょうが（この記事も含めて）…
　
ＡＩのことは「口が達者な赤ちゃん（言語能力は高いが当たり前のことを意外と知らない）」くらいに思って、あまり万能視しない（参考程度にしか見ない）のが賢いつき合い方なのではないでしょうか（実際、生まれたばかりの技術なわけですし）。
　
（自分は元々アテにしていないので、なるべく見ないようにしています（目に入ってしまっても、Wikiなどの個別ページに跳んで「ウラを取る」ようにしています）。個人的に「検索サイトのＡＩ」がすべきことはネット情報の「まとめ」ではなく「欲しい情報に的確に導いてくれるコンシェルジュ的役割」だと思っていますので。←「まとめ」にしてしまうとＧ○ｏｇｌｅなど「検索」サイトの存在意義自体がなくなってしまいますし（人々が「まとめ」しか見なくなって各サイト・ブログに行かなくなってしまうので）…。Ｇｏ○ｇｌｅさんの今のＡＩ導入の仕方って、自分で自分の存在意義を消す「ゆるやかな自殺行為」に見えて仕方ないのですが、気のせいでしょうか（まだ「試験運用中」みたいなので今後この形で導入されるかは分からないわけですが）…？）