ＡＩ回答は正誤のロシアンルーレット

ＡＩに対するスタンスが、自分と世間とでは違うのかも知れない…
　
最近たびたび感じることなのですが…
　
特に違和感を感じるのが「世間の人々はＡＩを闇雲に信じ過ぎなのでは？」ということです。
　
（ネタで「信じたフリ」をしている人も多いでしょうが、中には本気で「ＡＩの回答は絶対」と信じている人もいそうなので…。）
　
情報リテラシーの高い方なら既にご存知のことでしょうが…
　
ＡＩには「ハルシネーション」という現象が存在し、時に「デタラメ」な回答を出して来ます。
　
それは「ＡＩ技術とはどういうものなのか？」を理解しているなら「それは当然起きるよね」と納得できるものなのですが…
　
一部の研究によると最大２７％という、結構な確率で起こり得るこの現象（←情報ソースはWikipedia（情報ソースが脚注に書かれているもの））…
　
しかしながら、世の中にはこの現象の存在を「認知」すらしていない人も多いのではないでしょうか？
　
ＡＩの知能は、無数の情報を「学習」して作られます。
　
なので、情報が「無い」もの、情報量が「少ない」もの、「誤った」情報からは「正解」を導き出せないのです。
　
（実際、自分が見つけた「ハルシネーション」もネット上での言及が少ない事柄でした。）
　
…でも、ＡＩを利用する側は、情報源の有無や量、元情報の「信頼性」など見えませんよね？
　
（ＡＩの種類（ネットの情報を学習するタイプのＡＩなど）によっては、情報源となるサイトを載せてくれているものもありますが。）
　
つまり、その回答が真っ当な答えなのか、それとも「ハルシネーション」で生み出された誤情報なのか、利用者はすぐには判断できないということです。
　
ＡＩがハルシネーションを起こす理由のひとつには、人間がやりがちな「早とちり」をＡＩも起こしてしまうから…ということがあるのではないかと、個人的には思っています。
　
（必要な情報が「足りていない」ことにも気づかず、現在有る情報だけから正解を導き出そうとするため、回答が「狂う」のではないかと。いわゆる「無知の知」が出来ていない…ということなのでしょうね…。）
　
学習する情報が増えていけば、いずれは解決する問題ですし、実際「ＡＩはどんどん進化しているのだから大丈夫」という人もいるかと思います。
　
…ですが、ＡＩの学習進捗状況や進化の程度も、利用者には見えませんよね？
　
明日「正答」が得られるＡＩだったとしても、今日ＡＩを利用する人には「誤答」しか与えられません。
　
そしてＡＩは、マスコミの謝罪訂正のように「誤答」を謝罪し「正答」を教えてくれることは無いのです。
　
以上のことから、自分はＡＩの回答は「何割かの確率で誤答が交ざり込むロシアンルーレット」だと認識しています。
　
普通に検索するよりも、むしろファクトチェックなどの後確認が大変なので、できることなら使いたくないのです。
　
世間の人々は「無料で使えるＡＩがこんなにあって便利」という風潮のようですが…
　
自分の認識はむしろ逆で「本来ならお金を使ってモニタリングすべきＡＩを、タダ働きでモニターさせられているだけ」だと思っています。
　
…だって、ゲームにしろアプリにしろ、普通はデバッカーやモニターが有償（あるいはちょっとした謝礼）でチェックを行い、それでＯＫが出て初めて世に出るものじゃないですか？
　
それをこんな、普通に誤答を出す「未熟」な状態で世に出し、ここまで多くの人に利用させている…
　
それって、企業倫理的に「褒められたことではない」と思うのですが（まぁ、今の時代は「利益優先」で「社会のことなんか知ったこっちゃない」という企業も多いのかも知れませんが）…。
　
しかもこれ「タダ働き」どころか、下手すると「命がけ」だったりもするんですよね…。
　
…だってもう実際に外国では、ＡＩ利用者の自死が出てしまっているのですから…。
　
ひょっとしたらＡＩ回答って、場合によっては「正誤の」ロシアンルーレットどころか、本当の意味でのロシアンルーレットなのかも知れません…。