今後「ＡＩ導入失敗倒産」が普通に出て来る気がする…

最近、世の中を見ていて不安になることがあります。
　
それは「ＡＩを“何でも出来る万能の魔法”のように見ている人が多くないか？」ということです。
　
たとえばパソコン（初期はマイコンでしたっけ？）やWindowsが世に出た時、当時の人々はそれを「何でも出来る魔法の箱」と思っていたでしょうか？
　
もし思っていたとしても、やがてはその「限界」に気づいたはずです。
　
ＡＩはまだ技術的に新し過ぎて、まだその限界も分かっていなければ、メリットやデメリットも充分に議論されていません。
　
ＡＩにはどんな仕事が向いていて、逆に何が不向きなのか…それさえよく分かっていないのが現状なのではないでしょうか？
　
なのに世の中は「ＡＩ化の波に乗り遅れるな」とばかりに企業を焦らせます。
　
人手不足、人材不足でＤＸ化、ＡＩ化していかざるを得ない、という事情も分かるのですが…
　
それが本当に「ＡＩ化して大丈夫なものなのかどうか」真剣に検討できているでしょうか？
　
もしＡＩ化に「失敗」すれば、ＡＩ化にかかった費用をまるっと損する…どころか、貴重な人材や顧客まで失いかねないことに、ちゃんと気づけているのでしょうか？
　
たとえば最近の事例で言うと、こども家庭庁が約１０億円かけて開発していた“ＡＩによる虐待判定システム”が、６割もの判定ミスを出して「導入見送り」になったことがありました。
　
大金をかけて開発したＡＩシステムが、結局実用化できずに終わる…
　
国でなく民間でこの事態が起きた時、果たして企業運営は無事に済むでしょうか？
　
あるいは民間の場合は、それが「使えない」ことにも気づかないまま「導入」してしまうことも考えられます。
　
（大概の場合、ＡＩシステムは「外注」でしょうし、外注先は「良いこと」しか言わないでしょうから…。）
　
さらにはＡＩ導入により要らなくなった労働力を、早まってリストラしてしまう企業も出て来ることでしょう。
　
…ですが実際にはＡＩシステムは「使えない」ものですので、サービスや品質が落ち、顧客離れが進むのです。
　
自分は（過去記事にも書いた）AmazonロッカーのトラブルでＡＩチャットを使った時、正直「使えないな」と思いました。
　
おそらく「よくある質問」のＱ＆Ａコーナーに載っているタイプのトラブルになら対応しているのでしょうが…
　
滅多にないトラブルにはまるで対応しておらず、結局は「人間の出る」コールセンターと電話する羽目になったからです。
　
そもそもＡＩ導入者は「ＡＩとは何か？」をちゃんと分かって導入しているのでしょうか？
　
ＡＩの知能は「学習データ」を元にしています。
　
学習していないことには答えを出せません（あるいは、いわゆる「ハルシネーション」でデタラメな答えを出してきます）。
　
「よくあるトラブル」には対処できても「データにないトラブル」に対処できないのは、考えてみれば当たり前の話なのです。
　
なのにＡｍａｚｏｎさんのＡＩチャットには「そのトラブルは私では対処できかねますのでコールセンターにお繋ぎしましょうか？」という「橋渡し」すらありませんでした。
　
（ここでまずユーザーの一人である自分は「ＧＡＦＡの一角なのに、この程度のＡＩ利用しかできないのか…」と心の中で評価を下げたのですが…。もしかしたらＡＩ以前に顧客満足度の意識の問題で開発にお金をかけていないだけ（トラブルなんて滅多に起きないだろうから金かけてられないみたいな？）だったりするのかも知れませんが。）
　
「埒の明かないＡＩ対応」は、顧客によってはクレームに繋がることでしょう。
　
コールセンターにクレームを入れるだけならまだしも、今の時代はＳＮＳで悪評を拡散される恐れもあります。
　
…ですが、そうやって「表に出る」反応なら、ある意味「まだマシ」なのです。
　
大半の顧客は、失望すれば「物も言わずに」去って行きます。
　
企業は「文句を言って離れていく顧客」は把握できますが、「何も言わずに去っていく顧客」は把握できません。
　
いつの間にか業績が下がった時、やっと「何かがおかしい」と気づくだけです。
　
ＡＩ化の失敗に気づき、元の「人の手によるシステム」に戻そうとした時…
　
今の時代、果たしてリストラしてしまったのと同程度の人材は戻ってくるでしょうか？
　
今は「人手不足」で「人材の奪い合い」の時代です。
　
新たに人材を確保しようとするなら、以前よりも高い人件費が必要となる可能性がかなり高いです。
　
しかも「即戦力」が確保できるかどうかは分からず、また一から人材育成しなければならないかも知れないのです。
　
…以上のことを考えると「ＡＩ化に失敗して倒産する企業」って、今後普通に出て来ると思いませんか？
　
そうならないためには「焦って時代に合わせようとする」のではなく、「ＡＩ化したい事業の性質」と「ＡＩの性質」を改めて見つめ直し「それがＡＩ化に向いているのか否か」をしっかり検討することなのですが…
　
世の企業経営者の皆さんは、果たして大丈夫なのでしょうか？
　
ＡＩ事業者たちの言う耳触りの良いメリットにばかり踊らされて、冷静な判断ができなくなったりしていないでしょうか？
　
なお、ＡＩは「学習していないことはできない」だけでなく「誤ったデータを学ばされればミスを犯す」「データの学習の仕方を誤ってもミスをする」ものであること、開発する事業者によりＡＩ精度がピンキリになるであろうこと、海外産のＡＩに頼る場合は利用料が円相場で変動することなども…皆さん、ちゃんとお気づきですよね？
　
ネットにあまりにもＡＩ礼賛、ＡＩ賛美ばかりが溢れていると、心配になってきてしまうのですが…。
　
（あと、ＡＩを導入するならフィードバック機能は絶対つけておくべきかと。人間でも「言われないとミスに気づけない」人はいますが、ＡＩだと尚更ですから。）