忍者ブログ
日々ふと思うことを徒然なるままに書き綴る個人的エッセイあるいは回想録。
「AI生成物」と「そうでないもの」を見分けるために、AI生成物には特定の「印(マーク)」を付けるべき…
 
今さらここで言わずとも、既に有識者によって散々言われてきたことなのですが…
 
なぜそれが必要なのか、少し考えれば分かりますよね?
 
…そうしないと、フェイクをうっかり信じてしまう人が多発して、世の中が大混乱するからです。
 
生成AIの精度が向上すれば、もはやAI生成画像(動画)と「そうでないもの(オリジナル)」を区別するのは不可能とさえ言われていますが…
 
それ、普通に困りますよね?
 
日常で当たり前に目にする画像や動画を、いちいち「これは本物、これは実在しないフェイク」と判断していかなければならないって…
 
普通に「生活が困難になる」レベルじゃないですか。
 
しかもフェイクは「熊が出た」「政治家がこんな発言をした」という、生命の危機に関するものや、政治判断を左右するものにまで及んでいます。
 
(あるいは「この動物は人が平気で触れるほど安全な生き物」という誤解を生んでしまう「間接的に人の命を脅かす」動画など。)
 
昨今「本物と見分けがつかないフィッシングサイト」や「より巧妙な迷惑メール」が急増しているのも、生成AIの精度向上と無関係とは思えません。
 
(ロマンス詐欺や「なりすまし」にもAIのディープフェイクが使われたりしていますし…。)
 
AIで造られたものが「本物と区別できない状態」は、社会の混乱犯罪を招くのです。
 
さらに言えば、大人でも混乱するこの状況…
 
まだ現実とフィクションの区別もつかない幼い子どもには、なおさら「悪影響」を及ぼすリスクがあります。
 
(実際、スペインの大学では動物動画のフェイクが子どもに及ぼす影響の研究が行われています。)
 
…これ、一定以上の知能がある方なら、誰でも気づくことかと思うのですが(さらに言えば、既に世の中がこの状態で、気づかない人がいるとも思えないのですが)…
 
何故AI事業者は、未だにAI生成物に「そうと分かる印」を入れないのでしょう?
 
「たとえ入れたところで、その印を加工で消されてしまえばそれまでだ」という考えもあるかと思いますが…
 
その「加工して消さなければ使えない」という「一手間」が加わるだけでも、悪戯や犯罪の何%かは低減させられるはずなのです。
 
犯罪予防のポイントの1つは、相手に「面倒くさい」と思わせることですので。「生成AIに頼めば、その印も一瞬で消されてしまう」という懸念もありますが、AI事業者なら「どんなプロンプトを与えられても消せない印」をAIに仕込むことも可能なのでは?)
 
実を言うと、最近出た某O社の生成動画アプリ「Sora(2)」では、生成した動画にロゴが埋め込まれるようになりました。
 
最初にネットニュースの記事でこれを読んだ時は個人的に「やっとか…」と思い、多少はAI事業者を「見直す」気になったのですが…………
 
正直、AI事業者は安全問題やプライバシー問題や著作権問題等々、何かと後手に回っていて「何かあって余所から文句を言われないと動かない」イメージがあります。
なので、個人的には信頼性など微塵も感じたことはありません。
そこら辺の意識が「ちゃんとした」安心安全な国内企業が出て来て覇権を取ってくれないものかと、常日頃から思っているくらいです。
…そもそも海外産のAIに依存すること自体、いろいろリスクがありますし…。

このロゴの出方、思ったのと違っていました。
 
てっきり画面のどこかに「ずっと」ロゴが出ているものだとばかり思っていたのですが…
 
このロゴ、一定時間で消えてしまう上、半透明なので動画によっては目立ちません。
 
最初から出ているわけでもありませんし、サムネイルにもロゴが載っていないことがあります。
 
…そもそも出ているロゴが「Sora」というアプリの名前だけなんですよ…。
 
自分も実際にリリースされるまでは「アプリの名が入っていれば大丈夫だろう」と思っていたのですが、認識が低過ぎました…。
 
YouTubeなどのコメント欄を読んで初めて気づいたことなのですが…
 
「アプリの名」で「AIか否か」を区別できるのは「そのアプリを認知している人だけ」なのです。
 
AIにそれなりの興味を持って情報収集している人間なら「Sora?ああ、あのAI動画が作れるやつか」となるでしょうが…
 
そうでもない一般の人々にとって、その名はまだそれほど認知度の高いものではないのです。
 
なので、ロゴを入れるとしたら「AI Movie ○○」「AI Picture ○○」のように、アプリ名とともに「AIであることが分かる文言」を入れるべきだったのでしょう。
 
(ついでに言うと、どうせ一定時間でロゴが変化するなら、ロゴの表示場所が何秒かごとに変わる(そしてずっとどこかしらに出続けている)とかだと、加工で印を消すのが面倒くさくなって良いのでは?)
 
…ただ、まぁ……入れるようになっただけでもだいぶ「マシ」ではあるので、そこは大いに評価したい所ですが…
 
他の「何もしていない」AI事業者は、フェイクが世の中を害するこの状況を、どう思っているのでしょう?
 
「印を入れる」の他にも「AIならではの特徴づけをする」など、対策の立てようはいくらでもあるはずです。
 
なのに、利益を得るだけ得ておいて、社会に生まれる損失は見て見ぬフリをする…それって、許されることなのでしょうか?
 
「悪用する側が悪い」という理屈はあるとしても、事業者がその悪用に何の「予防策」も打たない理由にはならないじゃないですか。
 
この問題を思うたびに「あれ?PL法ってアメリカ発祥じゃなかったんだっけ?アメリカって『それを作った者にはそれなりの責任がある』っていう考えの国じゃなかったんだっけ?」と不思議に思うのですが…
 
(現在AI事業者の有名どころは、大体アメリカの企業なんですよね…。)
  
…まぁ、アメリカも最近いろいろ変わってきていますからね…。
 
利益は巻き上げられるだけ巻き上げておいて、まき散らされる混乱は「知らんぷり」っていうのが、最近のスタンスなんですかね…??
 
さらに不思議なのは、この事態に対して一般企業および一般の人々がほとんど声を上げていないことなのですが…
 
(AI生成の詐欺メールや偽サイト、フェイク情報によるデマで迷惑している企業さんも相当数いらっしゃるでしょうに…。)
 
皆さん、この事態を放置しているAI事業者に対して、何も思うところは無いのでしょうか?
 
自分は正直、不信感を持っていますし「社会的責任に対する意識が低いのでは?」と思っています。
 
…あるいは低いのは、「自社サービスが世の中に与える影響」に対する「想像力」の方なのかも知れませんが…
 
どちらにせよ、こんな姿勢の事業者にAI業界の覇権を取ってもらいたくはありません。
 
ユーザーには利用するAIを選択する自由があります。
 
あるいは「選択する余地も無い」ほど無責任なAI事業者しかいなかったとしても…
 
そこに対して声を上げ、改善を求める(改善されない限りは利用しない)自由があります。
 
そしてそれは、未来に対する「選択」でもあるのです。
 
フェイク含むAIの「悪用」に対し何の対策も取らない事業者と、ちゃんと取り組む事業者…
 
「どちらを選ぶかで、人類の未来は変わってくる」と言っても過言ではないのです。
 
皆さん、無料だとか利便性だとか、そんな部分ばかりでAIを選んでいるかも知れませんが…
 
ぶっちゃけ、そんなものより「もっと重要なもの」があるのです。
 
目先の安さや便利さと引き換えに、平穏に暮らせるはずだった未来を永遠に喪う(AI犯罪だらけの未来を生んでしまう)とか…割に合わないにもほどがあるじゃないですか。
PR
文字だけのメディアは「感情」が伝わらない・分からない(なので誤解を生む)…これって、よく言われることですよね?
 
だからメールに絵文字があったり、L○NEにスタンプがあったりして、感情を「補完」するのでしょうけど…
 
そういう「補完」の一切無い文章って「感情が分からない」どころか「ネタなのかガチなのか?」すら区別できない時がありませんか?
 
特にX(旧Twitter)などの短い文章だと、内容も端的過ぎて「え?これ、ネタで言ってるだけだよね?本気(ガチ)でそう思ってるわけじゃないよね?」というものが多々あります。
 
ネタで「おかしなこと」を言っている分には、おもしろがるなり、「ネタとしてはサムいな…」とビミョウな気持ちになるなりすればいい話なのですが…
 
ガチだとしたら「笑えない」…そんな投稿が、最近はよく目につく気がします…。
 
最近は「読書離れ」「活字離れ」が深刻ですが…
 
「本」というのは、単に「知識」を得るためのものではなく「他者の気持ちや視点を学ぶ機会」でもあるんですよね…。
 
それを失った人々の「精神的視野」が狭くなり、短絡的な物の見方しかできなくなっている…というのは、普通にあり得そうな話です。
 
さらに言うと、その肝心な「本」を含む「コンテンツ」も、どんどん単純化・エンタメ至上主義化し、いわゆる「考えさせ系」が減っているような気がします。
 
そんな現代事情を考えれば、本当に「ガチでおかしなことを言っている」人が増えても、不思議ではないのかも知れません。
 
…「ガチでおかしなことを言っている人」の何が怖いかって…普通に社会を悪化させそうな所なんですよね…。
 
「自分さえ良ければ他人がどうなっても構わない」という、極度の「自己中心的」思考…
 
「バレなければ犯罪を犯しても良い」とすら思っている「反社会的」思考…
 
「自分の言動がどんな結果をもたらすのか」まるで考えない「無責任」思考…
 
そんな人々が人類の「多数派」になってしまったら、普通に社会秩序が崩壊しますよね??
 
そもそも「おかしい」のが、それを「心の中だけに収めておく」こともせず、「堂々と公言」しているところなのです。
 
現代ではもはや「悪いことは隠れてやる」すら通用していないのか…と、世の人々の正気を疑ってしまうのですが…。
 
(そもそも「悪いことを悪いことと認識する能力」すら失われているのか…。それはそれで恐ろし過ぎるのですが…。)
 
ひょっとしたら「こんな悪いことを考えてるのは自分一人だけじゃないはずだ。お前らだって考えたことあるだろう」みたいな感じで「仲間集め」をしたいのかも知れませんが…
 
そんな感じで「悪い仲間」がどんどん増えていったら、やっぱり社会秩序崩壊じゃないですか。
 
イメージで言うと、どこぞの終末世界のように、文明の崩壊した荒野で悪者たちが「ヒャッハー!」する世界になってしまうじゃないですか。
 
そんな世界で、どれだけの人間が生き残っていけると思うのでしょう???
 
今はネットの中で「他人を足蹴にしてでも成り上がってやんぜ」とイキっている人たちだって、本当の崩壊社会に放り込まれたら、もっと悪くて暴力的な輩に一瞬でプチッと潰されて終わりじゃないですか??
 
自分は平穏な世界で幸せに暮らしていきたい人間ですので、わざわざ「悪い思考」「自分がカモにされるための思考」を世に拡散させたいとは思わないのですが…
 
…ひょっとして、そんなこと(自分の吐いた毒が、巡り巡って自分自身を蝕む)にすら気づいていないアレな人々が、今の時代は多いのでしょうか?
 
「これをガチで言っているのだとしたら、今の時代の人間って、どうなってしまっているのだろう?」――そんな不安に押し潰されそうになっているのは、きっと自分だけではないのでしょう。
 
昨今ネットでの「炎上」や「叩き」が過激化しがちなのは、おそらくはそんな「不安」や「恐怖」の裏返しなのではないでしょうか?
 
「この失言をガチで言っているのだとしたら、恐ろし過ぎる。今のうちに潰しておかなければ、我々の未来が脅かされる」――そんな神経過敏な不安感が、「やらかした人」への「叩き」をエスカレートさせてしまうのではないでしょうか?
 
…ただ、忘れてはいけないのは「その人の“真意”がどうなのかは、結局“他人”には分からない」ということです。
 
ほんの「ネタ」でつぶやかれたものを「ガチ」に受け取り過ぎて「炎上」するのは、双方ともに不幸なことです。
 
(…まぁ場合によっては、「それをネタにする時点で不謹慎」というケースもあったりするわけですが…。)
 
さらに言えば、ネットで発言しているのは、あくまで「ネットで発言できるだけの神経の持ち主」「ネットで発言できるだけの時間的余裕のある人」だけです。
 
それが人類の「全て」なわけではありません。
 
むしろ沈黙する多数派(サイレント・マジョリティー)の逆のラウド・マイノリティー…「声がデカいだけの少数派」の可能性が高いのです。
 
(実際、芸能人の冤罪ねつ造事件の「元」を辿ったら、フェイク情報を流していたのはたった3人のユーザーだった…なんて事案もありましたよね。)
 
なので、ネットで「おかしな発言をしている人」がやたら目につくからと言って、そこまで過敏に怯える必要は無い…
 
…と、言いたいところなのですが…
 
問題は、そんな「おかしな発言」に悪い意味で影響されてしまう人間もいる、ということなんですよね…。
 
昨今「陰謀論を信じる人」が増えている、という社会問題がありますが…
 
客観的に見れば「どう考えてもおかしいだろう」ということを、なぜかネットの動画や記事だけで信じ込んでしまう人が、現実に増えているのです。
 
それを考えると、ネットの中に漂う「おかしな発言」を、ただ放置するのもどうか、というのはあります…。
 
…ただ「おかしなことを言う奴は喋るな」というのだと「言論の自由」の侵害や、人間の尊厳の問題にも関わってきてしまいます。
 
「おかしなことを言う人」がなぜ「おかしなことを言う」のかと言うと、そこには大概の場合「認知の歪み」があります。
 
大人になるまでに学んでおくべきだった「ものの考え方」や「ものの見方」を習得できていないので、変な方向に物事を考えてしまうのです。
 
なので、必要なのは「今まで見て来た狭い世界の殻をブチ破るための新しい視点」に気づいてもらうこと。
 
その人たちの知らない「別の視点」「別の考え方」を、様々な形で提示していくことなのではないかと…。
 
…もっとも「おかしなことを言う人」は精神的視野が凝り固まっていて、別の視点など「受け入れる気すら無い」ことも多いかと思われます。
 
なので、まずはその「別の視点」「新しい視点」に興味を持ってもらうことから始めなければいけないのですが…
 
…まず、ここからして難し過ぎて「そんなこと出来る人いるの?」ってレベルですよね…。
 
それでも「頭ごなしに相手を否定する」だけでは「意見を受け入れてもらう」どころではないので、何とかそういう方向でやっていくしかないわけですが…。
生成AIをめぐる問題で最近気になっているのが「生成AIで二次創作画を作ることの何が悪いの?ファンアートと同じじゃないの?」という論調です。
 
最初にこの意見を見かけた時「この違いが分からない人がいるんだ!?」と逆に衝撃を受けたのですが…
 
この2つの何が違うのか…分かっている方には、あまりにも「当たり前のこと」でしょうから、今さら説明することも憚られるのですが…
 
それって、ズバリ「情状酌量の余地」ですよね?
 
そもそも勘違いされている方が多いようですが…
 
二次創作」というのは元々「著作権者の温情により見逃されているグレーゾーン」。
 
べつに「やってもOK!」と許されているホワイトゾーンでも何でもないのです。
 
古参の二次創作クリエイターさんたちはよく「二次創作者はなるべく日蔭者であれ」「権利者とは距離を取れ(間違っても凸するな)」などと言いますが…
 
それは「著作権者の堪忍袋の緒を切ってしまうと大変なことになる」と知っているからなのです。
 
…で、話を戻して生成AI画とファンアートの違いですが…
 
例えば皆さん「幼稚園児がクレヨンで一生懸命描いたプリキュアの絵」を「版権モノだからダメ!」なんて、冷たいことを言えますか?
 
…それ、普通にじゃないですか。
 
ファンアートが黙認されている理由のひとつは「ファンが愛情を持って一生懸命描いてくれたものだから」なのです。
 
幼稚園児でなく大人だったとしても…
 
手間と時間をかけて描き上げられたファンアートは、時に作者でさえ敬意を覚えてしまうものなのではないでしょうか?
 
一方で「こんな絵を描いて」という命令文ひとつで(まぁプロンプトは1文とは限りませんが)ちょろっと出来上がってしまう生成AI画…
 
著作権者の心証が同じだと思いますか?
 
現代の一部のネット民は、何かと「感情論を排除」して「合法か違法か」だけで物事を見ようとしますが…
 
著作権法は「親告罪」――すなわち、著作権者が相手を訴えるか否かが、そもそもの罪の分かれ目なのです。
 
二次創作やSNSでのちょっとした「お遊び」が許されている背景には「これくらいなら、まぁいいだろう」「話題になって盛り上がってくれる分には有難い」という、著作権者の暗黙の「お目こぼし」があります。
 
一方で、作品の権利を侵害しかねないものや、作品の品格を落としかねないものは、普通に訴えられるリスク「大」なのです。
 
生成AI画のマズい所は、版権モノのオリジナル画と「区別がつかないレベル」の画像を生成できてしまうことにあります。
 
オリジナルそっくりのタッチで「原作にはあり得ないシーン」を描き出すこともできますし…
 
何も知らない視聴者が見たら「これって公式の画像(動画)?」という誤解もされかねません。
 
動画サイトのコメント欄など見ていると、生成AI動画に気づいていない人って、結構いるんですよ…。

一瞬とは言え、動画生成AIのロゴが出ているにも関わらず(個人的には、見づらい・分かりづらいロゴの出し方をしているAI事業者もだいぶ「思慮が足りない」とは思っていますが…(出すようになっただけ、まだマシではありますが))…。

   
実際「権利者」は生成AIに対してかなりの危機感を抱いていますし、AI事業者を相手どった訴訟も国内外問わず頻発しています。
 

訴訟だけでなく、10月末には日本漫画家協会とアニメ・出版業界団体による「生成AI時代の創作と権利のあり方に関する共同声明」というものも出されています。)


個人の生成AI利用者で言うと、2025年1月の「エヴァンゲリヲン」の「アスカ」の(性的な)AI生成ポスター販売や、6月のゴジラ海賊版DVD販売(生成AIでモノクロ映画をカラー化したとみられる)など、国内での逮捕者も出始めています。
 
全ての生成AI利用者がそうだとは思いませんが…
 
生成AI利用者の中には、明らかに「やって良いことと悪いことの境界線」が見えていない人がいます。
 
…と言うより、悪いことと分かった上で「匿名だし、捕まったりしないだろう」と高をくくって「やらかしている」気もしますが(実際に逮捕者は出ているのに…ニュースとか見ないんでしょうか?)…。
 


自分もX(旧Twitter)上で見かけたことがありますが…
 
当時放映中のアニメ(お子様も観る全年齢対象)キャラクターの卑猥な生成AI画像を、作品名・キャラ名(さらには生成AI画であること)を堂々と表記してUPしているもの等…
 
何重もの意味でアウトです(そもそもSNSの誰でも見られる場所に卑猥な画像をUPしているだけで相当なアウト行為…)。
 
「ファンが作品愛ゆえに描いたもの」なら許してくれる著作権者でも、「ファンかどうかも分からない人間がインプレッション稼ぎのためにチョロッと生成したもの(しかも卑猥)」に怒りや苛立ちを覚えないわけないじゃないですか。
 
思うに「AI生成画とファンアートの違いが分からない」という意見の中には「生成AIを使って版権モノでボロ稼ぎしたい→そのためには生成AI画を規制したがる風潮が邪魔だ→人の手による二次創作が許されているなら生成AIも許可しろ」という「さもしい本音」があるのではないでしょうか?
 
…ですが実際には、そうした一部の生成AI利用者の「暴走」が、かえって生成AIの「規制」を招くことになるのではないでしょうか?
 
一部の利用者が生成AIで著作権を侵したり、モラルに反したAI生成を行うたびに、「そういうことをしていない利用者」まで含めた「生成AI全体のイメージ」が暴落します(現代人は「分けて考えることをせず、属性で物事を決めつけたがる」人が多いので)。

なので「真っ当にAI利用をしている人」も、この問題を「他人事扱い」すべきではないのです。
 


そもそも二次創作界隈って元々「稼ごう」「儲けよう」という世界ではないんですよね…。
 
儲けは「元が取れれば万々歳」くらいな感じで「とにかく、この作品への愛を表現したい」というのが活動の源のはずなのです。
 
「稼ごう」「儲けよう」が目的になってしまったら、それは「商売」になってしまい「版権モノで許可無くビジネスしている」ことになってしまうのです。
 
「稼ぐ」「儲ける」が「お金」でなく「インプレッション」や「表示回数」「再生回数」でも同じこと。
 
(プラットフォームによっては、それで収益が出るものもあるわけですから。)
 
生成AI画像(動画)に「この作品への愛を自分の手で表現したい」という、一番肝心な「動機」はあるのでしょうか?
 
作品への愛が分かれば、たとえ絵が拙くとも、褒めてくれる同志はいますし、ファンになってくれる人もいます。
 
(実際自分も、一次・二次創作物問わず重視するのは、画力よりもネタの面白さです。)
 
むしろ「拙くても、一生懸命に愛を表現している」ところにアツさを感じて感動するのですが…
 
「生成AI画とファンアートの違いが分からない」という人は、そういう「人が情熱を傾けることの価値」が分からないのでしょうか?
 
どうにも昨今、「合理性」「コスパ」ばかりが重視されて「人の心」を見失ってしまっている人が増えていないでしょうか?
 
…と言うより、どうにも最近「手抜き」や「怠惰」や「雑な仕事」を「合理的」「コスパ」と言い訳している人が多くないですか?
 
どんなに「現代的な言い訳」で繕おうと、その裏にある「手抜き感」に、人は本能で気づくものなのではないでしょうか?
 
根性論や精神論を推すわけではありませんが…
 
「労を惜しんで結果や名声だけ得ようという人」を「全力で自作品への愛を表現してくれるファン」と同等に扱う気になれる人って、いるのでしょうか?
 
…これが分からない人は、人間として大切な何かを、既に見失ってしまっているのかも知れませんね。
 
人間が「人の心」を忘れて「人の労に価値を置かない」「人を大切にしない」社会…
 
それって、人間が幸せになれる社会なのでしょうか?

最近、世の中がやけにギスギスしてきたと思いませんか?
 
他者の言動に過敏に反応する人、やたらと攻撃的な言動をする人が増えたと思いませんか?
 
自分はその原因が、SNSでの「他層ディス」にあるような気がしてなりません。
 
「自分と異なる性別、自分と異なる年代、自分と異なる生き方をする層」を、ディスって、嫌って、攻撃する言動が、昨今増えていませんか?
 
ネットの海を彷徨っていれば、一度や二度どころでなく目にしたはずです。
 
特定の性別、特定の年代、特定の生き方を、醜悪な言葉で否定する投稿を…。
 
時にそれらの“口撃”は「自分の属する層」を直撃することもあります。
 
そんな時、見知らぬ誰かに「自分」を否定されたようで、傷ついたり、反発したり、不快感を覚えたりしませんでしたか?
 
この世界には「自分たち」を攻撃する「敵」がいる…そんな風に心が波立ったりしませんでしたか?
 
この世界のどこかに、自分を敵視する何者かがいる――それを知ってしまったら、自然と皆「警戒」するのではないでしょうか?
 
北風と太陽」の寓話のように、厳しい北風が吹き荒れる場所では、皆ガチガチに外套を押さえて、自分をガードするものです。
 
しかも問題は、自分たちを攻撃するその相手が「何者なのか見えない」ことです。
 
敵の正体が見えないなら、どこにいても、誰に対しても警戒を解くことができません。
 
いつ、どこから飛んでくるか分からない攻撃に備え、四六時中ピリピリ警戒してしまう…
 
誰かのちょっとした言葉を「攻撃」と勘違いし、過剰に反発してしまう…
 
「自分と同じ層」とは安心してつき合えるが、「自分と異なる層」は「敵なのでは?」と疑ってしまう…
 
その状態が、現代の「心の分断」や「寛容でない世界」を生んでしまっているのではないでしょうか?
 
…おそらく、SNS上の「他層へのディスり」も、全てが全て「攻撃」というわけではないと思われます。
 
「他者への配慮」や「無為に傷つけないための婉曲な言葉遣い」を知らない人が、何も考えずに発言してしまった結果が「ディスり」と受け取られてしまう例もあるのではないかと…。
 
思慮深く慎重な人間は、発信の前に言葉を吟味します。
 
それゆえに1回の発信にも時間がかかり、発言数も比較的少なくなります。
 
思慮深くなく、慎重でもない人間は、その真逆。
 
「他者を傷つける心配」など考えもせず、ポンポン言いたいことを発信してしまうなら、発言数が多くなるのも当然です。
 
つまりSNSなどの発言の場は、自然と「そういう意見」の方が数多く出てしまうものなのです。
 
浅慮で無神経な発言ばかりが多く出回るSNSで、心傷つけられるような酷い意見が多く目につくのは、ある意味「必然」。
 
我々はその「ひどい発言」が「人間の全てではない」ことを、ちゃんと心得ておかないといけないのです。
 
(…でないと、普通に心が死にますから。)

AIに対するスタンスが、自分と世間とでは違うのかも知れない…
 
最近たびたび感じることなのですが…
 
特に違和感を感じるのが「世間の人々はAIを闇雲に信じ過ぎなのでは?」ということです。
 
(ネタで「信じたフリ」をしている人も多いでしょうが、中には本気で「AIの回答は絶対」と信じている人もいそうなので…。)
 
情報リテラシーの高い方なら既にご存知のことでしょうが…
 
AIには「ハルシネーション」という現象が存在し、時に「デタラメ」な回答を出して来ます。
 
それは「AI技術とはどういうものなのか?」を理解しているなら「それは当然起きるよね」と納得できるものなのですが…
 
一部の研究によると最大27%という、結構な確率で起こり得るこの現象(←情報ソースはWikipedia(情報ソースが脚注に書かれているもの))
 
しかしながら、世の中にはこの現象の存在を「認知」すらしていない人も多いのではないでしょうか?
 
AIの知能は、無数の情報を「学習」して作られます。
 
なので、情報が「無い」もの、情報量が「少ない」もの、「誤った」情報からは「正解」を導き出せないのです。
 
(実際、自分が見つけた「ハルシネーション」もネット上での言及が少ない事柄でした。)
 
…でも、AIを利用する側は、情報源の有無や量、元情報の「信頼性」など見えませんよね?
 
(AIの種類(ネットの情報を学習するタイプのAIなど)によっては、情報源となるサイトを載せてくれているものもありますが。)
 
つまり、その回答が真っ当な答えなのか、それとも「ハルシネーション」で生み出された誤情報なのか、利用者はすぐには判断できないということです。
 
AIがハルシネーションを起こす理由のひとつには、人間がやりがちな「早とちり」をAIも起こしてしまうから…ということがあるのではないかと、個人的には思っています。
 
(必要な情報が「足りていない」ことにも気づかず、現在有る情報だけから正解を導き出そうとするため、回答が「狂う」のではないかと。いわゆる「無知の知」が出来ていない…ということなのでしょうね…。)
 
学習する情報が増えていけば、いずれは解決する問題ですし、実際「AIはどんどん進化しているのだから大丈夫」という人もいるかと思います。
 
…ですが、AIの学習進捗状況や進化の程度も、利用者には見えませんよね?
 
明日「正答」が得られるAIだったとしても、今日AIを利用する人には「誤答」しか与えられません。
 
そしてAIは、マスコミの謝罪訂正のように「誤答」を謝罪し「正答」を教えてくれることは無いのです。
 
以上のことから、自分はAIの回答は「何割かの確率で誤答が交ざり込むロシアンルーレット」だと認識しています。
 
普通に検索するよりも、むしろファクトチェックなどの後確認が大変なので、できることなら使いたくないのです。
 
世間の人々は「無料で使えるAIがこんなにあって便利」という風潮のようですが…
 
自分の認識はむしろ逆で「本来ならお金を使ってモニタリングすべきAIを、タダ働きでモニターさせられているだけ」だと思っています。
 
…だって、ゲームにしろアプリにしろ、普通はデバッカーやモニターが有償(あるいはちょっとした謝礼)でチェックを行い、それでOKが出て初めて世に出るものじゃないですか?
 
それをこんな、普通に誤答を出す「未熟」な状態で世に出し、ここまで多くの人に利用させている…
 
それって、企業倫理的に「褒められたことではない」と思うのですが(まぁ、今の時代は「利益優先」で「社会のことなんか知ったこっちゃない」という企業も多いのかも知れませんが)…。
 
しかもこれ「タダ働き」どころか、下手すると「命がけ」だったりもするんですよね…。
 
…だってもう実際に外国では、AI利用者の自死が出てしまっているのですから…。
 
ひょっとしたらAI回答って、場合によっては「正誤の」ロシアンルーレットどころか、本当の意味でのロシアンルーレットなのかも知れません…。 

ブログ内検索
管理人プロフィール
【HN(ハンドル・ネーム)】
津籠睦月(つごもりむつき)
【職業】
社会人(毎日PCを使う仕事。残業も休日出勤も普通にあります。)
【趣味】
小説・HP制作、読書、猫と遊ぶこと。
【好きな小説ジャンル】
ファンタジー、冒険、恋愛、青春、推理、濃い人間ドラマの展開するモノ。
【備考】
漢検2級(準1以上は未受験)。国語の最高偏差値80(高2時点)。
ブログ更新&チェックについて。

このブログは管理人に時間の余裕がある時にちょこっとずつ更新していく予定ですので、更新やチェックの頻度はおそらく数週間に1回~下手をすると1ヶ月以上の間が空いてしまう可能性も…。
もし更新が滞ったても「あぁ、仕事が忙し過ぎて時間が無いんだな」と気長にお待ちいただければ幸いです。

カウンター
参加ランキング
相互RSS
P R
忍者ブログ [PR]