良識の無いＡＩ事業者を選ぶと、未来が破壊される

「ＡＩ生成物」と「そうでないもの」を見分けるために、ＡＩ生成物には特定の「印（マーク）」を付けるべき…
　
今さらここで言わずとも、既に有識者によって散々言われてきたことなのですが…
　
なぜそれが必要なのか、少し考えれば分かりますよね？
　
…そうしないと、フェイクをうっかり信じてしまう人が多発して、世の中が大混乱するからです。
　
生成ＡＩの精度が向上すれば、もはやＡＩ生成画像（動画）と「そうでないもの（オリジナル）」を区別するのは不可能とさえ言われていますが…
　
それ、普通に困りますよね？
　
日常で当たり前に目にする画像や動画を、いちいち「これは本物、これは実在しないフェイク」と判断していかなければならないって…
　
普通に「生活が困難になる」レベルじゃないですか。
　
しかもフェイクは「熊が出た」「政治家がこんな発言をした」という、生命の危機に関するものや、政治判断を左右するものにまで及んでいます。
　
（あるいは「この動物は人が平気で触れるほど安全な生き物」という誤解を生んでしまう「間接的に人の命を脅かす」動画など。）
　
昨今「本物と見分けがつかないフィッシングサイト」や「より巧妙な迷惑メール」が急増しているのも、生成ＡＩの精度向上と無関係とは思えません。
　
（ロマンス詐欺や「なりすまし」にもＡＩのディープフェイクが使われたりしていますし…。）
　
ＡＩで造られたものが「本物と区別できない状態」は、社会の混乱や犯罪を招くのです。
　
さらに言えば、大人でも混乱するこの状況…
　
まだ現実とフィクションの区別もつかない幼い子どもには、なおさら「悪影響」を及ぼすリスクがあります。
　
（実際、スペインの大学では動物動画のフェイクが子どもに及ぼす影響の研究が行われています。）
　
…これ、一定以上の知能がある方なら、誰でも気づくことかと思うのですが（さらに言えば、既に世の中がこの状態で、気づかない人がいるとも思えないのですが）…
　
何故ＡＩ事業者は、未だにＡＩ生成物に「そうと分かる印」を入れないのでしょう？
　
「たとえ入れたところで、その印を加工で消されてしまえばそれまでだ」という考えもあるかと思いますが…
　
その「加工して消さなければ使えない」という「一手間」が加わるだけでも、悪戯や犯罪の何％かは低減させられるはずなのです。
　
（犯罪予防のポイントの１つは、相手に「面倒くさい」と思わせることですので。「生成ＡＩに頼めば、その印も一瞬で消されてしまう」という懸念もありますが、ＡＩ事業者なら「どんなプロンプトを与えられても消せない印」をＡＩに仕込むことも可能なのでは？）
　
実を言うと、最近出た某Ｏ社の生成動画アプリ「Ｓｏｒａ」では、生成した動画にロゴが埋め込まれるようになりました。
　
最初にネットニュースの記事でこれを読んだ時は個人的に「やっとか…」と思い、多少はＡＩ事業者を「見直す」気になったのですが…………
　

正直、ＡＩ事業者は安全問題やプライバシー問題や著作権問題等々、何かと後手に回っていて「何かあって余所から文句を言われないと動かない」イメージがあります。 なので、個人的には信頼性など微塵も感じたことはありません。 そこら辺の意識が「ちゃんとした」安心安全な国内企業が出て来て覇権を取ってくれないものかと、常日頃から思っているくらいです。 …そもそも海外産のＡＩに依存すること自体、いろいろリスクがありますし…。

このロゴの出方、思ったのと違っていました。
　
てっきり画面のどこかに「ずっと」ロゴが出ているものだとばかり思っていたのですが…
　
このロゴ、一定時間で消えてしまう上、半透明なので動画によっては目立ちません。
　
最初から出ているわけでもありませんし、サムネイルにもロゴが載っていないことがあります。
　
…そもそも出ているロゴが「Ｓｏｒａ」というアプリの名前だけなんですよ…。
　
自分も実際にリリースされるまでは「アプリの名が入っていれば大丈夫だろう」と思っていたのですが、認識が低過ぎました…。
　
ＹｏｕＴｕｂｅなどのコメントを読んで初めて気づいたことなのですが…
　
「アプリの名」で「ＡＩか否か」を区別できるのは「そのアプリを認知している人だけ」なのです。
　
ＡＩにそれなりの興味を持って情報収集している人間なら「Ｓｏｒａ？ああ、あのＡＩ動画が作れるやつか」となるでしょうが…
　
そうでもない一般の人々にとって、その名はまだそれほど認知度の高いものではないのです。
　
なので、ロゴを入れるとしたら「ＡＩ Ｍｏｖｉｅ ○○」「ＡＩ Ｐｉｃｔｕｒｅ ○○」のように、アプリ名とともに「ＡＩであることが分かる文言」を入れるべきだったのでしょう。
　
（ついでに言うと、どうせ一定時間でロゴが変化するなら、ロゴの表示場所が何秒かごとに変わる（そしてずっとどこかしらに出続けている）とかだと、加工で印を消すのが面倒くさくなって良いのでは？）
　
…ただ、まぁ……入れるようになっただけでもだいぶ「マシ」ではあるので、そこは大いに評価したい所ですが…
　
他の「何もしていない」ＡＩ事業者は、フェイクが世の中を害するこの状況を、どう思っているのでしょう？
　
「印を入れる」の他にも「ＡＩならではの特徴づけをする」など、対策の立てようはいくらでもあるはずです。
　
なのに、利益を得るだけ得ておいて、社会に生まれる損失は見て見ぬフリをする…それって、許されることなのでしょうか？
　
「悪用する側が悪い」という理屈はあるとしても、事業者がその悪用に何の「予防策」も打たない理由にはならないじゃないですか。
　
この問題を思うたびに「あれ？ＰＬ法ってアメリカ発祥じゃなかったんだっけ？アメリカって『それを作った者にはそれなりの責任がある』っていう考えの国じゃなかったんだっけ？」と不思議に思うのですが…
　
（現在ＡＩ事業者の有名どころは、大体アメリカの企業なんですよね…。）
　　
…まぁ、アメリカも最近いろいろ変わってきていますからね…。
　
利益は巻き上げられるだけ巻き上げておいて、まき散らされる混乱は「知らんぷり」っていうのが、最近のスタンスなんですかね…？？
　
さらに不思議なのは、この事態に対して一般企業および一般の人々がほとんど声を上げていないことなのですが…
　
（ＡＩ生成の詐欺メールや偽サイト、フェイク情報によるデマで迷惑している企業さんも相当数いらっしゃるでしょうに…。）
　
皆さん、この事態を放置しているＡＩ事業者に対して、何も思うところは無いのでしょうか？
　
自分は正直、不信感を持っていますし「社会的責任に対する意識が低いのでは？」と思っています。
　
…あるいは低いのは、「自社サービスが世の中に与える影響」に対する「想像力」の方なのかも知れませんが…
　
どちらにせよ、こんな姿勢の事業者にＡＩ業界の覇権を取ってもらいたくはありません。
　
ユーザーには利用するＡＩを選択する自由があります。
　
あるいは「選択する余地も無い」ほど無責任なＡＩ事業者しかいなかったとしても…
　
そこに対して声を上げ、改善を求める（改善されない限りは利用しない）自由があります。
　
そしてそれは、未来に対する「選択」でもあるのです。
　
フェイク含むＡＩの「悪用」に対し何の対策も取らない事業者と、ちゃんと取り組む事業者…
　
「どちらを選ぶかで、人類の未来は変わってくる」と言っても過言ではないのです。
　
皆さん、無料だとか利便性だとか、そんな部分ばかりでＡＩを選んでいるかも知れませんが…
　
ぶっちゃけ、そんなものより「もっと重要なもの」があるのです。
　
目先の安さや便利さと引き換えに、平穏に暮らせるはずだった未来を永遠に喪う（ＡＩ犯罪だらけの未来を生んでしまう）とか…割に合わないにもほどがあるじゃないですか。