Ｘの画像ＡＩ編集機能はＸユーザーだけの問題ではない（Ｘユーザーに無断投稿されれば終わり）

つい先ごろ、Ｘ（旧Ｔｗｉｔｔｅｒ）で「Ｘ上の画像を自他問わずＡＩ編集できる機能」が実装され、物議を醸していますが…
　
これ、実はＸユーザーだけの問題ではないんですよね。
　
それどころか、全世界・全人類がＡＩフェイクの被害者となり得る、あまりにも無責任な機能実装なのですが…
　
これ、気づかずにやっているとしたら経営者としての想像力が無さ過ぎますし、分かった上でやっているとしたら企業としてのタチが悪過ぎるのですが…
　
皆さん、ひょっとして、まだこのことには気づいていないのでしょうか？
　

本人がＸユーザーでなくとも、Ｘユーザーに画像ＵＰされてしまえば「終わり」

　
こういった「悪用されかねない機能」が実装された場合、よく言われるのが「嫌ならそのＳＮＳを出て行けばいいじゃないか」ですが…
　
今回の機能実装の場合、Ｘを退会したからと言ってリスクがなくなるわけではありません。
　
なぜなら、本人がＸユーザーでなかったとしても、Ｘの現役ユーザーに無断・無許可で画像投稿されてしまえば「終わり」だからです。
　
たとえば時々「有名人がネットに勝手にプライベート写真を載せられた」という炎上事案、ありますよね？
　
勝手に盗撮された上、それをＸ上でＡＩフェイク加工されてしまうとしたら…あまりにもあんまり過ぎやしませんか？
　
（そもそも有名人なら、ニュースメディアの記事で顔写真が載っている可能性も高いですし…。）
　
もちろん被害者は有名人に限りません。
　
ママ友に勝手に子どもの写真を投稿された…という事例も聞いた（読んだ）ことがありますし…
　
たまたまそこに写り込んでしまっただけの一般人だって、被害者になり得るのです。
　
それに、展示会などで撮った他者のアート作品、本の表紙や、お気に入りの小物etc…
　
Ｘ上に投稿されたあらゆるモノが、ＡＩフェイクのリスクに晒されます。
　
それも、当事者のあずかり知らぬところで、いつの間にかフェイク画像を作られかねないのです。　

その他にも…Ｘにはよく、アニメの感想がその場面のスクショ画像と共に投稿されていたりします。
　
そもそもそのスクショ画像投稿自体が無断・無許可で著作権的にアウトな可能性大なのですが…
　
これまでは「ＳＮＳで盛り上がってくれる分には構わない」ということで、著作権者に「黙認」されてきたところがあるのではないでしょうか？
　
実写作品やアニメのスクショを使った「大喜利」や、画像つき「ネットミーム」などもそんな感じで「本来ならアウトだけど目をつぶってもらえていた」部分があるのではないでしょうか？
　
…ですが、そんな版権画像がＡＩで改変可能だとなったら、どうでしょう？
　
「もうスクショ画像はＵＰするな」あるいは「Ｘに投稿するのだけはやめてくれ」という感じで、規制が厳しくなってしまう可能性もあると思いませんか？　　

法令違反の責任はユーザーに丸投げな企業姿勢

　
言うまでもない話なのですが、生成ＡＩを間に挟もうと何だろうと、著作権侵害は著作権侵害で、肖像権侵害は肖像権侵害です。
　
…が、昨今はその種の法令違反の責任を、ユーザー側だけに負わせようとするＡＩ事業者も多いのです。
　
法律についての知識も無ければ、プラットフォームの利用規定やガイドラインもロクに読み込まない…そんな利用者は、数多いと思われます。
　
（利用規定やガイドラインって、大概細かい文字がビッッッシリで、読むのが嫌になるものばかりですからね…。いつの間にか改訂されていて、その変更内容を追えていないパターンもありますし…。）
　
そういう利用者がプラットフォームに新たな機能を見つけたら「これ、使っても良いんだ」「これで何でもやって良いんだ」という誤解をしかねません。
　
…ですが、例えばそれで著作権侵害が起きたとしても、それは「利用者の責任」「我々は一切責任を負いません」というのが、企業側の姿勢です。
　
（Ｘは来年１月に利用規定を改定しますが、そこにそういう姿勢が明示される（ユーザーが責任を負うことがより明確に反映される）予定のようです。）
　
Ｘについてもそうですが、動画生成ＡＩ「Sora」を有するオープンＡＩ社も著作権侵害に対してはそんな姿勢なんですよね…。
　
オープンＡＩはそもそも、ユーザーの法令違反どころか、著作権保護さえ著作権者に丸投げしようとして批判を浴びた過去があります。
　
Sora２がリリースされた際、著作権がオプトアウト方式という「著作権者が拒否の申し立てをしない限り、著作物をＡＩで自由に使われてしまう」というシステムが問題となりました。
　
恐ろしいことにコレ、Sora2の利用者だけの話ではないのです。
　
全世界の著作物が、拒否申請しない限り「勝手にＡＩ生成動画に使われてしまう」という話だったのです。
　
（中にはＳｏｒａ２の存在自体「気づいていない」著作権者もいるでしょうに…。）
　
実際、Sora２ではポケ○ンやドラゴンボー○などの日本のコンテンツも勝手に生成され、各所から批判が出ました。
　
（そんなこともあり、現在はオプトイン方式に変更されたとか…。）
　
海外のＡＩ事業者はそんな感じで「これで批判が出ないとでも思ってたのか？」くらいなシステムや機能を平気で出して来ることが多々あります。
　
日本に住んでいる我々は「企業が出してくれているからには使って良いものなのだろう」「サービスとして世に出ているものなのだから合法で安全なのだろう」と勝手に思い込んでしまっている所があるのではないでしょうか？
　
ですが海外の企業は日本の企業とは考え方がまるで違います。
　
「使って良いのだろう」と勝手に思い込んで安易に使うと痛い目を見ます。
　
（オンラインカジノなども、そんな感じで「使って良いと思っていた」「違法だとは知らなかった」で逮捕されてしまった例も多いと聞きますし…。）
　
なので、ちゃんと知識を学んで自分で自分を守らなければなりません。
　
つまりは、法令違反しないための著作権法の学習なども、ユーザーの側が負わなければならないということなのです。
　
（これが「タダより高いものはない」なんでしょうね…。だから、そこら辺の意識がしっかりしていて「三方よし」な精神を守ってくれる日本企業がＡＩで覇権を獲ってくれないかと思ってしまうのです…。まぁ最近は国内企業だからと言って安心しきれない部分もありますが…。）
　

性善説前提のシステムなんて、もう無理なのでは？

　
上の項目を読んでもお分かりかと思いますが…
　
事業者は「我々は機能をリリースしただけ。悪用されても、悪用する人間が悪いだけ」というスタンスです。
　
まるで悪用する人間など「ほとんどいない」とでも言いたげな姿勢ですが…
　
過去の事例を見れば、ＳＮＳの悪用事例なんて、ＡＩが浸透する前から既に山ほどあるんですよね…。
　
大災害が起きた際に災害に関するフェイクニュースが流れたり、被災者を装って助けを求める投稿があったり…
　
Ｘ上でもかなりありましたし、問題にもなりましたので、運営が把握していないとは思えないのですが…
　
それでも事業者は「悪用されたらとんでもないことになる機能」を平気で世に出すのでしょうか？
　
今の世の中を見ていると「性善説」…すなわち「人は元々善だから、悪いことなんてしない」を前提としたシステムなんて、もう無理があるように見えます。
　
…というよりそもそもコレは、性善説を隠れ蓑にした企業側の責任放棄なのではないでしょうか？
　
自分は一応、大学で法律を学んできた人間ですので「権利と義務は表裏一体」という考えを持っています。
　
企業として利益を得ておきながら、そのサービスによって生み出される実害は「我関せず」というのは、許されるものなのでしょうか？
　
サービスを提供するなら、そのサービスが「世にもたらすもの」について、ある程度の責任や義務を負うのは「当たり前」なのではないでしょうか？
　
…むしろ世の人々は、もっとそこの部分（責任を丸投げされている件）を怒って良いと思うのですが…。
　
ちなみに、この手の議論でよく言われるのが「包丁だって良いことにも悪いことにも使える」ですが…
　
日本では６ｃｍを超える長さの刃物って、銃刀法違反でそうそう持ち歩けないんですよね。
　
猟銃なども免許や保管方法が厳しく法令で決められています。
　
そういう「危ないモノが危ない目的に使われないように」というルールって、ちゃんと考えられて整備されているのです（それでも防げない事件はありますが…）。
　
…ですが、ＡＩはまだ技術的に新し過ぎて法律も規制も間に合っていません。
　
今のＡＩ事業者たちのやり口って、そういう「ルールが間に合っていない」ことを逆手に取った「暴走」なんですよね…。
　
こんな事業者ばかりが覇権を争い合っているＡＩ業界って、本当に何だか嫌になるんですが…。
　

ＡＩ改変機能がある限り「Ｘ上の画像はとりあえず全て疑ってかかる」が原則になる

　
上でも書いたＳｏｒａ２では、あまりにもリアルなフェイク動画が作れてしまうことも問題となっています。
　
一応ロゴは出るのですが、ずっと出続けるわけでも、そこまで目立つわけでもなく、加工で消されてしまっている例すらあります。
　
そもそもＳｏｒａ自体を知らない人にとっては、そのロゴだけでＡＩだと気づくこともできないため、いろいろと問題なのです。
　
そんなこともあって、近頃はＡＩでのフェイク動画／画像に嫌悪感や拒否感を持つ人も増えている印象があります。
　
…それはそうですよね。
　
本物だと思って信じていたら「実は存在しなかった」って…普通に「騙された」と、ネガティブ感情を抱く案件じゃないですか。
　
個人的なことを言わせてもらえば、自分は「リアルに存在する猫」を愛でたいのであって、どんなに可愛く利口な猫でも「存在しない猫」を愛でさせられたくはないのです。
　
存在しない猫を一瞬でも「わ～、可愛いネコチャン♪」などと思ってしまった日には、その感情の行き場がなくなり、どうにもならないモヤモヤばかりが残ってしまうのです。
　
（最初から存在しないと分かりきっている「あきらかＣＧな猫」や「アニメやイラストな猫」は当然、話が別です。）
　
…で、話を戻してＸの件ですが…
　
Ｘの件の新機能は、そんなＡＩ画像を、お手軽に作れてＵＰできてしまう機能です。
　
（しかも、自分の画像だけでなく、他人の画像も使えてしまう点がタチが悪すぎるのです。）
　
つまりは今後、Ｘ上には相当数のＡＩフェイク画像が溢れてしまう可能性がある、ということです。
　
ＡＩフェイクは悪用だろうと悪用ではなかろうと、見る人を混乱させる可能性が高いシロモノです。
　
うっかりそれを「本物」だと信じてしまうと、痛い目に遭いかねないのです。
　
（ＡＩで「盛りに盛った」人物画像や商品画像を「リアル」と勘違いした後、本物を見てガッカリ…というパターンは出てくるでしょうし…。上でも書いたように「勝手にＵＰされた有名人の画像」も加工できてしまうとなると、既に問題となっているような「有名人を使った詐欺広告」も簡単に作れてしまうわけです。）
　
今後、Ｘ上に上がっている画像はとりあえず、一旦全て疑ってかからなければならないのかも知れません。
　
…これも事業者がユーザーに押しつけている「責任」なのかも知れませんね。
　
正直、こんな企業姿勢という時点で、見限る理由が山ほどあるのですが…
　
そろそろ本気でＸ離れを考えてみる時期なのでしょうか…？