画像生成AIを創作のためのツールとして使える時代は終わった

はじめに

画像生成AIモデル「Stable Diffusion」がオープンソースとして発表されてから半年ほど経った頃、僕はこんな記事を書いた。

この記事で僕は、以下のような論を書いた。

画像生成AIの違法・不適切な使用は当然禁止されるべきだし、AI肯定派であっても決して容認してはいけない
画像生成AIが発達しても、人間の絵描きは滅ばないだろう
AIを創作の手段として使う時代が来るかもしれないが、現時点では調査・研究のみにとどめて使用は待つべきだろう
AIでも絵が描ける時代になってくると、絵が「上手ければいい」「美しければいい」という時代ではなくなり、人間の美の審査眼が重要になっていく

では、今どのように思っているか？

前半の2つは今でもそう思っているが、後半の2つに関しては「よくもまぁこんな頭お花畑なことが書けたものだ」と思う。少なくとも、そう思わざるを得ないくらいこの2年で状況は悪化してしまった。

僕は今「画像生成AIの時代は終わった」、より正確に言えば「画像生成AIを創作のためのツールとして使える時代は終わった」という結論に至っている。

本当はもっと早くそういうことを書くべきだったが、いろいろあって書くことができなかったし（こういう論考のような文章を書くのはものすごく時間がかかる）、「下手に意見を出して炎上したらどうしよう」という気持ちもあった。絵や漫画を描くのに忙しかったし、精神的に落ち込んで創作自体休止していた時期もあった。また、書いても誰も読まないだろうという考えもあった。実際、前の記事はGoogle Search Consoleを見るとGoogle検索に表示されるページとしてインデックスされていないようだから、おそらく別の記事でこのサイトを訪れた人以外誰も読んでないだろう。

ただ、僕がpixivでフォローしているdolphiliaさんという方がこういう記事を先日発表したので、いよいよ僕としても自分の考えをまとめなければいけなくなったのである。

dolphiliaさんという方は他の絵描きとは違い、プログラミングなどのITの知見のある方である。その方がこういう結論を下すということは、もう画像生成AIというのは絵描きにとってどうしようもない存在になってしまったということだろう。実際問題、僕も「画像生成AIのことは話してくれるな」という気持ちにこの2年でなってしまった。

もちろん、僕は『ターミネーター』シリーズみたく「AIを全部ぶっ壊せ！」と言っているわけではない。実際、プログラミング補助用にGitHub Copilotなどの生成AIは大いに活用している。画像生成AI自体、「創作のため」以外であれば活用できるだろうと思っている。ただ、少なくとも「SNSに投稿する絵を作るためにAIを使う」ことはできなくなってしまったということだ。どうしてそういう結論に至ったかをこれから記述する。

なお、この記事に書いてある内容についてはニュース記事などで挙げている内容を除いて僕の個人的見解であり、必ずしも事実である・法的に正しいわけではないということを先にお断りしておく。

現状に至るまで

画像生成AIの悪用が多発

前回の記事を書いてからのことはあえて言うまでもないのだが、以下のような悪用事例が多発した。

他人の絵を勝手に使用したi2iによる盗作
他人の絵を勝手に学習に使用し、作成した生成モデルの作成・配布
FANBOX等の支援系サイトにAIを使って粗製乱造したイラストを投稿して支援金を荒稼ぎ

特に、1.のi2iによる盗作は僕の知っている人でも被害にあった人が2人もいた。

こうした中で、画像生成AIに対するヘイトは日に日に強まっていった。実際、僕の中でも悪感情のほうが強くなっていった。

FANBOXでAIイラストの投稿が禁止に

そんな中、2023年5月10日にAIを使った荒稼ぎが横行していたpixiv FANBOXで、とうとうAIを使ったコンテンツの投稿が禁止された。

さらに、同年7月11日には利用規約が改定され、AI生成作品の定義や禁止される範囲について規定された。

この対応に対し、反AI派からは称賛の声が、AI肯定派からは「表現の可能性を狭める暴挙だ」という声が挙がった。僕が先の記事で挙げた方の中にも、後者のような声を上げる方がいたので、僕はその人のフォローを切った。今では彼のことを「見識のある方」などと書いてしまったことを後悔している。

「AI絵の投稿を禁止していない」「クローリング対策をしていない」という理由でpixivからの退会者が続出

しかしながら、pixivの方ではAI生成コンテンツは（投稿の際に指定が必要になるが）投稿できるし、また「pixivがAIの学習のためのクローリング対策をしていない」という反感の声が上がり、著名なイラストレーター複数名を含む一定数の人間がpixivを退会ないし作品の公開停止を行った。

ただ、後者に関してはどこまで事実かわからない。少なくとも2023年5月9日の時点で、pixivは以下の記事で挙げるようなクローリング対策を行っていたからである。

また、Xfolioのような後発の創作投稿SNSでは明確に「AIコンテンツの禁止」を掲げ、pixivを出ていった人たちの受け皿になった。

僕もXfolioについてはアカウントを作ったが、pixivと同時投稿するのがめんどくさい・そもそも見る人がいるのかわからない・今まで作ったコンテンツをどこまで投稿すべきか考えあぐねていて、ほとんど投稿できていない。現時点で死に体の状態である。

ついに文化庁が「こんな使い方をしたら普通に著作権法違反」という声明を発表

国への批判の声も高まっていた。というのも、2018年（平成30年）に改正された著作権法でAIの学習のための著作物の使用を一定の範囲で認めたのが原因だという声があったからだ。

もちろん、当該法律でもすべて合法だったわけではない。以下の記事に書いてあるように学習及び画像生成に関して違法になりうる可能性が指摘されていたからである。

そんな中、文化庁が2023年5月、「こんな使い方をしたら違法だ」という発表を行った。

　AIの開発および学習段階において、著作物に表現された思想または感情の享受を目的としない利用行為は「原則として著作権の許諾なく利用することが可能」だという。ただし、「必要と認められる限度」を超える場合や、「著作権者の利益を不当に害することとなる場合」は規定の対象とならない、としている。
　一方生成と利用段階において、AI生成画像をアップロードして公表したり、複製物を販売したりする場合の著作権侵害の判断は、私的な鑑賞/行為などを著作権法で利用が認められている場合を除き、通常の著作権侵害と同様に扱う。
　そのため、生成された画像などが既存の画像(著作物)との類似性や依拠性が認められれば、著作権者は著作侵害として損害賠償請求/差止請求が可能なほか、刑事罰の対象ともなるとしている。

また、文化庁ではこちらのページ及びこちらのPDF資料のように画像生成AIに関する著作権の問題について啓発を行っている。

どうしてこうなった？

以上のように、この2年で画像生成AI肯定派と否定派の断絶は埋めようがないほどに広がってしまった。どうしてこうなったのか。

人間の愚かさ、欲深さ

この2年で感じたのは、「人類はここまで愚かだったのか」という失望だ。

当初からAIによる粗製乱造による荒稼ぎの可能性は指摘されていたが、まさかFANBOXでAI作品が禁止になるほど粗製乱造が横行するとは思わなかった。

また、作品を鑑賞する消費者の側にも問題があった。XなどではAIが作った作品に対し「いいね」がたくさん押された。おそらくこれを押した人たちは「この絵はどんな生成モデルを使って描かれたのか」「そのモデルに法的・倫理的問題はないのか？」といったことは一切考えてなかったのだろう。その意味では、先の記事で書いた「絵が「上手ければいい」「美しければいい」という時代ではなくなった」というのは全くの絵空事だったと言えるだろう。みんな「きれいな絵だから」といっていいね押してるんだから。

一番腹立たしいのはStable Diffusionを開発してオープンソースで公開したStability AIという会社だ。彼らは「GAFAなどのビッグテックにAIを独占されてはいけない」と言ってソースコードを公開した。それが最大の失敗だった。案の定AIを悪用する人間によって彼らのAIは悪用された。モデル生成のやり方も公開したから問題のある生成モデルがたくさん作られたし、フェイク画像やR-18画像の生成を防ぐためのNSFWフィルターは簡単に解除され、そういう画像がいくらでも作り放題になった。ビッグテックならば大企業であるから倫理的問題による自社への損害を考え、ソースコードを公開しようとしなかっただろう。このことから、僕は「ビッグテックが人々のデータを独占しようとしている」などという論調のベンチャーには嫌悪をおぼえるようになった。「画像生成AIの未来を誰が殺したか」と言われれば、間違いなく彼らだ。こんなもの、「AIの民主化」ではない。「AIの衆愚化」だ。

既存の絵描きに対する反感が画像生成AIへの需要を生んだ？

その一方で、「既存の絵描きがヘイトを溜めていたから、その反感からこういうツールが出てきたときにみんな使うようになったのではないか？」という考えもある。

絵心のある人は大変貴重な存在である。だから、そういう人に絵を描いてほしいという要望はたくさんある。しかし、絵を描くことは大変労力を要することだ。それをやるのなら、絵かきとしては対価がほしい。そういう要望から、Skebのようなイラスト制作依頼サービスができた。それはいい。

問題は、Skebのような依頼サービスでは大体クリエイターにとって有利なように規約が作られていることである。「依頼を受けるか断るかはクリエイターが決める」「リテイクや打ち合わせは禁止、依頼内容をどう解釈し作品を作るかはクリエイターによる」など。実際、Skebの開発者は「クリエイターに甘い規約にした」という。

だが、人間というものは自分を律することが難しい。クリエイターにはなおさらそういう人が多い印象がある。そんな事もあって、Skebにはこんな評判もあった。

絵の依頼をしたが、承認か却下かの決断が遅い
承認されたが、まだ締め切りギリギリになっても納品されない。そのくせして、その絵描きのSNSを見ると依頼品ではない落書きを描いて上げたりしている。金をもらって描く依頼品よりそっちのほうが大事なのか？

依頼サービスで必要な金額は馬鹿にならない。Skebだと推奨金額の最低は3000円だが、人気のクリエイターになるとそれがどんどん釣り上がり、「何万円が推奨金額」とかなったりする。それ以下の金額で依頼もできるが、大抵の人が蹴られる危険性を恐れて推奨金額以上で依頼をする。依頼者はそれなりの資金の用意をして依頼をしているが、決して安い金額ではない。それなのに、こんな不誠実な対応をされたら腹も立つ。

（もちろん、Skebのクリエイターの大半がそんなことをしているというわけではないと思いたい）

また、僕は過去にいくつかの画像生成AIコミュニティ（Discordサーバー）に属していた（今はすべて退会している）が、利用者の中には既存の絵描きを「人間のくせして同じような絵（いわゆるスタンプ絵）しか描けない奴ら」と馬鹿にするような人間も居た。

（もちろん、そんな人は少数派だったが）

実際、絵の上手さの基準はある程度収束しているように思える。pixivの人気ランキングを見ると上位は似たような絵ばっかりだ。画像生成AIで言うといわゆる「マスピ顔」というやつである。NovelAIの画像生成モデルでそういう顔ばかり生成されるのは、決して過学習をしたからだけではないだろう。

人間のくせして同じような無個性な絵しか描けない、そのくせして依頼料は高い、しかもクライアントを舐め腐ったような態度を取られる。そういうヘイトを溜めたことが、画像生成AIが出たときに人々が飛びつく原因になったのでないか？

また、pixivのAI絵描きを見ると、以前は自分で絵を描いていたが、あまり絵心がない・評価されてなかった人も居た。絵を描けないので3Dカスタム少女などを使って創作をしていて、それをAIイラストやi2iによるスクショの加工に変えた人も居た。そういう人からすれば、自分で上手い絵が描ける人気絵師はヘイトの対象だっただろう。だから、そういう人への復讐として、AIイラストで人気や金を取ってやろうという気にもなったのではないか？

（もちろん、そんな人が大半だとは思わないし、思いたくない）

実際、僕も絵が下手くそで人気のない方だ。だから、AIが出てきて、嫌いな人気絵師が怒っているのを見て、心の奥底で「ざまあみろ」という気持ちが少しだけあったことを告白する。申し訳ない。

なんでこんなにこじれ続けているのか

画像生成AIがメジャーになってから2年余り経つが、未だにこの問題は燻り続けている、いや絶賛大炎上中である。なんでこんなにこじれているのか。

IT関係者のクリエイターに対する無理解

原因の一つとして僕が考えるのは、AIエンジニアをはじめとするIT関係者が現状、特にクリエイターの怒りを理解していないことだ。

僕はシステムエンジニアという職業を生業としているし、ITガジェットが好きだ（月の給料の大半がそれの購入のために消えている）から、IT関係のメディアをよく読む。当然、そこには画像生成AI関連の記事も載っているのだが、倫理的問題についてはなんとまぁ、どいつもこいつものほほんとしている。より悪い言葉で言えば「頭の中お花畑」である。

　写真分野出身である筆者にとっては、このような問題は（一定数の悪用・濫用をする方のモラルは問いつつも）たくさんの善い使われ方や、素晴らしい作品、産業を通した技術の一般化で長い時間をかけて「解けていく」と信じています。画像生成の分野でも、建設的に歩み寄りをしている人々か、他人の考えに興味がない人々がほとんどですが、定期的にプロの炎上屋が火を付けていることもあります。
　そのような影響もあってか、大学等で講義をすると学生さんの中にはネットの喧騒を真に受けて「生成AIは悪」と思い込んでいる方も一定数いらっしゃいます。生成AIの素晴らしさを語る方々は、一生懸命に手を動かして絵を描く人々は尊い。そのような「努力を楽しみたい」という気持ちを持つ人々に寄り添う姿勢やフェーズが大事な時期かなと感じています。

最近は画像生成AIだけでなくコード生成AIも普及し、こちらの方でも学習に利用したコードの著作権やライセンス違反が問題となっています。
これらの問題の根本は、インターネットから無料で集めた素材を使って教育したAIで有料サービスを提供する「フリーライダー（ただ乗り⁠）⁠」的なビジネスモデルと考えています。
しかしながら、感情論はさておき、現行の著作権法やそれに基づくさまざまなライセンスは、著作物としての「作品」を守るように設計されているので、AIによる機械学習のような「使い方」を縛るのは難しいでしょう。
このような法規制が追いついていない分野はさまざまな問題を抱えてはいるものの、新たなフロンティアとして大きな経済圏になる可能性も秘めています。動画投稿サイトが違法アップロード問題に苦しみながらも影響力を高め、「⁠ユーチューバー」という新しい職業を生み出したように、生成AIとクリエイターが共栄できるような経済システムの誕生を夢見ています。

まあ大抵の記事はこんなもんである。「そのうち良くなるでしょ」って感じだ。全然物事をシリアスに考えていない。正直、人殺しやらAI関連企業へのテロすら起こりかねない雰囲気なのにそれを感じていないのか？

必要なのは技術者側からの歩み寄りじゃないのか？　「こんな使い方は違法になる・炎上するからやめよう、見つけたら通報しよう」とか「悪用ができないように画像生成AIを改良しよう」とか啓発しようという動きを見せている技術者は少ないように見受けられる。

僕は乗り物やらミリタリーが好きだからこういう喩えをするが、最新鋭の戦闘機や爆撃機を見て「かっこいい」とか「すごい」と思う人は多いだろう。だがより成熟したミリオタは、それらが発射するミサイルや爆弾で人が死ぬ、という事実も考える。だから、「戦闘機はかっこいいけど、実戦で使われないまま退役することを望む」というミリオタも多い。だが、画像生成AIに関しては、技術者はみんな「すごい！　かっこいい！」の段階で止まっているようにしか思えない。

そもそも、ITエンジニアの中には倫理観が欠落しているような人間も多いように見受けられる。Qiitaなんか見てみろ、地獄だ。お役所やら警察やらITに対して疎い人たちを馬鹿にした記事、同じエンジニアに対しても「まだ◯◯で消耗してるの？」みたいな煽りタイトルをつけた記事（最近ではそういうタイトルの記事でも本文の最初に「煽りタイトルごめんなさい」とか書いてあることも多いが、だったら最初からそんなタイトルで書くなや）、個人の勝手な意見ばっか書いてる「ポエム」タグの記事、コメント欄で延々と続く煽り合い。はてなブログ？　Qiitaより地獄だ。「同じエンジニアとしてもこんなやつといっしょにされたくない」みたいなやつがごまんといる。

前述した画像生成AIコミュニティの中にもそんなやつらは居た。FANBOXのAI禁止で揺れていた時期に「AI版のFANBOX作ったらみんな来る？」とか「ポリコレなんか知るか」みたいな、反対派が見たら激怒して人殺しに発展しかねないようなことを言うやつらがいた。また、「AIのimg2imgを使って配信の画面から盗作を行う事件が発生」という話題で「この技術すごい！　楽しみ＾＾」なんて能天気な事を言う輩もいた。

頭のネジ全部外れてるのか？　みたいな感じである。おそらく、原爆を作ったオッペンハイマーのほうがもっと倫理観があっただろう。こういう輩を改心させるか排除しない限り対立は終わらないのではないか。

「お気持ち表明」はしても訴訟は起こさないクリエイター

もう一つの問題は、クリエイター側の問題である。

AIを十把一絡げにして「悪」と断じている人たちに関しては散々語られ尽くしたろう。あえて語る必要もないし、疲れるのでここでは言及しない。それよりも問題は、XのようなSNSでいわゆる「お気持ち表明」はしても、実際に訴訟を起こすクリエイターが全然居ないということだ。

なぜ訴訟を起こさないのか？　ただのインターネットお絵かきマンならともかく、プロのイラストレーターなら自分の絵が悪用されることは脅威以外の何物でもない。生活がかかっているからだ。また、そういう人の中には訴訟に使う資金を有していたり、顧問弁護士がいる人も多いだろう。それなのに、訴訟を起こしたというニュースは全然聞かない。

（僕が疎いだけなのかもしれないが）

裁判を起こすことがなぜ重要なのか。それは、判例ができるからだ。判例ができることでそれ以降の裁判では、判事は判例を参考にその時の判決を下す。そうすることで「ここまではセーフ、ここからはアウト」というラインができる。もちろん、そのラインのギリギリを狙って事件を起こすあくどい輩は出るだろうが、善悪のラインの認識が共有されることで抑止力が発生し事件は減るだろう。それでも被害が起こり、現行の法律では不十分だとなれば、立法府（国会）の出番だ。

それなのに、絵師たちのやっていることといったら、「場末の酒場」や「便所の落書き」でしかないSNSなんぞでお気持ち表明してリンチまがいの炎上騒ぎを起こしているだけだ。自分の鬱憤をぶちまけたいだけなのか？　そんなものはなんの意味もない。世界に憎悪を撒き散らすだけだ。僕は建設的な行動をしない人間が嫌いだ。本当に自分やほかのクリエイターのことを思うなら、作品を盗用されたというクリエイターはぜひ司法に訴えることを願う。

画像生成AIに未来はないのか？

では、画像生成AIにはもう未来はないのか？　と言われると、そうとは限らないと思う。

オプトインしたイラストだけを使って法的・倫理的問題のないAIを作ろうという動き

いわゆるビッグテックは、Stable Diffusionの炎上騒ぎを見て「法的・倫理的問題のない画像生成AI」を作ろうとしている。Adobe Fireflyなどがその代表的な例だ。Fireflyは著作権の切れた画像・著作者から許可を得た（オプトインした）画像だけを使い、さらに物議を醸すプロンプトは排除して作ったという。

また、ベンチャーでも倫理面の問題を解決しようという動きはある。絵藍ミツアプロジェクトがその代表的なものだ。これで作ろうとしている学習モデル「Mitsua Diffusion」はオプトインした有志のイラストを使って学習したモデルを目指している。

今後画像生成AIが発展していくためには、法的・倫理的問題を解決したデータセットを使って学習したモデルであることは必須になるだろう。

「芸術作品」「創作」としてはなくても、「製品素材」としてはあり？

ただ、それでも「創作作品」「芸術作品」としてAIイラストを受け入れていくことにはならないのではないか。少なくとも、既存の手書きイラストも投稿されているサイトで共存することはないだろう。

考えられるとしたら、AIのイラストだけを投稿するサイトで評価されるか、「芸術」ではなく純粋に「製品のパーツ・素材」として扱われることだろう。

例えば、「いらすとや」のイラストは著作権フリーで使えるので個人だけでなく企業や官公庁も広く使っている。ああいう「とりあえずWebサイトやパンフレットなどの図解やイメージ説明に使えればいい」素材を作るために画像生成AIは使われるのではないか。もちろん、法的・倫理的問題を解決したモデルだけだが。

（NovelAIだのWaifu Diffusionだのといった海賊版イラストで学習したAIを使って作ったイラストを企業が使ったりしたら、それこそ訴訟騒ぎになってイメージダウン、最悪倒産につながるだろう）

じゃあそういうものから人間のイラストレーターは排除されるのかといえば、それはないだろう。企業イメージに関わるイラストなどはプロのイラストレーターに頼むことになるだろう。何しろ、AIで個性を出そうとするとむずかしい。「弊社は〇〇さんのイラストじゃなきゃダメなんです！」という需要は尽きない、むしろこれからもっと大きくなっていくだろう。

つきまとう海賊版の問題

だが、法的・倫理的問題を解決したAIモデルが普及しても、海賊版の問題は尽きることはない。もうすでに問題のあるモデルは世界中のWebサーバーや使っている個人のPCにコピーされてしまったのである。インターネットに上がったものは永久に消えない、と考えたほうがいい。

（NovelAIは最初モデルを自分たちで独占するつもりだったらしいが、内部に裏切り者が居てモデルをリークされてしまった）

それらのモデルは、今後も使われ続けるし、何なら著作権を侵害したイラストを使ってさらなる学習がされるだろう。人類は80億人いるから、悪いやつはいくらでもいるのだ。ましてや、中国やロシアといった権威主義国家はフェイクニュースを作ったり西側諸国の経済的利益を奪うために国ぐるみでそういうものを使うだろう。なので、今後はいかにして海賊版AIモデルを使って作った画像を検知し、取り締まっていくかの問題になる。AIの研究もその方面に進んでいくのではないか。人間の目では見分けがつかないからだ。悪いやつだけがAIを持っている、というのが最悪の状況だ。AIを使う敵に対抗するには、こちらも高性能のAIを開発し続ける必要がある。

愚か者のせいで奪われた未来

バカモノどもがろくな悪用対策も考えずにStable Diffusionをリリースしたせいで、画像生成AIは目の敵にされるようになり、それを創作に活用することは事実上不可能になった。村八分にされるか訴訟を起こされることを覚悟の上なら使えないこともないが、僕はそんな蛮勇を犯したくないし、他の人もそうだろう。結局、アホどもが画像生成AIで作れるはずだった未来を奪ったのだ。

「背景はAIに描いてもらおう」というのは当分できなくなった

僕は現在（2024/08/23現在）漫画『まりあと貴久子のW国際試合』の貴久子VSキンバリー編を描いているが、漫画を描くことは想像を絶する苦行だ。計画性がないため、2ヶ月かけてネームを54ページもこさえてしまった。なるべくコマ数の少ない、楽なページから清書しているが、1日に1ページも進まない。7月から清書を始めたが、2ヶ月経とうとする今ですら54ページ中26ページしか終わっていない。前回のプロローグ編は全38ページを2023年10月末から始めて2024年4月末に発表にこぎつけたから、6ヶ月かかっている。今回は工程の省力化を進めているからそれよりは早いが、多分来月（2024年9月）になっても公開できるかわからない。ましてや、次のまりあVSクリステル編など、いつから作業を始められていつ完成するかわかったものではない。

こういうとき「作業の一部をAIにやってもらえたらいいのに」とか「せめて背景だけでもAIが描いてくれや」と思うのだが、もう当分無理だ。ここまで反感を買ってしまったら、たとえ一部だけでもAIを使ったとなれば袋叩きに遭うだろう。

人手不足・重労働が続くアニメ業界などでもAIの活用は模索されていたが、それも厳しくなるだろう。NovelAIなどの海賊版AIは当然使えないし、倫理的問題のないAIモデルを使おうにも、世間からは「海賊版を使っただろ」と疑われてボコボコにされる可能性がある。

歴史のある制作会社ならば過去の原画などを作画したアニメーターに許可を取って独自の学習モデルを作る、といったことも可能かもしれない。しかし、全員が許可を出してくれるかわからないし、もし本人が死んでいてまだ著作権が残っている期間中ならばその原画は使えないだろう。

（もしかしたら、アニメーターが描いた原画の著作権は契約上制作会社に帰属するようになっているのかもしれないが……）

今でさえ制作が追いつかず1週間分休み、といったことが頻繁に起きているのに、画像生成AIはそれを改善するツールの1つとして使えなくなるかもしれない。最も必要とされる場所で使えないとしたら、一体何のための技術なんだ。

「ここはAIで描いて、ここは自分で描いた」と判別できる時代は来るのか？

作画作業の一部を代替するツールとしてAIを使うことができないのは、主に2つの原因が考えられる。

法的・倫理的問題のないモデルを使ったとしても、それを証明する手段がない
どの部分をAIで描いて、どの部分を人間が描いたと証明する手段がない

現状、AIが描いた絵と人間が描いた絵を判別する手段がない、ましてやそれが違法なモデルを使ったかどうか判別できない。それが最大の問題だと思われる。AIが作ったイラストについては署名となるバイナリを入れようという動きもあるが、それをレイヤーの1枚としてイラストを作った場合、果たして署名が残るのか。

それができたところで、そういう署名の入らないAIと違法なAIモデルを使ってイラストを作る輩は残るだろう。そういうイラストと、AIを使っていないイラストの区別はつかない可能性がある。そうなったら、結局問題は解決しないんじゃないか？

未来には解決法が見つかるかもしれない。しかし、それはいつになるかわからない。そんな夢想的な未来を信じるほど、僕はポジティブではない。

おわりに

2年前の自分が見たらがっかりする、絶望するような結果になってしまった。

前回の記事を描いたときは、何枚かAIイラストを生成してその中から良さげと思ったイラストの構図を真似してみる、ということもやってみていたのだが、FANBOXでAIが禁止されたことで「もう画像生成AIによる創作に未来はない」と直感しやめてしまった。

僕は基本的にペシミストだから、この先画像生成AIとクリエイターが共存していける未来が見えない。おそらく今後もこの騒動は続くだろう。

我々がすべきことは、画像生成AIから離れ、それで騒動になっているSNSから距離を置くことだ。

ことわざにもある。「君子危うきには近寄らず」

朝宮ジム記録保管庫