2022年は画像生成AIが非常に発達した年になった。8月末にStable DiffusionというAIがオープンソースで公開されたのをきっかけに、いくつもの派生AIモデルが公開され、多くの画像生成サービスが生まれた。おそらく、今年はもっと多くのAIやサービスが生まれるだろう。

だが、それは同時に大きな問題を引き起こすことになった。こういう物が出てくると、必ず悪用する人物が出てきて大きな騒動になる。また、AIモデルの生成には大量の画像による機械学習が必要だが、それを巡って著作権的・倫理的問題が提起され大きな批判の渦が起こった。

反AI派の怒りは収まるところを知らず、Twitterなどでは画像生成AI及びそれを使って生成されたイラストに対するバッシングツイートが何万回もリツイートやいいねを受け、（少なくとも彼らの中では）「AI=悪」のイメージが出来上がってしまったようにも思える。

これは由々しき事態だ。今や画像生成AIを、ひいてはAI全体を容認するか否かで大きな断絶が社会に生まれようとしている。このままではさらなるAIの悪用や、AIの研究に対する妨害行為なども起こり得るだろう。日本のAI技術研究が遅れる恐れもあるし、さらに言えば世界全体でのAIをめぐる環境の悪化もありうる。

この記事ではこの問題について僕が考えていることや感じたこと、僕が賛同した意見などを紹介していこうと思う。

僕の基本的な立場

僕自身、画像生成AIについてどう思うかと問われれば複雑である。

AIを歓迎したい気持ち

僕の基本的なスタンスとして「技術の進歩は基本的に歓迎すべきである」というものがある。

古来より、科学技術の進歩が人類に発展をもたらしてきたという事実がある。活版印刷が人々に知識を広めてメディアの発展を促し、蒸気機関が大量生産を可能にし、電信・電話が距離による情報伝達速度の制約を大幅に減らし、飛行機が人々の移動速度・距離を格段に向上させた。今回の画像生成AIもそれと同じで、恩恵を受けられる人々が数多く存在するだろう。

実際、これまで絵を描けなかった人たちがイラストを作ることができるようになった。僕はいくつかのAIイラストコミュニティのDiscordサーバーに入っているが、絵心がないというレベルの人もいれば、生まれつきの先天的障害や事故などによる後天的障害などで絵が描けない人たちもいた。彼らは絵を作れるようになったことで大変喜んでいた。AIによって表現ができる人が増え、表現の多様性はより豊かになるだろうと思われる。これは、喜ぶべきことだ。

また、アニメやゲームなどの制作でも画像生成AIは大いに役立つ可能性がある。特に、僕はアニメの作画に活用できるのではないかと思う。アニメーターの長時間労働による疲弊が問題になっているが、AIならば長時間でも働ける。原画を元にimg2img（後述）で生成し、アニメーターが修正するといった活用ができるのではないか。

（もっとも、そのためにアニメーターが失業ないし収入減になっては意味がないが……。アニメ制作会社並びにスポンサーがどう対策していくかが問題となるだろう）

懸念事項

しかし、技術発展には必ずと言っていいほど負の側面がつきまとう。残念ながら、画像生成AIでもそうだ。ここでは僕が懸念している2つの問題を挙げる。

img2imgによる盗作の問題

最も懸念されている問題がAIを使った盗作の問題だ。この記事を書いている2023年2月現在、画像生成AIを使って画像を作る方法には2種類のものがある。

1. txt2img（text-to-image、文章による画像生成）：文章による指示（プロンプト(prompt)）をもとに、AIが画像生成を行うもの。プロンプトによる指示が細ければ細かいほど、意図に沿った画像が生成される可能性が高くなる。また、プロンプトへの忠実度も数値によって指定でき、その値の大きさも絵の出来を左右する。
2. img2img（image-to-image、画像による画像生成）：画像をAIに入力し、その画像をもとにAIが描画するもの。このときもプロンプトによる指示を行う。また、プロンプトへの忠実度だけでなく、入力した画像への忠実度も指定することができる。

問題はこのうちimg2imgの悪用で、他人が作ったイラストをimg2imgへの入力に勝手に使用したのではないかと疑われる作品や、それを使ってFANBOXなどの支援系サイトで収益化しようというあくどい事例が報告されている。

これは非常に大きな問題だ。他人のイラストの無許可使用はAIに関わらずタブーだし、仮に法律的に問題がないとしても倫理的に大きな批判を浴びるだろう。こんなことがまかり通っていれば絵描きからのAIへの反発は避けられないし、こういったタブー・法律違反を侵さずに健全にAI画像生成をしている人たちにも怒りの矛先が向く可能性がある。こういった使い方はAI賛成派・推進派であっても決して容認してはいけないと考える。将来的に自分の首を絞めるからだ。

機械学習のソース（学習元）のコンプライアンスの問題

もう一つの問題が、機械学習のソース、すなわち学習元となる大量のイラストの問題だ。

AIに絵を描かせるには機械学習と言われる操作が必要になる。これは、簡単に言うと大量のデータをAIにインプットさせ、その中の特徴を分析させて法則やパターンを見出させるというものだ。

（ネットにはより詳しい解説がたくさん載っているのでぜひ検索して調べてほしい）

機械学習に必要な大量のデータは、画像生成AIの場合大量の写真やイラストになる。それをどこから取ってくるか？

画像生成AIの代表的な学習モデルとしてNovelAIとWaifuDiffusionというものがあるが、これらは日本のアニメ絵やラノベ絵の特徴を含んだイラストを出力できる特徴がある。問題は、これらのAIが学習元に使っているDanbooruというイラスト投稿サイトだ。このサイトはTwitterやpixivなどからの無断転載が非常に多いと言われている。このようなサイトに掲載されているイラストを学習に使ったAIはいかがなものか、ということだ。

僕自身NovelAIやWaifuDiffusionに対してはあまり良い印象を持っていない。ただ、この問題に関しては僕らができる対策がある。それは、学習元がコンプライアンス的に問題がないと明記しているAIだけを使用する、ということだ。

これ以外にも様々な問題（「AIが描いた絵の著作権は誰のものか？」「AIに自分が描いた絵を学習されたくないと意思表示することは意味があるか？」等）があるが、そこまで書くといつまで経っても終わらないので割愛させてもらった。

いずれの問題にしても、現在は画像生成AIの黎明期にあるため起こるべくして起こった問題だと言える。先に挙げた記事では漫画家で参議院議員の赤松健氏による画像生成AIについての解説・提言動画が紹介されているが、この中では現在の社会の画像生成AIに対する成熟の段階を「レベル２（良くなる途上の状態）」「良くなっていく途中、過渡期・途上の状態」だとしている。その上で現段階では法律による規制ではなく業界団体等によるガイドラインの策定や啓蒙による被害軽減を推進したいという。僕としても今後ガイドライン等によってこういった問題が減ることを期待したい。

AIに対する嫉妬

それ以外に、僕自身画像生成AIに対して嫉妬を憶えたこともある。

StableDiffusionが出てきた当初、僕も試してみて良さげだった画像をTwitterに投稿したことがあった。

Stable Diffusionで生成したもののうち良さげだったもの。
生成ワード:"Boxer girl in Anime style" pic.twitter.com/pOCkZEIjGq

— ギムレット (@mariaasamiya) September 9, 2022

その結果、このツイートは12回もリツイートされ、63個もいいねをもらった。

これに対し、僕は怒りを憶えた。普段僕がイラストを描いて投稿しても20いいねもいかない。しかも、この生成された画像は初期の素のStableDiffusionモデルなのでそれほど質が高くない。顔の描画は歪だし、右側の画像に至っては両手のグローブが一体化している。にも関わらず、これを見た63人の人間はいいねを押したのだ。

「ふざけんな！　普段俺が描いてる絵よりこんな下手くそな絵の方がいいってのかよ！　お前らの目は節穴か！　ピンホールカメラか！　レンズ入ってないのか！」

腹立たしくなった僕はそれ以来TwitterでAI絵を投稿するのをやめた。

そんなことがあったから、今AIイラストに腹を立てている絵描きたちの気持ちもわからないでもない。

画像生成AIが出てきても絵描きは滅ばない

巷で言われている懸念の一つに「画像生成AIがあれば人間の絵描きはいらなくなるのではないか？」というものがある。

しかしながら、これについて僕はそうならないと思う。

僕が賛同する意見の一つから引用させてもらおう。入り江わにさんという方の投稿で、この人は僕が以前入っていた画像生成AIのDiscordコミュニティにいた人だ。

無知だよなー、と思う。

知らないから過大評価している。

この技術は万能ではない。将来的にも万能にならない。

ぶっちゃけ、単語ひとつで芸術作品ができるような簡単なものではない。

ＡＩに与えるコマンドには習熟が必要で、生成物には作業者の美意識によるバイアスがかかるから、

このツールを使いこなせる者と使いこなせない者に分かれるだろう。それを才能の有無と言ってもいい。

しかし。

たかだかツールのひとつを使えないから表現そのものができなくなると思うのは間違いだ。イラレを使えない人は手描きで描いているではないか。

人類を過小評価するな。

たとえばカメラは道具である。カメラが発明されても写実画は滅びなかった。

写真芸術ができた。

同じカメラで同じ被写体を撮影して、写真に差が出るのは何故だ。一眼レフではないオートフォーカスでも、なんとなれば写るンですでも差がつく。

要するに人間の多様性を舐めんな、ということだ。画像生成ＡＩというツールで潰れるほどヤワではないのである。

（※イラレ：Adobe Illustratorのこと）

この意見はかなり的を射ていると思う。

実際、画像生成を行うためのプロンプトを考えるのは簡単ではない。プロンプトには指定する順番や記法が決まっているらしく、それに合っていないと指定したつもりでも反映されない場合がある。例えば、茶色の目のキャラを描こうとして「brown eyes」と書いても、指定する順番が違えば（目などの顔のパーツは2番目に記述するにもかかわらず、文頭で指定してしまったなど）反映されないということだ。そのため、きれいなAIアートを出している人たちは必ず試行錯誤を繰り返している。1つ素晴らしい作品がアップロードされたら、それができるまでの間に数百・数千個のゴミ同然の失敗作ができたと考えていい。思ったより簡単じゃないのだ、AIアートは。

また、AIが出てきたからと言って他の画法が滅ぶとも考えにくい。もう10年以上前のことだが、ちょうど3Dカスタム少女（カス子）といった3DCGツールが出てきたとき、カス子で作品を作って投稿する人が増えた。だが、そのせいで手描き（アナログやペイントソフト）で絵を描く人がいなくなったか？　と言われればそうではない。手描きイラストは依然として健在だ。それどころか3DCG使いの人が絵を勉強してイラストを投稿し始め、3DCG作品を投稿しなくなったケースもある。AIも同じことだろうと思う。

さらに言えば、同じ3DCGでも人によって作品の質に差が出る。僕が「うまい！」と思う人はMODを入れてテクスチャを変えたり、撮影したスクリーンショットをペイントソフトなどで加工したりしている場合が多い。何も工夫せずにスクリーンショットをそのまま投稿している人は「下手くそ」と感じることが多い。AIも同じことで、上手い人は出力した画像を更に加工している（ペイントソフトで修正する、さらにそれをimg2imgで加工する等）場合が多いようだ。結局のところ、行き着く先は「AIを使おうが下手な人は下手で、上手な人は上手」ということではないか。

再び上記の記事から引用になるが、将来的にはこうなるだけではないか？

ＡＩ絵、というジャンルが生まれるだけだ。

写真芸術はフォトショで滅びなかった。

アナログ絵はイラレで滅びなかった。

ボーカロイドはひとつのジャンルとなった。

何を恐れるのか。

（※フォトショ：Adobe Photoshopのこと）

もちろん、AIを使いこなせる絵描きと使いこなせない絵描きとで差が出るだろうし、使いこなせない人は筆を折ることも考えられる。AIイラストを作ることで満足できる人は手描きで描かなくなるから、新しい絵描きの流入も減るだろう。しかし、完全に滅ぶことはない、と僕は考える。

画像生成AIをどう作品制作に活用すべきか？

問題となるのは画像生成AIをどうやって作品制作に活用するかだ。

もちろん、全部AIを使って作った作品を「自分が（手で）描いた絵です」などというのは論外として、AIアートに完全に切り替えてしまうのは読者からの反発を買う可能性がある。だいたい、AIは（自分の絵を学習でもさせない限り）ユーザーの絵柄を再現してくれるわけではないのだ。

かといって、AIに手を出さないのもリスクだ。ライバルの絵描きたちはもうAIをどう活用するか考え、実行に移しているかもしれない。元々絵が上手い人はAIを使うことでさらに技能を向上させるだろう。まさに「鬼に金棒」である。まだ日の浅い今のうちにどう活用するか考えないといけない。

考えられる活用法

今の時点で僕が考える実現性の高い活用法は次の2つだ。

AIに素材を作ってもらって、それをイラストの中で使う

絵というのは単に主題となる人物や動物、構造物を描いてそれで終わりというものではない。まず背景が必要だし、人物が持っているもの、着ている服などの小道具も必要だ。それらを全部描くのは非常に難しい。だからこそフリーの素材があるわけだが、世に出回っているフリー素材が必ずしも需要を満たすとは限らない。

そこで、AIのtxt2img・img2imgを使って素材を作ってもらい、それを使うということが考えられる。ボクシング絵の場合、リングなどの背景素材を作ってもらえるだろう。僕は背景を描くのがとても苦手なため、これが使えると非常に助かる。

だが、問題もある。まず、img2imgで素材を作る場合上で挙げたように他人の絵や写真を勝手に使うことは問題になりうる。入力に使うのはフリー素材のほうがいいだろう。

また、AIが作った素材がそもそも使用に堪えうるのかという問題もある。実際、AIでボクシングリングを生成すると、ロープが5本も6本も生えているものが生成される事が多い。

（実際のボクシングのリングは3〜4本、近年では落下防止の観点から4本の場合が大半である）

これではとても使えないため、結局人間の手で修正を行うことになる。それを考えると、AIによる素材生成はまだ早いのかもしれない。

AIで生成したイラストの構図をもとにイラストを描く

構図・ポーズを考えるのは非常に難儀な作業だ。自分で考えるとなると構造的におかしなものになることが多いし、おかしくなくても陳腐なものになる場合も多い。なので、必然的に写真や他の人のイラストを参考にする場合が多くなる。

（実際、僕のボクシング試合絵の大半は試合写真（2020年頃にまとめ買いしたボクシングマガジンに掲載されている写真など）を参考にしている）

だが、それでも課題は残る。他の人のイラストを参考にする場合そのことを明記すべきかという問題があるし、そう都合のいい構図・ポーズの写真やイラストが見つかるという保証もない。

そこで、AIが生成したイラストの構図を参考にして絵を描く、ということが考えられる。2023年2月現在までのところ、AIの生成した絵に著作権はないらしいので、直接的には問題ないだろう。

だが、実用にはまだ課題が残る。そもそもAIが出した構図が実用に堪えうるかという問題だ。現状AIで出力した絵には「腕や足の位置がおかしい」「両腕が一体化している」などの欠陥が発生することがあるので、それをそのまま描くわけにはいかない。結局、人間による修正は必要になるのだ。

課題

また、技術的な課題以外にも倫理的な課題も残る。

どこまでがAI生成作品で、どこからが人間の作った作品と言えるのか？

2023年2月現在、pixivではAIを使った作品については「AI生成作品」とアップ時に登録するようガイドラインで定められている。

これを守らずにAI生成作品を「AIを使っていない」と設定すると、早い話フルボッコにされる。実際、そういう作品に出会ったときは僕も嫌悪を感じた。ただでさえ風当たりが厳しい時期に、そういうマナー違反をすることは結果としてAIへの逆風をさらに強めることになるのでやめたほうがいい。

問題は、「何をもって『AI生成作品である』とするか？」ということだ。上記のように、背景だけとか小道具の一部だけとかをAIで作っただけでも「AI生成作品」となるのか？

これについて、pixivでは下記の通り定義している。

・イラスト

　・制作過程のすべて、もしくはほとんどをAIによって生成された作品。

　・例えば、テキストや画像などのフォーマットを問わず、一定の指示を元に生成されたリソースをそのまま、または組み合わせて、あるいは軽微な加工や修正を経て投稿する場合。

・小説・マンガ・うごイラ

　・ストーリー・書き出し・配置・作画・アニメーション等の制作過程を総合的に鑑みて、すべて、もしくはほとんどをAIによって生成された作品。

　・例えば、テキストや画像などのフォーマットを問わず、一定の指示を元に生成されたリソースをそのまま、または組み合わせて、あるいは軽微な加工や修正を経て投稿する場合。ただし、小説作品で挿絵のみに利用するなど、AIによって生成されたリソースや作品を補助的なコンテンツとして利用する場合はAI生成作品設定を「はい」に設定せずとも構いません。

なるほど、「制作過程のすべて、もしくはほとんど」と「生成されたリソースをそのまま、または組み合わせて、あるいは軽微な加工や修正を経て」というのが要点だととれる。つまり、AIで生成した作品の一部（顔や腕のおかしな部分など）を修正して投稿したら、それはAI生成作品であるということであり、逆に作品の大半を手書きで行って、一部（背景や小道具）をAIで生成・加工した場合AI生成ではないということなのだろう。また、上記の2つの活用法のうち「AI絵の構図を元に絵を描く」は大半を手書きで行うことになるからAI生成ではない、という判断になるのではないか。

AI嫌悪派による攻撃の可能性

また、たとえガイドラインに沿った作品制作を行っても、AIを使っているというだけでAIを嫌悪する人たちが攻撃（作品への嫌がらせコメント、制作者への嫌がらせDM、Twitterでのクソリプ、悪い噂の流布など）をかけてくる可能性がある。

これに関してはどうすればいいのか、まだ僕には判断がつかない。ガイドラインに沿って何も悪いことをしていないのであれば、攻撃に屈することはない。攻撃者を全てブロックして作品を投稿し続けるべきだろう。しかし、攻撃の程度によっては精神的疲弊がかなり大きなものになるだろう。それに耐えられるのか？

「作品の工程の一部にAIを使っている」と明記すべきか？　しかし、明記したことで叩いてくる人もいるだろうし、逆に明記しなかったらふとしたことでAIを活用していることが知れたときに「なんで黙ってたんだ」と叩かれる可能性もあるだろう。どうすべきなのか。いずれAIを作品制作に使うことが当たり前になれば、いちいちあら捜しをされることもなくなるだろうが、現時点ではまだリスキーといえる。

現状は研究に徹し、実際の利用はガイドラインの拡充・機運の醸成を待つべきか

現在は画像生成AIの過渡期であり、まだまだ議論が足りないと考えられる。イラスト作りにAIを使うのは当たり前、となるまで実際の作品制作への活用はまだ待ってもいいのではないか。少なくとも焦って下手な行動をして、その結果として袋叩きに遭うよりはマシだ。

ただ、活用のための研究は進めるべきだ。「今はまだ時期じゃないから」といって何もしないでいると、いざ時期が来たときに出遅れてしまう。まだ絵描きの大半はAIの活用には至っていないように見える。今のうちに画像生成環境の構築や手法の研究を進めておくべきだろう。ただし、時期が来るまでは生成した画像を作品に使ったりはしないほうがいいかもしれない。

将来の展望

画像生成AI及びAIイラストは今後どうなっていくのか。さらに言えば、絵描きは今後どうなっていくのか。

僕がpixiv、Twitter及びFANBOXでフォローしているあべべし君さんという方（マーケティングやアナリティクスのお仕事をしているらしく、かなり見識が高い。pixivやFANBOXには役立ちそうな分析がたくさん載っている）がいるのだが、この方いわく「2022年12月の段階で『AIアートなら何でも伸びる』という時期は終わった」という。

・作品数の増加に伴い、閲覧者さんの目も肥えてきた。

・閲覧者さんの目が肥えた結果、AI初心者さんの評価は伸びにくくなっている。

・閲覧者さんも、「AI作品なら何でも見る」から「この作者さんの絵を見る」という選別作業が始まっている印象。

・「AI作品なら何でも伸びる」という時期は終了した。

・AIジャンルでも、「人気作者にブックマーク数が集中する」という、pixivらしい現象が発生している。

・「AI作品の画力さえあれば評価される」、という画力神話を信仰している場合、心が強くへし折られる。

・人気の作者さんでも、投稿をストップしている人が増えてきた。

・コツコツと活動継続している人が、過去の人気作者さんを追い越してきている。

早くもAIバブルは崩壊し、成熟期に入りつつあるのか？　カス子やカスタムオーダーメイドなどの3DCGツールを使った作品のように、「この人のAI作品はうまい」「この人のAI作品はいまいち」という時期に入っているようだ。

絵描きはどうなっていくのか。素人でもAIを使ってそれなりの絵が生成できる時代に、人間の絵描きの価値はどこに出てくるのか？　こちらの椎名花さんという方の意見が参考になるかと思う。

うまければいいという時代は終わった。

そう思いました。

けっして、これは、私が20分で描いた絵が

すごくうまいという意味ではないのです。

自分自身がその絵の構図や物語性に、

おもしろさを見出すことができなければ、

挿絵として自分が認められないのです。

その絵は、ただ、イケメンが描かれているような絵で、

その絵がおもしろい絵ではないということを

AIがあぶりだしただけなのです。

（中略）

be OMOSIROI！

印象が決まっている絵を自力で描くことに意味が見出しづらいなら、

見た人が興味を持てて、見た人にこたえをゆだねる絵を、描きたいね。という話になりました。

画力を奪っても楽しめるような、おもしろい絵が描きたいね。

逆にこれからはそういう絵に意味があるのではないだろうか。

これからは、うまさじゃなくて、

おもしろさに、専念できるかもしれないね。

絵に関わらず、おもしろい人生になりそう！

これからは、絵のうまさ・綺麗さではなくおもしろさ・ストーリー性が重視される時代になるというのである。これは同感だ。

また、先に挙げた入り江わにさんは別の記事でこうも書いている。

人間の役割は、審美眼になるのでしょうね。

美を選別する力。

私は、機械が美意識を持つのはとても難しく、人間の役割はなくならないと思っています。

「美しい作品を作る」時代ではなく「美しい作品を選ぶ」時代になる。人間の役割は終わるのではなく、別の方向に移っていくという。これも同感である。

僕はどうするか？　残念ながら、僕は美意識が高くないので審査する側になるのは無理だろう。ならば、おもしろさ・ストーリー性を意識した絵を作っていく方向に持っていけたらと思う。

画像生成AIの使い方についてはまた別に記事を書けたらと思っている。