画像生成AI 炎上・論争・被害事例まとめ - AI画像生成・生成系AI 問題まとめwiki

	注意！ このページは実在する人物について記述しています。 編集は慎重にお願い致します。 攻撃的・侮辱的な表現はお控えください。

このページでは「画像生成AIの具体的な炎上・論争・被害などの事例」をまとめています。
⇒画像生成AIの包括的な問題点は当wiki「画像生成AIは何が問題なのか？」ページへ
⇒生成AIの包括的な問題点は「生成系AIが抱える問題まとめ【社会やクリエイティブへの悪影響】」ページへ
⇒生成AIに対するクリエイター団体などの反応は「生成系AIに対するクリエイティブ団体・企業の反応・対応」ページへ
⇒生成AIに関する訴訟などは「生成系AIに関する訴訟・法的対応一覧」ページへ

編集者の方へ

• 具体的な炎上・論争・被害事例をINBOX式に放り込むようにまとめられるページをつくります。
• たたき台です。自由に編集・改変してください。
• 新しい問題点を書く場所が分からない場合は、下部の「その他」欄に加えてください。
• 情報量が膨らんできたら個別ベージ化も検討してください。
• 目的：AI画像生成・生成系AI問題年表の2～3行では収まりきらない事例をソース貼り付けや補足テキストで補完するページにしたい。
• 目的：年表に追加しないような出来事・個別事例もまとめの対象にしたい。
• 目的：このページを「具体的な事例まとめページにする」ことで画像生成AIは何が問題なのか？ページの置き場所を基礎知識に移動したい→移動完了。
• 目標：韓国のAIについての有志wiki（그림 인공지능/논란 및 사건 사고） のレイアウトを参考にします

→海外の記事を機械翻訳したものをそのまま貼り付けていると思われる箇所が見られます。後からの文章の整形が非常に難しくなるため、最低限ご自分で整えてから貼り付け、引用元の文章のソースを貼り付けてください。

• 下の画像はSNS等にこのwikiのURLを貼り付けた際表示されるサムネイルとなることを想定して作った画像です。仮の画像ですので自由に差し替えて頂いて構いません。
  

【目次】

1.【概要】

AI画像生成を活用した問題・炎上・被害事例は、ここにすべて記載するには不可能な規模で、世界中で広範囲に発生している。
イラストコンテンツ市場が発展している日本だけでなく、東アジア、アメリカ、欧州をはじめ様々な国家の作家たちが相当な被害を受けている実態である。
したがって、ここに記載された事件事例はAI画像生成シーンで起こった事件・事例のごく一部であることを前置きさせていただく。
特に無断学習事例の場合、有名イラストレーターの絵を学習させ、その生成物をお金で売る事例まで確認されている。

人工知能(AI)の技術に対する神秘主義者と技術者たちの期待に満ちていた黎明期とは異なり、画像生成AIは発展するばかりではなくそこから生じる様々な技術的な限界と問題点が続々と表れている。
そして、そのような限界を無視しようとするため、およびAI絵の生成をより容易にするために他者のイラストなど画像を無断盗用し、画像生成AIを事実上著作権ロンダリング用途として使用する事例が急増している。

参考：韓国のAIについての有志wiki（그림 인공지능/논란 및 사건 사고）

2.【コンテスト参加・受賞の議論】

ミッドジャーニー絵画コンテスト優勝事件

コロラド州立博覧会美術大会優勝後に画像生成AI Midjourneyを使用したことを作家がSNSで直接明らかにして論議になった。
主催側はAIを使用したことを知って審査したが、結果は変わらなかったとし、優勝剥奪はしなかった。
2022年9月8日『AI作品が絵画コンテストで優勝、アーティストから不満噴出』
https://www.cnn.co.jp/tech/35192929.html

ソニー・ワールド・フォトグラフィー・アワード写真賞論争

受賞者、ドイツの芸術家ボリス・エルダグセン氏は「AIを巡る議論を喚起したかっただけだ」と主張する。
「AIの画像と、普通の写真を、互いに競わせるべきではない。私はあえて『生意気な子供』になってみせ、AIによる画像にどれだけ主催者が準備できているか見ようとした。その結果、できていなかったということだ」と述べている。

2023年4月18日『AI製の写真に賞　独芸術家の行為で論争』
https://news.yahoo.co.jp/articles/c2afc2b35e796659e3584269f8b412bc08eca771

世界報道写真大会が生成AIを受け入れると発表し批判噴出

世界で最も権威ある報道写真大賞のエントリーに画像生成AIを受け入れると主催団体が公式インスタグラムに投稿した。これによって多くの批判が寄せられ、ピューリッツァー賞を受賞した写真家まで懸念を表明。
わずか数日で主催団体は撤回文を掲載する事態となった。

2023年12月23日『批判殺到により撤回……報道写真と生成AIは「混ぜるな危険」！』
https://tabi-labo.com/308473/wt-press-photo-contest-ai

ポケモンカードイラストコンテストでAI生成画像が一次審査を突破して批判噴出

海外のポケモンカードイラストコンテストで同一人物が複数の名義でAI生成したポケモンの画像を大量に応募。
主催者側はこの行為を見抜けずに一次審査を突破してしまった。
このような行為により、落選者が続出、コンテストの信頼性が問われる事態となった。

2024年6月15日投稿

loading tweet...

— 🕸 Rachel 🕷 Briggs 🕸 (@RacieBeep) June 14, 2024

6月25日に主催者側からアナウンスがあり、規約違反作品については一次審査から除外され、失格となった作品の繰り上げを実施すると発表がありました。
【重要なお知らせ】一次通過作品における規約違反について

loading tweet...

— Pokémon TCG (@PokemonTCG) June 25, 2024

3.【AI画像生成を隠して自作発言】

AI画像生成ツールが高性能になるにつれて、AI製であることを隠し、あたかも自分が描いた絵のように画像を発表するものが増えた。
例として挙げられないほど多くの手描きを偽る投稿者がpixivやTwitterなどで活動している。
問題が発覚してもアカウントを乗り換えたり、別の絵柄を学習させ絵柄を変えることで活動を再開するケースもありいたちごっこの様相を呈している。

4.【販売サイトでのAI画像生成使用】

BOOTH VTuberによるAI背景画像107枚無料配布炎上

2023年4月22日
Niji Journey v5を用いたAI背景画像107枚無料配布が物議をかもす。
VTuberの配信用の素材用途として配布され、背景アーティストの市場破壊が懸念された。
この行為に対する意見は賛否両論で「背景画を描く大変さが分かっていない」「この程度で市場破壊は大袈裟すぎる」という意見が見られた。
https://gamejksokuhou.com/archives/87494320.html

FANZA・DL.site 大量枚数CG集の大量審査登録埋め尽くし事件

FANZAやDL.siteは大量のAI出力による販売物の審査や対応に追われることになった。
5chの同人板のスレッド「AI絵師のマネタイズスレ」では副業収入のために審査状況を日々書きこむ人が多数発生した。
後に販売サイトのルールが変更され、AI生成作品の投稿は一か月に一度だけと定められた。

Kindle Unlimited AIグラビア写真集埋め尽くし事件

amazonが展開する定額読み放題サービス「Kindle Unlimited」では実写系AI画像のグラビア写真集が大量に登録され、閲覧性を大きく低下させた。
「Kindle Unlimited」では閲覧数に応じたコンテンツ収入があるため、商材屋や副業収入ビジネスの売り場として目をつけられたということになる。

イラストをAIイラストに置き換え、ゲームデータを丸パクリした同人ゲームの販売

DLsiteで販売されていた同人ゲーム「サクラクエスト」はランキング上位を維持していたがそのデータの中身が別の同人ゲームをそのまま流用し、イラストを置き換えただけの作品と判明(すでに販売停止済み)。

「【DLsite】画集の販売を禁止されたＡＩ生成作品、今度は他人作ったツクールのデータをコピー、ＡＩにポジティブな人たちからも絶望の声」
https://togetter.com/li/2150108

5.【コミッションサイトでのAI画像生成使用】

AI画像生成が登場してから、AI製であることを隠し「手描きで納品する」作家のふりをしてコミッションを受注するものたちが現れている。
日本国内のコミッションサイトの多くは「AI生成作品の禁止」を掲げているが、中にはサイトのAI検出機能を潜り抜けてまでコミッションサイトを利用しようとする者もいる。

SKIMAのキャラ販売荒らし

コミッションサイト「SKIMA」にて2022年10月頃より、AI生成を用いたイラストの販売が行われるようになった。
SKIMAには「キャラ販売」という完成品のアイコンや立ち絵などを販売するスペースがあるのだがこれにAI作品が紛れ込むことにより、意図せずにAI商品を購入してしまう事例が発生。
また、AIは簡単に出力できてしまうため、市場を荒らすことにも繋がるほか、出力時間に対して安価で販売しても損にならないので販売側にとっては良いこと尽くめであった。
SKIMA運営の当初の対応は鈍く、一部ユーザーからは不満の声も上がっていた。
同月21日には禁止行為に「AIを用いて生成した商品や作品の出品、掲載、売買はお控えください。」を加えたことや通報に対しての反応速度が上がったことにより、AI商品の出品は以前と比べると大幅に減った。
だが、荒らされた市場がそれで戻ったかというとそういうわけでもなく、手直しできるAI術師による修正品も出回っているのが現状である。

6.【クリエイターのAI画像生成使用の議論】

イラストレーターが作画の工程にAI画像生成ツールおよびAI生成物を用いる事例が度々発生しているが、Midjourneyなど生成サービス側の規約で「商用利用可」となっていても、日本の現行法においてAI生成物の研究目的以外の利用については未だ不鮮明なのが実情である。
「法が整備されるまで作品制作への画像生成AI使用・商業利用は控えた方がいいのでは」という指摘とともに議論を呼んでいる。
また、イラスト分野以外の文章系・音楽系などのクリエイターが、自身の創作物のサムネイルや挿絵などにAI画像生成を用いることも問題となっている。
分野は違えど、コンテンツクリエイターとして幅広い生成系AIの問題点を理解することが大切である。

7.【商業などにおけるAI画像生成使用の議論】

AI生成画像を商用で使って論争になった事件である。
Midjourneyなど生成サービス側の規約で「商用利用可」となっていても、日本の現行法においてAI生成物の研究目的以外の利用については未だ不鮮明なのが実情である。
「法が整備されるまで商業利用は控えた方がいいのでは」という指摘とともに議論を呼んでいる。

スシロー ChatGPTに考えてもらった「スシンギュラリティ」連投事例

2023年4月11日、回転寿司チェーン大手のスシローが公式Twitterでスシンギュラリティと称して、AI生成画像を大量にアップしてしまう。
スシローは別件で炎上・風評被害を受けた後のイメージ回復が大事な時期であったため、著作権法をクリアできるかが怪しい「スシンギュラリティ」の投稿を心配される反応も見られた。
AI画像生成検知WEBサービスHiveに画像を通したところ、Midjourneyで生成された確率が高いとの結果が出た。
さらには、「スシンギュラリティ」企画のアイデア自体もChatGPTに提案してもらったものだったことが発覚する。

そしてほぼ同時期に、ウエルシア、森永乳業、zzzgooといった企業でもAI生成画像の利用が確認された。
https://twitter.com/akindosushiroco/status/1645637801868775425

イベント「銀座今昔きもの大市32th」

2023年4月17日
広告に使われた着物を着る女性イラストについて、着物の合わせが違うこと、Adobe Stockの透かしが浮き出ていることなどが指摘され話題になる。
イベント運営者側がAI画像生成ツールを使用したのではなく、元画像の投稿者がAI画像生成にて画像を生成しAdobe Stockに素材登録した可能性がある。
余談だが「32th」ではなく「32nd」表記なのでは？とツッコまれてもいた。

イベント「銀座今昔きもの大市32th」の告知ツイートにAI製と思われる画像が使用される。
https://twitter.com/konjyaku_kimono/status/1647968046802440192

中国国内でイラストレーターの失業が増加

「中国、画像生成AIでイラストレーターの失業増加　求人7割減の都市も」
https://news.yahoo.co.jp/articles/3d1736e99a53dd22617d587331fc351dfaee993e
AI生成の精度が向上したことにより、中国国内ではメーカーがイラストをAIで出力する事態が起こっている。
イラストレーター自体の仕事はというと小さな修正ばかりとなり、報酬も以前の10分の1程度にまで下がってしまった。
中国でもAIイラストが他人の創作物を勝手に流用している件から反発が起こっており、ゲームユーザーからは「デジタル死体」と非難されている。

海上保安庁広報物へのAIイラスト利用

2024年3月28日、海上保安庁は公式Xアカウントで海の安全に関する注意喚起のポストを投稿。この中で使われていたアニメ風の女性が夕日を背に振り向くイラストについて、生成AIで作られたイラストではないかとの指摘がされ、ネット上で議論を呼ぶこととなった。「（現状の生成AIが抱える問題を考えれば）AIイラストを使うのは問題がある。」「仮にAIであったとしても問題はない。」と言った意見があり、そもそも該当するイラストがAI製かどうかについても「目やまつ毛が不自然に融合していたり、髪飾りが溶けておりこれはAI製ではないか」「このイラストはAIでは作られていない、言いがかりではないか」といったものが見られた。

4月1日、海上保安庁は本件に関するメディアBuzzfeedの取材に「AIイラストを使った」と明かした。このイラストは海上保安庁の公式サイト内の特設ページ「ウォーターセーフティガイド」で3月上旬より使用されたもので、同月4日から同庁のXアカウントでも度々投稿されており、リーフレットとして配るため各地の海上保安部に送付していた。生成AIを利用した理由としては「イラストレーターが描いた場合描き手のイメージがつくので、なるべくフラットな状態で一般の方へ海難防止のメッセージを伝えたかった」というものであった。本件の後、海上保安庁はイラスト掲載発表後に取りまとめられた文化庁の「AIと著作権について」ガイドラインや28日の投稿の炎上を考慮し、29日に公式サイトでの掲載を削除、このイラストの載ったリーフレットの配布中止を決めるといった対応を行った。今後、Xでの該当投稿の削除は行わないものの新規投稿は行わないとし、「今後の生成AI利用についてはSNSでの意見を真摯に受け止めて考えていきたい」とした。

【出典、関連記事など】
◇海上保安庁公式Xアカウントでの投稿（2024年3月28日）
◇海上保安庁、AIイラストを使ったリーフレットを配布中止。SNSの反響などを受けて（2024年4月1日-Buzzfeed）
◇海辺でほほ笑むアニメ風女性イラスト、生成ＡＩ作製に「著作権侵害」の批判…海保がパンフ配布取りやめ（2024年4月2日-読売新聞）

8.【無断学習問題・論争】

AI画像生成学習に対する一般の認識誤差

国内外の多くのAI生成問題を追う人々が度々警告することの一つにAI学習に対する認識エラーがある。
AIの学習方式と人の学習がどれくらい似ているかを証明できる理論や根拠が国内外で不足しており、AIに過度の幻想や人格を与えて曲解しながら生じる様々な議論が頻繁に起こっている。

同時にAIの学習が人間と異なるため、AIに学習させることは知的財産権、著作権、著作者人格権、肖像権などのような基本権侵害をロンダリングするのに使用してもよいと勘違いが横行している点が問題となっている。
このため、Stable Diffusionローカル環境が登場したとき、様々な作家たちの知的財産権である絵、イメージデータを追加で学習し、AI生成物として選んだから「AIが生成したから」道義的責任がないと主張したり、そのように受け入れて単純消費財のように受け入れる人々の数が相当に増えた。

引用：https://namu.wiki/w/%EA%B7%B8%EB%A6%BC%20%EC%9D%B8%EA%B3%B5%EC%A7%80%EB%8A%A5/%EB%85%BC%EB%9E%80%20%EB%B0%8F%20%EC%82%AC%EA%B1%B4%20%EC%82%AC%EA%B3%A0#toc

じゃんけんアニメーションの『吸血鬼ハンターD (ブラッドラスト)』学習論争

アメリカロサンゼルスに在するYouTubeのインディーコンテンツ制作会社は、画像生成AI Stable Diffusionを利用して短編アニメーションを作成した。
このアニメーション『ANIME ROCK, PAPER, SCISSORS』訳して「アニメじゃんけん」は2023年2月27日にAIで制作した短編アニメーション動画としてアップロードされ、華やかな映像美と演出、シュールなコメディさ、日本のアニメソング風の歌が挿入されるギャップ、そして「大の男が迫真な演技でじゃんけんをする」という場面演出を納得させるような珍妙なプロットのおかげで日本のSNSでも好評な反応が続く。

問題はAIの学習方法であった。既存のベースモデルのAIイラストも誰かの絵を無断で学習したものなので著作権議論の余地があるが、今回の場合は加えてYouTubeにアップされたアニメ『吸血鬼ハンターD (ブラッドラスト)』のサンプルを同意なく掻き集めてまとめて追加学習させた後作業したとのこと。
この追加学習の点が大きな問題点として話題となった。
そうした注目の中、「高効率の作業を低労働で容易にやり遂げることができるようになった」「私たちはアニメの民主化を生み出した」などの発言も見られた。

この発言には多くのアニメーターが批判的な対応をとられた。その中でネットフリックス・キャッスルバニアアニメ監督やラルフ・バクシーなどの巨匠アニメーター兼監督も否定的な反応を見せた。(https://twitter.com/SamuelDeats/status/1630459610481020928)
また、創作界の門戸も可能性も常に開かれているものであるのに、「AIにより創作が可能な新しい時代が開かれた」とAIの到来に賛美・迎合する人々に否定的な意見を表した。

一方で、当該の「じゃんけんアニメーション」は本当にすべての作業をAIが100％進行したのではなく、「撮影された実写映像に基づいてAIがi2iでフィルタをかける一種のロトスコーピング技法」のような手段で製作されている。
議論となった部分以外の3Dアセット、衣装、脚本などの構成要素は人の手で作られたという点では「AI画像生成の著作権侵害問題を将来的に解決すれば結局、アニメーション作画作業をAIに任せるようにした時間が浮く。空いたリソースを詳細な問題に集中できるようになる」という旨の肯定的な意見も見られた。

制作陣側も議論について認知して制作過程を盛り込んだ映像のコメント(https://youtu.be/_9LX9HSQkWo)を通じて自分たちの立場を明らかにしている。

【日本のSNSでの反応まとめ】
画像生成AIを用いて制作されたアニメ『ANIME ROCK, PAPER, SCISSORS』訳して「アニメじゃんけん」が話題になる。
役者の動きを撮影した動画をStable DiffusionでAI変換しているが『吸血鬼ハンターD ブラッドラスト』のスタイルを取り込んでいることが問題視される。　
https://togetter.com/li/2091310

引用：https://namu.wiki/w/%EA%B7%B8%EB%A6%BC%20%EC%9D%B8%EA%B3%B5%EC%A7%80%EB%8A%A5/%EB%85%BC%EB%9E%80%20%EB%B0%8F%20%EC%82%AC%EA%B1%B4%20%EC%82%AC%EA%B3%A0#toc

pixivウマエロアカウント停止騒動

株式会社Cygamesが運営している『ウマ娘』はかねてより公式の二次ガイドラインにて「性的描写を含む二次創作」を禁止していた。
しかしながら、同作品のキャラクターを簡単に出力可能とするLoRAが普及してから、ガイドラインを守らないAI生成物を投稿するユーザーが激増する。
AI画像生成以前より手描きのユーザーの間でもこの問題は存在していたが、AI量産の敷居の低さからモラルハザードを加速させた。
詳しい経緯は当wiki内個別ページ→pixivウマエロアカウント停止騒動で紹介する。

キム・ジョンギ氏イラストAI学習と故人の作品の扱いに対する論争

韓国の作家キム・ジョンギ氏が亡くなった4日後の2022年10月7日。
ある人物がStable Diffusionモデルでキム・ジョンギ氏の遺した作品を追加学習させた後、彼の画風に沿って描くAI画像生成追加学習モデルを自分のTwitterに公開したことで議論を呼んだ。
https://www.dogdrip.net/437122593

こういった「絵柄模倣AI」と言われる追加学習モデルの生成物においては、人が描けば「絵柄パクリではないか」という指摘が生まれる。
しかしながら、「絵柄」自体は著作権の保護領域ではないため、この「絵柄模倣AI」を扱うことに対しては違法性があるかどうかを問うことはできない。

ただ、法的な問題とは別として、道義的な次元での問題が物議を交わした。追加学習モデル作成者は、「人が亡くなった後に故人の名前を表記して告知したAIモデルで収益や注目を集めよう」という意図が見えることに対して批判を受けることになった。
さらには、そのAI追加学習モデルを使った生成作品にキム・ジョンギ氏の名前ではなく、自分のAIをクレジット(サイン)として残していた。本当に純粋にキム・ジョンギ氏を心から追悼しようとする意図で作成した追加学習モデルだったのなら、少なくともそれを用いて出力したAI生成作品のクレジット上ではキム・ジョンギ氏の名前を記載して「彼を覚えてほしい」という姿勢を示さなければいけないのではないかという指摘が出ていた。

以後、炎上後、該当AI追加学習モデル作成者は「キム・ジョンギ氏の魂をデジタルでバックアップして、今後も彼が絵を描くことができるようにすることの何が問題なのか」という旨の発言をした。その生成物の収益の一部が遺族に行くなどであればまだ分かるが、実のところ100%AI追加学習モデル作成者に行っていて批判を避けられない。

故人の作品を勝手に追加学習の対象に選ぶことの倫理・道義について、早くも韓国を中心に話題になった出来事であった。

引用：https://namu.wiki/w/%EA%B7%B8%EB%A6%BC%20%EC%9D%B8%EA%B3%B5%EC%A7%80%EB%8A%A5/%EB%85%BC%EB%9E%80%20%EB%B0%8F%20%EC%82%AC%EA%B1%B4%20%EC%82%AC%EA%B3%A0#toc

Nekojira氏作家無断学習事件CivitAI

ツイッター50万フォロワーのNekojira氏のイラストを無断でLoRA学習させた事件が発生した。
https://twitter.com/Nekojira/status/1633882318787198978

このTwitterの投稿がされた後、多くの人が「そのAIモデルが不適切である」という反応を示した。
作家への慰めの反応や、AIモデルシェアサイトであるCivitAIの異常性に対する反応、無断追加学習AIモデルを報告しなければならないという様々な意見が出た。

引用：https://namu.wiki/w/%EA%B7%B8%EB%A6%BC%20%EC%9D%B8%EA%B3%B5%EC%A7%80%EB%8A%A5/%EB%85%BC%EB%9E%80%20%EB%B0%8F%20%EC%82%AC%EA%B1%B4%20%EC%82%AC%EA%B3%A0#toc

Niji Journey(V5) t2i『カードキャプターさくら事件』

AIインフルエンサーの一人である852話氏がいつものようにテキストでAI生成する中、『カードキャプターさくら(原作：CLAMP)』を固有名称で明示するプロンプトで生成しなかったのに、そのキャラクターそっくりの画像が生成されたとツイートをした。
このAIイラストは「90年代の同人便せん」のプロンプトで生成したという。
既存のCLAMP作品の中に似たようなイラストがないかをフォロワーに尋ねるツイートがされ、これに多くの情報提供リプライがされた。
しかし、852話氏は「原本の感じを生かしたオリジナル（？）」と結論を下し、自己の合理化をした。
https://gall.dcinside.com/mini/board/view/?id=drawing&no=41484

852話氏の行動は別として、上記事件はAI生成使用者が意図しなくても「プロンプトで直接キャラクラー名や作品名を指示せずとも有名IP盗用問題が生じること」を示唆する事例として、注目する必要がある。
今回のカードキャプターさくらのAI生成では「元作品を十二分に知っている人なら違和感に気付ける(さくらの顔が小狼っぽい・ケロちゃんがやや太っている)が、あまり知らない人から見れば公式絵だと勘違いされる」という点が挙げられる。
また、本件が実際に起こったのはNiji Journey v5上のことであり、同サービスの傾向・特徴として注意が必要である。

引用：https://namu.wiki/w/%EA%B7%B8%EB%A6%BC%20%EC%9D%B8%EA%B3%B5%EC%A7%80%EB%8A%A5/%EB%85%BC%EB%9E%80%20%EB%B0%8F%20%EC%82%AC%EA%B1%B4%20%EC%82%AC%EA%B3%A0#toc

9.【追加学習・集中学習モデルの氾濫】

LoRAに関する解説ページ→LoRAによる個人や作品の無断学習問題

Pastelmix集中学習問題

Stable Diffuison向けモデル「Pastelmix」は特定のイラストレーターの絵柄・画風を集中学習して作成された疑惑がある。
LoRAと違い、その上位層である"モデル"であるため厄介である。なお、「Pastelmix」にはLoRA版も存在する。

盗用学習モデル共有サイトCivitAIの存在

AI画像生成ユーザーの間ですら「無法地帯」と呼ばれるサイト。
このサイトで共有されている学習モデルの中には、特定の作家の絵を集中的に学習したモデル(LoRA)も多数含まれている。
また、実在する芸能人やモデル、インフルエンサーの顔を学習させたLoRAも多く共有されており、モラルが崩壊しているサイトである。
LoRAは通報の手段もあるので怪しいモデルを見つけたら通報するのがいい。削除の成功実例もある。→⇒LoRAの通報・削除申請の仕方はこちら

basilMix商用利用禁止による派生モデル使用の論争

basilmixはInstagramデータセットを使用し、アジア系の実写画像を生成できるようにStableDiffusionをファインチューニングしたモデルである。
NAIリークモデル成分も入っており、マージベースとしても利用しやすくなっている。
このモデルは実写方面はもちろん、アニメ方面にも影響を及ぼし、様々なモデルにマージベースとして利用されていた。

そのbasilmixモデルが2023年4月、商用利用禁止へ規約変更された。
basilmix、および同モデルの派生モデル利用者の商用利用に嫌気がさしたことが原因か。
「basil mixについて、ライセンスの更新を行いました　ややこしいこと書いてありますが、基本的に非営利であれば今まで通りでOKです」
https://twitter.com/nuigurumi1_KR/status/1647927779164573696

basilmixをマージして製作されたモデルの中でも代表的な「ChilloutMix」使用者などの方面へ大きく混乱・論争を呼んだ。
その後、派生モデルの中からbasilmixモデル成分を抜き取ったモデルを新規に醸成するなどの展開が起き、事態は混沌を招いている。

10.【クリエイター団体などの反応・対応】

画像生成AIを含む現状の生成AIを取り巻く問題について、国内外のクリエイター団体の中には現状に異議を唱える声明などを発表したり、知的財産権の侵害疑惑や失業・ダンピング問題などの懸念から訴訟やストライキに踏み切った団体も存在する。

詳細は「生成AIに対するクリエイター団体・企業などの反応・対応」へ。

11.【訴訟関連】

この項目では「画像生成AI」に関連する訴訟のみをまとめている。

生成系AI全般に関する訴訟をまとめたページ⇒「生成系AIに関する訴訟・法的対応一覧」

米国アーティスト3人による集団訴訟

2023年1月13日にイラストレーター、コンセプトアーティスト、コミック作者から、著作物の無断利用を理由に、開発元のStability AI.、生成サービスのmidjourney、無断学習を黙認したDeviantArt社に対して集団訴訟を提起した。

Stable Diffusion litigation · Joseph Saveri Law Firm & Matthew Butterick
https://stablediffusionlitigation.com/

アーティストの作品でAI訓練　「無断で複製された」米国で集団提訴(有料記事)（2023年4月12日-朝日新聞）
作家そっくりの作風、ChatGPTが「作品」…著作権の保護曖昧（2023年4月26日-読売新聞）

米Getty Images社による訴訟

フォトストック大手の米Getty Images社は、2023年1月17日、ロンドンの高等裁判所において、著作物・商標権の無断使用及び無断複製でStability AI社に対して訴訟を提起したと発表した。
また、2023年2月3日にアメリカ・デラウェア州地方裁判所において、Stability AI社に対して、著作物・商標権の無断利用及び無断複製を理由に訴訟を提起している。

画像生成AI「Stable Diffusion」開発元のStability AIがかつてGoogleを和解に持ち込ませたこともあるストックフォトサイトのGetty Imagesに訴えられる(2023年1月18日-GIGAZINE)
画像生成AI「Stable Diffusion」をGetty Imagesが著作権侵害で提訴、これで2回目の法的手続き（2023年2月7日-GIGAZINE）

Lensa AIに対する米イリノイ州住民の集団訴訟

2023年2月15日、Prisma Labs社が提供する画像生成AIを用いた画像編集アプリ「Lensa AI」がアメリカ・イリノイ州の住民グループより訴訟を受けた。訴状によるとLensa AIアプリ内の機能「Magic Avatars（マジックアバターズ）」において、許可なしにユーザーの顔の形状を収集した上でそれらのデータをPrismaのAIニューラルネットワークの学習に使用してデータを違法に保存しており、これはイリノイ州の「イリノイ州生体情報プライバシー法（BIPA）」に違反しているとのこと。

AI-generated art “Magic Avatars” company sued for biometric theft（2023年2月15日-Loevy&Loevy法律事務所）
Lawsuit Alleges Lensa.ai App Illegally Took Users’ Biometric Data（2023年3月16日-PetaPixel）

AIデータセットから自作品の削除を求めた写真家に対する逆訴訟

ドイツ人写真家ロバート・クネシュケ（Robert Kneschke）氏は、2023年画像生成AI「Stable Diffusion」で使用されているデータセット「LAION-5B（※非営利団体LAIONによって作成）」内にある画像を見つけられるサイト「Have I been trained?」にて自分の作品が多数見つかったため、LAION側に削除を求めた。

しかしLAIONを担当する弁護士事務所は削除を拒否し、あくまで画像ファイルへのリンクを含むデータベースのみを保存しており画像データそのものは保存していないため著作権侵害に当たらず、同氏は作品を削除する権利は持たないとの回答を示した。さらに同事務所はドイツの著作権法に基づきLAIONは不当な請求があった際損害賠償請求を行う権利があるとして、クネシュケ氏に対し合計887.03ユーロ（約13万円）の損害賠償を求めた。

弁護士事務所は、LAIONが行った学習に伴う複製行為は一時的なものであり、ドイツの著作権法による制限が適用される。LAIONはクローラを用いて自己学習アルゴリズムの学習のためネット上で画像を見つけてその情報を得るため記録・評価を行っているのであり、これらの行為は著作権法には抵触しないとした。対してクネシュケ氏は、弁護士事務所が画像データ収集の際クローラの使用に言及した事について、ほとんどの写真投稿サイトがクローラの使用を禁止している事実を踏まえるとこの話は興味深いとし、LAION設立前に画像共有サイトから削除していたはずの写真をどこから入手したのか気になるとも指摘。

弁護士事務所は、LAIONが写真家の写真を一時的にとはいえ、複製しAI学習に利用される事を拒否している事は理解しているとしながらも、この行為は法で明確に許可された行為であるとしてクネシュケ氏に対し「作品をデータセットから削除して欲しい」との要求を取り下げなければいけないとした。一方クネシュケ氏は、LAIONのようなAI関連企業は大量の著作物を使用して学習を行い利益を得ようとする。故に「写真を削除して欲しい」との要求に対し損害賠償請求を警告する事は妥当であるが、作品データ削除請求の正当性立証のため裁判で争うつもりであると述べた。

画像生成AIによる作品の無許可使用を主張した写真家が逆に損害賠償を請求される（2023年4月27日-GIGAZINE）
AI USED PHOTOGRAPHER’S PHOTOS FOR TRAINING, THEN SLAPPED HIM WITH AN INVOICE（2023年4月27日-Photography）

コミッションサイトSkebによる開示請求訴訟

2023年6月30日、生成AI製作品の納品を禁止している日本のコミッションサイト「Skeb」が、AI製作品を検出するために行っている諸対策を突破するための方法をブログに公開し、営業権の侵害等をしているとされる人物に対し発信者情報開示請求訴訟を提起した。

「コミッション」とは、イラストレーターなどの個人クリエイターが、個人クライアントから有償で依頼を受け希望に沿ったイラストやボイス等を納品する海外発の文化である。Skebはクリエイターとクライアントの仲立ちをする「コミッションサイト」であり、何かとトラブルがありクリエイター不利になりやすいコミッションにおいて、クリエイター＝クライアント間のやり取りを最低限にしクリエイター有利の環境を構築した事でヒットした。

Skebは以前よりクレジットカードの不正利用等のために同サービスを悪用されることに対し対策を行ってきた。しかしながら2022年後半より本格的な画像生成AIが次々と登場したことにより、実際に人間が描いたものなのか悪用を意図してAI製画像を使っているのか識別がより難しくなったとされる。この状況に対してSkeb社は人間の目による識別作業を行ってきたが、加えて米国企業が開発したAI製画像識別AI「HIVE」を導入したと2023年3月1日に発表。

約3か月後の6月30日、HIVEの検出を逃れる方法をブログの記事として公開していた人物に対し発信者情報開示請求訴訟を行ったと発表。該当する記事は当該人物が自主的に削除したものの、発信者情報を保有しているプロバイダから情報の提供を受け次第、当該人物に対する営業権侵害等を理由として損害賠償請求等の法的対応を実施することを検討しているとSkebは明らかにした。

画像生成AIに直接的に関係している訳ではないものの、日本で行われた画像生成AI・生成系AI関連の法的対応の事例として記述した。

本wikiのページ「画像生成AI・生成系AIに対する各種プラットフォーム等の反応・対応まとめ」にも記述有り。

イラスト生成AIを用いたSkebの不正利用への対応につきまして（2023年6月30日-Skeb）

12.【作家・クリエイターに向けた嫌がらせ】

mimic炎上後のイラストレーターお気持ち言論封殺の空気感造成

2022年8月29日から30日にかけてmimic(ミミック)が炎上する。
日本初めての画像生成AIに関する炎上では多くのイラストレーターが連鎖的に「AI学習禁止」の声を上げた。
そうしてmimicがベータサービス開始を見直す発表を30日にされた際、「絵描きのお気持ちがmimic(国内AIサービス)を潰した」という論調が生まれだした。
以降、日本国内のイラストレーターをはじめ絵を描く人々がAI画像生成に対して声を上げづらい空気感が造成させていくことになった。

同日、2022年8月30日に中国産の画像AI「ERNIE-ViLG」デモページが公開される。
「日本はこの分野でも米中の企業に遅れるかもしれない」などと懸念する声も見られ、同日の日本産AIサービスmimicの慎重な動きを受けて「日本は海外に乗り遅れる」という言葉が多用され始めるきっかけにもなった。
こうした動きがあり「また絵師(絵描き)のお気持ちで技術の進化を潰すのか」という言葉が振り回されるようになった。

「イラストやデザインの仕事はとても退屈です。芸術的であることが重要なのではなく、あなたは道具なのです。」

2022年9月13日、AI画像生成ブーム黎明期の最中のこと。Stable Diffuionを開発したStability AIのCEO、Emad氏の発言が衝撃を生んだ。

Emad Mostaque氏は、アーティストが職を失うことを心配していないと言う。このAI画像生成は、Microsoftの表計算ソフトExcelのようなツールであり、「Excelは会計士を失業させなかった。私は今でも会計士に給料を支払っている」と彼は述べた。
そして、イラストレーションやデザインなどの将来のキャリアに悩む若いアーティストへ彼が解き放った言葉が次のものであった。
「彼ら若いアーティストへの私のメッセージは、『イラスト・デザインの仕事はとても退屈だ』ということです。それは芸術的であることが重要なのではなく、あなたは道具です」
Emad氏は、新しいAI技術を使って(アーティストが)機会を見つけることを提案していた。

イラストやデザインの仕事を志す若手アーティストへのメッセージとして黎明期に残された「イラストやデザインの仕事は、とても退屈な仕事だ。芸術的であるかどうかではなく、あなたは道具なのだ」「画像生成AIは今後大きく発展していく。お金を稼ぎたいなら、新しい技術からチャンスを見つける方がずっと楽しくなるはずだ」というEmad氏の言葉は多くのアーティストの心に衝撃を与え、論争を呼んだ。
この発言はアーティストからの反感を買い、画像生成AIがどのような思想のもとで開発されたのかというイメージダウンにつながった。
「Emad氏は芸術の本質を理解していない」などの解釈が英語圏アーティストの間で発展し、氏がクリエイターの敵という人物像が造成されていく大きなきっかけとなった。

日本国内では本件を受けて、「なぜmimicは一度停止したのに海外製AIは止まらなかったのか、その答えの一つがこれでは」という声も上がった。

英語インタビュー記事
https://www.bbc.com/news/technology-62788725
日本語記事
https://www.itmedia.co.jp/news/articles/2210/26/news183.html

VTuberのファンアートタグへの投稿

女性VTuberグループ「ホロライブ」所属の大神ミオから「AIイラストにFA(ファンアート)タグをつけないでほしい」と注意喚起がなされた。
これは当人の見分けがつかないことや著作権の問題が解消されておらず、扱いが難しいためである。
しかし、それでもFAタグにAIイラストが投稿されていたことから再び注意喚起がされた。
https://twitter.com/ookamimio/status/1579754372241973248 (1回目)
https://twitter.com/ookamimio/status/1613094198881943553 (2回目)

VTuber市場でのイラストは当人の動画サムネイルやアイコンに使われる可能性があることもあって大いに賑わっているがこの事例のように無意識または悪意を持って荒らすこともできてしまう危険性を帯びている。

生成AI使用者への行き過ぎた中傷活動

スタジオ真榊の賢木イオ氏宛に遺体などの写真が送られており、2アカウントについて法的措置を検討している

https://twitter.com/studiomasakaki/status/1666679413952622593
https://twitter.com/studiomasakaki/status/1666681046300229636

13.【img2img機能による盗用・盗作事件】

img2imgに関する解説ページ→img2imgによる新手のトレパク被害

AIイラストレーターゆーます氏i2i疑惑

詳細→AIイラストレーターゆーます氏i2i疑惑

14.【リアルなフェイク画像、騙す人々騙される人々】

静岡県の水害「ドローンで撮影された浸水した街の写真」フェイク画像拡散事件

静岡県の水害巡りフェイク画像が拡散　画像生成AIを利用　投稿者はデマと認めるも「ざまあw」と開き直り
日本国内で早くも写真系のAI画像生成によるフェイク画像の問題性が話題になった例
https://www.itmedia.co.jp/news/articles/2209/26/news180.html

「白いパファーコートを着たローマ教皇の偽画像」が格好いいと拡散されるが、Midjourneyで作成された偽物

AIで“なりすまし”ビデオ通話…8500万円振り込ませる　中国で詐欺相次ぐ

中国でAIによるビデオ通話詐欺が横行し、友人に成りすますなどの手口で大金を奪い取る事件が多発。
犯行時間はものの10分で終わり、警察も捜査を行っている。
https://news.ntv.co.jp/category/international/4409eab3055e47cb8e166871903cdddd

15.【ディープフェイク、剥ぎコラアイコラ事件】

児童に関わるセンシティブ画像問題

英国の公共放送、BBCは28日に生成AIから生成される児童に関わるセンシティブ画像問題について取り上げ、日本のPixivを名指しで批判した。
パトロンサイトのPatreonに誘導する手口が紹介されおり、国際問題となっている。
ちなみに、Patreonの規約では掲載コンテンツにおいて違反が発覚した場合は、掲載者はPatreon以外の全てのサイトからも作品を消さなければ許さないとされている。

生成AIの児童性虐待画像を売買　日本のソーシャルメディアなどで
https://www.bbc.com/japanese/features-and-analysis-66038728

Illegal trade in AI child sex abuse images exposed(英語)
https://www.bbc.com/news/uk-65932372

16.【その他】

「知識基盤のレベル合わせが出来ていない」発言

生成AI問題においてこの言葉は、主に生成AIを積極的に推進する人と規制を求める人たちの間で双方が相手側を揶揄する意図で「この問題について何らかの主張を行う際に、必要な知識が欠けたまま生成AIについて推進／規制に関する意見を述べている、相手は無知な愚か者だ。」といった旨の批判をする際に用いられることが多い。この言葉の元となる発言は文化庁の職員が行ったものとされるが、相手側の無知を揶揄する際「文化庁も推進or規制側の知識が不足していると認めた」と"箔を付ける"目的で使われている場面もみられる。

恐らくこの言葉は、2024年3月19日に行われた文化庁の「第69回文化審議会著作権分科会」内における、籾井著作権課長（文化庁）の発言に基づいているものと思われる。

以下は、文化庁「第69回文化審議会著作権分科会」の議事内容のうち、籾井著作権課長の該当部分と思われる発言とその前後部分を引用したもの。下線部分は当wiki編集者が追加。

ありがとうございました。
様々な御意見を頂戴しました。多くのものは、議論の過程におきまして個別に意見交換もさせていただいている中で表明されたものなのかなと思っておりまして、そういう意味では、今回の現行規定の中で反映できるものについては、一定程度懸念を踏まえて今回の考え方をまとめさせていただいております。
一方で、今後も引き続き検討を継続的にしていくべきだという御意見を頂戴しております。文化庁におきましては、相談窓口を現在、設けておりまして、そういったところでの具体の事例の収集、それから、諸外国での様々な議論の動向、そしてまた、技術の進展、こういったところも踏まえまして、今後も引き続き必要に応じて検討を行っていきたいというふうに考えております。
それから、この周知の仕方でございますけれども、何名かの方から御指摘をいただきましたように、今の考え方そのものだとなかなか御理解をいただけませんので、それぞれの当事者にとって分かりやすいような形でポイントをまとめて発信していきたいと思っております。この際、関係省庁とも既にいろんな形で連携はしておりますけれども、一本化までできるかどうかはちょっとともかくとして、しっかり連携をしながら、まとまった形での発信ができるように考えていきたいと思っております。
それから、先ほど冒頭の説明の中で簡単に御紹介をさせていただきましたけれども、参考資料2で、AIと著作権に関する関係者ネットワーク（仮称）についてという資料をお配りしております。この一連の議論の過程の中で、双方、権利者サイド、それから事業者サイド、そして恐らく利用者に当たる方々もだと思うんですけれども、なかなか知識基盤というんですか、このレベル合わせができていないというところもございました。法律の解釈で全てを解決するというのは非常に難しい分野もございますので、このネットワークを通じまして、当事者間の適切なコミュニケーションが図られることを進めていきたいというふうに思っております。
2ポツのところに目的を書かせていただいておりますけれども、事業者とクリエイター双方のより正確な理解を促進する観点から、例えば、AI技術についての共通理解の促進、それから、AI学習のための著作物等のライセンスの実施状況の共有、それから海賊版サイトの可視化、こういったことを情報共有することで相互理解が促進されていくことで、この先の在り方を議論する上でも信頼関係が構築されていくのではないかというふうに考えておりまして、文化庁としても皆様の懸念というものに、こういう場も使いながら少しずつ向き合っていきたいというふうに考えております。現在準備を進めているところでございまして、4月中をめどにできれば第1回を開催したいというふうに考えております。
以上でございます。

参考

韓国のAIについての有志wiki（그림 인공지능/논란 및 사건 사고）