LoRAによる個人や作品の無断学習問題 - AI画像生成・生成系AI 問題まとめwiki

このページでは【作家の絵柄を狙い撃ちで学習する】LoRAについて説明します。また、特定のキャラクター、特定の作風を生成するためにもLoRAは使用されます。
Twitterなどで「自分の絵柄を簡単に出力できるAIモデルが作られた」という被害報告が日々絶えず、問題となっています。
⇒LoRAの通報・削除申請の仕方はこちら
⇒画像生成AIによる具体的な被害事例は「画像生成AI　炎上・論争・被害事例まとめ」へ
⇒画像生成AIの総合的な問題点については「画像生成AIは何が問題なのか？」へ

サムネイル画像

• 下の画像はSNS等にこのwikiのURLを貼り付けた際表示されるサムネイルとなることを想定して作った画像です。仮の画像ですので自由に差し替えて頂いて構いません。

【目次】

LoRA(ロラ、ローラ)とは

• LoRAの通報・削除申請の仕方はこちら

【LoRAの概要】

• 簡単に言うとモデルに追加データを与えることで「特定の人物の見た目にする」「作家の絵柄を真似る」「特定の作風を混ぜる」「通常の生成では破綻するポーズ」「特定のキャラクター」「特定のオブジェクト」「特定の背景」などを出力させるための仕組み
• 例えば、SDローカル環境が「ゲームハード」モデルが「ゲームソフト」ならLoRAは「DLC」のような関係性である
• DLCと例えたが、どのモデルにもLoRAは適用可能
• 追加データそのものは容量が大きくなくネット上でのやり取りが容易
• 特に「CivitAI」と呼ばれるサイトでは有名絵師の絵柄、有名芸能人、有名政治家、人気キャラのLoRAが日々投稿されており、AI利用者からも無法地帯と呼ばれている
• 従来の追加学習に比べ必要スペックが低く個人で制作が可能となっており、学習方法も動画やブログでも紹介されていて敷居が低い

【LoRAの仕様】

• SD(Stable Diffusion)ローカル環境で使用されるもの
• LoRA作成のことを学習と呼ぶこともある
• ベースモデルに加えて追加学習した内容を生成時に付与する
• わかりやすく言うと「ベースモデルの絵柄×LoRAの絵柄」になる
• スライダーや数値を変更するとLoRAの影響度合いを変えることができ、「作家Aの絵柄と作家Bの絵柄をミックス」して使われることもある

少ない枚数から一個人でも制作できるため、作品無断学習の温床である

• 少なくて数枚～25枚の画像からでも特徴を学習され、ローカルの画像生成時に使用されてしまう
• 「昔のゲームのキャラクター」などインターネット上に画像が少なくファンアートが少ない作品でも、少ない枚数でLoRA作成→AIで数枚吐き出し→LoRA再作成される
• よって、作品点数が少ないイラスト投稿者・作家でも絵柄やオリジナルキャラクターを学習されるリスクがある

一度LoRAが作成されるとアングラな場所で共有されるリスクがある

• LoRAモデルは配布されていてCivitAIなどのサイトで出回っている
• 主な拡張子は「safetensors」「pt」
• 数枚～30枚程度の少ない画像から作成されるため、LoRAを使用した出力画像から新規にLoRAを作成することも可能である
• LoRA作成時に特定のタグ付けをし、特定のプロンプトを記入することで特定の作家の絵柄を引き出すモデルにも注意が必要(トリガータグと言われる)

LoRAが出回ってるサイトはあくまで表に出ているものだけ

• 個人で作成してアップロードせず使っているAI生成者も多い。自分の絵柄が知らないうちに集中学習されてる可能性もある。
• CivitAIで非ログイン状態、またはNSFW表示をオフにしていると表示されないLoRAもある。
• ファイルサイズが軽い(6MB前後)のが特徴なので、観測できない場所で共有されている可能性もある。

たとえ「絵描きが自分の作品のみでLoRAをつくった」としてもクリーンではない

• LoRA作成の際にはSDの任意のモデルを指定する必要がある。学習結果はそのモデルに影響を受け、生成物の見た目もLoRAを適用してもモデルによって変わる
• よってLoRAの作成はSDの各モデルのデータセットにどこかしら依存したものになる
• たとえ「絵描きが自分の作品のみでLoRAをつくった」としても上述の通りベースモデルの指定があるため完全クリーンにならない
• また自分の作品のみでLoRAをつくったとしても、使用する環境は「ベースモデルの絵柄×LoRAの絵柄」なため、出力はクリーンにならない

• 「絵描き自分の絵だけで学習したLoRA」を適用してAI画像生成しても、生成するベースモデルによって結果が変わる
• 例：AOM(アビスオレンジミックス)系統だと服の上から「おへその凹み」や「水着などの上に浮き出る人体のディティール」が協調して表現される
• 例：Pastelmix(パステルミックス)系統だとフラットな面塗り調に近づき、背景に植物や輪っか状のオブジェクトが頻出する
• 現状において、LoRAのみで「自分の作品のみを学習させたクリーンなAI生成環境」をつくることはできない
• 知識がないまま「LoRAで自分の絵の作業効率を向上させる」と論じるクリエイターもいるため認知と注意が必要である。

各キャラクターコンテンツ公式などが配布している"公式LoRA"の問題点

• 許諾がある画像からのみ作成したLoRAの配布

　LoRA学習したファイルを絵師がBooth販売、もしくは公式が2次創作用に配布することで、公式LoRAを作り権利的関係をクリアしようという提言が一部の推進派からあがった。
　一見、追加学習データに公認画像のみつかうことで許諾が得れたように思えるが、LoRA作成の際にはSDの任意のモデルを指定する必要がある。
　学習結果はそのモデルに影響を受け、生成物の見た目もLoRAを適用してもモデルによって変わる。
　よってLoRAの作成はSDの各モデルのデータセットにどこかしら依存したものになり、クリーンになったとは言い難い。

• キャラクター再現用公式LoRAの悪用

　LoRAも通常のSDの学習と同じく特徴量を学習する。
　そのため、キャラの見た目再現用にLoRAを作って配布したとしても、利用者がモデルを態と違うものに差し替えてプロンプトを工夫することにより、キャラ再現LoRAを絵柄再現LoRAとして使うこともできるという問題点がある。

　「LoRAを自分とこの素材のみで学習したから安全！配布しても大丈夫」という考えのもと配布している所もあるが、注意が必要。

• AI画像生成に対する知識は、実際に使用している層ですら情報を追いきれないほど日々複雑化している。
• AI画像生成やLoRAに対する知識がなく、ふわふわとしたビジョンでLoRA配布を推し進めてるキャラクタープロダクトもある。
• どのモデルがクリーンじゃないなどを把握しきれてない言動が見られるプロダクト元には注意しましょう。

LoRAによる被害・問題性

狙い撃ちによる学習

　特定の絵柄を真似る事を目的としたLoRAの場合、前述のLoRAが少ない画像枚数で作れる関係上、学習元の類似物が生成される可能性が高くなる。
　心情的にも学習された側は勝手にAIに真似をされた、絵を盗まれたと言った感覚になりやすい。
　上記の現象に対して「学習のための画像利用は改正著作権法で認められている」という反論があがる事もあるが、著作権法４７条の７が適用されるのは「情報解析を行う者の用に供するために作成されたデータベースの著作物」を利用する行為のみであり生成画像をインターネットに投稿する。
　ましてや、学習結果の配布などは認められていない。

イラストレーター・漫画家などの作品学習モデルのLoRA配布

　ただ好きで絵柄を再現するために使われるだけではない

• 「手描き感を出すために作家Aと作家Bの絵柄をミックス、ひとつまみ」という風に使われる可能性もある
• リスペクト精神は必ずしも存在するとは限らない
• 「絵柄と絵柄を混ぜて新しいオリジナルの絵柄をつくる」という考えの元、使用される恐れがある

作家名を伏せて匂わせる名称で配布されているものもあり注意が必要

• 検索しても出てこないので水面下で広まっている可能性がある
• 例えば、「cute style lora」や「Top Artist Styele」のような名称で配布されている
• 「絵柄はどう見てもその人」なのに名前を伏せているため確定性から逃げている問題

AIファンアートを禁止しているVTuberプロダクションのLoRA配布

• 所属VTuber自ら「ファンアートは手で描いて」と声明を出したり、「間違えてAIのファンアートをサムネに使ってしまった」と謝罪している
• 手描きのファンアートを尊重することは、ファンとの間で文化をつくっていくために重要なことである
• LoRAが作成され、CivitAIなどのサイトで配布されるとAI画像生成でファンアートをつくる敷居を下げてしまうことに繋がる
• VTuber事務所「ぶいすぽっ！」ではR18のファンアートを全面的に禁止しているが、同事務所のVTuberのLoRAも作成されている

イメージを傷つけるファンアートを禁止している作品のLoRA配布

• pixivウマエロアカウント停止騒動 (通称ウマエロ・ウマシコ)

　株式会社Cygamesが運営するゲーム「ウマ娘プリティーダービー」では実在する競走馬をモチーフとしたキャラクター（所謂生もの）を取り扱うため、公式の2次創作ガイドラインに「暴力的・グロテスクなもの、または性的描写を含むもの」創作物の公開は禁止されている。

　実際にこのコンテンツのアンチがとあるキャラクターの性的画像を描いてもいいというデマを流し、馬主より一時的にゲーム内のキャラのイラストが一時的に全面禁止されたとう事もあったため、ウマ娘の2次創作を行う人でもコミッション等ではこの作品のR-18は取り扱わないといった配慮がされていた。

　2023年3月ごろLoRA学習を利用してAIをウマ娘キャラクターのAI画像を投稿し、R-18画像をPixivFANBOXなどで有料公開する人物がTwitterを中心に問題となり炎上騒動となった。最終的にこの人物のPixivアカウントは権利者削除となったが、金銭目的のAIによる画像生成のアンモラル差を浮彫にする事件となった。

実在のモデル・女優・アイドルなどの実写LoRA配布

• 実在人物のポルノやディープフェイク

　AIのモデルがリアル系の画像生成である場合、LoRA学習に特定の人物を用いることで、その人物の写真のような画像が生成可能となる。
　名誉棄損になるような内容であったり、ディープフェイクを作れてしまう。

LoRA学習の被害にあったクリエイター・作品など

　【参考】特定の作家模倣・又は特定の目的に特化した生成AI一覧→https://w.atwiki.jp/ai-illust/pages/36.html

LoRAの通報・削除の仕方(CivitAI)

• LoRAを作成された本人が通報する場合 (削除実例あり)

　[CivitAIログイン]⇒[Report]⇒[This uses my art]⇒[自分の絵やメールアドレス入力]

• 他の人が通報する場合

　[CivitAIログイン]⇒[Report]⇒[TOS Violation(利用規約違反)]⇒[False impersonation(なりすまし)]⇒Submit

参考：https://twitter.com/kunitarouart/status/1648334130168623104