atwiki-logo
  • 新規作成
    • 新規ページ作成
    • 新規ページ作成(その他)
      • このページをコピーして新規ページ作成
      • このウィキ内の別ページをコピーして新規ページ作成
      • このページの子ページを作成
    • 新規ウィキ作成
  • 編集
    • ページ編集
    • ページ編集(簡易版)
    • ページ名変更
    • メニュー非表示でページ編集
    • ページの閲覧/編集権限変更
    • ページの編集モード変更
    • このページにファイルをアップロード
    • メニューを編集
    • 右メニューを編集
  • バージョン管理
    • 最新版変更点(差分)
    • 編集履歴(バックアップ)
    • アップロードファイル履歴
    • ページ操作履歴
  • ページ一覧
    • ページ一覧
    • このウィキのタグ一覧
    • このウィキのタグ(更新順)
    • このページの全コメント一覧
    • このウィキの全コメント一覧
    • おまかせページ移動
  • RSS
    • このウィキの更新情報RSS
    • このウィキ新着ページRSS
  • ヘルプ
    • ご利用ガイド
    • Wiki初心者向けガイド(基本操作)
    • このウィキの管理者に連絡
    • 運営会社に連絡(不具合、障害など)
ページ検索 メニュー
AI画像生成・生成系AI 問題まとめwiki
  • ウィキ募集バナー
  • 目安箱バナー
  • 操作ガイド
  • 新規作成
  • 編集する
  • 全ページ一覧
  • 登録/ログイン
ページ一覧
AI画像生成・生成系AI 問題まとめwiki
  • ウィキ募集バナー
  • 目安箱バナー
  • 操作ガイド
  • 新規作成
  • 編集する
  • 全ページ一覧
  • 登録/ログイン
ページ一覧
AI画像生成・生成系AI 問題まとめwiki
ページ検索 メニュー
  • 新規作成
  • 編集する
  • 登録/ログイン
  • 管理メニュー
管理メニュー
  • 新規作成
    • 新規ページ作成
    • 新規ページ作成(その他)
      • このページをコピーして新規ページ作成
      • このウィキ内の別ページをコピーして新規ページ作成
      • このページの子ページを作成
    • 新規ウィキ作成
  • 編集
    • ページ編集
    • ページ編集(簡易版)
    • ページ名変更
    • メニュー非表示でページ編集
    • ページの閲覧/編集権限変更
    • ページの編集モード変更
    • このページにファイルをアップロード
    • メニューを編集
    • 右メニューを編集
  • バージョン管理
    • 最新版変更点(差分)
    • 編集履歴(バックアップ)
    • アップロードファイル履歴
    • ページ操作履歴
  • ページ一覧
    • このウィキの全ページ一覧
    • このウィキのタグ一覧
    • このウィキのタグ一覧(更新順)
    • このページの全コメント一覧
    • このウィキの全コメント一覧
    • おまかせページ移動
  • RSS
    • このwikiの更新情報RSS
    • このwikiの新着ページRSS
  • ヘルプ
    • ご利用ガイド
    • Wiki初心者向けガイド(基本操作)
    • このウィキの管理者に連絡
    • 運営会社に連絡する(不具合、障害など)
  • atwiki
  • AI画像生成・生成系AI 問題まとめwiki
  • LoRAによる個人や作品の無断学習問題

AI画像生成・生成系AI 問題まとめwiki

LoRAによる個人や作品の無断学習問題

最終更新:2023年08月26日 23:03

sankakuyama

- view
メンバー限定 登録/ログイン
このページでは【作家の絵柄を狙い撃ちで学習する】LoRAについて説明します。また、特定のキャラクター、特定の作風を生成するためにもLoRAは使用されます。
Twitterなどで「自分の絵柄を簡単に出力できるAIモデルが作られた」という被害報告が日々絶えず、問題となっています。
⇒LoRAの通報・削除申請の仕方はこちら
⇒画像生成AIによる具体的な被害事例は「画像生成AI 炎上・論争・被害事例まとめ」へ
⇒画像生成AIの総合的な問題点については「画像生成AIは何が問題なのか?」へ

+ サムネイル画像
  • 下の画像はSNS等にこのwikiのURLを貼り付けた際表示されるサムネイルとなることを想定して作った画像です。仮の画像ですので自由に差し替えて頂いて構いません。


【目次】
  • LoRA(ロラ、ローラ)とは
    • 少ない枚数から一個人でも制作できるため、作品無断学習の温床である
      • 一度LoRAが作成されるとアングラな場所で共有されるリスクがある
      • LoRAが出回ってるサイトはあくまで表に出ているものだけ
      • たとえ「絵描きが自分の作品のみでLoRAをつくった」としてもクリーンではない
    • 各キャラクターコンテンツ公式などが配布している"公式LoRA"の問題点
  • LoRAによる被害・問題性
    • 狙い撃ちによる学習
    • イラストレーター・漫画家などの作品学習モデルのLoRA配布
      • 作家名を伏せて匂わせる名称で配布されているものもあり注意が必要
    • AIファンアートを禁止しているVTuberプロダクションのLoRA配布
    • イメージを傷つけるファンアートを禁止している作品のLoRA配布
    • 実在のモデル・女優・アイドルなどの実写LoRA配布
  • LoRA学習の被害にあったクリエイター・作品など
  • LoRAの通報・削除の仕方(CivitAI)

LoRA(ロラ、ローラ)とは

  • LoRAの通報・削除申請の仕方はこちら

【LoRAの概要】
  • 簡単に言うとモデルに追加データを与えることで「特定の人物の見た目にする」「作家の絵柄を真似る」「特定の作風を混ぜる」「通常の生成では破綻するポーズ」「特定のキャラクター」「特定のオブジェクト」「特定の背景」などを出力させるための仕組み
  • 例えば、SDローカル環境が「ゲームハード」モデルが「ゲームソフト」ならLoRAは「DLC」のような関係性である
  • DLCと例えたが、どのモデルにもLoRAは適用可能
  • 追加データそのものは容量が大きくなくネット上でのやり取りが容易
  • 特に「CivitAI」と呼ばれるサイトでは有名絵師の絵柄、有名芸能人、有名政治家、人気キャラのLoRAが日々投稿されており、AI利用者からも無法地帯と呼ばれている
  • 従来の追加学習に比べ必要スペックが低く個人で制作が可能となっており、学習方法も動画やブログでも紹介されていて敷居が低い

【LoRAの仕様】
  • SD(Stable Diffusion)ローカル環境で使用されるもの
  • LoRA作成のことを学習と呼ぶこともある
  • ベースモデルに加えて追加学習した内容を生成時に付与する
  • わかりやすく言うと「ベースモデルの絵柄×LoRAの絵柄」になる
  • スライダーや数値を変更するとLoRAの影響度合いを変えることができ、「作家Aの絵柄と作家Bの絵柄をミックス」して使われることもある

少ない枚数から一個人でも制作できるため、作品無断学習の温床である

  • 少なくて数枚~25枚の画像からでも特徴を学習され、ローカルの画像生成時に使用されてしまう
  • 「昔のゲームのキャラクター」などインターネット上に画像が少なくファンアートが少ない作品でも、少ない枚数でLoRA作成→AIで数枚吐き出し→LoRA再作成される
  • よって、作品点数が少ないイラスト投稿者・作家でも絵柄やオリジナルキャラクターを学習されるリスクがある

一度LoRAが作成されるとアングラな場所で共有されるリスクがある

  • LoRAモデルは配布されていてCivitAIなどのサイトで出回っている
  • 主な拡張子は「safetensors」「pt」
  • 数枚~30枚程度の少ない画像から作成されるため、LoRAを使用した出力画像から新規にLoRAを作成することも可能である
  • LoRA作成時に特定のタグ付けをし、特定のプロンプトを記入することで特定の作家の絵柄を引き出すモデルにも注意が必要(トリガータグと言われる)

LoRAが出回ってるサイトはあくまで表に出ているものだけ

  • 個人で作成してアップロードせず使っているAI生成者も多い。自分の絵柄が知らないうちに集中学習されてる可能性もある。
  • CivitAIで非ログイン状態、またはNSFW表示をオフにしていると表示されないLoRAもある。
  • ファイルサイズが軽い(6MB前後)のが特徴なので、観測できない場所で共有されている可能性もある。

たとえ「絵描きが自分の作品のみでLoRAをつくった」としてもクリーンではない

  • LoRA作成の際にはSDの任意のモデルを指定する必要がある。学習結果はそのモデルに影響を受け、生成物の見た目もLoRAを適用してもモデルによって変わる
  • よってLoRAの作成はSDの各モデルのデータセットにどこかしら依存したものになる
  • たとえ「絵描きが自分の作品のみでLoRAをつくった」としても上述の通りベースモデルの指定があるため完全クリーンにならない
  • また自分の作品のみでLoRAをつくったとしても、使用する環境は「ベースモデルの絵柄×LoRAの絵柄」なため、出力はクリーンにならない

  • 「絵描き自分の絵だけで学習したLoRA」を適用してAI画像生成しても、生成するベースモデルによって結果が変わる
  • 例:AOM(アビスオレンジミックス)系統だと服の上から「おへその凹み」や「水着などの上に浮き出る人体のディティール」が協調して表現される
  • 例:Pastelmix(パステルミックス)系統だとフラットな面塗り調に近づき、背景に植物や輪っか状のオブジェクトが頻出する
  • 現状において、LoRAのみで「自分の作品のみを学習させたクリーンなAI生成環境」をつくることはできない
  • 知識がないまま「LoRAで自分の絵の作業効率を向上させる」と論じるクリエイターもいるため認知と注意が必要である。

各キャラクターコンテンツ公式などが配布している"公式LoRA"の問題点

  • 許諾がある画像からのみ作成したLoRAの配布
 LoRA学習したファイルを絵師がBooth販売、もしくは公式が2次創作用に配布することで、公式LoRAを作り権利的関係をクリアしようという提言が一部の推進派からあがった。
 一見、追加学習データに公認画像のみつかうことで許諾が得れたように思えるが、LoRA作成の際にはSDの任意のモデルを指定する必要がある。
 学習結果はそのモデルに影響を受け、生成物の見た目もLoRAを適用してもモデルによって変わる。
 よってLoRAの作成はSDの各モデルのデータセットにどこかしら依存したものになり、クリーンになったとは言い難い。

  • キャラクター再現用公式LoRAの悪用
 LoRAも通常のSDの学習と同じく特徴量を学習する。
 そのため、キャラの見た目再現用にLoRAを作って配布したとしても、利用者がモデルを態と違うものに差し替えてプロンプトを工夫することにより、キャラ再現LoRAを絵柄再現LoRAとして使うこともできるという問題点がある。

 「LoRAを自分とこの素材のみで学習したから安全!配布しても大丈夫」という考えのもと配布している所もあるが、注意が必要。
  • AI画像生成に対する知識は、実際に使用している層ですら情報を追いきれないほど日々複雑化している。
  • AI画像生成やLoRAに対する知識がなく、ふわふわとしたビジョンでLoRA配布を推し進めてるキャラクタープロダクトもある。
  • どのモデルがクリーンじゃないなどを把握しきれてない言動が見られるプロダクト元には注意しましょう。

LoRAによる被害・問題性

狙い撃ちによる学習

 特定の絵柄を真似る事を目的としたLoRAの場合、前述のLoRAが少ない画像枚数で作れる関係上、学習元の類似物が生成される可能性が高くなる。
 心情的にも学習された側は勝手にAIに真似をされた、絵を盗まれたと言った感覚になりやすい。
 上記の現象に対して「学習のための画像利用は改正著作権法で認められている」という反論があがる事もあるが、著作権法47条の7が適用されるのは「情報解析を行う者の用に供するために作成されたデータベースの著作物」を利用する行為のみであり生成画像をインターネットに投稿する。
 ましてや、学習結果の配布などは認められていない。

イラストレーター・漫画家などの作品学習モデルのLoRA配布

 ただ好きで絵柄を再現するために使われるだけではない
  • 「手描き感を出すために作家Aと作家Bの絵柄をミックス、ひとつまみ」という風に使われる可能性もある
  • リスペクト精神は必ずしも存在するとは限らない
  • 「絵柄と絵柄を混ぜて新しいオリジナルの絵柄をつくる」という考えの元、使用される恐れがある

作家名を伏せて匂わせる名称で配布されているものもあり注意が必要

  • 検索しても出てこないので水面下で広まっている可能性がある
  • 例えば、「cute style lora」や「Top Artist Styele」のような名称で配布されている
  • 「絵柄はどう見てもその人」なのに名前を伏せているため確定性から逃げている問題

AIファンアートを禁止しているVTuberプロダクションのLoRA配布

  • 所属VTuber自ら「ファンアートは手で描いて」と声明を出したり、「間違えてAIのファンアートをサムネに使ってしまった」と謝罪している
  • 手描きのファンアートを尊重することは、ファンとの間で文化をつくっていくために重要なことである
  • LoRAが作成され、CivitAIなどのサイトで配布されるとAI画像生成でファンアートをつくる敷居を下げてしまうことに繋がる
  • VTuber事務所「ぶいすぽっ!」ではR18のファンアートを全面的に禁止しているが、同事務所のVTuberのLoRAも作成されている

イメージを傷つけるファンアートを禁止している作品のLoRA配布

  • pixivウマエロアカウント停止騒動 (通称ウマエロ・ウマシコ)
 株式会社Cygamesが運営するゲーム「ウマ娘プリティーダービー」では実在する競走馬をモチーフとしたキャラクター(所謂生もの)を取り扱うため、公式の2次創作ガイドラインに「暴力的・グロテスクなもの、または性的描写を含むもの」創作物の公開は禁止されている。

 実際にこのコンテンツのアンチがとあるキャラクターの性的画像を描いてもいいというデマを流し、馬主より一時的にゲーム内のキャラのイラストが一時的に全面禁止されたとう事もあったため、ウマ娘の2次創作を行う人でもコミッション等ではこの作品のR-18は取り扱わないといった配慮がされていた。

 2023年3月ごろLoRA学習を利用してAIをウマ娘キャラクターのAI画像を投稿し、R-18画像をPixivFANBOXなどで有料公開する人物がTwitterを中心に問題となり炎上騒動となった。最終的にこの人物のPixivアカウントは権利者削除となったが、金銭目的のAIによる画像生成のアンモラル差を浮彫にする事件となった。

実在のモデル・女優・アイドルなどの実写LoRA配布

  • 実在人物のポルノやディープフェイク
 AIのモデルがリアル系の画像生成である場合、LoRA学習に特定の人物を用いることで、その人物の写真のような画像が生成可能となる。
 名誉棄損になるような内容であったり、ディープフェイクを作れてしまう。

LoRA学習の被害にあったクリエイター・作品など

 【参考】特定の作家模倣・又は特定の目的に特化した生成AI一覧→https://w.atwiki.jp/ai-illust/pages/36.html

LoRAの通報・削除の仕方(CivitAI)

  • LoRAを作成された本人が通報する場合 (削除実例あり)
 [CivitAIログイン]⇒[Report]⇒[This uses my art]⇒[自分の絵やメールアドレス入力]

  • 他の人が通報する場合
 [CivitAIログイン]⇒[Report]⇒[TOS Violation(利用規約違反)]⇒[False impersonation(なりすまし)]⇒Submit

参考:https://twitter.com/kunitarouart/status/1648334130168623104
「LoRAによる個人や作品の無断学習問題」をウィキ内検索
LINE
シェア
Tweet
AI画像生成・生成系AI 問題まとめwiki
記事メニュー

メニュー

  • トップページ
  • 用語集
  • AI画像生成・生成系AI問題年表
+ 2021年以前~2025年
    • 2025年
    • 2024年
    • 2023年
    • 2022年
    • 2021年以前
  • 生成系AIに関する記事・資料集
  • ★ 編集に興味がある方はこちらへ ★

基礎知識

  • 生成AIは何が問題なのか?
  • 画像生成AIは何が問題なのか?
    • img2imgによる新手のトレパク被害
    • LoRAによる個人や作品の無断学習問題
  • 画像生成AI 関連人物
  • AIと人間の学習の違いについて
  • AIイラストの見分け方
  • 主要なAI画像生成サービス
  • 画像生成AI・生成系AIに対する各種プラットフォーム等の反応・対応まとめ
  • 生成AIに対するクリエイター団体・企業などの反応・対応
    • アート・イラスト関連団体の反応・対応
    • 音楽関連団体の反応・対応
  • 生成AIに関する訴訟・法的対応一覧

主な出来事・事例

  • 画像生成AI 炎上・論争・被害事例まとめ
  • よー清水さんによる画像生成AIに関するアンケート調査結果
  • 画像生成AIに対する法整備を求める記者会見がNHKニュースで放送
  • 日本テレビ系NEWSZEROで生成AI問題を取り上げるも、放送内容に物議を醸す
  • AIイラストレーターゆーます氏i2i疑惑
  • AIグラドル「さつきあい」
  • pixivウマエロアカウント停止騒動
  • AIイラスト支援サービス「petapi」
  • 自動着彩ツール「CoPainter」
  • 自動線画合成ツール「CoPainter」
  • 国際著作権シンポジウム  赤松健参議院議員の講演 英語翻訳版

法律・政治・規制・調査

  • 生成AIに関する日本政府・官公庁・議員の動向
    • 著作権法第三十条の四
  • 各国の生成系AIへの対応・規制まとめ
  • クリエイター関連で提唱されている生成AI規制案
  • 生成AIに関する調査・アンケートの一覧

被害対策

  • 自作品を守るためにできること
    • AI学習防止ツール「Glaze」について【利用方法・意義】
  • 権利侵害の通報・相談窓口

現状を変えるために

  • 政府・議員・団体に対する問い合わせ
  • 署名・募金
  • クリエイター支援団体

関連リンク

日本語

  • ai-illust @ ウィキ
  • AIイラスト利用まとめWiki
  • Wikipedia「生成的人工知能」
  • Wikipedia「人工知能アート」
  • 生成AIに関する問題・リスク・規制などの情報まとめ

英語

  • createdontscrape
⇒現行の生成AIの問題点や悪用事例などについてまとめたサイト。
  • LUDDITE PRO(ラッダイト・プロ)
⇒現行の生成AIの問題点や悪用事例などについてまとめたサイト。
  • Chat GPT Is Eating the World
⇒生成AIに関する規制や訴訟などの最新の動向をまとめたサイト。

その他言語

  • 그림 인공지능/논란 및 사건 사고(イラスト人工知能/議論と事件事故)
⇒現状の画像生成AIに関して発生した問題や悪用事例などをまとめた韓国語のwikiサイト。




ここを編集
記事メニュー2

更新履歴

取得中です。


ここを編集
人気記事ランキング
  1. 画像生成AI・生成系AIに対する各種プラットフォーム等の反応・対応まとめ
  2. 自作品を守るためにできること
  3. 画像生成AI 炎上・論争・被害事例まとめ
  4. 主要なAI画像生成サービス
  5. 生成AIに関する日本政府・官公庁・議員の動向
  6. 各国の生成系AIへの対応・規制まとめ
  7. 生成AIに関する訴訟・法的対応一覧
  8. AI学習防止ツール「Glaze」について【利用方法・意義】
  9. 画像生成AIは何が問題なのか?
  10. AIイラストの見分け方
もっと見る
最近更新されたページ
  • 3時間前

    AI画像生成・生成系AI問題年表/2025年(AI画像生成・生成系AI問題年表)
  • 14日前

    生成AIに関する訴訟・法的対応一覧
  • 14日前

    画像生成AI・生成系AIに対する各種プラットフォーム等の反応・対応まとめ
  • 27日前

    AI画像生成・生成系AI問題年表/2023年(AI画像生成・生成系AI問題年表)
  • 27日前

    トップページ
  • 38日前

    画像生成AIは何が問題なのか?
  • 38日前

    画像生成AI 炎上・論争・被害事例まとめ
  • 42日前

    各国の生成系AIへの対応・規制まとめ
  • 42日前

    生成AIは何が問題なのか?
  • 71日前

    主要なAI画像生成サービス
もっと見る
人気記事ランキング
  1. 画像生成AI・生成系AIに対する各種プラットフォーム等の反応・対応まとめ
  2. 自作品を守るためにできること
  3. 画像生成AI 炎上・論争・被害事例まとめ
  4. 主要なAI画像生成サービス
  5. 生成AIに関する日本政府・官公庁・議員の動向
  6. 各国の生成系AIへの対応・規制まとめ
  7. 生成AIに関する訴訟・法的対応一覧
  8. AI学習防止ツール「Glaze」について【利用方法・意義】
  9. 画像生成AIは何が問題なのか?
  10. AIイラストの見分け方
もっと見る
最近更新されたページ
  • 3時間前

    AI画像生成・生成系AI問題年表/2025年(AI画像生成・生成系AI問題年表)
  • 14日前

    生成AIに関する訴訟・法的対応一覧
  • 14日前

    画像生成AI・生成系AIに対する各種プラットフォーム等の反応・対応まとめ
  • 27日前

    AI画像生成・生成系AI問題年表/2023年(AI画像生成・生成系AI問題年表)
  • 27日前

    トップページ
  • 38日前

    画像生成AIは何が問題なのか?
  • 38日前

    画像生成AI 炎上・論争・被害事例まとめ
  • 42日前

    各国の生成系AIへの対応・規制まとめ
  • 42日前

    生成AIは何が問題なのか?
  • 71日前

    主要なAI画像生成サービス
もっと見る
ウィキ募集バナー
新規Wikiランキング

最近作成されたWikiのアクセスランキングです。見るだけでなく加筆してみよう!

  1. MadTown GTA (Beta) まとめウィキ
  2. R.E.P.O. 日本語解説Wiki
  3. 機動戦士ガンダム EXTREME VS.2 INFINITEBOOST wiki
  4. シュガードール情報まとめウィキ
  5. AviUtl2のWiki
  6. SYNDUALITY Echo of Ada 攻略 ウィキ
  7. ソードランページ @ 非公式wiki
  8. シミュグラ2Wiki(Simulation Of Grand2)GTARP
  9. 星飼いの詩@ ウィキ
  10. ドラゴンボール Sparking! ZERO 攻略Wiki
もっと見る
人気Wikiランキング

atwikiでよく見られているWikiのランキングです。新しい情報を発見してみよう!

  1. アニヲタWiki(仮)
  2. ストグラ まとめ @ウィキ
  3. ゲームカタログ@Wiki ~名作からクソゲーまで~
  4. MadTown GTA (Beta) まとめウィキ
  5. 初音ミク Wiki
  6. 機動戦士ガンダム バトルオペレーション2攻略Wiki 3rd Season
  7. 検索してはいけない言葉 @ ウィキ
  8. 発車メロディーwiki
  9. Grand Theft Auto V(グランドセフトオート5)GTA5 & GTAオンライン 情報・攻略wiki
  10. オレカバトル アプリ版 @ ウィキ
もっと見る
全体ページランキング

最近アクセスの多かったページランキングです。話題のページを見に行こう!

  1. 参加者一覧 - ストグラ まとめ @ウィキ
  2. 魔獣トゲイラ - バトルロイヤルR+α ファンフィクション(二次創作など)総合wiki
  3. 可愛い逃亡者(トムとジェリー) - アニヲタWiki(仮)
  4. ロスサントス警察 - ストグラ まとめ @ウィキ
  5. ダギ・イルス - 機動戦士ガンダム バトルオペレーション2攻略Wiki 3rd Season
  6. 美食神アカシア - アニヲタWiki(仮)
  7. 戦姫絶唱シンフォギアXD UNLIMITED - アニヲタWiki(仮)
  8. コメント/雑談・質問 - マージマンション@wiki
  9. 岩倉具視 - アニヲタWiki(仮)
  10. 乗り物一覧 - Grand Theft Auto V(グランドセフトオート5)GTA5 & GTAオンライン 情報・攻略wiki
もっと見る

  • このWikiのTOPへ
  • 全ページ一覧
  • アットウィキTOP
  • 利用規約
  • プライバシーポリシー

2019 AtWiki, Inc.