このページでは画像生成AI関連において問題となっている画像データの無断利用（無断学習）行為に対し、技術的に対応するツール「Glaze」について解説しています。なお、Glazeと同じチームが開発した「Nightshade」、Glazeと同様の効果を持つツール「Mist」「Photoguard」についても触れています。
【目次】
| + | サムネイル画像 |
Glazeについて
米国の名門大学、シカゴ大学（wikipedia）の研究チームが開発した画像生成AIの学習に対して作品を保護する事が出来るツール。開発には、米国で現在行われている画像生成AI開発企業を対象としたアーティスト集団訴訟に参加しているカーラ・オルティス氏など多数のアーティストが関わっている。
現在、日本語版も開発中である。（記事）
現在、日本語版も開発中である。（記事）
Glaze公式サイト：https://glaze.cs.uchicago.edu/index.html
Glaze公式サイトに日本語解説も追加された。
➀Glazeとは⇒https://glaze.cs.uchicago.edu/jp/what-is-glaze-jp.html
②よくある質問（FAQ）⇒https://glaze.cs.uchicago.edu/jp/faq-jp.html
③Web Glazeについて⇒https://glaze.cs.uchicago.edu/jp/WebGlaze-jp.html
④ソフトウェアユーザーガイド⇒https://glaze.cs.uchicago.edu/jp/userguide-jp.html
➀Glazeとは⇒https://glaze.cs.uchicago.edu/jp/what-is-glaze-jp.html
②よくある質問（FAQ）⇒https://glaze.cs.uchicago.edu/jp/faq-jp.html
③Web Glazeについて⇒https://glaze.cs.uchicago.edu/jp/WebGlaze-jp.html
④ソフトウェアユーザーガイド⇒https://glaze.cs.uchicago.edu/jp/userguide-jp.html
Glazeの仕組みを簡単に言えば、作品データの上に人間の目ではほとんど見えないレベルの特殊なノイズを追加し、そのノイズをかけられた作品が画像生成AIの学習に利用された時、AI側が本来の作品とは違う外見を持つものであると誤認識し、アーティスト独自のスタイルなどの模倣を防ぐようになっているというものだ。
Glazeはあくまで研究用途として作られたため、完全無料であり誰でも利用する事が出来る。Glazeにはダウンロードして自分のパソコンで動かす「ローカル版」とインターネットを通して利用できる「Web版（Web Glaze）」と海外発のアート・イラスト投稿サイト「Cara」上で利用できるバージョンが存在する。下↓に利用方法を解説。
なお、Glaze開発チームはより強力な学習防止ツールである「Nightshade」を発表、将来的にGlazeへ組み込む計画を立てている。
※このページではAI学習防止ツール「Glaze」の利用方法や意義などについて解説しています。画像生成AIから自作品を守る他の方法については⇒「自作品を守るためにできること」へ。
Glazeの利用方法
Webサービス版の利用方法
2023年8月2日にサービス開始。Glaze公式サイトの「「Web Glaze」解説ページ（日本語）」も参照。（英語版ページはこちら）
Wiki利用者から登録手順に関する指摘がありましたので、一時公開停止とします。
ローカル版の利用方法
Glaze公式サイト「Glazeソフトウェアユーザーガイド(日本語)」も参照に。
※編集お願いします。ダウンロードからGlazeソフトの使用方法、ノイズの強さの調節方法など一連の流れが書いてあればいいと思います。Glazeソフトのスクリーンショットなどを用いてツール内に書いてある英単語の翻訳などあれば分かりやすいかもしれません。
Caraでの利用方法
Glazeを使う意義
- 自分の作品をある程度技術的に守る事ができる
Glazeは現在、AI学習に伴う作品無断利用行為に対し技術的に対抗できるほぼ唯一の手段である。Glazeを利用するクリエイターが増えれば増えるほどAIモデルへの影響も拡大する。
- 画像生成AIへの自作品の無断利用を拒否する意思表示になる
プロフィール等に「AI学習禁止」といった文言を書いているクリエイターも多いが、Glazeを使うことでよりその意思を明確にする事ができる。
コンセプトアーティストのよー清水氏によるGlazeの解説記事も参照「画像生成AIプロテクター「Glaze」の意義と使い方まとめ」
（※Glazeリリース直後の2023年3月の情報で書かれている）
（※Glazeリリース直後の2023年3月の情報で書かれている）
Glazeができないこと
- image to image(i2i)への対処
i2iとは特定の画像をベースに画像生成AIで外見的に似た画像を作ることのできる技術であり、元作品の構図や色合いが引き継がれやすい。他人の作品データを勝手に使って外見的に似た作品を作ることが出来るので問題視されている。いわゆるトレパク用途に使われてしまうのだ。Glazeは現在i2iへの対処はできないが、Glaze研究室はi2iへの対処法についても現在研究を重ねているとし、別の研究チームが開発したツール「mist」に触れ、これはi2iも防御できるとして紹介している。⇒i2iについての詳細は「img2imgによる新手のトレパク被害」
- AI技術進化に伴う無力化の可能性
Glazeの開発元は「画像生成AIの無断学習に対する恒久的な解決策になる訳ではない」として、将来的には技術の進化によってGlazeも克服されてしまう可能性があると発言している。同研究室はあくまでGlazeはAI学習に関する法や制度が整備されるまでの繋ぎであると明言している。
Glazeに関する質問と回答
Glaze公式サイトのFAQ（日本語）
https://glaze.cs.uchicago.edu/jp/faq-jp.html
https://glaze.cs.uchicago.edu/jp/faq-jp.html
Glaze公式サイトのFAQ（英語）
https://glaze.cs.uchicago.edu/faq.html
https://glaze.cs.uchicago.edu/faq.html
Glaze関連の詳細情報
沿革
Glazeは、アメリカ・シカゴ大学のSAND(Security, Algorithms, Networking and Data)Labs研究室によって開発された。
2020年、SAND Labsはインターネットに投稿した自撮り写真など、個人の顔が写った写真をテック企業等に収集され思わぬ形で利用されることを防ぐためのツール「Fawkes」を発表した。Fawkesは、顔認識AI技術に対抗する用途で開発され、同ツールを用いて顔画像を加工すると人間の目で見た時は殆ど変化が無いもののAIのトレーニングの際は誤認識が起き、写真に写っている顔が誰なのか分からなくなる効果を得られる。
Glazeは、2023年3月16日にリリースされた。リリース当初のGlazeは西洋絵画的な厚塗り絵には効果を発揮し外見上の違和感も少なかったものの、コミック系のシンプルな塗り方をした作品ではGlaze特有のノイズが目立っていた。しかしながら、同年6月28日にリリースされたGlaze1.0ではコミック系の絵柄でも外見上の違和感が大きく減りかなり目立ちにくいものになった。もちろん日本のアニメ風の絵柄の絵にも有効である。
リリース当初のGlazeは公式サイトよりダウンロードしてユーザーのPCで動かすローカル版しか存在しなかったが、8月2日にはweb版のGlaze「Webglaze」のサービスが開始された。
▼Glaze公式X（Twitter）アカウントによる「Webglaze」のサービス開始を伝える投稿。（2023年8月2日）
loading tweet...— Glaze at UChicago (@TheGlazeProject) August 1, 2023
なお、「Glazeのノイズを除去できる」と称するツールが存在しているが、Glaze研究チーム側は以下の理由で効果が薄いとしている。
➀ツールの作者が上手く効果が出ない事を認めている
②Glaze公式ページのFAQでツールについて言及している
③Glaze研究チーム側が当該ツールをテストし結果を論文に記載した
➀ツールの作者が上手く効果が出ない事を認めている
②Glaze公式ページのFAQでツールについて言及している
③Glaze研究チーム側が当該ツールをテストし結果を論文に記載した
▼Glaze除去ツールの効果について言及したGlaze公式Xアカウントの投稿。（2023年9月4日）
loading tweet...— Glaze at UChicago (@TheGlazeProject) September 3, 2023
さらにGlaze開発チームは公式サイトのFAQページ（日本語）にてこう解説している。
Glaze の仕組みは破られ回避されてしまったことがあるというのは事実ですか？
いいえ、Glaze の仕組みが破られてしまったり、回避されてしまったことはありません。 Glaze は2023年3月15日に初めてリリースされました。以来、Glaze を打ち破ろうとした試みは複数あります。 Glaze を批判する人たちはミミクリー攻撃の意味を理解せずに、Img2Img を使ってGlazeされた作品を再生成しようと試みるなどしています。 これ以外にも、David Marx 氏によるPEZ リバース・プロンプト攻撃について、David Marx 氏本人がその結果を オンラインで公表しています。 Glazeが生成した物（アーティファクト）を取り除くことでGlazeを回避したことと同等と考え、 ピクセルを滑らかにするツール（ControlNet の開発者、Lyumin Zhang氏のAdverseCleaner等）を開発しましたが、 下記、同氏が2023年3月28日に投稿された記事にもあるように、このツールは無効であると認めています。Glaze回避を試みた場合の影響に関する詳しいテスト結果にご興味がある方は、 Glazeの公式論文をご参照ください。
（出典：Glaze公式サイト「よくある質問 (FAQ)」-2024年1月18日閲覧）
2023年12月、Glaze公式サイトに日本語解説が追加された。翻訳されたのは以下の4つのページ。
➀Glazeとは⇒https://glaze.cs.uchicago.edu/jp/what-is-glaze-jp.html
②よくある質問（FAQ）⇒https://glaze.cs.uchicago.edu/jp/faq-jp.html
③Web Glazeについて⇒https://glaze.cs.uchicago.edu/jp/WebGlaze-jp.html
④Glaze ユーザーマニュアル⇒https://glaze.cs.uchicago.edu/jp/userguide-jp.html
➀Glazeとは⇒https://glaze.cs.uchicago.edu/jp/what-is-glaze-jp.html
②よくある質問（FAQ）⇒https://glaze.cs.uchicago.edu/jp/faq-jp.html
③Web Glazeについて⇒https://glaze.cs.uchicago.edu/jp/WebGlaze-jp.html
④Glaze ユーザーマニュアル⇒https://glaze.cs.uchicago.edu/jp/userguide-jp.html
受賞歴など
- USENIX Internet Defense Prize 2023：https://www.usenix.org/blog/usenix-announces-winners-2023-internet-defense-prize
- USENIX Distinguished Paper Award 2023：https://www.usenix.org/conference/usenixsecurity23/presentation/shan
- Chicago innovation award 2023：https://chicagoinnovation.com/winners/uchicago-sand-lab/
- Forbes 30 Under 30 list 2024：https://www.forbes.com/profile/glaze/?list=30under30-consumer-technology/&sh=3c27dcf4548b（※Glaze研究チーム3名が選定）
- TIME The Best Inventions of 2023：https://time.com/collection/best-inventions-2023/6327170/glaze/
Glaze関連リンク
Glazeの類似ツール・サービス
Mist
中国の上海交通大学出身の研究チームが開発した、画像生成AIのAI学習から絵を保護するツール。
- Mist公式サイト
- 「ノイズ」で邪魔に。画像生成AIから著作権守る「Mist」、中国開発チームが無償提供（2023年7月9日-36krjapan）
- 自分のイラストや写真を画像生成AIが学習するのを妨害する電子透かしを入れるツール「Mist」（2023年8月28日-GIGAZINE）
2023年12月に改良版のMist V2が発表された。LoRAへの対応、ノイズの視認性がより低くなったことなどが特徴。
https://github.com/mist-project/mist-v2
https://github.com/mist-project/mist-v2
PhotoGuard
- AIによる不正な画像改変を抑止する技術「PhotoGuard」、MITが考案（2023年7月27日-CNETJapan）
emamori
Mistをベースにして開発されたアート保護サービス。日本国内で展開されているサービスで、株式会社SnackTimeが運営。2024年1月17日に正式リリースされた。
- emamori公式サイト
- emamori公式X(Twitter)
- イラストを無断でAI学習に利用させない！「透かし」での保護機能を備えた投稿サイト『emamori』公開（2023年8月29日-MdN）
- クリエイターのイラストをAI学習から保護する「emamori」正式リリース（2024年1月17日-PRtimes）
- イラストのAI学習を妨げる「emamori」正式サービス開始 有料プランも（2024年1月17日-ITmedia）
Nightshade
Glazeと同じく米シカゴ大学のチームが開発したAI学習防止ツール。
- Nighshadeの仕組みを説明する論文「Prompt-Specific Poisoning Attacks on Text-to-Image Generative Models」（2023年10月20日）
- Nightshade公式による日本語での解説。Nightshadeとは／FAQ／ユーザーガイド／ダウンロード方法
- イラスト作品や写真作品を毒化して画像生成AIの学習を阻害できる学習防止ツール「Nightshade」（2023年10月24日-GIGAZINE）
- 画像に「毒」を盛り、画像生成AIのスクレイピングに対抗するツールを開発--シカゴ大（2023年10月25日-ZDNET）
- 画像生成AIに｢毒を盛る｣。アーティストの権利を守るためのツール登場（2023年10月26日-GIZMOOD）
- Artists Can Fight Back Against AI by Killing Art Generators From the Inside（2023年10月24日-GIZMOOD）
- Artists are poisoning AI image generators with Nightshade（2023年10月26日-DOCUMENT）
- Meet Nightshade, a new tool empowering artists to fight back against AI（2023年11月13日-NiemanLab）⇒Nightshade開発者へのインタビュー記事。
- How Nightshade Works（2023年11月4日）
参考資料など
- 人間には分からない微妙な加工でAIを混乱させて顔写真が勝手に利用されるのを防ぐ技術「Fawkes」が登場（2020年8月5日-GIGAZINE）
- シカゴ大がAI顔認識からプライバシーを守るツール「Fawkes」を公開！（2020年8月7日-TECHABLE）
- 画像生成AIプロテクター「Glaze」の意義と使い方まとめ（2023年3月19日-よー清水氏のnote）
- イラストをAIの学習から守る！ 作風の模倣を防ぐ「Glaze」とは（2023年6月20日-窓の杜）
