自身の作品をAI学習から守るためにできることをまとめています。
下記の対策を突破するためのツールが出回っているのも事実ですが、無断で学習素材にされるのは嫌だと表明しておくことはとても大切です。表明すること自体に意味があります。無理のない範囲で実践してみてください。
| + | サムネイル画像 |
ネットに上げずに、印刷物だけで発表する
そもそもネットにアップロードせずに画集などの印刷物だけで発表する方法もあります。
ある程度の対策は必要ですが防御手段の一つです。
ある程度の対策は必要ですが防御手段の一つです。
透かしを入れる
画像に透かしを入れる方法です。
自身のサインと共に、無断転載･無断加工･AI学習素材への利用等を禁止する旨を明記しましょう。
自身のサインと共に、無断転載･無断加工･AI学習素材への利用等を禁止する旨を明記しましょう。
透かしを作ってくださった方がいます。(Twitterへのリンク)
loading tweet...— Nana 🌷 Art ┆ Rig 🧸 (@nanart_19) March 11, 2023私は簡単な透かしを作りました、透かしが助けになったかどうかはわかりませんが、この透かしが多かれ少なかれコミュニティを助けることができることを願っています。
(こちらからでもDLできます)
https://ko-fi.com/s/86f0cbc9d5
https://ko-fi.com/s/86f0cbc9d5
watermark除去ツール対策に、カラーノイズテクスチャを載せたの透かしもおすすめです。
loading tweet...— 苺夏モモ (@itigotokinako) April 23, 2024AI学習防止用フィルター・ノイズを利用する
生成AIによる作品の無断利用（いわゆる無断学習など）に対し、それを防止する技術・ツールを紹介しています。現在は、画像保護系の技術を中心に取り上げています。また、これらの技術・ツールを利用した作品は、詳細なタグ付けが可能な事から生成AIなどのデータソースとしても用いられる無断転載サイト「Danbooru」などへの無断転載がされなくなった、もしくは頻度が減少したとの報告もあります。これらの技術を利用するほかにも、時と場合に応じてウォーターマークと併用するのもよいでしょう。
Glazeを利用する
米国のシカゴ大学が開発した画像生成AIの学習を妨害するツールです。作品の上に特殊なノイズを掛けることによってAIが学習をする際本来とは別の作品と認識するようになります。あくまで研究開発用のツールなので、Glaze公式サイトより無料で利用できます。
https://glaze.cs.uchicago.edu/
https://glaze.cs.uchicago.edu/
当wikiでもGlazeの利用方法や意義について解説しています。
⇒AI学習防止ツール「Glaze」について【利用方法・意義】
⇒AI学習防止ツール「Glaze」について【利用方法・意義】
Glazeは、アーティストがMidJourney、Stable Diffusionなどの新しいAIアートモデルによって芸術的なスタイルが学習され、模倣されるのを防ぐのに役立つツールです。
ただし、以下の発言もされています。
残念ながら、GlageはAI模倣に対する恒久的な解決策ではありません。AIは急速に進化し、Glazeのようなシステムは将来性があるという固有の課題に直面しています(Radiya et al)。
グレーズは万能薬ではなく、AI模倣に抵抗するためのアーティスト中心の保護ツールへの必要な第一歩であることに注意することが重要です。
※2023年4月14日：Windows GPU対応バージョンにアップデート。処理時間が高速化したようです。
※2023年6月28日：Glaze1.0がリリースされました。二次元イラストを含めた様々な絵柄に対応しています。
※2023年8月2日：ブラウザで動く「Web Glaze」がサービス開始しました。
※2023年6月28日：Glaze1.0がリリースされました。二次元イラストを含めた様々な絵柄に対応しています。
※2023年8月2日：ブラウザで動く「Web Glaze」がサービス開始しました。
emamoriを利用する
Mistをベースにしたイラスト作品保護サービスで、Glazeと同様に特殊なノイズを施す仕組みです。2024年1月17日にリリース開始。
https://emamori.com/
https://emamori.com/
2024年12月18日、「イラストの保護加工にかかるコストの観点から現行の技術・ビジネスモデルでは、サービスを継続していくことが難しい」との理由で、2025年1月18日15:00をもってサービスを終了すると発表した。
サービス終了のお知らせ（2024年12月18日-emamori公式note）
サービス終了のお知らせ（2024年12月18日-emamori公式note）
クリスタの「ノイズパターン」機能を利用する
2024年7月30日のアップデートで追加。
アイビスペイントの「AI学習妨害機能」を利用する
2024年5月7日のアップデートで追加。
ArtShieldのWatermarkerを使用する
ArtShieldの堅牢な目に見えない透かしを画像に適用して、A.I.ロボットスクレーパーに対してそれらをカモフラージュするのに役立ちます。
ArtShieldのWatermarkerを使用した例
loading tweet...— ArtShield 🛡️ Beta (@ArtShieldTeam) March 7, 2023- 使用方法（Google翻訳）
| + | 折り畳み |
LoRAモデルがつくられたら通報する
Twitterなどで「自分の絵柄を簡単に出力できるAIモデルが作られた」という被害報告が日々絶えず、問題となっています。
通報することで削除申請を出すことが可能です。削除が成功した実例もあります。
⇒LoRAの通報・削除申請の仕方はこちら
通報することで削除申請を出すことが可能です。削除が成功した実例もあります。
⇒LoRAの通報・削除申請の仕方はこちら
契約文（利用規約）を書く
上記の技術的な対策は、残念ながらAIの進化と共に対策を突破されてしまう可能性が非常に高く、効果は薄いと考えられます。
「学習されることへの拒否」の表明としては効果はあるのではないかという話についても、残念ながら拒否や禁止を表明しても現行の法律では法的な効果はないと考えられています。
現行の法律の下で一定の有効性が期待できるおそらく唯一の方法は、「著作権法のオーバーライド（上書き）」を利用することです。
やり方は、よくあるウェブサイトのように
「学習されることへの拒否」の表明としては効果はあるのではないかという話についても、残念ながら拒否や禁止を表明しても現行の法律では法的な効果はないと考えられています。
現行の法律の下で一定の有効性が期待できるおそらく唯一の方法は、「著作権法のオーバーライド（上書き）」を利用することです。
やり方は、よくあるウェブサイトのように
(1) 利用規約を作り、「同意する」にチェックを入れない限りコンテンツ（この場合は絵）を見れないように限定公開する
という方法です。ここで利用規約としては
- 「利用者は、著作権法の例外規定における情報解析のうち、特に生成系AI等のための訓練データとしてこの画像を使用しないことに同意するものとします」
という旨の文（条項）を書いてください。
ここで難しい点としては
ここで難しい点としては
- ホームページを自分で作ること。もしくは
- 利用規約を投稿者が設定して限定公開できるような画像投稿サイトを使うこと
が必要になることです。2つ目のような画像投稿サイトは今は存在しないかもしれませんが、将来的に作られる可能性があります。
ここで重要なのは、絵を限定公開にして、「同意」にチェックしない限りはその絵を絶対に見れないようにすることです。
つまり、「絵を自分のホームページで限定公開しつつ、別のサイト（例えばtwitterやpixiv）でも同時に公開する」といったことは効果がなくなってしまうということです。
これは、「同意」をしなくともtwitterやpixivから絵を見たりダウンロードしたりできてしまうからです。
ここで重要なのは、絵を限定公開にして、「同意」にチェックしない限りはその絵を絶対に見れないようにすることです。
つまり、「絵を自分のホームページで限定公開しつつ、別のサイト（例えばtwitterやpixiv）でも同時に公開する」といったことは効果がなくなってしまうということです。
これは、「同意」をしなくともtwitterやpixivから絵を見たりダウンロードしたりできてしまうからです。
令和３年度産業経済研究委託事業（海外におけるデザイン・ブランド保護等新たな知財制度上の課題に関する実態調査）調査報告書
https://data.e-gov.go.jp/data/en/dataset/meti_20221129_0392
https://www.meti.go.jp/meti_lib/report/2021FY/000373.pdf#page=143
https://data.e-gov.go.jp/data/en/dataset/meti_20221129_0392
https://www.meti.go.jp/meti_lib/report/2021FY/000373.pdf#page=143
サイト利用規約に同意することが取引申込みの前提であることが適切に表示されておらず、利用者が当該サイト利用規約に従って取引を行う意思があると客観的に認定できない場合には、利用者はサイト利用規約には拘束されない。
著作権法制限規定のオーバーライド問題ですね。オーバーライドできる派が多数ぽいけど、権利者の一方的な意思表明では不十分で、権利者と利用者双方の合意が必要だろうと言われています。
ここまでは「同意する」にチェックさせる方法を紹介しましたが、しかしホームページを自分で作るのは多くの人にとっては難しいと思います。
そこで、前述の方法より効果は薄くなる可能性があるものの、ある程度手軽に使える方法を、効果が高いと考えられる順に追加で3つ紹介します。
そこで、前述の方法より効果は薄くなる可能性があるものの、ある程度手軽に使える方法を、効果が高いと考えられる順に追加で3つ紹介します。
(2) fusetter等の、投稿中で伏せる部分と伏せない部分を指定できるサービスを使い、伏せない部分に契約文を書く
- 画像に何らかの方法（パスワードzip等）でパスワードを掛けて、伏せる部分に画像へのリンクとパスワードを書く。
- 伏せない部分に
- 「伏せているパスワードを表示した場合、著作権法の例外規定における情報解析のうち、特に生成系AI等のための訓練データとしてこの画像を使用しないことに同意したものとします」
- 「同意できない場合は伏せているパスワードを表示しないでください」
という旨の文を書く。
これは法的な有効性を持たせる上で特に重要なことですが、相手に「契約文に気付かなかったため、契約に同意せずに絵を見て/ダウンロードしてしまった」という反論の余地を与えないことが必要です。
これは法的な有効性を持たせる上で特に重要なことですが、相手に「契約文に気付かなかったため、契約に同意せずに絵を見て/ダウンロードしてしまった」という反論の余地を与えないことが必要です。
(3) 絵の中に契約文を書く
絵の中に
- 「この画像をダウンロードした場合は、著作権法の例外規定における情報解析のうち、特に生成系AI等のための訓練データとしてこの画像を使用しないことに同意したものとします」
- 「同意できない場合はこの画像をダウンロードしないでください」
という旨の文を記載する。
とはいえ絵の中にこのような長文を書くことは絵を損なうかもしれませんから、最後に最も効果は薄いと考えられる方法になりますが…
とはいえ絵の中にこのような長文を書くことは絵を損なうかもしれませんから、最後に最も効果は薄いと考えられる方法になりますが…
(4) 契約文を投稿に添付する
- twitterやpixivに投稿するときにツイートや投稿者コメント欄に(3)の契約文（「この画像をダウンロードした場合は…」「同意できない場合は…」）を書く。
当該取引がサイト利用規約に従い行われることを明瞭に告知しかつサイト利用規約を容易にアクセスできるように開示している場合には、必ずしもサイト利用規約への同意クリックを要求する仕組みまでなくても、購入ボタンのクリック等により取引の申込みが行われることをもって、サイト利用規約の条件に従って取引を行う意思を認めることができる。
(1)と(2)に対して、(3)と(4)の方法の効果はかなり疑わしいです。相手に同意を取らせたと主張することに無理があるためです。
注意としては、(1)〜(4)のいずれの方法も、まだ日本では生成系AIに対してこの方法で対策した場合の裁判による前例が存在していないため、本当にこれらの方法が有効かどうかは裁判による前例を待つ必要があります。
また著作権法のオーバーライドは有効性を巡って議論があるため、AI時代における法律改正の議論の場に国民として参加していくことが何よりも重要です。
注意としては、(1)〜(4)のいずれの方法も、まだ日本では生成系AIに対してこの方法で対策した場合の裁判による前例が存在していないため、本当にこれらの方法が有効かどうかは裁判による前例を待つ必要があります。
また著作権法のオーバーライドは有効性を巡って議論があるため、AI時代における法律改正の議論の場に国民として参加していくことが何よりも重要です。
その他の参考文献
- 著作権法の柔軟な権利制限規定とオーバーライド問題 https://storialaw.jp/blog/7658
Webクローラーをブロックするツールを利用する
特に自身のウェブサイトを持たれている方へ向けた対策です。
robots.txtを利用する
編集中
reCAPTCHAを利用する
編集中
Cloudflareのウェブスクレイピングブロック・分析機能を利用する
- Cloudflare、AIボットからウェブサイトを守る新機能を発表（2024年7月5日-ITmedia）
- Cloudflareが学習用データを収集するAIボットを一括でブロックする機能をリリース（2024年7月5日-GIGAZINE）
- Cloudflare、AIボットによるWebサイトのコンテンツ利用状況を分析・管理する「AI Audit」を発表（2024年9月24日-PRTIMES）
Kuduruuを利用する
- AIの“学習”のための作品盗用防止へ。スクレイピングされると中指を立てた画像を返送するツール誕生（2023年10月19日-WIRED）
生成AI開発のための無許諾データ収集から対策している投稿サイトを利用する
一部のイラスト投稿サイトなどでは現状の生成AIのあり方を問題視している。生成AI開発に必要な大量のデータを集める手法としてウェブスクレイピングが知られているが、そのようなサイトではスクレイピングを行うクローラーをブロックするツールを導入したり、中にはGlazeをはじめとする画像生成AIへの作品無許諾利用を防止するフィルターを利用できるサービスを提供するサイトもある。
⇒各サイトの対応は「画像生成AI・生成系AIに対する各種プラットフォーム等の反応・対応まとめ」を参照。
SNSにあるオプトアウト機能などを利用しAI学習への否定意思を伝える（＆各SNSにおけるAI学習へのスタンス）
一部のSNSでは各国の法規や社会的風潮などを受けて、自身が投稿したデータを生成AIの学習用として使わない事を選択できる「オプトアウト（Opt-Out）」機能が用意されている。以下は各SNSでのオプトアウト手順やデータ利用に対するスタンスについて記述する。
ただ、オプトアウトという仕組みも様々な問題が指摘されている。詳細は当Wiki「クリエイター関連で提唱されている生成AI規制案/オプトアウトに関する意見」へ。
ただ、オプトアウトという仕組みも様々な問題が指摘されている。詳細は当Wiki「クリエイター関連で提唱されている生成AI規制案/オプトアウトに関する意見」へ。
また、後述のオプトアウト（生成AIへの利用拒否）機能を利用して、SNS運営等に自身の作品データを生成AI開発へ使われる事を拒否したとしても、SNS側による将来の規約変更などでデータ収集に対する方針の変化がある可能性や、SNSの外から他のAI開発企業等による収集がある可能性を考慮すれば、完全にデータ収集を拒否することは難しい。
⇒SNS以外のプラットフォームの対応については「画像生成AI・生成系AIに対する各種プラットフォーム等の反応・対応まとめ」へ。
X（旧Twitter）
X（旧Twitter）では2024年7月に、公開ポストやX搭載のチャットAI「Grok」でのやり取りなどをAI学習に利用されてもよいか選択できるチェックボックスの追加が確認された。
ただし、2024年10月16日に発表され11月15日から適用予定の投稿コンテンツをAIトレーニングに利用する（またはその規模を拡大する）という内容の規約改定に際して、オプトアウト機能は消滅するのではないか、あるいは消滅しないのではないかと予測は割れており今後どうなるか状況は不透明である。（記事）
11月15日以降もオプトアウトのチェックボックスは残った。
2025年1月第2週より、一度オフにしたチェックボックスがいつの間にかオンになっており、もう一度オフにしても時間が経つと戻っているという報告がX内で相次いだ。（記事）
- ▼オプトアウトの方法は以下。
「設定とプライバシー」へ⇒「プライバシーと安全」へ⇒「データ共有とカスタマイズ」内の「Grokとサードパーティーコラボレーター」の項目へ⇒「公開データに加えて、GrokおよびxAIでのやり取り、インプット、結果をトレーニングと調整に利用することを許可します※」というチェックボックスがあるのでこれをオフにする。（デフォルトではオンになっているので注意。）
※2024年11月15日の規約改定以前の記載：「ポストに加えて、Grokでのやり取り、インプット、結果をトレーニングと調整に利用することを許可する」
※2024年11月15日の規約改定以前の記載：「ポストに加えて、Grokでのやり取り、インプット、結果をトレーニングと調整に利用することを許可する」
X公式のGrok解説ページ「Xのユーモア溢れるAIアシスタント、Grokについて」では、オプトアウトについてこのように書かれている。
自分のデータがGrokのトレーニングと微調整に使用されるかどうかを管理するにはどうすればよいですか？
- モデルトレーニングをオプトアウトするにはどうすればよいですか？
Xがお客様の公開データや、X上のGrokでのやり取り、インプット、結果を、xAIによって開発された生成AIモデルのトレーニングと微調整に使用するための条件を、お客様は柔軟に管理できます。（中略）
オプトアウトしても、XプラットフォームでGrokを引き続き使用できますが、お客様の個人データはGrokのトレーニングや微調整に使用されなくなります。この設定は、xAIによって実施されるAIモデルのトレーニングと微調整に適用されます。
また、たとえば [イイね] ボタンや [ダメ] ボタンを使ってモデルのトレーニングをオプトアウトした場合でも、会話に関するフィードバックは任意で送信できます。このようなフィードバックを提供すると、XとxAIはその会話や会話に関連するデータを使用してGrokをトレーニングおよび微調整し、ユーザーエクスペリエンスを向上させることができます。データがこれらの目的で使用されることを望まない場合は、そのようなフィードバックを送信しないことをお勧めします。
（中略）
- ポストやアカウントを非公開にするにはどうすればよいですか？
さらに、アカウントを非公開にすることで、ポストがすべてのユーザーに公開されなくなり、ポストがGrokおよびxAIの基盤となるAIモデルのトレーニングに使用されたり、ユーザーの質問への回答として表示されたりすることがなくなります。（後略）
Xの生成AIとデータに対するスタンス
- ▽イーロン・マスク氏のTwitter買収、Xへの改名
X（旧Twitter）は、イーロン・マスク氏による買収（2022年10月に買収完了）の後、2023年8月31日に行われたXプライバシーポリシーの改定で「公開で投稿されたデータ等を人工知能の訓練に利用する」という旨の内容を追加している。（マスク氏は生成AI開発のためのデータ調達においてよく用いられるウェブスクレイピングに批判的で、2023年7月には一時的な対策として突如Xに閲覧制限が設けられる事件も起きた。記事）
2023年11月にマスク氏が所有するAI企業xAIが開発したチャットAI「Grok」を発表、Xの課金ユーザーに向けて提供する計画であるとアナウンスされた。2024年5月に提供開始。なお上記のポリシー変更により、Grokは学習データとしてXユーザーの投稿を利用していると考えられている。
XヘルプセンターではGrokがどのようなデータに基づいて訓練（トレーニング）されたか、このように書かれている。
- Grokはどのように訓練されていますか？
Grokは、今日のほとんどのLLMと同様に、インターネット上に公開されているソースに由来するさまざまなデータと、人間のレビュー担当者であるAIチューターによってレビューおよびキュレーションされたデータセットに基づき、xAIによって事前トレーニングされています。詳細については、 xAI Webサイトをご覧ください。
なお、X（旧Twitter）を運営する「X.corp」と、GrokなどのAI製品を開発・リリースする「xAI」はそれぞれ別の企業である。
2024年7月、X内に「AI学習から自身の投稿、Grokでのやり取りなどを利用できないように選択できる（オプトアウト）」チェックボックスが追加されたことが確認。（記事）
8月にはGrokに画像生成機能が追加された。搭載された画像生成AIはxAI独自のものではなく、有名な画像生成AI「Stable Diffusion(SD)」などで知られる企業StabilityAIの元メンバーらが設立した企業Black Forest Labsが開発した「Flux.1」を採用した。
- ▽2024年11月の規約改定
10月16日、サービス利用規約とプライバシーポリシーの更新を発表（同年11月15日より適用）。新たに「ユーザーのデータをサードパーティーAIのトレーニングに利用できる」という内容が追加、これはクリエイターを中心に「生成AIのデータとしてXに投稿されたポスト等が使われる（またはその範囲が拡大する）」と受け止められた。また同日にブロック機能の大幅な変更が行われたことも伴い、Blueskyやmisskey、タイッツーなど他のSNSに新しくアカウントを作る動きが活発化した。また、7月に追加が確認されたAI学習利用拒否（オプトアウト）機能は11月15日の規約変更以降も適用され続ける、反対に適用されなくなるのではないかとする予想が各メディアから発表された。（記事1・記事2）
X公式サイトにおける利用規約とプライバシーポリシーの変更の概要を知らせるページでは、共有する情報を生成型AIやその他のAIに利用する事を明確化すると告知している。（引用元：利用規約とプライバシーポリシーの改定（2024年10月16日-X公式サイト））
- AIと機械学習の明確化:お客様が共有する情報を、生成的またはその他の人工知能モデルのトレーニングにどのように使用するかについて明確にするために、プライバシー ポリシーに文言を追加しました。
2024年11月15日に施行予定のX新規約においてはサービス利用規約とプライバシーポリシーが変更されるが、以下で変更前と変更後の規約を比較する。
- サービス利用規約の変更点
| + | 長いので折りたたみ |
- プライバシーポリシーの変更点
| + | 長いので折りたたみ |
- ▽規約改定以後の動き
12月6日ごろ、今まで有料ユーザーのみに提供されていたGrokが、回数制限付きながら無料ユーザーへも解放された。（記事）
12月第二週より日本でも流行。Grokの面白回答がXユーザーから多くの反応を得たほか、政治家やスポーツ選手といった有名人のフェイク画像も多数投稿された。
12月第二週より日本でも流行。Grokの面白回答がXユーザーから多くの反応を得たほか、政治家やスポーツ選手といった有名人のフェイク画像も多数投稿された。
7日ごろには、新しい画像生成AIモデルである「Aurora」がGrok内に一瞬だけ実装されたものの数時間で利用不可となった。Auroraは、すでにGrok搭載の画像生成AIとして実装されていたFlux（外部企業であるBlack Forest Labs社が開発）とは異なり、xAI社が独自に開発したものであるとみられている。（記事）
9日、Auroraが無料ユーザーを含めた全ユーザーに解放された。（記事）
2025年1月の第2週目、Grokへ自身のデータやGrokでのやり取りを利用できるようにするか選択可能なチェックボックスについて、一度オフにしていたものが勝手にオンになっている、再びオフにしても時間が経つとオンに戻っていたという報告がX内で相次いだ。（記事）
この現象について、Grokのナビゲーションアイコンが変更されたタイミングで自動的に初期化された可能性が指摘されている。
この現象について、Grokのナビゲーションアイコンが変更されたタイミングで自動的に初期化された可能性が指摘されている。
Instagram／Facebook／Threads（Meta）
アメリカのIT企業Meta（メタ）が運営するSNS、インスタグラム、フェイスブック、スレッズでのAI学習への対応。
Metaは独自の大規模言語モデルである「LLaMA」や画像生成AIモデルの「Emu」を開発するなど、生成AIの推進に積極的な企業である。
これらの生成AIを開発するには大量のデータが必要となるが、Metaはそのデータの一部を自社が運営するSNSの投稿データから調達している。（記事1・記事2・記事3）
これらの生成AIを開発するには大量のデータが必要となるが、Metaはそのデータの一部を自社が運営するSNSの投稿データから調達している。（記事1・記事2・記事3）
一方で、生成AIで作成されたと考えられるコンテンツには「AI info（AI情報）」というラベルを表示するなどの対策も行っている。（記事）
misskey.io
「生成AIによる学習を拒否」という機能が搭載されている。ただし「外部の文章生成AIや画像生成AIに対して学習対象にしないよう要求する機能」であり、その要求に従うかどうかはそのAI次第なので学習の完全防止はできないとしている。
▼設定方法
「設定」へ⇒「プライバシー」へ⇒「生成AIによる学習を拒否」のチェックボックスをオンにする。
「設定」へ⇒「プライバシー」へ⇒「生成AIによる学習を拒否」のチェックボックスをオンにする。
タイッツー
生成AI用Webクローラーを一律で全拒否する設定を行っている。（記事）
▼タイッツー開発者のhoku氏による説明。
loading tweet...— hoku@個人開発 (@hoku_unagi) October 18, 2024Bluesky
Blueskyの運営会社がユーザーのコンテンツをAIトレーニングに利用することはないと表明。さらにBlueskyユーザーがAIトレーニングへの同意／不同意の意思を示すことの出来る機能の実装を進めている。
生成AIとBlueskyに関する動き
2024年10月16日に公表されたX（旧Twitter）によるユーザーコンテンツをAIトレーニングへ利用する事を明確化する新しい規約が主にクリエイターらの間で物議を醸す中、10月24日に生成AIへの投稿コンテンツ利用についてBluesky運営にメールを送ったとする人物が運営側の返答内容を公開。
それによるとBluesky側がユーザーの投稿コンテンツを生成AIのトレーニングに利用することはないとのこと。また、Blueskyはコンテンツのモデレーションや発見アルゴリズムのためAIを利用しているが、これらはいずれもユーザーのコンテンツでトレーニングされた生成AIシステムではないと説明した。
それによるとBluesky側がユーザーの投稿コンテンツを生成AIのトレーニングに利用することはないとのこと。また、Blueskyはコンテンツのモデレーションや発見アルゴリズムのためAIを利用しているが、これらはいずれもユーザーのコンテンツでトレーニングされた生成AIシステムではないと説明した。
11月16日、Bluesky運営のアカウントが正式に作品を生成AIのトレーニングに利用しないとする声明を発表した。
11月27日、Bluesky運営はAIトレーニングへの同意／不同意をユーザーが指定できる機能の実装する検討を進めていると発表した。
Bluesky運営は、AIトレーニング用のデータ収集を行うクローラーをブロックする目的でも利用されるrobots.txtの存在を例に挙げ、似たようなシステムの実装について調査しているとのこと。ただ、Blueskyユーザーが行った設定を守るかは外部の開発者次第であり、強制することはできないものであるとも述べている。
Bluesky運営は、AIトレーニング用のデータ収集を行うクローラーをブロックする目的でも利用されるrobots.txtの存在を例に挙げ、似たようなシステムの実装について調査しているとのこと。ただ、Blueskyユーザーが行った設定を守るかは外部の開発者次第であり、強制することはできないものであるとも述べている。
なお、画像ラベルの生成を目的として画像識別AIである「HIVE」を利用している。運営チームによれば、HIVEが自社のAIモデルを微調整するためにBlueskyのコンテンツを利用することはないとのこと。
▼HIVEに対するBluesky開発チームのRose氏による説明。（2023年7月4日）
https://bsky.app/profile/rose.bsky.team/post/3jzn5sspjhl2u
https://bsky.app/profile/rose.bsky.team/post/3jzn5sspjhl2u
モデレーションリストとラベラーについて、その注意点
Bluesky独自の機能として「モデレーションリスト」が存在する。ざっくりと言えば「リスト内に載っているアカウントをまとめてブロックorミュート出来る」というものであり、誰でも作成可能である。スパムアカウントのブロックなどで効力を発揮すると期待される一方で問題も指摘される。例えば、特定の思想Aを持つアカウント群をブロックできると標榜するモデレーションリストの中に、思想Aとは対立する思想を持つアカウントをわざと入れブロックさせるといった運用も残念ながら可能だ。
具体例として、AI絵師／生成AIユーザーをリストに入れ、一括ブロックできると称するリストもあるが、必ずしもAIユーザーのみが追加されているとは限らないという事も考えられ、（例えば生成AIへ懸念を示した人物をわざとリストに入れているなど）そのような事例も実際に報告されている。
また、比較的誠実に運用されているモデレーションリストでも、そのリストにどのようなアカウントを入れるかリスト作成者によって基準は異なる。単にAIイラストを投稿しているアカウントのみならず、少しでも肯定的な発言をしたとリスト作成者がみなした場合など、比較的軽微な事例で入れられている可能性もあり、気づかないうちにフォロワーをブロックしていたという事もあり得る。
また、比較的誠実に運用されているモデレーションリストでも、そのリストにどのようなアカウントを入れるかリスト作成者によって基準は異なる。単にAIイラストを投稿しているアカウントのみならず、少しでも肯定的な発言をしたとリスト作成者がみなした場合など、比較的軽微な事例で入れられている可能性もあり、気づかないうちにフォロワーをブロックしていたという事もあり得る。
特に個人が作成したモデレーションリストを利用する際は誰が入っているのか一度目を通すか、そもそも無闇に他人のモデレーションリストを利用しない、もしくは本当に信頼できる人が作ったものだけを利用するなど、慎重な運用を推奨する。
そしてモデレーションリストと同様に特定のポストとアカウントの表示を制限する機能として「ラベラー」機能がある。こちらはブロック＆ミュートを行えるのではなくラベル作成者のアカウントがリストインした特定のアカウント群とそのポストに対し、バッジが表示される仕組みである。例えばこの「AI Imagery Labeler」というラベラーアカウントは、生成AIユーザーを対象にラベリングしておりこれを登録すれば作成者がリストインしたユーザーのアカウントやポストに「生成AI利用者である」との旨のバッジが表示される。また、ラベラーアカウントの登録者は、リストインされたアカウントに対し「ポスト自体がタイムラインなどからは消えないがそのポストやアカウントにバッジを表示する」ほかにも「ポストを完全に非表示にする」、「ラベラー機能をオフにする」という三択を選ぶことが出来る。
ただし、ラベラー機能もモデレーションリストと同様に、どのようなアカウントをリストインするかの基準は作成者自身の考え方に左右されるところがあるので注意。
なお、Blueskyには、「モデレーションリスト」とは別に「リスト」機能もあるが、こちらはX（旧Twitter）のリストに近い機能であってまた別の機能である。
mixi2
2025年1月14日、生成AIに対するポリシーを発表。
生成AIに対するポリシー
多くの創作者の方がSNSを通して活動を行っていることや、生成AIのトレーニングによる権利侵害に懸念を抱いていることを理解しております。
例えばmixi2が、mixi2上に投稿されたイラスト創作物を生成AIモデルのトレーニングに活用し、それを利用した新たなイラストコンテンツを生成するプロダクトを提供することはありません。
外部からの不正なクローリングやスクレイピングについて
mixi2では、第三者によるクローリングやスクレイピングなどの行為を利用規約で禁止しています。
詳細は mixi2 利用規約 をご参照ください。
引用元：生成AIに対するポリシーについて（mixi2サポートページより、2025年1月16日閲覧。）
Have I been trained?でオプトアウトする
編集中
AI用データセットとして自身の作品を販売する事で法的に無断でのAI学習を回避する（文化庁による案）
⇒「国内の議員・政府の動き/文化庁」も参照
文化庁は無許諾で生成AIへ自作品が使われる事への法的な対策として「AI学習用データベースとして販売する」事などを提唱している。
以下、AIと著作権について権利者、AI企業など各当事者にとって望ましいとされる取り組みをまとめた文化庁の資料「AIと著作権に関するチェックリスト＆ガイダンス（PDF）（2024年7月31日公表）」から該当部分（40ページ）を引用する。
◆「AI学習等の情報解析に活用できる形で整理されたデータベースの著作物」 （AI学習用データベース）が販売されている場合、「このAI学習用データベースを、AI学習等の情報解析目的で複製等すること」は、著作権法第30条の4が適用されない「著作権者の利益を不当に害することとなる場合」に当たるため、このAI学習用データベースを許諾なくAI学習データとして収集・保存（複製）すれば、原則として著作権侵害※となります。
※他の権利制限規定が適用される場合を除く
◆そのため、権利者としては、インターネット上に自らの作品を公開する場合、その作品を含んだAI学習用データベース（データセット）を、AI学習等の情報解析目的で販売（ライセンス提供）するようにしておくことで、無許諾で学習されることを法的に防ぐことが可能です。
また、文化庁はこの方法と並行してrobots.txtへの記載、ID・パスワード等を設定しクローラーがAI学習データとして作品収集を防止する事も、"将来このような販売を行う予定があることを推認させる一要素となる"として推奨している。
関連項目
- 画像生成AI・生成系AIに対する各種プラットフォーム等の反応・対応まとめ
- 国内の議員・政府の動き
- AI学習防止ツール「Glaze」について【利用方法・意義】
- 画像生成AIは何が問題なのか？
- img2imgによる新手のトレパク被害
- LoRAによる個人や作品の無断学習問題
