はじめに（必読！）
このページは、生成AIを用いて作られた作品の投稿や販売に対して各プラットフォームがどのような対応を取ったのかについて記述しています。※ページ一番下に簡単な年表があります。
- 【AI禁止】の表記があるプラットフォームはAI作品の投稿・販売を一切禁止しています。
- 【AI一部禁止】の表記があるプラットフォームは「AI作品の投稿自体は可能だがマネタイズには何らかの制限（禁止など）を課している」、「あるジャンルではAI作品が一切禁止だが別のジャンルでは取り扱っている」、「特定の形態のAI作品のみを禁止する（例えば電子書籍）」といったAI作品の投稿・販売を一部禁止する対応を取った場合に付けています。対応の内容はプラットフォームによって異なるので、各項目での記述内容の確認を推奨します。
- 【AI対応】の表記があるプラットフォームは、AI作品の投稿・販売を禁止してはいないが「AI作品をフィルタリングして検索結果から消せる」機能を付ける、「AIの利用形態に制限がある」といった緩やかな対応を取った場合に付けています。対応の内容はプラットフォームによって異なるので、各項目での記述内容の確認を推奨します。
| + | 編集される方へ |
【目次】
イラスト投稿サイト
pixiv (ピクシブ)【AI対応】
日本最大手のイラスト投稿サイト。ピクシブ株式会社運営。AI生成作品の投稿自体は容認しながらも、検索結果から除外可能なフィルター機能などを実装している。2023年5月頃には相次いでpixivFANBOX、pixivリクエスト、BOOTHといったpixivの関連サービスにおいてAI作品の販売禁止・制限する措置を取った。（詳細は各プラットフォームの記述を参照）
| + | pixivの検索結果からAI生成作品を除外する方法 |
| + | pixivが生成AIに対し行った対応の詳細（長いので折り畳み） |
ニコニコ静画【AI一部禁止】
ニコニコ動画などで知られる株式会社ドワンゴが運営するイラスト・漫画投稿サイト。AI作品の投稿自体は容認しているものの、作品の収益化に関しては「プログラムから自動出力された生成物をそのまま投稿した場合には不可能」という条件を付けている。詳細は「ニコニコ」の項目へ。
- ニコニコ運営、AI絵師のi2iによる無断改変イラスト投稿を実質放置宣言（2023年3月25日-togetter）
ニジエ/ホルネ【AI禁止】
「ニジエ」は株式会社ニジエが運営する男性向けR-18イラストに特化したイラスト投稿サイト。2022年10月6日にAI生成作品の投稿禁止を利用規約に追加。
- AIで生成されたイラストの投稿について（2022年10月6日-ニジエ）
同社が運営するBL系作品に特化した作品投稿サイトである「ホルネ」においても同様にAI生成物の投稿は禁止されている。
- ホルネ利用規約：第9条(イラスト投稿に関する禁止行為)
(10)AIを利用して作成された画像の投稿。
kakuba【AI禁止】
▼一部利用規約改訂とAI作品のご投稿に関して
kakubaでは今後、当社の審査により、AI作品をご投稿されていると判断した場合、kakubaポイントの交換の対象外とさせていただきます。
※審査基準や審査内容は開示いたしません、またAI作品と判断いたしました作品につきましては、運営側にて予告なく非表示・削除させていただきますので、何卒ご理解のほどよろしくお願い申し上げます。
Xfolio（クロスフォリオ）【AI禁止】
凸版印刷株式会社のグループ会社、株式会社BookLiveが運営するイラスト・小説投稿サイト。AI生成物の投稿は原則禁止とし、さらには大量のデータを収集する際に利用されるWebスクレイピング（bot）によるアクセスをブロックするための技術「reCAPTCHA」を実装した。
2023年5月18日、「コンテンツ生成AIはクリエイターの利益を不当に害する」として、今後はAI生成コンテンツの掲載を禁止するとの方針を発表した。さらに「自作品がAI学習に使われたくない」という懸念に対しても、6月上旬を目途に、「ポートフォリオ毎にbot除けとして使われているreCAPTCHAシステムをONに出来る機能」を搭載するとした。Xfolio運営は、全てのbotを回避できる訳ではないと前置きした上で、スクレイピングの難易度が上がる効果であったり、クリエイター自身が「自らの作品をAI学習に使用してほしくない」という意思を明確に示すことが出来る点に大きな意義があるとした。
- コンテンツ生成AIに対する対応方針について(2023年5月18日)
同年6月19日にはreCAPTCHA機能が実装された。
2023年7月3日、同年8月7日を目処に生成AIに関する規約改定を実施すると発表した。
生成AIを使って作られたコンテンツの投稿・販売を禁止とし、投稿コンテンツをAI学習データとして利用することも禁止となる。同時に「AI生成コンテンツを検知するAIソリューションの導入」を進めていくとしている。
生成AIを使って作られたコンテンツの投稿・販売を禁止とし、投稿コンテンツをAI学習データとして利用することも禁止となる。同時に「AI生成コンテンツを検知するAIソリューションの導入」を進めていくとしている。
同年8月7日に、Xfolio規約の改定が実施された。
- BookLive運営、クリエイター向け総合プラットフォームサービス「Xfolio」、コンテンツ生成AIによるクリエイターの権利侵害防止に向け、利用規約改定（2023年8月7日-BookLive）
8月25日には、「投稿作品がBooklive社やその関連会社においてコンテンツ生成AIの学習データとして使用されないか」との問い合わせを受け、利用規約に「投稿情報をコンテンツ生成AIの学習データとして利用しない」と明記したと発表。効力発生日は2023年8月30日。（Xにおける該当ポスト）
pictBLand（ピクトブランド）【AI禁止】
BL系作品が中心のイラスト・小説投稿サイト。2023年6月27日、以前実施したアンケート結果に基づきAI生成作品の投稿を禁止すると発表した。
投稿禁止にする理由として、pictBLand運営は以下の懸念点を挙げた。
投稿禁止にする理由として、pictBLand運営は以下の懸念点を挙げた。
- AI生成作品が大量に投稿され、サービス内の秩序が乱れる危険性を想定
- AIに関する著作権や法について追いついておらず、トラブル発生時において迅速な解決が困難になる可能性
- AIを利用したなりすまし等のプライバシーを脅かす危険性
- AI生成作品かそうでないかの判断ができる体制と技術が、運営事務局に存在していないため
同運営は、これらの判断はあくまで現時点での判断であるとして将来時流や技術の変化によって諸問題の解決が出来そうになった場合、投稿ガイドラインを見直す可能性があると付け加えた。
- AI生成作品について作品投稿ガイドラインへ追加のお知らせ（2023年6月27日-pictBLand）
TINAMI【AI対応】
TINAMI社が運営するイラスト、漫画、小説、モデル、コスプレが投稿できるサイト。2022年10月17日、画像生成AI製作品の投稿に対するガイドラインを発表した。
◇作品投稿ガイドライン（補足事項）＞「画像生成AI」による作品について（TINAMIガイドライン）
Artstation【AI対応】
Epicgames傘下のアート作品投稿サイト。2022年後半頃からArtstationでもAI生成作品が大量に投稿されていたものの、放置状態であったため同サイトで投稿していたアーティスト達が猛反発。同年12月に「NoAI」運動が発生し一時は新着作品欄がNoAIのシンボルマークで埋まる事態となった。
◇Use of AI Software on ArtStation（Artstationヘルプ）
◇ArtStation is hiding images protesting AI art on the platform（2022年12月23日-The Verge）
◇ArtStation is hiding images protesting AI art on the platform（2022年12月23日-The Verge）
DeviantART【AI対応】
2000年から運営されている海外のアートサイトで、大型データセットLAIONの無断AI学習元にもなっている。
DeviantArt運営は生成AIの無断AI学習からアーティストを守るどころか、Stable DiffusionベースのDreamUpをリリース。
2023年1月にアメリカで提起された集団訴訟先の一つでもある。
DeviantArt運営は生成AIの無断AI学習からアーティストを守るどころか、Stable DiffusionベースのDreamUpをリリース。
2023年1月にアメリカで提起された集団訴訟先の一つでもある。
ただし、DreamUpで生成したAI作品を投稿する際はAI生成であることを示すタグが付与されたり、AI生成作品の表示数を減らす設定の導入、DeviantArtに投稿された全作品に「noai」フラグを付与しAI開発者に作品利用を拒否する意思を伝える事が出来るといった内容の改善も行われた。
- 大手イラスト投稿サイト「DeviantArt」がAI画像生成機能を提供開始、AI作品の表示を減らす設定やAIに作品を学習させない仕組みも提供（2022年11月14日-GIGAZINE）
- The Tragic Downfall of the Internet’s Art Gallery（2024年5月16日-SLATE）
- 「アート投稿サービスのDeviantArtはAI作品とボットが宣伝と収益の仕組みを独占している」とアーティストから怒りの声（2024年5月25日-GIGAZINE）
Cara【AI禁止】
2023年1月から開始された海外のアートプラットフォーム。AI生成コンテンツの投稿を禁止しており、作品に画像生成AIによる無断利用を防止するフィルター「Glaze」を利用できるサービスも提供している。（CaraでのGlaze利用法）
2024年6月、アーティストらの活動場所としてメジャーであったSNS「Instagram」を運営するMetaが、生成AIの学習用としてユーザーらの投稿データを利用していることが話題となった。その流れでAI生成コンテンツを禁止しているCaraが注目され、6月初旬の1週間でユーザー数が4万人から65万人に急増した（2024年6月6日時点）。
- A social app for creatives, Cara grew from 40k to 650k users in a week because artists are fed up with Meta’s AI policies（2024年6月6日-TechCrunch）
- アーティストをAI学習から守るSNS「Cara」、ユーザー急増中（2024年6月7日-ITmedia）
- MetaのAI施策に反発する形でアンチAIプラットフォーム「Cara」のユーザー数が1週間で17倍超に増加（2024年6月7日-GIGAZINE）
- Meet the Photographer Behind the Social Media App for Everyone Sick of Meta’s AI（2024年6月12日-WIRED）
- The rise of Cara: the anti-AI social media platform for artists（2024年10月7日-CREATIVE BLOG）
コミッションサイト
Skeb【AI禁止】
コミッションサイト（個人のクライアントからの依頼を受け個人のクリエイターがイラストなどの作品を納品する形式の販売サイト）。SkebはAI作品の納品は原則として禁止、AI画像検知AIの導入も行っている。
2023年3月1日、Skebは同サービスのAIに対するスタンスを発表。同時にクレジットカード不正利用等を意図してAI生成物が納品されるという事態への対策として、米国企業開発の生成AI製画像検出AI「HIVE」を導入したとも発表した。以下はSkebのAIに対するスタンス。
- AIはクリエイターを置き換えるものではなく将来的には創作活動を加速させるものになる。
- Skebでは2018年のサービス開始時より「イラスト」ジャンルにおいてはクリエイターが直接描いたイラスト・漫画のみを納品物として認めており、3Dやスクリーンショット、AI生成によるデータの一部または全部を納品する事は規約とポリシーに違反している。この規定はクレジットカードの現金化（チャージバック詐欺）などサービスの不正利用を防ぐために設けられたものである。転載画像を使用し盗難クレジットカードの現金化を試みる不正行為に対しては転載画像の検出AIを利用してきたが、イラスト生成AIはユニークなデータを大量生成できることから更なる対策が必要である。
- 日本の著作権法30条の4では当該著作物の種類及び用途並びに当該利用の態様に照らし、著作権者の利益を不当に害することとならない場合は、情報解析のために他人の著作物を許諾なく利用することが認められている。
- Skebではサービス開始時より様々なAI（※）を積極的に導入している。どのAIも許可なく他人の著作物を許可なく学習したものであると思われるが、著作権者の利益を不当に害しておらずこれらは適法であると考えている。（※NSFWコンテンツの検出⇒Microsoft Azure Cognitive Services、転載画像の検出⇒(Google Cloud Vision API、リクエスト文の翻訳⇒DeepL）
- イラスト生成AIのうち、「特定イラストレーターの画風を模倣したイラストを生成する無許諾のAI」と「任意のイラストを読み込ませ類似したイラストを生成するAI」については該当する著作権者の利益を不当に害する恐れがあり、問題であると考えている。
- SkebのAIに対するスタンスとAI生成データを検出するAIの導入につきまして（2023年3月1日-Skeb）
- Skeb、AI画像検出AIを導入 取り締まり強化へ「AIはクリエイターを置換する技術ではない」（2023年3月2日-itmedia）
2023年6月30日、Skebではクレジットカードの不正利用等を防ぐため以前よりAI生成物の納品を禁止し生成AI製画像検出AI「HIVE」の導入など諸々の対策を施しているが、これらの対策をAI生成物へ加工を行う事で検出AIによるチェックを故意に逃れるための手法をブログ上に公開し、記事の閲覧者に対し積極的にSkeb上でイラスト生成AIを使用するよう促したアカウントの運営者に関して、発信者情報開示請求訴訟を提起したと発表。（申し立ては2023年5月18日に行われた）
該当記事は運営者によって自主的な削除が行われたものの、発信者情報を有するプロバイダよりその情報を提供され次第、営業権侵害等を理由として損害賠償請求等の法的対応を実施する事を検討していると明らかにした。
- イラスト生成AIを用いたSkebの不正利用への対応につきまして（2023年6月30日-Skeb）
- 「SkebはツールとしてのAI利用を認めていない」 創業者が明言 規約には4年前から記載（2022年10月5日-itmedia）
pixivリクエスト【AI禁止】
イラスト・小説投稿サイトpixivにあるリクエスト機能。2023年5月12日にAI生成作品の取り扱いを禁止すると表明。
2022年11月25日、pixiv運営はpixivリクエストにおけるAI生成作品の取り扱いについて立場を表明した。同運営は、AI技術をはじめとした様々な創作スタイルでリクエスト作品を投稿する事についてファンとクリエイター間ですれ違いが起きやすくなっているとし、すれ違いを未然に防ぐため2022年12月上旬より従来のリクエストとAI生成作品に特化したリクエストの棲み分けが可能になるサービス変更を開始すると発表。
変更として以下三つの機能を新規に追加した。
変更として以下三つの機能を新規に追加した。
■クリエイターがプラン上で、AI生成作品を投稿することを表明する機能の追加
クリエイター側はプラン作成時、AI生成作品を投稿するかどうかを外部に表明出来るようになり、ファン側は事前にAI生成作品が投稿されるかどうか分かるようになる機能。
クリエイター側はプラン作成時、AI生成作品を投稿するかどうかを外部に表明出来るようになり、ファン側は事前にAI生成作品が投稿されるかどうか分かるようになる機能。
■リクエスト関連ページにおける、AI生成作品の表示オプションに連動したフィルタリング機能の追加
AI生成作品の表示オプションで「表示を減らす」を選択する場合、リクエストポータル等の作品一覧画面においてAI生成作品が非表示となる。
AI生成作品の表示オプションで「表示を減らす」を選択する場合、リクエストポータル等の作品一覧画面においてAI生成作品が非表示となる。
■AI生成作品の取り扱いについてのリクエストガイドの変更
リクエスト機能にて「AI生成作品の投稿を表明する」機能追加の際に伴う責任の所在及び注意事項について明記。
リクエスト機能にて「AI生成作品の投稿を表明する」機能追加の際に伴う責任の所在及び注意事項について明記。
このような措置を取った上で、AI生成作品の投稿を容認したものの、2023年5月12日には一転して禁止すると発表した。
pixiv運営は、「pixivリクエストは、クリエイターとファンが共に創作するサービスです」と表明し、クリエイターとファンが「好き」の気持ちで繋がって新たな創作の機会が生まれたり、創作活動がより楽しくなることを目指していると前置き。そのうえで創作の手段を縛るべきではないとの考えのもとAI生成作品の投稿を一度は許可したものの、「AI生成技術を用いて短時間で大量の作品を取引する事のみを目的に利用されることが増加」していたり、「複数のAI生成作品投稿者へ同じリクエストを送り最初に成立したリクエスト以外のキャンセルが繰り返される」といった、人を選ばず作品取引だけを目的とした利用が増えているとの問題を同運営は指摘した。そして、このような関係性はpixiv運営が目指していたものではないとして、AI生成作品の取り扱いを当面の間禁止すると発表した。2023年5月22日よりAI生成作品のリクエストを募集するプランについて新たな作成が不可となり、同年5月29日よりAI生成作品のリクエストを募集しているプランについて新しくリクエストを受けられなくなった。
- pixivリクエスト機能における、AI生成作品の取り扱いに関する方針について（2022年11月25日-pixiv）
- AI生成作品に対する、pixivリクエストにおける今後の対応（2023年5月12日-pixiv）
SKIMA【AI禁止】
コミッションサイト。画像生成AI等で作られた作品の納品を禁止している。
▼画像生成AIなどを使用した商品について
SKIMAでは、禁止行為・禁止リストにて、画像生成AIなどを用いて生成した商品や作品の出品、掲載、売買はお控えいただいております。（出典：SKIMA Q&Aページ）
2023年7月31日、SKIMA運営はユーザーの画像生成AIに対する考え方についてのアンケートを実施し、結果を公開した。回答数は5000件以上で、クリエイターと購入者を対象とした。設問には「画像生成AIの存在を知っているか？」「クリエイターの依頼件数に影響があるか？」「画像生成AIで作られたコンテンツを購入するか？」といったものがある。
詳細⇒「【アンケート結果報告】画像生成AIツールについて【前編】」・「【アンケート結果報告】画像生成AIツールについて【後編】」
詳細⇒「【アンケート結果報告】画像生成AIツールについて【前編】」・「【アンケート結果報告】画像生成AIツールについて【後編】」
ココナラ【AI禁止】
▼ココナラヘルプ ＞ 禁止行為・マナー ＞ 出品禁止サービス（出品者向け ＞ 知的財産権、著作権等を侵害するサービス
AIによるイラスト作成を行うサービス
AIを用いたイラスト作成のサービスは当社の判断でご出品をお控えいただいております。（出典：ココナラヘルプ）
つなぐ【AI禁止】
▼AIで作成したイラストを販売していいですか？
著作権を自身が有していない場合は禁止です。ツールとしてAIを用いることは問題ありません。他人の著作物から自動生成しただけの作品ももちろん販売禁止です。（出典：つなぐ Q&A）
2024年11月7日、利用規約にAI学習の禁止を追加した。（X公式アカウントの告知ポスト）
第１２条（AI学習の禁止）
本サービスに関連して提供された情報，画像，テキスト，その他のデータを，いかなる利用者または第三者もAI（人工知能）技術の学習目的に使用することを禁止します。また，当事業においても，これらのデータをAI学習に利用することは一切ありません。（出典：つなぐ利用規約、2024年11月13日閲覧）
VGen【AI禁止】
主にVTuberをはじめとした配信活動者とクリエイター間のコミッションサイト（海外サイトだが日本人も利用可能）。
トップページから「Commission human artists」を掲げており、原則全面禁止の方向性を示している。
AI Policy - VGen Help Center
トップページから「Commission human artists」を掲げており、原則全面禁止の方向性を示している。
AI Policy - VGen Help Center
同人作品等販売サイト
DLsite【AI対応】
株式会社エイシスが運営する同人作品販売サイト。2023年5月11日にAI生成作品の一部販売禁止を表明したが、9か月後の2024年2月15日に販売再開を表明。
DLsiteでは生成AIを利用した作品について「AI生成作品」と「AI一部利用」に分けている。2023年5月11日、「AI一部利用」については販売を継続し、「AI生成作品」については作品形式が「マンガ、CGイラスト、動画、素材集」では販売禁止、「ノベル、ゲーム」では販売を継続するとの対応を取ると発表した。
- AI作品の取り扱い一時停止について(2023年5月11日-エイシス)
- AI生成作品の販売に関して（2023年5月11日-DLsite）
2024年2月15日に突如「AI生成フロア」を新設した上でAI生成作品の販売を再開すると発表。
- 【重要】AI生成フロアの新設につきまして（2024年2月15日-エイシス）
■関連リンク
- AI生成作品の販売に関して（DLsiteヘルプ）
- AIを利用した作品の申請について（DLsiteヘルプ）
FANZA【AI対応】
株式会社デジタルコマースが運営するアダルト作品販売サイト。現在の所、公開待ちとなっているAI作品の公開スケジュール調整やAI作品の公開本数制限等を行っている。
- ＡＩ規制めっちゃ強化、DLsite「ＡＩ画像販売は月１まで」FANZA「販売希望日は無視」（2023年3月4日-togetter）
◆作品公開に関する方針
FANZA同人では、多くのサークル様よりAI生成作品のご登録をいただいておりますが、登録件数が多く全てのサークル様の作品を円滑に公開できていない状況となっております。
つきましては、今後より多くのサークル様の作品を公開できる環境を整備するため、下記の対応を予定しております。
▶対応内容
- 公開待ち作品の公開スケジュール調整
公開待ちとなっているAI生成作品の公開スケジュールの調整を行います。
※販売希望日をご設定いただいた場合でも、ご希望に添えない場合がございます。
※公開予定日は状況によって変更される場合がございます。
- AI作品登録が多いサークル様の作品公開本数制限
1サークルあたりのAI生成作品の公開本数を調整いたします。
引き続き、サークル様やユーザー様にとってFANZA同人がよりよい環境になるよう善処・検討して参ります。
今後とも引き続きFANZA同人サービスを何卒よろしくお願い致します。
とらのあな【AI一部禁止】
2023年5月12日にAIツール使用作品の登録受付を一時停止した。
- 電子書籍におけるAI作品の登録受付を一時停止いたします。（2023年5月12日-とらのあな）
メロンブックス【AI禁止】
店舗及びウェブサイトにおいて同人作品の販売を行っている企業。実本・電子作品共にAI生成作品の取り扱いを停止した。
2023年5月15日にAIツール使用作品の新規登録の受付を電子作品において一時停止したと発表。さらにメロンブックスの取引規約「同人作品委託について」の項目に「AIを利用した作品につきましては、作品キーワード「AI生成作品」の【設定必須】とさせて頂きます。」との新しい規約が追加された。
- 【お知らせ】電子同人作品に関するAIツールを使用作品の登録受付を一時停止、並びに規約更新のお知らせ（2023年5月15日-メロンブックス）
同年6月27日には実本・電子作品共にAI生成作品の取り扱いを一時停止すると表明。メロンブックスはAIツールを使用した作品、または同社が使用したと判断した作品について、作品の案内状況、同社通販での表示状況、対応における同社の運営コストを鑑みて取り扱いを中止するとし、今後「新規申請の受付停止」、「現在予約・受注を含む販売中の作品の販売停止」、「在庫の返送」といった措置を順次行っていくと発表。
- 【重要なお知らせ】AIツールを使用したとされる同人作品の取り扱いを一時停止致します。（2023年6月26日-メロンブックス）
BOOTH (ピクシブ)【AI対応】
2023年5月16日にBOOTH事務局からAI生成作品に関する今後の対応について発表があった。
生成AI使用者による過剰出品で他の創作物の販売機会が脅かされる
生成AIによる過剰出品によって検索妨害される
生成AIで過剰出品された作品の規約・ガイドライン違反が多く、運営コスト増加により健全なサービス運営が難しくなってしまった
などの理由により、今後は「同一の制作技術を用いたことによる他と差別化されていない作品を出品するショップ」とBOOTH運営が判断した場合については、制作過程を問わず作品を検索結果から除外するとした。
BOOTH運営は最後に、今回の対応を取った後も改善が見られなければ、サービスの健全性を維持できないと判断して全てのAI作品を禁止せざるを得なくなると表明した。
生成AIによる過剰出品によって検索妨害される
生成AIで過剰出品された作品の規約・ガイドライン違反が多く、運営コスト増加により健全なサービス運営が難しくなってしまった
などの理由により、今後は「同一の制作技術を用いたことによる他と差別化されていない作品を出品するショップ」とBOOTH運営が判断した場合については、制作過程を問わず作品を検索結果から除外するとした。
BOOTH運営は最後に、今回の対応を取った後も改善が見られなければ、サービスの健全性を維持できないと判断して全てのAI作品を禁止せざるを得なくなると表明した。
- AI生成作品に対する、BOOTHにおける今後の対応とお願い(2023年5月16日-BOOTH)
支援サイト
FANBOX (ピクシブ)【AI禁止】
株式会社ピクシブが運営するクリエイター支援サイト。AI生成物の取り扱いを禁止している。
2023年5月10日にAI生成作品の取り扱いを当面の間禁止にすると発表した。
過去に投稿されたAI生成作品も含めて、警告や非公開化、クリエイターアカウント停止処置を行うとの事。
過去に投稿されたAI生成作品も含めて、警告や非公開化、クリエイターアカウント停止処置を行うとの事。
- AI生成作品に対する、FANBOXにおける今後の対応（2023年5月10日-pixivFANBOX）
2023年7月11日、pixivFANBOXは「AI生成コンテンツ」を定義し、2023年7月25日をもって規約を改定を行い「AI生成コンテンツ」の投稿を禁止すると発表した。
- pixivFANBOX個別規約改定と「AI生成コンテンツ」設定のお知らせ(2023年7月11日-pixivFANBOX）
同年7月25日に規約の改定が行われた。
pixivFANBOX個別規約改定のお知らせ（2023年7月25日-pixivFANBOX）
pixivFANBOX個別規約改定のお知らせ（2023年7月25日-pixivFANBOX）
FANTIA【AI禁止】
株式会社虎の穴が運営するクリエイター支援サイト。AI生成物の取り扱いを禁止している。
2023年5月10日に「昨今の状況を鑑みて、クリエイターと作品を守る対応が必要となったため、AI生成作品の取り扱いを一時停止する」と発表した。
- AI作品の取り扱い一時停止について（2023年5月10日-FANTIA）
2023年5月23日に昨今のAI作品に対する状況を鑑み、AI主体作品を全面禁止とし、5月中にAIカテゴリを閉鎖すると発表された。
- 【重要】投稿ガイドラインの改定について（2023年5月23日-FANTIA）
ci-en【AI禁止】
株式会社エイシスが運営するクリエイター支援サイト。2023年5月11日にAI生成作品の取り扱いを一時停止すると発表。
AI生成作品のための別サイト誘導も含めて、違反した場合はアカウント停止処置を行うとの事。
AI生成作品のための別サイト誘導も含めて、違反した場合はアカウント停止処置を行うとの事。
- AI作品の取り扱い一時停止について（2023年5月11日-エイシス）
Fantasfic
ゲーム販売サイト等
Steam【AI一部禁止】
2023年6月、Valve社が運営するPCゲームの販売サイトである「Steam」においてAIで作られたアセットを含むゲームの販売をブロックしていた事が判明。同社は、「AI生成コンテンツが入ったゲームについて、開発者が全てのデータに対し適切な権利を有している」事を満たすよう強調した。
この事は2023年6月前半に海外掲示板Radditで報告された。報告者によると、AI製コンテンツを含むゲームをSteamでリリースしようとしたところ「ゲーム内に生成AIで作られたコンテンツが含まれており、生成AI製コンテンツの法的位置は不明瞭であるためデータセットに使用されている全てのデータに対する権利を有していることが確認できない限り、ゲームのリリースが出来ない」とのメッセージが送られて来たとの事。
- Steamが「AI生成コンテンツを含むゲーム」を禁止しているとの報告（2023年6月30日-GIGAZINE）
Valve社はこのような対応を取った真意を説明。要約すると
- 生成AIを利用したゲーム自体のSteamへの投稿を禁止させたい意図はなく、ゲーム内に使用されているアセット全ての適切な権利をゲーム開発者が有している状態を確保したい。
- ゲーム開発への活用法や、Steamに提出されたゲームを審査する過程でAIを盛り込む方法を模索するなど、自分たちはAIに対して学び続けている。
- Valve社はイノベーションを歓迎・奨励しており、ゲームにおいてAI技術が新しい体験を生み出すのは間違いない。
- 適切な商業ライセンスがあれば開発者自身が自作品へAI技術を使用する事は出来るが、既存の著作権の侵害は出来ない。
- Steamにおける審査基準はあくまで現行著作権法や指針を反映したもので、Valve社自身の意見は加えられていない。法律や指針が変わっていくようにvalve社自身のプロセスも変わっていく。
- Valve、AI生成コンテンツに関してSteamにおける考えを明らかに（2023年7月3日-IGNJapan）
画像共有サイト
アメリカのPinterest社が運営する写真共有サービス。
2025年3月上旬、利用規約を更新する事が判明（4月30日に改定）。Pinterestはこの改定以前にもユーザーから取得した情報を機械学習に利用する事があると明記されていた。改定後の規約は、ユーザーが投稿・保存した画像をアップロード時期に関係なく取得、生成AIを活用した機能の開発や改善に利用する事を明確化したものとなる。
Pinterestにおける生成AIの利用例として、体型に合った服装の画像をサジェストする機能「body type technology」の提供に向けた、生成AIによる画像分類の改善などがあるという。他にも、同サービスはすでにユーザーの公開データを用いてトレーニングする画像生成AIモデル「Pinterest Canvas」や広告素材の背景画像をAI生成するサービスなどを研究・提供している。
一方で、Pinterestは以前より無断転載が多いと言われており、ネット上では画像の作成者や権利所有者の意志を無視してPinterestの生成AI開発のために画像が無断で使われてしまう可能性を懸念する声もある。
- 【変更前のポリシー】
Pinterest はサービス向上、ユーザーおよびプラットフォームの安全性の確保、そして法的利益を守るためにユーザーの情報を使用します。そのために、次のことを実践します。
（中略）
Pinterest の系列会社の製品とサービスを改善し、新機能を提供します。例えば、機械学習モデルなど、Pinterest のテクノロジーに関するトレーニング、開発、改善のために情報を使うことがあります。
プライバシーポリシー（Pinterest、2025年3月12日閲覧）
- 【変更後のポリシー】
Pinterest はサービス向上、ユーザーおよびプラットフォームの安全性の確保、そして法的利益を守るためにユーザーの情報を使用します。そのために、次のことを実践します。
（中略）
Pinterest の系列会社の製品とサービスを改善し、新機能を提供します。例えば、ピンの投稿時期に関係なく、機械学習モデルなど Pinterest のテクノロジーに関するトレーニング、開発、改善のために情報を使うことがあります。これには、例えば、Pinterest のサービスに投稿されたピンの画像に基づいてトレーニングされる Pinterest のボディタイプ選択テクノロジーが含まれます。Pinterest には、生成型 AI テクノロジーによってサポートされる機能もあります。詳細は、こちらをご覧ください。
プライバシーポリシー（Pinterest、2025年3月12日閲覧）
- Pinterest Changes User Terms So It Can Train AI on User Data and Photos, Regardless of When They Were Posted（2025年3月8日：Futurism）
- Pinterest、「投稿画像を生成AIのトレーニングに利用」規約に明記 4月の改定で SNSでは反発も（2025年3月10日：ITmedia）
2025年4月30日、AIで生成又は編集された画像を示すラベル「AI修正」を導入したと発表。
- Introducing Gen AI Labels: Pinterest is Taking a New Step in Transparency（2025年4月30日：Pinterest）
- PinterestがAIで生成または編集された画像を示す「AI修正」ラベルを展開、メタデータと独自のAI分類器で識別（2025年5月2日：GIGAZINE）
写真・素材等販売サイト
Adobe stock
Adobe社が運営するストックフォトサイト。2022年12月5日、画像生成AIで作成されたコンテンツをAdobe stockへ受け入れると発表した。
- Adobe、アドビストックでAI生成画像受け入れのガイドラインを策定（2022年12月5日-itmeida）
Shutterstock
Shutterstockは、AIが生成したコンテンツの提出を寄稿者から受け付けていますか？
いいえ。当社は画像を生成するAIツールを開発しましたが、寄稿者がAIで生成されたコンテンツを当社のプラットフォームでのライセンス取得用に提出することを許可しません。一見矛盾しているように思えるかもしれませんが、このポリシーの背景にはいくつかの理由があります。
- 寄稿者アカウントと素材寄稿のガイドラインおよび寄稿者向けサービス規約（13条d項および13条f項）に従い、当社は寄稿したコンテンツすべての知的財産の所有権を寄稿者が証明できるようにしたいと考えています。AIコンテンツ生成モデルは多くのアーティストの知的財産とそのコンテンツを利用するため、AIが生成したコンテンツの所有権を個人に割り当てることはできません。
- また、当社は、寄稿者の作品がAI訓練モデルで使用される場合に、寄稿者に対して適切な報酬が必ず支払われるようにしたいと考えています。市場ではさまざまなAIコンテンツ生成モデルが入手できるため、大半のAI生成コンテンツのモデルソースは当社で検証できません。そのため、当社は各コンテンツの生成に関与したすべての寄稿者への支払いを保証することができません。
Getty Images【AI禁止】
2022年9月21日、米国の写真素材販売サイトであるGetty Imagesは、「画像生成AIから出力される画像には著作権上の懸念がある」ためAI生成物の取り扱いを禁止すると発表した。
- 画像生成AI「Stable Diffusion」「Midjourney」「DALL-E」などで生成した画像のアップロードと販売をGetty Imagesが禁止、ユーザーが法的なリスクに直面する可能性があるという懸念が理由（2022年9月22日-GIGAZINE）
- Getty Images bans AI-generated content over fears of legal challenges（2022年9月21日-The Verge）
なお、Getty imagesは2023年1月と2月にそれぞれ英国と米国で画像生成AIの開発企業であるStability AIに対し「自社の画像を勝手に使っている」として訴訟を提起している。
詳細は⇒「生成系AIに関する訴訟・法的対応一覧／米国・英国におけるGetty imagesによる訴訟」
詳細は⇒「生成系AIに関する訴訟・法的対応一覧／米国・英国におけるGetty imagesによる訴訟」
アマナイメージズ【AI禁止】
2023年6月20日、アマナイメージズを主導とする「日本画像生成AIコンソーシアム（JIGAC）」設立表明の際、AI生成物の取り扱いを行わないと発表した。
■アマナイメージズでのAI生成画像の取り扱いについて
併せて、アマナイメージズでのAI生成画像の取り扱いについて、以下の通り正式発表いたします。
- 現在、AIで生成された画像が、法的リスク・トラブルリスク・品質などの観点でアマナイメージズが設定している審査基準を満たしていないことから、当面の間は仕入れ・販売などの取り扱いを行わないことといたしました。
- AI生成画像の取り扱い方針については、本コンソーシアムの議論と連携しつつ、今後も積極的に検討を進めて参ります。
”新生”アマナイメージズ、日本画像生成AIコンソーシアム設立（2023年6月20日-PRtimes）
なお、アマナイメージズは許諾の取れた画像素材を機械学習用に提供するサービスを開始している。
PIXTA
2024年4月8日、PIXTAは同サービス上の画像について生成AI用学習データとしての販売を開始すると発表。
以前PIXTAは生成AI用のデータとしての販売には慎重であったが、利用したいとの問い合わせが多く大きな収益が見込めるとして今回の判断に至ったという。利用されたクリエイターに対する収益の還元や各クリエイターによるデータ利用の拒否も可能であるとのこと。
以前PIXTAは生成AI用のデータとしての販売には慎重であったが、利用したいとの問い合わせが多く大きな収益が見込めるとして今回の判断に至ったという。利用されたクリエイターに対する収益の還元や各クリエイターによるデータ利用の拒否も可能であるとのこと。
【出典・関連記事】
◇［PIXTA］【重要】PIXTA利用規約改定について（2023年8月21日-PIXTAガイド）
◇ストックフォト大手PIXTA、生成AI学習用素材としてコンテンツ販売へ NGの場合は要申請（2024年4月8日-ASCII）
◇［PIXTA］【重要】PIXTA利用規約改定について（2023年8月21日-PIXTAガイド）
◇ストックフォト大手PIXTA、生成AI学習用素材としてコンテンツ販売へ NGの場合は要申請（2024年4月8日-ASCII）
動画サイト
ニコニコ【AI一部禁止】
株式会社ドワンゴが運営する動画配信サイト。AI作品の投稿自体は容認しているものの、作品の収益化に関しては「プログラムから自動出力された生成物をそのまま投稿した場合には不可能」という条件を付けるといった対応を取った。
2022年10月14日にドワンゴはAI作品の収益化基準について明示。AIから出力したイラスト・音楽等の生成物をそのまま投稿した場合は「クリエイターとしての活動の関与が実質的にほとんどない」としてニコニコのクリエイター奨励プログラムの審査から除外する。ただし、自分で作成したプログラムから出力した作品からであったり、AI生成物を「自身の創作物の一部」に組み込んだ上で完成した作品によって収入を得る行為は問題がないとした。
- AIを利用した作品のクリエイター奨励プログラム・作品収入の奨励金付与について（2022年10月19日-ニコニコ）
- “AIが出力しただけ”の作品は収益化NG ニコニコが基準表明 「クリエイター支援の目的にそぐわない」（2022年10月14日-itmedia）
YouTube【AI対応】
アメリカ発の動画共有サービス。
2023年11月14日、YouTubeは生成AIに関する新たな2つのガイドラインを発表した。
2023年11月14日、YouTubeは生成AIに関する新たな2つのガイドラインを発表した。
1.現実のように見える改変・合成コンテンツをAIツールで作成した際、その事実を開示する義務。
⇒開示を選択しないクリエイターはコンテンツ削除などの罰則対象になる可能性あり
⇒開示を選択しないクリエイターはコンテンツ削除などの罰則対象になる可能性あり
2.生成AI等に利用された場合の削除リクエスト
⇒自分の顔や声などがディープフェイクなどに利用された場合、そのようなコンテンツの削除リクエストを出来るようにする
⇒自分の顔や声などがディープフェイクなどに利用された場合、そのようなコンテンツの削除リクエストを出来るようにする
2024年2月6日には、生成AI製のリアルなコンテンツについて合成である事を示すラベルを数か月以内に導入する事、生成AIコンテンツにも既存のポリシーを適用する事など生成AI製フェイクへの対策を強化すると同時に、動画背景の生成や音楽関連のAI活用を進めていくと表明した。
▼関連リンク
◇Our approach to responsible AI innovation（2023年11月14日-YouTube公式ブログ）
◇YouTube、生成AI利用コンテンツに開示義務 違反すれば削除などの罰則対象に（2023年11月15日-ITmedia）
◇Letter from the YouTube CEO: 4 Big bets for 2024（2024年2月6日-YouTube公式ブログ）
◇YouTube、ディープフェイク対策など生成AIの取組強化（2024年2月7日-Impress Watch）
◇Our approach to responsible AI innovation（2023年11月14日-YouTube公式ブログ）
◇YouTube、生成AI利用コンテンツに開示義務 違反すれば削除などの罰則対象に（2023年11月15日-ITmedia）
◇Letter from the YouTube CEO: 4 Big bets for 2024（2024年2月6日-YouTube公式ブログ）
◇YouTube、ディープフェイク対策など生成AIの取組強化（2024年2月7日-Impress Watch）
SNS
一部のSNSでは各国の法規や社会的風潮などを受けて、自身が投稿したデータを生成AIの学習用として使わない事を選択できる「オプトアウト（Opt-Out）」機能が用意されている。以下は各SNSでのオプトアウト手順やデータ利用に対するスタンスについて記述する。
ただ、オプトアウトという仕組みも様々な問題が指摘されている。詳細は当Wiki「クリエイター関連で提唱されている生成AI規制案/オプトアウトに関する意見」へ。
ただ、オプトアウトという仕組みも様々な問題が指摘されている。詳細は当Wiki「クリエイター関連で提唱されている生成AI規制案/オプトアウトに関する意見」へ。
また、後述のオプトアウト（生成AIへの利用拒否）機能を利用して、SNS運営等に自身の作品データを生成AI開発へ使われる事を拒否したとしても、SNS側による将来の規約変更などでデータ収集に対する方針の変化がある可能性や、SNSの外から他のAI開発企業等による収集がある可能性を考慮すれば、完全にデータ収集を拒否することは難しい。
⇒SNS以外のプラットフォームの対応については「画像生成AI・生成系AIに対する各種プラットフォーム等の反応・対応まとめ」へ。
X（旧Twitter）
X（旧Twitter）では2024年7月に、公開ポストやX搭載のチャットAI「Grok」でのやり取りなどをAI学習に利用されてもよいか選択できるチェックボックスの追加が確認された。
ただし、2024年10月16日に発表され11月15日から適用予定の投稿コンテンツをAIトレーニングに利用する（またはその規模を拡大する）という内容の規約改定に際して、オプトアウト機能は消滅するのではないか、あるいは消滅しないのではないかと予測は割れており今後どうなるか状況は不透明である。（記事）
11月15日以降もオプトアウトのチェックボックスは残った。
2025年1月第2週より、一度オフにしたチェックボックスがいつの間にかオンになっており、もう一度オフにしても時間が経つと戻っているという報告がX内で相次いだ。（記事）
- ▼オプトアウトの方法は以下。
「設定とプライバシー」へ⇒「プライバシーと安全」へ⇒「データ共有とカスタマイズ」内の「Grokとサードパーティーコラボレーター」の項目へ⇒「公開データに加えて、GrokおよびxAIでのやり取り、インプット、結果をトレーニングと調整に利用することを許可します※」というチェックボックスがあるのでこれをオフにする。（デフォルトではオンになっているので注意。）
※2024年11月15日の規約改定以前の記載：「ポストに加えて、Grokでのやり取り、インプット、結果をトレーニングと調整に利用することを許可する」
※2024年11月15日の規約改定以前の記載：「ポストに加えて、Grokでのやり取り、インプット、結果をトレーニングと調整に利用することを許可する」
X公式のGrok解説ページ「Xのユーモア溢れるAIアシスタント、Grokについて」では、オプトアウトについてこのように書かれている。
自分のデータがGrokのトレーニングと微調整に使用されるかどうかを管理するにはどうすればよいですか？
- モデルトレーニングをオプトアウトするにはどうすればよいですか？
Xがお客様の公開データや、X上のGrokでのやり取り、インプット、結果を、xAIによって開発された生成AIモデルのトレーニングと微調整に使用するための条件を、お客様は柔軟に管理できます。（中略）
オプトアウトしても、XプラットフォームでGrokを引き続き使用できますが、お客様の個人データはGrokのトレーニングや微調整に使用されなくなります。この設定は、xAIによって実施されるAIモデルのトレーニングと微調整に適用されます。
また、たとえば [イイね] ボタンや [ダメ] ボタンを使ってモデルのトレーニングをオプトアウトした場合でも、会話に関するフィードバックは任意で送信できます。このようなフィードバックを提供すると、XとxAIはその会話や会話に関連するデータを使用してGrokをトレーニングおよび微調整し、ユーザーエクスペリエンスを向上させることができます。データがこれらの目的で使用されることを望まない場合は、そのようなフィードバックを送信しないことをお勧めします。
（中略）
- ポストやアカウントを非公開にするにはどうすればよいですか？
さらに、アカウントを非公開にすることで、ポストがすべてのユーザーに公開されなくなり、ポストがGrokおよびxAIの基盤となるAIモデルのトレーニングに使用されたり、ユーザーの質問への回答として表示されたりすることがなくなります。（後略）
Xの生成AIとデータに対するスタンス
- ▽イーロン・マスク氏のTwitter買収、Xへの改名
X（旧Twitter）は、イーロン・マスク氏による買収（2022年10月に買収完了）の後、2023年8月31日に行われたXプライバシーポリシーの改定で「公開で投稿されたデータ等を人工知能の訓練に利用する」という旨の内容を追加している。（マスク氏は生成AI開発のためのデータ調達においてよく用いられるウェブスクレイピングに批判的で、2023年7月には一時的な対策として突如Xに閲覧制限が設けられる事件も起きた。記事）
2023年11月にマスク氏が所有するAI企業xAIが開発したチャットAI「Grok」を発表、Xの課金ユーザーに向けて提供する計画であるとアナウンスされた。2024年5月に提供開始。なお上記のポリシー変更により、Grokは学習データとしてXユーザーの投稿を利用していると考えられている。
XヘルプセンターではGrokがどのようなデータに基づいて訓練（トレーニング）されたか、このように書かれている。
- Grokはどのように訓練されていますか？
Grokは、今日のほとんどのLLMと同様に、インターネット上に公開されているソースに由来するさまざまなデータと、人間のレビュー担当者であるAIチューターによってレビューおよびキュレーションされたデータセットに基づき、xAIによって事前トレーニングされています。詳細については、 xAI Webサイトをご覧ください。
なお、X（旧Twitter）を運営する「X.corp」と、GrokなどのAI製品を開発・リリースする「xAI」はそれぞれ別の企業である。
2024年7月、X内に「AI学習から自身の投稿、Grokでのやり取りなどを利用できないように選択できる（オプトアウト）」チェックボックスが追加されたことが確認。（記事）
8月にはGrokに画像生成機能が追加された。搭載された画像生成AIはxAI独自のものではなく、有名な画像生成AI「Stable Diffusion(SD)」などで知られる企業StabilityAIの元メンバーらが設立した企業Black Forest Labsが開発した「Flux.1」を採用した。
- ▽2024年11月の規約改定
10月16日、サービス利用規約とプライバシーポリシーの更新を発表（同年11月15日より適用）。新たに「ユーザーのデータをサードパーティーAIのトレーニングに利用できる」という内容が追加、これはクリエイターを中心に「生成AIのデータとしてXに投稿されたポスト等が使われる（またはその範囲が拡大する）」と受け止められた。また同日にブロック機能の大幅な変更が行われたことも伴い、Blueskyやmisskey、タイッツーなど他のSNSに新しくアカウントを作る動きが活発化した。また、7月に追加が確認されたAI学習利用拒否（オプトアウト）機能は11月15日の規約変更以降も適用され続ける、反対に適用されなくなるのではないかとする予想が各メディアから発表された。（記事1・記事2）
X公式サイトにおける利用規約とプライバシーポリシーの変更の概要を知らせるページでは、共有する情報を生成型AIやその他のAIに利用する事を明確化すると告知している。（引用元：利用規約とプライバシーポリシーの改定（2024年10月16日-X公式サイト））
- AIと機械学習の明確化:お客様が共有する情報を、生成的またはその他の人工知能モデルのトレーニングにどのように使用するかについて明確にするために、プライバシー ポリシーに文言を追加しました。
2024年11月15日に施行予定のX新規約においてはサービス利用規約とプライバシーポリシーが変更されるが、以下で変更前と変更後の規約を比較する。
- サービス利用規約の変更点
| + | 長いので折りたたみ |
- プライバシーポリシーの変更点
| + | 長いので折りたたみ |
- ▽規約改定以後の動き
12月6日ごろ、今まで有料ユーザーのみに提供されていたGrokが、回数制限付きながら無料ユーザーへも解放された。（記事）
12月第二週より日本でも流行。Grokの面白回答がXユーザーから多くの反応を得たほか、政治家やスポーツ選手といった有名人のフェイク画像も多数投稿された。
12月第二週より日本でも流行。Grokの面白回答がXユーザーから多くの反応を得たほか、政治家やスポーツ選手といった有名人のフェイク画像も多数投稿された。
7日ごろには、新しい画像生成AIモデルである「Aurora」がGrok内に一瞬だけ実装されたものの数時間で利用不可となった。Auroraは、すでにGrok搭載の画像生成AIとして実装されていたFlux（外部企業であるBlack Forest Labs社が開発）とは異なり、xAI社が独自に開発したものであるとみられている。（記事）
9日、Auroraが無料ユーザーを含めた全ユーザーに解放された。（記事）
2025年1月の第2週目、Grokへ自身のデータやGrokでのやり取りを利用できるようにするか選択可能なチェックボックスについて、一度オフにしていたものが勝手にオンになっている、再びオフにしても時間が経つとオンに戻っていたという報告がX内で相次いだ。（記事）
この現象について、Grokのナビゲーションアイコンが変更されたタイミングで自動的に初期化された可能性が指摘されている。
この現象について、Grokのナビゲーションアイコンが変更されたタイミングで自動的に初期化された可能性が指摘されている。
Instagram／Facebook／Threads（Meta）
アメリカのIT企業Meta（メタ）が運営するSNS、インスタグラム、フェイスブック、スレッズでのAI学習への対応。
Metaは独自の大規模言語モデルである「LLaMA」や画像生成AIモデルの「Emu」を開発するなど、生成AIの推進に積極的な企業である。
これらの生成AIを開発するには大量のデータが必要となるが、Metaはそのデータの一部を自社が運営するSNSの投稿データから調達している。（記事1・記事2・記事3）
これらの生成AIを開発するには大量のデータが必要となるが、Metaはそのデータの一部を自社が運営するSNSの投稿データから調達している。（記事1・記事2・記事3）
一方で、生成AIで作成されたと考えられるコンテンツには「AI info（AI情報）」というラベルを表示するなどの対策も行っている。（記事）
misskey.io
「生成AIによる学習を拒否」という機能が搭載されている。ただし「外部の文章生成AIや画像生成AIに対して学習対象にしないよう要求する機能」であり、その要求に従うかどうかはそのAI次第なので学習の完全防止はできないとしている。
▼設定方法
「設定」へ⇒「プライバシー」へ⇒「生成AIによる学習を拒否」のチェックボックスをオンにする。
「設定」へ⇒「プライバシー」へ⇒「生成AIによる学習を拒否」のチェックボックスをオンにする。
タイッツー
生成AI用Webクローラーを一律で全拒否する設定を行っている。（記事）
▼タイッツー開発者のhoku氏による説明。
loading tweet...— hoku@個人開発 (@hoku_unagi) October 18, 2024Bluesky
Blueskyの運営会社がユーザーのコンテンツをAIトレーニングに利用することはないと表明。さらにBlueskyユーザーがAIトレーニングへの同意／不同意の意思を示すことの出来る機能の実装を進めている。
生成AIとBlueskyに関する動き
2024年10月16日に公表されたX（旧Twitter）によるユーザーコンテンツをAIトレーニングへ利用する事を明確化する新しい規約が主にクリエイターらの間で物議を醸す中、10月24日に生成AIへの投稿コンテンツ利用についてBluesky運営にメールを送ったとする人物が運営側の返答内容を公開。
それによるとBluesky側がユーザーの投稿コンテンツを生成AIのトレーニングに利用することはないとのこと。また、Blueskyはコンテンツのモデレーションや発見アルゴリズムのためAIを利用しているが、これらはいずれもユーザーのコンテンツでトレーニングされた生成AIシステムではないと説明した。
それによるとBluesky側がユーザーの投稿コンテンツを生成AIのトレーニングに利用することはないとのこと。また、Blueskyはコンテンツのモデレーションや発見アルゴリズムのためAIを利用しているが、これらはいずれもユーザーのコンテンツでトレーニングされた生成AIシステムではないと説明した。
11月16日、Bluesky運営のアカウントが正式に作品を生成AIのトレーニングに利用しないとする声明を発表した。
11月27日、Bluesky運営はAIトレーニングへの同意／不同意をユーザーが指定できる機能の実装する検討を進めていると発表した。
Bluesky運営は、AIトレーニング用のデータ収集を行うクローラーをブロックする目的でも利用されるrobots.txtの存在を例に挙げ、似たようなシステムの実装について調査しているとのこと。ただ、Blueskyユーザーが行った設定を守るかは外部の開発者次第であり、強制することはできないものであるとも述べている。
Bluesky運営は、AIトレーニング用のデータ収集を行うクローラーをブロックする目的でも利用されるrobots.txtの存在を例に挙げ、似たようなシステムの実装について調査しているとのこと。ただ、Blueskyユーザーが行った設定を守るかは外部の開発者次第であり、強制することはできないものであるとも述べている。
なお、画像ラベルの生成を目的として画像識別AIである「HIVE」を利用している。運営チームによれば、HIVEが自社のAIモデルを微調整するためにBlueskyのコンテンツを利用することはないとのこと。
▼HIVEに対するBluesky開発チームのRose氏による説明。（2023年7月4日）
https://bsky.app/profile/rose.bsky.team/post/3jzn5sspjhl2u
https://bsky.app/profile/rose.bsky.team/post/3jzn5sspjhl2u
モデレーションリストとラベラーについて、その注意点
Bluesky独自の機能として「モデレーションリスト」が存在する。ざっくりと言えば「リスト内に載っているアカウントをまとめてブロックorミュート出来る」というものであり、誰でも作成可能である。スパムアカウントのブロックなどで効力を発揮すると期待される一方で問題も指摘される。例えば、特定の思想Aを持つアカウント群をブロックできると標榜するモデレーションリストの中に、思想Aとは対立する思想を持つアカウントをわざと入れブロックさせるといった運用も残念ながら可能だ。
具体例として、AI絵師／生成AIユーザーをリストに入れ、一括ブロックできると称するリストもあるが、必ずしもAIユーザーのみが追加されているとは限らないという事も考えられ、（例えば生成AIへ懸念を示した人物をわざとリストに入れているなど）そのような事例も実際に報告されている。
また、比較的誠実に運用されているモデレーションリストでも、そのリストにどのようなアカウントを入れるかリスト作成者によって基準は異なる。単にAIイラストを投稿しているアカウントのみならず、少しでも肯定的な発言をしたとリスト作成者がみなした場合など、比較的軽微な事例で入れられている可能性もあり、気づかないうちにフォロワーをブロックしていたという事もあり得る。
また、比較的誠実に運用されているモデレーションリストでも、そのリストにどのようなアカウントを入れるかリスト作成者によって基準は異なる。単にAIイラストを投稿しているアカウントのみならず、少しでも肯定的な発言をしたとリスト作成者がみなした場合など、比較的軽微な事例で入れられている可能性もあり、気づかないうちにフォロワーをブロックしていたという事もあり得る。
特に個人が作成したモデレーションリストを利用する際は誰が入っているのか一度目を通すか、そもそも無闇に他人のモデレーションリストを利用しない、もしくは本当に信頼できる人が作ったものだけを利用するなど、慎重な運用を推奨する。
そしてモデレーションリストと同様に特定のポストとアカウントの表示を制限する機能として「ラベラー」機能がある。こちらはブロック＆ミュートを行えるのではなくラベル作成者のアカウントがリストインした特定のアカウント群とそのポストに対し、バッジが表示される仕組みである。例えばこの「AI Imagery Labeler」というラベラーアカウントは、生成AIユーザーを対象にラベリングしておりこれを登録すれば作成者がリストインしたユーザーのアカウントやポストに「生成AI利用者である」との旨のバッジが表示される。また、ラベラーアカウントの登録者は、リストインされたアカウントに対し「ポスト自体がタイムラインなどからは消えないがそのポストやアカウントにバッジを表示する」ほかにも「ポストを完全に非表示にする」、「ラベラー機能をオフにする」という三択を選ぶことが出来る。
ただし、ラベラー機能もモデレーションリストと同様に、どのようなアカウントをリストインするかの基準は作成者自身の考え方に左右されるところがあるので注意。
なお、Blueskyには、「モデレーションリスト」とは別に「リスト」機能もあるが、こちらはX（旧Twitter）のリストに近い機能であってまた別の機能である。
mixi2
2025年1月14日、生成AIに対するポリシーを発表。
生成AIに対するポリシー
多くの創作者の方がSNSを通して活動を行っていることや、生成AIのトレーニングによる権利侵害に懸念を抱いていることを理解しております。
例えばmixi2が、mixi2上に投稿されたイラスト創作物を生成AIモデルのトレーニングに活用し、それを利用した新たなイラストコンテンツを生成するプロダクトを提供することはありません。
外部からの不正なクローリングやスクレイピングについて
mixi2では、第三者によるクローリングやスクレイピングなどの行為を利用規約で禁止しています。
詳細は mixi2 利用規約 をご参照ください。
引用元：生成AIに対するポリシーについて（mixi2サポートページより、2025年1月16日閲覧。）
ブログサービス
note
東京都千代田区の企業、note社が運営するテキスト、写真、イラスト、音楽などを配信できるウェブサイト。
生成AI関連について、オプトアウト機能の実装やAI学習に対する対価還元実験などを行っている。
生成AI関連について、オプトアウト機能の実装やAI学習に対する対価還元実験などを行っている。
2025年2月13日、コンテンツを無許諾で生成AI開発に利用されることが世界的に問題となる中、note運営は「AI学習に対して意向を示せる機能（オプトアウト）」を導入したと発表。同社は、クリエイターとAIの共存を模索する実験的取り組みとして、ユーザーが拒否の意向を示した場合生成AI事業者のユーザーエージェントをブロックする対応などを検討しているとした。
またnote運営は、「多くの生成AI事業者は一般に公表されているルールに則って学習を行っている」としたうえで、この機能の設定によって全ての事業者が必ずそのルールを遵守する事を保証するものではないと付け加えた。
- AI学習に対して意向（オプトアウト）を示せる機能について（2025年2月13日：note）
- 自分の作品をAIに学習させたくない方に。意向を設定できるようになりました（2025年2月13日：note）
- note、クリエイターがAI学習に「ノー」と言える新機能（2025年2月14日：ケータイWatch）
2月25日には、「AI技術の進歩とクリエイターの作品を守ることを両立するため」として、AIにnoteの投稿が学習データとして収集された場合にクリエイター側へ適切な対価を支払うための実証実験を始めると告知した。現状、対価還元の対象はテキストコンテンツに限定されている。
- クリエイターがAI学習の対価を受け取れる仕組みをつくるため、実験的プロジェクトをはじめます！（2025年2月25日：note）
4月8日には、実証実験の結果を発表した。参加人数は約1200名、総還元額は約500万円となり、一人に対する最大還元額は約40万円となった。
還元額の算定は、ページビューやフォロワー数のみならず、構成や表現、専門性などAIの学習データとして効果的かどうかを独自のアルゴリズムを用いて決定したとのこと。
還元額の算定は、ページビューやフォロワー数のみならず、構成や表現、専門性などAIの学習データとして効果的かどうかを独自のアルゴリズムを用いて決定したとのこと。
- AI学習でクリエイターに新たな収益の機会を提供。noteの実証実験に1,200名以上が参加し、総額500万円超を還元！（2025年4月8日：note）
- AI学習に対価、noteが文章投稿者に最高40万円を還元（2025年4月8日：日本経済新聞）
同人イベント等
COMITIA（コミティア）【AI一部禁止】
オリジナル創作物限定の同人イベントであるCOMITIAの運営は2023年2月9日、AI生成作品の頒布に関する問い合わせが殺到しているとして、コミティアでの新たな規定を発表した。この規定は2023年9月3日開催のCOMITIA145まで適用され、以降は8月3日に発表した新規定に切り替わった。
- 【COMITIA145まで】AI作品に関するサークル販売物規定について（2023年2月9日-COMITIA事務所blog）
2023年8月3日、公式ブログ内にて「生成AIの出力結果そのままを主体とした作品の頒布は不可、AI使用は作品制作の補助となる範囲でなら認める」との方針を打ち出した。
- 【COMITIA146より】AI作品に関するサークル販売物規定について（2023年8月3日-COMITIA事務所blog）
クリエイティブツール開発会社
セルシス
ペイントソフト「CLIP STUDIO PAINT（クリスタ）」などを開発する日本のソフトウェア開発会社。
2022年11月29日にイギリスStabilityAI社開発の画像生成AI「Stable Diffusion」をクリスタへ搭載すると発表したが、英語圏を中心に大炎上し搭載を中止することとなった。以下は告知後セルシス側に送られた意見。
2022年11月29日にイギリスStabilityAI社開発の画像生成AI「Stable Diffusion」をクリスタへ搭載すると発表したが、英語圏を中心に大炎上し搭載を中止することとなった。以下は告知後セルシス側に送られた意見。
- 現状の方式の画像生成AIが、著作権を侵害していなくとも、誰かの著作物を利用して画像が生成されており、その由来が不明であるアプリは使いたくない。
- アーティストの為のツールを名乗っているが、画像生成AI機能はむしろアーティストを苦境に追い込み、その活動を阻害する。
- 倫理的に問題がない方法で収集されたデータを利用していないのであれば、使えない。
- CLIP STUDIO PAINTを使っただけで、画像生成AIで作ったと疑われてしまう。
- なぜ要望が多い機能の改善に取り組まずに、問題視されている機能を追加するのか理解できない。
- 信用できない機能が搭載されている道具は、創作のパートナーとして受け入れられない。
- 他者の権利が侵害される可能性のある画像が生成され得る機能を提供しておいて、そうならないよう自身で気をつけてほしい、というセルシスのスタンスは無責任だ。
これらの意見を重く受け止め認識を改めたとして、画像生成AIをクリスタには搭載しないと表明した。
- CLIP STUDIO PAINTに「画像生成AIパレット」の試験的実装を予定しています（2022年11月29日、同年12月2日追記-CLIP STUDIO PAINT）
- Clip Studio Paintの海外向け公式アカウントがStable Diffusion搭載を告知した際のツイート。1.1万もの引用リツイートが付いている。（2022年11月29日）
クリスタと画像生成AIに関する議論についてネット上でよくある主張として、「クリスタに搭載されている自動陰影機能（2023年3月14日公開）は（生成）AIではないか」というものがある。セルシスと共に自動陰影機能の開発にあたった筑波大学のサイトでは、このように解説されている。
本技術は、「実データを用いる機械学習(いわゆるAI)」もしく「既存フィルターの合成」ではなく、不良設定問題を正則化技法によって解くことで設計された㈱セルシスのオリジナルの技術であります。
（引用元：筑波大学情報学群情報メディア創成学類サイト https://www.mast.tsukuba.ac.jp/topics/index.html#161 ※2024年10月1日閲覧）
2024年2月20日、セルシス社とAI技術等を専門とするアクセル社との資本業務提携が発表された。
この発表によって一部のユーザーから「クリスタに画像生成AIを搭載するのではないか」との不安の声が寄せられた。
翌21日、これに対しセルシス社は画像生成AIは搭載せず、あくまで塗り残し削除等のクリエイターの創作活動を手助けするAI技術の活用を模索、AI機能の開発に使用するデータセットはクリーンなものだけを使用すると説明した。
この発表によって一部のユーザーから「クリスタに画像生成AIを搭載するのではないか」との不安の声が寄せられた。
翌21日、これに対しセルシス社は画像生成AIは搭載せず、あくまで塗り残し削除等のクリエイターの創作活動を手助けするAI技術の活用を模索、AI機能の開発に使用するデータセットはクリーンなものだけを使用すると説明した。
loading tweet...— CLIP STUDIO PAINT（クリスタ） (@clip_celsys) February 21, 2024
7月30日にはクリスタのバージョン3.1.0のアップデートを実施。ウォーターマーク機能に「ノイズパターン」が追加され、同社は画像生成AIの追加学習に対して一定程度の妨害効果があるとしている。
- CLIP STUDIO PAINT Ver.3.1.0 の主な更新内容（2024年7月30日公開）（2024年7月30日-CLIP STUDIO PAINT）
- ウォーターマークを公開作品の保護に使用する（CLIP STUDIO TIPS お絵かきのコツ）
Adobe
PhotoshopやIllustratorなどが有名な大手クリエイティブ系ソフトウェアの開発会社。2023年3月21日、Adobeは自社のストックフォトサービス「Adobe stock」内の画像、パブリックドメイン、一般公開されているライセンスコンテンツを学習元とする画像生成AI「Adobe Firefly」を発表した。
- アドビ、新たなジェネレーティブAI「Adobe Firefly」を発表（2023年3月21日）
詳細は「主要なAI画像生成サービス」へ
Savage Interactive
iPad向けペイントソフト「Procreate（プロクリエイト）」を展開するオーストラリアの企業。
2024年8月19日、生成AIに対する見解を発表。「生成AIは人々の創作力を奪略しており、盗作を軸に学習する生成AIは私達を不毛な未来へ導いている」、「生成AIは不愉快であり、アーティストに与えている様々な痛みも納得がいかない」としてProcreateに生成AIを搭載しないと明言した。
2024年8月19日、生成AIに対する見解を発表。「生成AIは人々の創作力を奪略しており、盗作を軸に学習する生成AIは私達を不毛な未来へ導いている」、「生成AIは不愉快であり、アーティストに与えている様々な痛みも納得がいかない」としてProcreateに生成AIを搭載しないと明言した。
▼Procrateジャパンの公式Xアカウントによるポスト。
loading tweet...— Procreateジャパン (@ProcreateJapan) August 18, 2024- 生成AIは私たちの未来ではない。（2024年8月-Procreate）
- 生成AIは「本当に不愉快」――「Procreate」のCEOが、生成AIを製品に一切搭載しないと表明（2024年8月19日-ITmedia）
- 「生成AIは創作力を奪う」、イラスト作成アプリ「Procreate」開発元が批判（2024年8月20日-CNET Japan）
- クリエイターに聞く、「Procreate」の反AI声明に共感が広がる理由（2024年9月9日-CNET Japan）
アイビス
ペイントソフト「ibis Paint（アイビスペイント）」などを開発する日本のソフトウェア開発会社。
2024年1月9日、「ibis paint」に画像生成AIを活用した「AIお手本機能」の実装を発表。しかし、現状の画像生成AIが抱える権利的・倫理的問題が取り沙汰される中で、この機能は日本国内や海外で物議を醸す事となった。
翌10日、AIお手本機能の実装を取り消すと発表した。
2024年1月9日、「ibis paint」に画像生成AIを活用した「AIお手本機能」の実装を発表。しかし、現状の画像生成AIが抱える権利的・倫理的問題が取り沙汰される中で、この機能は日本国内や海外で物議を醸す事となった。
翌10日、AIお手本機能の実装を取り消すと発表した。
- 画像生成AIを利用した機能（AIお手本機能）の取り下げについて（2024年1月10日-ibis Paint）
- On withdrawal of the feature using image generation AI (AI Example feature)（2024年1月10日-ibis Paint）
2024年5月7日、ibis Paintバージョン12.1.0の新機能として「AI学習妨害機能」が追加された。画像生成AIの追加学習を妨害するノイズをイラストに付与できる。
- お知らせ：ver.12.1.0 リリース（2024年5月7日-ibis Paint）
- バージョン 12.1.0の新機能「AI学習妨害機能」（ibis Paint）
Krita
ペイントソフト「Krita」を開発するKrita財団は、2022年12月15日にXの公式アカウントで「No AI」のシンボルマークをポストした。
loading tweet...— @Krita@mastodon.art (@Krita_Painting) December 15, 2022関連年表
2022年
- 9月21日：大手写真素材販売サイトであるGetty ImagesがAI生成作品の取り扱いを禁止すると発表。
- 10月6日：男性向けR-18イラスト投稿サイトのニジエがAI生成作品の投稿を禁止した。
- 10月14日：ニコニコ動画・静画などを運営するドワンゴはニコニコにおけるAI生成作品の投稿・マネタイズに関する方針を発表した。
- 10月17日：イラスト等を投稿できるサイトTINAMIにおいて画像生成AI製作品に対するガイドラインが発表された。
- 10月20日：イラスト投稿サイトpixivはAI生成作品の非表示機能を追加すると発表した。
- 10月31日：pixivがAI生成作品非表示機能を実装。
- 11月25日：pixivリクエストは同サービスにおけるAI生成作品の取り扱いについて発表。
- 11月29日：セルシス社はペイントツールClip Studio Paintに画像生成AIであるStable Diffusionを搭載すると発表したが、（主に海外からの）抗議を受け搭載を中止した。
- 12月頃：海外のイラスト投稿サイトArtstationでAI作品の扱いに対する運営の対応に不満を持ったクリエイターたちが「NoAI」のシンボルを同サイトに投稿する「NoAI運動」が発生。
- 12月5日：Adobe社のストックフォトサイトAdobe Stockは生成AIで作成されたコンテンツを受け入れると発表した。
2023年
- 3月頃：同人作品やアダルト作品の販売サイトであるDLsite、FANZAがAI生成作品の販売制限を相次いで開始。
- 3月1日：クレジットカード不正利用防止の観点からAI製作品の納品を禁じていたコミッションサイトのSkebが生成AI製作品の識別AIである「HIVE」を導入したと発表。同時に同社の生成AIに対する考え方も発表した。
- 5月2日：pixivが画像生成AIの悪用行為に対し規約・ガイドラインの改定を進めていると告知。
- 5月6日～：ある画像生成AIユーザーがpixivをスクレイピングし作品を取得しているとツイート。これがきっかけでpixivに作品を置いていては勝手に画像生成AIに使われるという懸念が広がり、投稿した作品をクリエイターたちが相次いで非公開にする事態に。
- 5月9日：pixivが画像生成AIの悪用対策に関連する告知を再び発表、具体的な対応内容を公表した。
- 5月10日：支援サイトであるpixiv FANBOXがAI生成作品の取り扱いを禁止すると発表した。
- 5月10日：株式会社虎の穴が運営する支援サイトFANTIAでもAI生成作品の取り扱いを一部禁止すると発表した。
- 5月11日：同人作品販売サイトであるDLsiteがAI生成作品の一部販売禁止を発表した。
- 5月11日：支援サイトであるci-enがAI生成作品の取り扱いを一時停止した。
- 5月12日：同人作品の販売を行っているとらのあなが電子書籍におけるAI生成作品の登録受付を一時停止した。
- 5月12日：pixivリクエストがAI生成作品の取り扱いを禁止した。
- 5月15日：同人作品の販売を行っているメロンブックスが電子書籍におけるAI生成作品の登録受付を一時停止した。
- 5月16日：ピクシブが運営する販売サイトBOOTHにて、主にAI生成作品を対象とした作品取り扱いについての方針が示された。
- 5月18日：イラスト投稿サイトXfolio（クロスフォリオ）がAI生成作品の投稿を禁止する方針を発表。同時にbotのアクセスをブロックする技術（reCAPTCHA）も導入すると発表した。
- 5月25日：pixivがAi生成作品の非表示機能に改良を加えたと告知。
- 5月31日：pixivが生成AIに関する大規模な規約改定を発表。
- 6月19日：XfolioにreCAPTCHA機能が実装された。
- 6月20日：写真素材販売サイトであるアマナイメージズは、AI生成作品の取り扱いを行わないと発表。
- 6月26日：メロンブックスは実本・電子書籍共にAI生成作品の取り扱いを停止した。
- 6月27日：BL系作品が中心の投稿サイトpictBLand（ピクトブランド）にて、AI生成作品の取り扱いを禁止すると発表。
- 6月28日：英放送局BBCによって、画像生成AIで作成された児童に見える写真風な性的コンテンツがpixivやpatreon等のサイトでシェアされていると報道された。同局の取材に対しpixivとpatreonは共に問題コンテンツに対し積極的に対策を行っていると表明した。（日本語記事）（英語記事）
- 6月30日：Skebは同社が導入しているAI生成作品検知AIを突破する手段を広めていた者がいるとして当該人物に対し発信者情報開示請求を行ったと発表（申し立ては5月18日に行われた）。
- 6月末：ゲーム販売サイトであるSteamにて生成AI製のアセットが含まれたゲームの販売をブロックしていたことが報じられた。
- 7月3日：Xfolioが8月7日を目途に生成AIに関する規約改定を行うと発表。AI生成作品の取り扱い禁止、AIコンテンツを検知するソリューションの導入を進めるとした。
- 7月11日：pixiv FANBOXは「AI生成コンテンツ」を定義し7月25日をもって規約を改定すると発表。
- 7月25日：pixivFANBOXによる規約の改定が行われた。
- 7月31日：コミッションサイトSKIMAにて画像生成AIに対し同サービスのユーザーがどう考えているのかについてのアンケートを実施し、結果を発表した。
- 8月3日：同人イベントのCOMITIAは、AIからそのまま出力した作品の頒布は不可としAI使用は補助の範疇で留めることとする規定に変更した。
- 8月7日：Xfolioの生成AIに関する規約改定が行われた。
- 11月14日：動画サイトのYouTubeが生成AI製コンテンツである事の開示義務や個人の顔や声が使われたAIコンテンツに対する削除リクエストを行えるようガイドラインを改定した。
2024年
- 2月6日：Youtubeはリアルな生成AI製コンテンツに対し合成である事を表示するラベルなどAIフェイク対策を導入する事を発表。
- 2月15日：DLsiteがAI生成フロアを新規に開設した上で、AI生成作品の販売を再開すると発表。
