atwiki-logo
  • 新規作成
    • 新規ページ作成
    • 新規ページ作成(その他)
      • このページをコピーして新規ページ作成
      • このウィキ内の別ページをコピーして新規ページ作成
      • このページの子ページを作成
    • 新規ウィキ作成
  • 編集
    • ページ編集
    • ページ編集(簡易版)
    • ページ名変更
    • メニュー非表示でページ編集
    • ページの閲覧/編集権限変更
    • ページの編集モード変更
    • このページにファイルをアップロード
    • メニューを編集
    • 右メニューを編集
  • バージョン管理
    • 最新版変更点(差分)
    • 編集履歴(バックアップ)
    • アップロードファイル履歴
    • ページ操作履歴
  • ページ一覧
    • ページ一覧
    • このウィキのタグ一覧
    • このウィキのタグ(更新順)
    • このページの全コメント一覧
    • このウィキの全コメント一覧
    • おまかせページ移動
  • RSS
    • このウィキの更新情報RSS
    • このウィキ新着ページRSS
  • ヘルプ
    • ご利用ガイド
    • Wiki初心者向けガイド(基本操作)
    • このウィキの管理者に連絡
    • 運営会社に連絡(不具合、障害など)
ページ検索 メニュー
AI画像生成・生成系AI 問題まとめwiki
  • ウィキ募集バナー
  • 目安箱バナー
  • 操作ガイド
  • 新規作成
  • 編集する
  • 全ページ一覧
  • 登録/ログイン
ページ一覧
AI画像生成・生成系AI 問題まとめwiki
  • ウィキ募集バナー
  • 目安箱バナー
  • 操作ガイド
  • 新規作成
  • 編集する
  • 全ページ一覧
  • 登録/ログイン
ページ一覧
AI画像生成・生成系AI 問題まとめwiki
ページ検索 メニュー
  • 新規作成
  • 編集する
  • 登録/ログイン
  • 管理メニュー
管理メニュー
  • 新規作成
    • 新規ページ作成
    • 新規ページ作成(その他)
      • このページをコピーして新規ページ作成
      • このウィキ内の別ページをコピーして新規ページ作成
      • このページの子ページを作成
    • 新規ウィキ作成
  • 編集
    • ページ編集
    • ページ編集(簡易版)
    • ページ名変更
    • メニュー非表示でページ編集
    • ページの閲覧/編集権限変更
    • ページの編集モード変更
    • このページにファイルをアップロード
    • メニューを編集
    • 右メニューを編集
  • バージョン管理
    • 最新版変更点(差分)
    • 編集履歴(バックアップ)
    • アップロードファイル履歴
    • ページ操作履歴
  • ページ一覧
    • このウィキの全ページ一覧
    • このウィキのタグ一覧
    • このウィキのタグ一覧(更新順)
    • このページの全コメント一覧
    • このウィキの全コメント一覧
    • おまかせページ移動
  • RSS
    • このwikiの更新情報RSS
    • このwikiの新着ページRSS
  • ヘルプ
    • ご利用ガイド
    • Wiki初心者向けガイド(基本操作)
    • このウィキの管理者に連絡
    • 運営会社に連絡する(不具合、障害など)
  • atwiki
  • AI画像生成・生成系AI 問題まとめwiki
  • 生成AIを用いた偽情報関連の事件・問題の事例一覧

AI画像生成・生成系AI 問題まとめwiki

生成AIを用いた偽情報関連の事件・問題の事例一覧

最終更新:2025年07月16日 16:50

burger

- view
メンバー限定 登録/ログイン

■偽情報関連

生成AIを用いた画像や音声・映像の加工及び、
なりすまし、偽・誤情報の作成・流布に関する事例集
※🔒:会員限定記事、🔐:有料記事

2025年

日付 出来事
7/9 何者かがAIを使って米国務長官を装い 複数の国の外相らと連絡(NHK)
7/8 「プーチンの嘘」をChatGPTに拡散させていた…年360万件の"偽記事"でAIを汚染するロシア情報機関の手口(プレジデントオンライン)
7/3 「32人の女性と関係を持った韓国青年」…AIが生む危険な「嘘ドキュメンタリー」(AFPBB)
7/2 「主要AI、精巧な健康誤情報の生成も容易 豪研究者が警鐘(ロイター)
6/25 生成AIを用いたイランの「プロパガンダ映像」がTikTokで3000万回以上も再生(Forbes JAPAN)
6/25 偽のイスラエル・イラン交戦動画が拡散、200万回以上表示も…ゲームや生成AIで作成か(読売新聞)
6/16 マンボウの“頭”をアシカがガブリ AIフェイクとみられる画像が拡散、指摘相次ぐ(ITmedia)
5/23 生成AIが作った偽「オススメ本」をアメリカの新聞社がそのまま掲載、購読者から怒りの声が相次ぐ(読売新聞)
5/20 「中国の船が海に汚水投棄」 AIフェイクとみられる動画がXで拡散中(ITmedia)
5/12 殺害された被害者が加害者に語りかけ 遺族がAIで再現した生前の姿、法廷で再生 (CNN)
5/6 教皇姿のAI画像は「冗談」、制作には関与せず=トランプ氏(ロイター)
AI生成で勇者、ローマ教皇、王冠姿のトランプ大統領を投稿 ホワイトハウス公式Xの投稿から危惧される「ピーターの法則」現象の発生(NEWSポストセブン)
5/2 生成AIで写真合成、面接も通過…北朝鮮IT労働者の「成り済まし」、本人確認に課題も(産経新聞)
5/2 《あっという間に拡散》「オスのマウスが肛門から出産」のフェイクニュースになぜ多くの人が騙されてしまったのか?3つの理由(NEWSポストセブン)
4/18 著名人のディープフェイク被害が過去最多に 3カ月間で179件、はや昨年超え(Forbes JAPAN)
4/17 AIにロシアのプロパガンダが「感染」している可能性が明らかに(GIGAZINE)
4/13 ミャンマー大地震、金目当ての偽ニュース・動画が拡散(ロイター)
4/8 中国が生成AI利用し偽情報拡散、社会分断が狙いと台湾(ロイター)
3/21 「息子2人を殺した」とチャットGPTが誤情報を生成、ノルウェーの男性が苦情申し立て(BBC)
3/5 ゼレンスキー大統領に関する偽動画など急増 米大統領と会談後(NHK)
2/24 ストーカーがAIを使って被害者になりすますチャットボットを作り嫌がらせをした初の刑事事件(GIGAZINE)
2/21 独選挙直前に偽情報拡散、親ロシア主張 首相候補メルツ氏を批判(ロイター)
2/21 ドイツ総選挙、ロシア発偽情報が拡散 AIが極右に誘導も(日本経済新聞🔒)
2/17 AI生成の偽情報拡散で銀行取り付け騒ぎのリスク増加=英調査(ロイター)
2/13 AIでディープフェイク動画を作られたスカーレット・ヨハンソンがAI規制を訴える(GIGAZINE)
2/6 アサド政権崩壊のシリア、社会不安あおる偽情報が拡散(ロイター)

2024年

日付 出来事
12/14 アップル生成AI、BBCのニュースに「容疑者が銃で自殺」と誤った見出し(読売新聞)
12/4 AI悪用した虚偽投稿、各国選挙への影響は限定的=メタ幹部(ロイター)
11/28 生成AIで誤情報作成の福岡観光サイト閉鎖へ 実在しない名所紹介(毎日新聞)
11/6 米FBI、大統領選巡る偽動画を警告 偽情報拡散に警戒強める(ロイター)
11/5 トランプ氏支持のインフルエンサー、100ドルで不正投票の偽動画拡散(CNN)
10/29 ロシア・中国系勢力、米上陸のハリケーン巡る偽情報拡散=米当局者(ロイター)
10/24 ロシアがハリス氏中傷、AIでディープフェイク動画(ブルームバーグ)
10/24 銃乱射事件で殺されたウジ君が語り出す AIで復活した故人を社会活動に参加させることはどこまで許されるか (JBpress)
10/18 AIが生成した偽情報による選挙工作が複数発覚、日本も制度整備を検討(日経クロステック🔐)
10/17 米大統領選の“投票日前日”にディープフェイク急増か AI専門家が警鐘(TBS)
10/12 米ハリケーンでデマ続出 陰謀論など、大統領選前に拡散(日本経済新聞)
10/9 まん延する「ディープフェイク」 生成AIでより精巧に 外国勢力も暗躍・米大統領選(時事ドットコム)
10/5 架空のテレビ局を装い「ハリス副大統領が過去にひき逃げ事故を起こした」と主張(NHK)
9/26 生成AIで「読者」捏造 写真掲載も実在せず(時事ドットコム)
8/26 急増するAI生成インフルエンサーの問題点 AI生成を隠してフォロワーを獲得するのはありなのか?若年層への悪影響も懸念(マネーポストWEB)
7/25 米 バイデン大統領とハリス氏の偽情報が拡散 1100万回閲覧も(NHK)
5/24 AIで偽ニュースを乱造 サイト作りに2日かからず(日経ビジネス)
4/24 中国初の「AI音声権利侵害」訴訟 被告に534万円の賠償命じる判決(AFPBB)
4/16 バイデン大統領の偽動画、米著名人ターゲットの専用AIで制作 料金2ドル、数分で完成(産経新聞🔐)
4/7 Microsoft、中国のAIによる選挙操作を具体例で再警告(ITmedia)
3/8 AI偽画像の選挙干渉に強まる懸念 「取り組み不十分」と監視団体(毎日新聞🔐)
3/5 トランプ氏支持者、AI生成の偽画像で黒人有権者を誘導(BBC)
2/18 岸田首相の偽画像などがSNSで相次ぎ拡散 注意を呼びかけ(NHK)
2/16 有名科学誌の査読済み論文に画像生成AIで作られた「巨大な性器を持つ謎ラットの意味不明なイラスト」が挿入され話題に(GIGAZINE)
2/3 二宮和也のそっくりさん動画にファン騒然 ドッペルゲンガー説も、指摘される生成AIのディープフェイクの可能性(週刊女性PRIME)
1/31 エッフェル塔、ルーブル美術館が炎上する動画?(日本ファクトチェックセンター)
1/23 バイデン氏に似せた自動音声通話が予備選を妨害(BBC)
AIで生成されたバイデン大統領の「偽音声」電話が多数の有権者にかけられている(GIGAZINE)
1/9 YouTubeが「AIで殺人事件の被害者をよみがえらせるディープフェイク映像」の削除を開始すると発表(GIGAZINE)

2023年

日付 出来事
12/23 批判殺到により撤回…報道写真と生成AIは「混ぜるな危険」!(TABI LABO)
12/19 投獄されているパキスタンの元首相がAIによる音声クローンで獄中から選挙活動を展開(GIGAZINE)
12/13 ごみ分別AI導入を断念、目標正答率に届かず 香川・三豊市(産経新聞)
11/28 スポーツ・イラストレイテッド誌が記事削除、虚偽の記者名とAI顔写真で掲載(CNN)
11/12 『サンモニ』生成AIフェイク画像問題の”誤報”を謝罪 関口宏「気をつけなきゃと話し合ってたんですが…」(ORICON)
10/18 AIによって作られた数十言語の音声によりニューヨーク市長が有権者に多言語話者だと思わせているという指摘(GIGAZINE)
9/5 「AIが執筆した問題まみれのスポーツ記事」がSNSで批判されたため大手新聞社がAIによる記事執筆を一時停止(GIGAZINE)
9/4 キノコ専門家がAmazonで売られている「AIが書いたキノコ採りガイド」を買わないよう呼びかけ、命に関わる危険も(GIGAZINE)
9/1 震災当時の様子を生成AIで伝える「関東大震災100年」実施見送り 証言ではなく「歴史のねつ造」との声を受け(Ledge.ai)
8/31 「性的な書籍」をChatGPTで学校図書館から排除 フェミニズム・反差別・人権扱う作品が消える結果に(Ledge.ai)
8/30 毒キノコのレシピ? Google AI検索がとんでもないことになってるみたい…(GIZMODO)
8/26 妊娠8か月の女性 AIが「強盗」と誤認し逮捕へ 保釈金10万ドル払う結果に(Ledge.ai)
8/14 AIによるレシピ考案アプリが塩素ガスを発生させる食事など不適切なメニューを生成することが報告される(GIGAZINE)
7/14 ChatGPTが「個人についての不名誉で誤解を招く虚偽の説明」を生成したとしてアメリカ当局がOpenAIの調査を開始(GIGAZINE)
6/29 殺された我が子がディープフェイク動画で語り出す 過激化する実録犯罪コンテンツ 米(Rolling Stone)
6/18 AIが偽の研究を量産する「論文工場」との戦いが激化している(GIGAZINE)
6/9 ChatGPTが虚偽の出力をしたとして名誉毀損で訴えられる(GIGAZINE)
6/2 TikTokで殺人事件の被害者が自分の最期を語る映像が増加中(GIGAZINE)
5/26 岸田総理のAI音声で「解散宣言」も…「ひるおび」の悪ノリに批判殺到(Asagei Biz)
4/25 AmazonレビューやTwitterにChatGPTで生成されたスパムが爆増中、「AI製スパム」の増加を専門家が懸念(GIGAZINE)
4/23 AIでシューマッハ氏の架空インタビューを作成・掲載、独週刊誌の編集長が解雇(BBC)

2022年

日付 出来事
11/17 Amazonで高評価の「NFT解説本」を買ったらAIが自動生成したつっこみどころ満載の本だった(GIGAZINE🔒)
9/26 静岡県の水害巡りフェイク画像が拡散 画像生成AIを利用(ITmedia)
3/17 投降呼びかけるゼレンスキー氏の偽動画 米メタが削除(日本経済新聞)

タグ:

事例集
「生成AIを用いた偽情報関連の事件・問題の事例一覧」をウィキ内検索
LINE
シェア
Tweet
AI画像生成・生成系AI 問題まとめwiki
記事メニュー

メニュー

  • トップページ
  • 用語集
  • AI画像生成・生成系AI問題年表
+ 2021年以前~2025年
    • 2025年
    • 2024年
    • 2023年
    • 2022年
    • 2021年以前
  • 生成系AIに関する記事・資料集
  • ★ 編集に興味がある方はこちらへ ★

基礎知識

  • 生成AIは何が問題なのか?
  • 画像生成AIは何が問題なのか?
    • img2imgによる新手のトレパク被害
    • LoRAによる個人や作品の無断学習問題
  • 画像生成AI 関連人物
  • AIと人間の学習の違いについて
  • AIイラストの見分け方
  • 主要なAI画像生成サービス
  • 画像生成AI・生成系AIに対する各種プラットフォーム等の反応・対応まとめ
  • 生成AIに対するクリエイター団体・企業などの反応・対応
    • アート・イラスト関連団体の反応・対応
    • 音楽関連団体の反応・対応
  • 生成AIに関する訴訟・法的対応一覧

主な出来事・事例

  • 画像生成AI 炎上・論争・被害事例まとめ
  • よー清水さんによる画像生成AIに関するアンケート調査結果
  • 画像生成AIに対する法整備を求める記者会見がNHKニュースで放送
  • 日本テレビ系NEWSZEROで生成AI問題を取り上げるも、放送内容に物議を醸す
  • AIイラストレーターゆーます氏i2i疑惑
  • AIグラドル「さつきあい」
  • pixivウマエロアカウント停止騒動
  • AIイラスト支援サービス「petapi」
  • 自動着彩ツール「CoPainter」
  • 自動線画合成ツール「CoPainter」
  • 国際著作権シンポジウム  赤松健参議院議員の講演 英語翻訳版

法律・政治・規制・調査

  • 生成AIに関する日本政府・官公庁・議員の動向
    • 著作権法第三十条の四
  • 各国の生成系AIへの対応・規制まとめ
  • クリエイター関連で提唱されている生成AI規制案
  • 生成AIに関する調査・アンケートの一覧

被害対策

  • 自作品を守るためにできること
    • AI学習防止ツール「Glaze」について【利用方法・意義】
  • 権利侵害の通報・相談窓口

現状を変えるために

  • 政府・議員・団体に対する問い合わせ
  • 署名・募金
  • クリエイター支援団体

関連リンク

日本語

  • ai-illust @ ウィキ
  • AIイラスト利用まとめWiki
  • Wikipedia「生成的人工知能」
  • Wikipedia「人工知能アート」
  • 生成AIに関する問題・リスク・規制などの情報まとめ

英語

  • createdontscrape
⇒現行の生成AIの問題点や悪用事例などについてまとめたサイト。
  • LUDDITE PRO(ラッダイト・プロ)
⇒現行の生成AIの問題点や悪用事例などについてまとめたサイト。
  • Chat GPT Is Eating the World
⇒生成AIに関する規制や訴訟などの最新の動向をまとめたサイト。

その他言語

  • 그림 인공지능/논란 및 사건 사고(イラスト人工知能/議論と事件事故)
⇒現状の画像生成AIに関して発生した問題や悪用事例などをまとめた韓国語のwikiサイト。




ここを編集
記事メニュー2

更新履歴

取得中です。


ここを編集
人気記事ランキング
  1. 自作品を守るためにできること
  2. 画像生成AI・生成系AIに対する各種プラットフォーム等の反応・対応まとめ
  3. 画像生成AI 炎上・論争・被害事例まとめ
  4. AI学習防止ツール「Glaze」について【利用方法・意義】
  5. 主要なAI画像生成サービス
  6. AIイラストの見分け方
  7. 生成AIに関する訴訟・法的対応一覧
  8. LoRAによる個人や作品の無断学習問題
  9. 画像生成AIは何が問題なのか?
  10. 各国の生成系AIへの対応・規制まとめ
もっと見る
最近更新されたページ
  • 17日前

    生成AIに関する訴訟・法的対応一覧
  • 17日前

    生成AIは何が問題なのか?
  • 17日前

    画像生成AIは何が問題なのか?
  • 17日前

    データセット・スクレイピング関連の事例一覧
  • 17日前

    生成AI関連の雇用・労働問題の事例一覧
  • 18日前

    生成AIを用いたクリエイティブ関連の事件・問題の事例一覧
  • 18日前

    生成AIを用いた詐欺関連の事件・問題の事例一覧
  • 18日前

    生成AIを用いた偽情報関連の事件・問題の事例一覧
  • 18日前

    生成系AIに関する記事・資料集
  • 18日前

    生成AIの危険性・依存性関連の事件・問題の事例一覧
もっと見る
「事例集」関連ページ
  • 生成AIを用いたフェイクポルノ関連の事件・問題の事例一覧
  • 生成AIの危険性・依存性関連の事件・問題の事例一覧
  • 生成系AIに関する記事・資料集
  • データセット・スクレイピング関連の事例一覧
  • 生成AIを用いたクリエイティブ関連の事件・問題の事例一覧
人気記事ランキング
  1. 自作品を守るためにできること
  2. 画像生成AI・生成系AIに対する各種プラットフォーム等の反応・対応まとめ
  3. 画像生成AI 炎上・論争・被害事例まとめ
  4. AI学習防止ツール「Glaze」について【利用方法・意義】
  5. 主要なAI画像生成サービス
  6. AIイラストの見分け方
  7. 生成AIに関する訴訟・法的対応一覧
  8. LoRAによる個人や作品の無断学習問題
  9. 画像生成AIは何が問題なのか?
  10. 各国の生成系AIへの対応・規制まとめ
もっと見る
最近更新されたページ
  • 17日前

    生成AIに関する訴訟・法的対応一覧
  • 17日前

    生成AIは何が問題なのか?
  • 17日前

    画像生成AIは何が問題なのか?
  • 17日前

    データセット・スクレイピング関連の事例一覧
  • 17日前

    生成AI関連の雇用・労働問題の事例一覧
  • 18日前

    生成AIを用いたクリエイティブ関連の事件・問題の事例一覧
  • 18日前

    生成AIを用いた詐欺関連の事件・問題の事例一覧
  • 18日前

    生成AIを用いた偽情報関連の事件・問題の事例一覧
  • 18日前

    生成系AIに関する記事・資料集
  • 18日前

    生成AIの危険性・依存性関連の事件・問題の事例一覧
もっと見る
ウィキ募集バナー
新規Wikiランキング

最近作成されたWikiのアクセスランキングです。見るだけでなく加筆してみよう!

  1. 機動戦士ガンダム EXTREME VS.2 INFINITEBOOST wiki
  2. MadTown GTA (Beta) まとめウィキ
  3. R.E.P.O. 日本語解説Wiki
  4. シュガードール情報まとめウィキ
  5. ソードランページ @ 非公式wiki
  6. ヒカマーWiki
  7. AviUtl2のWiki
  8. シミュグラ2Wiki(Simulation Of Grand2)GTARP
  9. Dark War Survival攻略
  10. 2025.3.15 小田急線運用表
もっと見る
人気Wikiランキング

atwikiでよく見られているWikiのランキングです。新しい情報を発見してみよう!

  1. アニヲタWiki(仮)
  2. ストグラ まとめ @ウィキ
  3. ゲームカタログ@Wiki ~名作からクソゲーまで~
  4. 機動戦士ガンダム EXTREME VS.2 INFINITEBOOST wiki
  5. 初音ミク Wiki
  6. 検索してはいけない言葉 @ ウィキ
  7. 機動戦士ガンダム バトルオペレーション2攻略Wiki 3rd Season
  8. 発車メロディーwiki
  9. 英傑大戦wiki
  10. モンスター烈伝オレカバトル2@wiki
もっと見る
全体ページランキング

最近アクセスの多かったページランキングです。話題のページを見に行こう!

  1. サーヴァント/一覧/クラス別 - Fate/Grand Order @wiki 【FGO】
  2. 参加者一覧 - ストグラ まとめ @ウィキ
  3. U-オルガマリー - Fate/Grand Order @wiki 【FGO】
  4. 魔獣トゲイラ - バトルロイヤルR+α ファンフィクション(二次創作など)総合wiki
  5. 暦家 - ストグラ まとめ @ウィキ
  6. アルジャーノンに花束を - アニヲタWiki(仮)
  7. 機体一覧 - 機動戦士ガンダム EXTREME VS.2 INFINITEBOOST wiki
  8. いますぐ輪廻 - 初音ミク Wiki
  9. 鬼レンチャン(レベル順) - 鬼レンチャンWiki
  10. 危険度7 - 検索してはいけない言葉 @ ウィキ
もっと見る

  • このWikiのTOPへ
  • 全ページ一覧
  • アットウィキTOP
  • 利用規約
  • プライバシーポリシー

2019 AtWiki, Inc.