生成AIを用いた偽情報関連の事件・問題の事例一覧 - AI画像生成・生成系AI 問題まとめwiki

■偽情報関連

生成AIを用いた画像や音声・映像の加工及び、
なりすまし、偽・誤情報の作成・流布に関する事例集
※🔒：会員限定記事、🔐：有料記事

2025年

日付	出来事
8/15	戦争の記憶、生成AIで動画化。「まるで本物」東大教授が感じた「恐怖」と「可能性」【戦後80年】（MSN）
8/12	日航機墜落事故の記憶、生成AIアニメで次世代に　40代遺族が挑む（日本経済新聞🔒）
8/12	福岡市長「河川氾濫の虚偽投稿やめて」→事実だったと謝罪 「AIフェイクに過度の警戒心あった」と反省（ITmedia）
8/7	韓国で急拡大「AIフェイク動画」が社会問題に…“生存”芸能人のウソの訃報も 過激なYouTuber対策など‟規制強化”へ（FNN）
7/22	Spotifyで亡くなった歌手のAI生成新曲が無許可配信され管理担当者が困惑（GIGAZINE）
7/9	何者かがAIを使って米国務長官を装い 複数の国の外相らと連絡（NHK）
7/8	｢プーチンの嘘｣をChatGPTに拡散させていた…年360万件の"偽記事"でAIを汚染するロシア情報機関の手口（プレジデントオンライン）
7/3	「32人の女性と関係を持った韓国青年」…AIが生む危険な「嘘ドキュメンタリー」（AFPBB）
7/2	｢主要AI、精巧な健康誤情報の生成も容易 豪研究者が警鐘（ロイター）
6/25	生成AIを用いたイランの「プロパガンダ映像」がTikTokで3000万回以上も再生（Forbes JAPAN）
6/25	偽のイスラエル・イラン交戦動画が拡散、200万回以上表示も…ゲームや生成AIで作成か（読売新聞）
6/16	マンボウの“頭”をアシカがガブリ AIフェイクとみられる画像が拡散、指摘相次ぐ（ITmedia）
5/23	生成AIが作った偽「オススメ本」をアメリカの新聞社がそのまま掲載、購読者から怒りの声が相次ぐ（読売新聞）
5/20	「中国の船が海に汚水投棄」 AIフェイクとみられる動画がXで拡散中（ITmedia）
5/12	殺害された被害者が加害者に語りかけ 遺族がAIで再現した生前の姿、法廷で再生 （CNN）
5/6	教皇姿のAI画像は「冗談」、制作には関与せず＝トランプ氏（ロイター） AI生成で勇者、ローマ教皇、王冠姿のトランプ大統領を投稿 ホワイトハウス公式Xの投稿から危惧される「ピーターの法則」現象の発生（NEWSポストセブン）
5/2	生成AIで写真合成、面接も通過…北朝鮮IT労働者の「成り済まし」、本人確認に課題も（産経新聞）
5/2	《あっという間に拡散》「オスのマウスが肛門から出産」のフェイクニュースになぜ多くの人が騙されてしまったのか？3つの理由（NEWSポストセブン）
4/18	著名人のディープフェイク被害が過去最多に 3カ月間で179件、はや昨年超え（Forbes JAPAN）
4/17	AIにロシアのプロパガンダが「感染」している可能性が明らかに（GIGAZINE）
4/13	ミャンマー大地震、金目当ての偽ニュース・動画が拡散（ロイター）
4/8	中国が生成AI利用し偽情報拡散、社会分断が狙いと台湾（ロイター）
3/21	「息子2人を殺した」とチャットGPTが誤情報を生成、ノルウェーの男性が苦情申し立て（BBC）
3/5	ゼレンスキー大統領に関する偽動画など急増 米大統領と会談後（NHK）
2/24	ストーカーがAIを使って被害者になりすますチャットボットを作り嫌がらせをした初の刑事事件（GIGAZINE）
2/21	独選挙直前に偽情報拡散、親ロシア主張 首相候補メルツ氏を批判（ロイター）
2/21	ドイツ総選挙、ロシア発偽情報が拡散 AIが極右に誘導も（日本経済新聞🔒）
2/17	AI生成の偽情報拡散で銀行取り付け騒ぎのリスク増加＝英調査（ロイター）
2/13	AIでディープフェイク動画を作られたスカーレット・ヨハンソンがAI規制を訴える（GIGAZINE）
2/6	アサド政権崩壊のシリア、社会不安あおる偽情報が拡散（ロイター）

2024年

日付	出来事
12/14	アップル生成AI、BBCのニュースに「容疑者が銃で自殺」と誤った見出し（読売新聞）
12/4	AI悪用した虚偽投稿、各国選挙への影響は限定的＝メタ幹部（ロイター）
11/28	生成AIで誤情報作成の福岡観光サイト閉鎖へ 実在しない名所紹介（毎日新聞）
11/6	米FBI、大統領選巡る偽動画を警告 偽情報拡散に警戒強める（ロイター）
11/5	トランプ氏支持のインフルエンサー、100ドルで不正投票の偽動画拡散（CNN）
10/29	ロシア・中国系勢力、米上陸のハリケーン巡る偽情報拡散＝米当局者（ロイター）
10/24	ロシアがハリス氏中傷、AIでディープフェイク動画（ブルームバーグ）
10/24	銃乱射事件で殺されたウジ君が語り出す AIで復活した故人を社会活動に参加させることはどこまで許されるか （JBpress）
10/18	AIが生成した偽情報による選挙工作が複数発覚、日本も制度整備を検討（日経クロステック🔐）
10/17	米大統領選の“投票日前日”にディープフェイク急増か AI専門家が警鐘（TBS）
10/12	米ハリケーンでデマ続出 陰謀論など、大統領選前に拡散（日本経済新聞）
10/9	まん延する「ディープフェイク」 生成AIでより精巧に 外国勢力も暗躍・米大統領選（時事ドットコム）
10/5	架空のテレビ局を装い「ハリス副大統領が過去にひき逃げ事故を起こした」と主張（NHK）
9/26	生成AIで「読者」捏造 写真掲載も実在せず（時事ドットコム）
8/26	急増するAI生成インフルエンサーの問題点 AI生成を隠してフォロワーを獲得するのはありなのか？若年層への悪影響も懸念（マネーポストWEB）
7/25	米 バイデン大統領とハリス氏の偽情報が拡散 1100万回閲覧も（NHK）
5/24	AIで偽ニュースを乱造 サイト作りに2日かからず（日経ビジネス）
4/24	中国初の「AI音声権利侵害」訴訟 被告に534万円の賠償命じる判決（AFPBB）
4/16	バイデン大統領の偽動画、米著名人ターゲットの専用AIで制作 料金2ドル、数分で完成（産経新聞🔐）
4/7	Microsoft、中国のAIによる選挙操作を具体例で再警告（ITmedia）
3/8	AI偽画像の選挙干渉に強まる懸念 「取り組み不十分」と監視団体（毎日新聞🔐）
3/5	トランプ氏支持者、AI生成の偽画像で黒人有権者を誘導（BBC）
2/18	岸田首相の偽画像などがSNSで相次ぎ拡散 注意を呼びかけ（NHK）
2/16	有名科学誌の査読済み論文に画像生成AIで作られた「巨大な性器を持つ謎ラットの意味不明なイラスト」が挿入され話題に（GIGAZINE）
2/3	二宮和也のそっくりさん動画にファン騒然 ドッペルゲンガー説も、指摘される生成AIのディープフェイクの可能性（週刊女性PRIME）
1/31	エッフェル塔、ルーブル美術館が炎上する動画？（日本ファクトチェックセンター）
1/23	バイデン氏に似せた自動音声通話が予備選を妨害（BBC） AIで生成されたバイデン大統領の「偽音声」電話が多数の有権者にかけられている（GIGAZINE）
1/9	YouTubeが「AIで殺人事件の被害者をよみがえらせるディープフェイク映像」の削除を開始すると発表（GIGAZINE）

2023年

日付	出来事
12/23	批判殺到により撤回…報道写真と生成AIは「混ぜるな危険」！（TABI LABO）
12/19	投獄されているパキスタンの元首相がAIによる音声クローンで獄中から選挙活動を展開（GIGAZINE）
12/13	ごみ分別AI導入を断念、目標正答率に届かず 香川・三豊市（産経新聞）
11/28	スポーツ・イラストレイテッド誌が記事削除、虚偽の記者名とAI顔写真で掲載（CNN）
11/12	『サンモニ』生成AIフェイク画像問題の”誤報”を謝罪 関口宏「気をつけなきゃと話し合ってたんですが…」（ORICON）
10/18	AIによって作られた数十言語の音声によりニューヨーク市長が有権者に多言語話者だと思わせているという指摘（GIGAZINE）
9/5	「AIが執筆した問題まみれのスポーツ記事」がSNSで批判されたため大手新聞社がAIによる記事執筆を一時停止（GIGAZINE）
9/4	キノコ専門家がAmazonで売られている「AIが書いたキノコ採りガイド」を買わないよう呼びかけ、命に関わる危険も（GIGAZINE）
9/1	震災当時の様子を生成AIで伝える「関東大震災100年」実施見送り 証言ではなく「歴史のねつ造」との声を受け（Ledge.ai）
8/31	「性的な書籍」をChatGPTで学校図書館から排除 フェミニズム・反差別・人権扱う作品が消える結果に（Ledge.ai）
8/30	毒キノコのレシピ？ Google AI検索がとんでもないことになってるみたい…（GIZMODO）
8/26	妊娠8か月の女性 AIが「強盗」と誤認し逮捕へ 保釈金10万ドル払う結果に（Ledge.ai）
8/14	AIによるレシピ考案アプリが塩素ガスを発生させる食事など不適切なメニューを生成することが報告される（GIGAZINE）
7/14	ChatGPTが「個人についての不名誉で誤解を招く虚偽の説明」を生成したとしてアメリカ当局がOpenAIの調査を開始（GIGAZINE）
6/29	殺された我が子がディープフェイク動画で語り出す 過激化する実録犯罪コンテンツ 米（Rolling Stone）
6/18	AIが偽の研究を量産する「論文工場」との戦いが激化している（GIGAZINE）
6/9	ChatGPTが虚偽の出力をしたとして名誉毀損で訴えられる（GIGAZINE）
6/2	TikTokで殺人事件の被害者が自分の最期を語る映像が増加中（GIGAZINE）
5/26	岸田総理のAI音声で「解散宣言」も…「ひるおび」の悪ノリに批判殺到（Asagei Biz）
4/25	AmazonレビューやTwitterにChatGPTで生成されたスパムが爆増中、「AI製スパム」の増加を専門家が懸念（GIGAZINE）
4/23	AIでシューマッハ氏の架空インタビューを作成・掲載、独週刊誌の編集長が解雇（BBC）

2022年

日付	出来事
11/17	Amazonで高評価の「NFT解説本」を買ったらAIが自動生成したつっこみどころ満載の本だった（GIGAZINE🔒）
9/26	静岡県の水害巡りフェイク画像が拡散 画像生成AIを利用（ITmedia）
3/17	投降呼びかけるゼレンスキー氏の偽動画 米メタが削除（日本経済新聞）