生成AIを用いた偽情報関連の事件・問題の事例一覧 - AI画像生成・生成系AI 問題まとめwiki

生成AIを用いた画像や音声・映像の加工及び、
なりすまし、偽・誤情報の作成・流布に関する事例集
※政治・軍事関連の問題についてはこちらをご参照ください。
※🔒：会員限定記事、🔐：有料記事

2026年

日付	出来事	発信元
6/15	AIが生んだ「架空の判例」を双方が掲げて裁判、弁護士4人が処分される事態に	CNET※
6/13	「未解決の証明問題がAIで解けた」と相次ぐ報告、正しいか「見分け困難」…数学者らが過度なAI利用に警鐘	読売新聞
6/11	AI生成疑い、掲載の寄稿文削除 ドイツ紙、州首相名で掲載	共同通信
6/11	Google検索の「AIによる概要」が虚偽の情報を記載したことにGoogleが直接的な責任を負うとの画期的判決が下る	GIGAZINE
6/9	科学論文の「参考文献」に異変…4046件が完全な捏造、生成AI要因か	ビジネスIT+
5/21	AIが生成した「偽の引用」が14万件超、科学論文の信頼性を揺るがす事態に	CNET※
5/7	武器化されたディープフェイク：「不信感」が社会を揺るがす	MIT
4/11	「インターネットに投稿された架空の病気」をチャットAIが実在する病気としてユーザーに提示してしまう	GIGAZINE
4/11	新田真剣佑、海外誌が「インタビューの都合つかず」内容をAI生成	HUFFPOST
4/8	Google検索に表示される「AIによる概要」は1時間に何千万件もウソをついているという調査結果	GIGAZINE
3/14	“AIの知ったかぶり”相次ぐ 営業被害やひぼう中傷のリスクも	NHK
3/4	“AI生成”明かさず戦争の動画を投稿すると収益化停止、2度目で永久停止─Xの新方針	ITmedia
3/3	イラン攻撃で偽情報拡散 AI悪用で爆撃の動画も 情報源に注意	毎日新聞
2/4	悪意持つAI集団が“人間のふり”で大量に会話→偽世論で情報操作 次世代プロパガンダの脅威、国際チームが警告	ITmedia
1/23	米政府の公式アカウントがディープフェイク投稿、ICE抗議デモ逮捕者の顔を改変	innovaTopia
1/19	AI生成した「ホロコーストの偽画像」に警鐘 ドイツ政府や追悼団体	ITmedia
1/18	韓国ネイバー検索AI「毒キノコレシピ」を平然と提示…「低品質文書の検出技術を強化」	AFPBB
1/17	イラン抗議デモの偽動画、SNS上で氾濫 生成AI進化で識別難しく	日本経済新聞🔒
1/8	「鳥取砂丘に亀裂」SNSに偽・誤情報、鳥取知事「惑わされないで」	朝日新聞
1/7	地震で「鳥取砂丘に亀裂」などとTikTokに偽動画、鳥取県が削除申し入れ検討…生成AIで作ったか	読売新聞
1/7	「政府が監督したAI投資」と嘘 木原官房長官の偽動画に注意 警察庁	ITmedia
1/7	「フードデリバリーアプリ上での詐欺を訴える投稿」がAIで生成した虚偽投稿であることが明らかに	GIGAZINE🔒

2025年

日付	出来事	発信元
12/29	「上海で大洪水？？」中国で蔓延するフェイクニュース 当局が全AIコンテンツに明示義務を課し本格規制へ	FNN
12/19	AI検索が「公式窓口」を偽造する時代へ。「LLM電話番号汚染」が生む、新しい詐欺の入り口	INTERNET Watch
12/17	倒壊する家屋、津波から逃げ惑う人々…地震で“悪質フェイク動画”が拡散 AI検知システムがフェイクと見抜いた電線の不自然さ	ABEMA
12/15	Grokがボンダイビーチ銃撃事件に関する誤情報を拡散している	GIGAZINE
11/28	「ダムに虹がかかりました」→実はAI加工　国交省ダム管理所が謝罪「誤解を与えかねない投稿」	ENCOUNT
11/21	採取したキノコを撮影してAI判定 AIは"食べられる"と回答も… 実際は「毒キノコ」 和歌山市の70代男性が嘔吐の症状で一時入院 「AIや図鑑で自己判断するのは危険」市が注意呼びかけ	MBS
11/17	ヒグマ抱っこカフェ「めっちゃかわいい」本物と勘違い…生成AIの偽情報が作る危険な世界	産経新聞
11/12	その名は「ルシファー」──悪魔みたいな新種のミツバチ、豪州チームが発見→日本では“ニセAI画像”が拡散中	ITmedia
11/7	生成AIのニュース巡る回答、6割弱が正確性に問題 BBCなど調査	朝日新聞🔐
11/6	「AI大統領」トランプ氏、ディープフェイクで自身を称賛しライバルを中傷	AFPBB
11/6	クマを「素手で撃退」「おばあちゃんが餌付け」…生成AIで偽動画・SNS拡散、専門家「危険を助長」	読売新聞
11/4	AI写真や動画を“本物”と誤認 報道機関で撤回相次ぐ	ASCII
11/4	「フェイクニュースをリアルに動画化」Sora2が8割で生成、7,200万回再生のフェイク動画も	YAHOO
11/2	上海交通大学、「AI生成サーベイ論文の氾濫は“DDoS攻撃”」	Ledge.ai
10/23	AIが作り出す「貧困の幻影」──支援業界を蝕む“ポバティ・ポルノ2.0”の実態	Modern-g
10/21	AI画像で復活する「貧困ポルノ2.0」──大手NGOと国連が使用、研究者が100枚以上を収集し警告	innovaTopia
10/20	ネット記事の半数以上はAIが生成？--最新調査で明らかに	ZDNET
10/18	キング牧師の演説を引用した侮辱動画が登場…オープンAI、動画生成アプリ「ソラ」の一部機能を停止	読売新聞
10/16	Sora2が「故人を蘇らせた」─AIが踏み越えた一線、怒れる家族たちの声	Modern-g
10/10	デロイトの報告書に生成AIのハルシネーションで存在しない文献を引用・参照、豪政府に代金を一部返金─脚注誤りを訂正し再公開、コンサル業界に波紋	Legde.ai
10/9	Sora 2で故人のAI動画が氾濫、ロビン・ウィリアムズの娘が怒りの声明	innovaTopia
10/8	AIが生成した誤情報を別のAIが情報源として誤報をまき散らす悪循環がインターネットと創作を破壊している	GIGAZINE
9/13	銃撃されたチャーリー・カークの映像拡散で露呈した、いまのコンテンツモデレーションの限界	WIRED
8/15	戦争の記憶、生成AIで動画化。「まるで本物」東大教授が感じた「恐怖」と「可能性」【戦後80年】	MSN
8/12	日航機墜落事故の記憶、生成AIアニメで次世代に　40代遺族が挑む	日本経済新聞🔒
8/12	福岡市長「河川氾濫の虚偽投稿やめて」→事実だったと謝罪 「AIフェイクに過度の警戒心あった」と反省	ITmedia
8/7	韓国で急拡大「AIフェイク動画」が社会問題に…“生存”芸能人のウソの訃報も 過激なYouTuber対策など‟規制強化”へ	FNN
8/7	「不正論文を作成する大規模な組織が実在する」との研究結果、「不正論文を異常なほど受理し続けている編集者」が存在するなど深刻な状況	GIGAZINE
7/31	XのGrokやGoogleのAI概要が津波に関する誤情報を拡散し非難を浴びる	GIGAZINE
7/26	トランプ氏とエプスタイン元被告の偽AI画像、ネットに氾濫	AFP
7/22	Spotifyで亡くなった歌手のAI生成新曲が無許可配信され管理担当者が困惑	GIGAZINE
7/16	イスラエルとイランの紛争では偽情報がSNSや公共放送を通じて拡散されていた、イスラエルの国防相は過去にハメネイ師のコラ画像を投稿	GIGAZINE
7/9	何者かがAIを使って米国務長官を装い 複数の国の外相らと連絡	NHK
7/8	｢プーチンの嘘｣をChatGPTに拡散させていた…年360万件の"偽記事"でAIを汚染するロシア情報機関の手口	プレジデントオンライン
7/3	「32人の女性と関係を持った韓国青年」…AIが生む危険な「嘘ドキュメンタリー」	AFPBB
7/2	主要AI、精巧な健康誤情報の生成も容易 豪研究者が警鐘	Reuters
6/25	生成AIを用いたイランの「プロパガンダ映像」がTikTokで3000万回以上も再生	Forbes JAPAN
6/25	偽のイスラエル・イラン交戦動画が拡散、200万回以上表示も…ゲームや生成AIで作成か	読売新聞
6/16	マンボウの“頭”をアシカがガブリ AIフェイクとみられる画像が拡散、指摘相次ぐ	ITmedia
5/23	生成AIが作った偽「オススメ本」をアメリカの新聞社がそのまま掲載、購読者から怒りの声が相次ぐ	読売新聞
5/20	「中国の船が海に汚水投棄」 AIフェイクとみられる動画がXで拡散中	ITmedia
5/12	殺害された被害者が加害者に語りかけ 遺族がAIで再現した生前の姿、法廷で再生	CNN
5/9	AI生成で勇者、ローマ教皇、王冠姿のトランプ大統領を投稿 ホワイトハウス公式Xの投稿から危惧される「ピーターの法則」現象の発生	NEWSポストセブン
5/6	教皇姿のAI画像は「冗談」、制作には関与せず＝トランプ氏	Reuters
5/2	生成AIで写真合成、面接も通過…北朝鮮IT労働者の「成り済まし」、本人確認に課題も	産経新聞
5/2	《あっという間に拡散》「オスのマウスが肛門から出産」のフェイクニュースになぜ多くの人が騙されてしまったのか？3つの理由	NEWSポストセブン
4/18	著名人のディープフェイク被害が過去最多に 3カ月間で179件、はや昨年超え	Forbes JAPAN
4/17	AIにロシアのプロパガンダが「感染」している可能性が明らかに	GIGAZINE
4/13	ミャンマー大地震、金目当ての偽ニュース・動画が拡散	Reuters
4/8	中国が生成AI利用し偽情報拡散、社会分断が狙いと台湾	Reuters
3/21	「息子2人を殺した」とチャットGPTが誤情報を生成、ノルウェーの男性が苦情申し立て	BBC
3/5	ゼレンスキー大統領に関する偽動画など急増 米大統領と会談後	NHK
2/24	ストーカーがAIを使って被害者になりすますチャットボットを作り嫌がらせをした初の刑事事件	GIGAZINE
2/21	独選挙直前に偽情報拡散、親ロシア主張 首相候補メルツ氏を批判	Reuters
2/21	ドイツ総選挙、ロシア発偽情報が拡散 AIが極右に誘導も	日本経済新聞🔒
2/17	AI生成の偽情報拡散で銀行取り付け騒ぎのリスク増加＝英調査	Reuters
2/13	AIでディープフェイク動画を作られたスカーレット・ヨハンソンがAI規制を訴える	GIGAZINE
2/6	アサド政権崩壊のシリア、社会不安あおる偽情報が拡散	Reuters
1/24	メタのAIチャットボット、米大統領の名前混同 バイデン氏と回答	Reuters

2024年

日付	出来事	発信元
12/14	アップル生成AI、BBCのニュースに「容疑者が銃で自殺」と誤った見出し	読売新聞
12/4	AI悪用した虚偽投稿、各国選挙への影響は限定的＝メタ幹部	Reuters
11/28	生成AIで誤情報作成の福岡観光サイト閉鎖へ 実在しない名所紹介	毎日新聞
11/13	生成AIツールで画像や実験データを簡単に捏造できるようになり科学研究が脅かされている	GIGAZINE
11/6	米FBI、大統領選巡る偽動画を警告 偽情報拡散に警戒強める	Reuters
11/5	トランプ氏支持のインフルエンサー、100ドルで不正投票の偽動画拡散	CNN
10/29	ロシア・中国系勢力、米上陸のハリケーン巡る偽情報拡散＝米当局者	Reuters
10/24	ロシアがハリス氏中傷、AIでディープフェイク動画	Bloomberg
10/24	銃乱射事件で殺されたウジ君が語り出す AIで復活した故人を社会活動に参加させることはどこまで許されるか	JBpress
10/18	AIが生成した偽情報による選挙工作が複数発覚、日本も制度整備を検討	日経クロステック🔐
10/17	米大統領選の“投票日前日”にディープフェイク急増か AI専門家が警鐘	TBS
10/12	米ハリケーンでデマ続出 陰謀論など、大統領選前に拡散	日本経済新聞
10/9	まん延する「ディープフェイク」 生成AIでより精巧に 外国勢力も暗躍・米大統領選	時事通信
10/5	架空のテレビ局を装い「ハリス副大統領が過去にひき逃げ事故を起こした」と主張	NHK
9/26	生成AIで「読者」捏造 写真掲載も実在せず	時事通信
8/26	急増するAI生成インフルエンサーの問題点 AI生成を隠してフォロワーを獲得するのはありなのか？若年層への悪影響も懸念	マネーポストWEB
7/25	米 バイデン大統領とハリス氏の偽情報が拡散 1100万回閲覧も	NHK
5/24	AIで偽ニュースを乱造 サイト作りに2日かからず	日経ビジネス
4/24	中国初の「AI音声権利侵害」訴訟 被告に534万円の賠償命じる判決	AFPBB
4/16	バイデン大統領の偽動画、米著名人ターゲットの専用AIで制作 料金2ドル、数分で完成	産経新聞🔐
4/7	Microsoft、中国のAIによる選挙操作を具体例で再警告	ITmedia
3/8	AI偽画像の選挙干渉に強まる懸念 「取り組み不十分」と監視団体	毎日新聞🔐
3/5	トランプ氏支持者、AI生成の偽画像で黒人有権者を誘導	BBC
2/18	岸田首相の偽画像などがSNSで相次ぎ拡散 注意を呼びかけ	NHK
2/16	有名科学誌の査読済み論文に画像生成AIで作られた「巨大な性器を持つ謎ラットの意味不明なイラスト」が挿入され話題に	GIGAZINE
2/3	二宮和也のそっくりさん動画にファン騒然 ドッペルゲンガー説も、指摘される生成AIのディープフェイクの可能性	週刊女性PRIME
1/31	エッフェル塔、ルーブル美術館が炎上する動画？	日本ファクトチェックセンター
1/23	バイデン氏に似せた自動音声通話が予備選を妨害	BBC
1/23	AIで生成されたバイデン大統領の「偽音声」電話が多数の有権者にかけられている	GIGAZINE
1/9	YouTubeが「AIで殺人事件の被害者をよみがえらせるディープフェイク映像」の削除を開始すると発表	GIGAZINE

2023年

日付	出来事	発信元
12/23	批判殺到により撤回…報道写真と生成AIは「混ぜるな危険」！	TABI LABO
12/19	投獄されているパキスタンの元首相がAIによる音声クローンで獄中から選挙活動を展開	GIGAZINE
12/13	ごみ分別AI導入を断念、目標正答率に届かず 香川・三豊市	産経新聞
11/28	スポーツ・イラストレイテッド誌が記事削除、虚偽の記者名とAI顔写真で掲載	CNN
11/28	AI生成顔写真で人間になりすましたAIライターの記事を老舗スポーツメディアが掲載	GIGAZINE
11/27	ChatGPTが科学的仮説を裏付けるためデータセットを捏造するとの指摘	GIGAZINE
11/12	『サンモニ』生成AIフェイク画像問題の”誤報”を謝罪 関口宏「気をつけなきゃと話し合ってたんですが…」	ORICON
11/5	「AI検出器」が罪のない作家に不正行為のぬれぎぬを着せて生活を破壊したケースもあるという警告	GIGAZINE
11/4	生成AIで岸田首相の偽動画、SNSで拡散…ロゴを悪用された日テレ「到底許すことはできない」	読売新聞
10/24	ガザ地区の病院爆発、ファクトチェック専門家を悩ませたソーシャルメディアの誤情報	WIRED
10/18	AIによって作られた数十言語の音声によりニューヨーク市長が有権者に多言語話者だと思わせているという指摘	GIGAZINE
10/11	Xはイスラエル・ハマス衝突の「偽情報」を溢れさせている	WIRED
9/5	「AIが執筆した問題まみれのスポーツ記事」がSNSで批判されたため大手新聞社がAIによる記事執筆を一時停止	GIGAZINE
9/4	キノコ専門家がAmazonで売られている「AIが書いたキノコ採りガイド」を買わないよう呼びかけ、命に関わる危険も	GIGAZINE
9/1	震災当時の様子を生成AIで伝える「関東大震災100年」実施見送り 証言ではなく「歴史のねつ造」との声を受け	Ledge.ai
8/31	「性的な書籍」をChatGPTで学校図書館から排除 フェミニズム・反差別・人権扱う作品が消える結果に	Ledge.ai
8/30	毒キノコのレシピ？ Google AI検索がとんでもないことになってるみたい…	GIZMODO※
8/26	妊娠8か月の女性 AIが「強盗」と誤認し逮捕へ 保釈金10万ドル払う結果に	Ledge.ai
8/14	AIによるレシピ考案アプリが塩素ガスを発生させる食事など不適切なメニューを生成することが報告される	GIGAZINE
7/14	ChatGPTが「個人についての不名誉で誤解を招く虚偽の説明」を生成したとしてアメリカ当局がOpenAIの調査を開始	GIGAZINE
6/29	殺された我が子がディープフェイク動画で語り出す 過激化する実録犯罪コンテンツ 米	Rolling Stone
6/18	AIが偽の研究を量産する「論文工場」との戦いが激化している	GIGAZINE
6/13	153年の歴史を持つ科学誌の「Nature」がAIが生成した画像の掲載を禁止すると発表	GIGAZINE
6/9	ChatGPTが虚偽の出力をしたとして名誉毀損で訴えられる	GIGAZINE
6/9	生成AIによる誤情報が引き金、中国企業の株価が急落	Ledge.ai
6/2	TikTokで殺人事件の被害者が自分の最期を語る映像が増加中	GIGAZINE
5/26	岸田総理のAI音声で「解散宣言」も…「ひるおび」の悪ノリに批判殺到	Asagei Biz
5/10	ChatGPTで列車事故のフェイクニュースを作成した容疑者を中国警察が逮捕	GIGAZINE
5/6	チャットGPTが珍回答、滋賀の三日月知事について「日本の漫画家です」「代表作るろうに剣心」	読売新聞
4/25	AmazonレビューやTwitterにChatGPTで生成されたスパムが爆増中、「AI製スパム」の増加を専門家が懸念	GIGAZINE
4/23	AIでシューマッハ氏の架空インタビューを作成・掲載、独週刊誌の編集長が解雇	BBC
1/27	学術誌ScienceがChatGPTなどのAIを論文の著者として認めないポリシー改定を実施	GIGAZINE
1/20	ChatGPTが研究論文の著者に名を連ねていることに出版社や論文リポジトリは反対している	GIGAZINE

2022年

日付	出来事	発信元
11/17	Amazonで高評価の「NFT解説本」を買ったらAIが自動生成したつっこみどころ満載の本だった	GIGAZINE🔒
9/26	静岡県の水害巡りフェイク画像が拡散 画像生成AIを利用	ITmedia
3/17	投降呼びかけるゼレンスキー氏の偽動画 米メタが削除	日本経済新聞