生成AIを用いた詐欺関連の事件・問題の事例一覧 - AI画像生成・生成系AI 問題まとめwiki【6/11更新】

生成AIによって作成・加工した画像や音声・映像を用いた詐欺、
チャット系生成AIによる加害行為への誘導などに関する事例集
※自死への誘導の事例についてはこちらをご参照ください。
※わいせつ物関連の事件についてはこちらをご参照ください。
※🔒：会員限定記事、🔐：有料記事

2026年

日付	出来事	発信元
6/10	チャットGPTに相談し恐喝額「15万円」決める 元交際相手の男子高校生に暴行・恐喝未遂疑いで少女ら5人逮捕 東京・八王子市	fnn
6/9	AIブームに便乗した犯罪が急増、ChatGPTやClaudeの名前で認証情報を盗む手口をMicrosoftが分析	GIGAZINE
5/31	倉庫侵入盗の疑いで逮捕の男2人、「チャットGPTで空き巣ができそうな場所を調べてきた」供述	読売新聞
5/21	AIで偽警官の顔生成、特殊詐欺 海外拠点で悪用拡大	共同通信
5/20	北朝鮮系ハッカー、韓国警察・軍機関かたり標的型攻撃…AIで巧妙化	AFPBB
5/11	とまらないロマンス詐欺被害 生成AIでより巧妙に、大量に	朝日新聞
3/15	他人に“なりすまし”求人応募 生成AIでオンライン面接も	NHK
3/14	AIによる"画像加工"が、不動産売買に混乱をもたらしはじめた。氾濫する「盛りすぎ」写真に注意	BUSINESS INSIDER
3/4	メガバンクの本人確認、偽写真ですり抜け 生成AI悪用のトクリュウか	日本経済新聞🔒
3/2	ChatGPTで銃撃事件が予告されていたのに見逃したことを受けOpenAIが法執行機関へのアカウント通報基準を柔軟化	GIGAZINE
2/26	SNSきっかけに犯罪に巻き込まれた小学生、2割増の167人で過去最多…生成AI悪用「性的偽画像」被害も深刻	読売新聞
2/26	正体不明のハッカーがAI「Claude」を使い1億9500万件の納税者記録など150GBのメキシコ政府データを盗み出したことが発覚	GIGAZINE
2/24	カナダ当局、9人死亡の銃撃事件巡りオープンAIと協議へ	Reuters
2/20	偽Geminiチャットボットが架空の「Google Coin」を販売、AIが詐欺の”営業担当”になる時代	innovaTopia
2/6	AI生成の提出書類をめぐり裁判所が弁護士に1万2000ドルの罰金を科す	GIGAZINE
2/1	マレーシアで摘発の特殊詐欺Gは「生成AI」を悪用 「リアルタイムディープフェイク」でニセの警察手帳の顔写真を置き換え…日本人8人から計約1900万円をだまし取ったか	MBS ※youtube
1/25	生成AI悪用し国王装う詐欺 ベルギー当局が捜査	AFPBB
1/21	リアルなAI画像で「虚偽の腫れ」捏造…韓国・外国人女性の“ネイル詐欺”が波紋	AFPBB
1/16	【もう人間では無理？】「AI vs AI」と形容されるほど高度化するサイバー攻防	ビジネスIT🔒
1/8	AmazonのAIショッピングツール「Buy for Me」が許可なく自社商品をAmazonで紹介したり誤った説明文を表示したりしていると苦情殺到	GIGAZINE
1/7	アマゾン、AIで商品を無断掲載－小規模事業者にトラブル続出	Bloomberg

2025年

日付	出来事	発信元
12/24	「実は借金を簡単に返済できる方法があるのに銀行はそのことを知られたくない」という大嘘のAI動画で情報弱者を狙い撃ちにする詐欺が急増	GIGAZINE
12/18	1000台以上のスマホを使って秘密裏にAI生成広告を作成しTikTokに配信するスタートアップ「Doublespeed」の実態がハッキングにより暴露される	GIGAZINE
12/10	AI検索の回答に偽情報を仕込んでユーザーをだます詐欺の手口が登場	ZDNET
12/7	LA山火事の放火犯、AIで『火災から逃げる群衆』画像生成など数々の“前兆” 重罪に問えないワケは？国際弁護士が指摘「因果関係を立証するのは困難」	ytv
12/6	AIによる成りすまし—古典的な詐欺が危険なデジタル形態に進化｜デジタル時代の成りすまし詐欺—AIが生み出す新たな脅威	Forbes JAPAN
12/4	「快活CLUB」サイバー攻撃、AI悪用し会員情報盗んだ疑いで高2を再逮捕へ…自作プログラムを「チャットGPT」で改善か	読売新聞
12/1	AIによるサイバー攻撃の民主化をUnit42が警告 無料の「KawaiiGPT」巡り	ITmedia
11/27	WormGPT 4が220ドルで販売開始──「民主化」された犯罪AIが、サイバー攻撃の敷居を劇的に下げる	innovaTopia
11/18	生成AIで「ニセ警察官詐欺」 実在の人物装い1244万円被害 三重	毎日新聞
11/8	弁護士が「AIを使用した理由」を法廷で説明している最中にAIを使用していたことが発覚	GIGAZINE
10/28	母を殺した娘、AIで「生きている母」を演じ続けた10日間——200GBの“共犯データ”が暴いた人間の闇	Modern-g
10/18	LA山火事の放火容疑者、ChatGPTで計画を「ブレスト」 犯罪誘発か	日本経済新聞🔒
10/11	音声認証の信頼性崩壊、AI生成クローンボイスが人間を58%の確率で欺く時代に	innovaTopia
10/10	ChatGPTで生成の「ディストピア絵画」が証拠の一つに。制作者をロサンゼルス山火事の放火容疑で逮捕	ARTnews JAPAN
8/29	チャットGPT没頭の男性が母親殺害 対話で被害妄想が悪化 米報道	毎日新聞🔐
8/23	AIで存在しない判例を生成した弁護士に5500ドルの罰金、さらに「教育が必要」との指導	GIGAZINE
7/25	AI新興オルツ、売上高の最大9割過大計上 不正会計で調査結果	日本経済新聞
7/25	10億回再生でファンはゼロ── AIによる音楽ストリーミング詐欺のカラクリ	WIRED
7/15	今度は「AIロボット犬」…即決購入も実物は“昭和のおもちゃ” ソニーや東大の“お墨付き”うたう偽広告被害 いずれも関与を否定	FNN
7/8	生成AIの大統領ニセ動画、国民が詐欺被害 画面上の友人は本物？	朝日新聞🔐
7/8	人気YouTuber「きまぐれクック」さんかたるAI偽動画、本人と事務所が注意喚起 詐欺サイトに誘導、すでに被害者も	ITmedia
6/30	観葉植物界隈がAI生成画像による詐欺に注意喚起	GIGAZINE
6/26	“AI禁止”の「ホットペッパービューティ」でも使えるとうたいAIモデル画像販売、Xで物議に 「行き過ぎた表現」と販売元	ITmedia
6/23	ゆうちょ銀行、YouTubeの“ニセ情報動画”に注意喚起 生成AI利用とみられるフェイク相次ぐ	ITmedia
6/20	「YouTube」に著名投資家の音声合成した偽広告 詐欺の新手口か	NHK
6/17	モノクロ映画「ゴジラ」を無断でカラー化、海賊版DVD販売の疑いで男逮捕…AI悪用し着色か	読売新聞
6/6	チャットGPT悪用する中国人グループ増加、オープンAIが報告書	Reuters
6/4	破産したAI企業が提供していたコーディングAIが実は700人のエンジニアによる人力サービスだったと判明	GIGAZINE
6/3	まさかの｢人力｣AIだったAIスタートアップ、破産申請へ	GIZMODO※
5/28	一瞬本物かと…有名人の顔と声までAIで再現！進化する投資詐欺の実態とは	おたくま経済新聞
5/14	AIチャットボットに「偽の記憶」を植え付けることで仮想通貨を盗む攻撃が報告される	GIGAZINE
5/12	AIで「インフルエンサーっぽい顔写真やブログ記事」を生成しまくり金を稼ごうとする人が現れている	GIGAZINE
5/2	電話を使ったボイスフィッシング被害が拡大、生成AI活用など攻撃手法は多様化へ	日経クロステック🔐
4/19	「詐欺とは思わなかった」前澤友作氏になりすましたAI動画で投資詐欺も	CBC
4/15	中高生がAI悪用し通信回線を取得、サイバー犯罪拡散…SNSで手口を情報交換	読売新聞
4/4	急増！警察官などかたる詐欺 AIを悪用 映像を合成しビデオ通話	NHK
3/30	AIが生成した窃取ツール、Chromeから個人情報の盗み出しに成功	Forbes JAPAN
3/29	着信表示に実在の警察署番号が出る特殊詐欺が急増 今後危惧されるAIを活用した巧妙な「なりすまし」の出現	NEWSポストセブン
3/29	〈なんの参考にもならない〉AIが作ったヘアカタログに怒りの声…ホットペッパービューティーは対応に苦慮	NEWSポストセブン
3/23	AIで生成した偽の判例を使用した弁護士に1万5000ドルの罰金	GIGAZINE
3/21	楽天モバイル不正接続、別の少年もプログラム提供受けて回線入手疑い…3.5万件のID使用か	読売新聞
3/21	「荒らし」推奨サイト運営 不正契約 容疑少年「資金に」 生成AI悪用	読売新聞🔒
3/19	AI悪用か、社長の偽音声で指示 部下に電話、不正送金命じる	共同通信 ※アーカイブ、魚拓
2/24	AIの広告で誤情報？グーグルがGeminiのCMを再編集	BuzzFeed
2/20	ChatGPTで約7000件のカード情報窃取した高校生、追送検 背後に犯罪組織か	ACT
2/17	仮想通貨の詐欺被害、24年は過去最高の可能性 AI悪用で	Reuters
2/13	愛を伝えるシーズンには、AIによる巧みなロマンス詐欺に要注意	McAfee
1/26	「偽ブラピ」に1億3000万円を騙し取られた女性。ネットいじめが止まず、報道番組が取り下げに	BuzzFeed
1/23	「ヱヴァ」のポスター販売疑い 生成AIで性的に強調	共同通信
1/22	生成AIが「オレオレ詐欺」を助長？ 技術革新が犯罪を高度に	日経BOOKプラス
1/16	AI生成の俳優ブラッド・ピットさんを本物と思い込んだ仏女性、1億3000万円超だまし取られる	BBC
1/15	ブラピと交際と思い込んだロマンス詐欺被害者、ネットで中傷の標的に 仏	AFPBB
1/16	タイ首相、危うく成り済まし詐欺の被害に 外国首脳に模したAI音声で電話	AFPBB
1/11	ChatGPTで動作するセントリーガンを作った男、OpenAIにAPIアクセスを遮断される	テクノエッジ

2024年

日付	出来事	発信元
12/6	AIキャラで女性装い、SNSで125万円詐取の疑い 33歳逮捕	毎日新聞 ※アーカイブ
12/2	被害額1.8兆円のイーロン・マスクのディープフェイク、拡大するAIを駆使した詐欺	Forbes JAPAN
11/24	ロマンス詐欺で新たな手口、“人間そっくりのAI”の動画にだまされる被害。当局が注意を呼びかけ	BuzzFeed
10/11	AIアバターにだまされた女性の告白「ハリウッド俳優に恋し7500万円貢ぐ」	日経ビジネス🔐
10/7	東南アジアの犯罪組織、テレグラムを多用 国連が報告書	Reuters
9/19	AI生成のクローン音声使ったなりすまし詐欺、「数百万人」が狙われる可能性	CNN
9/15	AI生成音楽を用いた詐欺、約14億円の不正収益でノースカロライナ州在住の男を逮捕	Ledge.ai
6/24	会議相手はフェイク動画、40億円被害が示す詐欺AIの進化	日本経済新聞🔒
6/23	生成AIで”フィッシングサイト”作成か 大手ECの偽装サイト構築した男らを逮捕 警察も捜査に生成AI活用	MBS ※アーカイブ、魚拓
5/28	生成AI悪用でウイルス作成した男、知人女性にSNSで実際に送信…何らかの原因で作動せず	読売新聞
4/26	AI合成音声で学校の校長を追放しようとした体育教師が逮捕される	GIGAZINE🔒
4/15	テイラー・スウィフトさんも被害に 「なりすまし広告」の海外事情	毎日新聞🔐
4/15	動画と声で「堀江貴文」「前澤友作」かたる投資勧誘 SNS投資に誘導で5260万円被害も 巧妙な手口の実態	FNN
4/11	自称AI自動ショッピングアプリ「Nate」、実は人力だったことが判明	Gadget Gate
4/5	AI生成の偽弁護士と偽DMCA通知を駆使した新手の「SEO詐欺」の事例が報告される	GIGAZINE
3/27	AI搭載の虚偽主張「AIウォッシング」、米証券取引委員会が投資顧問会社に罰金を科す	Ledge.ai
3/26	生成AIによる複製音声「ボイスクローニング」の詐欺に遭遇 7カ国727人、金銭被害も	産経新聞🔐
3/4	チョコレートの夢はどこ？お粗末すぎた『ウォンカ』の没入型イベント	GIZMODO※
2/20	出会い系サイトは生成AIの化かし合いか ロマンス詐欺にもご注意	Forbes JAPAN
2/6	AIで「架空の運転免許証」を作成して金銭を稼ぐウェブサービスが登場、仮想通貨取引所の審査も通過できる品質の高さで非常に危険	GIGAZINE
2/5	ディープフェイク上司の指示に従い38億円を詐欺師に送金してしまう事態が発生、ディープフェイクを見分ける方法はあるのか？	GIGAZINE
2/5	会計担当が38億円を詐欺グループに送金、ビデオ会議のCFOは偽物 香港	CNN
1/15	Amazonに「申し訳ありませんがこのリクエストはOpenAIの使用ポリシーに反するためお応えできません」という名前の製品があふれかえる	GIGAZINE
1/11	テイラー・スウィフトが調理器具のプレゼント告知をするAIフェイク動画、TikTokやFacebookで流れる	NewYorkTimes ※アーカイブ
1/11	AIが作成した偽セレブの詐欺的広告動画がYouTubeで1億9500万回以上再生されている	GIGAZINE

2023年

日付	出来事	発信元
12/31	元トランプ大統領の個人弁護士、Google Bard生成のニセ判例を提出して追求受ける「本物のような文章を生成するサービスとは知らなかった」	テクノエッジ
12/28	AIは「もっとお金を稼げ」とプレッシャーをかけられるとインサイダー取引に手を染めて人間にうそをつくという研究結果	GIGAZINE
12/20	ジョニー・マー、AIが作成した本人を装った偽の音声メッセージについて警告を出すことに	NME
11/13	乱発されるディープフェイク動画 投資を促す広告をクリックするとどうなるか	NEWSポストセブン
10/3	「死んだ祖母の形見」とウソをつくことでBingチャットにCAPTCHAの画像認識を解かせることに成功	GIGAZINE
9/27	GPT-4VでCAPTCHAを試すの巻	x.com
9/24	我が子や親の声をAIがまねる「ディープフェイクボイス」詐欺 SNSの3～4秒のデータから1回700円で生成可能	Ledge.ai
9/11	AI音声を詐欺に悪用 3秒の素材で親族らになりすまし	日本経済新聞🔒
9/7	「AIの力で3Dモデルを作成する」とうたう企業が実は人力だった	GIGAZINE
7/27	サイバー犯罪者向け邪悪な生成AI「FraudGPT」登場	マイナビ
7/17	サイバー犯罪に特化したセーフティ機能がない生成AI「WormGPT」登場、注意を	マイナビ
7/12	10万件のChatGPTアカウントが闇市場に、どう盗んだのか誰が欲しがるのか	日経クロステック
7/5	生成AIで増殖する「コンテンツファーム2.0」の新たな波	MIT
6/28	生成AIで広告収入目的のゴミサイトが急増、1日1200本更新も	MIT
6/26	ChatGPTがでっちあげた存在しない過去の判例をそのまま採用した弁護士に5000ドルの支払いが命じられる	GIGAZINE
6/19	ChatGPTに「亡くなったおばあちゃんになりきってくれ」と頼んでWindows 10 Proで使用可能なインストール用キーを生成させることに成功	GIGAZINE
6/8	無料でGPT-4を使い倒して料金を他人に払わせる「海賊版GPT-4」が横行している	GIGAZINE
6/6	有名人の「顔」70万円で販売。ディープフェイク技術で金儲け、中国で事例報告	36Kr
5/29	弁護士がChatGPTを使って作成した申請書で存在しない過去の事例がでっち上げられていたことが判明	GIGAZINE
5/24	AIで親友に成り済まし、ビデオ通話で8400万円の詐取企図 中国	AFPBB
5/17	「フェイク画像」で消防隊員が助成金を虚偽申請 進歩する画像生成AI 悪用に対策はあるのか	東京新聞🔐
5/17	AI（人工知能）を悪用した音声詐欺が世界で増加中	McAfee
4/13	AIで作成したクローン音声で誘拐をでっち上げて身代金を要求する事件が発生	GIGAZINE
3/6	「オレオレ詐欺」にAI製クローン音声を用いる事例が急増、被害額は年間15億円近くに	GIGAZINE
2/24	トルコ大地震の支援金を狙ったネット詐欺が横行中 画像生成AIを悪用した手口も	INTERNET Watch
2/24	無料で使えるAIが生成した声で銀行口座への侵入に成功したとの報告	GIGAZINE
2/22	「自分の声で脅迫がくる…」AI生成音声に悩む声優たち	GIZMODO※
2/9	「ChatGPTを使ってマルウェアを作成するサービス」をハッカーが販売中	GIGAZINE
2/6	裁判で初めて「ChatGPT」を使用した判決が行われて物議を醸す	GIGAZINE🔒

2016年

日付	出来事	発信元
6/15	人工知能サービスの裏側では「生身の人間」が必死に働いていた…	COURRiER