生成AIを用いた詐欺関連の事件・問題の事例一覧 - AI画像生成・生成系AI 問題まとめwiki

■詐欺など犯罪関連

生成AIによって作成・加工した画像や音声・映像を用いた詐欺に関する事例集
※🔒：会員限定記事、🔐：有料記事

2025年

日付	出来事
7/15	今度は「AIロボット犬」…即決購入も実物は“昭和のおもちゃ” ソニーや東大の“お墨付き”うたう偽広告被害 いずれも関与を否定（FNN）
7/8	生成AIの大統領ニセ動画、国民が詐欺被害 画面上の友人は本物？（朝日新聞🔐）
7/8	人気YouTuber「きまぐれクック」さんかたるAI偽動画、本人と事務所が注意喚起 詐欺サイトに誘導、すでに被害者も（ITmedia）
6/30	観葉植物界隈がAI生成画像による詐欺に注意喚起（GIGAZINE）
6/26	“AI禁止”の「ホットペッパービューティ」でも使えるとうたいAIモデル画像販売、Xで物議に 「行き過ぎた表現」と販売元（ITmedia）
6/23	ゆうちょ銀行、YouTubeの“ニセ情報動画”に注意喚起 生成AI利用とみられるフェイク相次ぐ（ITmedia）
6/20	「YouTube」に著名投資家の音声合成した偽広告 詐欺の新手口か（NHK）
6/17	モノクロ映画「ゴジラ」を無断でカラー化、海賊版DVD販売の疑いで男逮捕…AI悪用し着色か（読売新聞）
6/6	チャットGPT悪用する中国人グループ増加、オープンAIが報告書（ロイター）
6/4	破産したAI企業が提供していたコーディングAIが実は700人のエンジニアによる人力サービスだったと判明（GIGAZINE）
5/28	一瞬本物かと…有名人の顔と声までAIで再現！進化する投資詐欺の実態とは（おたくま経済新聞）
5/12	AIで「インフルエンサーっぽい顔写真やブログ記事」を生成しまくり金を稼ごうとする人が現れている（GIGAZINE）
5/2	電話を使ったボイスフィッシング被害が拡大、生成AI活用など攻撃手法は多様化へ（日経クロステック🔐）
4/19	「詐欺とは思わなかった」前澤友作氏になりすましたAI動画で投資詐欺も（CBC）
4/15	中高生がAI悪用し通信回線を取得、サイバー犯罪拡散…SNSで手口を情報交換（読売新聞）
4/4	急増！警察官などかたる詐欺 AIを悪用 映像を合成しビデオ通話（NHK）
3/30	AIが生成した窃取ツール、Chromeから個人情報の盗み出しに成功（Forbes JAPAN）
3/29	着信表示に実在の警察署番号が出る特殊詐欺が急増 今後危惧されるAIを活用した巧妙な「なりすまし」の出現（NEWSポストセブン）
3/29	〈なんの参考にもならない〉AIが作ったヘアカタログに怒りの声…ホットペッパービューティーは対応に苦慮（NEWSポストセブン）
3/21	楽天モバイル不正接続、別の少年もプログラム提供受けて回線入手疑い…3.5万件のID使用か（読売新聞） 「荒らし」推奨サイト運営 不正契約 容疑少年「資金に」 生成AI悪用（読売新聞🔒）
3/19	AI悪用か、社長の偽音声で指示 部下に電話、不正送金命じる（共同通信※アーカイブ）
2/24	AIの広告で誤情報？グーグルがGeminiのCMを再編集（BuzzFeed）
2/17	仮想通貨の詐欺被害、24年は過去最高の可能性 AI悪用で（ロイター）
2/13	愛を伝えるシーズンには、AIによる巧みなロマンス詐欺に要注意（McAfee）
1/23	「ヱヴァ」のポスター販売疑い 生成AIで性的に強調（共同通信）
1/22	生成AIが「オレオレ詐欺」を助長？ 技術革新が犯罪を高度に（日経BOOKプラス）
1/16	AI生成の俳優ブラッド・ピットさんを本物と思い込んだ仏女性、1億3000万円超だまし取られる（BBC） 「偽ブラピ」に1億3000万円を騙し取られた女性。ネットいじめが止まず、報道番組が取り下げに（BuzzFeed）
1/11	ChatGPTで動作するセントリーガンを作った男、OpenAIにAPIアクセスを遮断される（テクノエッジ）

2024年

日付	出来事
12/6	AIキャラで女性装い、SNSで125万円詐取の疑い 33歳逮捕（毎日新聞※アーカイブ）
12/2	被害額1.8兆円のイーロン・マスクのディープフェイク、拡大するAIを駆使した詐欺（Forbes JAPAN）
11/24	ロマンス詐欺で新たな手口、“人間そっくりのAI”の動画にだまされる被害。当局が注意を呼びかけ（BuzzFeed）
10/11	AIアバターにだまされた女性の告白「ハリウッド俳優に恋し7500万円貢ぐ」（日経ビジネス🔐）
10/7	東南アジアの犯罪組織、テレグラムを多用 国連が報告書（ロイター）
9/19	AI生成のクローン音声使ったなりすまし詐欺、「数百万人」が狙われる可能性（CNN）
9/15	AI生成音楽を用いた詐欺、約14億円の不正収益でノースカロライナ州在住の男を逮捕（Ledge.ai）
6/24	会議相手はフェイク動画、40億円被害が示す詐欺AIの進化（日本経済新聞🔒）
6/23	生成AIで”フィッシングサイト”作成か 大手ECの偽装サイト構築した男らを逮捕 警察も捜査に生成AI活用（MBS※アーカイブ）
5/28	生成AI悪用でウイルス作成した男、知人女性にSNSで実際に送信…何らかの原因で作動せず（読売新聞）
4/26	AI合成音声で学校の校長を追放しようとした体育教師が逮捕される（GIGAZINE🔒）
4/15	テイラー・スウィフトさんも被害に 「なりすまし広告」の海外事情（毎日新聞🔐）
4/15	動画と声で「堀江貴文」「前澤友作」かたる投資勧誘 SNS投資に誘導で5260万円被害も 巧妙な手口の実態（FNN）
4/11	自称AI自動ショッピングアプリ「Nate」、実は人力だったことが判明（Gadget Gate）
4/5	AI生成の偽弁護士と偽DMCA通知を駆使した新手の「SEO詐欺」の事例が報告される（GIGAZINE）
3/26	生成AIによる複製音声「ボイスクローニング」の詐欺に遭遇 7カ国727人、金銭被害も（産経新聞🔐）
3/4	チョコレートの夢はどこ？お粗末すぎた『ウォンカ』の没入型イベント（GIZMODO）
2/5	会計担当が38億円を詐欺グループに送金、ビデオ会議のCFOは偽物 香港（CNN）
1/15	Amazonに「申し訳ありませんがこのリクエストはOpenAIの使用ポリシーに反するためお応えできません」という名前の製品があふれかえる（GIGAZINE）
1/11	テイラー・スウィフトが調理器具のプレゼント告知をするAIフェイク動画、TikTokやFacebookで流れる（NewYorkTimes※アーカイブ）
1/11	AIが作成した偽セレブの詐欺的広告動画がYouTubeで1億9500万回以上再生されている（GIGAZINE）

2023年

日付	出来事
12/31	元トランプ大統領の個人弁護士、Google Bard生成のニセ判例を提出して追求受ける「本物のような文章を生成するサービスとは知らなかった」（テクノエッジ）
12/20	ジョニー・マー、AIが作成した本人を装った偽の音声メッセージについて警告を出すことに（NME）
11/13	乱発されるディープフェイク動画 投資を促す広告をクリックするとどうなるか（NEWSポストセブン）
9/27	GPT-4VでCAPTCHAを試すの巻（x.com）
9/24	我が子や親の声をAIがまねる「ディープフェイクボイス」詐欺 SNSの3～4秒のデータから1回700円で生成可能（Ledge.ai）
9/11	AI音声を詐欺に悪用 3秒の素材で親族らになりすまし（日本経済新聞🔒）
9/7	「AIの力で3Dモデルを作成する」とうたう企業が実は人力だった（GIGAZINE）
7/27	サイバー犯罪者向け邪悪な生成AI「FraudGPT」登場（マイナビ）
7/17	サイバー犯罪に特化したセーフティ機能がない生成AI「WormGPT」登場、注意を（マイナビ）
7/12	10万件のChatGPTアカウントが闇市場に、どう盗んだのか誰が欲しがるのか（日経クロステック）
6/28	生成AIで広告収入目的のゴミサイトが急増、1日1200本更新も（MIT） 生成AIで増殖する「コンテンツファーム2.0」の新たな波（MIT）
6/26	ChatGPTがでっちあげた存在しない過去の判例をそのまま採用した弁護士に5000ドルの支払いが命じられる（GIGAZINE）
6/8	無料でGPT-4を使い倒して料金を他人に払わせる「海賊版GPT-4」が横行している（GIGAZINE）
6/6	有名人の「顔」70万円で販売。ディープフェイク技術で金儲け、中国で事例報告（36Kr）
5/17	「フェイク画像」で消防隊員が助成金を虚偽申請 進歩する画像生成AI 悪用に対策はあるのか（東京新聞🔐）
5/17	AI（人工知能）を悪用した音声詐欺が世界で増加中（McAfee）
4/13	AIで作成したクローン音声で誘拐をでっち上げて身代金を要求する事件が発生（GIGAZINE）
3/6	「オレオレ詐欺」にAI製クローン音声を用いる事例が急増、被害額は年間15億円近くに（GIGAZINE）
2/24	トルコ大地震の支援金を狙ったネット詐欺が横行中 画像生成AIを悪用した手口も（INTERNET Watch）
2/24	無料で使えるAIが生成した声で銀行口座への侵入に成功したとの報告（GIGAZINE）
2/22	「自分の声で脅迫がくる…」AI生成音声に悩む声優たち（GIZMODO）
2/9	「ChatGPTを使ってマルウェアを作成するサービス」をハッカーが販売中（GIGAZINE）