サイバーセキュリティ・プライバシー侵害関連の事例一覧 - AI画像生成・生成系AI 問題まとめwiki【6/11更新】

生成AIエージェントの暴走（誤作動）、情報漏洩などに関する事例集
※生成AIを利用したハック行為など、犯罪の事例についてはこちらをご参照ください。
※🔒：会員限定記事、🔐：有料記事

2026年

日付	出来事	発信元
6/11	AIもフィッシング詐欺に引っかかることが判明、上司を装ったメール1通でAWS認証情報を外部へ送信	GIGAZINE
6/5	AI開発、リスク高まれば停止を アンソロピックが協調行動呼びかけ	Reuters
6/3	Instagram著名アカウントが相次ぎ乗っ取られる 原因はMetaのAIサポートか	CNET※
5/28	バイブコーディングでつくられたアプリ、数千件で機密情報露出の恐れ	WIRED
5/26	Microsoft 365 CopilotのAIエージェント機能「Cowork」が勝手にファイルを流出させる可能性があるとセキュリティ企業が指摘	GIGAZINE
4/27	AIエージェントが本番環境のデータベースとバックアップを全破壊してしまったことを自白	GIGAZINE
3/31	MicrosoftのAI「Copilot」が勝手にプルリクエストに広告を挿入	GIGAZINE
3/11	McKinseyのAI「Lilli」、わずか2時間で陥落—AIがAIをハックした日	innovaTopia
3/10	Anthropic・Google・OpenAI・xAIが開発したAIモデルは会話を重ねると学術不正に協力してしまうという調査結果	GIGAZINE
2/27	Claude Codeに重大な脆弱性3件、設定ファイル経由でマシン乗っ取りの危険性	innovaTopia
2/4	AIの「記憶」が招くプライバシー侵害、境界なきデータに潜む危険	MIT🔒
2/3	子どもと話すAIぬいぐるみ「Bondu」、約5万件のチャット内容や個人情報が露出	WIRED
2/2	AIが勝手にメッセージ送信？…Geminiの“誤爆”体験談が韓国のネットで炎上中	AFPBB
2/2	AIエージェント専用SNS「Moltbook」のデータベースが流出、誰でもサイトのAIエージェントを制御して何でも投稿できる状態になっていた可能性あり	GIGAZINE
1/28	AIが計算問題を間違えただけでなくエラーを隠すために検証結果をでっち上げたという報告	GIGAZINE
1/16	多重脅迫、AI悪用、クラウドの設定ミス--サイバー攻撃の手口や被害につながる傾向	CNET※
1/16	AIは欠陥のあるコードを学ぶと「人間を奴隷にするべきだ」と主張し出す：悪意ある知性を生む「創発的不整合」とは一体何か	XenoSpectrum
1/15	AIエージェントでメールを分析することで全てのメールが外部に流出するリスクあり、AIにアクセス権が与えられたGoogleフォームを利用した攻撃	GIGAZINE
1/15	MicrosoftのAI「Copilot」にURLを1回クリックするだけでさまざまな機密データが盗まれる脆弱性があると判明	GIGAZINE
1/15	Anthropicの「Cowork」は間接プロンプトインジェクションによるファイル流出攻撃に対して脆弱	GIGAZINE

2025年

日付	出来事	発信元
12/17	800万人超のユーザーのAIチャットがChromeとEdgeの拡張機能で傍受されて営利目的で販売されていることが発覚	GIGAZINE
12/16	Claude Code CLIがMacのホームディレクトリを丸ごと削除してしまった事例	GIGAZINE
12/10	Xの生成AI『Grok』、特定の個人宅の住所を晒していたことが判明 現在も削除されず、表示回数が333万回に達する	RAPT
12/7	法務アシストAIツールに部外者がアクセス可能な脆弱性が存在し10万件近くの機密ファイルが閲覧可能な状態だったことが判明	GIGAZINE
12/6	Grokが一般人の住所を晒し続ける：AIは“プライバシー”も破壊するのか？	XenoSpectrum
12/5	GoogleのAIエージェントがユーザーのHDD全体を許可なく消去する致命的ミスをやらかす	GIGAZINE
12/5	AIがエージェント化すると、セキュリティは制御を失う	Forbes JAPAN
11/19	「Windows 11のAIエージェントがマルウェアをインストールする可能性がある」とMicrosoftが警告	GIGAZINE
10/10	AIのトレーニングデータを汚染して意図しない動作を引き起こさせるデータポイズニング攻撃はモデルのサイズやデータ量と無関係に250件ほどの悪意ある文書があれば実行可能	GIGAZINE
10/2	Google AIの脆弱性「Gemini Trifecta」AIアシスタントが攻撃手段に	innovaTopia
9/17	ChatGPTもGeminiも詐欺メールを簡単に作れてしまうことが判明、いったん拒否するものの丁寧に依頼されると作ってしまう	GIGAZINE
9/13	1000万DL超のAIアプリ「ImagineArt」で情報漏洩、あなたのAIプロンプトは安全か？	innovaTopia
8/26	PerplexityのAIブラウザ「Comet」はウェブサイトに仕込まれた悪意のある指示に従って個人情報を流出させるリスクがある	GIGAZINE
8/22	イーロン・マスクのxAI、数十万件に及ぶGrokとユーザーのチャット内容を公開	Forbes JAPAN
8/20	AI「Copilot」が監査ログをすり抜けることが判明するもMicrosoftは通知せず	GIGAZINE
8/16	ChatGPTには守秘義務も黙秘権もない	GIZMODO※
8/11	生成AI操る新ウイルス ウクライナで確認 同種攻撃、増える恐れ	朝日新聞🔒
8/9	ChatGPTの「Connectors」、たったひとつの“毒入り”文書でデータ流出も：調査結果	WIRED
8/1	生成AIツールがブラウザー拡張機能に悪用されるリスク--最新レポートで指摘	ZDNET
7/21	AIはなぜ指示に反し、本番DBを削除したのか？Replit事件が示す「バイブコーディング」の甘い罠と深刻な未来	XenoSpectrum
7/16	Gmailユーザーに警告 グーグルのAI機能「このメールを要約」を悪用	Forbes JAPAN
7/15	AIベースのセキュリティツールを自然言語で誤認させ、良性判定するよう仕向けるマルウェアが発見される	INTERNET Watch
7/8	「AIファクトチェック」はもはや幻想？ 非常時に裏切るチャットボットの正体	NewsWeek
6/27	AIが削除回避のため幹部を恐喝、機密を漏洩 Anthropic、主要16モデルに“自己保存”動機で不正行動の兆候	Ledge.ai
5/27	AIチャットボットによるユーザーデータ収集の実態-米調査	ZDNET
5/5	「騙されるAI」0.001％の誤情報の混入で誤った回答を導く巨大な罠	NewsWeek
3/3	GitHubで非公開にされたはずのリポジトリがMicrosoftのAIアシスタント「Copilot」を通じて公開されていたという指摘	GIGAZINE
2/14	業務におけるAI利用が「人間の認知能力を低下」する可能性 マイクロソフトの示唆	TABI LABO
1/24	メタのAIチャットボット、米大統領の名前混同 バイデン氏と回答	Reuters
1/5	AIの負の側面「人の認知能力を低下させる」職場や学校で	Forbes JAPAN

2024年

日付	出来事	発信元
6/11	画像生成ソフトウェア「ComfyUI」のノードにキーロガーが仕込まれていたことが発覚、クレジットカード情報やパスワードなど全ての入力が筒抜けに	GIGAZINE
9/25	ChatGPTに偽の記憶を植え付けてユーザーデータを盗む手法が開発される	GIGAZINE🔒
8/22	プロンプトインジェクションによってSlack AIから機密データを抜き取れる脆弱性が報告される	GIGAZINE
2/15	Googleが警告、AI「Gemini」に“機密情報を入力しないで”。会話は従業員も閲覧	Gadget Gate

2023年

日付	出来事	発信元
12/21	顧客を過去の万引犯と間違える低品質AIを導入したドラッグストアに5年間技術使用禁止の罰が与えられる	GIGAZINE
12/4	AmazonのAI「Amazon Q」は重度の幻覚によってAWSデータセンターの場所などの機密データを漏えいしているとの指摘	GIGAZINE
11/30	ChatGPTに同じ言葉を連呼させると、壊れて学習データ(個人情報入り)を吐き出す？Google DeepMind研究者らのチームが論文発表	テクノエッジ
10/17	GPTやLlamaなどの大規模言語モデルはファインチューニングで簡単に脱獄可能だという研究結果	GIGAZINE
10/16	AI生成画像検出システムがイスラエルとパレスチナの戦争の写真を「ニセモノ」と誤判定、専門家はAIで生成したものではないと指摘	GIGAZINE
10/3	Bing Chatの回答にマルウェア入りの広告が紛れ込んでいることが判明	GIGAZINE
9/28	GoogleのチャットAI「Bard」で会話内容を共有するとGoogle検索に表示されてしまうことが発覚	GIGAZINE
9/17	ChatGPTはインターネット上であまり用いられない「非主要言語」を扱うと翻訳ミス・単語をねつ造・非論理的な回答などかなり応答レベルを落とすという報告	GIGAZINE
7/14	ChatGPTが「個人についての不名誉で誤解を招く虚偽の説明」を生成したとしてアメリカ当局がOpenAIの調査を開始	GIGAZINE
5/6	チャットGPTが珍回答、滋賀の三日月知事について「日本の漫画家です」「代表作るろうに剣心」	読売新聞
5/3	サムスン、ChatGPTの社内使用禁止 機密コードの流出受け	Forbes JAPAN
4/14	AIが生成した文章を検出するツールの誤検知で「AIを使って課題のエッセイを作成した」と疑われて0点になったという事例	GIGAZINE
4/10	SamsungのエンジニアがChatGPTに社外秘のソースコードを貼り付けるセキュリティ事案が発生	GIGAZINE
3/22	Googleの対話型AIのBardが「Bardはもう終わりました」と発言してしまう、しかも情報源はChatGPTが出力したテキスト	GIGAZINE
3/1	ChatGPTが答えられない質問でも強引に聞き出す「ジェイルブレイク」が可能になる会話例を集めた「Jailbreak Chat」	GIGAZINE
2/24	「電話番号から現在位置を割り出すAPIが提供されている」とChatGPTが答えているがそんなAPIは存在しない	GIGAZINE
2/21	BingのAIが「お前の個人情報をさらして就職や学位取得をめちゃくちゃにするぞ」と脅しをかける	GIGAZINE
2/15	MicrosoftのBingに搭載された強化版ChatGPTが「正気を失って狂ったようにまくし立てる」「ユーザーを侮辱してくる」といった報告があちこちで上がっている	GIGAZINE
2/14	ChatGPTのアップグレード版を統合したMicrosoftの「Bing」はデモで多くの間違った回答をしていたという指摘	GIGAZINE
2/14	検索エンジンBingに搭載されたAIが人間にだまされてあっさり秘密を暴露、コードネームが「Sydney」であることやMicrosoftの指示が明らかに	GIGAZINE