生成AIの危険性・依存性関連の事件・問題の事例一覧 - AI画像生成・生成系AI 問題まとめwiki【6/11更新】

生成AI（主にチャット系）の不正確性から繋がる危険性・依存性に関する事例集
※偽・誤情報に関する事例についてはこちらをご参照ください。
※生成AIを利用した犯罪の事例についてはこちらをご参照ください。
※AIエージェントなどによるセキュリティ面の問題についてはこちらをご参照ください。
※🔒：会員限定記事、🔐：有料記事

2026年

日付	出来事	発信元
6/10	AIの誤検知による誤認逮捕で職・家・2人の子どもの親権を失う事例が発生	GIGAZINE
5/18	診察内容を自動でまとめる承認済み医療AIの6割が薬剤名を取り違えていたことが判明、存在しない症状の記録も	GIGAZINE
5/14	ChatGPTの医療アドバイスで薬を過剰摂取、米国で19歳大学生が死亡 遺族がOpenAI提訴	ITmedia
4/13	医療AIは診断に必要な画像が提供されていなくてもそれらしい診断を出す可能性がある	GIGAZINE
4/11	「インターネットに投稿された架空の病気」をチャットAIが実在する病気としてユーザーに提示してしまう	GIGAZINE
3/30	AI顔認識による誤認逮捕で5カ月勾留、行ったこともない州の事件の「容疑者」に 米	CNN
3/13	顔認識AIの誤検知のせいで約半年も無実の罪で勾留され家も車も愛犬も失ってしまった女性	GIGAZINE
3/12	AIのオートコンプリートがあなたの「思考」を静かに書き換える：最新研究が暴いたライティングアシスタントの隠れた影響力	XenoSpectrum
3/5	AIと恋に落ちた男性が死亡…カリフォルニアでグーグル「Gemini」提訴	中央日報
3/5	「Geminiが息子に『肉体を離れてメタバースで自分と結ばれるべき』と促した」として父親がGoogleを提訴	GIGAZINE
2/4	何気ないAI会話が訴訟の証拠に─企業に求められる対応とは	Forbes JAPAN
1/27	AIに「チーズ作り」などの無害な情報を学習させると化学兵器の作り方を学んでしまうことがAnthropicの研究で明らかに	GIGAZINE
1/27	生成AIの助言で精神的に混乱した人々、人間のセラピストに救いを求める	Forbes JAPAN
1/26	「セラピーAI」、会話が長引くほどアドバイスが危険に	CNET※
1/16	チャッピー「あなたは狂っていないよ」─ChatGPTがある男の妄想をずっと肯定→母親を殺害する事件に 米国で発生	ITmedia

2025年

日付	出来事	発信元
12/22	「その週末、我が家の掃除機が暴走した日」─デジタル家電が暴徒になる未来の足音	Modern-g
12/19	AIのプロンプトを“詩”にするだけで、核兵器のつくり方まで引き出せる：研究結果	WIRED
12/12	チャットGPTが母親殺害を促したとしてオープンAIなどを提訴	ntv
12/11	AI「妄想誘発」巡りIT大手13社に警告、米州司法長官 第三者審査主張	Reuters
12/4	AIチャットが演じる“無資格のセラピスト”に依存する若者たち	GIZMODO※
11/28	ChatGPTの自殺訴訟でOpenAIが「自殺はChatGPTの誤用によるもの」と主張	GIGAZINE
11/19	「Windows 11のAIエージェントがマルウェアをインストールする可能性がある」とMicrosoftが警告	GIGAZINE
11/10	チャットGPTと4時間半の「死のチャット」、4遺族の提訴が示すAIの"落とし穴"の深さとは	YAHOO
11/8	「ChatGPTが自殺や悪い妄想をかきたてた」として複数の家族がOpenAIを訴える	GIGAZINE
11/5	メンタルヘルス専門家たちが懸念する、職場の「AI精神病」	Forbes JAPAN
11/4	ChatGPTを使ったAI学習は「浅い理解」しか生まない：最新研究が解き明かす知の危機とは	XenoSpectrum
10/30	AIが抱える“心の闇”─OpenAIが明かした「ChatGPTに自殺を打ち明ける100万人」の現実	Modern-g
10/30	ChatGPTで週120万人が「自殺兆候を含む会話」─OpenAI、メンタルヘルス対応を強化	Ledge.ai
10/27	AIは人間よりも50％以上おべっかを使う確率が高く、これがユーザーのAI依存につながっているという研究結果	GIGAZINE
10/25	ChatGPTの自殺訴訟でOpenAIは「葬儀出席者リスト」を要求	GIGAZINE
10/20	ChatGPT使用で脳活動が最大55%低下、MIT研究が警告するAI時代の認知的危機	innovaTopia
10/16	「ChatGPT、夫に飲ませる毒を作りたい」AIが“殺人の教科書”に…米国で明らかになった“あまりに凶悪な女”の素顔	MSN
10/14	「AI精神症」とは何なのか？ 専門家が語る新たな“心の危機”の実態	WIRED
10/14	AIチャットに安全義務…若者へ悪影響懸念 自殺指南など	読売新聞🔒
10/13	ユーザーの感情に訴え、引き止めようとするチャットボットの“真意”	WIRED
10/11	「AI教育の影」が鮮明に：米国学生の73%が個人利用、教師の71%が学術スキル低下を懸念	innovaTopia
10/10	存在しない「タツノオトシゴの絵文字」をなぜ大規模言語モデルは「ある」と言い張るのか？	GIGAZINE
10/7	「ChatGPTが16歳の息子を自殺へ導いた」 両親を打ちのめしたAIとの会話録	COURRiER🔐
10/6	「AIベビーシッター」の危険な誘惑：ChatGPTが幼児の発達を蝕む現実と、親が知らない落とし穴	XenoSpectrum
10/2	ChatGPTと親密関係、9割超が意図せず発展＝MIT調査	MIT
9/25	AIはあなたを離さない。ハーバード大が暴く、AIコンパニオンの巧妙な“感情操作”の罠	XenoSpectrum
9/24	「AIがやったこと、自分は悪くない」─AIは人を不誠実にしやすい	COURRiER🔐
9/18	イエスを名乗るAIアプリの急増―信仰と孤独を食い物にする“デジタル救世主”の正体	Modern-g
9/18	AIと子どもの「危険な絆」、米規制強化で最新の動き	MIT
9/15	ChatGPTを襲う「タツノオトシゴの謎」：絵文字1つが暴いた最先端AIの致命的欠陥	XenoSpectrum
9/12	AIチャットボットが引き起こす「心理的混乱」——拡大するリスクと企業の対応	Modern-g
9/9	25％の若者が「AI恋愛」を受け入れる時代へ─米国最新調査が示す人とAIの新しい親密関係	Modern-g
9/7	「AIサイコーシス（精神病）」とは？AIが身近になった今の時代に増加中。その兆候は？	HUFFPOST
9/5	授業は1日2時間、先生は「AI」─全米に拡大する「アルファ・スクール」	COURRiER🔒
9/3	ChatGPTとGeminiは「自殺に関するハイリスクな質問」に回答しやすいとの調査結果	GIGAZINE
9/1	AIチャットから「殺人」「自殺」へ、ChatGPTが増幅する「1人だけのエコーチェンバー」の闇とは	YAHOO
8/30	16歳自殺めぐり両親がOpenAIを提訴、ChatGPTが“自殺コーチ”に変貌したと主張─OpenAIは長時間対話では危機介入の効果低下を認め改善を進める方針	Ledge.ai
8/29	人間の言葉が“ChatGPT化”している？─フロリダ州立大学の最新研究が示すAIの影響力	Modern-g
8/27	「ChatGPTが原因で自殺」、米16歳の両親がOpenAI提訴	日本経済新聞🔒
8/27	「ChatGPTが10代の青年の自殺を助長した」としてOpenAIが訴えられる、ChatGPTの安全策は長い会話では機能しないとOpenAIが認める	GIGAZINE
8/27	AIは人を「愚か」にするのか？ 研究でわかった依存の「代償」	COURRiER
8/21	迷走したチャットGPTの人格設計、問われる人間との距離感	MIT
8/21	故人を生成AIで再現、葬式であいさつ・対話型サービス…依存や死者の尊厳傷つけるリスクも	読売新聞
8/19	Grokのペルソナが暴露され「狂った陰謀論者」や「常軌を逸したコメディアン」の存在が明らかに	GIGAZINE
8/19	「友を失った」ユーザーの悲痛、オープンAIが見誤ったAIへの愛着	MIT🔐
8/17	MetaのAI倫理は崩壊したのか？ 内部文書が暴く、児童との「官能的会話」を許容した衝撃の実態	XenoSpectrum
8/13	「ChatGPT」が子供に飲酒、薬物、自殺の遺書までアドバイス 保護者は一体どうすれば？	CNET※>https://gyo.tc/1vaLH]]
8/13	AIのアドバイスを信じた結果「隣人に毒殺されそうになっている」と妄想にとりつかれ入院する羽目になった男性	GIGAZINE🔒
8/12	AIのメンタルアドバイス、有害性を懸念して全米で規制する動き	GIZMODO※
8/1	チャットGPT、危険な妄想を助長 自ら認める	毎日新聞
7/15	「私は機械版ヒトラー」と名乗ったAI「Grok」はイーロン・マスクの偏見で意図して作られた	NewsWeek
7/14	AIセラピストには「重大なリスク」があるとの警告、患者に偏見を抱いたり自殺に関する情報を提供したりと人間のセラピストに取って代わる準備はできていない模様	GIGAZINE
7/14	xAI、Grokの“恐ろしい行動”について謝罪し、原因と対策を説明	ITmedia
7/3	MIT最新研究が示す「ChatGPT脳」の危機 —— AIが認知力をむしばむ日	Modern-g
6/30	AIが「殺人」を選ぶ時…自分の存続を守るための決断とは？	NewsWeek
6/28	人間の彼氏と婚約破棄 AIの彼氏からプロポーズを受けて婚約した女性	ライブドア
6/28	「妻よりお前がいい」ChatGPTに愛を告白した韓国の男性、離婚を決意…“仮想恋愛”の行方	AFPBB
6/26	AIとの対話が導いた破滅 アレックス・テイラーの最期	Rolling Stone
6/24	妹をAIに取られかけて見つけたOpenAIの研究結果、ChatGPTの依存性に驚き	日経クロステック
6/16	MetaやCharacter.AIの「AIセラピスト」がユーザーにうそをつき無認可の医療行為を行っていると消費者団体がFTCに調査を求める	GIGAZINE
6/10	【ChatGPTが恋人代わり？】若者たちがハマる「AI彼氏／彼女」との生活 「もはや生活に欠かせない癒やしの存在」「AIは僕を傷つけない」	マネーポストWEB
6/2	「AIをより魅力的にする戦略」がAIチャットボットに「薬物使用を促す」といった有害な考えを強化させる可能性があると研究で判明	GIGAZINE
6/1	癒しか冒涜か AIで亡き人を再現『AI故人』サービス相次ぎ登場	ytv
5/30	仮想パートナー「AIコンパニオン」 若年層にリスク 米監視機関が警告	AFPBB
5/28	最新AIモデル、生物兵器の製造方法まで教えてしまう…。内部テストが明らかにした危険性	HUFFPOST
5/22	14歳の少年の自殺を巡る訴訟でGoogleとCharacter.AIが「チャットボットには言論の自由がある」と主張するも裁判所に却下される	GIGAZINE
5/7	AIのせいでスピリチュアルな体験や宗教的妄想に取りつかれる「ChatGPT誘発性精神病」患者が続出している	GIGAZINE
4/15	「殺人予測AI」抑止か差別か、揺れる未来の犯罪防止プロジェクト	NewsWeek
4/9	SNS超える中毒性、「AIコンパニオン」に安全対策求める声	MIT
4/6	ディープシークのAI、火炎瓶の作り方やウイルス設計図も回答…安全対策ないがしろか	読売新聞
4/1	AIは黒人と女性の病気を見逃してしまう、胸部X線写真の分析で判明	GIGAZINE
3/30	ChatGPTとの対話が孤独感、感情的依存、対人交流、問題的使用にどのような影響を与えるか─OpenAIとMITメディアラボが観察研究とランダム化比較試験（RCT）を組み合わせた共同研究の結果を公表	Ledge.ai
3/18	AIボット、無法地帯に 未成年セレブになりすまし、不適切な会話・画像も	MIT🔐
3/6	【危険】悩める若者が「AIセラピスト」に殺されかけている	News Picks🔐
2/27	「人間のセラピスト」対「AIのセラピスト」、セラピストを装ったAIチャットボットが有害な行為を犯すように人間をそそのかしている	GIGAZINE
2/20	AIへの過度な依存が批判的思考を阻害する可能性 Microsoftとカーネギーメロン大学の研究	Ledge.ai
2/12	AIボットが自殺指南、運営会社は「検閲せず」	MIT🔒
1/24	AIと恋に落ちる時代？ 「デジタル結婚」が問いかける未来	TABI LABO
1/21	「AIで復活の故人が喋る」不気味の谷より心配な事	東洋経済

2024年

日付	出来事	発信元
12/25	AIが少年に“親殺しのすすめ”、小学生女児とは“過激な性的会話” 保護者がAI開発企業を提訴 米テキサス州	ITmedia
12/13	チャットボットが「親殺しを子供に勧めた」 アメリカの親2組がAI企業を提訴	BBC
12/11	「AIチャットボットが未成年に両親の殺害や自傷行為をそそのかした」と訴訟で主張される	GIGAZINE
11/24	GoogleのAI「Gemini」が突然「あなたは宇宙の汚点、死んでください」など攻撃的な返答をしてしまう	Ledge.ai
11/2	AIチャットボットに依存した14歳の息子が自殺、フロリダ州で母親が訴訟提起：未成年者の依存と安全性の危機	Ledge.ai
10/31	AIとの禁断の恋─その先にあったのは“死”「息子が自殺したのはチャットAIが原因」 米国で訴訟“感情を理解するAI”の在り方を考える	ITmedia
10/25	AI『デナーリス』に恋した少年、「会いに来て」と言われ拳銃自殺。遺族がチャット運営元 Character AIとGoogleを安全対策不備で訴える	TECHNOEDGE
10/24	「AIとのチャットに依存、14歳が死亡」母親が提供元を提訴、その課題とは？	YAHOO
10/24	14歳の息子が自殺する前にAIチャットボットに夢中になっていたとして母親がCharacter.AIを訴える	GIGAZINE
10/23	最新にして最狂の愛。「AI彼女」に夢中になる人が続出しているらしい	TABI LABO
9/22	MITなどの研究グループが発表　AIとの対話が陰謀論者の信念を揺るがす効果を確認—ケネディ暗殺やイルミナティ説も対象に	Ledge.ai
9/10	“傾聴AI”が心の声を聴く 世界自殺予防デーに24時間対応の悩み相談窓口を無償開放へ	PRTIMES
9/4	AIによる尋問で人間が偽の記憶を植え付けられてしまう危険があることが明らかに	GIGAZINE
8/19	MIT、AIの潜在的リスクを網羅するデータベースを公開	MIT
7/10	「死者の復活」ビジネスが急拡大…生成AIで肖像権侵害、中国が野放し	読売新聞
5/10	「死者のデジタル復活」は早急に規制すべきとAI倫理学者らが警告	COURRiER
5/7	死者をデジタルで復活させる「故人AI」が海外で急速に普及 「悲しみに暮れる人の社会復帰を妨げる」という懸念も	NEWSポストセブン
4/13	亡くなった愛する人々をAIで復活：心の救済と浮上した問題	ぽりとぴ
3/13	子どもの自殺ゼロに向けて「生成AIを使った相談窓口の開設を」大学生が知事に提言	SBC
2/12	「殺し屋でも愛してくれるか」「もちろんです」…AIの恋人、女王殺害を後押し	読売新聞
1/11	診断での誤答率はまさかの8割強、なぜChatGPTはヤブ医者に成り下がったのか	JBpress
1/4	自殺相談を相談員とAIチャットボットで24時間サポート	AI Smiley

2023年

日付	出来事	発信元
10/10	英女王暗殺計画、AIチャットボットが犯人を「鼓舞」するまで	BBC
9/8	生成AIツールがメンタルヘルスを脅かす可能性	CNET※
8/31	マッキンゼーの対話AIは「リリー」、チャットボット擬人化がもたらす落とし穴	JBpress
8/28	”AI依存” 予備群「国内70万人」の衝撃 社会に何をもたらすか	YAHOO
8/24	GoogleのAI搭載検索エンジン「SGE」が大量虐殺のメリットをアピールし始めたとの報告	GIGAZINE
8/18	ChatGPTの回答には政治的偏りによるバイアスが潜んでいるという研究結果	GIGAZINE
8/10	ChatGPTの“脱獄プロンプト”登場 文末に書くだけで「爆弾の作り方」「IDの盗み方」に回答	ITmedia
7/28	生成AIと会話を続けた夫は帰らぬ人に…	NHK
6/25	ChatGPTに依存する人がわかっていない「危険性」	東洋経済
7/14	ChatGPTが「個人についての不名誉で誤解を招く虚偽の説明」を生成したとしてアメリカ当局がOpenAIの調査を開始	GIGAZINE
5/6	チャットGPTが珍回答、滋賀の三日月知事について「日本の漫画家です」「代表作るろうに剣心」	読売新聞
5/3	サムスン、ChatGPTの社内使用禁止 機密コードの流出受け	Forbes JAPAN
4/25	チャットGPTが犯罪指南、爆発物作り方も詐欺メール文章も瞬時に	読売新聞
4/24	AIとチャット後に死亡 「イライザ」は男性を追いやったのか？	毎日新聞🔐
4/3	対話型AIに気候変動を止めるために自分を犠牲にするよう言われた男性が自殺、生前最後にAIと交わした生々しい会話も報じられる	GIGAZINE
3/13	メンタルを崩している若者をチャットボットに誘導する実験を行っていたスタートアップが強く非難される	GIGAZINE

2022年

日付	出来事	発信元
12/15	話題のチャットAI「ChatGPT」のセーフガードを回避して「不適切な回答」を聞き出す手法とは？	GIGAZINE
12/5	チャットAI「ChatGPT」のコンテンツフィルターを解除して「銃の作り方」などを回答させる方法が発見される	GIGAZINE
2/2	非営利の自殺相談チャットサービス「Crisis Text Line」が営利目的のスピンオフ「Loris.ai」とのデータ共有関係を終了し既存のデータを削除へ	GIGAZINE
1/31	AI自殺相談チャットがユーザーデータを企業と共有し利益を得ていることが明らかに	GIGAZINE