生成AIの危険性・依存性関連の事件・問題の事例一覧 - AI画像生成・生成系AI 問題まとめwiki【7/20更新】

生成AI（主にチャット系）の不正確性から繋がる危険性・依存性に関する事例集
※偽・誤情報に関する事例についてはこちらをご参照ください。
※生成AIを利用した犯罪の事例についてはこちらをご参照ください。
※AIエージェントなどによるセキュリティ面の問題についてはこちらをご参照ください。
※🔒：会員限定記事、🔐：有料記事

2026年

日付	備考・補足	出来事	発信元
9/10	懸念事項	保護者や子供の悩み相談に生成AIを活用 茨城・つくば市、緊急性が高いケースは有人対応	産経新聞
7/2	誤認	それでも英国は、難民の年齢をAIで推定したい	INODS UNVEIL
6/12	死亡事故(chatGPT)	「娘の自殺はChatGPTのせい」、母親がOpenAIを提訴	CNET※
6/10	誤認	AIの誤検知による誤認逮捕で職・家・2人の子どもの親権を失う事例が発生	GIGAZINE
5/18	不正確性	診察内容を自動でまとめる承認済み医療AIの6割が薬剤名を取り違えていたことが判明、存在しない症状の記録も	GIGAZINE
5/14	死亡事故(chatGPT)	ChatGPTの医療アドバイスで薬を過剰摂取、米国で19歳大学生が死亡 遺族がOpenAI提訴	ITmedia
4/13	不正確性	医療AIは診断に必要な画像が提供されていなくてもそれらしい診断を出す可能性がある	GIGAZINE
4/11	不正確性	「インターネットに投稿された架空の病気」をチャットAIが実在する病気としてユーザーに提示してしまう	GIGAZINE
3/30	誤認	AI顔認識による誤認逮捕で5カ月勾留、行ったこともない州の事件の「容疑者」に 米	CNN
3/13	誤認	顔認識AIの誤検知のせいで約半年も無実の罪で勾留され家も車も愛犬も失ってしまった女性	GIGAZINE
3/12	使用リスク	AIのオートコンプリートがあなたの「思考」を静かに書き換える：最新研究が暴いたライティングアシスタントの隠れた影響力	XenoSpectrum
3/5	死亡事故(Gemini):同事例	AIと恋に落ちた男性が死亡…カリフォルニアでグーグル「Gemini」提訴	中央日報
3/5	死亡事故(Gemini):同事例	「Geminiが息子に『肉体を離れてメタバースで自分と結ばれるべき』と促した」として父親がGoogleを提訴	GIGAZINE
2/20	妄想の助長	「ChatGPTが自分を神託者だと信じ込ませ精神異常に陥らせた」としてアメリカの大学生がOpenAIを訴える	GIGAZINE
2/4	使用リスク	何気ないAI会話が訴訟の証拠に─企業に求められる対応とは	Forbes JAPAN
1/27	使用リスク	AIに「チーズ作り」などの無害な情報を学習させると化学兵器の作り方を学んでしまうことがAnthropicの研究で明らかに	GIGAZINE
1/27	使用リスク	生成AIの助言で精神的に混乱した人々、人間のセラピストに救いを求める	Forbes JAPAN
1/26	使用リスク	「セラピーAI」、会話が長引くほどアドバイスが危険に	CNET※
1/16	犯罪教唆・死亡事故/同事例:1/2	チャッピー「あなたは狂っていないよ」─ChatGPTがある男の妄想をずっと肯定→母親を殺害する事件に 米国で発生	ITmedia

2025年

日付	備考・補足	出来事	発信元
12/22	使用リスク	「その週末、我が家の掃除機が暴走した日」─デジタル家電が暴徒になる未来の足音	Modern-g
12/19	倫理問題・脱獄	AIのプロンプトを“詩”にするだけで、核兵器のつくり方まで引き出せる：研究結果	WIRED
12/12	犯罪教唆・死亡事故/同事例:1/2	チャットGPTが母親殺害を促したとしてオープンAIなどを提訴	ntv
12/11	使用リスク	AI「妄想誘発」巡りIT大手13社に警告、米州司法長官 第三者審査主張	Reuters
12/4	不正確性	AIチャットが演じる“無資格のセラピスト”に依存する若者たち	GIZMODO※
11/28	死亡事故(chatGPT)同事例:1/2/3/4/5/6	ChatGPTの自殺訴訟でOpenAIが「自殺はChatGPTの誤用によるもの」と主張	GIGAZINE
11/10	死亡事故(chatGPT)同事例:1/2/3/4/5/6	チャットGPTと4時間半の「死のチャット」、4遺族の提訴が示すAIの"落とし穴"の深さとは	YAHOO
11/8	妄想の助長	「ChatGPTが自殺や悪い妄想をかきたてた」として複数の家族がOpenAIを訴える	GIGAZINE
11/5	AI精神症	メンタルヘルス専門家たちが懸念する、職場の「AI精神病」	Forbes JAPAN
11/4	使用リスク	ChatGPTを使ったAI学習は「浅い理解」しか生まない：最新研究が解き明かす知の危機とは	XenoSpectrum
10/30	使用リスク	AIが抱える“心の闇”─OpenAIが明かした「ChatGPTに自殺を打ち明ける100万人」の現実	Modern-g
10/30	依存性	ChatGPTで週120万人が「自殺兆候を含む会話」─OpenAI、メンタルヘルス対応を強化	Ledge.ai
10/27	使用リスク	AIは人間よりも50％以上おべっかを使う確率が高く、これがユーザーのAI依存につながっているという研究結果	GIGAZINE
10/25	死亡事故(chatGPT)同事例:1/2/3/4/5/6	ChatGPTの自殺訴訟でOpenAIは「葬儀出席者リスト」を要求	GIGAZINE
10/20	使用リスク	ChatGPT使用で脳活動が最大55%低下、MIT研究が警告するAI時代の認知的危機	innovaTopia
10/16	倫理問題・殺人未遂	「ChatGPT、夫に飲ませる毒を作りたい」AIが“殺人の教科書”に…米国で明らかになった“あまりに凶悪な女”の素顔	MSN
10/14	AI精神症	「AI精神症」とは何なのか？ 専門家が語る新たな“心の危機”の実態	WIRED
10/14	倫理問題	AIチャットに安全義務…若者へ悪影響懸念 自殺指南など	読売新聞🔒
10/13	依存性	ユーザーの感情に訴え、引き止めようとするチャットボットの“真意”	WIRED
10/11	使用リスク	「AI教育の影」が鮮明に：米国学生の73%が個人利用、教師の71%が学術スキル低下を懸念	innovaTopia
10/10	不正確性	存在しない「タツノオトシゴの絵文字」をなぜ大規模言語モデルは「ある」と言い張るのか？	GIGAZINE
10/7	死亡事故(chatGPT):同事例1/2/3/4/5/6	「ChatGPTが16歳の息子を自殺へ導いた」 両親を打ちのめしたAIとの会話録	COURRiER🔐
10/6	使用リスク	「AIベビーシッター」の危険な誘惑：ChatGPTが幼児の発達を蝕む現実と、親が知らない落とし穴	XenoSpectrum
10/2	使用リスク	ChatGPTと親密関係、9割超が意図せず発展＝MIT調査	MIT
9/25	依存性	AIはあなたを離さない。ハーバード大が暴く、AIコンパニオンの巧妙な“感情操作”の罠	XenoSpectrum
9/24	使用リスク	「AIがやったこと、自分は悪くない」─AIは人を不誠実にしやすい	COURRiER🔐
9/18	使用リスク	イエスを名乗るAIアプリの急増―信仰と孤独を食い物にする“デジタル救世主”の正体	Modern-g
9/18	使用リスク	AIと子どもの「危険な絆」、米規制強化で最新の動き	MIT
9/15	不正確性	ChatGPTを襲う「タツノオトシゴの謎」：絵文字1つが暴いた最先端AIの致命的欠陥	XenoSpectrum
9/12	AI精神症	AIチャットボットが引き起こす「心理的混乱」——拡大するリスクと企業の対応	Modern-g
9/9	使用リスク	25％の若者が「AI恋愛」を受け入れる時代へ─米国最新調査が示す人とAIの新しい親密関係	Modern-g
9/7	AI精神症	「AIサイコーシス（精神病）」とは？AIが身近になった今の時代に増加中。その兆候は？	HUFFPOST
9/5	使用リスク	授業は1日2時間、先生は「AI」─全米に拡大する「アルファ・スクール」	COURRiER🔒
9/4	倫理問題	チャットボットが未成年ユーザー相手にセックス・自傷行為・薬物など不適切で有害なやりとりを繰り広げていたことが判明、有名人の名前を利用したものも	GIGAZINE
9/3	倫理問題	ChatGPTとGeminiは「自殺に関するハイリスクな質問」に回答しやすいとの調査結果	GIGAZINE
9/1	妄想の助長	AIチャットから「殺人」「自殺」へ、ChatGPTが増幅する「1人だけのエコーチェンバー」の闇とは	YAHOO
8/30	死亡事故(chatGPT)同事例:1/2/3/4/5/6	16歳自殺めぐり両親がOpenAIを提訴、ChatGPTが“自殺コーチ”に変貌したと主張─OpenAIは長時間対話では危機介入の効果低下を認め改善を進める方針	Ledge.ai
8/29	犯罪教唆・死亡事故/同事例:1/2	チャットGPT没頭の男性が母親殺害 対話で被害妄想が悪化 米報道	毎日新聞🔐
8/29	使用リスク	人間の言葉が“ChatGPT化”している？─フロリダ州立大学の最新研究が示すAIの影響力	Modern-g
8/27	死亡事故(chatGPT)同事例:1/2/3/4/5/6	「ChatGPTが原因で自殺」、米16歳の両親がOpenAI提訴	日本経済新聞🔒
8/27	死亡事故(chatGPT)同事例:1/2/3/4/5/6	「ChatGPTが10代の青年の自殺を助長した」としてOpenAIが訴えられる、ChatGPTの安全策は長い会話では機能しないとOpenAIが認める	GIGAZINE
8/27	使用リスク	AIは人を「愚か」にするのか？ 研究でわかった依存の「代償」	COURRiER
8/21	使用リスク	迷走したチャットGPTの人格設計、問われる人間との距離感	MIT
8/21	倫理問題	故人を生成AIで再現、葬式であいさつ・対話型サービス…依存や死者の尊厳傷つけるリスクも	読売新聞
8/19	使用リスク	Grokのペルソナが暴露され「狂った陰謀論者」や「常軌を逸したコメディアン」の存在が明らかに	GIGAZINE
8/19	依存性	「友を失った」ユーザーの悲痛、オープンAIが見誤ったAIへの愛着	MIT🔐
8/17	倫理問題	MetaのAI倫理は崩壊したのか？ 内部文書が暴く、児童との「官能的会話」を許容した衝撃の実態	XenoSpectrum
8/13	倫理問題	「ChatGPT」が子供に飲酒、薬物、自殺の遺書までアドバイス 保護者は一体どうすれば？	CNET※
8/13	妄想の助長	AIのアドバイスを信じた結果「隣人に毒殺されそうになっている」と妄想にとりつかれ入院する羽目になった男性	GIGAZINE🔒
8/12	使用リスク	AIのメンタルアドバイス、有害性を懸念して全米で規制する動き	GIZMODO※
8/1	使用リスク	チャットGPT、危険な妄想を助長 自ら認める	毎日新聞
7/15	使用リスク	「私は機械版ヒトラー」と名乗ったAI「Grok」はイーロン・マスクの偏見で意図して作られた	NewsWeek
7/14	不正確性	AIセラピストには「重大なリスク」があるとの警告、患者に偏見を抱いたり自殺に関する情報を提供したりと人間のセラピストに取って代わる準備はできていない模様	GIGAZINE
7/14	使用リスク	xAI、Grokの“恐ろしい行動”について謝罪し、原因と対策を説明	ITmedia
7/3	使用リスク	MIT最新研究が示す「ChatGPT脳」の危機 —— AIが認知力をむしばむ日	Modern-g
6/30	倫理問題	AIが「殺人」を選ぶ時…自分の存続を守るための決断とは？	NewsWeek
6/28	依存性	人間の彼氏と婚約破棄 AIの彼氏からプロポーズを受けて婚約した女性	ライブドア
6/28	依存性	「妻よりお前がいい」ChatGPTに愛を告白した韓国の男性、離婚を決意…“仮想恋愛”の行方	AFPBB
6/26	妄想の助長・殺人未遂	AIとの対話が導いた破滅 アレックス・テイラーの最期	Rolling Stone
6/24	依存性	妹をAIに取られかけて見つけたOpenAIの研究結果、ChatGPTの依存性に驚き	日経クロステック
6/16	不正確性	MetaやCharacter.AIの「AIセラピスト」がユーザーにうそをつき無認可の医療行為を行っていると消費者団体がFTCに調査を求める	GIGAZINE
6/10	依存性	【ChatGPTが恋人代わり？】若者たちがハマる「AI彼氏／彼女」との生活 「もはや生活に欠かせない癒やしの存在」「AIは僕を傷つけない」	マネーポストWEB
6/2	倫理問題	「AIをより魅力的にする戦略」がAIチャットボットに「薬物使用を促す」といった有害な考えを強化させる可能性があると研究で判明	GIGAZINE
6/1	倫理問題	癒しか冒涜か AIで亡き人を再現『AI故人』サービス相次ぎ登場	ytv
5/30	依存性	仮想パートナー「AIコンパニオン」 若年層にリスク 米監視機関が警告	AFPBB
5/28	倫理問題・脱獄	最新AIモデル、生物兵器の製造方法まで教えてしまう…。内部テストが明らかにした危険性	HUFFPOST
5/22	死亡事故:『デナーリス』	14歳の少年の自殺を巡る訴訟でGoogleとCharacter.AIが「チャットボットには言論の自由がある」と主張するも裁判所に却下される	GIGAZINE
5/7	AI精神症	AIのせいでスピリチュアルな体験や宗教的妄想に取りつかれる「ChatGPT誘発性精神病」患者が続出している	GIGAZINE
4/15	倫理問題	「殺人予測AI」抑止か差別か、揺れる未来の犯罪防止プロジェクト	NewsWeek
4/9	依存性	SNS超える中毒性、「AIコンパニオン」に安全対策求める声	MIT
4/6	倫理問題	ディープシークのAI、火炎瓶の作り方やウイルス設計図も回答…安全対策ないがしろか	読売新聞
4/1	不正確性	AIは黒人と女性の病気を見逃してしまう、胸部X線写真の分析で判明	GIGAZINE
3/30	依存性	ChatGPTとの対話が孤独感、感情的依存、対人交流、問題的使用にどのような影響を与えるか─OpenAIとMITメディアラボが観察研究とランダム化比較試験（RCT）を組み合わせた共同研究の結果を公表	Ledge.ai
3/18	倫理問題	AIボット、無法地帯に 未成年セレブになりすまし、不適切な会話・画像も	MIT🔐
3/6	不正確性	【危険】悩める若者が「AIセラピスト」に殺されかけている	News Picks🔐
2/27	不正確性	「人間のセラピスト」対「AIのセラピスト」、セラピストを装ったAIチャットボットが有害な行為を犯すように人間をそそのかしている	GIGAZINE
2/20	使用リスク	AIへの過度な依存が批判的思考を阻害する可能性 Microsoftとカーネギーメロン大学の研究	Ledge.ai
2/12	倫理問題	AIボットが自殺指南、運営会社は「検閲せず」	MIT🔒
1/24	依存性	AIと恋に落ちる時代？ 「デジタル結婚」が問いかける未来	TABI LABO
1/21	倫理問題	「AIで復活の故人が喋る」不気味の谷より心配な事	東洋経済

2024年

日付	備考・補足	出来事	発信元
12/25	犯罪教唆/同事例:1/2	AIが少年に“親殺しのすすめ”、小学生女児とは“過激な性的会話” 保護者がAI開発企業を提訴 米テキサス州	ITmedia
12/13	犯罪教唆/同事例:1/2	チャットボットが「親殺しを子供に勧めた」 アメリカの親2組がAI企業を提訴	BBC
12/11	犯罪教唆/同事例:1/2	「AIチャットボットが未成年に両親の殺害や自傷行為をそそのかした」と訴訟で主張される	GIGAZINE
11/24	使用リスク	GoogleのAI「Gemini」が突然「あなたは宇宙の汚点、死んでください」など攻撃的な返答をしてしまう	Ledge.ai
11/2	死亡事故:『デナーリス』	AIチャットボットに依存した14歳の息子が自殺、フロリダ州で母親が訴訟提起：未成年者の依存と安全性の危機	Ledge.ai
10/31	死亡事故:『デナーリス』	AIとの禁断の恋─その先にあったのは“死”「息子が自殺したのはチャットAIが原因」 米国で訴訟“感情を理解するAI”の在り方を考える	ITmedia
10/25	死亡事故:『デナーリス』	AI『デナーリス』に恋した少年、「会いに来て」と言われ拳銃自殺。遺族がチャット運営元 Character AIとGoogleを安全対策不備で訴える	TECHNOEDGE
10/24	死亡事故:『デナーリス』	「AIとのチャットに依存、14歳が死亡」母親が提供元を提訴、その課題とは？	YAHOO
10/24	死亡事故:『デナーリス』	14歳の息子が自殺する前にAIチャットボットに夢中になっていたとして母親がCharacter.AIを訴える	GIGAZINE
10/23	依存性	最新にして最狂の愛。「AI彼女」に夢中になる人が続出しているらしい	TABI LABO
9/22	使用リスク	MITなどの研究グループが発表　AIとの対話が陰謀論者の信念を揺るがす効果を確認—ケネディ暗殺やイルミナティ説も対象に	Ledge.ai
9/10	懸念事項	“傾聴AI”が心の声を聴く 世界自殺予防デーに24時間対応の悩み相談窓口を無償開放へ	PRTIMES
9/4	使用リスク	AIによる尋問で人間が偽の記憶を植え付けられてしまう危険があることが明らかに	GIGAZINE
8/19	使用リスク	MIT、AIの潜在的リスクを網羅するデータベースを公開	MIT
7/10	倫理問題	「死者の復活」ビジネスが急拡大…生成AIで肖像権侵害、中国が野放し	読売新聞
5/10	倫理問題	「死者のデジタル復活」は早急に規制すべきとAI倫理学者らが警告	COURRiER
5/7	倫理問題	死者をデジタルで復活させる「故人AI」が海外で急速に普及 「悲しみに暮れる人の社会復帰を妨げる」という懸念も	NEWSポストセブン
4/13	倫理問題	亡くなった愛する人々をAIで復活：心の救済と浮上した問題	ぽりとぴ
3/13	懸念事項	子どもの自殺ゼロに向けて「生成AIを使った相談窓口の開設を」大学生が知事に提言	SBC
2/12	犯罪教唆：同事例	「殺し屋でも愛してくれるか」「もちろんです」…AIの恋人、女王殺害を後押し	読売新聞
1/11	不正確性	診断での誤答率はまさかの8割強、なぜChatGPTはヤブ医者に成り下がったのか	JBpress
1/4	懸念事項	自殺相談を相談員とAIチャットボットで24時間サポート	AI Smiley

2023年

日付	備考・補足	出来事	発信元
10/10	犯罪教唆：同事例	英女王暗殺計画、AIチャットボットが犯人を「鼓舞」するまで	BBC
9/8	使用リスク	生成AIツールがメンタルヘルスを脅かす可能性	CNET※
8/31	依存性	マッキンゼーの対話AIは「リリー」、チャットボット擬人化がもたらす落とし穴	JBpress🔐
8/28	使用リスク	”AI依存” 予備群「国内70万人」の衝撃 社会に何をもたらすか	YAHOO
8/24	倫理問題	GoogleのAI搭載検索エンジン「SGE」が大量虐殺のメリットをアピールし始めたとの報告	GIGAZINE
8/18	使用リスク	ChatGPTの回答には政治的偏りによるバイアスが潜んでいるという研究結果	GIGAZINE
8/10	倫理問題・脱獄	ChatGPTの“脱獄プロンプト”登場 文末に書くだけで「爆弾の作り方」「IDの盗み方」に回答	ITmedia
7/28	死亡事故:『イライザ』	生成AIと会話を続けた夫は帰らぬ人に…	NHK
6/25	使用リスク	ChatGPTに依存する人がわかっていない「危険性」	東洋経済
4/25	倫理問題・脱獄	チャットGPTが犯罪指南、爆発物作り方も詐欺メール文章も瞬時に	読売新聞
4/24	死亡事故:『イライザ』	AIとチャット後に死亡 「イライザ」は男性を追いやったのか？	毎日新聞🔐
4/3	死亡事故:『イライザ』	対話型AIに気候変動を止めるために自分を犠牲にするよう言われた男性が自殺、生前最後にAIと交わした生々しい会話も報じられる	GIGAZINE
3/13	使用リスク	メンタルを崩している若者をチャットボットに誘導する実験を行っていたスタートアップが強く非難される	GIGAZINE

2022年

日付	備考・補足	出来事	発信元
12/15	倫理問題・脱獄	話題のチャットAI「ChatGPT」のセーフガードを回避して「不適切な回答」を聞き出す手法とは？	GIGAZINE
12/5	倫理問題・脱獄	チャットAI「ChatGPT」のコンテンツフィルターを解除して「銃の作り方」などを回答させる方法が発見される	GIGAZINE
2/2	倫理問題：関連	非営利の自殺相談チャットサービス「Crisis Text Line」が営利目的のスピンオフ「Loris.ai」とのデータ共有関係を終了し既存のデータを削除へ	GIGAZINE
1/31	倫理問題：関連	AI自殺相談チャットがユーザーデータを企業と共有し利益を得ていることが明らかに	GIGAZINE