ハルシネーション - MONOSEPIA

（※　hallucination）
LLM（大規模言語モデル）　/　AI（人工知能）　/　シンギュラリティ

---

ﾆｭｰｽｻｰﾁ〔ハルシネーション 人工知能〕

• AIに自分の年齢を聞いてみたら堂々と間違われた 指摘すると…「いい視点ですね」？？謎の上から目線にモヤモヤ - Yahoo!ニュース
• 生成AIの信頼性を担保するファクトチェックツール5選と選び方| SaaS／業務システムの比較・紹介| ITセレクト - ITmedia
• ＡＩ依存で欠陥報告書 引用は捏造、請負側が２割返金―豪政府委託 - 時事ドットコム
• デロイトの報告書に生成AIのハルシネーションで存在しない文献を引用・参照、豪政府に代金を一部返金──脚注誤りを訂正し再公開、コンサル業界に波紋 - Ledge.ai
• 世界四大会計事務所Deloitte、GPT-4o使用の政府報告書で偽引用発覚し返金対応 - innovaTopia
• 無料で「Cursor」を学べる公式学習コースをAnysphereが公開 - ITmedia
• OpenAIとApollo Research、誤答やハルシネーションとは異なるAIの“裏の顔”（シェーミング）を検出──新手法で最大30倍抑制 - Ledge.ai
• 生成AIのリスクを特定する「LLM脆弱性診断サービス」をEGセキュアソリューションズが提供開始 - ITmedia
• “GPTからの脱却”が進むかも？ 「生成AIの未来」2つの方向性：「GPT」のこれまでとこれから【後編】 - ITmedia
• ユーチューブチャンネル「知識電波社」に出演したソウル大学消費者学科のキム·ナンド教授。 イ·スンファン記者 - 매일경제
• 生成AI利用者の6割が知らない致命的な「欠陥」 その落とし穴と対策 - Forbes JAPAN
• なぜ我が社の生成AI活用は進まない、回答者の4割近くが「社内の無関心」に不満（3ページ目） - 日経クロステック
• AIの誤回答はなぜ生じるのか OpenAIがハルシネーション要因を分析 - Plus Web3
• OpenAI、大規模言語モデルの「ハルシネーション（幻覚）」の原因を解説──評価方法の設計に問題と指摘 - Ledge.ai
• 《日経Robotics》GPT-5とGPT-OSS - 日経クロステック
• OpenAI、言語モデルがハルシネーションを起こす理由について論文を公開 - AIsmiley
• OpenAI、「幻覚」の根本原因と対策を解明。ハルシネーションは「難問に直面した学生と同じ」（生成AIクローズアップ） - テクノエッジ TechnoEdge
• 生成AIはなぜ平気で嘘をつくか 米オープンAIが論文公開、性能評価の基準見直しを提言 - 産経ニュース
• ChatGPT・Midjourney・Leonardo AI｜AI画像生成のハルシネーション対策 - innovaTopia
• 法人向け生成AI SaaS「HEROZ ASK」、GPT-5を搭載 - PR TIMES
• 「生成AIリサーチ」の限界 バイアスと妥当性をどう見極めるか - 日経クロストレンド
• AI精神病の深層：生成AIは現実を蝕む「共犯者」となるのか？ - newspicks.com
• AIコード生成の幻覚は「エージェント型」で減少、トレンドマイクロが調査 - 日経クロステック
• 「GPT‑5」プロンプトの真髄を明かす――ChatGPTの重要ヒントと最新テクニック5選 - Yahoo!ニュース
• 司法を侵食するAIの功罪、 米国では判事も ハルシネーションに騙された - MITテクノロジーレビュー
• GPT-5（ChatGPT5）とは？料金や使い方、GPT-4との違いを解説！ - 株式会社SHIFT AI
• OpenAIが発表した「GPT-5」は、AIの歴史に決定的な転換点をもたらした - WIRED.jp
• 生成AIのOpenAIが、次世代モデル「GPT-5」を発表 ハルシネーションを低減し、タスクを自律的に完遂するエージェント能力向上 - AT PARTNERS
• Anthropic、AIの問題行動を抑制する新手法を発表--「性格変化」の兆候を検出 - ZDNET Japan
• 社長、SNSでやらかす 漫画「15日間、生成AIでやらかし続ける中小企業」【残り2日】 - ITmedia
• ブレインパッドが生成AIプロダクトの品質基準策定、対話型AI検索「Rtoaster GenAI」が対象 - Web担当者Forum
• Microsoft AIのCEOが語ったAIの未来 「優しさ」「間違い」「摩擦」が重要 - 日経クロストレンド
• 生成AIの「幻覚」は人間性の裏返し？ 新型モデルでむしろ増加も - 日本経済新聞
• ハルシネーション（事実誤認）より深刻なAIの「わかったふり」を暴く：MITなどが発見したLLMの“ポチョムキン理解”とは - Ledge.ai
• これからのAIスキルは「プロンプト」ではなく「コンテキスト・エンジニアリング」──Google DeepMind フィリップ・シュミット氏が提起 - Ledge.ai
• AIは「賢いフリ」をしていた──ハーバード大などが暴いたLLMの決定的弱点「ポチョムキン理解」とは？ - XenoSpectrum
• 生成AIを全社レベルで使うGMOペパボ、DMM.com、MIXIなど8社の現状は？ 日本CTO協会がヒアリングレポートを公開 - ITmedia
• 放射線科医の診療コンサルト業務をAIが支援｜ニュース＆イベント - juntendo.ac.jp
• Azure OpenAI Service を全行導入し、新たな価値の創造を目指す山梨中央銀行 - Microsoft
• 生成AIの業務活用にはまず2つの注目生成AIツールを使いこなす - ITmedia
• LLMのハルシネーションが新薬開発の手がかりとなり得る - The Medical AI Times
• 存在しない論文を語る生成AI──それは「ハルシネーション」ではなく「捏造」 - newspicks.com
• 「生成AI×企業法務」の新常識 導入時の実務的リスクとガイドラインの作り方とは？ - Biz/Zine
• 伊当局、ディープシークを調査 ＡＩの「幻覚」巡る警告不足で - ロイター
• ChatGPTが間違う理由は「幻覚」だけではない、見落としがちな意外な原因 - 日経クロステック
• 複雑なビジネス文書でもハルシネーションを大幅抑止した読解が可能 世界最高クラスの性能を誇るマルチモーダル基盤モデルを公開 - PR TIMES
• ChatGPT虚偽判例でユタ州弁護士が制裁処分、AI「ハルシネーション」が法廷で発覚 - innovaTopia
• ニューロシンボリックAIは、大規模言語モデルのハルシネーションを防ぐための答えだ - XenoSpectrum
• ChatGPTの｢ウソ｣が巧妙化してきた…AI研究者が解説｢ハルシネーションとうまく付き合うプロンプトの書き方｣ - PRESIDENT Online（プレジデントオンライン）
• AIのハルシネーション、流暢に話せても意味や一貫性の欠如があるウェルニッケ失語症患者の脳と類似 東大が数理解析で確認 - Ledge.ai
• AIが「シャットダウン指示」を無視する？──Palisade Researchが実験で確認した自己保存行動 - Ledge.ai
• OpenAIの「o3」、明示的停止指示を無視しシャットダウンを妨害 - ITmedia
• AI幻覚、法廷にも 知的労働の最高峰がなぜ騙されるのか？ - MITテクノロジーレビュー
• 人工知能（AI）を活用するために - 株式会社マキナレコード
• AIチャットボットによる損失を補償する保険が登場 - 日本経済新聞
• GPT-4o・Claude・Geminiで「簡潔な回答」指示がハルシネーション増加 – Giskard最新研究が示す生成AIの新リスク - innovaTopia
• AI幻覚は悪化の一途を辿り今後も続く：o3モデルはなぜ間違いが多いのか？ - ナゾロジー
• 「ハルシネーション」に注意！ モバプリの知っ得［322］ - 琉球新報デジタル
• 【発覚】AIは「賢くなるほどウソをつく」 - newspicks.com
• Cursor AIサポートボットが暴走、架空ポリシーの”ハルシネーション”で企業信頼を揺るがす事態に - innovaTopia
• 「騙されるAI」0.001％の誤情報の混入で誤った回答を導く巨大な罠 - ニューズウィーク日本版 オフィシャルサイト
• 生成AIにプログラミングを丸投げするな、「幻覚」使うサイバー攻撃の危険度判明 - 日経クロステック
• AIカスタマーサポートボットが規約を“捏造”。ユーザー離れの危機をもたらす - WIRED.jp
• AIの誤情報 - IBM
• OpenAI o3・o4-mini – 最新推論AIモデルでハルシネーション増加、信頼性と活用の最前線 - innovaTopia
• アマゾン、AIの「幻覚・虚構」克服に数学的アプローチ その手法「自動推論」とは？（小久保重信） - エキスパート - Yahoo!ニュース
• Amazon Q Business がチャット応答におけるハルシネーション軽減のサポートを開始 - Amazon Web Services (AWS)
• note深津氏が予見 大量の「AIエージェント」を率いるスキルが必須に - 日経クロストレンド
• HallOumi：AIのハルシネーションを検出するオープンソースツールが企業AI導入の鍵に - innovaTopia
• Helpfeel、生成AI活用したAI検索アルゴリズム「意図予測検索2」を提供開始。ハルシネーションのない正しい回答を生成 - AIsmiley
• ハルシネーションを大幅抑止。ストックマークが1,000億パラメータ規模の独自LLMモデルを公開 - AIsmiley
• AIのハルシネーションをどう抑えるか - Nature Asia
• AI専門家も慎重論、「ハルシネーション」解決とAGI実現ははるか遠くに - CNET Japan
• AIの未来における安全性と責任--「SXSW 2025」で示された3つの論点 - ZDNET Japan
• 「息子2人を殺した」とチャットGPTが誤情報を生成、ノルウェーの男性が苦情申し立て - BBC
• ウォール街が相次ぎ警告、誤情報や犯罪悪用などＡＩに新たなリスク - Bloomberg - Bloomberg.co.jp
• アマゾン、AIの「幻覚・虚構」克服に数学的アプローチ その手法「自動推論」とは？ - JBpress
• GPT-4.5とは？最新AIモデルの特徴と活用方法 - AIsmiley
• 生成AIに騙される弁護士がいまだに相次ぐ――裁判に架空の判例を提出した弁護士には制裁金の勧告 - JBpress
• AIチャットボット、「分からない」と認めるのがなぜ苦手か - newspicks.com
• 生成AI運用のセキュリティーリスク、トレンドマイクロのチェン社長に対策を聞く - 日経クロステック
• AIチャットボット、「分からない」と認めるのがなぜ苦手か - WSJ日本版
• LLMの「ハルシネーション」が創薬研究に貢献—ドレスデン工科大学の研究チームが発表 - Ledge.ai
• 足し算間違うAI 巨大進化の矛盾 慎重な事実確認が必要 - 日本経済新聞
• OpenAIがAIエージェント「deep research」、複雑なタスクを多段階で調査 - 日経クロステック
• 「思ったよりも使えない」「嘘をつく」の解決策 - マイナビニュース
• 神戸市とNEC、生成AIを活用した業務改革の実証を開始 ～庁内業務における国産生成AIの有効性を検証 - city.kobe.lg.jp
• 神戸市とNECにて、生成AIを活用した業務改革の実証を開始 | 日本電気株式会社のプレスリリース - PR TIMES
• GSK、医療AIの”思い込み”を克服へ ─ 創薬開発における画期的なハルシネーション対策を発表 - innovaTopia
• 「バイアス」「ハルシネーション」など生成ＡＩの特徴を理解させる…文科省、小中高校向けの指針を改定 - 読売新聞オンライン
• 責任ある AI に関する新しいツール、機能、リソースにより AI の信頼を促進する - Amazon Web Services (AWS)
• 数学的に正しい自動推論チェックにより、LLM のハルシネーションによる事実ミスを防ぐ (プレビュー) - Amazon Web Services (AWS)
• 生成AIサービスAmazon Bedrockが機能強化、「自動推論」で幻覚を防止 - 日経クロステック
• 生成AIに課金している約1000人が感じている課題 「ハルシネーション」を抑えた第1位は？ - ITmedia
• 【企業の生成AIの導入に8割が課題感あり！】9割の満足度と相反する「使ってみて分かった課題」とは？ - PR TIMES
• ハルシネーション（誤情報の生成）出現率0.25％。脅威の精度を誇る「AIを評価するAI」とは - Business Insider Japan
• 【調査／生成AI活用における課題が明らかに】「ハルシネーションに不安を感じる」が59.2%で最多、生成AI活用に求められる「セキュリティの強化」と「ハルシネーション対策」 | AI inside 株式会社のプレスリリース - PR TIMES
• 生成AIのハルシネーションは原理的に排除不能。不完全性定理など数学・計算機理論で説明 モデル改良や回避システムでも不可避とする論文（生成AIクローズアップ） - テクノエッジ TechnoEdge
• 令和6年版 情報通信白書｜生成AIが抱える課題 - soumu.go.jp
• 解説：生成AI のハルシネーションはなぜ起きるのか - MITテクノロジーレビュー

●　ハルシネーション（人工知能） - Wikipedia

---

■　松田語録：ハルシネーションの原因がわかった!!

SingularitySalon
2025/09/13
収録日：2025年9月9日
シンギュラリティサロン主宰の松田卓也神戸大学名誉教授の健康や学習に関連する日ごろのお考えを皆さんにお伝えします。今回はハルシネーションの原因について。

出演：松田卓也　シンギュラリティサロン主宰・神戸大学名誉教授
　　　塚本昌彦　神戸大学教授
　　　保田充彦　XOOMS代表

■　【OpenAI論文を読む】なぜAIは“もっともらしい嘘“をつくのか？ ハルシネーションの正体をゆる解説

安野貴博 @ 新党チームみらい
2025/10/10
🕐チャプターリスト（目次）
0:00 オープンニング
0:32 本日のポイント
0:54 ハルシネーションとは？
4:14 ハルシネーションが起きる原因
4:24 ハルシネーションが起きる原因①事前学習の問題
8:59 ハルシネーションが起きる原因②評価システムの問題
13:13 ハルシネーションの解決策
15:23 ハルシネーションが必要になる場面
16:52 まとめ

■　「嘘つきのパラドックス」と人工知能のハルシネーション

茂木健一郎の脳の教養チャンネル 2024/09/10

.