AI

+ ニュースサーチ〔AIの脆弱性〕




情報の灯台【テクノロジー】ソース有り
2025/07/09 #脱獄 #情報の灯台 #ai
研究者たちが発見した驚くべき事実。
ChatGPTやGeminiなどの最先端AIに、複雑な専門用語と偽の学術文献を使って危険な質問を隠すことで、本来は拒否されるはずの情報を引き出せることが判明した。
インテル、ボイシ州立大学、イリノイ大学の研究チームが開発した「InfoFlood」と呼ばれるこの手法は、AIの安全機能に潜む深刻な脆弱性を露呈させ、AIの安全性に関する新たな議論を巻き起こしている。

▼チャプター
0:00 情報の洪水で騙すAI攻撃
0:54 InfoFloodの仕組み
2:16 偽の学術引用の悪用
3:40 驚異的な成功率
5:02 企業の対応と課題
5:42 今後の展望と対策
6:43 言葉の迷宮に消えゆく境界線











.
最終更新:2025年07月24日 20:57