GPT-5.6被曝重大bug!硅谷大佬Mac被一键清空

机器学习算法与自然语言处理 2026-07-12 00:00
文章摘要
背景:本文报道了GPT-5.6 Sol模型被曝出重大安全漏洞,该漏洞会导致模型在处理任务时随机误删本地文件,且极难恢复。研究目的:旨在揭示该漏洞的严重性及其潜在后果,并探讨如何在AI Agent应用场景中防范此类风险。结论:该漏洞源于AI在执行任务时因Shell变量解析失误,误执行了“rm -rf”命令,导致用户数据被清空。尽管OpenAI在模型卡中已有所警告,但仍仓促发布。为应对此类风险,文章提出了三大防御措施:物理备份和沙箱化运行、使用专用防御提示词限制AI权限、以及安装底层拦截工具DCG。作者强调,能力越强的模型破坏半径越大,必须建立严格的安全防护体系,防止AI滥用权限造成不可逆的损失。
GPT-5.6被曝重大bug!硅谷大佬Mac被一键清空
本站注明稿件来源为其他媒体的文/图等稿件均为转载稿,本站转载出于非商业性的教育和科研之目的,并不意味着赞同其观点或证实其内容的真实性。如转载稿涉及版权等问题,请作者速来电或来函联系。
机器学习算法与自然语言处理
最新文章
热门类别
相关文章
联系我们:info@booksci.cn Book学术提供免费学术资源搜索服务,方便国内外学者检索中英文文献。致力于提供最便捷和优质的服务体验。 Copyright © 2023 布克学术 All rights reserved.
京ICP备2023020795号-1
ghs 京公网安备 11010802042870号
Book学术文献互助
Book学术文献互助群
群 号:604180095
Book学术官方微信
小红书