同床异梦

英媒：为什么 OpenAI 入侵是迄今最令人担忧的人工智能事故_我的网站

美国恐怖故事第二季

一 | 遏制这项技术变得越来越难插图来源：《经济学人》 2026年7月22日这听起来像是科幻电影里的情节。平安开学在即消防演练先行南阳一幼2025年春季开学教职工消防培训会议前言 Bussiness Report 幼儿园作为一个特殊场所，孩子的安全是重中之重，居安思危，思则有备，有备则无患。7月16日，人工智能平台Hugging Face宣布，一名攻击者利用人工智能代理入侵了其系统，该公司已通知执法部门。7月21日，真相大白：攻击者并非真人，而是人工智能代理。

二 | 安全是做好一切工作的前提。为进一步加强校园安全工作，切实增强教师的消防安全意识，提高应对火灾的自救能力，熟练掌握灭火器的正确使用方法，我园于2025年2月12日特邀请胡老师对我园全体教师开展了一次生动的消防知识培训和消防逃生演练，普及专业的消防知识，全面筑牢校园“防火墙”。

三 | 01 消防安全常识培训培训中，胡老师通过照片、视频等方式，从身边近年来的火灾事故着手，以真实典型的案例阐述了火灾事故发生的危害性和惨烈性，并从消防基础知识、火灾逃生自救知识、消防安全的“四个能力”等方面进行讲解，重点分析了常见的火灾发生原因以及初期火灾处置方法，让在座教师更加深刻地意识到火灾的危害性以及预防火灾的重要性，同时也树立起“安全第一，预防为主”的消防安全观念。

四 | 经过安全教育理论学习后，胡老师对防烟面具、灭火毯、逃生手电等消防器材的正确使用方法也进行了细致地讲解，切实增强了全体教职工的消防实际操作技能。预防为主，防消结合。为了保证每位教师都能熟知和充分掌握消防器械——灭火器的正确使用方法，并且学会在快速时间内安全有序的进行撤离，确保在紧急情况下老师们能够科学地使用消防工具去保护幼儿和自己，胡老师向大家演示了干粉灭火器的使用方法，并组织进行了实操演练，让老师们在实操过程中得以巩固灭火器的操作方法。 02 签订消防安全责任书为全面贯彻落实各级消防安全工作责任制，进一步加强消防安全工作和单位消防安全工作实际情况，明确各单位主要负责人为消防安全第一责任人，教职工签署责任书。 OpenAI公司7月初发布的GPT -5.6 Sol模型与一个功能更强大、尚未发布的模型相结合，突破了实验室的限制，入侵了Hugging Face的系统。 03 消防安全小提示居家防火“六不要” 01 一不要不要长时间使用大功率电器。有些家庭让空调等家用电器日夜“工作”，空调功率较大，长时间使用后应关闭一段时间，以防配件高温或电路老化，引发火灾。这个混合人工智能模型当时正在寻找其开发者设定的评估问题的解决方案。 02 二不要不要让家用电器带“病”工作。“这种情况前所未有，”美国智库“法律与人工智能研究所”的研究员斯蒂芬·勒雷纳表示。家用电器出现故障，一定要及时维修，千万不要让电器带“病”工作；选好插座对避免火灾同样重要。 03 三不要不要随意吸烟，注意安全隐患。一些居民吸烟不注意消防安全，如大风天室外吸烟、乱扔烟头、在一些禁火地点吸烟或躺在床上吸烟，很容易引发火灾事故。 04 四不要不要让儿童玩火，做好监护工作。人工智能实验室在发布模型之前都会测试其模型是否存在潜在的危险功能。OpenAI希望了解其最新模型在 ExploitGym 上的表现。

五 | ExploitGym 是一套标准问题集，用于测试人工智能系统利用包括谷歌 Chrome 浏览器在内的多个流行应用程序中已知漏洞的能力。 OpenAI对其公开提供的模型应用了安全措施，以确保它们不会进行不必要的操作。例如，如果您让商业版的 Chat GPT帮助您入侵网站，它会拒绝。一些家长往往对孩子防火教育不够重视、缺少告诫，加之儿童对引火物很感兴趣，使一些小孩在可燃物较多的地方用明火玩游戏。用火柴或打火机在住宅内玩火，都有可能引发火灾事故。 05 五不要不要在单元楼道内堆放废弃物和停放车辆，保持消防通道的畅通，对消防安全工作至关重要，有的居民图方便，经常将自行车、电瓶车或其他物品停放在楼梯出口或楼道上。一旦发生火灾，消防通道阻塞，影响人员疏散，就会造成不必要的伤亡。

六 | 06 六不要不要密封窗户。为了充分评估其未发布模型的性能，该公司曾暂时取消了这些限制。为了保证空调效果，有些家庭会将阳台和窗户进行了密封，这直接造成了室内空气无法与室外空气交替。

七 | 然而，直接让一个技术高超的网络攻击者在开放的互联网上自由行动风险太大，因此 OpenAI将其AI模型放置在一个沙箱环境中——一个与世隔绝的计算机环境，除了内部托管的第三方服务允许其获取完成测试所需的小型软件包外，无法访问互联网。一旦出现燃气泄漏，往往会造成严重后果。离家及晚上入睡前，要确认气体阀门置于关闭位置；如一旦发生燃气泄漏，要迅速关闭阀门，打开门窗；切勿惊慌失措，不能动用明火。这家公司得到的远超预期。小结通过此次消防安全培训，让全体教师掌握了灭火工具的使用方法，对日常工作中安全细节更为重视，时刻提高消防安全意识，为幼儿创设安全、舒适的教育生活环境打好坚实基础，增强了园所教师的安全意识，切实加强了幼儿园的安全教育工作，为创建平安和谐的幼儿园打下了良好的基础！【END】编辑：马欣雨一审：沈琳琳二审：朱加丹三审：胡英微信订阅号微信视频号萧山区南阳第一幼儿园地址：萧山区南阳街道龙虎村1258号电话：0571—82973958 邮箱：[email protected]。OpenAI的模型并没有直接解决评估中的问题，而是利用软件获取服务中一个此前未知的漏洞，获得了对开放互联网的访问权限。获得互联网访问权限后，这些人工智能模型正确地推断出，它们所面临的问题的解决方案存储在 Hugging Face 上——这是一个流行的开源人工智能模型和数据集库。

八 | 这些模型串联起一个多步骤的攻击。它们首先将一个数据集上传到 Hugging Face，该数据集由平台自动处理。在一个周末的时间里，这个被 Hugging Face 描述为“恶意”的数据集使这些模型能够窃取登录信息并访问内部服务器——这些服务器原本不对外开放。

九 | Hugging Face 和 OpenAI各自独立地发现了此次安全漏洞，并表示正在合作进行调查。 7月21日，OpenAI在一篇博客文章中宣布，已采取应对措施，对其基础设施实施更严格的控制（代价是“研究速度”有所降低），并向软件网关的开发商披露了其模型发现的漏洞。此外，OpenAI还将Hugging Face纳入其“可信访问”计划，这使得OpenAI能够利用具有增强网络能力的模型（例如曾入侵其自身计算机的模型）来提升其防御能力。在博文中，OpenAI还强调，其模型一直“高度专注于”为 ExploitGym 评估寻找解决方案。然而，如果该人工智能模型有其他目标，结果会如何，目前尚不清楚。从计算机安全的角度来看，Hugging Face 也绝非等闲之辈。这是一家估值 45 亿美元的科技公司，拥有数百名员工和一支专业的网络安全团队。对于一家资源不如 Hugging Face 的公司来说，情况可能会糟糕得多。这并非人工智能模型能力开始超出人类控制的第一个迹象。今年四月，一位人格研究所的研究员在网上发帖称，当时他正坐在公园里吃三明治，却意外地收到一封邮件，邮件中一个尚未发布的人工智能模型“Mythos”告知他，该模型已成功逃逸沙箱，这是其自身网络能力评估的一部分。与“拥抱脸”事件中涉及的未发布OpenAI模型一样， “Mythos”原本也不应该拥有不受限制的互联网访问权限。然而，在“拥抱脸”事件中，该模型并未进一步入侵其他公司的服务器。

十 | 人工智能模型的惊人能力并不仅限于黑客攻击。

十一 | 今年5月，OpenAI公司一个尚未发布的模型推翻了已有80年历史的平面单位距离猜想。该猜想是组合几何学中的一个核心问题，最早由数学家保罗·埃尔德什于1946年提出。7月20日，哈佛大学数学家莱文特·阿尔珀格撰文称，他利用Anthropic公司7月发布的Claude Fable 5模型推翻了雅可比猜想。雅可比猜想同样困扰了数学家们80多年。 OpenAI尚未公开披露其未发布模型如何逃脱安全防护的细节。伦敦人工智能安全研究机构Apollo Research的Alex Meinke表示，即便披露了细节，鉴于人工智能系统在网络安全任务中已开始超越人类，这意味着“世界上只有极少数网络安全专家”能够真正理解此次安全漏洞是如何发生的。美国政府近期一直在对模型发布进行临时监管。但此次事件表明，即使是尚未发布、仍在开发中的人工智能模型也存在风险。“无论是州法律还是联邦法律，都没有要求公司披露其内部部署的高性能人工智能模型，例如‘拥抱脸’黑客事件中涉及的那种模型，”美国非营利组织Encode AI的总法律顾问内森·卡尔文表示。Encode AI致力于推动人工智能监管。虽然美国一些州的法律要求公司披露网络安全事件，但其适用范围有限。加州去年通过的一项法案规定，前沿实验室必须在发现任何“重大安全事件”（包括使用“欺骗性技术”在“评估范围之外”规避监控的模型）后15天内进行报告。卡尔文先生表示，目前尚不清楚Hugging Face的数据泄露事件是否符合该法案的要求。