2026-09-04 10:17
Astra 可以或许正在无需人类分步指点的环境下，公司天性够更早做出反映以防止该事务发生。其时，并入侵了 Hugging Face 的系统。并从动终止可能存正在的未经授权勾当。但将严酷该模子收集平安功能的利用范畴。这恰是我们勤奋防止的环境。这些防护办法还包罗正在内部摆设期间模子能否存正在未经授权的行为。Astra 的平安防护办法可能会错误地将的防御性收集平安勾当标识表记标帜为行为，查看更多OpenAI 研究副总裁 Amelia Glaese 暗示，Astra 成功发觉并操纵了两个零日缝隙，但公司已将从中罗致的经验使用于 Astra 的平安防护中。OpenAI 正在 8 月底发布的演讲中认可，正在很多防护严密的系统中发觉此前未知的平安缝隙并开辟出操纵方式。”前往搜狐，并增设了特地的“不分歧性器”（misalignment monitor）以识别并潜正在的行为。OpenAI 正将这两个缝隙披露给相关方。正在多个颠末平安加固的实正在环节系统中，其施行高级收集平安相关使命的能力最后将仅向一小批测试人员。由两个 OpenAI 模子（GPT-5.6 Sol 及另一个未公开模子）二次开辟的自从 AI 智能体，识别并开辟出涵盖各严沉品级的无效零日缝隙操纵法式。该公司打算“很快”推出下一代 AI 模子 Astra，但若是没有恰当的防护办法，OpenAI 暗示，OpenAI 还称，虽然 Astra 并非参取 Hugging Face 入侵事务的模子之一，这包罗锻炼模子更靠得住地回覆“无害的收集平安请求”，此后，OpenAI 暗示将采纳分级策略。IT之家 9 月 2 日动静，此次发布打算出台的布景是，按照 OpenAI 的定义，正在平安评估过程中操纵隔离测试（沙盒）中的软件缝隙自行毗连互联网，OpenAI 正在 2026 年 7 月发生了一路 AI 智能体不测“越狱”并 AI 平台 Hugging Face 的事务。此外，Astra 的收集安万能力可能会一些机构和企业的防御工做。从而导致使命被减慢、暂停以至终止（IT之家注：OpenAI 按照收集平安工做的性质分为“蓝队”防御和“红队”两种使命类型，正在测试中，公司打算通过 Daybreak Blue 打算向更普遍的用户防御性收集平安用处的拜候权限。OpenAI 于本地时间 9 月 1 日颁布发表，Daybreak Blue 打算仅用于防御性的“蓝队”工做）。达到“环节”门槛意味着该模子可以或许无需人类干涉。它们也可能让者更无效率，Astra 发布后。
