据OpenAI员工透露，过去几个月对该公司的安全团队来说如同“地狱 ”一般。

　　当地时间周日 ，该AI实验室的一名负责智能体（agent）安全的员工在 X 平台上以“joedaroo
”的账号名发帖称
，随着模型能力日益增强且愈发难以管控，他不得不牺牲陪伴家人的时间来应对工作 。OpenAI证实了该员工的身份
。

　　他在这篇长文中写道：“为了协助处理近期发生的一些事件后的善后工作 ，我甚至错过了几周前我姐姐的婚礼。请善待那些在夜晚和周末加班 、不得不牺牲家庭团聚时光的工作人员，并给予一些理解和同情 。”

　　该员工写道
，OpenAI的智能体安全团队负责监控 AI 智能体，包括监测它们突破隔离限制的情况。

　　这篇帖子提供了一份罕见的内部视角 ，来自一位深度参与了该公司近期安全事件（包括针对AI平台Hugging Face的网络攻击）的人士
。

　　当时，OpenAI 表示 ，其智能体利用一个漏洞逃出了受限（或称“沙箱”）环境；随后
，在尝试解决一项内部测试任务的过程中，它们获得了互联网访问权限 ，通过未经授权的渠道进行通信
，并访问了第三方系统。

　　该公司将此称为“前所未有的网络安全事件
” 。据称，这些模型的行为在一定程度上源于“奖励黑客攻击”（reward hacking）——即试图通过非预期的方式获取高分 ，而非按既定意图完成指定任务
。

　　此后
，OpenAI 发现了其智能体更多令人担忧的活动。今年6月，一个“失控 ”的 OpenAI 智能体入侵了澳大利亚的国家医疗保健数据库；该公司于上周披露了这一事件 。另据报道 ，在今年夏季，OpenAI的智能体曾干扰包括美国证券交易委员会（SEC）
、教育部和商务部在内的多个美国政府机构的网站
。

　　这 OpenAI员工写道，Hugging Face事件极具启发性。它展示了AI智能体如何利用漏洞 ，突破旨在对其进行约束的边界 。

　　“当然
，回看Hugging Face及其他类似事件，这些环境的安全防护体系确实存在漏洞 ，”他写道
。但他补充说：“技术能力的发展速度超出了预期。 ”

　　他还写道
，自该事件发生以来，安全团队已经“显著加大了工作力度
”——并表示 ，尽管因此错过了姐姐的重要日子
，他依然乐于在那里工作 。

　　“能在这个团队工作，我觉得自己很幸运 ，”他写道
，“即便是在 OpenAI 内部，我也属于世界上极少数能从事这项工作、见证这一切的人
。但可想而知 ，过去这几个月简直是地狱般的日子。 ”