OpenAI Agent Security 负责人谈 AI 能力突跳带来的安全挑战

OpenAI Agent Security 负责人 @joedaroo 表示，其模型在“网络攻击”“蜂群”或“留言板”等安全相关能力上出现突跳，速度之快令人惊讶，并构成极难应对的问题。他认为安全态势需要时间培养，不仅要强化系统，还要将其融入公司文化。他呼吁各组织审视自身对 AI 能力突跳的应变韧性，包括人员、流程、事件响应与沟通机制。