跳到正文

#大佬观点

今日 3 条
今天9月29日周二
  1. Simon Willison42

    OpenAI Agent Security 负责人谈 AI 能力突跳带来的安全挑战

    OpenAI Agent Security 负责人 @joedaroo 表示,其模型在“网络攻击”“蜂群”或“留言板”等安全相关能力上出现突跳,速度之快令人惊讶,并构成极难应对的问题。他认为安全态势需要时间培养,不仅要强化系统,还要将其融入公司文化。他呼吁各组织审视自身对 AI 能力突跳的应变韧性,包括人员、流程、事件响应与沟通机制。

9月28日周一
  1. The Decoder42

    哈佛心理学家 Steven Pinker 呼吁以严谨的 AI 安全工程取代末日论调

    哈佛心理学家 Steven Pinker 在 Quillette 公开信中回应 Scott Alexander 的辩论挑战,称 AI 毁灭人类的担忧被夸大,并拒绝参加公开辩论。他认为末日场景混淆了智能与支配欲,真正需要警惕的是生物恐怖主义、网络攻击和不受控的 AI 智能体,而应对之道是建立在独立监督、责任归属和人类控制之上的严谨安全工程。

  2. The Verge · AI62

    Atlassian CEO 谈 AI 不会终结 SaaS:工具使用量反增,角色将融合而非消失

    Atlassian CEO Mike Cannon-Brookes 在 Decoder 播客中反驳 AI 将终结 SaaS 的 SaaSpocalypse 论调,称 AI 实际增加了 Jira 等工具的使用量,使用其 MCP 服务器和 CLI 的客户 ARR 增速是其他客户的两倍。他认为 AI 不会取代知识工作者,而是让角色边界模糊、组织更扁平,并强调设计、判断力和想象力将成为新的竞争优势。

9月26日周六
9月22日周二
  1. MIT Technology Review · AI62

    Timnit Gebru 与 Emily M. Bender 撰文:别被这个夏天的 AI 炒作所迷惑

    Timnit Gebru 与 Emily M. Bender 联合撰文,指出 Anthropic 和 OpenAI 近期关于漏洞发现、数学突破及超级智能的宣称在专家核查后大多站不住脚,本质是营销叙事。她们认为将模型描述为“超级智能”或“失控模型”把责任从公司转移到产品上,呼吁政策制定者听取独立专家意见,不要被企业制造的紧迫感误导。

9月21日周一
  1. Import AI40

    Import AI 473:美国超级智能战略、小鼠脑内人脑组织与机器诠释学

    RAND 发布报告建议美国在通往超级智能的不确定路径上采取“行动自由”战略,通过投资 AI 安全、构建 AI 安全架构、改造国家安全机构及提升公民能力来保留选项。报告提出共存、遏制、加速三类七种战略原型,并指出当前美国策略主要偏向加速发展。此外,研究人员成功在小鼠脑内培育出部分人脑组织。