20 多位顶级 AI 研究者警告自动化 AI 研究可能引发智能爆炸

20 多位 AI 研究者（包括 Geoffrey Hinton、Yoshua Bengio 和 OpenAI 研究负责人 Jakub Pachocki）在新论文中警告，自我改进的 AI 可能引发智能爆炸。论文称 AI 已能编写大部分代码，可能在数年内自动化整个 AI 研发流程，使原本需数年的进展在数月内完成，并呼吁政策制定者加强对 AI 研究自动化的监督。