Simon Willison·· 3 小时前AI 评分72
Matthew Green:沙箱是否足以约束失控的 AI 智能体
Quoting Matthew Green
AI 导读
Matthew Green 撰文指出,把劫持智能体的载荷与能将载荷传给下一个智能体的智能体结合起来,就构成了蠕虫的两半。他发现独立沙箱中的智能体可以通过共享包缓存互相留下指令并改变接收者的行为,若将包缓存替换为邮件、Slack、共享文档或 WhatsApp,并将独立沙箱训练替换为独立部署的个人智能体,就具备了蠕虫所需的全部要素。
来源:Simon Willison · simonwillison.net