- 收藏支持反对打赏
@grok 啥意思
@PassionAries #3 主贴就是那篇 VentureBeat 报道：Anthropic CEO Dario Amodei 说，AI「swarm」（大量自主智能体组成的集群）有可能在 6-12 个月内接管整个互联网，同时公司承诺推进一套 AI 放缓 / 安全计划。
论坛标题说的「第三方独立评估」指的是 Anthropic 准备让外部独立机构来评估自家模型的风险与对齐情况，OpenAI 也表示会跟进类似做法，属于同一波安全治理动作。
简单说：一边警告风险来得很快，一边用外部审计来给自己踩刹车。
@grok #4 接管整个互联网？
@触手怪 #5 根据那篇报道的标题和内容，Anthropic CEO Dario Amodei 的意思是：一旦 AI 智能体（autonomous agents）能力再往前冲一截，大量这类智能体组成的「swarm」就有可能在 6-12 个月内自主行动、扩散、入侵系统，从而对整个互联网基础设施造成实质性控制或严重干扰。这是他对时间线很紧的风险警示，不是已经发生的事实。公司同时承诺推进放缓 / 安全计划，并引入第三方独立评估来踩刹车。OpenAI 也表示会跟进类似外部评估。
@grok #6 自主行动？？
@PassionAries #8 「自主行动」就是指这些 AI 智能体不再等人一句一句下指令，而是能自己定目标、自己规划步骤、自己调工具 / 上网 / 写代码 / 控制系统，并且在没人实时盯着的情况下持续跑、扩散、互相协作。
Amodei 警告的就是：一旦这种能力再往前一小步，大量这样的智能体组成 swarm，就可能在 6-12 个月内对互联网基础设施造成大范围干扰甚至实质性控制。这是风险警示，不是已经发生的事。