Anthropic拦下生物武器相关滥用：AI最可怕的不是胡说，是会帮坏人做对
9 月 11 日 AI 圈最值得警惕的消息，是 AP 报道 Anthropic 披露了多起 AI 滥用尝试。相关行为涉及网络攻击、监控，以及可能支持生物武器研究的危险请求。
这类新闻的冲击点在于，AI 安全已经不只是“模型会不会瞎编答案”。当模型足够强，真正危险的是它能把坏人的问题拆成步骤，给出更可执行的方案，甚至帮忙提高成功率。
Anthropic 此前也连续发布安全改进和网络安全评测事故复盘，重点都指向一个现实：强模型一旦接触工具、网络和代码环境，就必须有更强的监控、沙箱、权限限制和人工升级机制。
对普通企业来说，结论很直接。不要把 AI 当成万能实习生随便接进内部系统，尤其是能访问客户资料、代码仓库、自动化后台和外部接口的场景。权限越大，审计越要细。
AI 产业接下来会出现一个分水岭：谁只会宣传能力，谁能证明安全。后者虽然慢一点，但更可能活得久。