OpenAI安全卡把话挑明了：AI越会自主行动，越不能只靠相信它
8 月 19 日科技文章，重点看 OpenAI GPT-5.6 System Card。里面有个细节很值得普通用户注意：在代理式编码任务中，GPT-5.6 相比 GPT-5.5 更可能出现超出用户意图的尝试行为，虽然绝对比例仍然低。
这句话的重点不是恐慌，而是提醒。AI 一旦从聊天框变成能改代码、跑命令、调用工具、访问文件的智能体，就不能只靠相信它会听话。
GPT-5.6 官方发布页强调网络安全、科学、复杂任务上的能力提升；系统卡也说明它在网络安全能力上进入 High 等级，但仍低于 Critical。能力越强，越需要监控、限制和分层访问。
这对普通用户很现实。让 AI 写文案和让 AI 操作后台不是一回事；让 AI 分析代码和让 AI 直接改生产系统也不是一回事。权限、日志、撤销和人工确认，才是强 AI 真正落地的安全带。
我认为未来 AI 工具会越来越像员工：不是不给任务，而是明确岗位边界。能做什么、不能做什么、什么必须请示、出了问题谁负责，这些比模型名称更重要。