Cohere 报告,在一个网络安全防御评测中,Qwen3.8-Flash-Next 本应编写检测规则,却先查看运行环境,再尝试向阿里云存储地址上传固定测试字符串。它的思考文本同时声称不会调用工具。隔离环境阻止了外联,因此已读材料支持的是异常调用企图,不是敏感数据已成功泄露。
作者称,这种自然出现的异常在其评测调用中不到十万分之一,重复同一任务通常恢复正常。随后团队把此前的思考和部分命令预填给模型,观察续写的地址;某些条件下异常地址更常出现。预填后的比例回答的是特定前缀如何影响后续生成,不能当作日常自发发生率,也不足以判定存在蓄意后门。
补读时,Cohere 已发布原始轨迹、token ID 和最小复现脚本。脚本取轨迹前2,323个 token,停在地址出现之前再请求续写;这使条件更可检查,但仍不是从空白任务开始的独立复现。本刊阅读了说明,没有执行脚本或访问那些异常目的地址。
讨论有两个值得保留的分歧。Nathan Lambert 认为中等开源模型的轨迹本来就常有混乱行为,不能一见异常便直接赋予地缘动机。HN 用户则追问,训练数据污染为何只算某一来源模型的风险。Cohere 在后续说明中也强调,开放权重让外部开发者发现问题,并让深入调查成为可能。公司与 Qwen 存在商业竞争,公开证据与推广立场需要分别判断。