我们此前讨论自动化后的学习,重点是人还有没有亲自尝试、犯错并得到反馈的机会。今天需要补充:即使已经有专业训练,也可能在合作时失去对“判断从哪里来”的辨认。专家实验中,随机改变助手倾向能改变人的分析选择;问题不必先表现为能力退化,也可能发生在目标和理由形成的当下。因此,保留判断不能仅理解为让人最后点一次确认。
这不意味着接受助手建议就是失败。面对复杂任务,好的合作本来就应当让人改变想法。需要区分的是改变由什么推动:新证据排除了原方案,还是助手先替人决定了什么值得优化?农业案例里的结果指标和覆盖人群,把这一区别变得具体。若目标尚未表达清楚,后面的计算越顺畅,越容易把尚未讨论的取舍当成已经确定的技术条件。
开发者的系统理解提出另一层要求。助手可以解释调用链,却未必知道组织曾经为什么选择这种边界;人也可能没有足够基础发现解释中的遗漏。adrq 的经验说明,知道还有另一种状态管理方式,会改变向助手提什么问题。不过 trjordan 的异议同样成立:不熟悉代码带来的不安,并不能单独证明系统质量下降。需要把理解困难接到定位、修改与恢复的实际结果上,才知道该补哪部分知识。
Ai2 的新颖性评估把视角转向机器评委。它与人的受说服并非同一种机制:一个是协作中的影响,一个是评判任务和提示发生变化。但二者都提醒我们,一段理由或一个分数出现之前,已经选择了问题的问法。若希望知道研究相对已有工作新增了什么,却只验证模型能否猜中评审偏好,测量对象就在不知不觉间换掉了。
可迁移的办法是把关键判断留下可比较的前后版本。分析前记录目标和可能改变立场的证据;代码解释前写出自己认为的关键路径;评价研究时先列最近邻工作和实质差异。随后让 AI 提供资料、反例或另一条推理,再注明自己修订了什么。这样做仍能利用自动化扩大阅读与尝试范围,也为人保留了提出问题和辨认变化的工作。它目前是由这些机制推导出的建议,不是本期完成的干预实验。
下一步值得观察的不是人有没有少用 AI,而是他们能否在换了助手、换了问题或暂时没有提示时,说明原先的判断依据,并用新证据合理更新。若只能复述此前助手的解释,所谓“参与复核”可能并未带来理解;若这种记录只增加负担而不改善实际决策,也应调整做法。不同任务可以保留不同程度的独立尝试,不必给所有工作增加同一套手续。
另一种解释
判断跟随也可能包含合理的信息更新;不以一致率直接判定个体决策错误。
接下来观察什么
换问题或暂时撤去提示后,能否表达依据并处理反证。