让 AI 写一段文字,与让 AI 处理一件事,面对的是不同的问题。文字可以直接阅读,事情却发生在具体的系统里:文件有没有保存,数据有没有更新,结果能不能打开。
从“说得对”到“做成了”
比如要求一个助手整理资料。给出整理方案,是准备;生成文件,是执行;打开文件检查内容与排版,才是验证。这几个状态应该分开说清楚。
系统越复杂,越需要明确的完成条件。如果任务是修复一个页面,那么代码改变只是其中一步。真正的结果还包括页面能否打开、主要操作是否有效,以及哪些环境尚未验证。
评价一个助手,先问结果在哪里,再问它如何到达那里。
好的 AI 系统不仅需要能力,也需要清楚的边界:哪些选择可以自主完成,哪些动作需要人作出决定,遇到失败时如何保留已经完成的工作。可靠性来自这些具体安排,而不是一句“已完成”。