一句看起来很正常的客服回复，最后让一家航空公司赔了钱。
这是真实在Air Canada发生过的事。
用户去问丧亲优惠机票怎么申请，聊天机器人给了一个听起来很不错的答案：
“先买全价票，之后 90 天内再补申请退款。”
用户照做了。
但航空公司拒绝退款。
最后，法院判Air Canada 赔偿。
这件事真正值得反复看的，不是“AI 又说错话了”，
而是：它是代表公司说错的。
所以在养龙虾的热潮中，我越来越确定一句话：
能力决定上限，边界决定能不能上生产。
很多 AI 项目不是死在“做不出来”，而是死在“做错了没人兜底”。
业务真正怕的，通常不是它不够聪明，而是这三件事：
会不会一本正经胡说 会不会越过本不该越过的边界 出了问题以后，责任到底算谁的
Air Canada 这个案例，把这件事说得很透。
真正的问题，不是它会不会回答，而是它回答错了之后谁负责
很多团队一聊 AI，先聊的是模型、速度、自动化比例。
但真到了业务里，最先卡住的往往不是这些。
真正卡住落地的，是：
哪些话它能说 哪些动作它不能自己做 哪些节点必须停下来等人确认 一旦出错，能不能回滚，能不能追责
这其实不是“能力问题”，而是“边界问题”。
为什么我现在更在意边界工程
如果你把 AI 当工具，你会一直追问：
它还能多做什么？
如果你把 AI 当数字员工系统，你先定义的是：
它该做什么 它不能做什么 哪些高风险动作必须人工确认 哪一步才算正式交付
这是两种完全不同的落地方向。
前者容易做出演示。
后者才更接近生产。
真正该先补的，不是更多能力，而是这四件事
禁区：外发、删改、付款这类动作，默认不能自动越过 复核：关键输出必须经过二次检查才能继续 日志：每一步都能回看、复盘、定位责任 验收：什么叫完成，要有明确标准，而不是“差不多就行”
很多项目缺的不是聪明，而是刹车。
最后一句
在问“哪个模型最强”前，先问一句更现实的话：
如果它今天说错一句话、做错一个动作，这套系统能不能稳稳兜住？
这个问题答不出来，再强也只是演示。
这个问题答得出来，AI 才真的开始接近生产力。
如果你身边也有人在做 Agent 落地，这篇也可以转给他看看。
很多时候，问题不是能力不够，而是边界、复核和责任链没先想清楚。
