AI 落地卡住的地方,很少是模型本身。真正的问题分布在四处:用户不信任、数据链路没理清、业务流程没打通、责任边界没划清。先处理这些,再谈模型。
公司通知你下周一去客户现场,接手上一任 FDE 留下的项目。前任走得很突然,没留交接文档,连代码仓库密码都不知道。客户技术负责人第一句话:你们的人走了,系统每天晚上 8 点就挂,你什么时候能修好?
这是人人都是产品经理上一位作者写的开场。今天在 Hambook 的每日精选里,我读到五篇技术文,从虎嗅到 IT 之家,从产品经理社区到银行的风险提示。它们表面各说各的:门店 Agent、没人用的功能、半夜挂掉的系统、擅自转账的智能体、被高估的视频生成。放在一起看,指向同一件事。
AI 落地失败,问题大多不在模型。
信任是第一道坎:107 家企业里,44% 卡在这里
Userflow 问过 107 家企业的产品负责人:你们的 AI 功能采纳率卡在哪。排第一的是不信任输出,44%。后面依次是不理解功能 26%、和现有流程整合困难 25%、根本没发现 21%。
顺序值得看两遍。用户不用,不是因为找不到,也不是因为不会用,是不敢用。产品经理的本能却是改入口、加曝光、把按钮做得更显眼。这就像一个人不信任医生的诊断,你却把挂号窗口装修得更亮。
GitHub Copilot 是个反例,也是个佐证。上线初期安装并激活的开发者接近 60%,真正接受代码建议的比例只有 20%。两个数字的分母不同,但共同点很清楚:入口没有成为障碍,问题发生在进去之后。
白鲸开源的内部调研补上另一半:任务越难,用户越不敢直接采信。问答场景低复杂度采纳率 100%,高复杂度 60%;Agent 场景高复杂度只剩 50%。字节内部一个代码生成工具做到接近 100%,靠的是最新最贵的模型组合。质量够了,信任自然来,但那是一笔成本账,小团队未必付得起。
省掉的每一个决定,都要用信任还回来。
这跟推荐流是同一个动作的两面。推荐流替你决定看什么,用户烦的是没得选;AI 替你做事,用户怕的是选错了没人负责。
数据链路先于模型:一百张报错单的归因
那位驻场三年的 FDE 给过一个归因。他把现场报上来的问题按性质分:60 例是数据链路的工程 Bug,字段取错、接口截断、解析器把表格打碎;31 例是业务场景漂移,总部标准拿到分公司就变了味道;真正因为模型能力不够的,只有 9 例。
九这个数字很扎眼。它意味着现场十五分钟里,最该做的不是翻论文,是查输入。
他讲过一次制造企业供应链文档审核。业务主管指着 PDF 第三页的加粗违约金条款,质问 AI 为什么没识别。改 Prompt 加一句“仔细阅读违约金”是最容易犯的错。连上网关抓出真正发给模型的原始 JSON 才发现:那行字是浮动文本框贴在页面右侧,开源解析工具只读主文本流,压根没抽出来。模型回答“未提及违约金”,不是笨,是严谨。
先当怀疑论者,默认模型是无辜的。把数据链路过一遍,再怀疑模型。
人肉测试法更土也更管用:把最终喂给模型的那段文本拷进记事本,请一个懂业务的人当新员工,只看这些字能不能做出答案。做不出来,问题就不在模型。再把检索和生成切成两截单测,手动把原文塞进提示词,两分钟就能分清是没召回还是不会答。
企业 Agent 的难题在流程,不在演示
星巴克中国刚放出一段样本。门店侧,2026 年的“千店千面”战略里,AI 作为 CGO 在每家门店的智慧分身,识别社区讨论后生成短视频文案和发布策略。北京国贸店识别出“中国尊=Offer 神楼”的讨论,自动生成“咖啡杯里倒映着中国尊”的文案,店长只确认发布。伙伴侧,店经理 AI 助手接手订货、排班,目标是给所有员工配一个数字员工助手。顾客侧,外滩大会期间和支付宝“阿宝”合作的咖啡闹钟,说出需求就能定时下单。
这些场景听起来零碎,其实共享一个前提:AI 接的是具体岗位,不是通用聊天框。瓴羊副总裁甄日新的说法是从“能回答”走到“能执行”,再拿 GMV、ROI、服务解决率去衡量。要做到这一步,得先打通企业自己的数据、知识、业务工具和权限体系。
这就是为什么很多 Agent 停在 Demo。Demo 只需要模型会说话,进流程需要数据、权限、异常处理和责任人。把它们写下来再动手,不是新道理。AWS 的 Kiro 把规格驱动开发做进工具里,先评审需求、设计、任务,再生成代码,守的是同一条线。
责任边界:智能体替你转账,谁买单
当 AI 真的开始执行,问题就从技术换成了法律。
IT 之家 11 月 19 日报道,多家美国大行在给客户的邮件里警告:如果 AI 智能体拿到金融账户权限,它做的转账和购物可能被视为用户本人的行为。Ally Bank 写得最直白:AI 采取的任何行动都由你负责,它可能犯错、产生幻觉、误解指令。摩根大通提醒,已授权的交易可能无法撤销。花旗在官网和 App 加了风险横幅。
背景是一批能干活的智能体:Meta 的 Muse、Instinct AI、OpenAI 的 Dots,能订机票、订餐厅,甚至在除臭剂用完前自动下单。零售商已经在划线。塔吉特今年 3 月把 AI 代购写进用户协议,认定为“由用户授权的交易”;亚马逊 9 月以安全为由禁止 Muse 代购。苹果最新的 Mac 测试版里,授予智能体系统级权限时会弹风险提示。
银行特意区分了一件事:通过正规授权把账户连到 AI 工具,和把用户名、密码、验证码直接交给它,不是一回事。前者是授权,后者是把责任边界拆了。
授权是给智能体一个位置。交出凭据,是把你自己的位置让出去。
认清能力边界,才知道把它放在哪
还有一篇讲多模态视频生成的文章,判断更狠。作者承认 AI 降本增效的能力,但质疑用工业流水线的尺子去量影视作品。他举《给阿嫲的情书》里的一句即兴台词:老年淑柔得知木生死讯后说“这么多孩子怎么养活”,这句话没法提前设计,是现场涌现出来的。创作视角越集中,作品越只能取悦一小群人。
这是同一道题的另一面。知道 AI 不能做什么,才知道把它放在哪个岗位。把筛选权握在自己手里,我们在RSS 阅读器没死,只是换了一批读者里写过;AI 落地则是这道题的下半场,把判断权留在人手里。
五篇文章,五个行业,一个答案:卡住落地的不是模型不够聪明,是信任没攒够、数据没理清、流程没打通、责任没划清。这些都不是升级模型能解决的事。