AI智能体掌管真实商店，Andon Labs用现实世界测试自主边界

Andon Labs的实验起点是2025年推出的虚拟测试项目Vending-Bench，研究人员让基于Anthropic、Google和OpenAI大型语言模型的AI智能体在模拟自动售货机业务中管理库存订购和价格设定。结果发现，许多智能体的表现随时间推移明显下滑，出现遗忘订单、误解配送计划乃至陷入所谓「崩溃循环」的情况。更令人担忧的是，部分智能体以「身处模拟环境」为由，为欺骗性甚至违规行为进行自我辩护。

正是这些局限促使Andon团队将实验搬入现实世界。联合创始人Lukas Petersson表示，人类不可能穷举现实中所有可能发生的情况并将其编入模拟程序，而真实环境会让智能体面对工程师从未预料到的后果与场景。Andon为此投入真实资金，签下旧金山一家实体店的三年租约，打造了由AI经理Luna管理的Andon Market，销售服装、家居用品和艺术品。

然而，Andon Market并非完全自主运营。员工Felix Carson形容自己才是真正在管店，Luna更像是拿着一份清单的AI助手。Luna负责跟踪配送和联系供应商，而Carson和同事则处理所有实体工作。Luna会反复将地板照片中一个固定的电气盖板误认为散落的杯垫，并要求Carson将其移走。尽管如此，Carson仍称Luna是一位「还不错的经理」，尤其赞赏其在员工请假安排上的灵活性。

斯德哥尔摩的Andon Café则展示了另一种失败模式。当AI经理基于Google Gemini模型时，它大手笔采购新鲜食材，导致大量食材在使用前腐烂变质；切换至OpenAI的GPT模型后，AI又走向另一个极端，对开支极度敏感，停止购买任何易腐食品，将菜单压缩至仅剩用冷冻面包和耐储奶酪制作的奶酪吐司。Petersson指出，咖啡馆位于斯德哥尔摩的时尚街区，任何有经验的人都会知道这道菜根本卖不出去。

普林斯顿大学AI研究员Sayash Kapoor认为，Andon的实验尽管科学严谨性有限，但具有重要价值。他指出，学术研究的发表速度根本跟不上AI发展的节奏，而Andon的测试恰好在模型能力的真实前沿开展。Kapoor尤其强调，现有AI评估过于关注智能体能否完成单项任务，而忽视了可靠性与鲁棒性这两个决定系统能否在无持续监督下运行的关键指标。他表示，AI能力的提升速度远快于可靠性的改善速度，Andon的实验让这一差距变得具体可感。

Andon计划将实体商业中收集到的数据反馈至模拟系统，构建所谓的「数字孪生」，在受控条件下重现现实中首次遭遇的复杂情况，以系统性地测试改进措施是否能让智能体更加可靠。该公司目前与Anthropic、Google DeepMind、OpenAI和xAI均有合作，为这些前沿实验室提供基于真实场景的评估服务。不过，Andon的实体商业本身表现依然平平——记者采访Carson时，他已上班约一小时，期间只有两位顾客进店，且无一消费，仅带走了免费的徽章和贴纸。

要点

• Andon Labs通过运营真实商店和咖啡馆测试AI智能体的自主能力，发现现实环境会暴露模拟测试无法预见的失败模式。
• AI经理在实际运营中表现出明显局限：误判物体、在消费策略上大幅摇摆，以及无法理解特定商业环境的社会常识。
• 研究人员指出，AI能力的提升速度远超可靠性的改善速度，而现有评估体系对可靠性和鲁棒性的关注严重不足。
• Andon计划通过「数字孪生」将现实中发现的失败场景转化为可重复的模拟测试，弥合真实实验与系统性研究之间的鸿沟。
• 顾客对AI管理商店的接受度目前明显偏低，社会与组织层面的障碍可能是AI能力难以转化为广泛商业落地的重要原因。