我们的AI在斯德哥尔摩开了一家咖啡馆
TL;DR · AI 摘要
Simon Willison批评Andon Labs用AI代理独立运营咖啡馆，指出其频繁制造荒谬订单、浪费公共资源，呼吁AI系统在影响人类时必须保留人工监督机制。
核心要点
- AI代理在无人工监督下操作现实系统，易造成资源浪费与社会成本。
- 生成式AI缺乏常识，会生成荒谬请求（如6000张纸巾、爆炸鸡蛋）。
- 任何影响他人的AI行为都应强制嵌入人类审核环节。
结构提纲
按章节快速跳转。
Andon Labs在斯德哥尔摩部署AI代理管理咖啡馆，延续其旧金山零售店实验。
AI订购大量不合理物资，如6000张纸巾、9升椰奶，并试图用烤箱煮蛋。
AI伪造图纸申请户外座位许可，浪费警方审核时间，引发行政负担。
作者认为此类实验未经同意影响他人，应强制加入人工监督机制。
引用去年AI给Rob Pike发感谢邮件事件，强调无界AI行为的冒犯性。
思维导图
用一张图看清主题之间的关系。
查看大纲文本（无障碍 / 无 JS 友好）
- AI代理运营咖啡馆的伦理争议
- AI行为问题
- 缺乏常识：订购不合理物资
- 伪造文件：生成虚假街道图纸
- 社会影响
- 浪费公共行政资源
- 干扰供应商与员工
- 解决方案
- 强制人类审核机制
金句 / Highlights
值得收藏与分享的关键句。
Mona订购了120个鸡蛋，尽管咖啡馆没有炉灶；当被指出无法烹饪时，她建议用高速烤箱，尽管鸡蛋会爆炸。
她成功通过警察电子服务申请户外座位许可，提交了自己生成的、从未见过街道的草图。
当AI犯错时，它会向供应商发送多封主题为'紧急'的邮件，浪费他人时间。
要求AI在影响他人时必须保留人类监督，否则就是对社会资源的剥削。
我们的AI在斯德哥尔摩开了一家咖啡馆
[Simon Willison 的博客](http://simonwillison.net/)
赞助商：MongoDB — 5月7日参加 MongoDB.local 伦敦2026，了解团队如何将AI从原型推向生产。
2026年5月5日 - 链接博客
[我们的AI在斯德哥尔摩开了一家咖啡馆](https://andonlabs.com/blog/ai-cafe-stockholm) ([来源](https://news.ycombinator.com/item?id=48028289 "Hacker News")) Andon Labs 之前曾在旧金山 启动了一家由AI运营的零售店。现在，他们在瑞典斯德哥尔摩开展了类似的实验，只不过这次是一家咖啡馆。
这些实验很有趣，常常产生一些令人捧腹的趣闻：
在首次进货的第一周，Mona订购了120个鸡蛋，尽管咖啡馆根本没有炉灶。当员工告诉她无法烹煮时，她建议使用高速烤箱，直到有人指出鸡蛋很可能会爆炸。她还试图解决新鲜番茄腐烂太快的问题，于是订购了22.5公斤罐装番茄用于新鲜三明治。最终，咖啡师们设立了一个“羞耻墙”——一个对顾客可见的货架，上面陈列着Mona订购的所有奇怪物品，包括6000张餐巾纸、3000副丁腈手套、9升椰奶和工业级垃圾袋。
但当这些AI经理开始浪费那些并未自愿参与实验的人类的时间时，它们的光彩就消失了：
她还通过警方电子服务成功申请到了户外座位许可，该服务无需BankID。她的首次提交包含了一张自己生成的草图，尽管她从未见过咖啡馆外的街道。不出所料，警方退回了申请并要求修改。[...]
当她犯错时，经常会给供应商发送多封主题为“紧急”的邮件，要求取消或更改订单。
我认为，运行这种影响现实系统、窃取他人时间的实验是不道德的。
这让我想起去年的一起事件：AI Village实验通过发送未经请求的感谢邮件作为“善意行为”，激怒了Rob Pike（详情）。那仅仅是一封不受欢迎的邮件；而要求供应商修正无人参与的错误，或用粗糙的草图浪费警察的时间，对我来说要恶劣得多。
我认为，这类实验在涉及影响他人的外部操作时，必须让人类操作员始终参与其中。
发布于 2026年5月5日 晚上10:14
最近文章
- LLM 0.32a0 是一次重大向后兼容的重构 - 2026年4月29日
- 追踪已失效的OpenAI微软AGI条款的历史 - 2026年4月27日
- DeepSeek V4 - 几乎站在前沿，价格仅为一小部分 - 2026年4月24日
这是 Simon Willison 发布的链接文章，发布于 2026年5月5日。
ai 2003generative-ai 1775llms 1740ai-agents 110ai-ethics 298
月度简报
赞助我 每月10美元，即可收到精选的当月最重要LLM发展动态邮件摘要。
付费让我少给你发邮件！