How Malachyte solves retail’s cold-start problem with managed real-time AI

解决零售业的冷启动问题：Malachyte的推荐系统革新 | Google Cloud 博客

数据分析

Malachyte如何通过托管实时AI解决零售业的冷启动问题

2026年8月11日

##### Sidd Motwani

Malachyte首席执行官

##### Vicki Boykis

Malachyte资深机器学习工程师

##### 今天试用Gemini Enterprise Business Edition

职场AI的入口

立即试用

向不熟悉用户推荐商品的最佳方式是什么？

我们职业生涯的大部分时间都在为Spotify和Priceline等大型公司解决这个问题，这也是Sidd创立Malachyte（一家AI驱动的电商推荐平台）的原因。如今，消费者已习惯于获得个性化且相关的内容，而争夺其注意力的在线服务别无选择，只能做到这一点。

Malachyte的灵感来自于一些独特的洞察，即先进的AI模型（尤其是大语言模型）可以以全新的方式应用于个性化和推荐等传统挑战。

当Malachyte开始争取潜在客户时，我们需要安全、可扩展、可靠且最先进的AI基础设施，以继续构建我们一直设想的个性化算法。通过使用Google Cloud的Bigtable和Apache Kafka托管服务等工具，Malachyte帮助其部分零售商将销售额翻倍，有时甚至达到三倍。

这就是我们如何构建它的故事，以及任何创始人如何利用这些服务以新方式部署AI基础模型的方法。

Malachyte如何提升其用户销售额

对Malachyte来说，突破性发现是意识到可以使用带有注意力机制的神经网络——与大语言模型使用相同的概念——来个性化零售搜索和产品页面。这种方法使LLM能够从序列中项目相对顺序中推导出意义，在这种情况下，就是句子中词语和音节的顺序。当涉及到零售网站或应用时，Malachyte希望捕捉的是用户与网站的交互序列。

如果我们能像LLM预测句子中的下一个词一样，预测用户在电商网站上想要的下一个商品会怎样？

在GPT之前，语言模型可能尝试分析特定的词语序列或甚至词语片段（我们现在称之为标记），但这些早期模型不会检查如果词语以可比顺序排列但不连续或被重新排列时会发生什么。突破部分来自于Google对Transformer的研究，当LLM获得理解序列中复杂且长距离依赖关系的能力时，这一突破发生了。

这种更复杂的方法带来了显著的成果——既推动了生成式AI的普及，也推动了Malachyte对这项技术的应用。

为了在实践中实现这一点，Malachyte会在用户访问网站时创建一个包含所有已知信息的向量。大多数用户是首次访问，因此对他们了解甚少。这就是所谓的“冷启动”问题。关键在于利用用户每次互动来完善这个向量。向量中的每个新增项（如点击或查询）都会做两件事：它驱动对用户下一步需求的预测，并提供有关用户的更多信息。

Malachyte 的平台同时更新用户向量和预测结果。这不仅增强了对单个用户及其偏好的理解，还通过匿名化用户数据提升了整体模型效果。每次推理过程中，平均用户和具体购物者的上下文信息都会得到扩展。

公司进一步创新，不仅使用基于注意力的神经网络，还以每 100 毫秒为间隔更新用户档案。

Malachyte 的推荐和搜索代理会根据用户在前几页的点击行为，填充下一页的搜索结果或推荐轮播图。

需要明确的是，这一想法本身并非全新。零售商长期以来一直使用基于协同过滤的推荐系统，通过大量交互历史数据识别相似用户和商品。这些模型通常需要大量数据，包括基于第三方 Cookie 的用户画像和人口统计数据。

通过关注会话中的交互序列，零售商可以实现比仅依赖用户档案更高效的个性化推荐——所需数据更少，投入成本更低。作为额外优势，零售商现在可以通过不依赖长期 Cookie 数据，为用户提供更高的隐私保护。

这之所以可行，得益于模型结构和多模态向量，这些向量编码了所有关于用户的信息，包括浏览器数据、点击历史和搜索记录。输出结果同样是多模态的：同一模型可以应用于网站搜索产品页面、分类页面和加入购物车轮播图。

要实现这一点，目录中的每个产品都会被嵌入到与用户向量相同的空间中，该向量会持续更新并逐渐靠近相关产品，远离不相关的产品。计算嵌入的神经网络在与 Malachyte 合作的零售商之间持续训练，从而提升所有用户的体验效果。该系统实质上成为一个数据合作社，每个零售商的用户数据都在帮助模型变得更智能。

用户会话以产品空间中的向量形式表示。

为实现每个用户在每次推理中 100 毫秒内的实时响应，Malachyte 在 Google Cloud 的实时 AI 架构上找到了切实可行的解决方案。

通过该系统，每个行为事件都会流式传输到 Apache Kafka 集群的托管服务中。与等待未来的训练任务不同，每个事件会立即更新 Bigtable 中的用户档案。Kafka 集群使客户前端能够持续运行，用户会话信号可以快速处理，无需过多担心其与用户向量的匹配问题。

Bigtable 使 Malachyte 的服务能够查找并更新正确的用户向量，Kafka 和 Bigtable 的每步操作都在 10 毫秒级别，这使得整个推荐循环可以无缝完成，不会影响用户体验。

三层实时 AI 架构：零售商的网站、Malachyte 的 AI 模型和前端服务，以及上下文管理基础设施。

除了快速的核心系统，第二层包含产品目录更新、库存信号和零售商特定的维度数据，用于保持产品数据的实时更新。这些数据通过 Cloud Pub/Sub 流式传输，该服务提供全球可访问的 REST API，使零售商无需深度集成即可建立连接。Malachyte 代理运行在 Google Kubernetes Engine（GKE）上，模型推理则在 Google Compute Engine（GCE）上执行。

持续摄入外部数据（如产品目录更新）通过Pub/Sub的全球消息传递系统进行操作。

随着迁移到Google Cloud的AI架构，Malachyte证明了生产环境中的AI推理和训练不仅仅是GPU和存储的问题。它们需要包含快速键值存储、流处理层和托管消息系统的实时持续学习基础设施，并与基础模型架构集成。

这种方法还表明，即使像Malachyte这样规模较小的团队也能在行业中产生重大影响。只要能够访问强大的基础设施和核心AI托管服务即可。

立即体验

想要像Malachyte一样颠覆行业或保持竞争优势吗？请尝试使用Managed Service for Apache Kafka、Cloud Pub/Sub和Bigtable。新客户可获得价值300美元的Google Cloud信用额度。

发布分类

• 数据分析
• AI与机器学习
• 客户案例
• 零售行业