Cloudflare Joins the Jevolution and Labels Itself a Neolab

TL;DR · AI 摘要
Cloudflare转型为‘neolab’并发布Clef/Clairic模型,未来将开发LLM但侧重微调而非从零训练。
核心要点
- Cloudflare推出Clef(基于Jev模型)和Clairic(提取模型)两类系统一模型
- 计划开发LLM但不从零训练,专注模型微调优化
- 作为上市公司,其‘neolab’定位突破传统定义
结构提纲
按章节快速跳转。
思维导图
用一张图看清主题之间的关系。
查看大纲文本(无障碍 / 无 JS 友好)
- Cloudflare的AI转型
- neolab定位
- 传统定义冲突
- Menlo Ventures清单
- 模型产品
- Clef(Jev衍生)
- Clairic(提取模型)
- 研发策略
- 专注微调
- LLM开发计划
金句 / Highlights
值得收藏与分享的关键句。
Cloudflare的Clef模型直接借鉴TypeSafe AI的Jev模型架构
上市公司Cloudflare的年化营收已达30亿美元(2023Q3数据)
neolab被定义为:专注AI研究、自研模型、无显著营收的初创企业
Cloudflare 加入 Jevolution 并自称为“新实验室”—— Latent Space
过去十多年间,Cloudflare 一直是互联网基础设施领域的重要公司之一。但现在,它正在转变为一家“新实验室”(neolab)——至少根据产品负责人 Michelle Chen 在 AI Engineer Code Summit 上的演讲如此描述。Chen 负责 Cloudflare 的 AI 平台。
稍后我们将详细解释“新实验室”具体指什么(简短版本:它们构建模型,但不被称为 OpenAI 或 Anthropic)。Cloudflare 声称自己属于这一类别,因为它也开始推出模型。确切地说,是两款“系统一模型”(System One models):Clef 和 Clairic。如 Chen 在演讲中所解释,Clef 是一个直接受到 TypeSafe AI 革命性 Jev 模型启发的决策模型,而 Clairic 是 Cloudflare 称为“提取模型”(extract model)的一种新型系统一模型。
在演讲结束后接受 Latent Space 采访时,Chen 暗示 Cloudflare 不仅会推出系统一模型,还将推出大型语言模型(LLM)。
“我们成为‘新实验室’并不是只为了推出系统一模型,尽管这对我们基础设施来说是有意义的。我们现在已经打开了这个潘多拉魔盒,对吧?我们打开了它,现在可能性是无限的。”
Chen 表示,这“不仅仅是系统一模型,还包括我们正在实验的推理模型,以及其他 LLM 等等。”
不过,她补充说,这些模型可能不会像前沿实验室(frontier labs)那样从零开始训练的预训练模型。
“我不认为这是我们的重点,但我觉得我们可以利用现有的资源,使它们更加高效和有效。”
她指出,“我们团队的大多数人主要进行的是后训练(post-training),因此模型开发的重点将放在这一点上。”
什么是“新实验室”?Cloudflare 真的是其中之一吗?
“新实验室”(neolab)字面意思是“新实验室”,该术语由 The Information 的 Stephanie Palazzolo 于去年 11 月提出,她将其定义为“新一代以研究为重点的 AI 初创公司”。
Menlo Ventures 合伙人兼 AI 领域影响者 Deedy Das 维护了一份大型的“新实验室”名单,其中包括 Thinking Machines Lab、Poolside 和 TypeSafe AI 本身。根据 Das 的说法,“新实验室”雇佣了顶尖的研究人员,投入大量计算资源(“通常用于训练自己的 AI 模型”),没有显著的收入增长,通常是筹集了大量资金的初创公司。
Deedy Das 的“新实验室”名单——请注意 TypeSafe 在前 20 名中。
Cloudflare 至少有一半的条件并不符合,因为它是一家上市公司,且有显著的收入增长。事实上,就在本月早些时候,Cloudflare 宣布了创纪录的收益。“第三季度是 Cloudflare 有史以来最好的季度,”首席执行官 Matthew Prince 表示。“我们的年化收入超过了 30 亿美元,收入达到 7.82 亿美元,同比增长 39%。”
因此,Cloudflare 作为“新实验室”正在推动对这一概念的接受定义。然而,正如 Chen 在演讲中所指出的,构建模型是该公司发展的自然延伸:从基础设施,到计算(例如 Workers 平台,现在包括代理功能),到存储,再到托管 Kimi、GLM 和 DeepSeek 等开源权重模型(通过 Workers AI),再到如今构建自己的模型。
Jev 作为“东风”
赞助
此处为您的赞助广告
接触正在构建未来技术的 AI 工程师。
Latent Space 被从事代理、模型和基础设施开发的人阅读。咨询赞助此位置。
陈坦言,Jev启发了Cloudflare转向构建模型的决策。她引用了一句中国谚语,将Jev在9月的加入描述为“东风”,意外改变了Cloudflare对AI模型的看法。
“当系统一和Jev的范式开始引入时,”陈在她的演讲中表示,“我们意识到这对我们来说非常契合,对吧?我们不需要将每个请求都发送给大型语言模型(LLM)。我们可以将部分请求发送给系统一模型。”
在我们的对话中,陈提到他们仅用两周时间就构建了Clef(这是Jev的复制品),而TypeSafe AI却用了两年时间才开发出Jev。她将此视为对TypeSafe AI努力创造新型模型的赞美。
“实际上,TypeSafe AI值得所有赞誉,他们真正地进入了这个领域并发明了人们能够强烈共鸣并使用的新型技术。是的,我们迅速开发出了模型,但他们投入了大量基础工作,我们清楚API架构应该是什么样子。”
从根本上说,Cloudflare仍然是一家基础设施公司——速度和低延迟是它的核心优势。陈指出,系统一模型的主要优势在于,它们允许更多工作由更小、更快的模型完成,输出速度以毫秒而非秒计算。
Clairic 与提取模型的作用
虽然Clef是Jev的复制品,但Cloudflare很快为系统一开发了一个原创版本Clairic,并于上个月推出,定位为“新类别模型的首个实例:系统一提取模型”。
“Clairic的作用是,它可以从非结构化输入中提取、计算、估算和预测值,”陈在她的演讲中解释道。
在我们的采访中,陈表示她的团队希望利用系统一原则,寻找LLM“过度设计”的其他领域,以及LLM并不总是能给出正确答案的场景。
他们选定的问题之一是LLM在处理非结构化输入时表现不佳。陈解释说,由于LLM是自回归模型,它们容易产生幻觉,有时会返回格式错误的JSON。
“因此,我们使用了与Jev/Clef相同的系统一原则,并决定采用提取方式。”
Cloudflare系统一模型的一些应用场景。
她举了发票的例子,说明LLM有时会错误地遗漏重要细节,比如订单号。
“当你把订单发送给LLM时,它们会说,‘我觉得订单号是3,可能是4,也可能是5’。但事实上,号码就在那里,你只需要读出来就行!”
Clairic的理念是,它可以在一次前向传递中,从非结构化数据中提取类型化的值,比如数字。
为什么Cloudflare现在进入实验室
使用“neolab”这个标签听起来像是一个营销噱头,但对Cloudflare来说,生产系统一模型甚至未来的推理模型,实际上非常合理。
“成为neolab意味着我们可以创造我们所缺失的东西,”陈在她的演讲中说道。
在采访中,她还提到,开发自己的模型使Cloudflare能够降低AI运营的风险。
“I think there's a lot of risk in the AI space , because just like Jev was closed source and we couldn't run it, there [are] a lot of models out there [with] maybe regulatory risks coming up, like the Chinese open source models. I think lots of model labs want to actually make money, as well — so enforcing quite expensive licenses.”
如果你现在查看 Cloudflare 的产品页面,它与 Amazon 在 Web 2.0 鼎盛时期云计算产品页面的相似程度令人惊讶——即内容非常丰富!
但目前仍有空间容纳更多模型。