量子位

MIT神作被锤:Astra爆改Qwen权重?就吹吧!

8.5内容质量

TL;DR · AI 摘要

MIT团队提出的Astra方法被质疑存在误导,其在不同实验条件下的能力被混淆。

核心要点

  • Astra在小模型上通过读取权重实现任务识别,但大模型修复依赖编程和前向测试
  • MIT研究将两种不同技术路径包装成统一能力,存在误导
  • Astra展示了AI作为‘AI工程师’的潜力,但实际应用需谨慎

结构提纲

按章节快速跳转。

  1. MIT团队提出的Astra方法引发学界争议,spaCy作者公开质疑其研究存在误导。

  2. Astra宣称通过读取权重实现模型修改,但实验条件存在重大差异。

  3. 小模型实验直接读取权重,大模型修复依赖编程和前向测试。

  4. Honnibal指出论文将两种不同技术路径包装成统一能力。

  5. Astra展示了AI作为‘AI工程师’的潜力,但实际应用需谨慎。

  6. 研究价值被低估,但成果呈现方式存在严重误导。

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • MIT Astra研究质疑
    • 核心机制
      • 读权重/写权重/修复大模型
    • 实验条件差异
      • 小模型直接读取权重
      • 大模型依赖编程测试
    • 真正价值
      • AI工程师能力突破

金句 / Highlights

值得收藏与分享的关键句。

  • Honnibal用魔术师比喻指出,MIT研究通过障眼法混淆了不同实验条件下的能力。

    — 第3段

    ⬇︎ 下载 PNG𝕏 分享到 X
  • Astra在修复8亿参数Qwen时,需通过编程和50次前向测试,而非直接读取权重。

    — 第5段

    ⬇︎ 下载 PNG𝕏 分享到 X
  • 即使剥离‘读心术’光环,Astra仍展现了AI作为‘AI工程师’的突破性能力。

    — 第7段

    ⬇︎ 下载 PNG𝕏 分享到 X
#MIT#Astra#Qwen#spaCy#模型修复#技术质疑
打开原文

MIT神作被锤:Astra爆改Qwen权重?就吹吧! – 量子位

扫码关注量子位

<div class="top_search"> <form role="search" method="get" class="search-form" action="https://www.qbitai.com/" id="search"> <label> <input type="search" class="search-field" placeholder="搜索…" value="" name="s"> </label> <button type="submit" class="search-submit"></button> </form> </div>

< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400">

articlead begin

articlead end

MIT神作被锤:Astra爆改Qwen权重?就吹吧!

Jay

2026-11-05

15:10:56

来源:

量子位

摘要样式

spaCy作者长文炮轰

Jay 发自 凹非寺 量子位 | 公众号 QbitAI

Astra修改小模型权重?MIT那篇爆火研究,被大佬公开质疑了。

Astra前两天刚刚凭借一项惊人能力刷屏AI圈——不用训练、不算梯度,直接修改另一个AI模型的权重。

MIT团队宣称,Astra仅修改Qwen3.5-0.8B的0.016%权重,就让数学成绩从7.9%暴涨至48.1%,相当于提升到原来的6倍多。

甚至有网友感慨:AI已经开始读懂另一个AI的大脑了。

然而,事情似乎出现了反转。

一位来头不小的圈内大佬公开发文,提出了质疑。

这项研究存在严重误导。

质疑者叫Matthew Honnibal,spaCy的作者、AI公司Explosion的联合创始人。

魔术师戏法

这背后到底发生了什么?

Honnibal用了一个很妙的比方,讽刺了MIT研究所做的事:障眼法。

舞台魔术师常常用多种方式来表演同一个戏法。 第一次,他可能用了一个特殊的道具;下一次,他会向你展示道具并无特殊,但他自己藏起了东西;第三次,可能又利用了某种强迫选择。 当你观看表演时,你会假设只有一种技术,所以每当魔术师表演一次,似乎都推翻了你对其工作原理的假设。

Honnibal认为,Astra这项研究的实验呈现,就酷似这样一场魔术。

回到Paper,原文其实展示了三项不同的能力:

  • 读权重 :只看原始的权重数字,就能识别一个小型神经网络正在执行什么任务。
  • 写权重 :不依赖环境反馈,从零开始直接生成或修改小型网络的参数,让它能玩《打砖块》之类的小游戏。
  • 修复大模型 :通过修改Qwen的部分权重,大幅提高其数学测试表现。

但这篇论文摘要给人的核心印象却是——

Astra「仅通过观察原始权重」,就能理解并修改另一个模型。

如果只是一眼扫过,很难不让人理解为:

无论是识别一个小型网络的功能,还是修复一个大语言模型的数学能力,都源于同一种「读脑」神技。

但,这是真的吗?

Honnibal仔细梳理了论文中的8组实验后发现:实现这三件事的实验条件,天差地别。

也就是说——

纯纯是在偷换概念。

两种技术路径

那么不同实验之间,到底有什么猫腻?

首先,在识别小型网络任务、修复一个卡住的赛车模型等实验中,Astra确实做到了「只看原始权重」。

因为实验条件非常苛刻:

  • 直接将权重数字 (raw floats) 作为输入,放进Astra的上下文。
  • 不允许Astra运行Python代码。
  • 不允许Astra执行目标网络来观察其行为。

在这种模式下,Astra处理的模型参数规模都非常小,在 1.7万到17.2万 之间。这确实很了不起,但距离真正理解一个现代大语言模型,还有很长的路。

但到了最引人注目、也最令人振奋的Qwen数学能力修复实验,就完全不是这么回事儿了。

在修复8亿参数的Qwen模型时,Astra 并没有直接读取原始权重 。

取而代之的是,Astra被授权使用Python编程,并且最多可以进行50次前向测试。每次允许模型处理一批练习题,通过观察模型的表现来分析和修改权重。

这根本是两码事。。。

Honnibal一针见血地指出,将这两种方法打包在一起,很容易让读者误以为:

噢,那种在小模型上实现的「读脑术」,同样可以规模化地应用在8亿参数的大模型上。

但事实是,在处理真正的大语言模型时,Astra更像一个「场外教练」,需要通过编程、运行、观察等一系列工程手段来介入。

真正的价值

那么,这是否意味着MIT的研究毫无价值?

当然不是。

必须承认,即使剥离了「读心术」的光环,Astra所展现的能力依旧非常了不起。

Honnibal也坦言,让一个AI模型被提示去设计并执行人类机器学习工程师才能完成的任务——编写代码片段来分析甚至直接修改网络权重——这本身就是一个巨大的进步。

一两年前的AI模型,在所有这些任务上都会失败。

这说明,今天的顶尖大模型,已经具备了相当复杂的工具使用和推理能力,能够作为一个「AI工程师」来诊断和修复其他模型。这本身就是一项值得关注的工程突破。

真正的问题,在于成果的呈现方式。

将两种截然不同的能力,模糊地包装成一种统一的、能够读写AI大脑的「超能力」。

说实话,乍一听还以为是A社做的事。。。

也侧面反映了如今AI圈的Hype狂潮吧。

原文: https://honnibal.dev/blog/astra-read-write-misleading

版权声明

版权所有,未经授权不得以任何形式转载及使用,违者必究。

MIT

作者文章列表

  • Linux内核被挖出948个漏洞!OpenAI花120万美元找到的 2026-11-05
  • 纯语音Personal Agent来了!或许,这就是乔布斯心中的Siri 2026-11-03
  • 清华姚期智团队新作:代数世界模型,让AI像牛顿一样思考 2026-11-01
  • 老牌便利店机器人售货折戟:实验室锤炼上万次,货架前还是摔瓶子 2026-11-01

左侧分享

扫码分享至朋友圈

相关阅读 start

相关阅读

#### MIT推出拾物机器人「最强辅助」,少量训练样本实现自然语言控制

可拾取未知物体

西风

2023-08-19

2D特征

三维空间

机器人

#### MIT数学最强本科生:2年半毕业,20多篇论文在手,还推动了停滞几十年的数学研究

师从MIT华裔教授,曾获阿里巴巴数学竞赛银奖

十三

2020-12-05

数学

本科生

#### 85岁MIT教授上线全新「线性代数」公开课:大牛视角帮你重新梳理知识点,网友:信息丰富,通俗易懂

附带文字稿下载

鱼羊

2020-06-13

线性代数

网课

#### 何恺明MIT求职演讲现场:提前三小时就有排队,超百页PPT回顾CV发展,以及“大神月半了”

真成AI圈大型追星现场了

白交

2023-03-14

何恺明

#### MIT博士生、北大校友,利用自监督算法,解决了数据集中这一常见的“难题”

解决数据集样本“不均衡”问题

萧箫

2021-01-15

北大

数据集

长尾问题

#### 只有5%AI项目在挣钱!MIT最新报告印证奥特曼警告

但头部大厂还将持续加码

鹭羽

2025-08-22

AI

相关阅读 end

热门文章 start

热门文章

#### 刚刚,DeepSeek重磅开源:Agent底座架构!

2026-10-31

#### 小米开源了个150元的AI小玩意,火到配件都涨价了

2026-11-02

#### 榜一,拿来吧你!智元这波双模型杀穿多榜榜单

2026-10-30

#### MIT:GPT-6 Astra能直接修改Qwen权重,数学能力暴涨6倍

2026-11-03

#### Claude紧急叫停!暗改Harness禁止逆向游戏

2026-11-01

<form role="search" method="get" class="search-form" action="https://www.qbitai.com/"> <label> <span class="screen-reader-text">搜索:</span> <input type="search" class="search-field" placeholder="搜索…" value="" name="s" /> </label> <button type="submit" class="search-submit"><span class="screen-reader-text">搜索</span></button> </form>

热门文章 end

底部版权

  • 关于量子位
  • 加入我们
  • 寻求报道
  • 商务合作

<a href="/?page_id=183"target="_blank"><i class="weixin_icon"></i></a>

追踪人工智能新趋势,报道科技行业新突破

<p>量子位 QbitAI 版权所有©北京极客伙伴科技有限公司 京ICP备17005886号-1</p>

量子位 QbitAI 版权所有©北京极客伙伴科技有限公司 京ICP备17005886号-1