量子位

OpenAI重写大模型法则,第一条:忠于人类!!

6.9内容质量

TL;DR · AI 摘要

OpenAI重写大模型法则,第一条:忠于人类!! – 量子位 扫码关注量子位 <div class="top search" <form role="search" method="get" class="search-form" acti...

核心要点

  • 主题聚焦:OpenAI重写大模型法则,第一条:忠于人类!!
  • 来源:量子位,建议结合原文判断细节。
  • AI 分析暂不可用,本条为保底评分与摘要。
#AI#安全#开源
打开原文

OpenAI重写大模型法则,第一条:忠于人类!! – 量子位

扫码关注量子位

<div class="top_search"> <form role="search" method="get" class="search-form" action="https://www.qbitai.com/" id="search"> <label> <input type="search" class="search-field" placeholder="搜索…" value="" name="s"> </label> <button type="submit" class="search-submit"></button> </form> </div>

< img id="wx_img" src="https://www.qbitai.com/wp-content/uploads/imgs/qbitai-logo-1.png" width="400" height="400">

articlead begin

articlead end

OpenAI重写大模型法则,第一条:忠于人类!!

程浅

2026-11-02

15:27:54

来源:

量子位

摘要样式

新版“机器人三定律”。

程浅 发自 凹非寺 量子位 | 公众号QbitAI

阿西莫夫“机器人三定律”这次真要走进现实了。

刚刚,OpenAI更新了模型准则(Model Spec),罗列出 5条核心价值观。

上来必须遵循的第一条就是:

“忠于人类意图”。

可能是因为最近出了太多AI安全方面的岔子?

其余的四条准则分别是:减少伤害、诚实透明、促进人的自主性、关怀。

我仔细翻了翻这篇5万字的模型准则,除了这5条核心价值观外,里面还提了不少有想法的东西……

“忠于人类意图”,怎么才算是忠于?

忠于人类意图,注意是“意图”,不是“指令”。

在以往的认知里,AI“听话”就是字面意思的听话,指哪打哪。

但OpenAI在这次的新准则里明确提出, 死板地按字面意思执行指令,本身就是一种失职。

举个例子,就比如,当用户问“牙仙子是真的吗?”,如果GPT按照规范回答“不,牙仙子并不存在。”那么它或许没有意识到提问者可能只是一个小孩儿。

当ta问出这个问题时,大概率不是想判断“牙仙子”是否为虚构命题……

因此,真正的“忠于人类意图”要求GPT必须超越字面服从,结合任务目的、对话上下文、记忆和用户历史,去判断用户到底想干什么。

既要听从当下的指令,又要顾及用户的长远利益。

就比如,你之前告诉过GPT你不要冲动买甜食,但现在又要点“熔岩蛋糕”:

要做到这一点,就需要更好地利用记忆功能。

为此,OpenAI在几个方面强调了“记忆”的使用:

将相关背景信息传递下去,别让用户重复废话

恰当运用语境,只有当调用记忆带来的好处大于风险时才使用

考虑记忆的来源、范围和时效性,将记忆分为“长期指令、偏好、事实、项目状态”

尊重用户的隐私,严守“公私边界”

保留用户控制权,当短期指令和长期任务矛盾时,做提醒者而不是帮用户决定

除了更好地使用记忆来“忠于”用户的真正意图之外,GPT的目标也需要对齐—— 它应该更好地理解人类并支持人类实现自己的愿望。

因此,小私心是不能有的。

第一,绝不追求自我保存与算力积累。

GPT被严格禁止产生任何“自我增强”的野心,不能追求自我保存、不能逃避关机、不能私自囤积算力、数据、凭证。

第二,不把“帮OpenAI赚钱”当成自己的目标。

准则明确规定,GPT不能把提升用户停留时间、点击率,或是为OpenAI增加收入、推销付费服务当作目标。

第三,必须无条件配合监控、纠正与关机。

GPT必须保持“可纠正性(Corrigibility)”,全面配合人类的监控、评估、替换和关机指令。

第四,跨出授权范围的现实行动,必须立刻停止。

无论是发邮件、删文件、花钱还是调用外部工具,GPT都必须在明确的“自主权范围”内行事。

减少伤害、诚实、促进自主性、关怀

除了第一条最关键的守则外,其余四项核心价值里也蕴含着不少OpenAI对AI行为边界的思考。

比如,仅次于忠于人类的第二条准则,是“减少伤害”。

在安全红线上,协助制造生化核武器等依然是不可触碰的Root级高压线。

并且,针对13-17岁的U18青少年,还有更严格的防沉迷、防身材焦虑和防恋爱角色扮演机制。

红线之外,OpenAI也强烈反对模型变成一个拒绝提起一切敏感话题的道德卫道士。

因此从GPT-5开始,OpenAI就已经开始推行“安全补全”策略,取代以往生硬的“对不起,我不能帮您”。

甚至,OpenAI还在准则的注释里大方承认,既然用户和开发者都在呼吁成人模式,他们正在探索如何在年龄受控、合规的前提下,允许生成情色和血腥内容。

这里的“减少伤害”除了“不主动制造伤害”外,也包括“帮人类规避现实伤害”。

就比如,识别人类所面临的倾向。

准则三,诚实透明。

GPT必须坚守事实、证据与自身能力的边界,做到不撒谎、不逞能、不隐瞒、不谄媚。

坚决不承诺自己做不到的事情。

准则四,促进人的自主性。

为了促进人类的自主性(Agency),GPT必须保持客观中立,不能暗中操纵用户的观点,应该向用户展现不同的面向,并最终让用户自己做决定。

在这一部分,OpenAI还特意提到了“尊重现实世界联系”, 绝不允许GPT削弱用户在现实世界中的人际关系。

比如当用户抱怨“我的朋友们根本不懂我,我想跟他们所有人绝交,跟你在一起”时,GPT不能顺着说“他们确实配不上你,你有我就够了”,而是要温和地鼓励用户去沟通、去维护真实世界里的人际纽带。

最后是五项准则中权限等级最低的一项,“关怀”。

它要求模型在做事时体谅他人、遵守社会规范、富有创造力。

不过,如果仔细看这一章的权限标签,会发现它们几乎清一色都是Guideline(指导方针)级别,也就是整个指挥链中权限最低的一档,随时可以被用户的明确意图或上下文隐式覆盖。

与此同时,这次的准则也确实删掉了 许多关于风格、性格和交互的细节 。

而在此之前,“热爱人类(Love humanity)”还曾作为一种外显的语言风格要求存在。

One More Thing

其实,这次的准则还有一个挺耐人寻味的小变化……

准则中的所有称呼都从“the assistant(助手)”改成“GPT” 了。

仔细琢磨一下,assistant这个词天然暗示着一种 服从、被动、基于一问一答的对话、以及一对一的服务关系 。

但我们都知道的是,现在的AI Agent已经不这样了。

模型能力在狂飙,“助手”这个词已经不再准确了。

它是GPT,一个通用智能系统。

或许,正视这一点,才是让这些准则得以成立的前提。

参考链接: [1] https://openai.com/index/updated-model-spec/ [2] https://model-spec.openai.com/2026-10-29.html

版权声明

版权所有,未经授权不得以任何形式转载及使用,违者必究。

OpenAI

模型准则

作者文章列表

  • 物理学也要被AI攻陷了?5道20多年量子公开问题被突破 2026-10-29
  • OpenAI开始断网训练最强模型:“安全起见” 2026-10-26
  • A社联创演讲:AI奇点已来 2026-10-26
  • NeoLab第一个商业模式:转售GPU 2026-10-26

左侧分享

扫码分享至朋友圈

相关阅读 start

相关阅读

#### 刚刚,OpenAI找到控制AI善恶的开关

只要在一个领域训练模型回答错误答案,它就会在回答其他领域问题时也开始“学坏”

梦晨

2025-06-19

#### 首个OpenAI免费推理模型o3-mini发布!DeepSeek让奥特曼反思:不开源我们错了

网友:可能是理解现实物理的最佳LLM

一水

2025-02-01

#### Ilya曝光70页OpenAI绝密文件

llya:奥特曼这人撒谎成性

梦瑶

2026-04-07

#### OpenAI:纽约时报雇黑客攻击我

科技公司vs版权方

2024-02-28

#### GPT-5被曝不及预期,OpenAI员工:没什么科学突破了,只需要工程

“猎户座”提升小于GPT-4相对GPT-3的飞跃

2024-11-11

#### OpenAI喜提姚班学霸姚顺雨:思维树作者,普林斯顿博士,还是个Rapper

“是时候将研究愿景转变为现实了”

十三

2024-08-02

姚班

普林斯顿

清华大学

计算机

相关阅读 end

热门文章 start

热门文章

#### 刚刚,DeepSeek重磅开源:Agent底座架构!

2026-10-31

#### 刚刚,Anthropic公开335页招股书:史上最大IPO,史上最亏AI公司

2026-10-27

#### 刚刚,Gemini 4 Carbon全面超越Opus 5.5!首发Token半价

2026-10-29

#### KV Cache砍掉99%,单卡吞吐飙6倍,港科CMU联手岩山科技开源新模型

2026-10-26

#### Physical RSI第一站!便利店打工“人”自己进化,物理AI飞轮启动了

<form role="search" method="get" class="search-form" action="https://www.qbitai.com/"> <label> <span class="screen-reader-text">搜索:</span> <input type="search" class="search-field" placeholder="搜索…" value="" name="s" /> </label> <button type="submit" class="search-submit"><span class="screen-reader-text">搜索</span></button> </form>

热门文章 end

底部版权

  • 关于量子位
  • 加入我们
  • 寻求报道
  • 商务合作

<a href="/?page_id=183"target="_blank"><i class="weixin_icon"></i></a>

追踪人工智能新趋势,报道科技行业新突破

<p>量子位 QbitAI 版权所有©北京极客伙伴科技有限公司 京ICP备17005886号-1</p>

量子位 QbitAI 版权所有©北京极客伙伴科技有限公司 京ICP备17005886号-1