The Future of AI is Personal — But Not The Way You Think

AI的未来是个性化的——但并非你想象的那样

专家观点

AI的未来并非在于取代人类思维，而在于增强它。随着AI代理从简单的助手演变为深度连接的系统，控制权、隐私和个性化将塑造AI的下一个时代。Mozilla AI正致力于构建一个更加开放且由用户掌控的未来。

#### Daniel Nissani

2026年8月3日

—

4分钟阅读

写作是增强人类思维的基本工具之一，这是我在2023年ChatGPT爆火时经常提到的观点。当时我认识的每个人，同事、朋友、整个公司，似乎都在使用生成模型为自己撰写几乎所有内容。我曾担忧人类的未来：我们是否会允许技术剥夺批判性思维——这一对我们人性如此根本的能力？

我认为答案是否定的，但这并非因为缺乏尝试。社会并未达到某种清晰的临界点，而是生成模型尚未真正把握住时机。重复的写作风格，加上行业工作流程和个人生活中持续存在的幻觉风险，使得"AI将为你撰写一切"这一想法变得不再具有吸引力。更严重的是，提示注入攻击可能导致安全风险和敏感数据泄露。而公众，尤其是年轻人，对AI的态度已经明显恶化。

虽然我不认同《AI 2027》这篇文章的很多观点，但它对AI编码和研究代理的预测是正确的。这些代理在2025年底开始兴起，并持续主导市场到2026年。代理本质上是拥有工具访问权限的大语言模型，通过某种循环系统针对指定目标执行操作（通常由某个提示触发）。我记得这个概念最早出现在2023年的论文《ToolFormer》中，当时主要是为了解决幻觉问题。我们当时并未预料到，这将彻底改变我们与AI系统互动的预期方式。

我们不再需要请求特定信息并权衡对错误的容忍度，而是通过使用确定性工具来要求代理自动化任务。对我来说，这使生成模型回归到我们最初期望机器学习模型广泛实现的目标：自动化那些繁琐、耗时过长或需要耗费过多资源以至于人类难以愉快或高效完成的任务。当然，编码代理确实炙手可热，但Gemini与Google套件的深度整合，或Claude Design在获得内容大纲后生成惊艳幻灯片的功能同样极具价值。

但这也引发了更多问题。美国数据中心的争夺战将是一场艰难的较量，需要应对它们可能带来的环境和社会影响。微软取消Anthropic许可证，将员工转移到GitHub Copilot，这是转向自主基础设施以应对不断攀升的token成本的举措。Uber仅用4个月就耗尽了全部AI预算，这引发了公司内部对其AI使用策略的质疑。尽管我们普遍认为商业AI提供商仍在补贴其模型成本，但SpaceX、Anthropic和OpenAI的IPO公告使公众对AI的态度持续恶化。我认为这是因为人们希望对AI本身拥有更多控制权。

无论好坏，代理（agents）都已不可逆转地成为我们生活的一部分。它们很可能会像机器学习模型曾经承诺的那样，增强创造性工作并自动化那些繁琐、重复、高频率的任务。更重要的是，我认为代理将变得高度个性化，但这种个性化并非大多数人想象的方式。

我所说的个性化，不是指人们与生成模型建立深厚关系，也不是指代理掌握我们个人生活的无限具体信息。相反，这种个性化将体现在代理能够访问的系统上。你的代理是否能访问微软套件或谷歌套件？你的代理能否检查Slack并生成Notion上的对话摘要？在编码过程中，你的代理对开发者文档的解析能力如何？当拥有适当的访问权限时，代理是否能够捕捉到特定终端用户的使用模式？

我认为这就是为什么市场正在向我所说的“面向操作系统的AI”（AI for operating systems）方向汇聚。谷歌推出了Googlebook，展示了基于安卓系统的Gemini首款操作系统。英伟达开发了RTX Spark，不仅与苹果M系列芯片竞争，还创建了能够与微软Windows交互的代理。OpenShell提供了沙盒界面，允许你强制执行特定策略，例如是否允许代理读写文件。而Hermes则提供了一个能够与各种应用程序交互的代理，并将所有交互整合到一个记忆服务中。这些都表明了一种更深层次的转变：通过终端用户使用的应用程序和系统，提供更加个性化的代理体验，同时定义代理如何与这些连接进行交互。

当事实和数据不再是核心前提时，我们对错误的容忍度会大幅提高。如果核心前提是访问和连接，我们处理错误的方式将完全不同。不再关注AI系统是否事实正确或是否保留我们的声音，从而限制我们的容错能力。相反，重点将放在如何加速我们连接各种应用程序的过程，并整合这些信息。因此，人类的思维方式变得极其宝贵。它使我们能够调试代理工作流、修正合成过程中的错误，同时也能认识到为微小错误节省的时间。

因此，我们的隐私和控制权变得更加重要。这正是Mozilla.ai所做的事情的重要之处。Octonous提供了我们对人们如何通过代理连接工具的看法。Llamafile和Encoderfile设想了一个开放权重模型可以与商业模型竞争的现实，而无需牺牲隐私或控制权的成本。Otari是我们对人们如何在不同模型之间切换的愿景，并提供了一套控制方案，确保这些模型安全可靠地运行。cq为代理提供了一种共享错误循环解决方案路径的方式，从而使代理运行得更加高效。最重要的是，我们所有产品都重新将控制权交还给用户。他们可以自主选择所需的LLM、工具集成和知识单元来完成工作。

这是一个令人着迷的领域，许多赌注正在被下注。但在我看来，Mozilla.ai正在做出一个明智的赌注。尝试使用我们的技术栈，享受这段旅程吧。