社区

3 万字全文翻译，被披露的不只是内斗。

文丨贺乾明

翻译、校对丨GPT-4o、Claude-3.5-Sonnet、贺乾明

编辑丨 黄俊杰

过去 2 年

我很想听听，你如何评价我们过去 2 年在现有资源条件下的表现。以下是我的看法：

• 过去 5 年，业界只有两个重要的实用系统演示：AlphaZero [DeepMind] 和 Dota 1v1 [OpenAI]。（在研究人员中广受关注的 “技术突破” 突破更多，其中最具代表性的包括：ProgressiveGAN [英伟达]、无监督翻译 [Facebook]、WaveNet [DeepMind]、Atari/DQN [DeepMind]、机器翻译 [伊利亚，前 Google，现 OpenAI ]、生成对抗网络 [伊恩·古德费洛，学生时期开发，现 Google ]、变分自编码器（VAE） [德克·金马（Durk Kingma），学生时期开发，现 OpenAI]、AlexNet [伊利亚，学生时期开发，现 OpenAI ]）。按这个标准来衡量，我们的表现相当出色。

• 我们在 2016 年经历了快速扩张，2017 年逐步摸索出了一个有效的管理架构。现在只要有足够资源，我们就可以大规模扩张了。目前我们确实会因为薪资低导致人才流失，但基本上也仅限于薪资问题。我正在恢复早期的招聘方式，我相信结果能比之前更好。

• 我们的团队在这个领域人才密度最高，并因此享有声誉。

• 我们不鼓励写论文，所以论文录用率不是我们要改进的指标。对于安德烈发来的 ICLR 图表，我预计我们的（录用论文数）/（提交论文的人数）比率应该是该领域最高的。

-gdb

Re：Re：Re：顶级 AI 机构现状发件人：安德烈·卡帕西收件人：埃隆·马斯克时间：2018 年 1 月 31 日 23:54（周三）

很不幸，在 AI 前沿领域工作成本高昂。例如，DeepMind 在 2016 年的运营费用大约为 2.5 亿美元（不包括算力成本）。随着他们团队的扩张，现在可能每年约 5 亿美元。但 Alphabet 在 2016 年的净利润约为 200 亿美元，即使 DeepMind 没有收入，这些费用对于 Alphabet 的整体财务状况来说仍然相对较低。除了 DeepMind， Google 还有 Google Brain、Research 和 Cloud。还有 TensorFlow、TPU，他们在 AI 研究领域占据了约三分之一的份额（实际上，他们举办自己的 AI 会议）。

我也有强烈感觉，计算能力将是达到 AGI 的必要条件（甚至可能是充分条件）。如果历史趋势有参考价值，那么 AI 的进步主要由系统——计算能力、数据和基础设施——驱动。我们今天使用的核心算法自 1990 年代以来几乎没有重大变化。不仅如此，任何发表在论文中的算法进展，几乎都可以被立即复现并整合进现有系统。反过来说，单纯的算法进步如果没有足够的规模支持，也只是无力的存在，无法达到令人惊叹的效果。

在我看来，OpenAI 目前正在烧钱，而现有的融资模式无法达到可以与 Google（一个市值 8000 亿美元公司）真正竞争的规模。如果你们无法真正与其竞争，却继续以开放的方式研究，实际上可能会让情况变得更糟，等于 “免费” 帮助了他们。因为任何进展对他们来说都很容易复制并迅速大规模整合。

转向营利模式，可能会随着时间的推移创造出持续的收入来源，而且以当前团队的实力，可能会吸引大量投资。然而，从零开始打造一款产品会分散对 AI 研究的关注，这将耗费很长时间，同时尚不清楚公司是否能 “赶上”Google 的规模。而且投资者可能会在错误的方向上施加太多压力。

我之前提到过，我认为最有前景的选择是让 OpenAI 依附于特斯拉，将特斯拉作为 “现金牛”。我相信依附其他大公司（例如 苹果？亚马逊？）会失败，因为公司的 DNA 不兼容。用火箭的类比来说，特斯拉已经用 Model 3 的整个供应链、车载计算机和持续的互联网连接构建了 “第一级”。“第二级” 将是基于大规模神经网络训练的全自动驾驶解决方案，OpenAI 的专业知识可以显著加快这一进程。如果能够在大约 2-3 年内推出一个功能完善的全自动驾驶解决方案，我们可以卖出大量的汽车和卡车。如果我们做得非常好，交通行业足够大，我们完全可以将特斯拉的市值提升到大约 1000 亿美元或更高，并利用这部分收入为 AI 研究提供适当规模的资金支持。

我看不到其他方案，能在 10 年内达到 Google 级别的资本规模，而且是可持续的。

-安德烈

Re：Re：Re：Re：顶级 AI 机构现状发件人：埃隆·马斯克收件人：伊利亚·苏茨克维、格雷格·布洛克曼时间： 2018 年 2 月 1 日 3:52（周四）

[转发安德烈的邮件]

安德烈说得完全正确。虽然我们可能希望情况有所不同，但在我和安德烈看来，特斯拉是唯一一条可能勉强与 Google 相抗衡的道路。即便如此，成为 Google 的对手的可能性也很小。只是不为零。

AI 更新

新增参与者：

亚当·德安吉洛（Adam D'Angelo），Quora 创始人，2023 年 11 月与伊利亚等人联合驱逐阿尔特曼，目前仍在 OpenAI 董事会

主题：AI 更新发件人：希冯·齐里斯收件人：埃隆·马斯克抄送：山姆·泰勒时间： 2018 年 3 月 25 日 11:03（周日）

OpenAI

筹资：

• 不再采用 ICO 或 “预支购买算力” 这类方法。阿尔特曼正在设计一种新的方法，让 4～5 个对 OpenAI 感兴趣的大公司投资，如果 OpenAI 最终实现某种盈利的 AGI，回报上限为 50 倍。据说这些企业似乎愿意参与，仅仅是为了获取相关研究成果。他希望能和你更详细地讨论这个方案。

正式退出董事会：

• 按照规定，你仍然在董事会中，需要发一封简短的邮件给山姆·阿尔特曼，内容类似于：“通过此邮件，我正式辞去 OpenAI 董事职务，自 2018 年 2 月 20 日起生效。”

未来的董事会：

• 阿尔特曼说，他不介意我加入董事会，后面因利益冲突退出也没关系，但他担心其他人会将我退出视为 “断了后路”。我认为，目前最好的选择是先不要加入董事会，而是以一个模糊的顾问身份参与 OpenAI。如果你有不同意见，请告诉我。他们考虑亚当·德安吉洛（Adam D'Angelo）来接替你的位置，这看起来还可以？

特斯拉 AI

• 安德烈正在考虑三个候选人，其中一到两位可能会在周二前来与你见面。他将给你发送他们的简报。另外，他正在起草一份可能发布的文章初稿，周二可以一起讨论。这篇文章将沿用我们之前讨论过的 “全栈式 AI 实验室” 角度，但如果你觉得这个方向不合适，请及时调整 ...... 信息传达确实比较棘手。

Cerebras

• 他们计划在 8 月份测试芯片，计划 9 月向其他人开放远程访问。Cerebras 的那位还提到，最近许多客户对他们感兴趣，因为他们不满英伟达更改服务条款（迫使公司从消费级 GPU 转向企业级的 Pascal/Volta）。斯科特·格雷（Scott Gray，OpenAI 工程师） 和伊利亚继续与他们密切合作。

OpenAI 宪章

主题：OpenAI 宪章发件人：山姆·阿尔特曼收件人：埃隆·马斯克抄送：希冯·齐里斯时间： 2018 年 4 月 2 日 13:54（周一）

我们计划下周发布这个——有什么建议吗？

——

OpenAI 宪章

OpenAI 的使命是确保通用 AGI）——我们指的是在大多数有经济价值的创造性工作中表现超过人类的高度自主系统——能够惠及全人类。我们将尝试直接开发安全且有益的 AGI。如果我们的工作帮助他人实现这一目标，我们会认为我们的使命完成了。为此，我们承诺遵循以下原则：

利益广泛分配

我们承诺，利用我们部署 AGI 的任何影响力，确保其用于造福全人类，并避免 AI 或 AGI 用于损害人类或权力过度集中。我们首先要对人类负责。我们预计调动大量资源来完成使命。但我们始终会尽最大努力，减少员工和利益相关者之间的冲突，以免妨碍实现广泛的利益。

长期安全

我们承诺开展必要的研究，确保 AGI 的安全，并推动此类研究在整个 AI 社区广泛应用。我们担心后期的 AGI 开发可能演变为一场缺乏充分安全措施的竞争。因此，如果一个与我们价值观一致、注重安全的项目在我们之前接近开发出 AGI，我们承诺停止与其竞争，并转向协助该项目。我们将在具体情况下制定具体协议，但触发条件通常可能是 “在接下来的 2 年内成功的概率超过 50%”。

技术领导力

为了有效应对 AGI 对社会的影响，OpenAI 必须处于 AI 技术能力的最前沿——仅靠政策和安全倡导是远远不够的。我们相信，AGI 出现之前，AI 就会对社会产生广泛影响。因此，我们将努力在那些与我们的使命和专业能力相关的领域发挥领导作用。合作导向我们将积极与其他研究机构和政策机构合作，努力创建一个全球的合作社区，共同应对 AGI 带来的挑战。我们致力于提供有助于社会应对 AGI 发展的公共资源。目前，这包括发布我们的大部分 AI 研究成果，但我们预计，出于安全和保密的考虑，未来可能会减少传统研究成果的公开发布，同时更加看重分享与安全、政策和标准相关的研究成果。Re：OpenAI 宪章发件人：埃隆·马斯克收件人：山姆·阿尔特曼时间： 2018 年 4 月 2 日 14:45（周一）

没问题。

AI 更新（续）

新增参与者：

里德·霍夫曼 (Reid Hoffman)，Linkedin 联合创始人。因为投资了 OpenAI 竞争对手 Inflection AI 等，霍夫曼 2023 年 3 月退出 OpenAI 董事会。

加布·纽维尔（Gabe Newell），游戏开发者，OpenAI 的捐资人。

主题：AI 更新（续）发件人：希冯·齐里斯收件人：埃隆·马斯克抄送：山姆·泰勒时间： 2018 年 4 月 23 日 1:49（周一）

根据与阿尔特曼的对话更新了信息。你暂定周二与他见面。

融资：

• 他再次确认，他们绝不会采用 ICO，而是采用回报上限固定的股权架构。

• 这是一个相当独特的子公司融资架构，他希望向你详细解释。

• 他计划 4-6 周完成第一轮融资（可能主要由里德 [Reid] 的资金领投，可能还有一些企业投资）。

技术：

• 他说 Dota 5v5 的表现比预期的要好。

• Dota 机器人性能的迅速提升引发了内部人员的担心，他们认为 AGI 实现时间可能比之前预想得更早。

• 他们预计很快就会攻克 Montezuma's Revenge。

时间分配：

• 因为你退出董事会和一些因素，我已将大部分用在 OpenAI 的时间重新分配给 Neuralink 和特斯拉。如果你希望我投入更多时间在 OpenAI，请告诉我。

• 山姆和格雷格问我，是否愿意加入他们的非正式顾问委员会（目前只有加布·纽维尔）。潜在冲突较少，似乎比董事更合适？如果你觉得不合适，请告诉我你的意见。

OpenAI 更新

主题：OpenAI 更新发件人：山姆·阿尔特曼收件人：埃隆·马斯克时间： 2018 年 12 月 17 日 15:42（周一）

嗨，埃隆-

明年一季度，我们计划在完全开放的游戏环境举办最后一场 Dota 锦标赛，任何职业战队都可以参与角逐高额奖金。之后，我们将宣布无模型强化学习（Model-free RL）阶段完成，部分团队成员将使用基于模型的强化学习（model-based RL）方法重新攻克 Dota 1v1。

同样在一季度，我们计划发布几个机械手演示项目——魔方、转笔特技和健身球。新任务的学习速度应该会非常快。年底时，我们将尝试在两个机械臂上各安装一个机械手，看看会有什么效果 ......

我们在语言方面也取得了快速进展。我希望明年我们能够生成短篇故事，并开发出一个优秀的对话机器人。

████████████████████████████████████████████████████████████████████████████我们希望通过无监督学习来开发模型，使其能够完成一些高难度任务。比如在图像分类时不会犯人类从来不犯的错误 —— 在我看来，这意味着模型需要具备某种程度的概念理解能力。

我们在多智能体方面也取得了不错的进展：多个智能体现在已经能够协作建造简单的结构、进行激光对战等。

同时，我正在推进一项计划，将我们的计算资源从 Google 迁移到微软（补充我们自有数据中心）。

另外，我也很乐意讨论融资（即便采取激进的增长策略，我们目前的资金也足够支撑接下来约 2 年的发展）和不断迭代的硬件规划。不过这两个话题最好不要通过邮件讨论，也许下次你来 Pioneer 时我们可以当面聊？

Re：OpenAI 更新发件人：埃隆·马斯克收件人：山姆·阿尔特曼时间： 2018 年 12 月 17 日 15:47（周一）

没问题，我们可以周三晚上在旧金山见面。

我觉得应该重申一下

主题：我觉得应该重申一下（OpenAI 披露）发件人：埃隆·马斯克收件人：伊利亚·苏茨克维、格雷格·布洛克曼抄送：山姆·阿尔特曼时间： 2018 年 12 月 26 日 12:07（周三）

如果不大幅度提高执行力和资源，我估计 OpenAI 与 DeepMind/Google 的竞争中跟上节奏的概率是 0%，不是 1%。我真希望情况不是这样。

就算是筹集几亿美元也不够。现在就需要每年投入数十亿美元，否则一切都无法实现。

不幸的是，人类的未来掌握在 <****> 手中。

[文章链接]

█████████

他们做的远不止这些。

OpenAI 让我想起贝佐斯和蓝色起源。他们远远落后于 SpaceX，而且差距还在不断扩大，但贝佐斯的自负让他荒谬地认为并非如此！（注：OpenAI 披露了两次这封邮件，第一次披露时把这段话隐去了。）

我真的希望自己是错的。

埃隆

2019 年及之后：OpenAI 正式组建营利实体 - 马斯克凌晨 3 点发来短信

OpenAI

新增参与者：

苏·尹（Sue Yoon），Google X 机器人项目负责人，2019 年退出 OpenAI 董事会。

和塔莎·麦考利（Tasha McCauley），Fellow Robots 联合创始人，2023 年 11 月与伊利亚等人联合驱逐阿尔特曼，失败后退出 OpenAI 董事会

主题：OpenAI发件人：山姆·阿尔特曼收件人：埃隆·马斯克抄送：山姆·泰勒、希冯·齐里斯时间： 2019 年 3 月 6 日 15:13（周三）

埃隆—

这是我们计划在下周一发布的文章草稿。有需要补充或修改的地方吗？

要点：

• 我们创建了 “有回报上限的公司”，并完成了首轮融资，由里德和维诺德（Vinod Kholsa）领投。

• 我们明确告知所有投资者，他们永远不该期望获得回报。

• 我们任命格雷格为新实体的董事长，我担任 CEO。

• 我们已经与潜在的下一轮投资者沟通了这个架构，他们似乎很感兴趣。

说到最后一点，我们正在讨论一笔数十亿美元的投资，我希望在你有空时得到你的建议。你来湾区时，我很乐意过来见你。

山姆

文章草稿我们成立了 OpenAI LP，这是一家 “回报封顶” 的新公司，使我们能够迅速增加算力和人才的投资，同时设置制衡机制来实现我们的使命。我们的使命是确保通用人工智能（AGI）惠及全人类，主要通过努力开发安全的 AGI 并与世界共享成果来实现。由于该领域算力投资呈指数级增长，我们需要比最初创办 OpenAI 时规划的扩张速度更快。我们预计未来几年需要筹集数十亿美元，用于大规模投资云计算、吸引和留住优秀人才，以及建设 AI 超级计算机。作为非营利组织，我们无法筹集到如此大规模的资金。尽管我们曾考虑转为营利模式，但担心这会让我们放弃自己的使命。因此，我们成立了一个新公司 OpenAI LP，是营利与非营利的混合体——我们称之为 “回报封顶” 公司。OpenAI LP 的基本理念是，如果我们实现使命，投资者和员工可以获得固定回报，这使我们能够像初创公司一样通过股权吸引投资者和员工。但超出固定回报的收益——如果我们成功，我们将创造比投资者或员工应得金额大得多的价值——将归 OpenAI 非营利机构所有。未来（在本文和其他地方），“OpenAI” 指 OpenAI LP（目前雇佣了我们的大部分员工），而原始实体称为 “OpenAI Nonprofit”。使命至上我们设计 OpenAI LP 的初衷，是将整体使命——确保创造和应用安全且有益的 AGI——置于投资者回报之上。为了最大限度减少利益与使命冲突，OpenAI LP 的首要责任是推进 OpenAI 宪章的目标，公司由 OpenAI 非营利机构的董事会控制。所有投资者和员工都签署协议，明确 OpenAI LP 优先对宪章负责，即使这可能牺牲部分或全部财务权益。我们的员工和投资者相关文件开头是这样的：主要合伙人指 OpenAI 非营利机构（正式名称为 “OpenAI Inc”）；有限合伙人指投资者和员工。仅少数董事会成员可以在合伙企业中持有财务权益。此外，有限合伙人利益与非营利使命可能发生冲突，以及任何有关向投资者和员工支付回报时，只有不持有此类财务权益的董事会成员才能投票决策。公司架构我们的文件中还有一项条款规定，非营利机构保留对公司的控制权。（文件中使用了 OpenAI LP 的正式名称 “OpenAI, L.P.”）如上所述，投资者和员工的经济回报是有上限的（这一上限会和每位有限合伙人事先协商确定）。超过上限的回报将归非营利机构所有。我们的目标是确保，如果成功，我们创造的大部分价值能回馈世界，因此我们认为这是重要的第一步。第一轮投资者的回报上限设定为投资金额的 100 倍，我们预计未来轮次的回报倍数上限会降低。OpenAI 做什么我们的日常工作保持不变。如今，我们相信专注于开发新的 AI 技术，而非商业产品，是我们创造最大价值的方式。我们的架构为未来长期盈利提供了灵活性，但我们希望在实现安全的 AGI 之后再来探索这一问题（不过，在此期间，我们对一些不影响专注的收入来源持开放态度，诸如专利许可授权等）。OpenAI LP 目前有大约 100 名员工，分为三个主要方向：技术能力（推动 AI 系统功能发展）、安全保障（确保这些系统符合人类价值观）和政策治理（确保适当治理这些系统）。OpenAI 非营利机构负责监管 OpenAI LP 开展 Scholars 和 Fellows 等教育项目，并主办政策倡议活动。OpenAI LP 正在加速推进由 OpenAI 非营利机构启动的发展路线图，该路线图已在强化学习、机器人技术和语言领域取得了突破性成果。安全我们担忧 AGI 可能会快速引起变化——可能是机器追求操作者设定的错误目标、坏人操控已部署的系统，或者是经济增长失控未能改善人类生活。如我们在宪章中所述，为了避免因竞争而难以优先考虑安全问题，我们愿意与一个价值观一致的组织合并，即使这可能导致投资者的回报减少甚至归零。参与者OpenAI 非营利机构的董事会包括 OpenAI LP 的员工格雷格·布洛克曼（董事长兼 CTO）、伊利亚·苏茨克维（首席科学家）和山姆·阿尔特曼（CEO），以及非员工成员亚当·德安吉洛、霍尔登·卡诺夫斯基、里德·霍夫曼、苏·尹和塔莎·麦考利。埃隆·马斯克于 2018 年 2 月退出 OpenAI 非营利机构董事会，与 OpenAI LP 无关。我们的投资者包括里德·霍夫曼和 Khosla Ventures。我们正走在一条艰难而充满不确定的道路上，但我们设计了我们的架构，帮助我们在成功创造 AGI 时对世界产生积极影响。如果你想帮助我们实现这一使命，我们正在招聘 :)！

彭博社：埃隆·马斯克共同创立的 AI 研究组织组建营利部门

主题：彭博社：埃隆·马斯克共同创立的 AI 研究组织组建营利部门发件人：埃隆·马斯克收件人：山姆·阿尔特曼时间： 2019 年 3 月 11 日 15:04（周一）

请明确说明，我与 OpenAI 的营利部门没有任何财务上的关系。

——

埃隆·马斯克共同创立 AI 研究组织组建营利部门

彭博社

总部位于旧金山的 AI 研究组织 OpenAI，由埃隆·马斯克及几位硅谷知名企业家共同创立，正在组建一个营利部门，以便筹集更多资金。[点击阅读完整报道。]

通过 Apple News 分享

Re：彭博社：埃隆·马斯克共同创立的 AI 研究组织组建营利部门发件人：山姆·阿尔特曼收件人：埃隆·马斯克时间： 2019 年 3 月 11 日 15:11（周一）

正在处理。

短信交流记录

短信交流记录（OpenAI 披露）参与人：山姆·阿尔特曼、希冯·齐里斯时间：2022 年 10 月 23 日（周日）

山姆·阿尔特曼（8:07）：

这是埃隆发来的，你有什么建议？

图中是凌晨 3:06 分发来的一连串信息：“我是埃隆”“新的奥斯汀号码”“看到 OpenAI 估值达到 200 亿美元，我很不安。事实上，我提供了几乎所有的种子轮、A 轮和大部分 B 轮资金。”“[新闻报道链接]”“这是诱骗和欺诈”

你之前给他提供过股权，但他拒绝了，对吧？我不知道他说的 A 轮和 B 轮是什么意思

希冯·齐里斯：

问题到底在哪还不太明确。可能是因为没有获得股权，或者是大家仍觉得这是他最初投资的那个机构（叫 OpenAI），又或者只是对发展方向有分歧当时确实向他提供过，但他拒绝了。我不记得最后具体是怎么决定的。如果我没记错的话，你应该在某个时候直接问过他？如果你想了解更多背景信息可以打电话，但我建议不要立即回短信。

山姆·阿尔特曼（21:13）：

如果你有空的话，能快速看一下吗？我理解这感觉确实不好——当我们设立有盈利上限的实体时就向你提供过股权，当时你不想要，但如果你现在想要的话，我们依然很乐意给你。考虑到我们需要的资金量，以及为了保持 “将 AGI 交给人类” 的这条路，除了设置利润上限这个方案，我们没找到其他选择。而且这个方案还允许董事会在安全需要时撤销所有股权。顺便说一下，我个人没有任何股权，从来都没有。我正在尽最大努力在这个棘手的局面中寻找平衡，随时都很乐意和你讨论怎样才能做得更好。也很想向你展示最近的进展。

山姆·阿尔特曼（22:50）：

(我发送了)收到回复：我这周大部分时间会在旧金山处理收购 Twitter 的事。我们周二或周三谈吧。

希冯·齐里斯：

抱歉睡着了！这几天太忙了。好的

题图来源：Y Combinator

OpenAI 第一次公布的邮件：

https://openai.com/index/openai-elon-musk/

马斯克起诉书公布的邮件：

https://www.courtlistener.com/docket/69013420/musk-v-altman/

马斯克起诉书公布的邮件，lesswrong 整理版：

https://www.lesswrong.com/posts/5jjk4CDnj9tA7ugxr/

OpenAI 第二次公布的邮件和短信记录：

https://openai.com/index/elon-musk-wanted-an-openai-for-profit/