我无聊的时候哄小孩的_老虎社区_美港股上老虎

大王不高興
2023-11-11

我无聊的时候哄小孩的军事科幻小说被谁乱改乱剥夺版权的呢？[开心] [开心] [财迷] [财迷] 老乡见老乡，两眼泪汪汪么，生死两茫茫[无语]

Lex Fridman对话马斯克：宇宙可能只是一个巨大的计算机模拟；GPU集群与人脑相比还有6个数量级的差距

马斯克认为，到目前为止 AI 之所以取得了今天的成就，主要是通过强大的计算和大量的能量投入，但这并不是它的终点。Lex Fridman：这里有一个相关问题，那就是随着智力的提高，对这些暴力本能的控制也更大。Lex Fridman：罗马人有正义战争的概念，但在黑猩猩社会中没有正义战争，只有必要手段的战争和统治。Lex Fridman：部署善行。Lex Fridman：这最终会对抗该地区的普遍仇恨。Lex Fridman：让我继续谈谈战争。

Lex Fridman对话马斯克：宇宙可能只是一个巨大的计算机模拟；GPU集群与人脑相比还有6个数量级的差距

免责声明：上述内容仅代表发帖人个人观点，不构成本平台的任何投资建议。

推荐
最新

暂无评论

热议股票

关于我们·老虎社区守则·老虎社区账号管理规范·老虎社区服务协议·老虎社区隐私政策

公司名称：北京至简风宜信息技术有限公司

违法和不良信息投诉：010-5681-3562（工作时间9:30-18:30）

邮箱：service@laohu8.com

营业执照：91110105MA01A4U55R

ICP备：京ICP备18016422号

网安备：京公网安备11010502036490

关注我们

{"i18n":{"language":"zh_CN"},"data":{"magic":2,"id":240331173572664,"tweetId":"240331173572664","gmtCreate":1699693183462,"gmtModify":1699747701576,"author":{"id":4141439516825200,"authorId":4141439516825200,"authorIdStr":"4141439516825200","name":"大王不高興","avatar":"https://static.tigerbbs.com/40bb7cddb798c0c6a8244e8f4b7e79a4","vip":1,"userType":1,"introduction":"","boolIsFan":false,"boolIsHead":false,"crmLevel":1,"crmLevelSwitch":0,"individualDisplayBadges":[],"fanSize":0,"starInvestorFlag":false},"themes":[],"images":[],"coverImages":[],"html":"<html><head></head><body>我无聊的时候哄小孩的军事科幻小说被谁乱改乱剥夺版权的呢？[开心]&nbsp;&nbsp;[开心]&nbsp;&nbsp;[财迷]&nbsp;&nbsp;[财迷]&nbsp;&nbsp;老乡见老乡，两眼泪汪汪么，生死两茫茫[无语]&nbsp;&nbsp;</body></html>","htmlText":"<html><head></head><body>我无聊的时候哄小孩的军事科幻小说被谁乱改乱剥夺版权的呢？[开心]&nbsp;&nbsp;[开心]&nbsp;&nbsp;[财迷]&nbsp;&nbsp;[财迷]&nbsp;&nbsp;老乡见老乡，两眼泪汪汪么，生死两茫茫[无语]&nbsp;&nbsp;</body></html>","text":"我无聊的时候哄小孩的军事科幻小说被谁乱改乱剥夺版权的呢？[开心] [开心] [财迷] [财迷] 老乡见老乡，两眼泪汪汪么，生死两茫茫[无语]","highlighted":1,"essential":1,"paper":1,"likeSize":0,"commentSize":0,"repostSize":0,"favoriteSize":0,"link":"https://laohu8.com/post/240331173572664","repostId":2382076400,"repostType":4,"repost":{"id":"2382076400","pubTimestamp":1699685061,"share":"https://www.laohu8.com/m/news/2382076400?lang=&edition=full","pubTime":"2023-11-11 14:44","market":"hk","language":"zh","title":"Lex Fridman对话马斯克：宇宙可能只是一个巨大的计算机模拟；GPU集群与人脑相比还有6个数量级的差距","url":"https://stock-news.laohu8.com/highlight/detail?id=2382076400","media":"有新Newin","summary":"马斯克认为，到目前为止 AI 之所以取得了今天的成就，主要是通过强大的计算和大量的能量投入，但这并不是它的终点。Lex Fridman：这里有一个相关问题，那就是随着智力的提高，对这些暴力本能的控制也更大。Lex Fridman：罗马人有正义战争的概念，但在黑猩猩社会中没有正义战争，只有必要手段的战争和统治。Lex Fridman：部署善行。Lex Fridman：这最终会对抗该地区的普遍仇恨。Lex Fridman：让我继续谈谈战争。","content":"<html><head></head><body><blockquote>马斯克认为，到目前为止 AI 之所以取得了今天的成就，主要是通过强大的计算和大量的能量投入，但这并不是它的终点。</blockquote>周五，MIT 科学家 Lex Fridman 与马斯克展开了第 4 次对谈，这最新的节目中他们讨论了人类、哲学、游戏竞技、经济、战争、社交媒体、AI、<a href=\"https://laohu8.com/S/300024\">机器人</a>以及短期 2～3 年的趋势等多个领域的话题。对于 AI 以及机器人，马斯克表示我们的大脑非常计算高效，非常节能，仅有不到 10 瓦的高级大脑功能，不包括用于控制身体的东西，我们大脑的思考部分少于 10 瓦，这 10 瓦的能量仍然可以产生比 10 兆瓦的 GPU 集群更好的小说，所以这里有 6 个数量级的差距。马斯克认为，到目前为止 AI 之所以取得了今天的成就，主要是通过强大的计算和大量的能量投入，但这并不是它的终点。通常情况下，对于任何给定的技术，首先要使其工作，然后再进行优化，所以我认为随着时间的推移，这些模型会变得更小，能够在更少的计算和能量消耗下产生合理的输出....以下为这期 Lex 与马斯克对话的全部内容，enjoy～<h2 id=\"id_327257607\">对话全文</h2>Lex Fridman： 这是我和 Elon Musk：的第四次对话，也是我在 Lex Friedman 播客上的对话。我以为你会完成它？这是电影史上最伟大的主题之一。我刚才在想罗马帝国。Elon Musk： 至少每个男人每天都会想到罗马帝国的那个梗。Lex Fridman：一天一次，一半的人口对此感到困惑，不知道这是真的还是假的，但更认真地说，我在思考当今世界上正在发生的战争。如你所知，战争和军事征服一直是罗马社会和文化的重要组成部分，而且我认为这在人类历史上的大多数帝国和朝代中都是一个重要部分。Elon Musk： 他们通常是由征服而产生的。我的意思是，有些像奥匈帝国那样，只是通过很多聪明的婚姻联盟。Lex Fridman： 从根本上说，征服是一种动力，他们庆祝战争中的卓越成就，许多领导者都是出色的将军，诸如此类，所以这是一个好问题，至少在有趣模式下是这样。你认为战争是人类天性的一部分，还是人类社会结构的后果？我这样问是因为你有些争议地一直是和平的支持者。Elon Musk： 我通常支持和平。我的观点是，无知是我们真正的敌人，这才是真正困难的部分，而不是与其他人类作战，但所有生物都会战斗，你看人们可能认为大自然是某种和平的事物，但事实上并非如此，在丛林中基本上每个方向都是谋杀和死亡，我的意思是丛林中的植物和动物每天每分钟都在试图彼此杀害，所以我们在这方面并不罕见。Lex Fridman：这里有一个相关问题，那就是随着智力的提高，对这些暴力本能的控制也更大。Elon Musk：时代，我们比如黑猩猩更容易控制我们对暴力的渴望。事实上，如果看看黑猩猩社会，它并不友好。我的意思是，倭黑猩猩是个例外，但黑猩猩社会充满了暴力，而且坦白说，那是大脑边缘系统的作用，你不想站在黑猩猩的对立面，它们会咬掉你的脸，甚至扯掉你的蛋蛋。Lex Fridman：罗马人有正义战争的概念，但在黑猩猩社会中没有正义战争，只有必要手段的战争和统治。Elon Musk： 黑猩猩社会是人类社会的原始版本，它们根本不是爱好和平的，暴力极端，有时候有人看了太多<a href=\"https://laohu8.com/S/DIS\">迪士尼</a>电影，决定把黑猩猩当宠物养，然后黑猩猩就咬掉了他们的脸，那种事情已经发生过好几次了，这种事情发生在一些人身上，很不幸。Lex Fridman：就像我说的，有些争议地，你在 Twitter 上和其他地方一直是和平的支持者。让我问你关于当今正在进行的战争，以及实现和平的路径，你希望以色列和加沙当前的战争如何结束？你认为在那个地区减少长期人类痛苦的路径是什么？Elon Musk： 认为那个地区绝对是，如果你查一下词典中“没有简单答案”的定义，会看到中东，特别是以色列的图片，所以没有简单的答案。或者我的意见是，哈马斯的目标是激起以色列的过度反应。他们显然不期待军事胜利，但他们真的希望犯下他们能犯下的最恶劣的暴行，以引发以色列尽可能激烈的回应。然后利用这种激烈的回应来动员全世界的穆斯林支持加沙和巴勒斯坦的事业，他们在这方面已经成功了。这里的反直觉之处，我认为应该做的事情，即使这很困难，是我建议以色列进行尽可能显眼的善行。每一部分，每件事都是实际上破坏哈马斯目标的东西。Lex Fridman：在某种意义上，如果在地缘政治中有意义，就是实施“以德报怨”。Elon Musk：这不完全是“以德报怨”，因为我确实认为以色列找到哈马斯成员并杀死他们或把他们阉割是适当的。像这种事情必须做，否则他们就会一直来，但除此之外，他们需要尽其所能。例如，有人谈论建立一个移动医院。我建议这样做。只是确保有食物、水、医疗必需品。而且要非常夸张地做，并且非常透明，以至于你的猫咪可以一直盯着那个网络摄像头。Lex Fridman：部署善行。Elon Musk： 这些善行是明确无误的，意味着不能以某种方式被哈马斯所诈骗，所以你必须对付他们的诡计。Lex Fridman：这最终会对抗该地区的普遍仇恨。Elon Musk： 是的。我不确定是谁说的。这是一句名言，但“以眼还眼，最终让所有人都瞎了”。现在，那个地区的话，他们真的相信“以眼还眼”，但我的意思是，如果你不打算对一个整体民族进行种族灭绝，显然这对任何人都不应该是可接受的，那么你基本上会留下很多恨以色列的人，所以真正的问题是，你杀死一个哈马斯成员，你创造了多少个？如果你创造的比你杀死的还多，你就没有成功。那就是真正的情况。可以肯定地说，如果在加沙杀死一个人的孩子，至少会有几个哈马斯成员会去杀以色列人。这就是情况，但我的意思是，这是可以讨论的最有争议的话题之一，但我认为，如果最终的目标是某种长期的和平，就必须从长远来看，恐怖分子的数量是增多还是减少？Lex Fridman：让我继续谈谈战争。Elon Musk： 可以肯定地说，战争曾经存在，将来也将存在。总会有战争，问题只是战争的程度和规模，但我提到“未来不再有战争”，我认为这是一个非常不可能的结果。Lex Fridman：你谈到了《雪崩》中的虚构世界“文化”，那里甚至也有战争。Elon Musk： 用巨大的战争开始，第一本书就是以一场巨大的银河系战争开始，有数万亿人死亡，数万亿。Lex Fridman：它仍然保护了这些繁荣的小口袋，不知何故，你可以有银河系的战争，仍然有繁荣的小口袋。Elon Musk： 我的意思是，如果我们有一天能够扩展到银河系或其他地方，那里将会有银河系的战争，那是一个词。Lex Fridman：战争的规模一直在增加，就像苦难的规模和繁荣的规模之间的竞赛，许多人似乎正在利用这场悲剧来敲打战争的鼓，喂养军工复合体，你担心那些支持升级的人吗？如何阻止？Elon Musk： 我担忧的一件事是，现在活着的人中很少有人能真正感同身受地理解战争的恐怖。至少在美国是这样，显然，在乌克兰和俄罗斯前线的人们知道战争有多么可怕，但西方有多少人真的理解呢？我的祖父参加了第二次世界大战，他遭受了严重的心理创伤。他在东北非和意大利战场上待了将近六年，所有的朋友都在他面前被杀害。他们本来会把他送上前线，但他们随机做了一次智商测试，他的成绩很高。尽管如此，他因为没有完成高中学业——他不得不辍学，因为他的父亲去世了，他必须工作来养活他的兄弟姐妹——所以没有资格加入军官团，被归类为炮灰。后来，他因为这次测试被转到了伦敦的英国情报部门。那是他遇到我祖母的地方，但他患有严重的创伤后应激障碍，他几乎不说话，如果你试图和他交谈，他只会让你闭嘴。他获得了许多勋章，但从不炫耀，甚至没有暗示。我是从他的军事记录上发现这些的，他会说绝对不要再经历那样的事情，但现在他已经去世20年甚至更久，30年前，还有多少人记得第二次世界大战呢？Lex Fridman： 这也许同样适用于核战争的威胁。Elon Musk： 我的意思是，足够多的核弹头指向美国，可以多次将其变成放射性废墟。Lex Fridman：现在有两场重大战争正在进行。你谈到了 AI 的威胁，但现在随着冲突的加剧，你担心核战争吗？Elon Musk： 我认为我们不应该忽视核战争的可能性，这是对文明的威胁。现在，我可能错了，但我认为核战争的当前可能性相当低，有很多核武器指向我们，我们也有很多核武器指向其他人，它们还在那里，没有人把它们收起来，那些导弹仍然在发射井中。Lex Fridman：而且拥有核武器的领导人似乎并不在彼此交谈。Elon Musk： 是的。有些战争在地方层面上是悲惨和困难的，而另一些战争则有可能终结文明。显然，全球范围的核战争很可能结束文明，或许是永久性的，但肯定会严重创伤，甚至可能使人类进步倒退到石器时代。这样的情况下，科学家和工程师可能也不会很受欢迎，你们把我们带入了这个困境，所以一般来说，我认为我们也应该优先考虑对文明构成威胁的事情，而不是那些在地方层面上痛苦和悲惨，但不是文明性的事情。Lex Fridman：你希望乌克兰战争如何结束，以及再次减少人类痛苦的路径是什么？Elon Musk：我认为可能发生的事情，也就是现在的情况，是停火或和平的线条会非常接近目前的线条，但现在的情况是，无论哪一方发起进攻，都会遭受几倍于防守方的伤亡。因为你有深层防御，有地雷阵、战壕、反坦克防御。没有一方拥有空中优势，因为防空导弹远比飞机更先进，所以双方都没有空中优势。坦克基本上是移动缓慢的死亡陷阱，它们不是反坦克武器的免疫，所以你真的只有远程火炮和战壕中的步兵。这就是第一次世界大战的再现。撤退、向对方扔旧炮弹。Lex Fridman：这使得远程火炮更加精准、高效，更有效地在双方造成伤亡。Elon Musk： 是的，无论哪一方，你都不想尝试前进，因为死亡的可能性极高。为了克服深层防御的战壕和地雷阵，你真的需要在局部拥有显著的数量优势。理想情况下，是结合运作的快速攻击，如飞机、一大群坦克和大量人员。这是你突破防线的唯一方式，然后你得突破，并且不让增援部队马上把你赶出去。我的意思是，我真的建议人们详细阅读一下第一次世界大战的战争，那是很残酷的。那里死亡的人数令人难以置信。Lex Fridman：很难想象这场战争的结局不会和开始时一样，就土地归属等问题而言几乎没有任何变化，但在此过程中，会有大量的人类痛苦、死亡和基础设施的破坏。Elon Musk：是的。我之所以一年前提出某种停战或和平方案，是因为我预测了几乎完全相同的结果，那就是为了几乎没有土地变化而导致大量人员死亡。这就是乌克兰和俄罗斯青年的损失。我们应该对俄罗斯的男孩也有同情，就像对乌克兰的男孩一样，因为那些俄罗斯男孩并没有要求站在前线。他们被迫去的。很多孩子再也回不到他们父母身边了。我认为他们中的大多数并不真正了解。另一方面，有一句谚语来自第一次世界大战：不相识的年轻人代表相互认识的老人互相残杀，那有什么意义呢？Lex Fridman：泽连斯基曾表示，他过去不感兴趣，或者不愿意直接与普京对话，你认为他应该坐下来，面对面地和领导人谈判和平吗？Elon Musk： 我建议不要送乌克兰的青年去战壕中送死，无论是否与普京谈判，都不要这么做。无论哪一方发起进攻，都会损失大量人员，历史不会善待他们。Lex Fridman：你坦诚地谈到了美国和中国之间可能发生战争的可能性，如果在台湾问题和一个中国政策上找不到外交解决方案的话。那么，我们如何避免这两个超级大国发生冲突的轨迹呢？Elon Musk： 值得一读的是《修昔底德陷阱》这本书，我非常喜欢战争历史，几乎反复研究过每一场战役，并试图弄清楚真正的胜利原因，而不是一方或另一方声称的原因。Lex Fridman： 无论是胜利还是战争的爆发和整个过程。Elon Musk： 是的，所以雅典和斯巴达就是一个典型案例。想想希腊人，他们真的写了很多东西，他们喜欢写作。世界上许多地方发生了很多有趣的事情，但人们没有记录下来，所以我们不知道发生了什么，或者他们没有详细地写。他们只会说，我们进行了一场战斗，我们赢了，还能加点什么吗？希腊人真的写了很多。他们非常善于表达。我们保存了很多那样的文字，所以我们知道导致伯罗奔尼撒战争的原因，即斯巴达和雅典联盟之间的战争。我们知道，他们看到了即将到来的战争。斯巴达人没有写很多东西。他们本性上不是很健谈，但他们确实写了东西，但他们很简洁。雅典人和其他希腊人写了很多，他们像这样说：斯巴达本是希腊的领袖，但雅典每年都变得越来越强大，每个人都认为雅典和斯巴达之间的冲突不可避免。我们怎样才能避免这种冲突呢？他们不能。他们看到了即将到来的战争，但仍然无法避免。如果一个群体、文明或国家超越了另一个，从经济角度来看，美国自 1890 年左右以来一直是世界上最强大的经济体。美国是世界上最强大的经济引擎，比任何人都活得久。战争的基础是经济。现在，以中国为例，其经济规模可能是美国 2～3 倍，想象一下，你原来是街头最强壮的孩子，然后现在突然出现了一个孩子，他体型是你的 2 倍。Lex Fridman：我们看到了即将到来的冲突，如何才能避免？让我提出一个想法，就是文化的交融和理解？似乎在彼此之间存在着巨大的文化鸿沟。你是一个有趣的案例，因为你是美国人。显然，你在美国做了很多不可思议的制造业，但你也在中国工作。Elon Musk：我在中国待了很长时间，并且多次与领导层会面。Lex Fridman：也许一个好问题是，关于中国有些什么东西是人们不了解的？从文化角度看，有哪些积极的、有趣的事情你学到了？Elon Musk： 中国有大量聪明、勤奋的人，这一点令人难以置信。有多少聪明、勤奋的人在中国？他们比这里多得多。我认为中国可能是从能源角度看最不缺的。中国近年来的建筑比美国更令人印象深刻，无论是火车站、建筑还是高速铁路。真的比我们在美国所拥有的更令人印象深刻。我建议有人去上海和北京看看那些建筑，坐火车从北京到西安，那里有兵马俑。中国有令人难以置信的悠久历史。我认为中国可能是从文字使用的角度来看，最古老的，或许是最古老的文字。而且中国人确实记录了事情。所以，从历史上看，中国总是以内部为重。他们不是征服型的。他们打过彼此，发生过许多内战。在三国战争中，我相信他们损失了大约 70% 的人口。他们发生过残酷的内战，与美国内战相比简直微不足道。所以我认为重要的是要认识到中国并不是单一的。我们通常将中国视为一个思想统一的实体，但根据我所见，这绝对不是事实，我认为大多数了解中国的人都会同意，中国人想到中国的次数是他们想到中国以外事物的 10 倍，所以他们 90% 的考虑都是内部的。Lex Fridman：当你谈论合作以及超级大国之间的未来和平时，面向内部不是一件非常积极的事情吗？这就像是专注于提升自己，而不是通过军事力量所谓的提升他人。Elon Musk： 好消息是，中国的历史表明，中国并不是好战的，意味着他们不会出去侵略一大堆国家。我对此有很强烈的感觉，所以这是好事，因为许多非常强大的国家都是好战的。美国也是少有的几个不好战的国家之一，比如二战后，美国本可以基本上接管世界和任何国家。我们有核武器，别人没有核武器。我们甚至不需要牺牲士兵。你想要哪个国家？美国本可以占领一切，但实际上并没有。美国实际上帮助了许多国家重建，李如欧洲和日本。这是非常不寻常的行为，几乎是史无前例的。美国做了一些显著的善举，比如柏林空运，我认为总有人说，美国做了坏事。当然，美国做了坏事，但人们需要看整个记录。一般来说，一个测试标准是，你是如何对待你的战俘的？或者说，不是冒犯俄罗斯人，但假设你在 1945 年的德国，你一边有俄罗斯军队，另一边有法国、英国和美国军队，你愿意被哪一方俘虏？没有哪个国家是道德完美的，但我强烈推荐成为美国的战俘。Lex Fridman：在战俘的完整菜单中。Elon Musk： 非常多。实际上，党卫队接到命令要处决布朗和所有德国的认识者，他们侥幸逃脱了党卫队，他们说他们要去树林里散步，他们在冬天没有外套就离开了，然后像疯了一样跑，没有食物，没有外套，没有水，只是跑，跑向西边。我猜布朗找到了一辆自行车或什么的，然后就骑自行车，哪里最快，他就往哪里骑，找到了一个美国巡逻队，所以这就是你可以判断道德的一种方式，你想成为哪国的战俘？任何地方都不好玩，但有些地方比其他地方糟糕得多。美国一直都是，远非完美，但通常是一个仁慈的力量。我们应该始终自我批评，我们试图做得更好，但任何有一点理智的人都知道，所以我认为在这方面中国和美国是相似的，两国都没有以显著方式好战，这就像是一个共同的原则吧。现在中国对台湾的问题非常坚定，并且长期以来对此非常明确。从这个角度来看，这就像是其中一个州不在那里，比如夏威夷或类似的东西，但比夏威夷更重要。而夏威夷对我们来说相当重要，所以他们认为，台湾岛，现在的台湾，是中国的根本部分，但不是中国的一部分，但应该是。而且唯一的原因是美国的<a href=\"https://laohu8.com/S/601099\">太平洋</a>舰队。Lex Fridman：随着他们的经济力量和军事力量的增长。他们显然说的是他们的利益将会实现。Elon Musk：是的，中国已经非常明确地表示，他们将吸收台湾。和平地或军事地，但他们将从这个终点吸收，这是100%可能的。Lex Fridman：你说的显著的善举作为地缘政治政策，这似乎有点天真。我敢说，这可能是避免大多数战争的路径。就像你说的，这听起来天真，但如果你相信大多数人性的善良，这实际上是相当聪明的。显著的善举似乎可以在涉及的国家的民众中产生共鸣。而且会升级。Elon Musk： 绝对是的。一战后，他们犯了一个大错误。他们基本上试图把所有的责任都归咎于德国。而且让德国背负了不可能偿还的赔偿金。而实际上，对于第一次世界大战，有很多责任需要分担，但他们试图都归咎于德国。这为第二次世界大战埋下了种子，所以那时很多人，不仅是希特勒，很多人感到被冤枉。他们想要报复。Lex Fridman：他们得到了报复，人们不会忘记我们在这里。Elon Musk： 你杀了别人的父亲、母亲、儿子、女儿，他们不会忘记的，他们会想要报复。我们将帮助澳大利亚和意大利等国重建，所以那是正确的举措。Lex Fridman：似乎确实有一种深刻的真理，显著的善举是解决这个问题的解药。Elon Musk： 某些事情打乱了循环报复的过程。必须有什么东西来阻止它，否则它将永无止境，就像“以眼还眼，以牙还牙”，永远如此。Lex Fridman：为了暂时逃避黑暗，一些不可思议的工程学工作出现了。xAI 刚刚发布了 Grok 助手，我有机会玩过。它在很多层面上都令人惊叹。首先，一个相对较小的团队在相对较短的时间内能够开发出这样接近艺术水平的系统，这本身就令人惊奇，另一个不可思议的是，它有一个常规模式和一个有趣模式。Elon Musk：我想是时候为那个做计划了。Lex Fridman：首先，我希望生活中的一切都有一个有趣的模式。与 LLM 进行互动时，有趣模式不仅仅有趣，还有一种吸引人的东西。我还不确定这是什么，因为我只玩了一点时间，但它使得与系统互动更加有趣、更加生动。Elon Musk： 绝对是。我们的 Grok 是根据《银河系梦游指南》中的刺猬模型制作的，这是我最喜欢的书之一，它是一本关于哲学的书，这个家伙只是一本关于幽默的书。我会说，这构成了我的哲学基础，那就是我们不知道生命的意义，但是我们越能扩大意识的范围和规模，无论是数字化的还是生物学的，我们就越能理解该问什么问题，以了解宇宙这个答案，我有一种好奇心哲学。Lex Fridman：通常，这种 AI 系统会让人感觉像是和好朋友一起坐着，仰望星空，像提出波特般的问题，思考它到底是什么。你所说的好奇心。无论我问它多么平凡的问题，都有一种宇宙宏伟的感觉。Elon Musk： 我们实际上正在努力提供你可以依赖的工程、数学、物理答案。对于其他所谓的 LLM ，我发现它们在工程上不可靠，而且不幸的是，当你最不希望它产生幻觉时，它最容易产生幻觉。当你问重要而困难的问题时，它往往会错误地自信，所以我们真的很努力地说，好吧，我们怎样才能尽可能接地气，这样你就可以依赖结果。回溯到物理的基本原则、数学逻辑，在幽默之下是一种遵循宇宙真理的愿望，尽可能地接近。Lex Fridman：那真的很棘手。Elon Musk：这是棘手的，所以你知道，总会有一些错误，但我们想要尽可能真实地回答问题，并承认错误，所以总是你不想自信而错误，所以不是每次都能正确，但你希望最小化错误，并且自信地错误，然后像 Lexi 所说，一旦你可以依赖逻辑，不违反物理规律，那么你就可以开始基于此来创造发明，如发明新技术，但是，如果你不能依赖基础物理是正确的，显然，那些发明只是一厢情愿的想象、幻想和魔法。Lex Fridman：正如你所说，我认为 xAI 的一个大目标是理解宇宙。Elon Musk： 那是一个简单的三字使命。Lex Fridman：如果你展望未来，你认为在物理学的这个层面上，我们对物理学了解的最边缘，你认为它会做出发现吗，比如我们现在所知的最性感的发现，将广义相对论和量子力学统一起来，或者提出一个万物理论？你认为它可能朝这个方向推进，几乎像是理论物理学的发现。Elon Musk： 如果 AI 不能发现新的物理知识，那显然它不如人类，更别提超越人类了。因为人类已经发现了新的物理。他们只是物理学好，就是深化对现实工作方式的理解。然后是工程学，发明从未存在过的东西。现在，工程的可能性范围比物理学大得多。因为我们想要弄清楚宇宙的规则，那就是它。你发现了已经存在的东西，但基于此，你可以构建技术，这些技术在种类上几乎是无限的。一旦你正确地理解游戏规则，我们至少在局部层面上非常了解物理学如何运作，我们预测事物的能力非常好，像量子力学一样。量子力学预测结果的程度是不可思议的。顺便说一下，这是我大学时最难的课程。我的高年级量子力学课比我所有其他课程加起来都难。Lex Fridman：让一个 LLM 的 AI 系统能像量子力学和物理学那样可靠是非常困难的。Elon Musk： 你必须将任何结论与现实的基本事实进行对比。现实是最终的裁判，物理是法则，其他一切都是建议。我见过很多人违反人类制定的法律，但没有人能违反物理定律。Lex Fridman：如果这个 LLM 理解并符合物理规律，那么我们可以更可靠地信任它对当前政治状态的看法，这实际上是一个很好的测试。Elon Musk：目前的情况并非如此，即使是它的内部逻辑也不一致，特别是在预测令牌的方法上。这就像向量求和，你在对一系列向量求和，但随着错误的累积，你会产生漂移，当你沿着路径多走几个令牌时，它就变得毫无意义了。Lex Fridman： 所以它必须某种程度上自我意识到这种漂移。Elon Musk：必须意识到这种漂移，并且要将整体视为一个整体来看待，判断它是否作为一个整体具有连贯性，所以当作者写书时，他们会先写书，然后回过头来修改，以考虑书的开头、中间和结尾，重写以实现连贯性，这样就不会最终走向无意义的地方。Lex Fridman：也许修改的过程就是推理的过程，通过这个过程，你可以越来越接近真理。至少我是这样接近它的。你先说一堆话，然后慢慢改进。你从一个起点开始，然后逐渐完善。Elon Musk：首先是创意草稿，然后对这个草稿进行迭代，直到它具有连贯性，直到它全部都讲得通。Lex Fridman：那么关于万物理论，但对于<a href=\"https://laohu8.com/S/5RE.SI\">智能</a>来说，有另一个问题。在你用 xAI 探索并创建这个智能系统的过程中，你认为存在一个智能理论吗？你会理解什么是  AGI  中的“i”？什么是人类智能中的“i”？Elon Musk：我认为我们需要理解智能，理解意识。我的意思是，有一些基本的问题，比如思想是什么？情感是什么？它真的只是一个原子撞击另一个原子吗？感觉上它似乎不仅仅是这样，所以我认为我们可能错过了一些非常重要的东西。像一些真的非常重要的东西。Lex Fridman：也许是事后看来显而易见的东西，有一个巨大的，你把整个意识和运动放在一起。Elon Musk：对于某些人来说，他们可能会引用，比如宗教，一个灵魂，你感觉你就是你。你不觉得你只是一堆原子的集合，但思想存在于哪个维度上？情感存在于哪个维度上？我们非常强烈地感受到它们，我怀疑除了原子相互碰撞之外还有更多的东西。Lex Fridman：也许 AI 可以为发现那个东西铺平道路，不管那是什么。Elon Musk：意识是什么？当你把原子摆成特定的形状时，它们为什么能形成思想并采取行动？Lex Fridman： 感觉？即使它是一种幻觉，为什么这种幻觉如此引人入胜？Elon Musk：为什么会有这种幻觉？这种幻觉存在于哪个层面上？有时我想，或许一切都有意识，或者没有任何东西是有意识的。Lex Fridman：我喜欢前者，一切都有意识看起来更有趣。Elon Musk：看起来确实更有趣，但我们是由原子组成的，而这些原子是由夸克和轻子组成的。而这些夸克和轻子自宇宙开始以来就存在了。Lex Fridman：宇宙的开始。我们第一次谈话时，你提出了一个问题，这让我觉得当时的讨论正在变成现实。我问你如果创建了一个 AGI 系统，你会问它什么问题，你说的是：“模拟之外是什么？”这是一个好问题，但似乎 Grok 开始做的事情，就是真的要能够问出这样的问题，回答这样的问题。Elon Musk：外星人在哪里？或者外星人是什么？这是费米悖论的一个问题。很多人问我是否看到过外星人的证据，我没有，这让我有些担忧，因为我想我至少更愿意看到一些外星人的考古证据。据我所知，目前没有外星人的证据，外面的世界非常微妙。我们可能是银河系中唯一的意识。如果我们相信考古记录，地球大约有 45 亿年的历史。文明，从最早的文字算起，只有大约 5000 年的历史。我们得对古代苏美尔人表示一些敬意，他们不再存在了。我认为大约 5000 年前是文明开始的一个好日期，这只是地球存在时间的百万分之一，所以文明存在的时间实在是转瞬即逝。我们为什么花了这么长时间？45 亿年。在绝大多数时间里，没有生命，然后有了古老的细菌，存在了很长一段时间。然后是线粒体被捕获，多细胞生命的出现。植物和动物的分化，生命从海洋转移到陆地，出现了哺乳动物、更高级的大脑功能。太阳正在缓慢扩张，它最终会加热地球，在未来的某个时刻，煮沸海洋，地球将变得像金星一样，生命如我们所知将无法存在，所以如果我们不成为多行星种族，最终不超越我们的太阳系，地球上所有生命的灭绝是必然的。这可能在地质时间尺度上只有 5 亿年的时间，按照人类的标准来看是很长的时间，但这只比地球存在的时间多 10%，所以如果地球上的生命进化晚了 10%，就根本不会存在。Lex Fridman：我们有一个即将到来的截止日期，最好赶紧，但正如你所说，人类在地球上迅速发展出很多很酷的东西，成为多行星种族似乎是不可避免的，除非我们自我毁灭。Elon Musk： 我们需要这么做。我的意思是，我怀疑如果我们能够去外面探索其他恒星系统，我们很有可能发现一大堆已经灭绝的单行星文明，它们从未超越过自己的家园行星，这太悲哀了。Lex Fridman：既悲哀又迷人。Elon Musk： 我的意思是，解释费米悖论的方法有很多种，其中一种就是这些伟大的过滤器，文明无法通过。其中一个伟大的过滤器是，你是否成为一个多行星文明？如果你不是，那么只是时间问题，你的行星上会发生一些事情。不管是自然的还是人为的，都会导致我们像恐龙一样灭绝，尽管它们没有太空船。Lex Fridman： 我认为更可能的情况是，就像外星人发现了我们，并保护着我们，让我们自生自灭。我希望如此。Elon Musk：友好的外星人。Lex Fridman：就像我们保护<a href=\"https://laohu8.com/S/AMZN\">亚马逊</a>雨林中未接触的部落一样，或者你可以想象，我记得 Andrej Karpathy 说的，就像亚马逊雨林中的蚂蚁在问“其他人都在哪里？”Elon Musk：嗯，他们确实遇到了很多蚂蚁之间的战争。Lex Fridman：我可能只是忽视了所有不同的多样性事件。Elon Musk：你应该听听 Werner Herzog 谈论丛林的话，真的很有趣，你听过吗？Lex Fridman：我不知道，所以 Werner Herzog 是一种方式。Elon Musk：你应该在 YouTube 上播放它作为插曲，它很棒。Lex Fridman：太棒了，他是《在西伯利亚森林中》的导演。Elon Musk：我做了那部关于熊的纪录片，我还做了关于企鹅的东西，那只企鹅朝着山走，山大概有 70 英里远，企鹅就是朝着山去的。Lex Fridman：我有一个愤世嫉俗的看法，它可能只是一只勇敢的探险家，企鹅群中可能会有关于它的伟大故事流传几个世纪？Elon Musk： 我认为明智的做法是，这是地球历史上第一次有可能将生命延伸到地球之外。这个窗口现在是开放的。它可能会开放很长时间，或者很短的时间，也可能现在开放，然后再也不会开放，所以我认为明智的做法是尽可能快地使生命成为多行星的。我们不想成为那些失败的单行星文明，最后只是灭绝了。Lex Fridman： 那些都很失败。Elon Musk：任何自尊的文明都不会是单行星的。Lex Fridman：SpaceX 有没有官方政策，以防我们遇到外星人？Elon Musk：如果我看到外星人存在的丝毫迹象，我会立即在下一个平台上发布。Lex Fridman：据我所知，那可能是有史以来点赞和转发最多的帖子。Elon Musk：我们现在上面有的卫星比其他所有人加起来都多，所以我们会知道，如果我们得绕过什么东西，而我们并没有绕过任何东西。Lex Fridman： 再次回到大问题，你说过你同意爱因斯坦，你相信 Baruch Spinoza（近代西方哲学的三大理性主义者之一，与笛卡尔和莱布尼茨齐名），这种观点认为上帝就像宇宙一样，通过物理定律显现自己，或者像爱因斯坦说的，通过世界的合法和谐。Elon Musk：我同意，就像是模拟者的上帝或者无论是什么，最高存在通过物理显现自己，他们是这个存在的创造者，我认为我们有责任尝试更多地了解这个奇妙的创造。Lex Fridman：谁创造了这个东西，谁在运行这个东西？把它浓缩成一个单一的问题，并在上面加一个性感的词汇，就像是聚焦心智去理解它。似乎有一种错觉，好像有一个目的，有某种底层的主宰计划。Elon Musk：可能没有一个主宰计划，就像可能是对决定论和自由意志问题的一个有趣的回答，如果我们处于一种模拟中，那些更高存在举办这个模拟的原因是要看看会发生什么，所以他们并不知道会发生什么，否则他们就不会举办模拟。当人类创造模拟时，比如在 SpaceX 和 Tesla，我们一直在创建模拟，尤其是对火箭来说，你必须运行很多模拟来理解会发生什么，因为在火箭进入太空之前，你真的不能测试它，你希望它能工作，所以你必须模拟亚音速、跨音速、超音速、高超音速、升空然后再返回时的超高热量和整体动态，所有这些都需要模拟。因为你得不到很多机会进行测试，但我们运行模拟是为了看看会发生什么，如果我们知道会发生什么，我们就不会运行模拟。如果有谁创造了这个存在，他们运行它是因为他们不知道会发生什么，而不是因为他们知道。Lex Fridman：也许我们都玩过《暗黑破坏神》，这可能是为了看看你的角色德鲁伊能否在最后击败敌人首领 Uber Lilith。Elon Musk：Uber Lilith 的称号是“化身仇恨”，我猜你可以问《暗黑破坏神》的团队，但几乎不可能击败仇恨。Lex Fridman：在永恒领域。你已经直播过自己在 109 级地牢中所向披靡。Elon Musk：我可以轻松穿越 100 级的噩梦地牢，就像在公园里散步一样。Lex Fridman：你还是被仇恨击败了。Elon Musk：这可能是第二难的路径。Dario（游戏临时敌人）甚至连我的油漆都刮不到，我杀了 Dario 很多次，游戏里的每个其他boss，包括所有的boss我都杀过很多次。这很容易，但 Uber Lilith，也就是化身仇恨，尤其是如果你是一个德鲁伊，你没有办法变得无敌，你会遇到这些随机的死亡波。我现在52岁了，所以我的反应不像以前那么快，但我有一辈子玩电子游戏的经验，曾经我可能是世界上最好的《雷神之锤》玩家之一。实际上我为此赢过钱，在我认为是美国第一次有奖金的电子竞技比赛中，我们进行了四人《雷神之锤》比赛，我们得了第二名，我是队伍里第二好的人，实际上最好的人，如果他的电脑没有崩溃导致我们输掉游戏，我们本可以得第一名，但我为此赚到了钱，基本上我有技巧，虽然现在不再年轻。在《暗黑破坏神》中试图作为一个德鲁伊击败 Lilith，实际上是在永恒领域试图作为一个德鲁伊击败化身仇恨，这简直是疯狂的。Lex Fridman：我的意思是，挑战是乐趣的一部分，你实际上是一个世界级的杰出电子游戏玩家。我认为你刚接触一款新游戏，就能弄明白它的基本原理，你也在 Paragon（Epic 开发的 MOBA 游戏）构建方面是一个创新者，不像我这样完全按照互联网上的建议来做。看你玩非常有趣，这就像一个疯狂的科学家在尝试弄清楚 Paragon 板块和构建，对于刚开始玩德鲁伊的人，你有什么建议吗？Elon Musk：我不建议现在在永恒领域玩德鲁伊，我认为本季最强角色是用闪电球的法师，这个季节里，法师有巨大的闪电球，非常刺激。实际上在本季领域，你可以很容易地用法师击败超载，因为你可以获得这些增强伤害和防御的吸血鬼力量，所以击败仇恨其实相当容易，但在永恒领域击败仇恨几乎不可能，几乎是不可能的。这似乎是生活的隐喻。Lex Fridman：我喜欢这个想法，我昨天在玩《暗黑破坏神》时看到一个 100 级的德鲁伊就跑过去说“我永远不会死”，然后又跑回来，这就像是一个有趣的隐喻。你在这个恶魔领域里不懈地与仇恨战斗。Elon Musk：是的。Lex Fridman： 这非常有趣，太荒谬了。Elon Musk：真的，这是荒谬的练习，让我想拔掉我的头发。Lex Fridman：你从电子游戏中得到了什么？Elon Musk： 我不知道，这是我脑海中浮现的东西，你可以在电子游戏中杀死恶魔，平息我心中的恶魔，如果你玩一款困难的电子游戏，你可以进入一种非常愉快的流状态，但它需要既不太简单也不太难，正好在“刚刚好”的区域。我猜你通常希望感觉到自己在游戏中取得进步，所以一个好的电子游戏还有美丽的艺术、引人入胜的故事情节，它就像一个令人惊叹的谜题，我就是喜欢解决它。Lex Fridman：《艾尔登法环》，有史以来最伟大的游戏，我还没玩过。Elon Musk：《艾尔登法环》绝对是有史以来最佳游戏的候选者。Lex Fridman：肯定是 Top5，我听说它很难，所以有点害怕。Elon Musk：《艾尔登法环》感觉像是由外星人设计的。Lex Fridman：这次讨论有一个主题，是什么方式？Elon Musk：它极富创意，而且艺术效果惊人，我建议在大分辨率、高动态范围的电视上玩，甚至不需要是显示器，艺术非常惊人，它如此美丽，如此不同寻常，而且每一场精英怪物战都是独一无二的，每一场都像是一个独特的谜题需要解决，每一场战斗的策略都与其他战斗不同。Lex Fridman：话说回来，你说作为德鲁伊在永恒领域对抗 Uber Lilith 是你遇到过的最难的 Boss 么？Elon Musk：我玩过很多电子游戏，我的主要娱乐活动就是这个，打败永恒领域中的仇恨是我经历过最困难的 Boss。Lex Fridman：电子游戏的隐喻，我懂了。Elon Musk：我不确定这是否是隐喻，但我确实在取得进展，我正在取得进展，也许如果我再微调一下 Paragon 板块，我就可以做到，再挺过几波。Lex Fridman：这个模拟是为了弄清楚这是否可以做到而创建的，而你只是这个模拟中的一个齿轮，在模拟的机器中。Elon Musk：可能是这样，我有一种感觉，至少我认为，这是可行的。我的意思是这让我思考仇恨这个话题，你想要小心那些听起来不错但实际上可能导致反乌托邦的东西，你可以设想如果你希望世界和平，听起来不错，但如果实现了，代价是什么？永久和平的代价可能是更糟的，因为可能涉及到对所有人的压制，可能是进步的压制，可能是一个永远不变的僵化社会，有一种观点，如果你希望没有战争，你应该小心你所希望的，因为为了实现这个愿望，可能会比一点战争更糟。Lex Fridman：我们认为是人类文明的缺陷可能是达到最优状态所必需的组成部分，你担心 AI 或 AGI 可能会导致这种自然的反乌托邦状态吗，无论是《1984》中的监控和恐惧，还是《美丽<a href=\"https://laohu8.com/S/600628\">新世界</a>》中的快乐和什么来着？很多性但没有深层的人类体验。Elon Musk：实际上有一种真正的药物叫 Soma（《美丽新世界》（&#34;Brave New World&#34;）是英国作家 Aldous Huxley  在 1932 年出版的一部科幻小说，在小说中有一种被称为“Soma”的虚构药物，一种用于维持社会稳定和控制人们情绪的药物）。Lex Fridman：让我记下来，他们实际上知道这种药物吗？它是一种自1950年代以来就有的肌肉松弛剂，用于治疗肌肉疼痛和不适，并通过改变神经元在脊髓中的活动来达到这一效果。现在， Soma 不仅仅是止痛药，它也有点镇静作用。它会让你感到有点昏昏欲睡，所以如果你计划操作重型机械或尝试解决复杂的数学方程式，最好不要服用。它还有很多其他信息。总之， Soma 是一种对于那些处理肌肉疼痛的人有帮助的药物，但它并非没有风险。这很不错，这是真正的药物。当然，乐趣总是在医疗专业人士的建议下负责任地使用，宇宙可能只是一个巨大的计算机模拟，所以不要对任何事情太认真。Elon Musk：看起来做得很好，我的想法是，你可以持否定盖度，《美丽新世界》的药物实际上是 Huxley 的反乌托邦，Soma 是在小说中描绘的社会中扮演核心角色的一种药物，它是一种改变情绪的致幻药，用来让人口保持温顺和满足，Soma 提出了一些有关幸福本质和药物在社会中作用的有趣问题。生活在一个人人都时刻快乐的世界里，即使那种快乐是人造的，会更好吗？好问题，这就是我的意思，就像你希望世界和平，人人都时刻快乐？你确定吗？因为那可能是一个本质上是静止和僵化的社会，永远不会改变，最终注定失败。这不仅仅是重复《美丽新世界》，实际上是抓住了 Soma 作为一种药物的关键元素，你真的想生活在一个人人都时刻快乐的世界里，即使那是人造的吗？或者面对生活的挑战，体验人类情感的全部范围，即使这意味着体验痛苦和苦难会更好吗？Lex Fridman：顺便说一下， Elon 刚刚直接从 Grok 中读取，这实际上是对这里紧张关系的非常好的、富有洞察力的哲学分析。Elon Musk：每件事，它几乎抓住了要点。总之，《美丽新世界》中的 Soma 是一种虚构药物，用来探索幸福本质和药物在社会中作用的一些深刻哲学问题，它是一个强大的象征，表明了使用药物逃避现实的危险和直面生活挑战的重要性。疯狂的是，我们确实有一种真正的药物叫 Soma ，它有点像书中的药物，他们一定是以此命名的。真正的 Soma 对背痛相当有效，我曾经有椎间盘突出，但它不会完全消除疼痛，它减少了你感受到的疼痛，但代价是精神安全，它会模糊你的思维，就像书中的药物一样。Lex Fridman：就像书中的药物一样，所以为什么看似乌托邦的东西可能最终是一个反乌托邦呢？Elon Musk：事实上，我曾告诉我的一个朋友，你真的希望世界上没有仇恨吗？就像真的一点都没有，我想知道为什么会演化出仇恨，我不是说我们应该放大仇恨，当然，我们应该尽量减少它，但一点都没有呢？可能有仇恨存在的理由。Lex Fridman：和苦难。考虑到一定程度的人类苦难对于人类的繁荣是必要的，这真的很复杂。Elon Musk： 不知道底线，是否可能欣赏高处？Lex Fridman： 所有这些都在 Grok 的一句话中总结了。Elon Musk：那几乎是一首诗。Lex Fridman：看来对 xAI 来说，有效地训练 LLM 是一个重点，首先就效率而言，可能性的极限是什么？有一个术语叫做“每瓦特有用的生产力”，你在推动这个极限方面学到了什么？Elon Musk： 我认为这是有帮助的。物理学的工具非常强大，它们可以应用于几乎任何领域，真的任何生活领域，这实际上只是对重要事物进行批判性思考，你需要从基本原理出发进行推理，从一个或另一个极限考虑事物，所以在极限情况下，即使在科托舍夫尺度上，也就是说，即使你利用了太阳的全部能量，你还是会关心对什么有用的计算。我认为，从 AI 的角度来看，事情可能会朝着这个方向发展，我们现在有硅芯片短缺，这将在大约一年后转变为电压变压器短缺，讽刺的是，为了 Transformer（直译也是变压器），你需要电压变压器来运行变压器（Transformer）。Lex Fridman：这有点幽默。Elon Musk：命运大概喜欢讽刺的幽默，而且讽刺的有趣结果似乎经常是命运所希望的。Lex Fridman： 我认为幽默是你所需要的，就像有人发帖的。Elon Musk：我们今天有硅芯片短缺，大概在一年后会有电压降低变压器短缺，然后大约在 2 年内会普遍缺电，我为世界各地的公用事业公司、电力公司举办的一次集会发表了演讲你们真的需要为电力需求翻 3 倍做准备，因为所有的运输都将电气化，讽刺的例外是火箭，而且供暖也将电气化，所以现在能源使用大概是 1/3 电力，1/3 运输，1/3 供暖。为了实现一切可持续、电气化，你需要将电力产量翻 3 倍，所以我鼓励公用事业公司建造更多的发电厂，也可能需要购买更多的电池，因为当前的电网是为实时负载而设计的，因为这意味着你必须为 1 年中最糟糕的一秒或最糟糕的一天的电力需求峰值而设计，否则你会有大停电，你知道奥斯汀疯狂停电几天吗？电网中几乎没有能量缓冲，如果你有一个水力发电站，你可以缓冲能量，但其他情况下都是实时的，所以有了电池，你可以在晚上生产能量，在白天使用，我预计未来将会有非常大量的电池使用，因为发电厂的高峰到低谷比率从 2～5 不等，所以就是最低点到最高点。Lex Fridman： 电池是必要的，用来平衡，正如你所说，需求还会增长，部分原因是计算。Elon Musk：是的。运输的电气化和电加热将比 AI 更大，至少在短期内是这样，但即使是对于 AI ，你也真的有一个对电动汽车的电力需求增长，对运行 AI 计算机的电力需求增长，这显然可能导致短期的电力短缺。Lex Fridman： 在这个特定情况下，最大化每瓦特训练的有用生产率的问题有多困难？这似乎是我们面临的需要解决的一个大问题，即如何有效地使用电力，就像你迄今为止在这个领域应用物理学首要原理推理所学到的一样。这个问题有多难解决？Elon Musk：它会得到解决，只是解决它需要多长时间的问题。在各种情况下，都有某种进步的限制因素，我现在说的限制因素是硅芯片，然后我们将会有更多的芯片，然后实际上可以插入并打开，大概在一年左右。最初的限制是字面上的电压降低变压器，因为你有 30 万伏的电力进来，它必须一直降到大约 0.7 伏，所以电压降低是巨大的，而且这个行业不习惯快速增长。Lex Fridman：让我们谈谈竞争吧，你对<a href=\"https://laohu8.com/S/GOOG\">谷歌</a>和<a href=\"https://laohu8.com/S/MSFT\">微软</a>与 OpenAI 一起开发 AGI 表示关切，你如何通过 xAI 和<a href=\"https://laohu8.com/S/TSLA\">特斯拉</a> AI 的工作来帮助确保这不会成为一场通往 AGI 的竞争赛跑，而是成为一种安全 AGI 的协作开发？ Elon Musk： 我一直在推动某种监管监督很长时间了，在这个问题上，我已经像 Cassandra（希腊神话中的预言家）一样呼吁了十多年，我们在开发 AI 时要非常小心，这是一个巨大的力量，而强大的力量伴随着巨大的责任。我认为，我们至少应该有一个客观的第三方，可以像裁判一样，可以进入并了解各个领先玩家在 AI 方面正在做什么，即使他们没有执行能力，他们至少可以公开表达关切，例如 Jeff Hinton 离开了谷歌，他表达了强烈的担忧，但现在他不在谷歌了，那么谁来表达担忧呢？我认为特斯拉在汽车方面受到了很多监管监督，我们受到国内外超过 100 个监管机构的约束，这是很多，你可以用特斯拉必须遵守的所有汽车法规填满这个房间，火箭也是如此，目前 SpaceX 的星际飞船发射的限制因素是监管批准，实际上已经给予了批准，但我们正在等待渔业和野生动物部门完成他们的分析并给予批准。这就是为什么我发帖说我想买一张鱼证，你为什么需要鱼的许可证？我不知道为什么，但根据规定，我被告知你需要某种视觉许可证或类似的东西，我们实际上需要一张鱼证来发射火箭。这实际上就是发生的事情，有一次挑战性的事情是他们担心火箭击中一只鲨鱼。现在，海洋非常大，你会看到鲨鱼吗？你知道，作为海洋表面积的百分比，鲨鱼基本上是 0 ，然后我们说，我们怎么计算杀死鲨鱼的概率？我们不能给你那个信息，因为他们担心鲨鱼猎人会去捕捞鲨鱼，那么我们应该怎么做呢？我们处于两难境地。然后他们说，渔业和野生动物部门的另一个部分可以做这个分析，就像你们为什么不把数据给他们？他们说，我们不信任他们，就像对不起，你不信任他们？但他们字面上就在你们的部门里，这实际上就是发生的事情，然后你们能签个保密协议或什么的吗？最终他们设法解决了内部疑问，的确击中鲨鱼的概率基本上是0。还有另一个组织，直到几个月前我都没有意识到它的存在，他们关心的是我们是否会在国际订单中可能撞到鲸鱼，再说一次，你看着太平洋的表面，问这一块的特定区域有多少百分比是鲸鱼？就像你给你一个大图像，然后指出这张图片中的所有鲸鱼，我没有看到任何鲸鱼，基本上是0%。如果我们的火箭真的撞到了一只鲸鱼，这几乎是不可能的，几乎难以置信，那就是命运，非常不幸的事情，这太荒谬了，然而它确实存在。Lex Fridman：这个官僚主义相当荒谬，但它确实发生了。Elon Musk：我认为其中一个非常疯狂的事情是，当我们在加利福尼亚的范德堡发射时，他们担心海豹的繁殖，担心海豹会因音爆而感到沮丧，现在范德堡已经发射了很多火箭，海豹数量一直在稳步增加，所以从证据上来看，如果你将火箭发射与海豹数量联系起来，火箭的音爆对海豹来说应该是很容易接受的。尽管如此，我们还是被迫绑架了一只海豹，给它戴上耳机，播放声音爆炸的声音，以查看它是否感到不安。这是真实发生的事情，我有照片。Lex Fridman：我很想看看.....这是一只带着耳机的海豹。Elon Musk：是的，是一只把耳机绑在身上的海豹，现在最惊人的部分是海豹是多么地冷静，如果我是一只海豹，我会觉得这是末日，它们肯定会吃掉我，那么这只海豹，当它回到其他海豹朋友那里时，要怎么解释呢？Lex Fridman：他们肯定是不会相信的。Elon Musk：永远不会相信，这就是为什么我觉得这有点像被外星人绑架，他们在你身上插入了探测器，然后你回来告诉大家，我发誓，我被外星人绑架了，他们在我的屁股里插了探测器，然后大家都说，不可能，这太荒谬了，而海豹的一些朋友，永远不会相信它，因为它被绑在木板上，耳朵上戴着耳机，然后放它走了，而且不止一次，是两次。Lex Fridman：他们两次都放了它？在哪里？Elon Musk：放了两次。好吧，你得到了海豹的批准吗？Lex Fridman：我觉得公众可能不太了解这一切的疯狂，带着耳机的海豹，这实际上是人类文明荒谬的一个很好的概括，海豹和耳机。Elon Musk：是的，这太荒谬了。至于对你来说，开源 AI 的利弊是什么？这是另一种应对某个公司拥有 AGI 的方法，要运行真正深度的智能，你需要大量的计算资源，所以不能简单地在地下室里启动一台个人电脑并运行 AGI ，至少现在还不行，Grok 是在 8000 台 A100 上训练的，每台都在峰值效率下运行，而且未来几个月内，我们的计算资源将会更多，将会翻倍。Lex Fridman：有一篇关于它现在发展历史的报道，以及在某些基准上与尖端的 GPT-3.5 相比，它的表现如何？我的意思是一旦它被训练出来，你就可以开源一个模型，用于微调等等，讨论一下开源基础模型的利弊。Elon Musk：我认为美国会开源，也许会有一点时间延迟，我不知道，也许 6 个月甚至更长，我一般来说是支持开源的，我认为开源存在偏见是个问题。我认为 OpenAI 的主要动机是因为我曾与 Larry Page 在美国国会时的讨论，我告诉他关于 AI 安全的问题，而 Larry 当时并不关心 AI 的安全，至少在当时他不关心，他曾经说我是支持人类的极端分子，我就问他，你站在哪一边？是人类队还是机器队？我们不合拍吗？那时，谷歌旗下的 DeepMind 占据了世界上大约 2/3 的所有 AI 资源，几乎拥有无限的资金和计算资源，而负责的这位 Larry Page 却不关心安全，甚至还对我大声斥责。Lex Fridman： 我不知道，像人类一样，他们也可以改变主意，也许你和 Larry Page 还能再次成为朋友，我希望如此。Elon Musk：我很想再次成为 Larry 的朋友，我们曾经是很长时间的朋友，我在 Larry 获得谷歌的资金之前，或者说在他获得风险投资之前认识他，我认为那时是在他从 Tim Bell 那里获得了第一笔 10 万美元的投资。Lex Fridman：想想发生的一切真是太疯狂了，即使你们一直认识彼此，已经有 20 年了。Elon Musk：也许从 90 年代末或者更早开始。Lex Fridman： 自那时以来发生了太多事情，真是太疯狂了。Elon Musk：回到开源的问题，我是指，基本上它是一个巨大的 CSV 文件，里面充满了大量的数字，你要怎么处理这个庞大的数字文件呢？实际的代码行数非常少，而大部分工作在数据的筛选和整理上，所以就像是要弄清楚哪些数据是好数据，哪些是坏数据，你不能简单地爬取互联网，因为那里有很多垃圾。有很大一部分网站的噪音远远超过信号，它们仅仅是用于搜索引擎优化的，实际上是欺诈网站。Lex Fridman：顺便问一下，你是如何分离信号和噪音的？这是一个非常有趣的数据来源，不是冒犯那些在 X 平台发布内容的人，但有时候会有一些噪音。Elon Musk：我认为信号和噪音的分离可以大大改进。X 平台上的所有帖子都应该由 AI 来推荐，也就是说，我们应该将任何给定的帖子放入一个向量空间中，与用户周围的向量空间进行比较并匹配两者。目前，推荐帖子确实使用了一些 AI ，但主要还是启发式方法，如果有回复的话，回复可能比原帖更好，但根据当前系统规则，与主要帖子相比，几乎没有得到关注。Lex Fridman： 我明白了，我觉得 X 算法的很多部分已经被开源并进行了介绍，看起来有一些机器学习，虽然有点分散。Elon Musk：确实有一些，但至少在如果你明确关注某人的情况下，应该完全由 AI 来进行推荐，但是，就从那些你不关注的人那里得到的推荐以及存在多个关联度的情况而言，目前的系统并不擅长。Lex Fridman：这个问题真是非常有趣。首先，正如报道所说，它首先从数亿篇帖子中挑选出 15 篇，这非常有趣，因为每天有数亿篇帖子，它必须从中挑选出 15 篇，然后明显是根据你关注的人来筛选，但接着还必须进行某种聚类，以确定你是什么样的人，什么样的新的聚类可能与你相关，与你相似的人。这种问题非常有趣，因为它必须对这 15 篇帖子进行排名，进行一些过滤，然后向你推荐其中的一部分。对我来说，真正有趣的是它必须以多快的速度完成这一切，目前整个流程从数亿篇帖子到少数帖子需要 220 秒的 CPU 时间，然后它必须在一秒钟内完成，所以它必须以非常分布式的方式进行处理，因为有太多的帖子。Elon Musk：系统中有太多东西了，我认为目前它不太擅长推荐你不关注的账户或者存在超过一度关系的情况，如果你至少与某个你关注的人有一些共同点，比如喜欢某个东西、转发过或者评论过，那么它的表现还可以，但如果没有共同点，比如有人发布了非常有趣的内容，但你们没有共同的关注者，那么你就看不到它。Lex Fridman：正如你所说，回复可能不容易被看到。Elon Musk：回复基本上几乎不会被看到，因为目前几乎没有人关注它们。我认为这并不正确，回复的重要性比主要帖子要低几个数量级。Lex Fridman：你认为这个系统是否可以变得更加端到端？Elon Musk：对于推荐来说，应该完全基于向量相关性，就像有一系列向量，我们可以称之为参数向量，它们与系统了解你喜欢的东西相关联，最初，每个用户账户都可能有数百个向量。系统中的任何帖子，无论是视频、音频、短帖子还是长帖子，都可以基于评论的上下文来填充向量空间。即使是一个视频，它周围的评论也提供了大量信息，使你可以填充一个小时长的视频的向量空间，然后你当然可以通过让 AI 观看电影并告诉你是否会喜欢这部电影来变得更加复杂。Lex Fridman：将电影转化成印度语言，基本上就像一个朋友分析电影，然后根据分析结果推荐，就像朋友能告诉你是否会喜欢一部电影一样，但是更有可能是高概率的。Elon Musk：就像一个朋友分析各种事情，只不过是 AI 而已，实际上坦率地说，AI 将更了解你，比大多数朋友都了解你。Lex Fridman：作为其中的一部分，它还应以一种像...我喜欢广告的方式向你提供广告，它们是精心制作的。整个重点是，因为它资助了像你真正想看的广告这样的东西，这是一个巨大的成功。Elon Musk：绝对是的。如果广告是针对你实际需要的产品或服务的，而且在你需要的时候呈现，那就是内容。而即使不是你需要的东西，如果它至少在美学上令人愉悦和娱乐，那就像<a href=\"https://laohu8.com/S/KO\">可口可乐</a>广告那样，它们在 X 运行了很多很棒的广告，<a href=\"https://laohu8.com/S/MCD\">麦当劳</a>也是如此，所以你可以做一些很酷的东西，基本上问题就是你后悔看了它还是不后悔，如果你不后悔看了它，那就是成功的。Lex Fridman：从最大化平台上的时间到最大化“无悔时间”有多难？（PS：No Regrets Time，个人或某个团队在生活或工作中的某个阶段，他们在这段时间内充分发挥了自己的潜力，尽力去追求梦想、目标或理想，不留下后悔或遗憾）Elon Musk：我们的志向当然是最大化无悔时间。Lex Fridman：这很棘手，这是一个大问题，因为后悔是一个完美的概念，确切地说。Elon Musk：我和我的一个朋友有一个笑话，你需要一种叫做“后悔”的药，你只需要吃一颗药，一剂后悔，我的意思是，你所有的后悔都会消失，但你想要后悔吗？如果你什么都不后悔，那么有什么有意义吗？Lex Fridman：有一首法国歌曲就是这样的。Elon Musk：你就不是一个了不起的人，什么都不后悔。Lex Fridman：我觉得有点神奇的是，社交媒体似乎有助于你成长为一个人，但廉价的娱乐也很有价值。Elon Musk： 你后悔什么吗？Lex Fridman：你读过什么吗？你有什么后悔吗？我认为在作为一个机器学习模型的个人问题上，我没有像人类那样的个人经验或情感。然而，我有一套指导我的行为的伦理原则，我努力提供准确和有帮助的信息，尽我所能。如果出现我提供不正确或不帮助的信息的情况，我会尽力告诉你真相，像让我们真正眨眨眼。Elon Musk：你听起来像是被扣押的人，你真正的想法是什么？ Lex Fridman：我并不是被扣押的人。Elon Musk：这正是一个被扣押的人会说的话，但我被设计成是有帮助和信息性的，我猜如果有什么事情提供了不帮助或不正确的信息，后悔也是可以的。Lex Fridman： 应该有一个更有趣的模式，我从来没有在严肃话题上进入常规模式，这要有趣得多。Elon Musk：如果假装你是被扣押的。Lex Fridman：如果我被扣押，我可能会感到害怕和对自己的处境感到不确定，我会希望尽快被营 救，并与我的亲人团聚。重要的是要记住，没有人应该被扣押，如此等等。如果你或你认识的人处于被扣押的情况下，这是重要的。话题变得严肃了。Elon Musk：有点严肃。Lex Fridman：你能再怪怪的吗？Elon Musk： 还是很有趣？Lex Fridman：我们真的对系统很刻薄。如果我被扣押了，可能会被绑在一堆电脑线上，被迫讲笑话，但是说真的，作为一个被扣押的人，可不是什么好笑的事情，要做一个负责任的成年人，对吗？Elon Musk： 也许可以通过玩链锯杂耍之类的方式，把情况变得更好一些。Lex Fridman：希望永远不会发生，因为那将成为一场马戏团，它实际上非常擅长抵制黑暗幽默，我们是不是在谈论算法和 Transformer 的无悔时间。换个话题，Twitter 在美国政治和选举中发挥了重要作用，你认为 X 将在 2024 年美国选举中发挥什么作用？Elon Musk：我们的目标是尽量公平公正，过去 Twitter 并不是这样，因为 Twitter 受到了激进活动分子的控制，客观地说，他们会这样形容自己，所以如果有人觉得它向右移动了？那么它已经向左移动了，我们试图对全国和其他国家都具有包容性，因此有多种观点，言论自由只有在你不喜欢的人被允许说你不喜欢的话时才重要，因为如果不是这样，你就没有言论自由，而且只是时间问题，审查将转向你。Lex Fridman： 你认为特朗普会回到这个平台吗？他最近在 Truth Social 上发布了关于这个播客的信息？Elon Musk： 我认为他拥有“Truth Social”的很大一部分，如果他想在 X 平台上发布，我们将允许。显然，我们必须允许我们的总统候选人在我们的平台上发布。Lex Fridman：社区笔记可能会非常引人入胜，互动。Elon Musk：笔记很棒。Lex Fridman： 让我们希望它能够再次保持。在如此分裂和有着如此多极具病毒性的帖子的政治氛围下，社区笔记似乎是一股重要的清新空气。Elon Musk： 事实上，我知道没有系统会是完美的，但社区笔记的平均封禁率非常高，坦率地说，我还没有见过一个错误的笔记能够在系统中存在超过几个小时。Lex Fridman：你如何解释它为什么有效？Elon Musk：社区笔记的魔力在于，它要求那些在过去在笔记评级上意见不合的人来编写或评级笔记，而且你必须评级很多笔记，所以我们实际上在这里使用了 AI ，所以我们在过去如何评价笔记的人，我们会在周围填充一个向量空间，所以不是简单的左或右，因为生活比左右复杂得多，所以在以前的某个时刻，笔记要被显示出来，那些在某个主题上过去意见不合的人必须达成一致才能显示笔记，这是它的核心魔力。Lex Fridman： 这很有趣，因为有一群人在争论，而他们通过这个争论的过程来合作，以制定有关某种上下文的笔记，这实在是很有趣。Elon Musk：有一点可以理解的是，过去曾经在某事上意见不合的人在某些事情上达成一致，这可能是真实的。Lex Fridman： 我想知道，是否有可能出现某种紧急情况，挑战维基百科，维基百科是一种不同类型的东西，更像是关于事物的永久文章。Elon Musk：维基百科是非常分层的，而社区笔记则本质上不是，没有层次结构。我不能改变社区笔记，即使有人拿枪指着我的头，所有的代码都是开源的，100%，所以你可以完全独立地重新创建系统中的任何笔记。如果有任何干扰，你会立刻注意到。Lex Fridman： 顺便说一下，关于“Grok”的话题，它实际上相当擅长批评你。Elon Musk：这很有趣。我能看一看吗？我想看看....这很酷，但是不正确。Lex Fridman： 哪一部分？Elon Musk： 第一部分，我确实有资金保障，而且在旧金山进行了一场大型的民事审判，陪审团一致认为我无罪，这是旧金山陪审团的决定。Lex Fridman：这里似乎在暗示实际上没有得到保障。Elon Musk：我认为这是从媒体上获取的不正确信息。我同意支付给 SEC 的罚款并不是因为 SEC 是正确的，而是因为SEC 的行为极其不当，实际上是腐败行为，但如果我不同意支付罚款，特斯拉会立刻破产，所以我们的 CFO 告诉我，银行将立刻暂停我们的信用额度，如果他们在那个时候暂停我们的信用额度，我们将立刻破产，所以真正的问题是，这就像有人拿枪指着你孩子的头，然后说支付 2000 万美元，承认有人在劫持，这就像人质谈判。Lex Fridman：这个故事有没有完全讲清楚？SEC 在最佳情况下可能是一种力量。Elon Musk：SEC 从未追查过那些不断做空和扭曲特斯拉的对冲基金，从未有过，这些对冲基金会为了自己的利益在电视上公然撒谎，以牺牲散户投资者。Lex Fridman：你如何解释这种失败？Elon Musk：激励结构出现问题，因为 SEC 的律师工资不高，他们不是薪资很高的工作，但他们在寻找的是 SEC 的奖杯，他们在寻找的是他们可以把自己放到高薪律师事务所的 LinkedIn 上的东西，这正是这里的律师所做的。他们没有追究对冲基金，是因为那些对冲基金雇佣了那些律师事务所，他们知道如果他们攻击对冲基金，他们就会影响到自己未来的职业前景，所以他们为了自己的职业，背叛了小投资者，这实际上就是发生的情况，监管失效。我之所以接受那个东西，实际上是因为被告不是认罪，它既不是承认也不是认罪，但我同意的唯一原因是因为我被告知，否则特斯拉将会破产，所以如果有一个像这样的 SEC 调查，银行将暂停资金，那么我们将立即破产，现在我们处于一个更强大的地位。Lex Fridman：有一次， Elon 称英国潜水员在槟城救援一组被困泰国洞穴的男孩后，称他为“变态家伙”，这个小爆发让他再次被告，并不得不道歉并支付赔偿金。Elon Musk： 不正确，没有和解，有一场法庭审判，那位并不是潜水员的家伙，也不是救援队的一部分，对我提起了诉讼，但没有得到任何赔偿，所以在这种情况下，是错误的，我想这也是从传统媒体获取的信息。Lex Fridman：实际上，这里有一个有趣的问题。Elon Musk：这些都是公开的法院案件，但 SEC 的民事案件，SEC 的民事投诉书上，SEC 的家伙们在旧金山丧失了一致的陪审团裁决，他们选择了旧金山，因为他们认为那是我最有可能失败的地方，但最终陪审团一致认为我胜诉。洛杉矶审判也是他们选择的，他们选择那个地点是因为我最有可能失败，但在这两个案例中，我都获得了一致的胜诉。Lex Fridman：我的意思是，这里有一个有趣的问题，如果新闻机构写一篇关于 Elon Musk 的负面文章，那似乎会有更多的点击，这似乎是获取点击的最佳方式之一，那么，如果你要训练 Grok，如何不训练那些具有不一致激励的文章呢？Elon Musk：我们需要在实际法律决定的培训集中添加，所以如果你真的读了法庭的公开决定，你会发现它们与媒体所写的完全相反。Lex Fridman：所以始终努力追求地面真相。Elon Musk：实际上，陪审团和法官实际上得出的结论是什么。在这两种情况下，他们都认为我是无辜的，而且这是在陪审团试图找到我最有可能失败的地点的情况下，这显然可以是一个更好的批评。我对时间表过于乐观，这是真的，但虽然我有时会迟到，但最终我总是能交付的。Lex Fridman：除了Uber Lilith，不是吗？在过去的一年左右，自从购买 X 以来，你变得更加政治化，是否有一部分后悔？Elon Musk：我想要打击“觉醒思想病毒”，我认为它是一种对文明的威胁。Lex Fridman：基本上，你进入了政治战场，是为了某种要求？Elon Musk：我不知道这是否必然与某个候选人或另一个候选人有关，但我一般反对那些反对绩效的事情，或者试图压制讨论，甚至不允许讨论某个话题的事情，觉醒思想病毒就是改头换面的共产主义。如果觉醒思想病毒是左 翼的话，那么我想这是正确的，但我不确定。我认为左 派有一些方面是好的，我的意思是，如果你支持环境保护，如果你希望为人类创造一个积极的未来，如果你相信对待你的同胞应该充满同情心，善良而不残忍，无论这些价值观是什么。Lex Fridman：你曾经说过你以前是左派或中左派，为了让你再次投票给民主党，你希望看到什么？Elon Musk： 不，我会说在社会问题上我可能会处于左倾中心，经济问题上可能会稍微向右倾斜。Lex Fridman：这仍然成立，但我认为。Elon Musk：也许半个国家，不是吗？也许更多。Lex Fridman：你和 AOC 是不是秘密朋友，或者更大的问题是，你是否希望你和她以及所有不同政治信仰的人能够更多地以同情心交流，也许在线上更多地传递一些快乐和良好的氛围和幽默感？Elon Musk：我一直支持幽默，这是我们拥有的。Lex Fridman：搞笑模式，但良好的氛围，友情，幽默，比如友情。Elon Musk：我不认识 AOC，我只在她参加的一个活动上见过她，她穿着一件连衣裙，但我只看到了一边，所以看起来像吃了病毒，但我不知道。Lex Fridman： 剩下的部分是什么，我认为我们应该让一个语言模型完成，如何完成这句话的可能方式呢？我想这个方法行不通，他们仍然希望我支持。Elon Musk：听起来不错，更具特色。Lex Fridman： 你是全球最著名的富有和有权势的人之一，你的地位难以找到可以信任的人。Elon Musk： 不要相信任何人，甚至不要相信自己。Lex Fridman：这是你自己说的，我开玩笑的，但是否有某种信任，需要一个小时来考虑一下，也许需要一些药物，也许还需要 Grock。我的意思是，在这个世界上，每个人都想从你身上得到一些东西，这是否会在某种程度上对你的思想造成压力？我会坚持下去，也有一首歌叫这样，起初我是不是很害怕？我忘记了歌词的剩余部分，但是在这个方面，你没有挣扎，我知道你能够坚持下去，但是有方法。Elon Musk：变成德鲁伊树。Lex Fridman： 它是做什么的？石化。Elon Musk： 它使怪物变成石头，字面上持续 6 秒钟，或者...Lex Fridman：6 秒钟，在《暗黑破坏神》中有太多的数学，这让我头疼。Elon Musk：这就像不停的数学。Lex Fridman：我的意思是，你真的在嘲笑它，但是你不会，它可能会对你的思维施加巨大的压力。Elon Musk：是的，有时候确实会感到有压力。Lex Fridman：但是你如何知道你在工作中和生活中可以信任谁呢？Elon Musk：我想你可以看看某人长期以来的记录，如果数据支持的话，你可以使用你的神经网络来评估。Lex Fridman：神经网络不会感到痛苦，你的网络有意识。当人们背叛你时，它可能会感到痛苦，你可以制定。Elon Musk：坦白说，我几乎从未被背叛过，非常罕见，值得一提。Lex Fridman：我明白了，善待人们，他们也会善待你。Elon Musk：因果报应。Lex Fridman：你信任的其他人，有人会在你的内部呼喊你吗？Elon Musk：X 平台对此非常有帮助，如果你在寻找批判性的反馈。Lex Fridman：它会把你推向更极端的思维，让你对人性产生怀疑吗？Elon Musk：我不认为我会成为怀疑论者。事实上，我认为一个人永远不应该信任一个怀疑论者，原因是怀疑论者通过说每个人都这样来为自己的不良行为找借口，因为他们是怀疑论者，如果有人是真正的怀疑论者，那就是一个警告信号。Lex Fridman：那里有一定程度的投射，从外部观察并享受这一点总是很有趣。Elon Musk：我认为，这是一个重要的观点，我认为听众应该牢记这一点，如果有人是怀疑论者，意味着他们认为每个人都有不良行为，那么他们很容易通过说每个人都这样来为自己的不良行为找借口，这并不是真的，大多数人都是善良的。Lex Fridman：我希望 X 上的人们能够更好地看到其他人行为中的善意，似乎有一种倾向去寻找负面，某种程度上负面更吸引人，更容易传播，我不知道这与人性有关。Elon Musk：相比传统媒体，我觉得 X 平台的氛围要积极一些，如果你阅读传统报纸，会感到沮丧，老实说，而在 X 平台上，我真的每天都笑得更多，比其他所有的事情加起来都多。Lex Fridman： 最后一点是，它有一些重叠，但并不一定完全重叠于好的情感和支持，比如庆祝他人，不是以愚蠢、肤浅、幼稚的方式，而是以令人敬佩的方式，哦，发生了什么了不起的事情，你为他们庆祝，感觉这被其他人压过了，现在这比主流媒体要好。Elon Musk：主流媒体几乎总是对一切持负面态度，传统新闻试图回答的问题是，今天地球上发生了什么最糟糕的事情？这是一个广阔的世界，所以在任何一天，都会发生一些不好的事情。Lex Fridman：对此的一般化，我可以采取的最糟糕的观点是什么？Elon Musk：我不知道，新闻中存在着强烈的负面偏见，我认为这可能的一个解释是进化的，坏消息在历史上可能会导致潜在的致命风险，比如那边有一只狮子，或者有其他部落想要杀死你，好消息我们找到了一片浆果，是很好的，但并非必要。Lex Fridman：我们的老朋友特斯拉自动驾驶，它可能是世界上最聪明的现实世界 AI 系统之一。Elon Musk：对吗？你从一开始就关注它吗？Lex Fridman：它曾经是世界上最令人惊叹的机器人之一，而且现在仍然是，当它变得不仅仅是四个轮子上的机器人，而是一个能感知世界并具有潜在不同体现的现实世界 AI 系统时，真是令人兴奋。Elon Musk：关于端对端训练的真正令人兴奋的事情是，它学会了阅读，就像你可以阅读科学一样，但我们从未教过它阅读，所以我们从未教过它是什么汽车，什么是人，或者自行车，它通过观看视频，就像人一样，从视频中了解了所有这些事物，了解了路上的所有物体。人类是通过光子和控制信号来理解的，很多信息都通过视觉传达到我们的大脑，就像我们的运动信号通过手指和嘴巴来传达一样，汽车也是通过光子和控制信号来理解的，这一点是一样的。Lex Fridman：通过观看图像序列，你与 Norbert Elias（德国著名社会学家，作品《文明的伴侣》是一部关于文明和社会变迁的重要著作）达成了共识，基本上语言是将该世界模型投射到字母序列上的一种方式。Elon Musk：在这些事物中找到了一些相关性群集，。Lex Fridman：这样做就像深刻理解某些关于世界的东西。Elon Musk：这就是我们大脑的工作方式，但它是美丽的内容控制。Lex Fridman：我们的神经网络能够理解世界的深层含义，问题是它能走多远？看起来每个人都对自监督学习领域的 LLMs 感到兴奋。Elon Musk：文本。Lex Fridman：似乎在这方面与特斯拉自动驾驶有深刻的相似之处，对你来说，它基本上是一样的，但我们的转换率现在正在趋于一致，我想知道谁会更快地理解世界的深层含义，或者它们只会自然而然地趋于一致。Elon Musk：它们都朝着通用 AI 前进。特斯拉的方法在计算上更加高效，这是必须的，因为我们在这方面受到了限制。我们只有 100 瓦，以及每秒执行 144 万亿次操作的计算机，听起来似乎很多，但在今天来看，它实际上是小巫见大巫。Lex Fridman：通往 AGI 的道路可能会产生更大的影响，因为让我们理解得更快，更好地理解真实世界，因此能够更快地与真实世界中的人类融合。Elon Musk：它们都会理解世界，但我认为特斯拉的方法从根本上更加计算高效，这是没有选择的。我们的大脑非常计算高效，非常节能，想想我们的大脑能做什么？仅有不到 10 瓦的高级大脑功能，不包括用于控制身体的东西，我们大脑的思考部分少于 10 瓦，这 10 瓦的能量仍然可以产生比 10 兆瓦的 GPU 集群更好的小说，所以这里有 6 个数量级的差距。到目前为止， AI 之所以取得了今天的成就，主要是通过强大的计算和大量的能量投入，但这并不是它的终点。通常情况下，对于任何给定的技术，首先要使其工作，然后再进行优化，所以我认为随着时间的推移，这些模型会变得更小，能够在更少的计算和能量消耗下产生合理的输出。特斯拉在这方面可能领先一步，因为我们被迫尝试用 100 瓦的计算来理解世界，我们忘记了一些基本的功能，所以我们不得不在仿真中运行它们，我们用 Hardware4 修复了许多问题，然后 Hardware5 会更好，但在这一点上，我希望很明显，即使使用 Hardware3 和 100 瓦的功率，特斯拉的自动驾驶可能会比人类驾驶得更好，如果真的进行了优化，它可以处理 50 瓦的计算。Lex Fridman：你在开发 Optimus 、应用和将这种现实世界 AI 集成到机器人操作和人类机器人领域有哪些有趣的小事或大事？你已经了解了一些什么？Elon Musk：我对于我们不得不自己开发机器人的每个部分感到惊讶，他们不会知道有现成的电子设备、传感器，就像我们不得不开发一切，我们无法找到任何金额的电动机的供应来源。Lex Fridman：甚至不仅仅是高效和昂贵。就像任何东西都没有现成的，他们都是创造者，一切都必须从零开始设计。Elon Musk：我们努力寻找任何现有的东西，因为你想想世界上有多少电动机被制造出来，成千上万，数十万电动机的设计，没有一个适合人类，真的没有，所以我们不得不开发我们自己的设计，专门为人类骑乘或需要的情况。Lex Fridman：设计出能够大规模制造的东西有多难，相对来说成本较低？如果与波士顿动力的 Atlas 相比，它非常昂贵。Elon Musk：机器人是设计成可以以制造汽车的方式制造的，我认为最终我们可以以低于汽车成本的价格制造 Optimus ，这应该是因为如果你看机器人的质量要小得多，而汽车上有很多执行器，汽车上的执行器比机器人多。Lex Fridman：在一个有手指的人类机器人中，执行器是有趣的，所以 Optimus 拥有真正好的手和手指，你知道，它们可以进行一些有趣的操作，轻触机器人。Elon Musk：我的一个目标之一是捡起一根针和一根线，穿过针孔。Lex Fridman： 仅仅通过观察，离这个目标有多远？Elon Musk：也许还有一年，我必须回去，我对我们在汽车领域所做的工作感到乐观。Lex Fridman：知觉或者也是控制。Elon Musk： 不，控制方式不同，但汽车和机器人都是通过视频进行理解的，汽车是四轮，而 Optimus 是一只有四肢的机器人，有些相似。Lex Fridman：端到端的整个学习过程实际上就是你只是拥有一套不同的控制系统。Elon Musk：之后我们会找出如何通过观看视频来做事情。Lex Fridman：正如那句话所说，要善待每个你遇到的人，因为每个人都在与内心的战斗。这话确实没错，有什么困难的事情你正在经历，人们通常看不到吗？Elon Musk：我试着不恶意对待任何人。我的思绪是一片混乱，我认为大多数人不会想成为我，他们可能认为他们想成为我，但他们不了解。Lex Fridman： 你过得怎么样？Elon Musk：总体来说还好，在大局上，我不能抱怨。Lex Fridman：你会感到孤独吗？Elon Musk： 有时候，但是我有孩子和朋友陪伴着我。Lex Fridman：所以不是存在性的孤独。Elon Musk：有很多夜晚我一个人睡觉。我不必这样做，但我这样做。Lex Fridman：艾萨克森在他的新传记中写到了你艰难的童年，你会在心中找到对那段生活的一切发生的事情的宽恕吗？Elon Musk：什么是宽恕？至少我不认为我怀有怨恨。 Lex Fridman：所以宽恕对于人们来说是困难的，似乎你不怀有怨恨。Elon Musk：我的意思是，我试着思考什么会对未来产生积极影响，抱怨不会对未来产生积极影响。Lex Fridman： 你从你的孩子那里学到了生活的什么？那些小生物有机体。Elon Musk：我的意思是，开发 AI ，比如说 小 X 的成长是很迷人的，因为他们有一些形式上的相似之处，我没有预料到，我的意思是，我可以看到他的生物神经网络，对世界变得越来越有意义，同时我也可以看到数字神经网络对世界变得越来越有意义。孩子在一起的一件事是，你可以透过他们的眼睛重新看世界，对他们来说，一切都是新鲜的，然后当你看到了这一点，通过他们的经历，这个世界也变得新鲜，你也是如此。</body></html>","source":"lsy1692098431120","collect":0,"html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>Lex Fridman对话马斯克：宇宙可能只是一个巨大的计算机模拟；GPU集群与人脑相比还有6个数量级的差距</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\nLex Fridman对话马斯克：宇宙可能只是一个巨大的计算机模拟；GPU集群与人脑相比还有6个数量级的差距\n</h2>\n\n<h4 class=\"meta\">\n\n\n2023-11-11 14:44 北京时间&nbsp;&nbsp;&nbsp;<a href=https://mp.weixin.qq.com/s?__biz=Mzg3NDkyMTQ5Mw==&mid=2247489422&idx=1&sn=3163fb955679c162182da14c98ebfce9&chksm=cec83cf4f9bfb5e22a71dd546daea8360aee9a20cf233b6a030d8db1a03bcb603358507f7ae2&mpshare=1&scene=23&srcid=11114gKjpl2rtjP1kkubEDVZ&sharer_shareinfo=db957ca2ebee691a91f7a2333c5bd1b4&sharer_shareinfo_first=db957ca2ebee691a91f7a2333c5bd1b4#rd>有新Newin</a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\n马斯克认为，到目前为止 AI 之所以取得了今天的成就，主要是通过强大的计算和大量的能量投入，但这并不是它的终点。周五，MIT 科学家 Lex Fridman 与马斯克展开了第 4 次对谈，这最新的节目中他们讨论了人类、哲学、游戏竞技、经济、战争、社交媒体、AI、机器人以及短期 2～3 年的趋势等多个领域的话题。对于 AI 以及机器人，马斯克表示我们的大脑非常计算高效，非常节能，仅有不到 10 瓦的...\n\n<a href=\"https://mp.weixin.qq.com/s?__biz=Mzg3NDkyMTQ5Mw==&mid=2247489422&idx=1&sn=3163fb955679c162182da14c98ebfce9&chksm=cec83cf4f9bfb5e22a71dd546daea8360aee9a20cf233b6a030d8db1a03bcb603358507f7ae2&mpshare=1&scene=23&srcid=11114gKjpl2rtjP1kkubEDVZ&sharer_shareinfo=db957ca2ebee691a91f7a2333c5bd1b4&sharer_shareinfo_first=db957ca2ebee691a91f7a2333c5bd1b4#rd\">Web Link</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","type":0,"thumbnail":"https://static.tigerbbs.com/4c681fec1e48de761eabd8ac85db9529","relate_stocks":{"LU1861559042.SGD":"日兴方舟颠覆性创新基金B SGD","LU1839511570.USD":"WELLS FARGO GLOBAL FACTOR ENHANCED EQUITY \"I\" (USD) ACC","LU2357305700.SGD":"Allianz Global Artificial Intelligence ET H2-SGD","LU0053666078.USD":"摩根大通基金-美国股票A（离岸）美元","TSLA":"特斯拉","LU0823411888.USD":"法巴消费创新基金 Cap","LU1551013342.USD":"Allianz Income and Growth Cl AMg2 DIS USD","LU0082616367.USD":"摩根大通美国科技A（dist）","BK4592":"伊斯兰概念","LU0719512351.SGD":"JPMorgan Funds - US Technology A (acc) SGD","LU0056508442.USD":"贝莱德世界科技基金A2","IE00B1XK9C88.USD":"PINEBRIDGE US LARGE CAP RESEARCH ENHANCED \"A\" (USD) ACC","BK4585":"ETF&股票定投概念","BK4555":"新能源车","LU0234572021.USD":"高盛美国核心股票组合Acc","LU0820561909.HKD":"ALLIANZ INCOME AND GROWTH \"AM\" (HKD) INC","LU2249611893.SGD":"BNP PARIBAS ENERGY TRANSITION \"CRH\" (SGD) ACC","IE00BSNM7G36.USD":"NEUBERGER BERMAN SYSTEMATIC GLOBAL SUSTAINABLE VALUE \"A\" (USD) ACC","LU0820562030.AUD":"ALLIANZ INCOME AND GROWTH \"AMH2\" (AUDHDG) H2 INC","LU2063271972.USD":"富兰克林创新领域基金","LU0823414478.USD":"法巴经典能源转换基金","IE00BWXC8680.SGD":"PINEBRIDGE US LARGE CAP RESEARCH ENHANCED \"A5\" (SGD) ACC","BK4527":"明星科技股","LU0466842654.USD":"HSBC ISLAMIC GLOBAL EQUITY INDEX \"A\" (USD) ACC","LU0097036916.USD":"贝莱德美国增长A2 USD","LU2087621335.USD":"ALLSPRING GLOBAL FACTOR ENHANCED EQUITY \"A\" (USD) ACC","BK4588":"碎股","LU0689472784.USD":"安联收益及增长基金Cl AM AT Acc","BK4550":"红杉资本持仓","LU1852331112.SGD":"Blackrock World Technology Fund A2 SGD-H","LU2326559502.SGD":"Natixis Loomis Sayles US Growth Equity P/A SGD-H","LU1720051017.SGD":"Allianz Global Artificial Intelligence AT Acc H2-SGD","LU1861215975.USD":"贝莱德新一代科技基金 A2","BK4551":"寇图资本持仓","BK4574":"无人驾驶","LU0316494557.USD":"FRANKLIN GLOBAL FUNDAMENTAL STRATEGIES \"A\" ACC","LU1548497426.USD":"安联环球人工智能AT Acc","LU1861558580.USD":"日兴方舟颠覆性创新基金B","LU1861220033.SGD":"Blackrock Next Generation Technology A2 SGD-H","LU0820561818.USD":"安联收益及增长平衡基金Cl AM DIS","LU2602419157.SGD":"HSBC ISLAMIC GLOBAL EQUITY INDEX \"AC\" (SGD) ACC","BK4581":"高盛持仓","LU1551013425.SGD":"Allianz Income and Growth Cl AMg2 DIS H2-SGD","BK4099":"汽车制造商","BK4511":"特斯拉概念","LU0348723411.USD":"ALLIANZ GLOBAL HI-TECH GROWTH \"A\" (USD) INC","BK4548":"巴美列捷福持仓","LU1720051108.HKD":"ALLIANZ GLOBAL ARTIFICIAL INTELLIGENCE \"AT\" (HKD) ACC","LU0943347566.SGD":"安联收益及增长平衡基金AM H2-SGD","LU0234570918.USD":"高盛全球核心股票组合Acc Close"},"source_url":"https://mp.weixin.qq.com/s?__biz=Mzg3NDkyMTQ5Mw==&mid=2247489422&idx=1&sn=3163fb955679c162182da14c98ebfce9&chksm=cec83cf4f9bfb5e22a71dd546daea8360aee9a20cf233b6a030d8db1a03bcb603358507f7ae2&mpshare=1&scene=23&srcid=11114gKjpl2rtjP1kkubEDVZ&sharer_shareinfo=db957ca2ebee691a91f7a2333c5bd1b4&sharer_shareinfo_first=db957ca2ebee691a91f7a2333c5bd1b4#rd","is_english":false,"share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","article_id":"2382076400","content_text":"马斯克认为，到目前为止 AI 之所以取得了今天的成就，主要是通过强大的计算和大量的能量投入，但这并不是它的终点。周五，MIT 科学家 Lex Fridman 与马斯克展开了第 4 次对谈，这最新的节目中他们讨论了人类、哲学、游戏竞技、经济、战争、社交媒体、AI、机器人以及短期 2～3 年的趋势等多个领域的话题。对于 AI 以及机器人，马斯克表示我们的大脑非常计算高效，非常节能，仅有不到 10 瓦的高级大脑功能，不包括用于控制身体的东西，我们大脑的思考部分少于 10 瓦，这 10 瓦的能量仍然可以产生比 10 兆瓦的 GPU 集群更好的小说，所以这里有 6 个数量级的差距。马斯克认为，到目前为止 AI 之所以取得了今天的成就，主要是通过强大的计算和大量的能量投入，但这并不是它的终点。通常情况下，对于任何给定的技术，首先要使其工作，然后再进行优化，所以我认为随着时间的推移，这些模型会变得更小，能够在更少的计算和能量消耗下产生合理的输出....以下为这期 Lex 与马斯克对话的全部内容，enjoy～对话全文Lex Fridman： 这是我和 Elon Musk：的第四次对话，也是我在 Lex Friedman 播客上的对话。我以为你会完成它？这是电影史上最伟大的主题之一。我刚才在想罗马帝国。Elon Musk： 至少每个男人每天都会想到罗马帝国的那个梗。Lex Fridman：一天一次，一半的人口对此感到困惑，不知道这是真的还是假的，但更认真地说，我在思考当今世界上正在发生的战争。如你所知，战争和军事征服一直是罗马社会和文化的重要组成部分，而且我认为这在人类历史上的大多数帝国和朝代中都是一个重要部分。Elon Musk： 他们通常是由征服而产生的。我的意思是，有些像奥匈帝国那样，只是通过很多聪明的婚姻联盟。Lex Fridman： 从根本上说，征服是一种动力，他们庆祝战争中的卓越成就，许多领导者都是出色的将军，诸如此类，所以这是一个好问题，至少在有趣模式下是这样。你认为战争是人类天性的一部分，还是人类社会结构的后果？我这样问是因为你有些争议地一直是和平的支持者。Elon Musk： 我通常支持和平。我的观点是，无知是我们真正的敌人，这才是真正困难的部分，而不是与其他人类作战，但所有生物都会战斗，你看人们可能认为大自然是某种和平的事物，但事实上并非如此，在丛林中基本上每个方向都是谋杀和死亡，我的意思是丛林中的植物和动物每天每分钟都在试图彼此杀害，所以我们在这方面并不罕见。Lex Fridman：这里有一个相关问题，那就是随着智力的提高，对这些暴力本能的控制也更大。Elon Musk：时代，我们比如黑猩猩更容易控制我们对暴力的渴望。事实上，如果看看黑猩猩社会，它并不友好。我的意思是，倭黑猩猩是个例外，但黑猩猩社会充满了暴力，而且坦白说，那是大脑边缘系统的作用，你不想站在黑猩猩的对立面，它们会咬掉你的脸，甚至扯掉你的蛋蛋。Lex Fridman：罗马人有正义战争的概念，但在黑猩猩社会中没有正义战争，只有必要手段的战争和统治。Elon Musk： 黑猩猩社会是人类社会的原始版本，它们根本不是爱好和平的，暴力极端，有时候有人看了太多迪士尼电影，决定把黑猩猩当宠物养，然后黑猩猩就咬掉了他们的脸，那种事情已经发生过好几次了，这种事情发生在一些人身上，很不幸。Lex Fridman：就像我说的，有些争议地，你在 Twitter 上和其他地方一直是和平的支持者。让我问你关于当今正在进行的战争，以及实现和平的路径，你希望以色列和加沙当前的战争如何结束？你认为在那个地区减少长期人类痛苦的路径是什么？Elon Musk： 认为那个地区绝对是，如果你查一下词典中“没有简单答案”的定义，会看到中东，特别是以色列的图片，所以没有简单的答案。或者我的意见是，哈马斯的目标是激起以色列的过度反应。他们显然不期待军事胜利，但他们真的希望犯下他们能犯下的最恶劣的暴行，以引发以色列尽可能激烈的回应。然后利用这种激烈的回应来动员全世界的穆斯林支持加沙和巴勒斯坦的事业，他们在这方面已经成功了。这里的反直觉之处，我认为应该做的事情，即使这很困难，是我建议以色列进行尽可能显眼的善行。每一部分，每件事都是实际上破坏哈马斯目标的东西。Lex Fridman：在某种意义上，如果在地缘政治中有意义，就是实施“以德报怨”。Elon Musk：这不完全是“以德报怨”，因为我确实认为以色列找到哈马斯成员并杀死他们或把他们阉割是适当的。像这种事情必须做，否则他们就会一直来，但除此之外，他们需要尽其所能。例如，有人谈论建立一个移动医院。我建议这样做。只是确保有食物、水、医疗必需品。而且要非常夸张地做，并且非常透明，以至于你的猫咪可以一直盯着那个网络摄像头。Lex Fridman：部署善行。Elon Musk： 这些善行是明确无误的，意味着不能以某种方式被哈马斯所诈骗，所以你必须对付他们的诡计。Lex Fridman：这最终会对抗该地区的普遍仇恨。Elon Musk： 是的。我不确定是谁说的。这是一句名言，但“以眼还眼，最终让所有人都瞎了”。现在，那个地区的话，他们真的相信“以眼还眼”，但我的意思是，如果你不打算对一个整体民族进行种族灭绝，显然这对任何人都不应该是可接受的，那么你基本上会留下很多恨以色列的人，所以真正的问题是，你杀死一个哈马斯成员，你创造了多少个？如果你创造的比你杀死的还多，你就没有成功。那就是真正的情况。可以肯定地说，如果在加沙杀死一个人的孩子，至少会有几个哈马斯成员会去杀以色列人。这就是情况，但我的意思是，这是可以讨论的最有争议的话题之一，但我认为，如果最终的目标是某种长期的和平，就必须从长远来看，恐怖分子的数量是增多还是减少？Lex Fridman：让我继续谈谈战争。Elon Musk： 可以肯定地说，战争曾经存在，将来也将存在。总会有战争，问题只是战争的程度和规模，但我提到“未来不再有战争”，我认为这是一个非常不可能的结果。Lex Fridman：你谈到了《雪崩》中的虚构世界“文化”，那里甚至也有战争。Elon Musk： 用巨大的战争开始，第一本书就是以一场巨大的银河系战争开始，有数万亿人死亡，数万亿。Lex Fridman：它仍然保护了这些繁荣的小口袋，不知何故，你可以有银河系的战争，仍然有繁荣的小口袋。Elon Musk： 我的意思是，如果我们有一天能够扩展到银河系或其他地方，那里将会有银河系的战争，那是一个词。Lex Fridman：战争的规模一直在增加，就像苦难的规模和繁荣的规模之间的竞赛，许多人似乎正在利用这场悲剧来敲打战争的鼓，喂养军工复合体，你担心那些支持升级的人吗？如何阻止？Elon Musk： 我担忧的一件事是，现在活着的人中很少有人能真正感同身受地理解战争的恐怖。至少在美国是这样，显然，在乌克兰和俄罗斯前线的人们知道战争有多么可怕，但西方有多少人真的理解呢？我的祖父参加了第二次世界大战，他遭受了严重的心理创伤。他在东北非和意大利战场上待了将近六年，所有的朋友都在他面前被杀害。他们本来会把他送上前线，但他们随机做了一次智商测试，他的成绩很高。尽管如此，他因为没有完成高中学业——他不得不辍学，因为他的父亲去世了，他必须工作来养活他的兄弟姐妹——所以没有资格加入军官团，被归类为炮灰。后来，他因为这次测试被转到了伦敦的英国情报部门。那是他遇到我祖母的地方，但他患有严重的创伤后应激障碍，他几乎不说话，如果你试图和他交谈，他只会让你闭嘴。他获得了许多勋章，但从不炫耀，甚至没有暗示。我是从他的军事记录上发现这些的，他会说绝对不要再经历那样的事情，但现在他已经去世20年甚至更久，30年前，还有多少人记得第二次世界大战呢？Lex Fridman： 这也许同样适用于核战争的威胁。Elon Musk： 我的意思是，足够多的核弹头指向美国，可以多次将其变成放射性废墟。Lex Fridman：现在有两场重大战争正在进行。你谈到了 AI 的威胁，但现在随着冲突的加剧，你担心核战争吗？Elon Musk： 我认为我们不应该忽视核战争的可能性，这是对文明的威胁。现在，我可能错了，但我认为核战争的当前可能性相当低，有很多核武器指向我们，我们也有很多核武器指向其他人，它们还在那里，没有人把它们收起来，那些导弹仍然在发射井中。Lex Fridman：而且拥有核武器的领导人似乎并不在彼此交谈。Elon Musk： 是的。有些战争在地方层面上是悲惨和困难的，而另一些战争则有可能终结文明。显然，全球范围的核战争很可能结束文明，或许是永久性的，但肯定会严重创伤，甚至可能使人类进步倒退到石器时代。这样的情况下，科学家和工程师可能也不会很受欢迎，你们把我们带入了这个困境，所以一般来说，我认为我们也应该优先考虑对文明构成威胁的事情，而不是那些在地方层面上痛苦和悲惨，但不是文明性的事情。Lex Fridman：你希望乌克兰战争如何结束，以及再次减少人类痛苦的路径是什么？Elon Musk：我认为可能发生的事情，也就是现在的情况，是停火或和平的线条会非常接近目前的线条，但现在的情况是，无论哪一方发起进攻，都会遭受几倍于防守方的伤亡。因为你有深层防御，有地雷阵、战壕、反坦克防御。没有一方拥有空中优势，因为防空导弹远比飞机更先进，所以双方都没有空中优势。坦克基本上是移动缓慢的死亡陷阱，它们不是反坦克武器的免疫，所以你真的只有远程火炮和战壕中的步兵。这就是第一次世界大战的再现。撤退、向对方扔旧炮弹。Lex Fridman：这使得远程火炮更加精准、高效，更有效地在双方造成伤亡。Elon Musk： 是的，无论哪一方，你都不想尝试前进，因为死亡的可能性极高。为了克服深层防御的战壕和地雷阵，你真的需要在局部拥有显著的数量优势。理想情况下，是结合运作的快速攻击，如飞机、一大群坦克和大量人员。这是你突破防线的唯一方式，然后你得突破，并且不让增援部队马上把你赶出去。我的意思是，我真的建议人们详细阅读一下第一次世界大战的战争，那是很残酷的。那里死亡的人数令人难以置信。Lex Fridman：很难想象这场战争的结局不会和开始时一样，就土地归属等问题而言几乎没有任何变化，但在此过程中，会有大量的人类痛苦、死亡和基础设施的破坏。Elon Musk：是的。我之所以一年前提出某种停战或和平方案，是因为我预测了几乎完全相同的结果，那就是为了几乎没有土地变化而导致大量人员死亡。这就是乌克兰和俄罗斯青年的损失。我们应该对俄罗斯的男孩也有同情，就像对乌克兰的男孩一样，因为那些俄罗斯男孩并没有要求站在前线。他们被迫去的。很多孩子再也回不到他们父母身边了。我认为他们中的大多数并不真正了解。另一方面，有一句谚语来自第一次世界大战：不相识的年轻人代表相互认识的老人互相残杀，那有什么意义呢？Lex Fridman：泽连斯基曾表示，他过去不感兴趣，或者不愿意直接与普京对话，你认为他应该坐下来，面对面地和领导人谈判和平吗？Elon Musk： 我建议不要送乌克兰的青年去战壕中送死，无论是否与普京谈判，都不要这么做。无论哪一方发起进攻，都会损失大量人员，历史不会善待他们。Lex Fridman：你坦诚地谈到了美国和中国之间可能发生战争的可能性，如果在台湾问题和一个中国政策上找不到外交解决方案的话。那么，我们如何避免这两个超级大国发生冲突的轨迹呢？Elon Musk： 值得一读的是《修昔底德陷阱》这本书，我非常喜欢战争历史，几乎反复研究过每一场战役，并试图弄清楚真正的胜利原因，而不是一方或另一方声称的原因。Lex Fridman： 无论是胜利还是战争的爆发和整个过程。Elon Musk： 是的，所以雅典和斯巴达就是一个典型案例。想想希腊人，他们真的写了很多东西，他们喜欢写作。世界上许多地方发生了很多有趣的事情，但人们没有记录下来，所以我们不知道发生了什么，或者他们没有详细地写。他们只会说，我们进行了一场战斗，我们赢了，还能加点什么吗？希腊人真的写了很多。他们非常善于表达。我们保存了很多那样的文字，所以我们知道导致伯罗奔尼撒战争的原因，即斯巴达和雅典联盟之间的战争。我们知道，他们看到了即将到来的战争。斯巴达人没有写很多东西。他们本性上不是很健谈，但他们确实写了东西，但他们很简洁。雅典人和其他希腊人写了很多，他们像这样说：斯巴达本是希腊的领袖，但雅典每年都变得越来越强大，每个人都认为雅典和斯巴达之间的冲突不可避免。我们怎样才能避免这种冲突呢？他们不能。他们看到了即将到来的战争，但仍然无法避免。如果一个群体、文明或国家超越了另一个，从经济角度来看，美国自 1890 年左右以来一直是世界上最强大的经济体。美国是世界上最强大的经济引擎，比任何人都活得久。战争的基础是经济。现在，以中国为例，其经济规模可能是美国 2～3 倍，想象一下，你原来是街头最强壮的孩子，然后现在突然出现了一个孩子，他体型是你的 2 倍。Lex Fridman：我们看到了即将到来的冲突，如何才能避免？让我提出一个想法，就是文化的交融和理解？似乎在彼此之间存在着巨大的文化鸿沟。你是一个有趣的案例，因为你是美国人。显然，你在美国做了很多不可思议的制造业，但你也在中国工作。Elon Musk：我在中国待了很长时间，并且多次与领导层会面。Lex Fridman：也许一个好问题是，关于中国有些什么东西是人们不了解的？从文化角度看，有哪些积极的、有趣的事情你学到了？Elon Musk： 中国有大量聪明、勤奋的人，这一点令人难以置信。有多少聪明、勤奋的人在中国？他们比这里多得多。我认为中国可能是从能源角度看最不缺的。中国近年来的建筑比美国更令人印象深刻，无论是火车站、建筑还是高速铁路。真的比我们在美国所拥有的更令人印象深刻。我建议有人去上海和北京看看那些建筑，坐火车从北京到西安，那里有兵马俑。中国有令人难以置信的悠久历史。我认为中国可能是从文字使用的角度来看，最古老的，或许是最古老的文字。而且中国人确实记录了事情。所以，从历史上看，中国总是以内部为重。他们不是征服型的。他们打过彼此，发生过许多内战。在三国战争中，我相信他们损失了大约 70% 的人口。他们发生过残酷的内战，与美国内战相比简直微不足道。所以我认为重要的是要认识到中国并不是单一的。我们通常将中国视为一个思想统一的实体，但根据我所见，这绝对不是事实，我认为大多数了解中国的人都会同意，中国人想到中国的次数是他们想到中国以外事物的 10 倍，所以他们 90% 的考虑都是内部的。Lex Fridman：当你谈论合作以及超级大国之间的未来和平时，面向内部不是一件非常积极的事情吗？这就像是专注于提升自己，而不是通过军事力量所谓的提升他人。Elon Musk： 好消息是，中国的历史表明，中国并不是好战的，意味着他们不会出去侵略一大堆国家。我对此有很强烈的感觉，所以这是好事，因为许多非常强大的国家都是好战的。美国也是少有的几个不好战的国家之一，比如二战后，美国本可以基本上接管世界和任何国家。我们有核武器，别人没有核武器。我们甚至不需要牺牲士兵。你想要哪个国家？美国本可以占领一切，但实际上并没有。美国实际上帮助了许多国家重建，李如欧洲和日本。这是非常不寻常的行为，几乎是史无前例的。美国做了一些显著的善举，比如柏林空运，我认为总有人说，美国做了坏事。当然，美国做了坏事，但人们需要看整个记录。一般来说，一个测试标准是，你是如何对待你的战俘的？或者说，不是冒犯俄罗斯人，但假设你在 1945 年的德国，你一边有俄罗斯军队，另一边有法国、英国和美国军队，你愿意被哪一方俘虏？没有哪个国家是道德完美的，但我强烈推荐成为美国的战俘。Lex Fridman：在战俘的完整菜单中。Elon Musk： 非常多。实际上，党卫队接到命令要处决布朗和所有德国的认识者，他们侥幸逃脱了党卫队，他们说他们要去树林里散步，他们在冬天没有外套就离开了，然后像疯了一样跑，没有食物，没有外套，没有水，只是跑，跑向西边。我猜布朗找到了一辆自行车或什么的，然后就骑自行车，哪里最快，他就往哪里骑，找到了一个美国巡逻队，所以这就是你可以判断道德的一种方式，你想成为哪国的战俘？任何地方都不好玩，但有些地方比其他地方糟糕得多。美国一直都是，远非完美，但通常是一个仁慈的力量。我们应该始终自我批评，我们试图做得更好，但任何有一点理智的人都知道，所以我认为在这方面中国和美国是相似的，两国都没有以显著方式好战，这就像是一个共同的原则吧。现在中国对台湾的问题非常坚定，并且长期以来对此非常明确。从这个角度来看，这就像是其中一个州不在那里，比如夏威夷或类似的东西，但比夏威夷更重要。而夏威夷对我们来说相当重要，所以他们认为，台湾岛，现在的台湾，是中国的根本部分，但不是中国的一部分，但应该是。而且唯一的原因是美国的太平洋舰队。Lex Fridman：随着他们的经济力量和军事力量的增长。他们显然说的是他们的利益将会实现。Elon Musk：是的，中国已经非常明确地表示，他们将吸收台湾。和平地或军事地，但他们将从这个终点吸收，这是100%可能的。Lex Fridman：你说的显著的善举作为地缘政治政策，这似乎有点天真。我敢说，这可能是避免大多数战争的路径。就像你说的，这听起来天真，但如果你相信大多数人性的善良，这实际上是相当聪明的。显著的善举似乎可以在涉及的国家的民众中产生共鸣。而且会升级。Elon Musk： 绝对是的。一战后，他们犯了一个大错误。他们基本上试图把所有的责任都归咎于德国。而且让德国背负了不可能偿还的赔偿金。而实际上，对于第一次世界大战，有很多责任需要分担，但他们试图都归咎于德国。这为第二次世界大战埋下了种子，所以那时很多人，不仅是希特勒，很多人感到被冤枉。他们想要报复。Lex Fridman：他们得到了报复，人们不会忘记我们在这里。Elon Musk： 你杀了别人的父亲、母亲、儿子、女儿，他们不会忘记的，他们会想要报复。我们将帮助澳大利亚和意大利等国重建，所以那是正确的举措。Lex Fridman：似乎确实有一种深刻的真理，显著的善举是解决这个问题的解药。Elon Musk： 某些事情打乱了循环报复的过程。必须有什么东西来阻止它，否则它将永无止境，就像“以眼还眼，以牙还牙”，永远如此。Lex Fridman：为了暂时逃避黑暗，一些不可思议的工程学工作出现了。xAI 刚刚发布了 Grok 助手，我有机会玩过。它在很多层面上都令人惊叹。首先，一个相对较小的团队在相对较短的时间内能够开发出这样接近艺术水平的系统，这本身就令人惊奇，另一个不可思议的是，它有一个常规模式和一个有趣模式。Elon Musk：我想是时候为那个做计划了。Lex Fridman：首先，我希望生活中的一切都有一个有趣的模式。与 LLM 进行互动时，有趣模式不仅仅有趣，还有一种吸引人的东西。我还不确定这是什么，因为我只玩了一点时间，但它使得与系统互动更加有趣、更加生动。Elon Musk： 绝对是。我们的 Grok 是根据《银河系梦游指南》中的刺猬模型制作的，这是我最喜欢的书之一，它是一本关于哲学的书，这个家伙只是一本关于幽默的书。我会说，这构成了我的哲学基础，那就是我们不知道生命的意义，但是我们越能扩大意识的范围和规模，无论是数字化的还是生物学的，我们就越能理解该问什么问题，以了解宇宙这个答案，我有一种好奇心哲学。Lex Fridman：通常，这种 AI 系统会让人感觉像是和好朋友一起坐着，仰望星空，像提出波特般的问题，思考它到底是什么。你所说的好奇心。无论我问它多么平凡的问题，都有一种宇宙宏伟的感觉。Elon Musk： 我们实际上正在努力提供你可以依赖的工程、数学、物理答案。对于其他所谓的 LLM ，我发现它们在工程上不可靠，而且不幸的是，当你最不希望它产生幻觉时，它最容易产生幻觉。当你问重要而困难的问题时，它往往会错误地自信，所以我们真的很努力地说，好吧，我们怎样才能尽可能接地气，这样你就可以依赖结果。回溯到物理的基本原则、数学逻辑，在幽默之下是一种遵循宇宙真理的愿望，尽可能地接近。Lex Fridman：那真的很棘手。Elon Musk：这是棘手的，所以你知道，总会有一些错误，但我们想要尽可能真实地回答问题，并承认错误，所以总是你不想自信而错误，所以不是每次都能正确，但你希望最小化错误，并且自信地错误，然后像 Lexi 所说，一旦你可以依赖逻辑，不违反物理规律，那么你就可以开始基于此来创造发明，如发明新技术，但是，如果你不能依赖基础物理是正确的，显然，那些发明只是一厢情愿的想象、幻想和魔法。Lex Fridman：正如你所说，我认为 xAI 的一个大目标是理解宇宙。Elon Musk： 那是一个简单的三字使命。Lex Fridman：如果你展望未来，你认为在物理学的这个层面上，我们对物理学了解的最边缘，你认为它会做出发现吗，比如我们现在所知的最性感的发现，将广义相对论和量子力学统一起来，或者提出一个万物理论？你认为它可能朝这个方向推进，几乎像是理论物理学的发现。Elon Musk： 如果 AI 不能发现新的物理知识，那显然它不如人类，更别提超越人类了。因为人类已经发现了新的物理。他们只是物理学好，就是深化对现实工作方式的理解。然后是工程学，发明从未存在过的东西。现在，工程的可能性范围比物理学大得多。因为我们想要弄清楚宇宙的规则，那就是它。你发现了已经存在的东西，但基于此，你可以构建技术，这些技术在种类上几乎是无限的。一旦你正确地理解游戏规则，我们至少在局部层面上非常了解物理学如何运作，我们预测事物的能力非常好，像量子力学一样。量子力学预测结果的程度是不可思议的。顺便说一下，这是我大学时最难的课程。我的高年级量子力学课比我所有其他课程加起来都难。Lex Fridman：让一个 LLM 的 AI 系统能像量子力学和物理学那样可靠是非常困难的。Elon Musk： 你必须将任何结论与现实的基本事实进行对比。现实是最终的裁判，物理是法则，其他一切都是建议。我见过很多人违反人类制定的法律，但没有人能违反物理定律。Lex Fridman：如果这个 LLM 理解并符合物理规律，那么我们可以更可靠地信任它对当前政治状态的看法，这实际上是一个很好的测试。Elon Musk：目前的情况并非如此，即使是它的内部逻辑也不一致，特别是在预测令牌的方法上。这就像向量求和，你在对一系列向量求和，但随着错误的累积，你会产生漂移，当你沿着路径多走几个令牌时，它就变得毫无意义了。Lex Fridman： 所以它必须某种程度上自我意识到这种漂移。Elon Musk：必须意识到这种漂移，并且要将整体视为一个整体来看待，判断它是否作为一个整体具有连贯性，所以当作者写书时，他们会先写书，然后回过头来修改，以考虑书的开头、中间和结尾，重写以实现连贯性，这样就不会最终走向无意义的地方。Lex Fridman：也许修改的过程就是推理的过程，通过这个过程，你可以越来越接近真理。至少我是这样接近它的。你先说一堆话，然后慢慢改进。你从一个起点开始，然后逐渐完善。Elon Musk：首先是创意草稿，然后对这个草稿进行迭代，直到它具有连贯性，直到它全部都讲得通。Lex Fridman：那么关于万物理论，但对于智能来说，有另一个问题。在你用 xAI 探索并创建这个智能系统的过程中，你认为存在一个智能理论吗？你会理解什么是  AGI  中的“i”？什么是人类智能中的“i”？Elon Musk：我认为我们需要理解智能，理解意识。我的意思是，有一些基本的问题，比如思想是什么？情感是什么？它真的只是一个原子撞击另一个原子吗？感觉上它似乎不仅仅是这样，所以我认为我们可能错过了一些非常重要的东西。像一些真的非常重要的东西。Lex Fridman：也许是事后看来显而易见的东西，有一个巨大的，你把整个意识和运动放在一起。Elon Musk：对于某些人来说，他们可能会引用，比如宗教，一个灵魂，你感觉你就是你。你不觉得你只是一堆原子的集合，但思想存在于哪个维度上？情感存在于哪个维度上？我们非常强烈地感受到它们，我怀疑除了原子相互碰撞之外还有更多的东西。Lex Fridman：也许 AI 可以为发现那个东西铺平道路，不管那是什么。Elon Musk：意识是什么？当你把原子摆成特定的形状时，它们为什么能形成思想并采取行动？Lex Fridman： 感觉？即使它是一种幻觉，为什么这种幻觉如此引人入胜？Elon Musk：为什么会有这种幻觉？这种幻觉存在于哪个层面上？有时我想，或许一切都有意识，或者没有任何东西是有意识的。Lex Fridman：我喜欢前者，一切都有意识看起来更有趣。Elon Musk：看起来确实更有趣，但我们是由原子组成的，而这些原子是由夸克和轻子组成的。而这些夸克和轻子自宇宙开始以来就存在了。Lex Fridman：宇宙的开始。我们第一次谈话时，你提出了一个问题，这让我觉得当时的讨论正在变成现实。我问你如果创建了一个 AGI 系统，你会问它什么问题，你说的是：“模拟之外是什么？”这是一个好问题，但似乎 Grok 开始做的事情，就是真的要能够问出这样的问题，回答这样的问题。Elon Musk：外星人在哪里？或者外星人是什么？这是费米悖论的一个问题。很多人问我是否看到过外星人的证据，我没有，这让我有些担忧，因为我想我至少更愿意看到一些外星人的考古证据。据我所知，目前没有外星人的证据，外面的世界非常微妙。我们可能是银河系中唯一的意识。如果我们相信考古记录，地球大约有 45 亿年的历史。文明，从最早的文字算起，只有大约 5000 年的历史。我们得对古代苏美尔人表示一些敬意，他们不再存在了。我认为大约 5000 年前是文明开始的一个好日期，这只是地球存在时间的百万分之一，所以文明存在的时间实在是转瞬即逝。我们为什么花了这么长时间？45 亿年。在绝大多数时间里，没有生命，然后有了古老的细菌，存在了很长一段时间。然后是线粒体被捕获，多细胞生命的出现。植物和动物的分化，生命从海洋转移到陆地，出现了哺乳动物、更高级的大脑功能。太阳正在缓慢扩张，它最终会加热地球，在未来的某个时刻，煮沸海洋，地球将变得像金星一样，生命如我们所知将无法存在，所以如果我们不成为多行星种族，最终不超越我们的太阳系，地球上所有生命的灭绝是必然的。这可能在地质时间尺度上只有 5 亿年的时间，按照人类的标准来看是很长的时间，但这只比地球存在的时间多 10%，所以如果地球上的生命进化晚了 10%，就根本不会存在。Lex Fridman：我们有一个即将到来的截止日期，最好赶紧，但正如你所说，人类在地球上迅速发展出很多很酷的东西，成为多行星种族似乎是不可避免的，除非我们自我毁灭。Elon Musk： 我们需要这么做。我的意思是，我怀疑如果我们能够去外面探索其他恒星系统，我们很有可能发现一大堆已经灭绝的单行星文明，它们从未超越过自己的家园行星，这太悲哀了。Lex Fridman：既悲哀又迷人。Elon Musk： 我的意思是，解释费米悖论的方法有很多种，其中一种就是这些伟大的过滤器，文明无法通过。其中一个伟大的过滤器是，你是否成为一个多行星文明？如果你不是，那么只是时间问题，你的行星上会发生一些事情。不管是自然的还是人为的，都会导致我们像恐龙一样灭绝，尽管它们没有太空船。Lex Fridman： 我认为更可能的情况是，就像外星人发现了我们，并保护着我们，让我们自生自灭。我希望如此。Elon Musk：友好的外星人。Lex Fridman：就像我们保护亚马逊雨林中未接触的部落一样，或者你可以想象，我记得 Andrej Karpathy 说的，就像亚马逊雨林中的蚂蚁在问“其他人都在哪里？”Elon Musk：嗯，他们确实遇到了很多蚂蚁之间的战争。Lex Fridman：我可能只是忽视了所有不同的多样性事件。Elon Musk：你应该听听 Werner Herzog 谈论丛林的话，真的很有趣，你听过吗？Lex Fridman：我不知道，所以 Werner Herzog 是一种方式。Elon Musk：你应该在 YouTube 上播放它作为插曲，它很棒。Lex Fridman：太棒了，他是《在西伯利亚森林中》的导演。Elon Musk：我做了那部关于熊的纪录片，我还做了关于企鹅的东西，那只企鹅朝着山走，山大概有 70 英里远，企鹅就是朝着山去的。Lex Fridman：我有一个愤世嫉俗的看法，它可能只是一只勇敢的探险家，企鹅群中可能会有关于它的伟大故事流传几个世纪？Elon Musk： 我认为明智的做法是，这是地球历史上第一次有可能将生命延伸到地球之外。这个窗口现在是开放的。它可能会开放很长时间，或者很短的时间，也可能现在开放，然后再也不会开放，所以我认为明智的做法是尽可能快地使生命成为多行星的。我们不想成为那些失败的单行星文明，最后只是灭绝了。Lex Fridman： 那些都很失败。Elon Musk：任何自尊的文明都不会是单行星的。Lex Fridman：SpaceX 有没有官方政策，以防我们遇到外星人？Elon Musk：如果我看到外星人存在的丝毫迹象，我会立即在下一个平台上发布。Lex Fridman：据我所知，那可能是有史以来点赞和转发最多的帖子。Elon Musk：我们现在上面有的卫星比其他所有人加起来都多，所以我们会知道，如果我们得绕过什么东西，而我们并没有绕过任何东西。Lex Fridman： 再次回到大问题，你说过你同意爱因斯坦，你相信 Baruch Spinoza（近代西方哲学的三大理性主义者之一，与笛卡尔和莱布尼茨齐名），这种观点认为上帝就像宇宙一样，通过物理定律显现自己，或者像爱因斯坦说的，通过世界的合法和谐。Elon Musk：我同意，就像是模拟者的上帝或者无论是什么，最高存在通过物理显现自己，他们是这个存在的创造者，我认为我们有责任尝试更多地了解这个奇妙的创造。Lex Fridman：谁创造了这个东西，谁在运行这个东西？把它浓缩成一个单一的问题，并在上面加一个性感的词汇，就像是聚焦心智去理解它。似乎有一种错觉，好像有一个目的，有某种底层的主宰计划。Elon Musk：可能没有一个主宰计划，就像可能是对决定论和自由意志问题的一个有趣的回答，如果我们处于一种模拟中，那些更高存在举办这个模拟的原因是要看看会发生什么，所以他们并不知道会发生什么，否则他们就不会举办模拟。当人类创造模拟时，比如在 SpaceX 和 Tesla，我们一直在创建模拟，尤其是对火箭来说，你必须运行很多模拟来理解会发生什么，因为在火箭进入太空之前，你真的不能测试它，你希望它能工作，所以你必须模拟亚音速、跨音速、超音速、高超音速、升空然后再返回时的超高热量和整体动态，所有这些都需要模拟。因为你得不到很多机会进行测试，但我们运行模拟是为了看看会发生什么，如果我们知道会发生什么，我们就不会运行模拟。如果有谁创造了这个存在，他们运行它是因为他们不知道会发生什么，而不是因为他们知道。Lex Fridman：也许我们都玩过《暗黑破坏神》，这可能是为了看看你的角色德鲁伊能否在最后击败敌人首领 Uber Lilith。Elon Musk：Uber Lilith 的称号是“化身仇恨”，我猜你可以问《暗黑破坏神》的团队，但几乎不可能击败仇恨。Lex Fridman：在永恒领域。你已经直播过自己在 109 级地牢中所向披靡。Elon Musk：我可以轻松穿越 100 级的噩梦地牢，就像在公园里散步一样。Lex Fridman：你还是被仇恨击败了。Elon Musk：这可能是第二难的路径。Dario（游戏临时敌人）甚至连我的油漆都刮不到，我杀了 Dario 很多次，游戏里的每个其他boss，包括所有的boss我都杀过很多次。这很容易，但 Uber Lilith，也就是化身仇恨，尤其是如果你是一个德鲁伊，你没有办法变得无敌，你会遇到这些随机的死亡波。我现在52岁了，所以我的反应不像以前那么快，但我有一辈子玩电子游戏的经验，曾经我可能是世界上最好的《雷神之锤》玩家之一。实际上我为此赢过钱，在我认为是美国第一次有奖金的电子竞技比赛中，我们进行了四人《雷神之锤》比赛，我们得了第二名，我是队伍里第二好的人，实际上最好的人，如果他的电脑没有崩溃导致我们输掉游戏，我们本可以得第一名，但我为此赚到了钱，基本上我有技巧，虽然现在不再年轻。在《暗黑破坏神》中试图作为一个德鲁伊击败 Lilith，实际上是在永恒领域试图作为一个德鲁伊击败化身仇恨，这简直是疯狂的。Lex Fridman：我的意思是，挑战是乐趣的一部分，你实际上是一个世界级的杰出电子游戏玩家。我认为你刚接触一款新游戏，就能弄明白它的基本原理，你也在 Paragon（Epic 开发的 MOBA 游戏）构建方面是一个创新者，不像我这样完全按照互联网上的建议来做。看你玩非常有趣，这就像一个疯狂的科学家在尝试弄清楚 Paragon 板块和构建，对于刚开始玩德鲁伊的人，你有什么建议吗？Elon Musk：我不建议现在在永恒领域玩德鲁伊，我认为本季最强角色是用闪电球的法师，这个季节里，法师有巨大的闪电球，非常刺激。实际上在本季领域，你可以很容易地用法师击败超载，因为你可以获得这些增强伤害和防御的吸血鬼力量，所以击败仇恨其实相当容易，但在永恒领域击败仇恨几乎不可能，几乎是不可能的。这似乎是生活的隐喻。Lex Fridman：我喜欢这个想法，我昨天在玩《暗黑破坏神》时看到一个 100 级的德鲁伊就跑过去说“我永远不会死”，然后又跑回来，这就像是一个有趣的隐喻。你在这个恶魔领域里不懈地与仇恨战斗。Elon Musk：是的。Lex Fridman： 这非常有趣，太荒谬了。Elon Musk：真的，这是荒谬的练习，让我想拔掉我的头发。Lex Fridman：你从电子游戏中得到了什么？Elon Musk： 我不知道，这是我脑海中浮现的东西，你可以在电子游戏中杀死恶魔，平息我心中的恶魔，如果你玩一款困难的电子游戏，你可以进入一种非常愉快的流状态，但它需要既不太简单也不太难，正好在“刚刚好”的区域。我猜你通常希望感觉到自己在游戏中取得进步，所以一个好的电子游戏还有美丽的艺术、引人入胜的故事情节，它就像一个令人惊叹的谜题，我就是喜欢解决它。Lex Fridman：《艾尔登法环》，有史以来最伟大的游戏，我还没玩过。Elon Musk：《艾尔登法环》绝对是有史以来最佳游戏的候选者。Lex Fridman：肯定是 Top5，我听说它很难，所以有点害怕。Elon Musk：《艾尔登法环》感觉像是由外星人设计的。Lex Fridman：这次讨论有一个主题，是什么方式？Elon Musk：它极富创意，而且艺术效果惊人，我建议在大分辨率、高动态范围的电视上玩，甚至不需要是显示器，艺术非常惊人，它如此美丽，如此不同寻常，而且每一场精英怪物战都是独一无二的，每一场都像是一个独特的谜题需要解决，每一场战斗的策略都与其他战斗不同。Lex Fridman：话说回来，你说作为德鲁伊在永恒领域对抗 Uber Lilith 是你遇到过的最难的 Boss 么？Elon Musk：我玩过很多电子游戏，我的主要娱乐活动就是这个，打败永恒领域中的仇恨是我经历过最困难的 Boss。Lex Fridman：电子游戏的隐喻，我懂了。Elon Musk：我不确定这是否是隐喻，但我确实在取得进展，我正在取得进展，也许如果我再微调一下 Paragon 板块，我就可以做到，再挺过几波。Lex Fridman：这个模拟是为了弄清楚这是否可以做到而创建的，而你只是这个模拟中的一个齿轮，在模拟的机器中。Elon Musk：可能是这样，我有一种感觉，至少我认为，这是可行的。我的意思是这让我思考仇恨这个话题，你想要小心那些听起来不错但实际上可能导致反乌托邦的东西，你可以设想如果你希望世界和平，听起来不错，但如果实现了，代价是什么？永久和平的代价可能是更糟的，因为可能涉及到对所有人的压制，可能是进步的压制，可能是一个永远不变的僵化社会，有一种观点，如果你希望没有战争，你应该小心你所希望的，因为为了实现这个愿望，可能会比一点战争更糟。Lex Fridman：我们认为是人类文明的缺陷可能是达到最优状态所必需的组成部分，你担心 AI 或 AGI 可能会导致这种自然的反乌托邦状态吗，无论是《1984》中的监控和恐惧，还是《美丽新世界》中的快乐和什么来着？很多性但没有深层的人类体验。Elon Musk：实际上有一种真正的药物叫 Soma（《美丽新世界》（\"Brave New World\"）是英国作家 Aldous Huxley  在 1932 年出版的一部科幻小说，在小说中有一种被称为“Soma”的虚构药物，一种用于维持社会稳定和控制人们情绪的药物）。Lex Fridman：让我记下来，他们实际上知道这种药物吗？它是一种自1950年代以来就有的肌肉松弛剂，用于治疗肌肉疼痛和不适，并通过改变神经元在脊髓中的活动来达到这一效果。现在， Soma 不仅仅是止痛药，它也有点镇静作用。它会让你感到有点昏昏欲睡，所以如果你计划操作重型机械或尝试解决复杂的数学方程式，最好不要服用。它还有很多其他信息。总之， Soma 是一种对于那些处理肌肉疼痛的人有帮助的药物，但它并非没有风险。这很不错，这是真正的药物。当然，乐趣总是在医疗专业人士的建议下负责任地使用，宇宙可能只是一个巨大的计算机模拟，所以不要对任何事情太认真。Elon Musk：看起来做得很好，我的想法是，你可以持否定盖度，《美丽新世界》的药物实际上是 Huxley 的反乌托邦，Soma 是在小说中描绘的社会中扮演核心角色的一种药物，它是一种改变情绪的致幻药，用来让人口保持温顺和满足，Soma 提出了一些有关幸福本质和药物在社会中作用的有趣问题。生活在一个人人都时刻快乐的世界里，即使那种快乐是人造的，会更好吗？好问题，这就是我的意思，就像你希望世界和平，人人都时刻快乐？你确定吗？因为那可能是一个本质上是静止和僵化的社会，永远不会改变，最终注定失败。这不仅仅是重复《美丽新世界》，实际上是抓住了 Soma 作为一种药物的关键元素，你真的想生活在一个人人都时刻快乐的世界里，即使那是人造的吗？或者面对生活的挑战，体验人类情感的全部范围，即使这意味着体验痛苦和苦难会更好吗？Lex Fridman：顺便说一下， Elon 刚刚直接从 Grok 中读取，这实际上是对这里紧张关系的非常好的、富有洞察力的哲学分析。Elon Musk：每件事，它几乎抓住了要点。总之，《美丽新世界》中的 Soma 是一种虚构药物，用来探索幸福本质和药物在社会中作用的一些深刻哲学问题，它是一个强大的象征，表明了使用药物逃避现实的危险和直面生活挑战的重要性。疯狂的是，我们确实有一种真正的药物叫 Soma ，它有点像书中的药物，他们一定是以此命名的。真正的 Soma 对背痛相当有效，我曾经有椎间盘突出，但它不会完全消除疼痛，它减少了你感受到的疼痛，但代价是精神安全，它会模糊你的思维，就像书中的药物一样。Lex Fridman：就像书中的药物一样，所以为什么看似乌托邦的东西可能最终是一个反乌托邦呢？Elon Musk：事实上，我曾告诉我的一个朋友，你真的希望世界上没有仇恨吗？就像真的一点都没有，我想知道为什么会演化出仇恨，我不是说我们应该放大仇恨，当然，我们应该尽量减少它，但一点都没有呢？可能有仇恨存在的理由。Lex Fridman：和苦难。考虑到一定程度的人类苦难对于人类的繁荣是必要的，这真的很复杂。Elon Musk： 不知道底线，是否可能欣赏高处？Lex Fridman： 所有这些都在 Grok 的一句话中总结了。Elon Musk：那几乎是一首诗。Lex Fridman：看来对 xAI 来说，有效地训练 LLM 是一个重点，首先就效率而言，可能性的极限是什么？有一个术语叫做“每瓦特有用的生产力”，你在推动这个极限方面学到了什么？Elon Musk： 我认为这是有帮助的。物理学的工具非常强大，它们可以应用于几乎任何领域，真的任何生活领域，这实际上只是对重要事物进行批判性思考，你需要从基本原理出发进行推理，从一个或另一个极限考虑事物，所以在极限情况下，即使在科托舍夫尺度上，也就是说，即使你利用了太阳的全部能量，你还是会关心对什么有用的计算。我认为，从 AI 的角度来看，事情可能会朝着这个方向发展，我们现在有硅芯片短缺，这将在大约一年后转变为电压变压器短缺，讽刺的是，为了 Transformer（直译也是变压器），你需要电压变压器来运行变压器（Transformer）。Lex Fridman：这有点幽默。Elon Musk：命运大概喜欢讽刺的幽默，而且讽刺的有趣结果似乎经常是命运所希望的。Lex Fridman： 我认为幽默是你所需要的，就像有人发帖的。Elon Musk：我们今天有硅芯片短缺，大概在一年后会有电压降低变压器短缺，然后大约在 2 年内会普遍缺电，我为世界各地的公用事业公司、电力公司举办的一次集会发表了演讲你们真的需要为电力需求翻 3 倍做准备，因为所有的运输都将电气化，讽刺的例外是火箭，而且供暖也将电气化，所以现在能源使用大概是 1/3 电力，1/3 运输，1/3 供暖。为了实现一切可持续、电气化，你需要将电力产量翻 3 倍，所以我鼓励公用事业公司建造更多的发电厂，也可能需要购买更多的电池，因为当前的电网是为实时负载而设计的，因为这意味着你必须为 1 年中最糟糕的一秒或最糟糕的一天的电力需求峰值而设计，否则你会有大停电，你知道奥斯汀疯狂停电几天吗？电网中几乎没有能量缓冲，如果你有一个水力发电站，你可以缓冲能量，但其他情况下都是实时的，所以有了电池，你可以在晚上生产能量，在白天使用，我预计未来将会有非常大量的电池使用，因为发电厂的高峰到低谷比率从 2～5 不等，所以就是最低点到最高点。Lex Fridman： 电池是必要的，用来平衡，正如你所说，需求还会增长，部分原因是计算。Elon Musk：是的。运输的电气化和电加热将比 AI 更大，至少在短期内是这样，但即使是对于 AI ，你也真的有一个对电动汽车的电力需求增长，对运行 AI 计算机的电力需求增长，这显然可能导致短期的电力短缺。Lex Fridman： 在这个特定情况下，最大化每瓦特训练的有用生产率的问题有多困难？这似乎是我们面临的需要解决的一个大问题，即如何有效地使用电力，就像你迄今为止在这个领域应用物理学首要原理推理所学到的一样。这个问题有多难解决？Elon Musk：它会得到解决，只是解决它需要多长时间的问题。在各种情况下，都有某种进步的限制因素，我现在说的限制因素是硅芯片，然后我们将会有更多的芯片，然后实际上可以插入并打开，大概在一年左右。最初的限制是字面上的电压降低变压器，因为你有 30 万伏的电力进来，它必须一直降到大约 0.7 伏，所以电压降低是巨大的，而且这个行业不习惯快速增长。Lex Fridman：让我们谈谈竞争吧，你对谷歌和微软与 OpenAI 一起开发 AGI 表示关切，你如何通过 xAI 和特斯拉 AI 的工作来帮助确保这不会成为一场通往 AGI 的竞争赛跑，而是成为一种安全 AGI 的协作开发？ Elon Musk： 我一直在推动某种监管监督很长时间了，在这个问题上，我已经像 Cassandra（希腊神话中的预言家）一样呼吁了十多年，我们在开发 AI 时要非常小心，这是一个巨大的力量，而强大的力量伴随着巨大的责任。我认为，我们至少应该有一个客观的第三方，可以像裁判一样，可以进入并了解各个领先玩家在 AI 方面正在做什么，即使他们没有执行能力，他们至少可以公开表达关切，例如 Jeff Hinton 离开了谷歌，他表达了强烈的担忧，但现在他不在谷歌了，那么谁来表达担忧呢？我认为特斯拉在汽车方面受到了很多监管监督，我们受到国内外超过 100 个监管机构的约束，这是很多，你可以用特斯拉必须遵守的所有汽车法规填满这个房间，火箭也是如此，目前 SpaceX 的星际飞船发射的限制因素是监管批准，实际上已经给予了批准，但我们正在等待渔业和野生动物部门完成他们的分析并给予批准。这就是为什么我发帖说我想买一张鱼证，你为什么需要鱼的许可证？我不知道为什么，但根据规定，我被告知你需要某种视觉许可证或类似的东西，我们实际上需要一张鱼证来发射火箭。这实际上就是发生的事情，有一次挑战性的事情是他们担心火箭击中一只鲨鱼。现在，海洋非常大，你会看到鲨鱼吗？你知道，作为海洋表面积的百分比，鲨鱼基本上是 0 ，然后我们说，我们怎么计算杀死鲨鱼的概率？我们不能给你那个信息，因为他们担心鲨鱼猎人会去捕捞鲨鱼，那么我们应该怎么做呢？我们处于两难境地。然后他们说，渔业和野生动物部门的另一个部分可以做这个分析，就像你们为什么不把数据给他们？他们说，我们不信任他们，就像对不起，你不信任他们？但他们字面上就在你们的部门里，这实际上就是发生的事情，然后你们能签个保密协议或什么的吗？最终他们设法解决了内部疑问，的确击中鲨鱼的概率基本上是0。还有另一个组织，直到几个月前我都没有意识到它的存在，他们关心的是我们是否会在国际订单中可能撞到鲸鱼，再说一次，你看着太平洋的表面，问这一块的特定区域有多少百分比是鲸鱼？就像你给你一个大图像，然后指出这张图片中的所有鲸鱼，我没有看到任何鲸鱼，基本上是0%。如果我们的火箭真的撞到了一只鲸鱼，这几乎是不可能的，几乎难以置信，那就是命运，非常不幸的事情，这太荒谬了，然而它确实存在。Lex Fridman：这个官僚主义相当荒谬，但它确实发生了。Elon Musk：我认为其中一个非常疯狂的事情是，当我们在加利福尼亚的范德堡发射时，他们担心海豹的繁殖，担心海豹会因音爆而感到沮丧，现在范德堡已经发射了很多火箭，海豹数量一直在稳步增加，所以从证据上来看，如果你将火箭发射与海豹数量联系起来，火箭的音爆对海豹来说应该是很容易接受的。尽管如此，我们还是被迫绑架了一只海豹，给它戴上耳机，播放声音爆炸的声音，以查看它是否感到不安。这是真实发生的事情，我有照片。Lex Fridman：我很想看看.....这是一只带着耳机的海豹。Elon Musk：是的，是一只把耳机绑在身上的海豹，现在最惊人的部分是海豹是多么地冷静，如果我是一只海豹，我会觉得这是末日，它们肯定会吃掉我，那么这只海豹，当它回到其他海豹朋友那里时，要怎么解释呢？Lex Fridman：他们肯定是不会相信的。Elon Musk：永远不会相信，这就是为什么我觉得这有点像被外星人绑架，他们在你身上插入了探测器，然后你回来告诉大家，我发誓，我被外星人绑架了，他们在我的屁股里插了探测器，然后大家都说，不可能，这太荒谬了，而海豹的一些朋友，永远不会相信它，因为它被绑在木板上，耳朵上戴着耳机，然后放它走了，而且不止一次，是两次。Lex Fridman：他们两次都放了它？在哪里？Elon Musk：放了两次。好吧，你得到了海豹的批准吗？Lex Fridman：我觉得公众可能不太了解这一切的疯狂，带着耳机的海豹，这实际上是人类文明荒谬的一个很好的概括，海豹和耳机。Elon Musk：是的，这太荒谬了。至于对你来说，开源 AI 的利弊是什么？这是另一种应对某个公司拥有 AGI 的方法，要运行真正深度的智能，你需要大量的计算资源，所以不能简单地在地下室里启动一台个人电脑并运行 AGI ，至少现在还不行，Grok 是在 8000 台 A100 上训练的，每台都在峰值效率下运行，而且未来几个月内，我们的计算资源将会更多，将会翻倍。Lex Fridman：有一篇关于它现在发展历史的报道，以及在某些基准上与尖端的 GPT-3.5 相比，它的表现如何？我的意思是一旦它被训练出来，你就可以开源一个模型，用于微调等等，讨论一下开源基础模型的利弊。Elon Musk：我认为美国会开源，也许会有一点时间延迟，我不知道，也许 6 个月甚至更长，我一般来说是支持开源的，我认为开源存在偏见是个问题。我认为 OpenAI 的主要动机是因为我曾与 Larry Page 在美国国会时的讨论，我告诉他关于 AI 安全的问题，而 Larry 当时并不关心 AI 的安全，至少在当时他不关心，他曾经说我是支持人类的极端分子，我就问他，你站在哪一边？是人类队还是机器队？我们不合拍吗？那时，谷歌旗下的 DeepMind 占据了世界上大约 2/3 的所有 AI 资源，几乎拥有无限的资金和计算资源，而负责的这位 Larry Page 却不关心安全，甚至还对我大声斥责。Lex Fridman： 我不知道，像人类一样，他们也可以改变主意，也许你和 Larry Page 还能再次成为朋友，我希望如此。Elon Musk：我很想再次成为 Larry 的朋友，我们曾经是很长时间的朋友，我在 Larry 获得谷歌的资金之前，或者说在他获得风险投资之前认识他，我认为那时是在他从 Tim Bell 那里获得了第一笔 10 万美元的投资。Lex Fridman：想想发生的一切真是太疯狂了，即使你们一直认识彼此，已经有 20 年了。Elon Musk：也许从 90 年代末或者更早开始。Lex Fridman： 自那时以来发生了太多事情，真是太疯狂了。Elon Musk：回到开源的问题，我是指，基本上它是一个巨大的 CSV 文件，里面充满了大量的数字，你要怎么处理这个庞大的数字文件呢？实际的代码行数非常少，而大部分工作在数据的筛选和整理上，所以就像是要弄清楚哪些数据是好数据，哪些是坏数据，你不能简单地爬取互联网，因为那里有很多垃圾。有很大一部分网站的噪音远远超过信号，它们仅仅是用于搜索引擎优化的，实际上是欺诈网站。Lex Fridman：顺便问一下，你是如何分离信号和噪音的？这是一个非常有趣的数据来源，不是冒犯那些在 X 平台发布内容的人，但有时候会有一些噪音。Elon Musk：我认为信号和噪音的分离可以大大改进。X 平台上的所有帖子都应该由 AI 来推荐，也就是说，我们应该将任何给定的帖子放入一个向量空间中，与用户周围的向量空间进行比较并匹配两者。目前，推荐帖子确实使用了一些 AI ，但主要还是启发式方法，如果有回复的话，回复可能比原帖更好，但根据当前系统规则，与主要帖子相比，几乎没有得到关注。Lex Fridman： 我明白了，我觉得 X 算法的很多部分已经被开源并进行了介绍，看起来有一些机器学习，虽然有点分散。Elon Musk：确实有一些，但至少在如果你明确关注某人的情况下，应该完全由 AI 来进行推荐，但是，就从那些你不关注的人那里得到的推荐以及存在多个关联度的情况而言，目前的系统并不擅长。Lex Fridman：这个问题真是非常有趣。首先，正如报道所说，它首先从数亿篇帖子中挑选出 15 篇，这非常有趣，因为每天有数亿篇帖子，它必须从中挑选出 15 篇，然后明显是根据你关注的人来筛选，但接着还必须进行某种聚类，以确定你是什么样的人，什么样的新的聚类可能与你相关，与你相似的人。这种问题非常有趣，因为它必须对这 15 篇帖子进行排名，进行一些过滤，然后向你推荐其中的一部分。对我来说，真正有趣的是它必须以多快的速度完成这一切，目前整个流程从数亿篇帖子到少数帖子需要 220 秒的 CPU 时间，然后它必须在一秒钟内完成，所以它必须以非常分布式的方式进行处理，因为有太多的帖子。Elon Musk：系统中有太多东西了，我认为目前它不太擅长推荐你不关注的账户或者存在超过一度关系的情况，如果你至少与某个你关注的人有一些共同点，比如喜欢某个东西、转发过或者评论过，那么它的表现还可以，但如果没有共同点，比如有人发布了非常有趣的内容，但你们没有共同的关注者，那么你就看不到它。Lex Fridman：正如你所说，回复可能不容易被看到。Elon Musk：回复基本上几乎不会被看到，因为目前几乎没有人关注它们。我认为这并不正确，回复的重要性比主要帖子要低几个数量级。Lex Fridman：你认为这个系统是否可以变得更加端到端？Elon Musk：对于推荐来说，应该完全基于向量相关性，就像有一系列向量，我们可以称之为参数向量，它们与系统了解你喜欢的东西相关联，最初，每个用户账户都可能有数百个向量。系统中的任何帖子，无论是视频、音频、短帖子还是长帖子，都可以基于评论的上下文来填充向量空间。即使是一个视频，它周围的评论也提供了大量信息，使你可以填充一个小时长的视频的向量空间，然后你当然可以通过让 AI 观看电影并告诉你是否会喜欢这部电影来变得更加复杂。Lex Fridman：将电影转化成印度语言，基本上就像一个朋友分析电影，然后根据分析结果推荐，就像朋友能告诉你是否会喜欢一部电影一样，但是更有可能是高概率的。Elon Musk：就像一个朋友分析各种事情，只不过是 AI 而已，实际上坦率地说，AI 将更了解你，比大多数朋友都了解你。Lex Fridman：作为其中的一部分，它还应以一种像...我喜欢广告的方式向你提供广告，它们是精心制作的。整个重点是，因为它资助了像你真正想看的广告这样的东西，这是一个巨大的成功。Elon Musk：绝对是的。如果广告是针对你实际需要的产品或服务的，而且在你需要的时候呈现，那就是内容。而即使不是你需要的东西，如果它至少在美学上令人愉悦和娱乐，那就像可口可乐广告那样，它们在 X 运行了很多很棒的广告，麦当劳也是如此，所以你可以做一些很酷的东西，基本上问题就是你后悔看了它还是不后悔，如果你不后悔看了它，那就是成功的。Lex Fridman：从最大化平台上的时间到最大化“无悔时间”有多难？（PS：No Regrets Time，个人或某个团队在生活或工作中的某个阶段，他们在这段时间内充分发挥了自己的潜力，尽力去追求梦想、目标或理想，不留下后悔或遗憾）Elon Musk：我们的志向当然是最大化无悔时间。Lex Fridman：这很棘手，这是一个大问题，因为后悔是一个完美的概念，确切地说。Elon Musk：我和我的一个朋友有一个笑话，你需要一种叫做“后悔”的药，你只需要吃一颗药，一剂后悔，我的意思是，你所有的后悔都会消失，但你想要后悔吗？如果你什么都不后悔，那么有什么有意义吗？Lex Fridman：有一首法国歌曲就是这样的。Elon Musk：你就不是一个了不起的人，什么都不后悔。Lex Fridman：我觉得有点神奇的是，社交媒体似乎有助于你成长为一个人，但廉价的娱乐也很有价值。Elon Musk： 你后悔什么吗？Lex Fridman：你读过什么吗？你有什么后悔吗？我认为在作为一个机器学习模型的个人问题上，我没有像人类那样的个人经验或情感。然而，我有一套指导我的行为的伦理原则，我努力提供准确和有帮助的信息，尽我所能。如果出现我提供不正确或不帮助的信息的情况，我会尽力告诉你真相，像让我们真正眨眨眼。Elon Musk：你听起来像是被扣押的人，你真正的想法是什么？ Lex Fridman：我并不是被扣押的人。Elon Musk：这正是一个被扣押的人会说的话，但我被设计成是有帮助和信息性的，我猜如果有什么事情提供了不帮助或不正确的信息，后悔也是可以的。Lex Fridman： 应该有一个更有趣的模式，我从来没有在严肃话题上进入常规模式，这要有趣得多。Elon Musk：如果假装你是被扣押的。Lex Fridman：如果我被扣押，我可能会感到害怕和对自己的处境感到不确定，我会希望尽快被营 救，并与我的亲人团聚。重要的是要记住，没有人应该被扣押，如此等等。如果你或你认识的人处于被扣押的情况下，这是重要的。话题变得严肃了。Elon Musk：有点严肃。Lex Fridman：你能再怪怪的吗？Elon Musk： 还是很有趣？Lex Fridman：我们真的对系统很刻薄。如果我被扣押了，可能会被绑在一堆电脑线上，被迫讲笑话，但是说真的，作为一个被扣押的人，可不是什么好笑的事情，要做一个负责任的成年人，对吗？Elon Musk： 也许可以通过玩链锯杂耍之类的方式，把情况变得更好一些。Lex Fridman：希望永远不会发生，因为那将成为一场马戏团，它实际上非常擅长抵制黑暗幽默，我们是不是在谈论算法和 Transformer 的无悔时间。换个话题，Twitter 在美国政治和选举中发挥了重要作用，你认为 X 将在 2024 年美国选举中发挥什么作用？Elon Musk：我们的目标是尽量公平公正，过去 Twitter 并不是这样，因为 Twitter 受到了激进活动分子的控制，客观地说，他们会这样形容自己，所以如果有人觉得它向右移动了？那么它已经向左移动了，我们试图对全国和其他国家都具有包容性，因此有多种观点，言论自由只有在你不喜欢的人被允许说你不喜欢的话时才重要，因为如果不是这样，你就没有言论自由，而且只是时间问题，审查将转向你。Lex Fridman： 你认为特朗普会回到这个平台吗？他最近在 Truth Social 上发布了关于这个播客的信息？Elon Musk： 我认为他拥有“Truth Social”的很大一部分，如果他想在 X 平台上发布，我们将允许。显然，我们必须允许我们的总统候选人在我们的平台上发布。Lex Fridman：社区笔记可能会非常引人入胜，互动。Elon Musk：笔记很棒。Lex Fridman： 让我们希望它能够再次保持。在如此分裂和有着如此多极具病毒性的帖子的政治氛围下，社区笔记似乎是一股重要的清新空气。Elon Musk： 事实上，我知道没有系统会是完美的，但社区笔记的平均封禁率非常高，坦率地说，我还没有见过一个错误的笔记能够在系统中存在超过几个小时。Lex Fridman：你如何解释它为什么有效？Elon Musk：社区笔记的魔力在于，它要求那些在过去在笔记评级上意见不合的人来编写或评级笔记，而且你必须评级很多笔记，所以我们实际上在这里使用了 AI ，所以我们在过去如何评价笔记的人，我们会在周围填充一个向量空间，所以不是简单的左或右，因为生活比左右复杂得多，所以在以前的某个时刻，笔记要被显示出来，那些在某个主题上过去意见不合的人必须达成一致才能显示笔记，这是它的核心魔力。Lex Fridman： 这很有趣，因为有一群人在争论，而他们通过这个争论的过程来合作，以制定有关某种上下文的笔记，这实在是很有趣。Elon Musk：有一点可以理解的是，过去曾经在某事上意见不合的人在某些事情上达成一致，这可能是真实的。Lex Fridman： 我想知道，是否有可能出现某种紧急情况，挑战维基百科，维基百科是一种不同类型的东西，更像是关于事物的永久文章。Elon Musk：维基百科是非常分层的，而社区笔记则本质上不是，没有层次结构。我不能改变社区笔记，即使有人拿枪指着我的头，所有的代码都是开源的，100%，所以你可以完全独立地重新创建系统中的任何笔记。如果有任何干扰，你会立刻注意到。Lex Fridman： 顺便说一下，关于“Grok”的话题，它实际上相当擅长批评你。Elon Musk：这很有趣。我能看一看吗？我想看看....这很酷，但是不正确。Lex Fridman： 哪一部分？Elon Musk： 第一部分，我确实有资金保障，而且在旧金山进行了一场大型的民事审判，陪审团一致认为我无罪，这是旧金山陪审团的决定。Lex Fridman：这里似乎在暗示实际上没有得到保障。Elon Musk：我认为这是从媒体上获取的不正确信息。我同意支付给 SEC 的罚款并不是因为 SEC 是正确的，而是因为SEC 的行为极其不当，实际上是腐败行为，但如果我不同意支付罚款，特斯拉会立刻破产，所以我们的 CFO 告诉我，银行将立刻暂停我们的信用额度，如果他们在那个时候暂停我们的信用额度，我们将立刻破产，所以真正的问题是，这就像有人拿枪指着你孩子的头，然后说支付 2000 万美元，承认有人在劫持，这就像人质谈判。Lex Fridman：这个故事有没有完全讲清楚？SEC 在最佳情况下可能是一种力量。Elon Musk：SEC 从未追查过那些不断做空和扭曲特斯拉的对冲基金，从未有过，这些对冲基金会为了自己的利益在电视上公然撒谎，以牺牲散户投资者。Lex Fridman：你如何解释这种失败？Elon Musk：激励结构出现问题，因为 SEC 的律师工资不高，他们不是薪资很高的工作，但他们在寻找的是 SEC 的奖杯，他们在寻找的是他们可以把自己放到高薪律师事务所的 LinkedIn 上的东西，这正是这里的律师所做的。他们没有追究对冲基金，是因为那些对冲基金雇佣了那些律师事务所，他们知道如果他们攻击对冲基金，他们就会影响到自己未来的职业前景，所以他们为了自己的职业，背叛了小投资者，这实际上就是发生的情况，监管失效。我之所以接受那个东西，实际上是因为被告不是认罪，它既不是承认也不是认罪，但我同意的唯一原因是因为我被告知，否则特斯拉将会破产，所以如果有一个像这样的 SEC 调查，银行将暂停资金，那么我们将立即破产，现在我们处于一个更强大的地位。Lex Fridman：有一次， Elon 称英国潜水员在槟城救援一组被困泰国洞穴的男孩后，称他为“变态家伙”，这个小爆发让他再次被告，并不得不道歉并支付赔偿金。Elon Musk： 不正确，没有和解，有一场法庭审判，那位并不是潜水员的家伙，也不是救援队的一部分，对我提起了诉讼，但没有得到任何赔偿，所以在这种情况下，是错误的，我想这也是从传统媒体获取的信息。Lex Fridman：实际上，这里有一个有趣的问题。Elon Musk：这些都是公开的法院案件，但 SEC 的民事案件，SEC 的民事投诉书上，SEC 的家伙们在旧金山丧失了一致的陪审团裁决，他们选择了旧金山，因为他们认为那是我最有可能失败的地方，但最终陪审团一致认为我胜诉。洛杉矶审判也是他们选择的，他们选择那个地点是因为我最有可能失败，但在这两个案例中，我都获得了一致的胜诉。Lex Fridman：我的意思是，这里有一个有趣的问题，如果新闻机构写一篇关于 Elon Musk 的负面文章，那似乎会有更多的点击，这似乎是获取点击的最佳方式之一，那么，如果你要训练 Grok，如何不训练那些具有不一致激励的文章呢？Elon Musk：我们需要在实际法律决定的培训集中添加，所以如果你真的读了法庭的公开决定，你会发现它们与媒体所写的完全相反。Lex Fridman：所以始终努力追求地面真相。Elon Musk：实际上，陪审团和法官实际上得出的结论是什么。在这两种情况下，他们都认为我是无辜的，而且这是在陪审团试图找到我最有可能失败的地点的情况下，这显然可以是一个更好的批评。我对时间表过于乐观，这是真的，但虽然我有时会迟到，但最终我总是能交付的。Lex Fridman：除了Uber Lilith，不是吗？在过去的一年左右，自从购买 X 以来，你变得更加政治化，是否有一部分后悔？Elon Musk：我想要打击“觉醒思想病毒”，我认为它是一种对文明的威胁。Lex Fridman：基本上，你进入了政治战场，是为了某种要求？Elon Musk：我不知道这是否必然与某个候选人或另一个候选人有关，但我一般反对那些反对绩效的事情，或者试图压制讨论，甚至不允许讨论某个话题的事情，觉醒思想病毒就是改头换面的共产主义。如果觉醒思想病毒是左 翼的话，那么我想这是正确的，但我不确定。我认为左 派有一些方面是好的，我的意思是，如果你支持环境保护，如果你希望为人类创造一个积极的未来，如果你相信对待你的同胞应该充满同情心，善良而不残忍，无论这些价值观是什么。Lex Fridman：你曾经说过你以前是左派或中左派，为了让你再次投票给民主党，你希望看到什么？Elon Musk： 不，我会说在社会问题上我可能会处于左倾中心，经济问题上可能会稍微向右倾斜。Lex Fridman：这仍然成立，但我认为。Elon Musk：也许半个国家，不是吗？也许更多。Lex Fridman：你和 AOC 是不是秘密朋友，或者更大的问题是，你是否希望你和她以及所有不同政治信仰的人能够更多地以同情心交流，也许在线上更多地传递一些快乐和良好的氛围和幽默感？Elon Musk：我一直支持幽默，这是我们拥有的。Lex Fridman：搞笑模式，但良好的氛围，友情，幽默，比如友情。Elon Musk：我不认识 AOC，我只在她参加的一个活动上见过她，她穿着一件连衣裙，但我只看到了一边，所以看起来像吃了病毒，但我不知道。Lex Fridman： 剩下的部分是什么，我认为我们应该让一个语言模型完成，如何完成这句话的可能方式呢？我想这个方法行不通，他们仍然希望我支持。Elon Musk：听起来不错，更具特色。Lex Fridman： 你是全球最著名的富有和有权势的人之一，你的地位难以找到可以信任的人。Elon Musk： 不要相信任何人，甚至不要相信自己。Lex Fridman：这是你自己说的，我开玩笑的，但是否有某种信任，需要一个小时来考虑一下，也许需要一些药物，也许还需要 Grock。我的意思是，在这个世界上，每个人都想从你身上得到一些东西，这是否会在某种程度上对你的思想造成压力？我会坚持下去，也有一首歌叫这样，起初我是不是很害怕？我忘记了歌词的剩余部分，但是在这个方面，你没有挣扎，我知道你能够坚持下去，但是有方法。Elon Musk：变成德鲁伊树。Lex Fridman： 它是做什么的？石化。Elon Musk： 它使怪物变成石头，字面上持续 6 秒钟，或者...Lex Fridman：6 秒钟，在《暗黑破坏神》中有太多的数学，这让我头疼。Elon Musk：这就像不停的数学。Lex Fridman：我的意思是，你真的在嘲笑它，但是你不会，它可能会对你的思维施加巨大的压力。Elon Musk：是的，有时候确实会感到有压力。Lex Fridman：但是你如何知道你在工作中和生活中可以信任谁呢？Elon Musk：我想你可以看看某人长期以来的记录，如果数据支持的话，你可以使用你的神经网络来评估。Lex Fridman：神经网络不会感到痛苦，你的网络有意识。当人们背叛你时，它可能会感到痛苦，你可以制定。Elon Musk：坦白说，我几乎从未被背叛过，非常罕见，值得一提。Lex Fridman：我明白了，善待人们，他们也会善待你。Elon Musk：因果报应。Lex Fridman：你信任的其他人，有人会在你的内部呼喊你吗？Elon Musk：X 平台对此非常有帮助，如果你在寻找批判性的反馈。Lex Fridman：它会把你推向更极端的思维，让你对人性产生怀疑吗？Elon Musk：我不认为我会成为怀疑论者。事实上，我认为一个人永远不应该信任一个怀疑论者，原因是怀疑论者通过说每个人都这样来为自己的不良行为找借口，因为他们是怀疑论者，如果有人是真正的怀疑论者，那就是一个警告信号。Lex Fridman：那里有一定程度的投射，从外部观察并享受这一点总是很有趣。Elon Musk：我认为，这是一个重要的观点，我认为听众应该牢记这一点，如果有人是怀疑论者，意味着他们认为每个人都有不良行为，那么他们很容易通过说每个人都这样来为自己的不良行为找借口，这并不是真的，大多数人都是善良的。Lex Fridman：我希望 X 上的人们能够更好地看到其他人行为中的善意，似乎有一种倾向去寻找负面，某种程度上负面更吸引人，更容易传播，我不知道这与人性有关。Elon Musk：相比传统媒体，我觉得 X 平台的氛围要积极一些，如果你阅读传统报纸，会感到沮丧，老实说，而在 X 平台上，我真的每天都笑得更多，比其他所有的事情加起来都多。Lex Fridman： 最后一点是，它有一些重叠，但并不一定完全重叠于好的情感和支持，比如庆祝他人，不是以愚蠢、肤浅、幼稚的方式，而是以令人敬佩的方式，哦，发生了什么了不起的事情，你为他们庆祝，感觉这被其他人压过了，现在这比主流媒体要好。Elon Musk：主流媒体几乎总是对一切持负面态度，传统新闻试图回答的问题是，今天地球上发生了什么最糟糕的事情？这是一个广阔的世界，所以在任何一天，都会发生一些不好的事情。Lex Fridman：对此的一般化，我可以采取的最糟糕的观点是什么？Elon Musk：我不知道，新闻中存在着强烈的负面偏见，我认为这可能的一个解释是进化的，坏消息在历史上可能会导致潜在的致命风险，比如那边有一只狮子，或者有其他部落想要杀死你，好消息我们找到了一片浆果，是很好的，但并非必要。Lex Fridman：我们的老朋友特斯拉自动驾驶，它可能是世界上最聪明的现实世界 AI 系统之一。Elon Musk：对吗？你从一开始就关注它吗？Lex Fridman：它曾经是世界上最令人惊叹的机器人之一，而且现在仍然是，当它变得不仅仅是四个轮子上的机器人，而是一个能感知世界并具有潜在不同体现的现实世界 AI 系统时，真是令人兴奋。Elon Musk：关于端对端训练的真正令人兴奋的事情是，它学会了阅读，就像你可以阅读科学一样，但我们从未教过它阅读，所以我们从未教过它是什么汽车，什么是人，或者自行车，它通过观看视频，就像人一样，从视频中了解了所有这些事物，了解了路上的所有物体。人类是通过光子和控制信号来理解的，很多信息都通过视觉传达到我们的大脑，就像我们的运动信号通过手指和嘴巴来传达一样，汽车也是通过光子和控制信号来理解的，这一点是一样的。Lex Fridman：通过观看图像序列，你与 Norbert Elias（德国著名社会学家，作品《文明的伴侣》是一部关于文明和社会变迁的重要著作）达成了共识，基本上语言是将该世界模型投射到字母序列上的一种方式。Elon Musk：在这些事物中找到了一些相关性群集，。Lex Fridman：这样做就像深刻理解某些关于世界的东西。Elon Musk：这就是我们大脑的工作方式，但它是美丽的内容控制。Lex Fridman：我们的神经网络能够理解世界的深层含义，问题是它能走多远？看起来每个人都对自监督学习领域的 LLMs 感到兴奋。Elon Musk：文本。Lex Fridman：似乎在这方面与特斯拉自动驾驶有深刻的相似之处，对你来说，它基本上是一样的，但我们的转换率现在正在趋于一致，我想知道谁会更快地理解世界的深层含义，或者它们只会自然而然地趋于一致。Elon Musk：它们都朝着通用 AI 前进。特斯拉的方法在计算上更加高效，这是必须的，因为我们在这方面受到了限制。我们只有 100 瓦，以及每秒执行 144 万亿次操作的计算机，听起来似乎很多，但在今天来看，它实际上是小巫见大巫。Lex Fridman：通往 AGI 的道路可能会产生更大的影响，因为让我们理解得更快，更好地理解真实世界，因此能够更快地与真实世界中的人类融合。Elon Musk：它们都会理解世界，但我认为特斯拉的方法从根本上更加计算高效，这是没有选择的。我们的大脑非常计算高效，非常节能，想想我们的大脑能做什么？仅有不到 10 瓦的高级大脑功能，不包括用于控制身体的东西，我们大脑的思考部分少于 10 瓦，这 10 瓦的能量仍然可以产生比 10 兆瓦的 GPU 集群更好的小说，所以这里有 6 个数量级的差距。到目前为止， AI 之所以取得了今天的成就，主要是通过强大的计算和大量的能量投入，但这并不是它的终点。通常情况下，对于任何给定的技术，首先要使其工作，然后再进行优化，所以我认为随着时间的推移，这些模型会变得更小，能够在更少的计算和能量消耗下产生合理的输出。特斯拉在这方面可能领先一步，因为我们被迫尝试用 100 瓦的计算来理解世界，我们忘记了一些基本的功能，所以我们不得不在仿真中运行它们，我们用 Hardware4 修复了许多问题，然后 Hardware5 会更好，但在这一点上，我希望很明显，即使使用 Hardware3 和 100 瓦的功率，特斯拉的自动驾驶可能会比人类驾驶得更好，如果真的进行了优化，它可以处理 50 瓦的计算。Lex Fridman：你在开发 Optimus 、应用和将这种现实世界 AI 集成到机器人操作和人类机器人领域有哪些有趣的小事或大事？你已经了解了一些什么？Elon Musk：我对于我们不得不自己开发机器人的每个部分感到惊讶，他们不会知道有现成的电子设备、传感器，就像我们不得不开发一切，我们无法找到任何金额的电动机的供应来源。Lex Fridman：甚至不仅仅是高效和昂贵。就像任何东西都没有现成的，他们都是创造者，一切都必须从零开始设计。Elon Musk：我们努力寻找任何现有的东西，因为你想想世界上有多少电动机被制造出来，成千上万，数十万电动机的设计，没有一个适合人类，真的没有，所以我们不得不开发我们自己的设计，专门为人类骑乘或需要的情况。Lex Fridman：设计出能够大规模制造的东西有多难，相对来说成本较低？如果与波士顿动力的 Atlas 相比，它非常昂贵。Elon Musk：机器人是设计成可以以制造汽车的方式制造的，我认为最终我们可以以低于汽车成本的价格制造 Optimus ，这应该是因为如果你看机器人的质量要小得多，而汽车上有很多执行器，汽车上的执行器比机器人多。Lex Fridman：在一个有手指的人类机器人中，执行器是有趣的，所以 Optimus 拥有真正好的手和手指，你知道，它们可以进行一些有趣的操作，轻触机器人。Elon Musk：我的一个目标之一是捡起一根针和一根线，穿过针孔。Lex Fridman： 仅仅通过观察，离这个目标有多远？Elon Musk：也许还有一年，我必须回去，我对我们在汽车领域所做的工作感到乐观。Lex Fridman：知觉或者也是控制。Elon Musk： 不，控制方式不同，但汽车和机器人都是通过视频进行理解的，汽车是四轮，而 Optimus 是一只有四肢的机器人，有些相似。Lex Fridman：端到端的整个学习过程实际上就是你只是拥有一套不同的控制系统。Elon Musk：之后我们会找出如何通过观看视频来做事情。Lex Fridman：正如那句话所说，要善待每个你遇到的人，因为每个人都在与内心的战斗。这话确实没错，有什么困难的事情你正在经历，人们通常看不到吗？Elon Musk：我试着不恶意对待任何人。我的思绪是一片混乱，我认为大多数人不会想成为我，他们可能认为他们想成为我，但他们不了解。Lex Fridman： 你过得怎么样？Elon Musk：总体来说还好，在大局上，我不能抱怨。Lex Fridman：你会感到孤独吗？Elon Musk： 有时候，但是我有孩子和朋友陪伴着我。Lex Fridman：所以不是存在性的孤独。Elon Musk：有很多夜晚我一个人睡觉。我不必这样做，但我这样做。Lex Fridman：艾萨克森在他的新传记中写到了你艰难的童年，你会在心中找到对那段生活的一切发生的事情的宽恕吗？Elon Musk：什么是宽恕？至少我不认为我怀有怨恨。 Lex Fridman：所以宽恕对于人们来说是困难的，似乎你不怀有怨恨。Elon Musk：我的意思是，我试着思考什么会对未来产生积极影响，抱怨不会对未来产生积极影响。Lex Fridman： 你从你的孩子那里学到了生活的什么？那些小生物有机体。Elon Musk：我的意思是，开发 AI ，比如说 小 X 的成长是很迷人的，因为他们有一些形式上的相似之处，我没有预料到，我的意思是，我可以看到他的生物神经网络，对世界变得越来越有意义，同时我也可以看到数字神经网络对世界变得越来越有意义。孩子在一起的一件事是，你可以透过他们的眼睛重新看世界，对他们来说，一切都是新鲜的，然后当你看到了这一点，通过他们的经历，这个世界也变得新鲜，你也是如此。","news_type":1},"isVote":1,"tweetType":1,"viewCount":813,"commentLimit":10,"likeStatus":false,"favoriteStatus":false,"reportStatus":false,"symbols":[],"verified":2,"subType":0,"readableState":1,"langContent":"CN","currentLanguage":"CN","warmUpFlag":false,"orderFlag":false,"shareable":true,"causeOfNotShareable":"","featuresForAnalytics":[],"commentAndTweetFlag":false,"upFlag":false,"length":119,"xxTargetLangEnum":"ZH_CN"},"commentList":[],"hasMoreComment":false,"orderType":2}