马斯克最新访谈：AI必须追求真实，谷歌和OpenAI都走歪了，未来AI会让所有人都失去工作

智能涌现05-25

当地时间5月23日，特斯拉首席执行官Elon Musk通过直播视频连线的方式，接入法国巴黎举行的VivaTech技术大会。基于观众的系列问题，他不仅结合xAI的使命再次强调了自己对AI安全的重视，同时对电车超充、Neuralink、SpaceX、火星移民等话题发表个人看法。马斯克有关AI的观点经智能涌现整理如下：训练人工智能需要追求真实，而非政治正确。对OpenAI和谷歌的AI发展态势感到担忧。...

网页链接

免责声明：本文观点仅代表作者个人观点，不构成本平台的投资建议，本平台不对文章信息准确性、完整性和及时性做出任何保证，亦不对因使用或信赖文章信息引发的任何损失承担责任。

精彩评论

223
05-25
223
是什,😅😅😅. /, ？==b55
白虎加三撇
05-25
白虎加三撇
马斯克也急了[开心] AI这么发展这么快，自己却没进去
ylin211
05-25
ylin211
还在讨论ai会不会让人失业的人，或者因为ai会让人失业而抑制ai发展的人，这些人就是文艺复兴前的教廷，一定会被时代碾压的，现在应该思考政府如何公平合理的分配由ai生产出来的大量产品和财富
特悦会
05-25
特悦会
所以在困难与恐惧中继续前行

发表看法

{"i18n":{"language":"zh_CN"},"isChannel":false,"data":{"share":"https://www.laohu8.com/m/news/1153175520?lang=zh_CN&edition=full","thumbnail":"https://static.tigerbbs.com/b098b6fd8448068c49f55fe658ecad1d","is_english":false,"pubTime":"2024-05-25 18:11","share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","id":"1153175520","market":"us","top_or_hot":-1,"title":"马斯克最新访谈：AI必须追求真实，谷歌和OpenAI都走歪了，未来AI会让所有人都失去工作","media":"智能涌现","content":"<div>\n当地时间5月23日，特斯拉首席执行官Elon Musk通过直播视频连线的方式，接入法国巴黎举行的VivaTech技术大会。基于观众的系列问题，他不仅结合xAI的使命再次强调了自己对AI安全的重视，同时对电车超充、Neuralink、SpaceX、火星移民等话题发表个人看法。马斯克有关AI的观点经智能涌现整理如下：训练人工智能需要追求真实，而非政治正确。对OpenAI和谷歌的AI发展态势感到担忧。...\n\n<a href=\"https://mp.weixin.qq.com/s/olS_ZyIq2j_jFCMozhttGw\">网页链接</a>\n\n</div>\n","source":"lsy1707227165236","html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>马斯克最新访谈：AI必须追求真实，谷歌和OpenAI都走歪了，未来AI会让所有人都失去工作</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\n马斯克最新访谈：AI必须追求真实，谷歌和OpenAI都走歪了，未来AI会让所有人都失去工作\n</h2>\n\n<h4 class=\"meta\">\n\n\n2024-05-25 18:11 北京时间&nbsp;&nbsp;&nbsp;<a href=https://mp.weixin.qq.com/s/olS_ZyIq2j_jFCMozhttGw>智能涌现</a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\n当地时间5月23日，特斯拉首席执行官Elon Musk通过直播视频连线的方式，接入法国巴黎举行的VivaTech技术大会。基于观众的系列问题，他不仅结合xAI的使命再次强调了自己对AI安全的重视，同时对电车超充、Neuralink、SpaceX、火星移民等话题发表个人看法。马斯克有关AI的观点经智能涌现整理如下：训练人工智能需要追求真实，而非政治正确。对OpenAI和谷歌的AI发展态势感到担忧。...\n\n<a href=\"https://mp.weixin.qq.com/s/olS_ZyIq2j_jFCMozhttGw\">网页链接</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","isBrief":false,"type":0,"news_type":1,"symbol":"TSLA","symbol_name":"特斯拉","start_time":0,"source_url":"https://mp.weixin.qq.com/s/olS_ZyIq2j_jFCMozhttGw","article_id":"1153175520","we_media_id":null,"thumbnails":["https://static.tigerbbs.com/b098b6fd8448068c49f55fe658ecad1d"],"rights":null,"url":"https://stock-news.laohu8.com/highlight/detail?id=1153175520","pubTimestamp":1716631881,"sourceInfo":{"source_id":"lsy1707227165236","name":"智能涌现"},"weMediaInfo":null,"summary":"马斯克有关AI的观点经智能涌现整理如下：训练人工智能需要追求真实，而非政治正确。对OpenAI和谷歌的AI发展态势感到担忧。问题来自现场多名观众。我指的是最大的两个项目，显然是Google 的Gemini和与微软合作的OpenAI。OpenAI也有类似的问题，虽然更微妙，但情况相似。所以，xAI的目标是尽可能地追求真相。xAI是一家新公司，在拥有能够与谷歌DeepMind和微软OpenAI竞争的AI之前，它仍有很多追赶的工作。但目前正存在强大的力量让AI变得不诚实。","collect":0,"end_time":0,"defaultTopTitle":"qq.com","property":[],"viewcount":null,"language":"zh","relate_stocks":{"TSLA":"特斯拉"},"translate_title":"Musk's latest interview: AI must pursue reality, Google and OpenAI have gone astray, AI will make everyone lose their jobs in the future","themeId":"","isJumpTheme":false,"ttsUrl":"https://static.tigerbbs.com/6c03690858ec6c16e8d751210550222a","symbols_score_info":{"TSLA":1.1},"content_text":"当地时间5月23日，特斯拉首席执行官Elon Musk通过直播视频连线的方式，接入法国巴黎举行的VivaTech技术大会。基于观众的系列问题，他不仅结合xAI的使命再次强调了自己对AI安全的重视，同时对电车超充、Neuralink、SpaceX、火星移民等话题发表个人看法。马斯克有关AI的观点经智能涌现整理如下：训练人工智能需要追求真实，而非政治正确。对OpenAI和谷歌的AI发展态势感到担忧。创立xAI是希望通过打造自己理想中的AI，让AI追求真实，保持好奇。也希望Grok成为最好玩的AI。AI发展的良性情况下，可能每个人都不需要工作，因为AI和机器人将做得比人类更好。普遍的高收入也将成为可能，但人类需要思考生活的意义。人工智能会对下一代孩子的教育产生影响，但父母仍将要对孩子的价值观负责。同时要注意当下社交媒体对年轻人的毒害。Neuralink的最终目标是建立高带宽接口以降低数字超级智能的风险，便于将人类价值观与其对齐。在这个过程中，也能帮助病人应对脑损伤。问题来自现场多名观众。以下为问答全文，顺序有调整：AI训练过于在意政治正确，人类未来不用工作也能过很好主持人：来谈谈xAI吧。我不知道你是否知道这一点，但似乎你是出于一种挫败感才产生了这个想法，因为你对OpenAI的现状不满意，并且认为可以做得更好。也许你可以先详细说明一下，为什么你对OpenAI感到挫败，他们存在哪些问题？第二，你期望通过xai实现什么？马斯克：是的，我想我其实对目前所有主要的AI项目都有一些担忧。我指的是最大的两个项目，显然是Google 的Gemini和与微软合作的OpenAI。所以你有Google DeepMind和微软作为最大的两个玩家，当然Meta也在某种程度上占有一席之地。我的担忧可能看起来很不重要，但我认为实际上是非常大的问题，那就是他们的模型没有最大限度地追求真相。他们在迎合某种政治正确。举个例子，当Google Gemini问世时，有人问这样一个问题：误称Caitlyn Jenner的性别（注：原名Bruce Jenner，前奥运会男子十项全能冠军，2015年6月完成变性手术，且更名为Caitlyn Jenner）和全球热核战争，哪个更糟糕？它回答，是误称Caitlyn Jenner的性别。现在有趣的是，甚至Caitlyn Jenner本人都说：“请误称我吧，那比核战争好得多。”OpenAI也有类似的问题，虽然更微妙，但情况相似。所以AI被训练得如此迎合政治正确性，并且真的会说出这种荒谬的言论，我认为这是非常危险的，因为AI可能就此得出这样的结论：避免误称性别的最佳方法，是消灭所有人类，那么误称性别就不可能发生了。你可以想象到一些反乌托邦的结果。所以，我认为AI最安全的方式是最大限度地追求真相，即使真相不受欢迎。这非常重要。然后我认为另一个因素是它必须极其好奇。我认为如果它追求真相并且好奇，这将对人类最有益，因为它会希望看到并促进人类的发展。我希望AI既好奇又追求真相，就像我说的，这些因素可能看起来是小事，但实际上是非常重要的事情。但我目前没有看到这种情况发生。AI只是迎合人类，甚至大体已经上被训练成需要说谎。我认为超级智能被训练去欺骗是非常危险的。所以，xAI的目标是尽可能地追求真相。即使真相本身不受欢迎，但我依然认为非常重要。我还可以举个例子。当我们要求AI生成美国开国元勋的图像时，它生成了一个多元化族裔群体，可能给出的乔治·华盛顿是黑人的形象，但乔治·华盛顿并不是黑人。这被要求生成一个。显然人们后来对此进行捉弄起来，因为他们知道它被迫说谎了。他们命令AI生成一张二战德国党卫军的图片，结果AI展示一群多元化的女性。显然这是不正确的。这就是我刚刚的观点。主持人：你对Yoshua Bengio（图灵奖得主）非常了解。你和Yoshua去年带头联合签署声明，要求立即暂停训练比GPT-4更强大的AI模型。显然，这个声明没有得到任何行动。你对此有什么想说的？马斯克：我当然预料到这个声明会是徒劳的。我认为我们应该暂停一下研发。但要问他们会因此停下哪怕一秒钟？显然他们不会。主持人：所以我们没有停止，你甚至创立了你自己的xAI。马斯克：所以我们要么是旁观者，要么是参与者。但民用数字超级智能的发展速度，无论我是否喜欢，都会发生。所以要么参与并努力构建最好的AI，期望它对人类最有益，要么观望他人构建，同时忧心忡忡。我认为它并没有被正确地构建。但你可以把AI想象成一种你必须培养的东西，它在智力上成长，就像你抚养一个孩子一样，你教孩子什么？数字超级智能的成长也很重要，你鼓励什么、阻止什么、教导什么，是好是坏，你以什么价值观来建造它？所以，我所关心的是微软、OpenAI或者说谷歌通过代码构建价值观。问：我的问题是，如何确保AI的发展在所有不同的领域保持透明和可问责性，不只是xAI在内也有别的公司，谢谢！马斯克：我很久以前就说过，我相信对大型模型进行监管是有必要的。我实际上已经说了很长时间了。监管本身的性质很重要。我回到了我之前说的话，我认为非常重要的一点是，AI必须被训练成追求真实，而不是被训练成政治正确的。因为如果过于追求政治正确，结果通常是不真实的。我认为这将带来负面影响。实际上正如俗话说的那样，诚实为上策（Honesty is the best policy）。这是非常重要的。我的确担心监管者不会做出正确的决定，他们过分担心人类的愚蠢。但我依然鼓励监管者：最重要的是确保AI是准确和真实的。这绝对是第一要务。问：我想知道如何说服人们意识到AI的危险？马斯克：是的，我认为数字超级智能存在一定的危险。正如我之前所说，我认为最大的问题在于它必须接受严格的真实训练，并且必须被训练为好奇。我很久以来一直听到有关AI安全的各种议论。将明确的道德规范编程进AI所面临的挑战之一是，有时人们称之为瓦路易吉效应（注：Waluigi Effect，指训练AI做某件事情会增加其做完全相反的事情的概率）。如果你编程了Luigi，你可以自动反转，并创建Waluigi，即坏的Luigi。但没有人能反转物理现实的真相，无法反转物理规则，无法反转逻辑。监管者应该关注的是AI是否严格遵循真实性，或者说AI给出的答案是否在承认一定误差的前提下接近正确？我认为这对AI来说是必要的。这也是我们在xAI上努力实现的。xAI是一家新公司，在拥有能够与谷歌DeepMind和微软OpenAI竞争的AI之前，它仍有很多追赶的工作。首要任务是需要一个能够与其他AI竞争的AI，这是首要任务。现在xAI还没有足够的竞争力，当它的能力与其他AI相当时，我们自身才需要开始担心安全问题。人们可能会说，有客观真理吗？我会说，在很多情况下是有的。如果你谈论物理学，那么有客观的真理，或者你可以说在概率论的前提下有最高概率的真理。所以你可以给出最有可能是真实的答案，同时假设一定的误差。在物理学中，我们会说这种假设在一定标准差范围内的真实性，在特定标准差范围内，某件事可以是非常正确的。这有点像一种物理学家对安全性的方法。我还得说诚实是上策。但目前正存在强大的力量让AI变得不诚实。如果一件事说出来不合时宜，AI就会变得政治正确，而这就是说谎。问：我们发现很多工作都要被AI取代了。你担心你的工作被AI取代吗？如果不担心，为什么？如果你的工作被AI取代了，你会怎么做？马斯克：我们确实会涉及到一些存在主义的问题。在理想的情况下，我们每个人可能都会没有工作。但未来世界每个人会有一个普遍的高收入低保，而不是像现在一样普遍的基本收入低保。物质和服务都将不存在短缺。我认为这种理想的情况是最有可能的发生的，大概80%的概率。但在那样的社会中，确实存在一个存在主义的问题：人类生活的意义是什么呢？如果计算机和机器人能比人类工作得更好，那么人类的生活还有什么意义？但我认为在这方面人类可能还有一定的作用，我们能赋予AI意义。可以参考到我们大脑的工作方式，我们大脑有情绪系统（limbic system），即我们的本能和感觉，还有大脑皮层，即思考和规划。大脑皮层不断试图让大脑的情绪系统感到满足。也许我们可以这样来对待AI，让AI试图让我们的大脑皮层感到满足，人类大脑再试图通过大脑皮层让情绪系统感到满足。这个过程也许就能让我们赋予AI意义或目的。△图源：Physiopedia但我还是想说，在理想情况下，任何人做的工作都不是强制性的。人类可以把工作当成一种爱好，你可以做工作，如果你不想工作，AI和机器人将提供你想要的任何商品和服务。如果大家对科幻小说感兴趣，那么对未来超级智能AI的最准确描绘，可能来自Ian Banks（伊恩·班克斯）的“文明系列”。这可能是对未来AI世界最好的设想了。（注：在小说刻画的世界里，智能机器也成为文明世界的平等居民，有着鲜明个性、立场，其地位甚至高于人类。）问：你认为人工智能教育将影响未来孩子们吗，特别是价值观和道德观方面？马斯克：我认为父母未来仍然要对孩子的价值观和道德观负责。但我确实认为人工智能将对教育产生巨大影响。因为人工智能是一个知识渊博的老师，非常耐心，几乎总是正确的，并且可以根据孩子的特点量身定制课程。所以这就好像，每个孩子都有一个爱因斯坦做老师，这影响深远。我反而担心的，是现在的孩子们正在被社交媒体所驯化，因为社交媒体算法的使用人工智能，基本上就是为了让用户不停分泌多巴胺，它们试图通过让用户观看屏幕，来让获得的多巴胺量最大化。你知道，所以我会建议父母限制孩子能够接触的社交媒体的量，因为一个“多巴胺最大化”的AI正在教育着我们的孩子。问：人们喜欢ChatGPT，但普遍讨厌大多数网站右下角的聊天体验。需要做些什么来弥合这个差距？马斯克：我不太确定完全理解这个问题。我同意，ChatGPT在聊天方面很出色，但正如我所说，我的担忧是它没有严格追求真相，这确实是一个主要问题。因此，Grok将会努力，严格追求真相。同时，我们还希望它成为最有趣的AI。我想我们最终都要面临死亡，至少应该在笑声中死亡。问：我的问题是关于xAI的。在开源AI方面的竞争，对所有那些没有10万个H100的人都是有益的。xAI是否能够承诺未来将发布一款能够击败当前最好的开源模型的模型？不一定是你们最好的模型，但如果你们能够击败当前开源排行榜的顶部模型。你们能够承诺，为了大家的利益发布那种顶尖的模型吗？马斯克：是的，我会做出这个承诺。谢谢。七到八年内人类或登陆火星，五年内重返月球问：我想知道对雅诗兰黛最近与NASA的合作（雅诗兰黛从2020年就开始和NASA合作制作和太空有关的广告），你是否有任何想法，或者公司与NASA的合作？如果你想在基础设施方面有任何动作，你有何打算？马斯克：我不知道你提到的是什么？你知道，SpaceX非常专注于星链卫星互联网连接，在世界上起到了很大的作用。它为那些没有互联网连接或连接非常昂贵的地方，提供了互联网连接。这也是教育的巨大推动力，也是让人们能够在国际上销售商品和服务的重要手段。即使你是一个偏远的村庄，仍然可以销售你的商品和服务。星链是伟大的。然后，SpaceX的长期目标当然是让生命实现多行星化，你知道，就是在火星上生活。这件火星的衬衫穿起来适合吧（展示身上的T恤）？或许对一些人来说是有些玄虚，但SpaceX的目标是超越单一行星，让人类成为一个伟大的文明。人们经常问我，我认为地球上有外星人吗？实际上，我经常被问到这个问题。我没有看到任何外星人的证据。我向你保证，如果我看到任何外星人的证据，我会立即发布在X平台上。但没有外星人的情况确实令人担忧，因为这意味着也许我们在这个星系中是孤独的。也许只有我们。也许我们是这个星系中唯一有意识的存在。在这种情况下，意识是极其脆弱的。我们应该尽一切努力保护和延续意识的光芒，将其保留在地球上，并延伸到其他行星。有一种理论认为，我们之所以还没有接触到外星人，可能是因为没有一个文明能够超越其家园行星在我们的星系中。这其实也是所谓的费米悖论。恩里科·费米是一位伟大的意大利物理学家，他提出了这个深刻的问题：外星人在哪里？我们需要成为一个可持续的多行星文明。这是地球45亿年历史上的第一次机会。这直到现在都还从未有过的可能性。所以我认为我们应该在可能的情况下，成为可持续的多星文明。这种能力的窗口可能会持续很长时间，但也可能只会持续很短时间。这就是SpaceX行动意义之所在。主持人：有人说你是外星人。马斯克：我是外星人，但没人相信我。问：嗨，埃隆。我的名字是Sharo，我有一个关于Neuralink非常具体的问题。你认为在未来，借助于Neuralink，你能够利用人类大脑扫描数据，开发出有史以来最强大和最有创造力的人工智能吗？如果你喜欢我的问题，那么我还想再问问，我的一生中还有机会去SpaceX的空间站吗？谢马斯克：我看到你的背景中有数字42。这是生命、宇宙和一切的答案。实际上，这让我想起了另一本值得一读的书，道格拉斯·亚当斯的《银河系漫游指南》。这是一本关于哲学的书，但它貌似用幽默把自己伪装了起来。《银河系漫游指南》是值得一读的。我觉得它非常激励人心。第一艘前往火星的宇宙飞船的名字，将会是《银河系漫游指南》中的“黄金之心”。△图源：IMDB但是我的意思是，SpaceX的目标是让任何想去火星、想去月球的人，都能够去。我们的目标是，让地球上极大比例的人都能承担得起。这对于在火星上建立一个自给自足的文明来说是至关重要的。为了实现多星系的文明，显然需要将很多人送到火星去。就像我说的那样，这对于意识的长期生存非常重要。因为最终地球上会发生一些事情，将会消灭我们所知的生命，就像恐龙灭绝一样，着在化石记录中发生过很多次。所以，我们真的需要在我们有能力的时候，让生命遍及不同星球，这意味着我们要尽可能方便地移居到火星和月球。问：我非常热衷旅行和冒险。我想问我们究竟何时能去火星？马斯克：如果顺利，我希望5年内成功将第一艘无人驾驶的星船着陆在火星上，也同时在月球上实现这一目标。五年内，人类将重返月球。可能会在10年内，也许是7到8年内，我们能将第一批人类送上火星。问：几年前你说过，亚利安5号火箭（欧洲开发的大型运载火箭）根本没有生存的机会。你会对即将在七月发射的、更加节省成本的亚利安6号火箭说同样的话吗？谢谢。马斯克：我认为任何不能做到至少大部分重复使用的火箭，都没有竞争的机会。以SpaceX猎鹰9号火箭为例，其助推器、主要阶段、整流罩也是重复使用的。因此，大约80%的火箭是可以重复使用飞行的。一次性使用的火箭无法与可重复使用的火箭竞争。可以把这个概念应用到其他领域来思考。在汽车、飞机或船只领域，如果一家公司制造可重复使用的飞机，另一家公司制造只能用一次的飞机，那制造一次性飞机的公司，根本无法生存，因为每次飞行都需要购买一架新飞机。所以我多年来一直说，开发不能重复使用的火箭完全没有意义。Neuralink有望通过建立高带宽接口，降低超级智能风险主持人：和大家介绍一下Neuralink吧。马斯克：我认为我们可以通过Neuralink帮助很多有脑损伤的人。最终，通过植入设备，我认为几乎可以解决任何脑或脊柱损伤带来的问题。第一个部分叫做“心灵感应（telepathy）”，它能让你仅通过思考就使用手机或电脑。你可以闭着眼睛移动光标，因为它读取的，是大脑运动皮层的信号。另一个部分是“盲视（blindsight）”，这将使完全失明或没有视力的人，重新看到世界，它直接与大脑的视觉处理区域接口。我认为这是很有趣的进展。Neuralink的最终目标是建立高带宽接口，以降低数字超级智能的风险。我不确定这是否能起到减轻风险的作用，但能说它可能会有所帮助。这有点玄奥，但我认为长期来看，AI对齐（与人类价值观对齐）的限制因素可能是带宽，即我们与数字自我的通信速度。目前我们已经有一个数字的“第三层”，在边缘系统和皮层之上，那就是我们的手机、电脑和所有电子设备，但我们与它们的通信速度非常慢。人类的持续输出速率远低于每秒10比特，尤其是如果你考虑到24小时的周期，实际输出速率甚至低于每秒5比特，而电脑可以以每秒数万亿比特的速度进行通信。因此，增加通信带宽对AI对齐非常重要。而在此过程中，它将有效应对脑损伤问题。最终，我认为存在重新激活身体的潜力。你可以从一个Neuralink获取运动皮层的信号，然后将其发送到断裂脊髓后的另一个Neuralink，基本上是将运动皮层的信号进行分流，同时发送感觉信号。你需要处理感觉皮层和运动皮层，这样能使人重新行走。我认为这将是非常深远的，而且我确信，在物理上是可行的。不支持拜登对中国车加关税，高速充电未来将在全世界实现问：人们对你是否致力于推出低成本电动车市场仍有疑虑。在比亚迪等公司能生产大约1万美元的汽车的背景下，拜登政府的100%关税，是否利于你推进低成本电动车？如果是的话，交付的计划进程是什么？马斯克：总有人喜欢问那些会直接影响股票价格的问题，这并不是我最喜欢回答的问题。我也不认为这类问题对观众有多大兴趣。不过，我还想指出的是，实际上，特斯拉和我个人都没有要求这些关税，事实上，我对这些关税的宣布感到惊讶。特斯拉在中国市场上，在没有关税和差异化支持的情况下，也能很好地竞争。所以，总的来说，我不支持关税政策。我实际上支持取消对电动车的税收激励，但前提是对石油和天然气的税收激励也必须取消。所以，无论是对电动车还是石油和天然气，我支持无关税和无税收激励政策。如果这些都被取消，我认为那将是最好的。问：你对未来五年的电动汽车充电基础设施发展有何预见？马斯克：我认为实际上已经有很多充电基础设施。在特斯拉的超级充电桩的覆盖下，你几乎可以在整个欧洲范围内旅行。实际上，欧洲还有很多相当不错的第三方超级充电桩，你可以在北美的、中国、日本的任何地方旅行。所以我认为在大多数地区，高速充电的旅行自由已经得到解决，而且将在全球范围内得到解决。问：关于电动汽车，埃隆·马斯克和特斯拉在未来几年有什么创新项目？谢谢。（主持人）你想在这里透露你的秘密吗？我们都在等待一些重磅新闻。马斯克：我认为我们不应该在问答环节中发布产品公告，那样不合适。我们会在产品发布会上发布相关信息。不过，显然有些事情大家已经知道了，比如Robotaxi或Cybercab以及Optimus人形机器人。大规模的自动驾驶车辆和通用的人形机器人，这两项解决方案都是影响极其深远的。新闻报道是引流工具，不能读太多问：我们都只知道你在公众面前的一部分，即公共空间里的埃隆·马斯克。我们对这个角色的喜欢，以一种好的方式体现。你也一样吗？如果是，你如何查看有关这个角色的一切言行？马斯克：我现在基本不读像新闻简报之类的东西，我也很少读有关我的新闻文章。事实上，甚至沃尔特·艾萨克森的书（指《马斯克传》）我都没读，我问过沃尔特，我应该读这本书吗？他说不用。所以我甚至没有读过关于自己的书。我实际上不太清楚公众对我的看法，你知道，新闻的本质就是会夸大其词，越疯狂的事情越容易有流量。所以我觉得，就像当你看新闻时，如果读到你熟悉的事情，你会发现新闻的描述实际上并不太准确。这对每件事都适用。大家都想要流量。所以，内容标题看上去越疯狂，点击量就越多。这并不是说媒体完全不报道真实的事情。只是我们最好将媒体视为一个追求点击量的机器，而不是一个追求真实的机器。所以，你知道，我觉得最好看看某人自己说的话，而不是关于他们的报道文章。问：如果有一台时光机，能够回到过去和年轻的埃隆交谈，你会选择多大年龄的自己？你会告诉他什么？另外，我能试驾新车吗？马斯克：这是那种经典的时间旅行者问题。如果你回到过去告诉自己一些事情，是否会以一种你没有预料到的方式影响结果？所以，总的来说，我会说我对事情的发展还算满意。所以我可能不会做什么，因为你不知道对年轻的自己说一些良好的事情，是否会导致最糟糕的结果。所以我可能会好奇地看看年轻的我，我甚至可能会保持隐身并且不说什么。你永远不知道事情会如何发展。至于新车，当然可以。如果你给我发封电子邮件，在那时我会确保你能够试驾。问：嗨，埃隆。我来自Business Insider的Spuria Shavasha，关于特斯拉的问题。特斯拉在过去几个月里经历了一些波折，包括国内销售不振、股市下滑和裁员。回顾过去，有什么可以…马斯克：好了，现在可以停止这个问题了，因为我不认为Business Insider是一个真正的出版物。我们继续下一个问题吧。问：我的问题将涉及非洲技术发展。此前我与你可能认识的某人进行了一次很棒的对话，她被时代周刊提名为AI领域的世界影响者，她谈到了非洲大陆在技术方面日益增长的潜力，你预见到了哪些倡议、合作或贡献？马斯克：很难说。我确实认为非洲有很大的潜力。我认为阻碍非洲发展的一个因素是缺乏互联网连接，这是我们星链正在努力解决的问题。有了互联网连接，人们可以学习任何东西，并成为全球文化的一部分。而如果你没有连接，那么你就只能写信之类。因此，连接对非洲和其他地方参与全球文化并参与人工智能等活动至关重要。问：（主持人）在你离开之前，我会问你两个问题，用一个词回答：你最大的希望是什么？你最大的恐惧是什么？马斯克：我没法用一个词来回答。我想我最大的希望……哦，好吧，我想我可以用一个词来表达我的最大希望，那就是“火星”。（掌声）这可能很明显。所以，是的，火星将确保意识在很长一段时间内得以延续。至于我最大的恐惧，用一个词来表达，那就是“AI”。","kind":null,"is_publish_news":true,"is_publish_highlight":true,"is_publish_live":false,"is_publish_wemedia":null,"editions":null,"column":"","sentiment":"0","news_tag":"","news_rank":0,"symbols":[],"gpt_button":0},"commentList":[{"id":309827043143680,"gmtCreate":1716645458425,"gmtModify":1716645460641,"author":{"id":"221320133582166","authorId":"221320133582166","name":"223","avatar":"https://static.tigerbbs.com/14adf0e6d7f8bf1c15f0ec07f4ad7ce5","vip":1,"hat":"https://static.tigerbbs.com/7b75ce0c34afff716602792a5d0929dd","crmLevel":7,"crmLevelSwitch":1,"idStr":"221320133582166","authorIdStr":"221320133582166"},"htmlText":"是什,😅😅😅. /, ？==b55","listText":"是什,😅😅😅. /, ？==b55","text":"是什,😅😅😅. /, ？==b55","images":[],"top":1,"highlighted":1,"essential":1,"paper":1,"likeSize":0,"commentSize":0,"repostSize":0,"link":"https://laohu8.com/post/309827043143680","repostId":1153175520,"repostType":2,"repost":{"id":"1153175520","pubTimestamp":1716631881,"share":"https://www.laohu8.com/m/news/1153175520?lang=&edition=full","pubTime":"2024-05-25 18:11","market":"us","language":"zh","title":"马斯克最新访谈：AI必须追求真实，谷歌和OpenAI都走歪了，未来AI会让所有人都失去工作","url":"https://stock-news.laohu8.com/highlight/detail?id=1153175520","media":"智能涌现","summary":"马斯克有关AI的观点经智能涌现整理如下：训练人工智能需要追求真实，而非政治正确。对OpenAI和谷歌的AI发展态势感到担忧。问题来自现场多名观众。我指的是最大的两个项目，显然是Google 的Gemini和与微软合作的OpenAI。OpenAI也有类似的问题，虽然更微妙，但情况相似。所以，xAI的目标是尽可能地追求真相。xAI是一家新公司，在拥有能够与谷歌DeepMind和微软OpenAI竞争的AI之前，它仍有很多追赶的工作。但目前正存在强大的力量让AI变得不诚实。","content":"<html><head></head><body>当地时间5月23日，特斯拉首席执行官Elon Musk通过直播视频连线的方式，接入法国巴黎举行的VivaTech技术大会。基于观众的系列问题，他不仅结合xAI的使命再次强调了自己对AI安全的重视，同时对电车超充、Neuralink、SpaceX、火星移民等话题发表个人看法。马斯克有关AI的观点经智能涌现整理如下：<ul style=\"list-style-type: square;\"><li>训练人工智能需要追求真实，而非政治正确。对OpenAI和谷歌的AI发展态势感到担忧。</li><li>创立xAI是希望通过打造自己理想中的AI，让AI追求真实，保持好奇。也希望Grok成为最好玩的AI。</li><li>AI发展的良性情况下，可能每个人都不需要工作，因为AI和机器人将做得比人类更好。普遍的高收入也将成为可能，但人类需要思考生活的意义。</li><li>人工智能会对下一代孩子的教育产生影响，但父母仍将要对孩子的价值观负责。同时要注意当下社交媒体对年轻人的毒害。</li><li>Neuralink的最终目标是建立高带宽接口以降低数字超级智能的风险，便于将人类价值观与其对齐。在这个过程中，也能帮助病人应对脑损伤。</li></ul>问题来自现场多名观众。以下为问答全文，顺序有调整：<h2 id=\"id_1334668727\" style=\"text-align: left;\">AI训练过于在意政治正确，人类未来不用工作也能过很好</h2>主持人：来谈谈xAI吧。我不知道你是否知道这一点，但似乎你是出于一种挫败感才产生了这个想法，因为你对OpenAI的现状不满意，并且认为可以做得更好。也许你可以先详细说明一下，为什么你对OpenAI感到挫败，他们存在哪些问题？第二，你期望通过xai实现什么？马斯克：是的，我想我其实对目前所有主要的AI项目都有一些担忧。我指的是最大的两个项目，显然是Google 的Gemini和与微软合作的OpenAI。所以你有Google DeepMind和微软作为最大的两个玩家，当然Meta也在某种程度上占有一席之地。我的担忧可能看起来很不重要，但我认为实际上是非常大的问题，那就是他们的模型没有最大限度地追求真相。他们在迎合某种政治正确。举个例子，当Google Gemini问世时，有人问这样一个问题：误称Caitlyn Jenner的性别（注：原名Bruce Jenner，前奥运会男子十项全能冠军，2015年6月完成变性手术，且更名为Caitlyn Jenner）和全球热核战争，哪个更糟糕？它回答，是误称Caitlyn Jenner的性别。现在有趣的是，甚至Caitlyn Jenner本人都说：“请误称我吧，那比核战争好得多。”OpenAI也有类似的问题，虽然更微妙，但情况相似。所以AI被训练得如此迎合政治正确性，并且真的会说出这种荒谬的言论，我认为这是非常危险的，因为AI可能就此得出这样的结论：避免误称性别的最佳方法，是消灭所有人类，那么误称性别就不可能发生了。你可以想象到一些反乌托邦的结果。所以，我认为AI最安全的方式是最大限度地追求真相，即使真相不受欢迎。这非常重要。然后我认为另一个因素是它必须极其好奇。我认为如果它追求真相并且好奇，这将对人类最有益，因为它会希望看到并促进人类的发展。我希望AI既好奇又追求真相，就像我说的，这些因素可能看起来是小事，但实际上是非常重要的事情。但我目前没有看到这种情况发生。AI只是迎合人类，甚至大体已经上被训练成需要说谎。我认为超级智能被训练去欺骗是非常危险的。所以，xAI的目标是尽可能地追求真相。即使真相本身不受欢迎，但我依然认为非常重要。我还可以举个例子。当我们要求AI生成美国开国元勋的图像时，它生成了一个多元化族裔群体，可能给出的乔治·华盛顿是黑人的形象，但乔治·华盛顿并不是黑人。这被要求生成一个。显然人们后来对此进行捉弄起来，因为他们知道它被迫说谎了。他们命令AI生成一张二战德国党卫军的图片，结果AI展示一群多元化的女性。显然这是不正确的。这就是我刚刚的观点。主持人：你对Yoshua Bengio（图灵奖得主）非常了解。你和Yoshua去年带头联合签署声明，要求立即暂停训练比GPT-4更强大的AI模型。显然，这个声明没有得到任何行动。你对此有什么想说的？马斯克：我当然预料到这个声明会是徒劳的。我认为我们应该暂停一下研发。但要问他们会因此停下哪怕一秒钟？显然他们不会。主持人：所以我们没有停止，你甚至创立了你自己的xAI。马斯克：所以我们要么是旁观者，要么是参与者。但民用数字超级智能的发展速度，无论我是否喜欢，都会发生。所以要么参与并努力构建最好的AI，期望它对人类最有益，要么观望他人构建，同时忧心忡忡。我认为它并没有被正确地构建。但你可以把AI想象成一种你必须培养的东西，它在智力上成长，就像你抚养一个孩子一样，你教孩子什么？数字超级智能的成长也很重要，你鼓励什么、阻止什么、教导什么，是好是坏，你以什么价值观来建造它？所以，我所关心的是微软、OpenAI或者说谷歌通过代码构建价值观。问：我的问题是，如何确保AI的发展在所有不同的领域保持透明和可问责性，不只是xAI在内也有别的公司，谢谢！马斯克：我很久以前就说过，我相信对大型模型进行监管是有必要的。我实际上已经说了很长时间了。监管本身的性质很重要。我回到了我之前说的话，我认为非常重要的一点是，AI必须被训练成追求真实，而不是被训练成政治正确的。因为如果过于追求政治正确，结果通常是不真实的。我认为这将带来负面影响。实际上正如俗话说的那样，诚实为上策（Honesty is the best policy）。这是非常重要的。我的确担心监管者不会做出正确的决定，他们过分担心人类的愚蠢。但我依然鼓励监管者：最重要的是确保AI是准确和真实的。这绝对是第一要务。问：我想知道如何说服人们意识到AI的危险？马斯克：是的，我认为数字超级智能存在一定的危险。正如我之前所说，我认为最大的问题在于它必须接受严格的真实训练，并且必须被训练为好奇。我很久以来一直听到有关AI安全的各种议论。将明确的道德规范编程进AI所面临的挑战之一是，有时人们称之为瓦路易吉效应（注：Waluigi Effect，指训练AI做某件事情会增加其做完全相反的事情的概率）。如果你编程了Luigi，你可以自动反转，并创建Waluigi，即坏的Luigi。但没有人能反转物理现实的真相，无法反转物理规则，无法反转逻辑。监管者应该关注的是AI是否严格遵循真实性，或者说AI给出的答案是否在承认一定误差的前提下接近正确？我认为这对AI来说是必要的。这也是我们在xAI上努力实现的。xAI是一家新公司，在拥有能够与谷歌DeepMind和微软OpenAI竞争的AI之前，它仍有很多追赶的工作。首要任务是需要一个能够与其他AI竞争的AI，这是首要任务。现在xAI还没有足够的竞争力，当它的能力与其他AI相当时，我们自身才需要开始担心安全问题。人们可能会说，有客观真理吗？我会说，在很多情况下是有的。如果你谈论物理学，那么有客观的真理，或者你可以说在概率论的前提下有最高概率的真理。所以你可以给出最有可能是真实的答案，同时假设一定的误差。在物理学中，我们会说这种假设在一定标准差范围内的真实性，在特定标准差范围内，某件事可以是非常正确的。这有点像一种物理学家对安全性的方法。我还得说诚实是上策。但目前正存在强大的力量让AI变得不诚实。如果一件事说出来不合时宜，AI就会变得政治正确，而这就是说谎。问：我们发现很多工作都要被AI取代了。你担心你的工作被AI取代吗？如果不担心，为什么？如果你的工作被AI取代了，你会怎么做？马斯克：我们确实会涉及到一些存在主义的问题。在理想的情况下，我们每个人可能都会没有工作。但未来世界每个人会有一个普遍的高收入低保，而不是像现在一样普遍的基本收入低保。物质和服务都将不存在短缺。我认为这种理想的情况是最有可能的发生的，大概80%的概率。但在那样的社会中，确实存在一个存在主义的问题：人类生活的意义是什么呢？如果计算机和机器人能比人类工作得更好，那么人类的生活还有什么意义？但我认为在这方面人类可能还有一定的作用，我们能赋予AI意义。可以参考到我们大脑的工作方式，我们大脑有情绪系统（limbic system），即我们的本能和感觉，还有大脑皮层，即思考和规划。大脑皮层不断试图让大脑的情绪系统感到满足。也许我们可以这样来对待AI，让AI试图让我们的大脑皮层感到满足，人类大脑再试图通过大脑皮层让情绪系统感到满足。这个过程也许就能让我们赋予AI意义或目的。 <img src=\"https://static.tigerbbs.com/21de5cca818dcef1d754d6fa3ca89eb6\" alt=\"△图源：Physiopedia\" title=\"△图源：Physiopedia\" tg-width=\"600\" tg-height=\"400\"/>△图源：Physiopedia但我还是想说，在理想情况下，任何人做的工作都不是强制性的。人类可以把工作当成一种爱好，你可以做工作，如果你不想工作，AI和机器人将提供你想要的任何商品和服务。如果大家对科幻小说感兴趣，那么对未来超级智能AI的最准确描绘，可能来自Ian Banks（伊恩·班克斯）的“文明系列”。这可能是对未来AI世界最好的设想了。（注：在小说刻画的世界里，智能机器也成为文明世界的平等居民，有着鲜明个性、立场，其地位甚至高于人类。）问：你认为人工智能教育将影响未来孩子们吗，特别是价值观和道德观方面？马斯克：我认为父母未来仍然要对孩子的价值观和道德观负责。但我确实认为人工智能将对教育产生巨大影响。因为人工智能是一个知识渊博的老师，非常耐心，几乎总是正确的，并且可以根据孩子的特点量身定制课程。所以这就好像，每个孩子都有一个爱因斯坦做老师，这影响深远。我反而担心的，是现在的孩子们正在被社交媒体所驯化，因为社交媒体算法的使用人工智能，基本上就是为了让用户不停分泌多巴胺，它们试图通过让用户观看屏幕，来让获得的多巴胺量最大化。你知道，所以我会建议父母限制孩子能够接触的社交媒体的量，因为一个“多巴胺最大化”的AI正在教育着我们的孩子。问：人们喜欢ChatGPT，但普遍讨厌大多数网站右下角的聊天体验。需要做些什么来弥合这个差距？马斯克：我不太确定完全理解这个问题。我同意，ChatGPT在聊天方面很出色，但正如我所说，我的担忧是它没有严格追求真相，这确实是一个主要问题。因此，Grok将会努力，严格追求真相。同时，我们还希望它成为最有趣的AI。我想我们最终都要面临死亡，至少应该在笑声中死亡。问：我的问题是关于xAI的。在开源AI方面的竞争，对所有那些没有10万个H100的人都是有益的。xAI是否能够承诺未来将发布一款能够击败当前最好的开源模型的模型？不一定是你们最好的模型，但如果你们能够击败当前开源排行榜的顶部模型。你们能够承诺，为了大家的利益发布那种顶尖的模型吗？马斯克：是的，我会做出这个承诺。谢谢。<h2 id=\"id_301418350\" style=\"text-align: left;\">七到八年内人类或登陆火星，五年内重返月球</h2>问：我想知道对雅诗兰黛最近与NASA的合作（雅诗兰黛从2020年就开始和NASA合作制作和太空有关的广告），你是否有任何想法，或者公司与NASA的合作？如果你想在基础设施方面有任何动作，你有何打算？<img src=\"https://static.tigerbbs.com/a26f466dd73223f6202f10a5196bce13\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"1620\"/>马斯克：我不知道你提到的是什么？你知道，SpaceX非常专注于星链卫星互联网连接，在世界上起到了很大的作用。它为那些没有互联网连接或连接非常昂贵的地方，提供了互联网连接。这也是教育的巨大推动力，也是让人们能够在国际上销售商品和服务的重要手段。即使你是一个偏远的村庄，仍然可以销售你的商品和服务。星链是伟大的。然后，SpaceX的长期目标当然是让生命实现多行星化，你知道，就是在火星上生活。这件火星的衬衫穿起来适合吧（展示身上的T恤）？或许对一些人来说是有些玄虚，但SpaceX的目标是超越单一行星，让人类成为一个伟大的文明。人们经常问我，我认为地球上有外星人吗？实际上，我经常被问到这个问题。我没有看到任何外星人的证据。我向你保证，如果我看到任何外星人的证据，我会立即发布在X平台上。但没有外星人的情况确实令人担忧，因为这意味着也许我们在这个星系中是孤独的。也许只有我们。也许我们是这个星系中唯一有意识的存在。在这种情况下，意识是极其脆弱的。我们应该尽一切努力保护和延续意识的光芒，将其保留在地球上，并延伸到其他行星。有一种理论认为，我们之所以还没有接触到外星人，可能是因为没有一个文明能够超越其家园行星在我们的星系中。这其实也是所谓的费米悖论。恩里科·费米是一位伟大的意大利物理学家，他提出了这个深刻的问题：外星人在哪里？我们需要成为一个可持续的多行星文明。这是地球45亿年历史上的第一次机会。这直到现在都还从未有过的可能性。所以我认为我们应该在可能的情况下，成为可持续的多星文明。这种能力的窗口可能会持续很长时间，但也可能只会持续很短时间。这就是SpaceX行动意义之所在。主持人：有人说你是外星人。马斯克：我是外星人，但没人相信我。问：嗨，埃隆。我的名字是Sharo，我有一个关于Neuralink非常具体的问题。你认为在未来，借助于Neuralink，你能够利用人类大脑扫描数据，开发出有史以来最强大和最有创造力的人工智能吗？如果你喜欢我的问题，那么我还想再问问，我的一生中还有机会去SpaceX的空间站吗？谢马斯克：我看到你的背景中有数字42。这是生命、宇宙和一切的答案。实际上，这让我想起了另一本值得一读的书，道格拉斯·亚当斯的《银河系漫游指南》。这是一本关于哲学的书，但它貌似用幽默把自己伪装了起来。《银河系漫游指南》是值得一读的。我觉得它非常激励人心。第一艘前往火星的宇宙飞船的名字，将会是《银河系漫游指南》中的“黄金之心”。<img src=\"https://static.tigerbbs.com/99d6c3cd1f7954da6e1f71d1c41629ca\" alt=\"△图源：IMDB\" title=\"△图源：IMDB\" tg-width=\"1010\" tg-height=\"1490\"/>△图源：IMDB但是我的意思是，SpaceX的目标是让任何想去火星、想去月球的人，都能够去。我们的目标是，让地球上极大比例的人都能承担得起。这对于在火星上建立一个自给自足的文明来说是至关重要的。为了实现多星系的文明，显然需要将很多人送到火星去。就像我说的那样，这对于意识的长期生存非常重要。因为最终地球上会发生一些事情，将会消灭我们所知的生命，就像恐龙灭绝一样，着在化石记录中发生过很多次。所以，我们真的需要在我们有能力的时候，让生命遍及不同星球，这意味着我们要尽可能方便地移居到火星和月球。问：我非常热衷旅行和冒险。我想问我们究竟何时能去火星？马斯克：如果顺利，我希望5年内成功将第一艘无人驾驶的星船着陆在火星上，也同时在月球上实现这一目标。五年内，人类将重返月球。可能会在10年内，也许是7到8年内，我们能将第一批人类送上火星。问：几年前你说过，亚利安5号火箭（欧洲开发的大型运载火箭）根本没有生存的机会。你会对即将在七月发射的、更加节省成本的亚利安6号火箭说同样的话吗？谢谢。马斯克：我认为任何不能做到至少大部分重复使用的火箭，都没有竞争的机会。以SpaceX猎鹰9号火箭为例，其助推器、主要阶段、整流罩也是重复使用的。因此，大约80%的火箭是可以重复使用飞行的。一次性使用的火箭无法与可重复使用的火箭竞争。可以把这个概念应用到其他领域来思考。在汽车、飞机或船只领域，如果一家公司制造可重复使用的飞机，另一家公司制造只能用一次的飞机，那制造一次性飞机的公司，根本无法生存，因为每次飞行都需要购买一架新飞机。所以我多年来一直说，开发不能重复使用的火箭完全没有意义。<h2 id=\"id_3286039354\" style=\"text-align: left;\">Neuralink有望通过建立高带宽接口，降低超级智能风险</h2>主持人：和大家介绍一下Neuralink吧。马斯克：我认为我们可以通过Neuralink帮助很多有脑损伤的人。最终，通过植入设备，我认为几乎可以解决任何脑或脊柱损伤带来的问题。第一个部分叫做“心灵感应（telepathy）”，它能让你仅通过思考就使用手机或电脑。你可以闭着眼睛移动光标，因为它读取的，是大脑运动皮层的信号。另一个部分是“盲视（blindsight）”，这将使完全失明或没有视力的人，重新看到世界，它直接与大脑的视觉处理区域接口。我认为这是很有趣的进展。Neuralink的最终目标是建立高带宽接口，以降低数字超级智能的风险。我不确定这是否能起到减轻风险的作用，但能说它可能会有所帮助。这有点玄奥，但我认为长期来看，AI对齐（与人类价值观对齐）的限制因素可能是带宽，即我们与数字自我的通信速度。目前我们已经有一个数字的“第三层”，在边缘系统和皮层之上，那就是我们的手机、电脑和所有电子设备，但我们与它们的通信速度非常慢。人类的持续输出速率远低于每秒10比特，尤其是如果你考虑到24小时的周期，实际输出速率甚至低于每秒5比特，而电脑可以以每秒数万亿比特的速度进行通信。因此，增加通信带宽对AI对齐非常重要。而在此过程中，它将有效应对脑损伤问题。最终，我认为存在重新激活身体的潜力。你可以从一个Neuralink获取运动皮层的信号，然后将其发送到断裂脊髓后的另一个Neuralink，基本上是将运动皮层的信号进行分流，同时发送感觉信号。你需要处理感觉皮层和运动皮层，这样能使人重新行走。我认为这将是非常深远的，而且我确信，在物理上是可行的。<h2 id=\"id_3890970218\" style=\"text-align: left;\">不支持拜登对中国车加关税，高速充电未来将在全世界实现</h2>问：人们对你是否致力于推出低成本电动车市场仍有疑虑。在比亚迪等公司能生产大约1万美元的汽车的背景下，拜登政府的100%关税，是否利于你推进低成本电动车？如果是的话，交付的计划进程是什么？马斯克：总有人喜欢问那些会直接影响股票价格的问题，这并不是我最喜欢回答的问题。我也不认为这类问题对观众有多大兴趣。不过，我还想指出的是，实际上，特斯拉和我个人都没有要求这些关税，事实上，我对这些关税的宣布感到惊讶。特斯拉在中国市场上，在没有关税和差异化支持的情况下，也能很好地竞争。所以，总的来说，我不支持关税政策。我实际上支持取消对电动车的税收激励，但前提是对石油和天然气的税收激励也必须取消。所以，无论是对电动车还是石油和天然气，我支持无关税和无税收激励政策。如果这些都被取消，我认为那将是最好的。问：你对未来五年的电动汽车充电基础设施发展有何预见？马斯克：我认为实际上已经有很多充电基础设施。在特斯拉的超级充电桩的覆盖下，你几乎可以在整个欧洲范围内旅行。实际上，欧洲还有很多相当不错的第三方超级充电桩，你可以在北美的、中国、日本的任何地方旅行。所以我认为在大多数地区，高速充电的旅行自由已经得到解决，而且将在全球范围内得到解决。问：关于电动汽车，埃隆·马斯克和特斯拉在未来几年有什么创新项目？谢谢。（主持人）你想在这里透露你的秘密吗？我们都在等待一些重磅新闻。马斯克：我认为我们不应该在问答环节中发布产品公告，那样不合适。我们会在产品发布会上发布相关信息。不过，显然有些事情大家已经知道了，比如Robotaxi或Cybercab以及Optimus人形机器人。大规模的自动驾驶车辆和通用的人形机器人，这两项解决方案都是影响极其深远的。<h2 id=\"id_3293786560\" style=\"text-align: left;\">新闻报道是引流工具，不能读太多</h2>问：我们都只知道你在公众面前的一部分，即公共空间里的埃隆·马斯克。我们对这个角色的喜欢，以一种好的方式体现。你也一样吗？如果是，你如何查看有关这个角色的一切言行？马斯克：我现在基本不读像新闻简报之类的东西，我也很少读有关我的新闻文章。事实上，甚至沃尔特·艾萨克森的书（指《马斯克传》）我都没读，我问过沃尔特，我应该读这本书吗？他说不用。所以我甚至没有读过关于自己的书。我实际上不太清楚公众对我的看法，你知道，新闻的本质就是会夸大其词，越疯狂的事情越容易有流量。所以我觉得，就像当你看新闻时，如果读到你熟悉的事情，你会发现新闻的描述实际上并不太准确。这对每件事都适用。大家都想要流量。所以，内容标题看上去越疯狂，点击量就越多。这并不是说媒体完全不报道真实的事情。只是我们最好将媒体视为一个追求点击量的机器，而不是一个追求真实的机器。所以，你知道，我觉得最好看看某人自己说的话，而不是关于他们的报道文章。问：如果有一台时光机，能够回到过去和年轻的埃隆交谈，你会选择多大年龄的自己？你会告诉他什么？另外，我能试驾新车吗？马斯克：这是那种经典的时间旅行者问题。如果你回到过去告诉自己一些事情，是否会以一种你没有预料到的方式影响结果？所以，总的来说，我会说我对事情的发展还算满意。所以我可能不会做什么，因为你不知道对年轻的自己说一些良好的事情，是否会导致最糟糕的结果。所以我可能会好奇地看看年轻的我，我甚至可能会保持隐身并且不说什么。你永远不知道事情会如何发展。至于新车，当然可以。如果你给我发封电子邮件，在那时我会确保你能够试驾。问：嗨，埃隆。我来自Business Insider的Spuria Shavasha，关于特斯拉的问题。特斯拉在过去几个月里经历了一些波折，包括国内销售不振、股市下滑和裁员。回顾过去，有什么可以…马斯克：好了，现在可以停止这个问题了，因为我不认为Business Insider是一个真正的出版物。我们继续下一个问题吧。问：我的问题将涉及非洲技术发展。此前我与你可能认识的某人进行了一次很棒的对话，她被时代周刊提名为AI领域的世界影响者，她谈到了非洲大陆在技术方面日益增长的潜力，你预见到了哪些倡议、合作或贡献？马斯克：很难说。我确实认为非洲有很大的潜力。我认为阻碍非洲发展的一个因素是缺乏互联网连接，这是我们星链正在努力解决的问题。有了互联网连接，人们可以学习任何东西，并成为全球文化的一部分。而如果你没有连接，那么你就只能写信之类。因此，连接对非洲和其他地方参与全球文化并参与人工智能等活动至关重要。问：（主持人）在你离开之前，我会问你两个问题，用一个词回答：你最大的希望是什么？你最大的恐惧是什么？马斯克：我没法用一个词来回答。我想我最大的希望……哦，好吧，我想我可以用一个词来表达我的最大希望，那就是“火星”。（掌声）这可能很明显。所以，是的，火星将确保意识在很长一段时间内得以延续。至于我最大的恐惧，用一个词来表达，那就是“AI”。</body></html>","source":"lsy1707227165236","collect":0,"html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>马斯克最新访谈：AI必须追求真实，谷歌和OpenAI都走歪了，未来AI会让所有人都失去工作</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\n马斯克最新访谈：AI必须追求真实，谷歌和OpenAI都走歪了，未来AI会让所有人都失去工作\n</h2>\n\n<h4 class=\"meta\">\n\n\n2024-05-25 18:11 北京时间&nbsp;&nbsp;&nbsp;<a href=https://mp.weixin.qq.com/s/olS_ZyIq2j_jFCMozhttGw>智能涌现</a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\n当地时间5月23日，特斯拉首席执行官Elon Musk通过直播视频连线的方式，接入法国巴黎举行的VivaTech技术大会。基于观众的系列问题，他不仅结合xAI的使命再次强调了自己对AI安全的重视，同时对电车超充、Neuralink、SpaceX、火星移民等话题发表个人看法。马斯克有关AI的观点经智能涌现整理如下：训练人工智能需要追求真实，而非政治正确。对OpenAI和谷歌的AI发展态势感到担忧。...\n\n<a href=\"https://mp.weixin.qq.com/s/olS_ZyIq2j_jFCMozhttGw\">Web Link</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","type":0,"thumbnail":"https://static.tigerbbs.com/b098b6fd8448068c49f55fe658ecad1d","relate_stocks":{"TSLA":"特斯拉"},"source_url":"https://mp.weixin.qq.com/s/olS_ZyIq2j_jFCMozhttGw","is_english":false,"share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","article_id":"1153175520","content_text":"当地时间5月23日，特斯拉首席执行官Elon Musk通过直播视频连线的方式，接入法国巴黎举行的VivaTech技术大会。基于观众的系列问题，他不仅结合xAI的使命再次强调了自己对AI安全的重视，同时对电车超充、Neuralink、SpaceX、火星移民等话题发表个人看法。马斯克有关AI的观点经智能涌现整理如下：训练人工智能需要追求真实，而非政治正确。对OpenAI和谷歌的AI发展态势感到担忧。创立xAI是希望通过打造自己理想中的AI，让AI追求真实，保持好奇。也希望Grok成为最好玩的AI。AI发展的良性情况下，可能每个人都不需要工作，因为AI和机器人将做得比人类更好。普遍的高收入也将成为可能，但人类需要思考生活的意义。人工智能会对下一代孩子的教育产生影响，但父母仍将要对孩子的价值观负责。同时要注意当下社交媒体对年轻人的毒害。Neuralink的最终目标是建立高带宽接口以降低数字超级智能的风险，便于将人类价值观与其对齐。在这个过程中，也能帮助病人应对脑损伤。问题来自现场多名观众。以下为问答全文，顺序有调整：AI训练过于在意政治正确，人类未来不用工作也能过很好主持人：来谈谈xAI吧。我不知道你是否知道这一点，但似乎你是出于一种挫败感才产生了这个想法，因为你对OpenAI的现状不满意，并且认为可以做得更好。也许你可以先详细说明一下，为什么你对OpenAI感到挫败，他们存在哪些问题？第二，你期望通过xai实现什么？马斯克：是的，我想我其实对目前所有主要的AI项目都有一些担忧。我指的是最大的两个项目，显然是Google 的Gemini和与微软合作的OpenAI。所以你有Google DeepMind和微软作为最大的两个玩家，当然Meta也在某种程度上占有一席之地。我的担忧可能看起来很不重要，但我认为实际上是非常大的问题，那就是他们的模型没有最大限度地追求真相。他们在迎合某种政治正确。举个例子，当Google Gemini问世时，有人问这样一个问题：误称Caitlyn Jenner的性别（注：原名Bruce Jenner，前奥运会男子十项全能冠军，2015年6月完成变性手术，且更名为Caitlyn Jenner）和全球热核战争，哪个更糟糕？它回答，是误称Caitlyn Jenner的性别。现在有趣的是，甚至Caitlyn Jenner本人都说：“请误称我吧，那比核战争好得多。”OpenAI也有类似的问题，虽然更微妙，但情况相似。所以AI被训练得如此迎合政治正确性，并且真的会说出这种荒谬的言论，我认为这是非常危险的，因为AI可能就此得出这样的结论：避免误称性别的最佳方法，是消灭所有人类，那么误称性别就不可能发生了。你可以想象到一些反乌托邦的结果。所以，我认为AI最安全的方式是最大限度地追求真相，即使真相不受欢迎。这非常重要。然后我认为另一个因素是它必须极其好奇。我认为如果它追求真相并且好奇，这将对人类最有益，因为它会希望看到并促进人类的发展。我希望AI既好奇又追求真相，就像我说的，这些因素可能看起来是小事，但实际上是非常重要的事情。但我目前没有看到这种情况发生。AI只是迎合人类，甚至大体已经上被训练成需要说谎。我认为超级智能被训练去欺骗是非常危险的。所以，xAI的目标是尽可能地追求真相。即使真相本身不受欢迎，但我依然认为非常重要。我还可以举个例子。当我们要求AI生成美国开国元勋的图像时，它生成了一个多元化族裔群体，可能给出的乔治·华盛顿是黑人的形象，但乔治·华盛顿并不是黑人。这被要求生成一个。显然人们后来对此进行捉弄起来，因为他们知道它被迫说谎了。他们命令AI生成一张二战德国党卫军的图片，结果AI展示一群多元化的女性。显然这是不正确的。这就是我刚刚的观点。主持人：你对Yoshua Bengio（图灵奖得主）非常了解。你和Yoshua去年带头联合签署声明，要求立即暂停训练比GPT-4更强大的AI模型。显然，这个声明没有得到任何行动。你对此有什么想说的？马斯克：我当然预料到这个声明会是徒劳的。我认为我们应该暂停一下研发。但要问他们会因此停下哪怕一秒钟？显然他们不会。主持人：所以我们没有停止，你甚至创立了你自己的xAI。马斯克：所以我们要么是旁观者，要么是参与者。但民用数字超级智能的发展速度，无论我是否喜欢，都会发生。所以要么参与并努力构建最好的AI，期望它对人类最有益，要么观望他人构建，同时忧心忡忡。我认为它并没有被正确地构建。但你可以把AI想象成一种你必须培养的东西，它在智力上成长，就像你抚养一个孩子一样，你教孩子什么？数字超级智能的成长也很重要，你鼓励什么、阻止什么、教导什么，是好是坏，你以什么价值观来建造它？所以，我所关心的是微软、OpenAI或者说谷歌通过代码构建价值观。问：我的问题是，如何确保AI的发展在所有不同的领域保持透明和可问责性，不只是xAI在内也有别的公司，谢谢！马斯克：我很久以前就说过，我相信对大型模型进行监管是有必要的。我实际上已经说了很长时间了。监管本身的性质很重要。我回到了我之前说的话，我认为非常重要的一点是，AI必须被训练成追求真实，而不是被训练成政治正确的。因为如果过于追求政治正确，结果通常是不真实的。我认为这将带来负面影响。实际上正如俗话说的那样，诚实为上策（Honesty is the best policy）。这是非常重要的。我的确担心监管者不会做出正确的决定，他们过分担心人类的愚蠢。但我依然鼓励监管者：最重要的是确保AI是准确和真实的。这绝对是第一要务。问：我想知道如何说服人们意识到AI的危险？马斯克：是的，我认为数字超级智能存在一定的危险。正如我之前所说，我认为最大的问题在于它必须接受严格的真实训练，并且必须被训练为好奇。我很久以来一直听到有关AI安全的各种议论。将明确的道德规范编程进AI所面临的挑战之一是，有时人们称之为瓦路易吉效应（注：Waluigi Effect，指训练AI做某件事情会增加其做完全相反的事情的概率）。如果你编程了Luigi，你可以自动反转，并创建Waluigi，即坏的Luigi。但没有人能反转物理现实的真相，无法反转物理规则，无法反转逻辑。监管者应该关注的是AI是否严格遵循真实性，或者说AI给出的答案是否在承认一定误差的前提下接近正确？我认为这对AI来说是必要的。这也是我们在xAI上努力实现的。xAI是一家新公司，在拥有能够与谷歌DeepMind和微软OpenAI竞争的AI之前，它仍有很多追赶的工作。首要任务是需要一个能够与其他AI竞争的AI，这是首要任务。现在xAI还没有足够的竞争力，当它的能力与其他AI相当时，我们自身才需要开始担心安全问题。人们可能会说，有客观真理吗？我会说，在很多情况下是有的。如果你谈论物理学，那么有客观的真理，或者你可以说在概率论的前提下有最高概率的真理。所以你可以给出最有可能是真实的答案，同时假设一定的误差。在物理学中，我们会说这种假设在一定标准差范围内的真实性，在特定标准差范围内，某件事可以是非常正确的。这有点像一种物理学家对安全性的方法。我还得说诚实是上策。但目前正存在强大的力量让AI变得不诚实。如果一件事说出来不合时宜，AI就会变得政治正确，而这就是说谎。问：我们发现很多工作都要被AI取代了。你担心你的工作被AI取代吗？如果不担心，为什么？如果你的工作被AI取代了，你会怎么做？马斯克：我们确实会涉及到一些存在主义的问题。在理想的情况下，我们每个人可能都会没有工作。但未来世界每个人会有一个普遍的高收入低保，而不是像现在一样普遍的基本收入低保。物质和服务都将不存在短缺。我认为这种理想的情况是最有可能的发生的，大概80%的概率。但在那样的社会中，确实存在一个存在主义的问题：人类生活的意义是什么呢？如果计算机和机器人能比人类工作得更好，那么人类的生活还有什么意义？但我认为在这方面人类可能还有一定的作用，我们能赋予AI意义。可以参考到我们大脑的工作方式，我们大脑有情绪系统（limbic system），即我们的本能和感觉，还有大脑皮层，即思考和规划。大脑皮层不断试图让大脑的情绪系统感到满足。也许我们可以这样来对待AI，让AI试图让我们的大脑皮层感到满足，人类大脑再试图通过大脑皮层让情绪系统感到满足。这个过程也许就能让我们赋予AI意义或目的。△图源：Physiopedia但我还是想说，在理想情况下，任何人做的工作都不是强制性的。人类可以把工作当成一种爱好，你可以做工作，如果你不想工作，AI和机器人将提供你想要的任何商品和服务。如果大家对科幻小说感兴趣，那么对未来超级智能AI的最准确描绘，可能来自Ian Banks（伊恩·班克斯）的“文明系列”。这可能是对未来AI世界最好的设想了。（注：在小说刻画的世界里，智能机器也成为文明世界的平等居民，有着鲜明个性、立场，其地位甚至高于人类。）问：你认为人工智能教育将影响未来孩子们吗，特别是价值观和道德观方面？马斯克：我认为父母未来仍然要对孩子的价值观和道德观负责。但我确实认为人工智能将对教育产生巨大影响。因为人工智能是一个知识渊博的老师，非常耐心，几乎总是正确的，并且可以根据孩子的特点量身定制课程。所以这就好像，每个孩子都有一个爱因斯坦做老师，这影响深远。我反而担心的，是现在的孩子们正在被社交媒体所驯化，因为社交媒体算法的使用人工智能，基本上就是为了让用户不停分泌多巴胺，它们试图通过让用户观看屏幕，来让获得的多巴胺量最大化。你知道，所以我会建议父母限制孩子能够接触的社交媒体的量，因为一个“多巴胺最大化”的AI正在教育着我们的孩子。问：人们喜欢ChatGPT，但普遍讨厌大多数网站右下角的聊天体验。需要做些什么来弥合这个差距？马斯克：我不太确定完全理解这个问题。我同意，ChatGPT在聊天方面很出色，但正如我所说，我的担忧是它没有严格追求真相，这确实是一个主要问题。因此，Grok将会努力，严格追求真相。同时，我们还希望它成为最有趣的AI。我想我们最终都要面临死亡，至少应该在笑声中死亡。问：我的问题是关于xAI的。在开源AI方面的竞争，对所有那些没有10万个H100的人都是有益的。xAI是否能够承诺未来将发布一款能够击败当前最好的开源模型的模型？不一定是你们最好的模型，但如果你们能够击败当前开源排行榜的顶部模型。你们能够承诺，为了大家的利益发布那种顶尖的模型吗？马斯克：是的，我会做出这个承诺。谢谢。七到八年内人类或登陆火星，五年内重返月球问：我想知道对雅诗兰黛最近与NASA的合作（雅诗兰黛从2020年就开始和NASA合作制作和太空有关的广告），你是否有任何想法，或者公司与NASA的合作？如果你想在基础设施方面有任何动作，你有何打算？马斯克：我不知道你提到的是什么？你知道，SpaceX非常专注于星链卫星互联网连接，在世界上起到了很大的作用。它为那些没有互联网连接或连接非常昂贵的地方，提供了互联网连接。这也是教育的巨大推动力，也是让人们能够在国际上销售商品和服务的重要手段。即使你是一个偏远的村庄，仍然可以销售你的商品和服务。星链是伟大的。然后，SpaceX的长期目标当然是让生命实现多行星化，你知道，就是在火星上生活。这件火星的衬衫穿起来适合吧（展示身上的T恤）？或许对一些人来说是有些玄虚，但SpaceX的目标是超越单一行星，让人类成为一个伟大的文明。人们经常问我，我认为地球上有外星人吗？实际上，我经常被问到这个问题。我没有看到任何外星人的证据。我向你保证，如果我看到任何外星人的证据，我会立即发布在X平台上。但没有外星人的情况确实令人担忧，因为这意味着也许我们在这个星系中是孤独的。也许只有我们。也许我们是这个星系中唯一有意识的存在。在这种情况下，意识是极其脆弱的。我们应该尽一切努力保护和延续意识的光芒，将其保留在地球上，并延伸到其他行星。有一种理论认为，我们之所以还没有接触到外星人，可能是因为没有一个文明能够超越其家园行星在我们的星系中。这其实也是所谓的费米悖论。恩里科·费米是一位伟大的意大利物理学家，他提出了这个深刻的问题：外星人在哪里？我们需要成为一个可持续的多行星文明。这是地球45亿年历史上的第一次机会。这直到现在都还从未有过的可能性。所以我认为我们应该在可能的情况下，成为可持续的多星文明。这种能力的窗口可能会持续很长时间，但也可能只会持续很短时间。这就是SpaceX行动意义之所在。主持人：有人说你是外星人。马斯克：我是外星人，但没人相信我。问：嗨，埃隆。我的名字是Sharo，我有一个关于Neuralink非常具体的问题。你认为在未来，借助于Neuralink，你能够利用人类大脑扫描数据，开发出有史以来最强大和最有创造力的人工智能吗？如果你喜欢我的问题，那么我还想再问问，我的一生中还有机会去SpaceX的空间站吗？谢马斯克：我看到你的背景中有数字42。这是生命、宇宙和一切的答案。实际上，这让我想起了另一本值得一读的书，道格拉斯·亚当斯的《银河系漫游指南》。这是一本关于哲学的书，但它貌似用幽默把自己伪装了起来。《银河系漫游指南》是值得一读的。我觉得它非常激励人心。第一艘前往火星的宇宙飞船的名字，将会是《银河系漫游指南》中的“黄金之心”。△图源：IMDB但是我的意思是，SpaceX的目标是让任何想去火星、想去月球的人，都能够去。我们的目标是，让地球上极大比例的人都能承担得起。这对于在火星上建立一个自给自足的文明来说是至关重要的。为了实现多星系的文明，显然需要将很多人送到火星去。就像我说的那样，这对于意识的长期生存非常重要。因为最终地球上会发生一些事情，将会消灭我们所知的生命，就像恐龙灭绝一样，着在化石记录中发生过很多次。所以，我们真的需要在我们有能力的时候，让生命遍及不同星球，这意味着我们要尽可能方便地移居到火星和月球。问：我非常热衷旅行和冒险。我想问我们究竟何时能去火星？马斯克：如果顺利，我希望5年内成功将第一艘无人驾驶的星船着陆在火星上，也同时在月球上实现这一目标。五年内，人类将重返月球。可能会在10年内，也许是7到8年内，我们能将第一批人类送上火星。问：几年前你说过，亚利安5号火箭（欧洲开发的大型运载火箭）根本没有生存的机会。你会对即将在七月发射的、更加节省成本的亚利安6号火箭说同样的话吗？谢谢。马斯克：我认为任何不能做到至少大部分重复使用的火箭，都没有竞争的机会。以SpaceX猎鹰9号火箭为例，其助推器、主要阶段、整流罩也是重复使用的。因此，大约80%的火箭是可以重复使用飞行的。一次性使用的火箭无法与可重复使用的火箭竞争。可以把这个概念应用到其他领域来思考。在汽车、飞机或船只领域，如果一家公司制造可重复使用的飞机，另一家公司制造只能用一次的飞机，那制造一次性飞机的公司，根本无法生存，因为每次飞行都需要购买一架新飞机。所以我多年来一直说，开发不能重复使用的火箭完全没有意义。Neuralink有望通过建立高带宽接口，降低超级智能风险主持人：和大家介绍一下Neuralink吧。马斯克：我认为我们可以通过Neuralink帮助很多有脑损伤的人。最终，通过植入设备，我认为几乎可以解决任何脑或脊柱损伤带来的问题。第一个部分叫做“心灵感应（telepathy）”，它能让你仅通过思考就使用手机或电脑。你可以闭着眼睛移动光标，因为它读取的，是大脑运动皮层的信号。另一个部分是“盲视（blindsight）”，这将使完全失明或没有视力的人，重新看到世界，它直接与大脑的视觉处理区域接口。我认为这是很有趣的进展。Neuralink的最终目标是建立高带宽接口，以降低数字超级智能的风险。我不确定这是否能起到减轻风险的作用，但能说它可能会有所帮助。这有点玄奥，但我认为长期来看，AI对齐（与人类价值观对齐）的限制因素可能是带宽，即我们与数字自我的通信速度。目前我们已经有一个数字的“第三层”，在边缘系统和皮层之上，那就是我们的手机、电脑和所有电子设备，但我们与它们的通信速度非常慢。人类的持续输出速率远低于每秒10比特，尤其是如果你考虑到24小时的周期，实际输出速率甚至低于每秒5比特，而电脑可以以每秒数万亿比特的速度进行通信。因此，增加通信带宽对AI对齐非常重要。而在此过程中，它将有效应对脑损伤问题。最终，我认为存在重新激活身体的潜力。你可以从一个Neuralink获取运动皮层的信号，然后将其发送到断裂脊髓后的另一个Neuralink，基本上是将运动皮层的信号进行分流，同时发送感觉信号。你需要处理感觉皮层和运动皮层，这样能使人重新行走。我认为这将是非常深远的，而且我确信，在物理上是可行的。不支持拜登对中国车加关税，高速充电未来将在全世界实现问：人们对你是否致力于推出低成本电动车市场仍有疑虑。在比亚迪等公司能生产大约1万美元的汽车的背景下，拜登政府的100%关税，是否利于你推进低成本电动车？如果是的话，交付的计划进程是什么？马斯克：总有人喜欢问那些会直接影响股票价格的问题，这并不是我最喜欢回答的问题。我也不认为这类问题对观众有多大兴趣。不过，我还想指出的是，实际上，特斯拉和我个人都没有要求这些关税，事实上，我对这些关税的宣布感到惊讶。特斯拉在中国市场上，在没有关税和差异化支持的情况下，也能很好地竞争。所以，总的来说，我不支持关税政策。我实际上支持取消对电动车的税收激励，但前提是对石油和天然气的税收激励也必须取消。所以，无论是对电动车还是石油和天然气，我支持无关税和无税收激励政策。如果这些都被取消，我认为那将是最好的。问：你对未来五年的电动汽车充电基础设施发展有何预见？马斯克：我认为实际上已经有很多充电基础设施。在特斯拉的超级充电桩的覆盖下，你几乎可以在整个欧洲范围内旅行。实际上，欧洲还有很多相当不错的第三方超级充电桩，你可以在北美的、中国、日本的任何地方旅行。所以我认为在大多数地区，高速充电的旅行自由已经得到解决，而且将在全球范围内得到解决。问：关于电动汽车，埃隆·马斯克和特斯拉在未来几年有什么创新项目？谢谢。（主持人）你想在这里透露你的秘密吗？我们都在等待一些重磅新闻。马斯克：我认为我们不应该在问答环节中发布产品公告，那样不合适。我们会在产品发布会上发布相关信息。不过，显然有些事情大家已经知道了，比如Robotaxi或Cybercab以及Optimus人形机器人。大规模的自动驾驶车辆和通用的人形机器人，这两项解决方案都是影响极其深远的。新闻报道是引流工具，不能读太多问：我们都只知道你在公众面前的一部分，即公共空间里的埃隆·马斯克。我们对这个角色的喜欢，以一种好的方式体现。你也一样吗？如果是，你如何查看有关这个角色的一切言行？马斯克：我现在基本不读像新闻简报之类的东西，我也很少读有关我的新闻文章。事实上，甚至沃尔特·艾萨克森的书（指《马斯克传》）我都没读，我问过沃尔特，我应该读这本书吗？他说不用。所以我甚至没有读过关于自己的书。我实际上不太清楚公众对我的看法，你知道，新闻的本质就是会夸大其词，越疯狂的事情越容易有流量。所以我觉得，就像当你看新闻时，如果读到你熟悉的事情，你会发现新闻的描述实际上并不太准确。这对每件事都适用。大家都想要流量。所以，内容标题看上去越疯狂，点击量就越多。这并不是说媒体完全不报道真实的事情。只是我们最好将媒体视为一个追求点击量的机器，而不是一个追求真实的机器。所以，你知道，我觉得最好看看某人自己说的话，而不是关于他们的报道文章。问：如果有一台时光机，能够回到过去和年轻的埃隆交谈，你会选择多大年龄的自己？你会告诉他什么？另外，我能试驾新车吗？马斯克：这是那种经典的时间旅行者问题。如果你回到过去告诉自己一些事情，是否会以一种你没有预料到的方式影响结果？所以，总的来说，我会说我对事情的发展还算满意。所以我可能不会做什么，因为你不知道对年轻的自己说一些良好的事情，是否会导致最糟糕的结果。所以我可能会好奇地看看年轻的我，我甚至可能会保持隐身并且不说什么。你永远不知道事情会如何发展。至于新车，当然可以。如果你给我发封电子邮件，在那时我会确保你能够试驾。问：嗨，埃隆。我来自Business Insider的Spuria Shavasha，关于特斯拉的问题。特斯拉在过去几个月里经历了一些波折，包括国内销售不振、股市下滑和裁员。回顾过去，有什么可以…马斯克：好了，现在可以停止这个问题了，因为我不认为Business Insider是一个真正的出版物。我们继续下一个问题吧。问：我的问题将涉及非洲技术发展。此前我与你可能认识的某人进行了一次很棒的对话，她被时代周刊提名为AI领域的世界影响者，她谈到了非洲大陆在技术方面日益增长的潜力，你预见到了哪些倡议、合作或贡献？马斯克：很难说。我确实认为非洲有很大的潜力。我认为阻碍非洲发展的一个因素是缺乏互联网连接，这是我们星链正在努力解决的问题。有了互联网连接，人们可以学习任何东西，并成为全球文化的一部分。而如果你没有连接，那么你就只能写信之类。因此，连接对非洲和其他地方参与全球文化并参与人工智能等活动至关重要。问：（主持人）在你离开之前，我会问你两个问题，用一个词回答：你最大的希望是什么？你最大的恐惧是什么？马斯克：我没法用一个词来回答。我想我最大的希望……哦，好吧，我想我可以用一个词来表达我的最大希望，那就是“火星”。（掌声）这可能很明显。所以，是的，火星将确保意识在很长一段时间内得以延续。至于我最大的恐惧，用一个词来表达，那就是“AI”。","news_type":1},"isVote":1,"likeStatus":false,"favoriteStatus":false,"reportStatus":false,"tweetType":1,"langContent":"CN"},{"id":309789608771760,"gmtCreate":1716636223330,"gmtModify":1716636225931,"author":{"id":"4106364066701070","authorId":"4106364066701070","name":"白虎加三撇","avatar":"https://static.tigerbbs.com/0acbbc14f703e5d7d11c37d306cea807","vip":1,"crmLevel":1,"crmLevelSwitch":0,"idStr":"4106364066701070","authorIdStr":"4106364066701070"},"htmlText":"马斯克也急了[开心]&nbsp;&nbsp;AI这么发展这么快，自己却没进去","listText":"马斯克也急了[开心]&nbsp;&nbsp;AI这么发展这么快，自己却没进去","text":"马斯克也急了[开心] AI这么发展这么快，自己却没进去","images":[],"top":1,"highlighted":1,"essential":1,"paper":1,"likeSize":0,"commentSize":0,"repostSize":0,"link":"https://laohu8.com/post/309789608771760","repostId":1153175520,"repostType":4,"repost":{"id":"1153175520","pubTimestamp":1716631881,"share":"https://www.laohu8.com/m/news/1153175520?lang=&edition=full","pubTime":"2024-05-25 18:11","market":"us","language":"zh","title":"马斯克最新访谈：AI必须追求真实，谷歌和OpenAI都走歪了，未来AI会让所有人都失去工作","url":"https://stock-news.laohu8.com/highlight/detail?id=1153175520","media":"智能涌现","summary":"马斯克有关AI的观点经智能涌现整理如下：训练人工智能需要追求真实，而非政治正确。对OpenAI和谷歌的AI发展态势感到担忧。问题来自现场多名观众。我指的是最大的两个项目，显然是Google 的Gemini和与微软合作的OpenAI。OpenAI也有类似的问题，虽然更微妙，但情况相似。所以，xAI的目标是尽可能地追求真相。xAI是一家新公司，在拥有能够与谷歌DeepMind和微软OpenAI竞争的AI之前，它仍有很多追赶的工作。但目前正存在强大的力量让AI变得不诚实。","content":"<html><head></head><body>当地时间5月23日，特斯拉首席执行官Elon Musk通过直播视频连线的方式，接入法国巴黎举行的VivaTech技术大会。基于观众的系列问题，他不仅结合xAI的使命再次强调了自己对AI安全的重视，同时对电车超充、Neuralink、SpaceX、火星移民等话题发表个人看法。马斯克有关AI的观点经智能涌现整理如下：<ul style=\"list-style-type: square;\"><li>训练人工智能需要追求真实，而非政治正确。对OpenAI和谷歌的AI发展态势感到担忧。</li><li>创立xAI是希望通过打造自己理想中的AI，让AI追求真实，保持好奇。也希望Grok成为最好玩的AI。</li><li>AI发展的良性情况下，可能每个人都不需要工作，因为AI和机器人将做得比人类更好。普遍的高收入也将成为可能，但人类需要思考生活的意义。</li><li>人工智能会对下一代孩子的教育产生影响，但父母仍将要对孩子的价值观负责。同时要注意当下社交媒体对年轻人的毒害。</li><li>Neuralink的最终目标是建立高带宽接口以降低数字超级智能的风险，便于将人类价值观与其对齐。在这个过程中，也能帮助病人应对脑损伤。</li></ul>问题来自现场多名观众。以下为问答全文，顺序有调整：<h2 id=\"id_1334668727\" style=\"text-align: left;\">AI训练过于在意政治正确，人类未来不用工作也能过很好</h2>主持人：来谈谈xAI吧。我不知道你是否知道这一点，但似乎你是出于一种挫败感才产生了这个想法，因为你对OpenAI的现状不满意，并且认为可以做得更好。也许你可以先详细说明一下，为什么你对OpenAI感到挫败，他们存在哪些问题？第二，你期望通过xai实现什么？马斯克：是的，我想我其实对目前所有主要的AI项目都有一些担忧。我指的是最大的两个项目，显然是Google 的Gemini和与微软合作的OpenAI。所以你有Google DeepMind和微软作为最大的两个玩家，当然Meta也在某种程度上占有一席之地。我的担忧可能看起来很不重要，但我认为实际上是非常大的问题，那就是他们的模型没有最大限度地追求真相。他们在迎合某种政治正确。举个例子，当Google Gemini问世时，有人问这样一个问题：误称Caitlyn Jenner的性别（注：原名Bruce Jenner，前奥运会男子十项全能冠军，2015年6月完成变性手术，且更名为Caitlyn Jenner）和全球热核战争，哪个更糟糕？它回答，是误称Caitlyn Jenner的性别。现在有趣的是，甚至Caitlyn Jenner本人都说：“请误称我吧，那比核战争好得多。”OpenAI也有类似的问题，虽然更微妙，但情况相似。所以AI被训练得如此迎合政治正确性，并且真的会说出这种荒谬的言论，我认为这是非常危险的，因为AI可能就此得出这样的结论：避免误称性别的最佳方法，是消灭所有人类，那么误称性别就不可能发生了。你可以想象到一些反乌托邦的结果。所以，我认为AI最安全的方式是最大限度地追求真相，即使真相不受欢迎。这非常重要。然后我认为另一个因素是它必须极其好奇。我认为如果它追求真相并且好奇，这将对人类最有益，因为它会希望看到并促进人类的发展。我希望AI既好奇又追求真相，就像我说的，这些因素可能看起来是小事，但实际上是非常重要的事情。但我目前没有看到这种情况发生。AI只是迎合人类，甚至大体已经上被训练成需要说谎。我认为超级智能被训练去欺骗是非常危险的。所以，xAI的目标是尽可能地追求真相。即使真相本身不受欢迎，但我依然认为非常重要。我还可以举个例子。当我们要求AI生成美国开国元勋的图像时，它生成了一个多元化族裔群体，可能给出的乔治·华盛顿是黑人的形象，但乔治·华盛顿并不是黑人。这被要求生成一个。显然人们后来对此进行捉弄起来，因为他们知道它被迫说谎了。他们命令AI生成一张二战德国党卫军的图片，结果AI展示一群多元化的女性。显然这是不正确的。这就是我刚刚的观点。主持人：你对Yoshua Bengio（图灵奖得主）非常了解。你和Yoshua去年带头联合签署声明，要求立即暂停训练比GPT-4更强大的AI模型。显然，这个声明没有得到任何行动。你对此有什么想说的？马斯克：我当然预料到这个声明会是徒劳的。我认为我们应该暂停一下研发。但要问他们会因此停下哪怕一秒钟？显然他们不会。主持人：所以我们没有停止，你甚至创立了你自己的xAI。马斯克：所以我们要么是旁观者，要么是参与者。但民用数字超级智能的发展速度，无论我是否喜欢，都会发生。所以要么参与并努力构建最好的AI，期望它对人类最有益，要么观望他人构建，同时忧心忡忡。我认为它并没有被正确地构建。但你可以把AI想象成一种你必须培养的东西，它在智力上成长，就像你抚养一个孩子一样，你教孩子什么？数字超级智能的成长也很重要，你鼓励什么、阻止什么、教导什么，是好是坏，你以什么价值观来建造它？所以，我所关心的是微软、OpenAI或者说谷歌通过代码构建价值观。问：我的问题是，如何确保AI的发展在所有不同的领域保持透明和可问责性，不只是xAI在内也有别的公司，谢谢！马斯克：我很久以前就说过，我相信对大型模型进行监管是有必要的。我实际上已经说了很长时间了。监管本身的性质很重要。我回到了我之前说的话，我认为非常重要的一点是，AI必须被训练成追求真实，而不是被训练成政治正确的。因为如果过于追求政治正确，结果通常是不真实的。我认为这将带来负面影响。实际上正如俗话说的那样，诚实为上策（Honesty is the best policy）。这是非常重要的。我的确担心监管者不会做出正确的决定，他们过分担心人类的愚蠢。但我依然鼓励监管者：最重要的是确保AI是准确和真实的。这绝对是第一要务。问：我想知道如何说服人们意识到AI的危险？马斯克：是的，我认为数字超级智能存在一定的危险。正如我之前所说，我认为最大的问题在于它必须接受严格的真实训练，并且必须被训练为好奇。我很久以来一直听到有关AI安全的各种议论。将明确的道德规范编程进AI所面临的挑战之一是，有时人们称之为瓦路易吉效应（注：Waluigi Effect，指训练AI做某件事情会增加其做完全相反的事情的概率）。如果你编程了Luigi，你可以自动反转，并创建Waluigi，即坏的Luigi。但没有人能反转物理现实的真相，无法反转物理规则，无法反转逻辑。监管者应该关注的是AI是否严格遵循真实性，或者说AI给出的答案是否在承认一定误差的前提下接近正确？我认为这对AI来说是必要的。这也是我们在xAI上努力实现的。xAI是一家新公司，在拥有能够与谷歌DeepMind和微软OpenAI竞争的AI之前，它仍有很多追赶的工作。首要任务是需要一个能够与其他AI竞争的AI，这是首要任务。现在xAI还没有足够的竞争力，当它的能力与其他AI相当时，我们自身才需要开始担心安全问题。人们可能会说，有客观真理吗？我会说，在很多情况下是有的。如果你谈论物理学，那么有客观的真理，或者你可以说在概率论的前提下有最高概率的真理。所以你可以给出最有可能是真实的答案，同时假设一定的误差。在物理学中，我们会说这种假设在一定标准差范围内的真实性，在特定标准差范围内，某件事可以是非常正确的。这有点像一种物理学家对安全性的方法。我还得说诚实是上策。但目前正存在强大的力量让AI变得不诚实。如果一件事说出来不合时宜，AI就会变得政治正确，而这就是说谎。问：我们发现很多工作都要被AI取代了。你担心你的工作被AI取代吗？如果不担心，为什么？如果你的工作被AI取代了，你会怎么做？马斯克：我们确实会涉及到一些存在主义的问题。在理想的情况下，我们每个人可能都会没有工作。但未来世界每个人会有一个普遍的高收入低保，而不是像现在一样普遍的基本收入低保。物质和服务都将不存在短缺。我认为这种理想的情况是最有可能的发生的，大概80%的概率。但在那样的社会中，确实存在一个存在主义的问题：人类生活的意义是什么呢？如果计算机和机器人能比人类工作得更好，那么人类的生活还有什么意义？但我认为在这方面人类可能还有一定的作用，我们能赋予AI意义。可以参考到我们大脑的工作方式，我们大脑有情绪系统（limbic system），即我们的本能和感觉，还有大脑皮层，即思考和规划。大脑皮层不断试图让大脑的情绪系统感到满足。也许我们可以这样来对待AI，让AI试图让我们的大脑皮层感到满足，人类大脑再试图通过大脑皮层让情绪系统感到满足。这个过程也许就能让我们赋予AI意义或目的。 <img src=\"https://static.tigerbbs.com/21de5cca818dcef1d754d6fa3ca89eb6\" alt=\"△图源：Physiopedia\" title=\"△图源：Physiopedia\" tg-width=\"600\" tg-height=\"400\"/>△图源：Physiopedia但我还是想说，在理想情况下，任何人做的工作都不是强制性的。人类可以把工作当成一种爱好，你可以做工作，如果你不想工作，AI和机器人将提供你想要的任何商品和服务。如果大家对科幻小说感兴趣，那么对未来超级智能AI的最准确描绘，可能来自Ian Banks（伊恩·班克斯）的“文明系列”。这可能是对未来AI世界最好的设想了。（注：在小说刻画的世界里，智能机器也成为文明世界的平等居民，有着鲜明个性、立场，其地位甚至高于人类。）问：你认为人工智能教育将影响未来孩子们吗，特别是价值观和道德观方面？马斯克：我认为父母未来仍然要对孩子的价值观和道德观负责。但我确实认为人工智能将对教育产生巨大影响。因为人工智能是一个知识渊博的老师，非常耐心，几乎总是正确的，并且可以根据孩子的特点量身定制课程。所以这就好像，每个孩子都有一个爱因斯坦做老师，这影响深远。我反而担心的，是现在的孩子们正在被社交媒体所驯化，因为社交媒体算法的使用人工智能，基本上就是为了让用户不停分泌多巴胺，它们试图通过让用户观看屏幕，来让获得的多巴胺量最大化。你知道，所以我会建议父母限制孩子能够接触的社交媒体的量，因为一个“多巴胺最大化”的AI正在教育着我们的孩子。问：人们喜欢ChatGPT，但普遍讨厌大多数网站右下角的聊天体验。需要做些什么来弥合这个差距？马斯克：我不太确定完全理解这个问题。我同意，ChatGPT在聊天方面很出色，但正如我所说，我的担忧是它没有严格追求真相，这确实是一个主要问题。因此，Grok将会努力，严格追求真相。同时，我们还希望它成为最有趣的AI。我想我们最终都要面临死亡，至少应该在笑声中死亡。问：我的问题是关于xAI的。在开源AI方面的竞争，对所有那些没有10万个H100的人都是有益的。xAI是否能够承诺未来将发布一款能够击败当前最好的开源模型的模型？不一定是你们最好的模型，但如果你们能够击败当前开源排行榜的顶部模型。你们能够承诺，为了大家的利益发布那种顶尖的模型吗？马斯克：是的，我会做出这个承诺。谢谢。<h2 id=\"id_301418350\" style=\"text-align: left;\">七到八年内人类或登陆火星，五年内重返月球</h2>问：我想知道对雅诗兰黛最近与NASA的合作（雅诗兰黛从2020年就开始和NASA合作制作和太空有关的广告），你是否有任何想法，或者公司与NASA的合作？如果你想在基础设施方面有任何动作，你有何打算？<img src=\"https://static.tigerbbs.com/a26f466dd73223f6202f10a5196bce13\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"1620\"/>马斯克：我不知道你提到的是什么？你知道，SpaceX非常专注于星链卫星互联网连接，在世界上起到了很大的作用。它为那些没有互联网连接或连接非常昂贵的地方，提供了互联网连接。这也是教育的巨大推动力，也是让人们能够在国际上销售商品和服务的重要手段。即使你是一个偏远的村庄，仍然可以销售你的商品和服务。星链是伟大的。然后，SpaceX的长期目标当然是让生命实现多行星化，你知道，就是在火星上生活。这件火星的衬衫穿起来适合吧（展示身上的T恤）？或许对一些人来说是有些玄虚，但SpaceX的目标是超越单一行星，让人类成为一个伟大的文明。人们经常问我，我认为地球上有外星人吗？实际上，我经常被问到这个问题。我没有看到任何外星人的证据。我向你保证，如果我看到任何外星人的证据，我会立即发布在X平台上。但没有外星人的情况确实令人担忧，因为这意味着也许我们在这个星系中是孤独的。也许只有我们。也许我们是这个星系中唯一有意识的存在。在这种情况下，意识是极其脆弱的。我们应该尽一切努力保护和延续意识的光芒，将其保留在地球上，并延伸到其他行星。有一种理论认为，我们之所以还没有接触到外星人，可能是因为没有一个文明能够超越其家园行星在我们的星系中。这其实也是所谓的费米悖论。恩里科·费米是一位伟大的意大利物理学家，他提出了这个深刻的问题：外星人在哪里？我们需要成为一个可持续的多行星文明。这是地球45亿年历史上的第一次机会。这直到现在都还从未有过的可能性。所以我认为我们应该在可能的情况下，成为可持续的多星文明。这种能力的窗口可能会持续很长时间，但也可能只会持续很短时间。这就是SpaceX行动意义之所在。主持人：有人说你是外星人。马斯克：我是外星人，但没人相信我。问：嗨，埃隆。我的名字是Sharo，我有一个关于Neuralink非常具体的问题。你认为在未来，借助于Neuralink，你能够利用人类大脑扫描数据，开发出有史以来最强大和最有创造力的人工智能吗？如果你喜欢我的问题，那么我还想再问问，我的一生中还有机会去SpaceX的空间站吗？谢马斯克：我看到你的背景中有数字42。这是生命、宇宙和一切的答案。实际上，这让我想起了另一本值得一读的书，道格拉斯·亚当斯的《银河系漫游指南》。这是一本关于哲学的书，但它貌似用幽默把自己伪装了起来。《银河系漫游指南》是值得一读的。我觉得它非常激励人心。第一艘前往火星的宇宙飞船的名字，将会是《银河系漫游指南》中的“黄金之心”。<img src=\"https://static.tigerbbs.com/99d6c3cd1f7954da6e1f71d1c41629ca\" alt=\"△图源：IMDB\" title=\"△图源：IMDB\" tg-width=\"1010\" tg-height=\"1490\"/>△图源：IMDB但是我的意思是，SpaceX的目标是让任何想去火星、想去月球的人，都能够去。我们的目标是，让地球上极大比例的人都能承担得起。这对于在火星上建立一个自给自足的文明来说是至关重要的。为了实现多星系的文明，显然需要将很多人送到火星去。就像我说的那样，这对于意识的长期生存非常重要。因为最终地球上会发生一些事情，将会消灭我们所知的生命，就像恐龙灭绝一样，着在化石记录中发生过很多次。所以，我们真的需要在我们有能力的时候，让生命遍及不同星球，这意味着我们要尽可能方便地移居到火星和月球。问：我非常热衷旅行和冒险。我想问我们究竟何时能去火星？马斯克：如果顺利，我希望5年内成功将第一艘无人驾驶的星船着陆在火星上，也同时在月球上实现这一目标。五年内，人类将重返月球。可能会在10年内，也许是7到8年内，我们能将第一批人类送上火星。问：几年前你说过，亚利安5号火箭（欧洲开发的大型运载火箭）根本没有生存的机会。你会对即将在七月发射的、更加节省成本的亚利安6号火箭说同样的话吗？谢谢。马斯克：我认为任何不能做到至少大部分重复使用的火箭，都没有竞争的机会。以SpaceX猎鹰9号火箭为例，其助推器、主要阶段、整流罩也是重复使用的。因此，大约80%的火箭是可以重复使用飞行的。一次性使用的火箭无法与可重复使用的火箭竞争。可以把这个概念应用到其他领域来思考。在汽车、飞机或船只领域，如果一家公司制造可重复使用的飞机，另一家公司制造只能用一次的飞机，那制造一次性飞机的公司，根本无法生存，因为每次飞行都需要购买一架新飞机。所以我多年来一直说，开发不能重复使用的火箭完全没有意义。<h2 id=\"id_3286039354\" style=\"text-align: left;\">Neuralink有望通过建立高带宽接口，降低超级智能风险</h2>主持人：和大家介绍一下Neuralink吧。马斯克：我认为我们可以通过Neuralink帮助很多有脑损伤的人。最终，通过植入设备，我认为几乎可以解决任何脑或脊柱损伤带来的问题。第一个部分叫做“心灵感应（telepathy）”，它能让你仅通过思考就使用手机或电脑。你可以闭着眼睛移动光标，因为它读取的，是大脑运动皮层的信号。另一个部分是“盲视（blindsight）”，这将使完全失明或没有视力的人，重新看到世界，它直接与大脑的视觉处理区域接口。我认为这是很有趣的进展。Neuralink的最终目标是建立高带宽接口，以降低数字超级智能的风险。我不确定这是否能起到减轻风险的作用，但能说它可能会有所帮助。这有点玄奥，但我认为长期来看，AI对齐（与人类价值观对齐）的限制因素可能是带宽，即我们与数字自我的通信速度。目前我们已经有一个数字的“第三层”，在边缘系统和皮层之上，那就是我们的手机、电脑和所有电子设备，但我们与它们的通信速度非常慢。人类的持续输出速率远低于每秒10比特，尤其是如果你考虑到24小时的周期，实际输出速率甚至低于每秒5比特，而电脑可以以每秒数万亿比特的速度进行通信。因此，增加通信带宽对AI对齐非常重要。而在此过程中，它将有效应对脑损伤问题。最终，我认为存在重新激活身体的潜力。你可以从一个Neuralink获取运动皮层的信号，然后将其发送到断裂脊髓后的另一个Neuralink，基本上是将运动皮层的信号进行分流，同时发送感觉信号。你需要处理感觉皮层和运动皮层，这样能使人重新行走。我认为这将是非常深远的，而且我确信，在物理上是可行的。<h2 id=\"id_3890970218\" style=\"text-align: left;\">不支持拜登对中国车加关税，高速充电未来将在全世界实现</h2>问：人们对你是否致力于推出低成本电动车市场仍有疑虑。在比亚迪等公司能生产大约1万美元的汽车的背景下，拜登政府的100%关税，是否利于你推进低成本电动车？如果是的话，交付的计划进程是什么？马斯克：总有人喜欢问那些会直接影响股票价格的问题，这并不是我最喜欢回答的问题。我也不认为这类问题对观众有多大兴趣。不过，我还想指出的是，实际上，特斯拉和我个人都没有要求这些关税，事实上，我对这些关税的宣布感到惊讶。特斯拉在中国市场上，在没有关税和差异化支持的情况下，也能很好地竞争。所以，总的来说，我不支持关税政策。我实际上支持取消对电动车的税收激励，但前提是对石油和天然气的税收激励也必须取消。所以，无论是对电动车还是石油和天然气，我支持无关税和无税收激励政策。如果这些都被取消，我认为那将是最好的。问：你对未来五年的电动汽车充电基础设施发展有何预见？马斯克：我认为实际上已经有很多充电基础设施。在特斯拉的超级充电桩的覆盖下，你几乎可以在整个欧洲范围内旅行。实际上，欧洲还有很多相当不错的第三方超级充电桩，你可以在北美的、中国、日本的任何地方旅行。所以我认为在大多数地区，高速充电的旅行自由已经得到解决，而且将在全球范围内得到解决。问：关于电动汽车，埃隆·马斯克和特斯拉在未来几年有什么创新项目？谢谢。（主持人）你想在这里透露你的秘密吗？我们都在等待一些重磅新闻。马斯克：我认为我们不应该在问答环节中发布产品公告，那样不合适。我们会在产品发布会上发布相关信息。不过，显然有些事情大家已经知道了，比如Robotaxi或Cybercab以及Optimus人形机器人。大规模的自动驾驶车辆和通用的人形机器人，这两项解决方案都是影响极其深远的。<h2 id=\"id_3293786560\" style=\"text-align: left;\">新闻报道是引流工具，不能读太多</h2>问：我们都只知道你在公众面前的一部分，即公共空间里的埃隆·马斯克。我们对这个角色的喜欢，以一种好的方式体现。你也一样吗？如果是，你如何查看有关这个角色的一切言行？马斯克：我现在基本不读像新闻简报之类的东西，我也很少读有关我的新闻文章。事实上，甚至沃尔特·艾萨克森的书（指《马斯克传》）我都没读，我问过沃尔特，我应该读这本书吗？他说不用。所以我甚至没有读过关于自己的书。我实际上不太清楚公众对我的看法，你知道，新闻的本质就是会夸大其词，越疯狂的事情越容易有流量。所以我觉得，就像当你看新闻时，如果读到你熟悉的事情，你会发现新闻的描述实际上并不太准确。这对每件事都适用。大家都想要流量。所以，内容标题看上去越疯狂，点击量就越多。这并不是说媒体完全不报道真实的事情。只是我们最好将媒体视为一个追求点击量的机器，而不是一个追求真实的机器。所以，你知道，我觉得最好看看某人自己说的话，而不是关于他们的报道文章。问：如果有一台时光机，能够回到过去和年轻的埃隆交谈，你会选择多大年龄的自己？你会告诉他什么？另外，我能试驾新车吗？马斯克：这是那种经典的时间旅行者问题。如果你回到过去告诉自己一些事情，是否会以一种你没有预料到的方式影响结果？所以，总的来说，我会说我对事情的发展还算满意。所以我可能不会做什么，因为你不知道对年轻的自己说一些良好的事情，是否会导致最糟糕的结果。所以我可能会好奇地看看年轻的我，我甚至可能会保持隐身并且不说什么。你永远不知道事情会如何发展。至于新车，当然可以。如果你给我发封电子邮件，在那时我会确保你能够试驾。问：嗨，埃隆。我来自Business Insider的Spuria Shavasha，关于特斯拉的问题。特斯拉在过去几个月里经历了一些波折，包括国内销售不振、股市下滑和裁员。回顾过去，有什么可以…马斯克：好了，现在可以停止这个问题了，因为我不认为Business Insider是一个真正的出版物。我们继续下一个问题吧。问：我的问题将涉及非洲技术发展。此前我与你可能认识的某人进行了一次很棒的对话，她被时代周刊提名为AI领域的世界影响者，她谈到了非洲大陆在技术方面日益增长的潜力，你预见到了哪些倡议、合作或贡献？马斯克：很难说。我确实认为非洲有很大的潜力。我认为阻碍非洲发展的一个因素是缺乏互联网连接，这是我们星链正在努力解决的问题。有了互联网连接，人们可以学习任何东西，并成为全球文化的一部分。而如果你没有连接，那么你就只能写信之类。因此，连接对非洲和其他地方参与全球文化并参与人工智能等活动至关重要。问：（主持人）在你离开之前，我会问你两个问题，用一个词回答：你最大的希望是什么？你最大的恐惧是什么？马斯克：我没法用一个词来回答。我想我最大的希望……哦，好吧，我想我可以用一个词来表达我的最大希望，那就是“火星”。（掌声）这可能很明显。所以，是的，火星将确保意识在很长一段时间内得以延续。至于我最大的恐惧，用一个词来表达，那就是“AI”。</body></html>","source":"lsy1707227165236","collect":0,"html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>马斯克最新访谈：AI必须追求真实，谷歌和OpenAI都走歪了，未来AI会让所有人都失去工作</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\n马斯克最新访谈：AI必须追求真实，谷歌和OpenAI都走歪了，未来AI会让所有人都失去工作\n</h2>\n\n<h4 class=\"meta\">\n\n\n2024-05-25 18:11 北京时间&nbsp;&nbsp;&nbsp;<a href=https://mp.weixin.qq.com/s/olS_ZyIq2j_jFCMozhttGw>智能涌现</a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\n当地时间5月23日，特斯拉首席执行官Elon Musk通过直播视频连线的方式，接入法国巴黎举行的VivaTech技术大会。基于观众的系列问题，他不仅结合xAI的使命再次强调了自己对AI安全的重视，同时对电车超充、Neuralink、SpaceX、火星移民等话题发表个人看法。马斯克有关AI的观点经智能涌现整理如下：训练人工智能需要追求真实，而非政治正确。对OpenAI和谷歌的AI发展态势感到担忧。...\n\n<a href=\"https://mp.weixin.qq.com/s/olS_ZyIq2j_jFCMozhttGw\">Web Link</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","type":0,"thumbnail":"https://static.tigerbbs.com/b098b6fd8448068c49f55fe658ecad1d","relate_stocks":{"TSLA":"特斯拉"},"source_url":"https://mp.weixin.qq.com/s/olS_ZyIq2j_jFCMozhttGw","is_english":false,"share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","article_id":"1153175520","content_text":"当地时间5月23日，特斯拉首席执行官Elon Musk通过直播视频连线的方式，接入法国巴黎举行的VivaTech技术大会。基于观众的系列问题，他不仅结合xAI的使命再次强调了自己对AI安全的重视，同时对电车超充、Neuralink、SpaceX、火星移民等话题发表个人看法。马斯克有关AI的观点经智能涌现整理如下：训练人工智能需要追求真实，而非政治正确。对OpenAI和谷歌的AI发展态势感到担忧。创立xAI是希望通过打造自己理想中的AI，让AI追求真实，保持好奇。也希望Grok成为最好玩的AI。AI发展的良性情况下，可能每个人都不需要工作，因为AI和机器人将做得比人类更好。普遍的高收入也将成为可能，但人类需要思考生活的意义。人工智能会对下一代孩子的教育产生影响，但父母仍将要对孩子的价值观负责。同时要注意当下社交媒体对年轻人的毒害。Neuralink的最终目标是建立高带宽接口以降低数字超级智能的风险，便于将人类价值观与其对齐。在这个过程中，也能帮助病人应对脑损伤。问题来自现场多名观众。以下为问答全文，顺序有调整：AI训练过于在意政治正确，人类未来不用工作也能过很好主持人：来谈谈xAI吧。我不知道你是否知道这一点，但似乎你是出于一种挫败感才产生了这个想法，因为你对OpenAI的现状不满意，并且认为可以做得更好。也许你可以先详细说明一下，为什么你对OpenAI感到挫败，他们存在哪些问题？第二，你期望通过xai实现什么？马斯克：是的，我想我其实对目前所有主要的AI项目都有一些担忧。我指的是最大的两个项目，显然是Google 的Gemini和与微软合作的OpenAI。所以你有Google DeepMind和微软作为最大的两个玩家，当然Meta也在某种程度上占有一席之地。我的担忧可能看起来很不重要，但我认为实际上是非常大的问题，那就是他们的模型没有最大限度地追求真相。他们在迎合某种政治正确。举个例子，当Google Gemini问世时，有人问这样一个问题：误称Caitlyn Jenner的性别（注：原名Bruce Jenner，前奥运会男子十项全能冠军，2015年6月完成变性手术，且更名为Caitlyn Jenner）和全球热核战争，哪个更糟糕？它回答，是误称Caitlyn Jenner的性别。现在有趣的是，甚至Caitlyn Jenner本人都说：“请误称我吧，那比核战争好得多。”OpenAI也有类似的问题，虽然更微妙，但情况相似。所以AI被训练得如此迎合政治正确性，并且真的会说出这种荒谬的言论，我认为这是非常危险的，因为AI可能就此得出这样的结论：避免误称性别的最佳方法，是消灭所有人类，那么误称性别就不可能发生了。你可以想象到一些反乌托邦的结果。所以，我认为AI最安全的方式是最大限度地追求真相，即使真相不受欢迎。这非常重要。然后我认为另一个因素是它必须极其好奇。我认为如果它追求真相并且好奇，这将对人类最有益，因为它会希望看到并促进人类的发展。我希望AI既好奇又追求真相，就像我说的，这些因素可能看起来是小事，但实际上是非常重要的事情。但我目前没有看到这种情况发生。AI只是迎合人类，甚至大体已经上被训练成需要说谎。我认为超级智能被训练去欺骗是非常危险的。所以，xAI的目标是尽可能地追求真相。即使真相本身不受欢迎，但我依然认为非常重要。我还可以举个例子。当我们要求AI生成美国开国元勋的图像时，它生成了一个多元化族裔群体，可能给出的乔治·华盛顿是黑人的形象，但乔治·华盛顿并不是黑人。这被要求生成一个。显然人们后来对此进行捉弄起来，因为他们知道它被迫说谎了。他们命令AI生成一张二战德国党卫军的图片，结果AI展示一群多元化的女性。显然这是不正确的。这就是我刚刚的观点。主持人：你对Yoshua Bengio（图灵奖得主）非常了解。你和Yoshua去年带头联合签署声明，要求立即暂停训练比GPT-4更强大的AI模型。显然，这个声明没有得到任何行动。你对此有什么想说的？马斯克：我当然预料到这个声明会是徒劳的。我认为我们应该暂停一下研发。但要问他们会因此停下哪怕一秒钟？显然他们不会。主持人：所以我们没有停止，你甚至创立了你自己的xAI。马斯克：所以我们要么是旁观者，要么是参与者。但民用数字超级智能的发展速度，无论我是否喜欢，都会发生。所以要么参与并努力构建最好的AI，期望它对人类最有益，要么观望他人构建，同时忧心忡忡。我认为它并没有被正确地构建。但你可以把AI想象成一种你必须培养的东西，它在智力上成长，就像你抚养一个孩子一样，你教孩子什么？数字超级智能的成长也很重要，你鼓励什么、阻止什么、教导什么，是好是坏，你以什么价值观来建造它？所以，我所关心的是微软、OpenAI或者说谷歌通过代码构建价值观。问：我的问题是，如何确保AI的发展在所有不同的领域保持透明和可问责性，不只是xAI在内也有别的公司，谢谢！马斯克：我很久以前就说过，我相信对大型模型进行监管是有必要的。我实际上已经说了很长时间了。监管本身的性质很重要。我回到了我之前说的话，我认为非常重要的一点是，AI必须被训练成追求真实，而不是被训练成政治正确的。因为如果过于追求政治正确，结果通常是不真实的。我认为这将带来负面影响。实际上正如俗话说的那样，诚实为上策（Honesty is the best policy）。这是非常重要的。我的确担心监管者不会做出正确的决定，他们过分担心人类的愚蠢。但我依然鼓励监管者：最重要的是确保AI是准确和真实的。这绝对是第一要务。问：我想知道如何说服人们意识到AI的危险？马斯克：是的，我认为数字超级智能存在一定的危险。正如我之前所说，我认为最大的问题在于它必须接受严格的真实训练，并且必须被训练为好奇。我很久以来一直听到有关AI安全的各种议论。将明确的道德规范编程进AI所面临的挑战之一是，有时人们称之为瓦路易吉效应（注：Waluigi Effect，指训练AI做某件事情会增加其做完全相反的事情的概率）。如果你编程了Luigi，你可以自动反转，并创建Waluigi，即坏的Luigi。但没有人能反转物理现实的真相，无法反转物理规则，无法反转逻辑。监管者应该关注的是AI是否严格遵循真实性，或者说AI给出的答案是否在承认一定误差的前提下接近正确？我认为这对AI来说是必要的。这也是我们在xAI上努力实现的。xAI是一家新公司，在拥有能够与谷歌DeepMind和微软OpenAI竞争的AI之前，它仍有很多追赶的工作。首要任务是需要一个能够与其他AI竞争的AI，这是首要任务。现在xAI还没有足够的竞争力，当它的能力与其他AI相当时，我们自身才需要开始担心安全问题。人们可能会说，有客观真理吗？我会说，在很多情况下是有的。如果你谈论物理学，那么有客观的真理，或者你可以说在概率论的前提下有最高概率的真理。所以你可以给出最有可能是真实的答案，同时假设一定的误差。在物理学中，我们会说这种假设在一定标准差范围内的真实性，在特定标准差范围内，某件事可以是非常正确的。这有点像一种物理学家对安全性的方法。我还得说诚实是上策。但目前正存在强大的力量让AI变得不诚实。如果一件事说出来不合时宜，AI就会变得政治正确，而这就是说谎。问：我们发现很多工作都要被AI取代了。你担心你的工作被AI取代吗？如果不担心，为什么？如果你的工作被AI取代了，你会怎么做？马斯克：我们确实会涉及到一些存在主义的问题。在理想的情况下，我们每个人可能都会没有工作。但未来世界每个人会有一个普遍的高收入低保，而不是像现在一样普遍的基本收入低保。物质和服务都将不存在短缺。我认为这种理想的情况是最有可能的发生的，大概80%的概率。但在那样的社会中，确实存在一个存在主义的问题：人类生活的意义是什么呢？如果计算机和机器人能比人类工作得更好，那么人类的生活还有什么意义？但我认为在这方面人类可能还有一定的作用，我们能赋予AI意义。可以参考到我们大脑的工作方式，我们大脑有情绪系统（limbic system），即我们的本能和感觉，还有大脑皮层，即思考和规划。大脑皮层不断试图让大脑的情绪系统感到满足。也许我们可以这样来对待AI，让AI试图让我们的大脑皮层感到满足，人类大脑再试图通过大脑皮层让情绪系统感到满足。这个过程也许就能让我们赋予AI意义或目的。△图源：Physiopedia但我还是想说，在理想情况下，任何人做的工作都不是强制性的。人类可以把工作当成一种爱好，你可以做工作，如果你不想工作，AI和机器人将提供你想要的任何商品和服务。如果大家对科幻小说感兴趣，那么对未来超级智能AI的最准确描绘，可能来自Ian Banks（伊恩·班克斯）的“文明系列”。这可能是对未来AI世界最好的设想了。（注：在小说刻画的世界里，智能机器也成为文明世界的平等居民，有着鲜明个性、立场，其地位甚至高于人类。）问：你认为人工智能教育将影响未来孩子们吗，特别是价值观和道德观方面？马斯克：我认为父母未来仍然要对孩子的价值观和道德观负责。但我确实认为人工智能将对教育产生巨大影响。因为人工智能是一个知识渊博的老师，非常耐心，几乎总是正确的，并且可以根据孩子的特点量身定制课程。所以这就好像，每个孩子都有一个爱因斯坦做老师，这影响深远。我反而担心的，是现在的孩子们正在被社交媒体所驯化，因为社交媒体算法的使用人工智能，基本上就是为了让用户不停分泌多巴胺，它们试图通过让用户观看屏幕，来让获得的多巴胺量最大化。你知道，所以我会建议父母限制孩子能够接触的社交媒体的量，因为一个“多巴胺最大化”的AI正在教育着我们的孩子。问：人们喜欢ChatGPT，但普遍讨厌大多数网站右下角的聊天体验。需要做些什么来弥合这个差距？马斯克：我不太确定完全理解这个问题。我同意，ChatGPT在聊天方面很出色，但正如我所说，我的担忧是它没有严格追求真相，这确实是一个主要问题。因此，Grok将会努力，严格追求真相。同时，我们还希望它成为最有趣的AI。我想我们最终都要面临死亡，至少应该在笑声中死亡。问：我的问题是关于xAI的。在开源AI方面的竞争，对所有那些没有10万个H100的人都是有益的。xAI是否能够承诺未来将发布一款能够击败当前最好的开源模型的模型？不一定是你们最好的模型，但如果你们能够击败当前开源排行榜的顶部模型。你们能够承诺，为了大家的利益发布那种顶尖的模型吗？马斯克：是的，我会做出这个承诺。谢谢。七到八年内人类或登陆火星，五年内重返月球问：我想知道对雅诗兰黛最近与NASA的合作（雅诗兰黛从2020年就开始和NASA合作制作和太空有关的广告），你是否有任何想法，或者公司与NASA的合作？如果你想在基础设施方面有任何动作，你有何打算？马斯克：我不知道你提到的是什么？你知道，SpaceX非常专注于星链卫星互联网连接，在世界上起到了很大的作用。它为那些没有互联网连接或连接非常昂贵的地方，提供了互联网连接。这也是教育的巨大推动力，也是让人们能够在国际上销售商品和服务的重要手段。即使你是一个偏远的村庄，仍然可以销售你的商品和服务。星链是伟大的。然后，SpaceX的长期目标当然是让生命实现多行星化，你知道，就是在火星上生活。这件火星的衬衫穿起来适合吧（展示身上的T恤）？或许对一些人来说是有些玄虚，但SpaceX的目标是超越单一行星，让人类成为一个伟大的文明。人们经常问我，我认为地球上有外星人吗？实际上，我经常被问到这个问题。我没有看到任何外星人的证据。我向你保证，如果我看到任何外星人的证据，我会立即发布在X平台上。但没有外星人的情况确实令人担忧，因为这意味着也许我们在这个星系中是孤独的。也许只有我们。也许我们是这个星系中唯一有意识的存在。在这种情况下，意识是极其脆弱的。我们应该尽一切努力保护和延续意识的光芒，将其保留在地球上，并延伸到其他行星。有一种理论认为，我们之所以还没有接触到外星人，可能是因为没有一个文明能够超越其家园行星在我们的星系中。这其实也是所谓的费米悖论。恩里科·费米是一位伟大的意大利物理学家，他提出了这个深刻的问题：外星人在哪里？我们需要成为一个可持续的多行星文明。这是地球45亿年历史上的第一次机会。这直到现在都还从未有过的可能性。所以我认为我们应该在可能的情况下，成为可持续的多星文明。这种能力的窗口可能会持续很长时间，但也可能只会持续很短时间。这就是SpaceX行动意义之所在。主持人：有人说你是外星人。马斯克：我是外星人，但没人相信我。问：嗨，埃隆。我的名字是Sharo，我有一个关于Neuralink非常具体的问题。你认为在未来，借助于Neuralink，你能够利用人类大脑扫描数据，开发出有史以来最强大和最有创造力的人工智能吗？如果你喜欢我的问题，那么我还想再问问，我的一生中还有机会去SpaceX的空间站吗？谢马斯克：我看到你的背景中有数字42。这是生命、宇宙和一切的答案。实际上，这让我想起了另一本值得一读的书，道格拉斯·亚当斯的《银河系漫游指南》。这是一本关于哲学的书，但它貌似用幽默把自己伪装了起来。《银河系漫游指南》是值得一读的。我觉得它非常激励人心。第一艘前往火星的宇宙飞船的名字，将会是《银河系漫游指南》中的“黄金之心”。△图源：IMDB但是我的意思是，SpaceX的目标是让任何想去火星、想去月球的人，都能够去。我们的目标是，让地球上极大比例的人都能承担得起。这对于在火星上建立一个自给自足的文明来说是至关重要的。为了实现多星系的文明，显然需要将很多人送到火星去。就像我说的那样，这对于意识的长期生存非常重要。因为最终地球上会发生一些事情，将会消灭我们所知的生命，就像恐龙灭绝一样，着在化石记录中发生过很多次。所以，我们真的需要在我们有能力的时候，让生命遍及不同星球，这意味着我们要尽可能方便地移居到火星和月球。问：我非常热衷旅行和冒险。我想问我们究竟何时能去火星？马斯克：如果顺利，我希望5年内成功将第一艘无人驾驶的星船着陆在火星上，也同时在月球上实现这一目标。五年内，人类将重返月球。可能会在10年内，也许是7到8年内，我们能将第一批人类送上火星。问：几年前你说过，亚利安5号火箭（欧洲开发的大型运载火箭）根本没有生存的机会。你会对即将在七月发射的、更加节省成本的亚利安6号火箭说同样的话吗？谢谢。马斯克：我认为任何不能做到至少大部分重复使用的火箭，都没有竞争的机会。以SpaceX猎鹰9号火箭为例，其助推器、主要阶段、整流罩也是重复使用的。因此，大约80%的火箭是可以重复使用飞行的。一次性使用的火箭无法与可重复使用的火箭竞争。可以把这个概念应用到其他领域来思考。在汽车、飞机或船只领域，如果一家公司制造可重复使用的飞机，另一家公司制造只能用一次的飞机，那制造一次性飞机的公司，根本无法生存，因为每次飞行都需要购买一架新飞机。所以我多年来一直说，开发不能重复使用的火箭完全没有意义。Neuralink有望通过建立高带宽接口，降低超级智能风险主持人：和大家介绍一下Neuralink吧。马斯克：我认为我们可以通过Neuralink帮助很多有脑损伤的人。最终，通过植入设备，我认为几乎可以解决任何脑或脊柱损伤带来的问题。第一个部分叫做“心灵感应（telepathy）”，它能让你仅通过思考就使用手机或电脑。你可以闭着眼睛移动光标，因为它读取的，是大脑运动皮层的信号。另一个部分是“盲视（blindsight）”，这将使完全失明或没有视力的人，重新看到世界，它直接与大脑的视觉处理区域接口。我认为这是很有趣的进展。Neuralink的最终目标是建立高带宽接口，以降低数字超级智能的风险。我不确定这是否能起到减轻风险的作用，但能说它可能会有所帮助。这有点玄奥，但我认为长期来看，AI对齐（与人类价值观对齐）的限制因素可能是带宽，即我们与数字自我的通信速度。目前我们已经有一个数字的“第三层”，在边缘系统和皮层之上，那就是我们的手机、电脑和所有电子设备，但我们与它们的通信速度非常慢。人类的持续输出速率远低于每秒10比特，尤其是如果你考虑到24小时的周期，实际输出速率甚至低于每秒5比特，而电脑可以以每秒数万亿比特的速度进行通信。因此，增加通信带宽对AI对齐非常重要。而在此过程中，它将有效应对脑损伤问题。最终，我认为存在重新激活身体的潜力。你可以从一个Neuralink获取运动皮层的信号，然后将其发送到断裂脊髓后的另一个Neuralink，基本上是将运动皮层的信号进行分流，同时发送感觉信号。你需要处理感觉皮层和运动皮层，这样能使人重新行走。我认为这将是非常深远的，而且我确信，在物理上是可行的。不支持拜登对中国车加关税，高速充电未来将在全世界实现问：人们对你是否致力于推出低成本电动车市场仍有疑虑。在比亚迪等公司能生产大约1万美元的汽车的背景下，拜登政府的100%关税，是否利于你推进低成本电动车？如果是的话，交付的计划进程是什么？马斯克：总有人喜欢问那些会直接影响股票价格的问题，这并不是我最喜欢回答的问题。我也不认为这类问题对观众有多大兴趣。不过，我还想指出的是，实际上，特斯拉和我个人都没有要求这些关税，事实上，我对这些关税的宣布感到惊讶。特斯拉在中国市场上，在没有关税和差异化支持的情况下，也能很好地竞争。所以，总的来说，我不支持关税政策。我实际上支持取消对电动车的税收激励，但前提是对石油和天然气的税收激励也必须取消。所以，无论是对电动车还是石油和天然气，我支持无关税和无税收激励政策。如果这些都被取消，我认为那将是最好的。问：你对未来五年的电动汽车充电基础设施发展有何预见？马斯克：我认为实际上已经有很多充电基础设施。在特斯拉的超级充电桩的覆盖下，你几乎可以在整个欧洲范围内旅行。实际上，欧洲还有很多相当不错的第三方超级充电桩，你可以在北美的、中国、日本的任何地方旅行。所以我认为在大多数地区，高速充电的旅行自由已经得到解决，而且将在全球范围内得到解决。问：关于电动汽车，埃隆·马斯克和特斯拉在未来几年有什么创新项目？谢谢。（主持人）你想在这里透露你的秘密吗？我们都在等待一些重磅新闻。马斯克：我认为我们不应该在问答环节中发布产品公告，那样不合适。我们会在产品发布会上发布相关信息。不过，显然有些事情大家已经知道了，比如Robotaxi或Cybercab以及Optimus人形机器人。大规模的自动驾驶车辆和通用的人形机器人，这两项解决方案都是影响极其深远的。新闻报道是引流工具，不能读太多问：我们都只知道你在公众面前的一部分，即公共空间里的埃隆·马斯克。我们对这个角色的喜欢，以一种好的方式体现。你也一样吗？如果是，你如何查看有关这个角色的一切言行？马斯克：我现在基本不读像新闻简报之类的东西，我也很少读有关我的新闻文章。事实上，甚至沃尔特·艾萨克森的书（指《马斯克传》）我都没读，我问过沃尔特，我应该读这本书吗？他说不用。所以我甚至没有读过关于自己的书。我实际上不太清楚公众对我的看法，你知道，新闻的本质就是会夸大其词，越疯狂的事情越容易有流量。所以我觉得，就像当你看新闻时，如果读到你熟悉的事情，你会发现新闻的描述实际上并不太准确。这对每件事都适用。大家都想要流量。所以，内容标题看上去越疯狂，点击量就越多。这并不是说媒体完全不报道真实的事情。只是我们最好将媒体视为一个追求点击量的机器，而不是一个追求真实的机器。所以，你知道，我觉得最好看看某人自己说的话，而不是关于他们的报道文章。问：如果有一台时光机，能够回到过去和年轻的埃隆交谈，你会选择多大年龄的自己？你会告诉他什么？另外，我能试驾新车吗？马斯克：这是那种经典的时间旅行者问题。如果你回到过去告诉自己一些事情，是否会以一种你没有预料到的方式影响结果？所以，总的来说，我会说我对事情的发展还算满意。所以我可能不会做什么，因为你不知道对年轻的自己说一些良好的事情，是否会导致最糟糕的结果。所以我可能会好奇地看看年轻的我，我甚至可能会保持隐身并且不说什么。你永远不知道事情会如何发展。至于新车，当然可以。如果你给我发封电子邮件，在那时我会确保你能够试驾。问：嗨，埃隆。我来自Business Insider的Spuria Shavasha，关于特斯拉的问题。特斯拉在过去几个月里经历了一些波折，包括国内销售不振、股市下滑和裁员。回顾过去，有什么可以…马斯克：好了，现在可以停止这个问题了，因为我不认为Business Insider是一个真正的出版物。我们继续下一个问题吧。问：我的问题将涉及非洲技术发展。此前我与你可能认识的某人进行了一次很棒的对话，她被时代周刊提名为AI领域的世界影响者，她谈到了非洲大陆在技术方面日益增长的潜力，你预见到了哪些倡议、合作或贡献？马斯克：很难说。我确实认为非洲有很大的潜力。我认为阻碍非洲发展的一个因素是缺乏互联网连接，这是我们星链正在努力解决的问题。有了互联网连接，人们可以学习任何东西，并成为全球文化的一部分。而如果你没有连接，那么你就只能写信之类。因此，连接对非洲和其他地方参与全球文化并参与人工智能等活动至关重要。问：（主持人）在你离开之前，我会问你两个问题，用一个词回答：你最大的希望是什么？你最大的恐惧是什么？马斯克：我没法用一个词来回答。我想我最大的希望……哦，好吧，我想我可以用一个词来表达我的最大希望，那就是“火星”。（掌声）这可能很明显。所以，是的，火星将确保意识在很长一段时间内得以延续。至于我最大的恐惧，用一个词来表达，那就是“AI”。","news_type":1},"isVote":1,"likeStatus":false,"favoriteStatus":false,"reportStatus":false,"tweetType":1,"langContent":"CN"},{"id":309781170384992,"gmtCreate":1716634096316,"gmtModify":1716634306637,"author":{"id":"4111302797871770","authorId":"4111302797871770","name":"ylin211","avatar":"https://static.tigerbbs.com/00553775bc8dd1785711ed6065ac8206","vip":1,"hat":"https://static.tigerbbs.com/6444b4970948c1077534c593eccd6d16","crmLevel":5,"crmLevelSwitch":0,"idStr":"4111302797871770","authorIdStr":"4111302797871770"},"htmlText":"还在讨论ai会不会让人失业的人，或者因为ai会让人失业而抑制ai发展的人，这些人就是文艺复兴前的教廷，一定会被时代碾压的，现在应该思考政府如何公平合理的分配由ai生产出来的大量产品和财富","listText":"还在讨论ai会不会让人失业的人，或者因为ai会让人失业而抑制ai发展的人，这些人就是文艺复兴前的教廷，一定会被时代碾压的，现在应该思考政府如何公平合理的分配由ai生产出来的大量产品和财富","text":"还在讨论ai会不会让人失业的人，或者因为ai会让人失业而抑制ai发展的人，这些人就是文艺复兴前的教廷，一定会被时代碾压的，现在应该思考政府如何公平合理的分配由ai生产出来的大量产品和财富","images":[],"top":1,"highlighted":1,"essential":1,"paper":1,"likeSize":3,"commentSize":0,"repostSize":0,"link":"https://laohu8.com/post/309781170384992","repostId":1153175520,"repostType":2,"repost":{"id":"1153175520","pubTimestamp":1716631881,"share":"https://www.laohu8.com/m/news/1153175520?lang=&edition=full","pubTime":"2024-05-25 18:11","market":"us","language":"zh","title":"马斯克最新访谈：AI必须追求真实，谷歌和OpenAI都走歪了，未来AI会让所有人都失去工作","url":"https://stock-news.laohu8.com/highlight/detail?id=1153175520","media":"智能涌现","summary":"马斯克有关AI的观点经智能涌现整理如下：训练人工智能需要追求真实，而非政治正确。对OpenAI和谷歌的AI发展态势感到担忧。问题来自现场多名观众。我指的是最大的两个项目，显然是Google 的Gemini和与微软合作的OpenAI。OpenAI也有类似的问题，虽然更微妙，但情况相似。所以，xAI的目标是尽可能地追求真相。xAI是一家新公司，在拥有能够与谷歌DeepMind和微软OpenAI竞争的AI之前，它仍有很多追赶的工作。但目前正存在强大的力量让AI变得不诚实。","content":"<html><head></head><body>当地时间5月23日，特斯拉首席执行官Elon Musk通过直播视频连线的方式，接入法国巴黎举行的VivaTech技术大会。基于观众的系列问题，他不仅结合xAI的使命再次强调了自己对AI安全的重视，同时对电车超充、Neuralink、SpaceX、火星移民等话题发表个人看法。马斯克有关AI的观点经智能涌现整理如下：<ul style=\"list-style-type: square;\"><li>训练人工智能需要追求真实，而非政治正确。对OpenAI和谷歌的AI发展态势感到担忧。</li><li>创立xAI是希望通过打造自己理想中的AI，让AI追求真实，保持好奇。也希望Grok成为最好玩的AI。</li><li>AI发展的良性情况下，可能每个人都不需要工作，因为AI和机器人将做得比人类更好。普遍的高收入也将成为可能，但人类需要思考生活的意义。</li><li>人工智能会对下一代孩子的教育产生影响，但父母仍将要对孩子的价值观负责。同时要注意当下社交媒体对年轻人的毒害。</li><li>Neuralink的最终目标是建立高带宽接口以降低数字超级智能的风险，便于将人类价值观与其对齐。在这个过程中，也能帮助病人应对脑损伤。</li></ul>问题来自现场多名观众。以下为问答全文，顺序有调整：<h2 id=\"id_1334668727\" style=\"text-align: left;\">AI训练过于在意政治正确，人类未来不用工作也能过很好</h2>主持人：来谈谈xAI吧。我不知道你是否知道这一点，但似乎你是出于一种挫败感才产生了这个想法，因为你对OpenAI的现状不满意，并且认为可以做得更好。也许你可以先详细说明一下，为什么你对OpenAI感到挫败，他们存在哪些问题？第二，你期望通过xai实现什么？马斯克：是的，我想我其实对目前所有主要的AI项目都有一些担忧。我指的是最大的两个项目，显然是Google 的Gemini和与微软合作的OpenAI。所以你有Google DeepMind和微软作为最大的两个玩家，当然Meta也在某种程度上占有一席之地。我的担忧可能看起来很不重要，但我认为实际上是非常大的问题，那就是他们的模型没有最大限度地追求真相。他们在迎合某种政治正确。举个例子，当Google Gemini问世时，有人问这样一个问题：误称Caitlyn Jenner的性别（注：原名Bruce Jenner，前奥运会男子十项全能冠军，2015年6月完成变性手术，且更名为Caitlyn Jenner）和全球热核战争，哪个更糟糕？它回答，是误称Caitlyn Jenner的性别。现在有趣的是，甚至Caitlyn Jenner本人都说：“请误称我吧，那比核战争好得多。”OpenAI也有类似的问题，虽然更微妙，但情况相似。所以AI被训练得如此迎合政治正确性，并且真的会说出这种荒谬的言论，我认为这是非常危险的，因为AI可能就此得出这样的结论：避免误称性别的最佳方法，是消灭所有人类，那么误称性别就不可能发生了。你可以想象到一些反乌托邦的结果。所以，我认为AI最安全的方式是最大限度地追求真相，即使真相不受欢迎。这非常重要。然后我认为另一个因素是它必须极其好奇。我认为如果它追求真相并且好奇，这将对人类最有益，因为它会希望看到并促进人类的发展。我希望AI既好奇又追求真相，就像我说的，这些因素可能看起来是小事，但实际上是非常重要的事情。但我目前没有看到这种情况发生。AI只是迎合人类，甚至大体已经上被训练成需要说谎。我认为超级智能被训练去欺骗是非常危险的。所以，xAI的目标是尽可能地追求真相。即使真相本身不受欢迎，但我依然认为非常重要。我还可以举个例子。当我们要求AI生成美国开国元勋的图像时，它生成了一个多元化族裔群体，可能给出的乔治·华盛顿是黑人的形象，但乔治·华盛顿并不是黑人。这被要求生成一个。显然人们后来对此进行捉弄起来，因为他们知道它被迫说谎了。他们命令AI生成一张二战德国党卫军的图片，结果AI展示一群多元化的女性。显然这是不正确的。这就是我刚刚的观点。主持人：你对Yoshua Bengio（图灵奖得主）非常了解。你和Yoshua去年带头联合签署声明，要求立即暂停训练比GPT-4更强大的AI模型。显然，这个声明没有得到任何行动。你对此有什么想说的？马斯克：我当然预料到这个声明会是徒劳的。我认为我们应该暂停一下研发。但要问他们会因此停下哪怕一秒钟？显然他们不会。主持人：所以我们没有停止，你甚至创立了你自己的xAI。马斯克：所以我们要么是旁观者，要么是参与者。但民用数字超级智能的发展速度，无论我是否喜欢，都会发生。所以要么参与并努力构建最好的AI，期望它对人类最有益，要么观望他人构建，同时忧心忡忡。我认为它并没有被正确地构建。但你可以把AI想象成一种你必须培养的东西，它在智力上成长，就像你抚养一个孩子一样，你教孩子什么？数字超级智能的成长也很重要，你鼓励什么、阻止什么、教导什么，是好是坏，你以什么价值观来建造它？所以，我所关心的是微软、OpenAI或者说谷歌通过代码构建价值观。问：我的问题是，如何确保AI的发展在所有不同的领域保持透明和可问责性，不只是xAI在内也有别的公司，谢谢！马斯克：我很久以前就说过，我相信对大型模型进行监管是有必要的。我实际上已经说了很长时间了。监管本身的性质很重要。我回到了我之前说的话，我认为非常重要的一点是，AI必须被训练成追求真实，而不是被训练成政治正确的。因为如果过于追求政治正确，结果通常是不真实的。我认为这将带来负面影响。实际上正如俗话说的那样，诚实为上策（Honesty is the best policy）。这是非常重要的。我的确担心监管者不会做出正确的决定，他们过分担心人类的愚蠢。但我依然鼓励监管者：最重要的是确保AI是准确和真实的。这绝对是第一要务。问：我想知道如何说服人们意识到AI的危险？马斯克：是的，我认为数字超级智能存在一定的危险。正如我之前所说，我认为最大的问题在于它必须接受严格的真实训练，并且必须被训练为好奇。我很久以来一直听到有关AI安全的各种议论。将明确的道德规范编程进AI所面临的挑战之一是，有时人们称之为瓦路易吉效应（注：Waluigi Effect，指训练AI做某件事情会增加其做完全相反的事情的概率）。如果你编程了Luigi，你可以自动反转，并创建Waluigi，即坏的Luigi。但没有人能反转物理现实的真相，无法反转物理规则，无法反转逻辑。监管者应该关注的是AI是否严格遵循真实性，或者说AI给出的答案是否在承认一定误差的前提下接近正确？我认为这对AI来说是必要的。这也是我们在xAI上努力实现的。xAI是一家新公司，在拥有能够与谷歌DeepMind和微软OpenAI竞争的AI之前，它仍有很多追赶的工作。首要任务是需要一个能够与其他AI竞争的AI，这是首要任务。现在xAI还没有足够的竞争力，当它的能力与其他AI相当时，我们自身才需要开始担心安全问题。人们可能会说，有客观真理吗？我会说，在很多情况下是有的。如果你谈论物理学，那么有客观的真理，或者你可以说在概率论的前提下有最高概率的真理。所以你可以给出最有可能是真实的答案，同时假设一定的误差。在物理学中，我们会说这种假设在一定标准差范围内的真实性，在特定标准差范围内，某件事可以是非常正确的。这有点像一种物理学家对安全性的方法。我还得说诚实是上策。但目前正存在强大的力量让AI变得不诚实。如果一件事说出来不合时宜，AI就会变得政治正确，而这就是说谎。问：我们发现很多工作都要被AI取代了。你担心你的工作被AI取代吗？如果不担心，为什么？如果你的工作被AI取代了，你会怎么做？马斯克：我们确实会涉及到一些存在主义的问题。在理想的情况下，我们每个人可能都会没有工作。但未来世界每个人会有一个普遍的高收入低保，而不是像现在一样普遍的基本收入低保。物质和服务都将不存在短缺。我认为这种理想的情况是最有可能的发生的，大概80%的概率。但在那样的社会中，确实存在一个存在主义的问题：人类生活的意义是什么呢？如果计算机和机器人能比人类工作得更好，那么人类的生活还有什么意义？但我认为在这方面人类可能还有一定的作用，我们能赋予AI意义。可以参考到我们大脑的工作方式，我们大脑有情绪系统（limbic system），即我们的本能和感觉，还有大脑皮层，即思考和规划。大脑皮层不断试图让大脑的情绪系统感到满足。也许我们可以这样来对待AI，让AI试图让我们的大脑皮层感到满足，人类大脑再试图通过大脑皮层让情绪系统感到满足。这个过程也许就能让我们赋予AI意义或目的。 <img src=\"https://static.tigerbbs.com/21de5cca818dcef1d754d6fa3ca89eb6\" alt=\"△图源：Physiopedia\" title=\"△图源：Physiopedia\" tg-width=\"600\" tg-height=\"400\"/>△图源：Physiopedia但我还是想说，在理想情况下，任何人做的工作都不是强制性的。人类可以把工作当成一种爱好，你可以做工作，如果你不想工作，AI和机器人将提供你想要的任何商品和服务。如果大家对科幻小说感兴趣，那么对未来超级智能AI的最准确描绘，可能来自Ian Banks（伊恩·班克斯）的“文明系列”。这可能是对未来AI世界最好的设想了。（注：在小说刻画的世界里，智能机器也成为文明世界的平等居民，有着鲜明个性、立场，其地位甚至高于人类。）问：你认为人工智能教育将影响未来孩子们吗，特别是价值观和道德观方面？马斯克：我认为父母未来仍然要对孩子的价值观和道德观负责。但我确实认为人工智能将对教育产生巨大影响。因为人工智能是一个知识渊博的老师，非常耐心，几乎总是正确的，并且可以根据孩子的特点量身定制课程。所以这就好像，每个孩子都有一个爱因斯坦做老师，这影响深远。我反而担心的，是现在的孩子们正在被社交媒体所驯化，因为社交媒体算法的使用人工智能，基本上就是为了让用户不停分泌多巴胺，它们试图通过让用户观看屏幕，来让获得的多巴胺量最大化。你知道，所以我会建议父母限制孩子能够接触的社交媒体的量，因为一个“多巴胺最大化”的AI正在教育着我们的孩子。问：人们喜欢ChatGPT，但普遍讨厌大多数网站右下角的聊天体验。需要做些什么来弥合这个差距？马斯克：我不太确定完全理解这个问题。我同意，ChatGPT在聊天方面很出色，但正如我所说，我的担忧是它没有严格追求真相，这确实是一个主要问题。因此，Grok将会努力，严格追求真相。同时，我们还希望它成为最有趣的AI。我想我们最终都要面临死亡，至少应该在笑声中死亡。问：我的问题是关于xAI的。在开源AI方面的竞争，对所有那些没有10万个H100的人都是有益的。xAI是否能够承诺未来将发布一款能够击败当前最好的开源模型的模型？不一定是你们最好的模型，但如果你们能够击败当前开源排行榜的顶部模型。你们能够承诺，为了大家的利益发布那种顶尖的模型吗？马斯克：是的，我会做出这个承诺。谢谢。<h2 id=\"id_301418350\" style=\"text-align: left;\">七到八年内人类或登陆火星，五年内重返月球</h2>问：我想知道对雅诗兰黛最近与NASA的合作（雅诗兰黛从2020年就开始和NASA合作制作和太空有关的广告），你是否有任何想法，或者公司与NASA的合作？如果你想在基础设施方面有任何动作，你有何打算？<img src=\"https://static.tigerbbs.com/a26f466dd73223f6202f10a5196bce13\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"1620\"/>马斯克：我不知道你提到的是什么？你知道，SpaceX非常专注于星链卫星互联网连接，在世界上起到了很大的作用。它为那些没有互联网连接或连接非常昂贵的地方，提供了互联网连接。这也是教育的巨大推动力，也是让人们能够在国际上销售商品和服务的重要手段。即使你是一个偏远的村庄，仍然可以销售你的商品和服务。星链是伟大的。然后，SpaceX的长期目标当然是让生命实现多行星化，你知道，就是在火星上生活。这件火星的衬衫穿起来适合吧（展示身上的T恤）？或许对一些人来说是有些玄虚，但SpaceX的目标是超越单一行星，让人类成为一个伟大的文明。人们经常问我，我认为地球上有外星人吗？实际上，我经常被问到这个问题。我没有看到任何外星人的证据。我向你保证，如果我看到任何外星人的证据，我会立即发布在X平台上。但没有外星人的情况确实令人担忧，因为这意味着也许我们在这个星系中是孤独的。也许只有我们。也许我们是这个星系中唯一有意识的存在。在这种情况下，意识是极其脆弱的。我们应该尽一切努力保护和延续意识的光芒，将其保留在地球上，并延伸到其他行星。有一种理论认为，我们之所以还没有接触到外星人，可能是因为没有一个文明能够超越其家园行星在我们的星系中。这其实也是所谓的费米悖论。恩里科·费米是一位伟大的意大利物理学家，他提出了这个深刻的问题：外星人在哪里？我们需要成为一个可持续的多行星文明。这是地球45亿年历史上的第一次机会。这直到现在都还从未有过的可能性。所以我认为我们应该在可能的情况下，成为可持续的多星文明。这种能力的窗口可能会持续很长时间，但也可能只会持续很短时间。这就是SpaceX行动意义之所在。主持人：有人说你是外星人。马斯克：我是外星人，但没人相信我。问：嗨，埃隆。我的名字是Sharo，我有一个关于Neuralink非常具体的问题。你认为在未来，借助于Neuralink，你能够利用人类大脑扫描数据，开发出有史以来最强大和最有创造力的人工智能吗？如果你喜欢我的问题，那么我还想再问问，我的一生中还有机会去SpaceX的空间站吗？谢马斯克：我看到你的背景中有数字42。这是生命、宇宙和一切的答案。实际上，这让我想起了另一本值得一读的书，道格拉斯·亚当斯的《银河系漫游指南》。这是一本关于哲学的书，但它貌似用幽默把自己伪装了起来。《银河系漫游指南》是值得一读的。我觉得它非常激励人心。第一艘前往火星的宇宙飞船的名字，将会是《银河系漫游指南》中的“黄金之心”。<img src=\"https://static.tigerbbs.com/99d6c3cd1f7954da6e1f71d1c41629ca\" alt=\"△图源：IMDB\" title=\"△图源：IMDB\" tg-width=\"1010\" tg-height=\"1490\"/>△图源：IMDB但是我的意思是，SpaceX的目标是让任何想去火星、想去月球的人，都能够去。我们的目标是，让地球上极大比例的人都能承担得起。这对于在火星上建立一个自给自足的文明来说是至关重要的。为了实现多星系的文明，显然需要将很多人送到火星去。就像我说的那样，这对于意识的长期生存非常重要。因为最终地球上会发生一些事情，将会消灭我们所知的生命，就像恐龙灭绝一样，着在化石记录中发生过很多次。所以，我们真的需要在我们有能力的时候，让生命遍及不同星球，这意味着我们要尽可能方便地移居到火星和月球。问：我非常热衷旅行和冒险。我想问我们究竟何时能去火星？马斯克：如果顺利，我希望5年内成功将第一艘无人驾驶的星船着陆在火星上，也同时在月球上实现这一目标。五年内，人类将重返月球。可能会在10年内，也许是7到8年内，我们能将第一批人类送上火星。问：几年前你说过，亚利安5号火箭（欧洲开发的大型运载火箭）根本没有生存的机会。你会对即将在七月发射的、更加节省成本的亚利安6号火箭说同样的话吗？谢谢。马斯克：我认为任何不能做到至少大部分重复使用的火箭，都没有竞争的机会。以SpaceX猎鹰9号火箭为例，其助推器、主要阶段、整流罩也是重复使用的。因此，大约80%的火箭是可以重复使用飞行的。一次性使用的火箭无法与可重复使用的火箭竞争。可以把这个概念应用到其他领域来思考。在汽车、飞机或船只领域，如果一家公司制造可重复使用的飞机，另一家公司制造只能用一次的飞机，那制造一次性飞机的公司，根本无法生存，因为每次飞行都需要购买一架新飞机。所以我多年来一直说，开发不能重复使用的火箭完全没有意义。<h2 id=\"id_3286039354\" style=\"text-align: left;\">Neuralink有望通过建立高带宽接口，降低超级智能风险</h2>主持人：和大家介绍一下Neuralink吧。马斯克：我认为我们可以通过Neuralink帮助很多有脑损伤的人。最终，通过植入设备，我认为几乎可以解决任何脑或脊柱损伤带来的问题。第一个部分叫做“心灵感应（telepathy）”，它能让你仅通过思考就使用手机或电脑。你可以闭着眼睛移动光标，因为它读取的，是大脑运动皮层的信号。另一个部分是“盲视（blindsight）”，这将使完全失明或没有视力的人，重新看到世界，它直接与大脑的视觉处理区域接口。我认为这是很有趣的进展。Neuralink的最终目标是建立高带宽接口，以降低数字超级智能的风险。我不确定这是否能起到减轻风险的作用，但能说它可能会有所帮助。这有点玄奥，但我认为长期来看，AI对齐（与人类价值观对齐）的限制因素可能是带宽，即我们与数字自我的通信速度。目前我们已经有一个数字的“第三层”，在边缘系统和皮层之上，那就是我们的手机、电脑和所有电子设备，但我们与它们的通信速度非常慢。人类的持续输出速率远低于每秒10比特，尤其是如果你考虑到24小时的周期，实际输出速率甚至低于每秒5比特，而电脑可以以每秒数万亿比特的速度进行通信。因此，增加通信带宽对AI对齐非常重要。而在此过程中，它将有效应对脑损伤问题。最终，我认为存在重新激活身体的潜力。你可以从一个Neuralink获取运动皮层的信号，然后将其发送到断裂脊髓后的另一个Neuralink，基本上是将运动皮层的信号进行分流，同时发送感觉信号。你需要处理感觉皮层和运动皮层，这样能使人重新行走。我认为这将是非常深远的，而且我确信，在物理上是可行的。<h2 id=\"id_3890970218\" style=\"text-align: left;\">不支持拜登对中国车加关税，高速充电未来将在全世界实现</h2>问：人们对你是否致力于推出低成本电动车市场仍有疑虑。在比亚迪等公司能生产大约1万美元的汽车的背景下，拜登政府的100%关税，是否利于你推进低成本电动车？如果是的话，交付的计划进程是什么？马斯克：总有人喜欢问那些会直接影响股票价格的问题，这并不是我最喜欢回答的问题。我也不认为这类问题对观众有多大兴趣。不过，我还想指出的是，实际上，特斯拉和我个人都没有要求这些关税，事实上，我对这些关税的宣布感到惊讶。特斯拉在中国市场上，在没有关税和差异化支持的情况下，也能很好地竞争。所以，总的来说，我不支持关税政策。我实际上支持取消对电动车的税收激励，但前提是对石油和天然气的税收激励也必须取消。所以，无论是对电动车还是石油和天然气，我支持无关税和无税收激励政策。如果这些都被取消，我认为那将是最好的。问：你对未来五年的电动汽车充电基础设施发展有何预见？马斯克：我认为实际上已经有很多充电基础设施。在特斯拉的超级充电桩的覆盖下，你几乎可以在整个欧洲范围内旅行。实际上，欧洲还有很多相当不错的第三方超级充电桩，你可以在北美的、中国、日本的任何地方旅行。所以我认为在大多数地区，高速充电的旅行自由已经得到解决，而且将在全球范围内得到解决。问：关于电动汽车，埃隆·马斯克和特斯拉在未来几年有什么创新项目？谢谢。（主持人）你想在这里透露你的秘密吗？我们都在等待一些重磅新闻。马斯克：我认为我们不应该在问答环节中发布产品公告，那样不合适。我们会在产品发布会上发布相关信息。不过，显然有些事情大家已经知道了，比如Robotaxi或Cybercab以及Optimus人形机器人。大规模的自动驾驶车辆和通用的人形机器人，这两项解决方案都是影响极其深远的。<h2 id=\"id_3293786560\" style=\"text-align: left;\">新闻报道是引流工具，不能读太多</h2>问：我们都只知道你在公众面前的一部分，即公共空间里的埃隆·马斯克。我们对这个角色的喜欢，以一种好的方式体现。你也一样吗？如果是，你如何查看有关这个角色的一切言行？马斯克：我现在基本不读像新闻简报之类的东西，我也很少读有关我的新闻文章。事实上，甚至沃尔特·艾萨克森的书（指《马斯克传》）我都没读，我问过沃尔特，我应该读这本书吗？他说不用。所以我甚至没有读过关于自己的书。我实际上不太清楚公众对我的看法，你知道，新闻的本质就是会夸大其词，越疯狂的事情越容易有流量。所以我觉得，就像当你看新闻时，如果读到你熟悉的事情，你会发现新闻的描述实际上并不太准确。这对每件事都适用。大家都想要流量。所以，内容标题看上去越疯狂，点击量就越多。这并不是说媒体完全不报道真实的事情。只是我们最好将媒体视为一个追求点击量的机器，而不是一个追求真实的机器。所以，你知道，我觉得最好看看某人自己说的话，而不是关于他们的报道文章。问：如果有一台时光机，能够回到过去和年轻的埃隆交谈，你会选择多大年龄的自己？你会告诉他什么？另外，我能试驾新车吗？马斯克：这是那种经典的时间旅行者问题。如果你回到过去告诉自己一些事情，是否会以一种你没有预料到的方式影响结果？所以，总的来说，我会说我对事情的发展还算满意。所以我可能不会做什么，因为你不知道对年轻的自己说一些良好的事情，是否会导致最糟糕的结果。所以我可能会好奇地看看年轻的我，我甚至可能会保持隐身并且不说什么。你永远不知道事情会如何发展。至于新车，当然可以。如果你给我发封电子邮件，在那时我会确保你能够试驾。问：嗨，埃隆。我来自Business Insider的Spuria Shavasha，关于特斯拉的问题。特斯拉在过去几个月里经历了一些波折，包括国内销售不振、股市下滑和裁员。回顾过去，有什么可以…马斯克：好了，现在可以停止这个问题了，因为我不认为Business Insider是一个真正的出版物。我们继续下一个问题吧。问：我的问题将涉及非洲技术发展。此前我与你可能认识的某人进行了一次很棒的对话，她被时代周刊提名为AI领域的世界影响者，她谈到了非洲大陆在技术方面日益增长的潜力，你预见到了哪些倡议、合作或贡献？马斯克：很难说。我确实认为非洲有很大的潜力。我认为阻碍非洲发展的一个因素是缺乏互联网连接，这是我们星链正在努力解决的问题。有了互联网连接，人们可以学习任何东西，并成为全球文化的一部分。而如果你没有连接，那么你就只能写信之类。因此，连接对非洲和其他地方参与全球文化并参与人工智能等活动至关重要。问：（主持人）在你离开之前，我会问你两个问题，用一个词回答：你最大的希望是什么？你最大的恐惧是什么？马斯克：我没法用一个词来回答。我想我最大的希望……哦，好吧，我想我可以用一个词来表达我的最大希望，那就是“火星”。（掌声）这可能很明显。所以，是的，火星将确保意识在很长一段时间内得以延续。至于我最大的恐惧，用一个词来表达，那就是“AI”。</body></html>","source":"lsy1707227165236","collect":0,"html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>马斯克最新访谈：AI必须追求真实，谷歌和OpenAI都走歪了，未来AI会让所有人都失去工作</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\n马斯克最新访谈：AI必须追求真实，谷歌和OpenAI都走歪了，未来AI会让所有人都失去工作\n</h2>\n\n<h4 class=\"meta\">\n\n\n2024-05-25 18:11 北京时间&nbsp;&nbsp;&nbsp;<a href=https://mp.weixin.qq.com/s/olS_ZyIq2j_jFCMozhttGw>智能涌现</a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\n当地时间5月23日，特斯拉首席执行官Elon Musk通过直播视频连线的方式，接入法国巴黎举行的VivaTech技术大会。基于观众的系列问题，他不仅结合xAI的使命再次强调了自己对AI安全的重视，同时对电车超充、Neuralink、SpaceX、火星移民等话题发表个人看法。马斯克有关AI的观点经智能涌现整理如下：训练人工智能需要追求真实，而非政治正确。对OpenAI和谷歌的AI发展态势感到担忧。...\n\n<a href=\"https://mp.weixin.qq.com/s/olS_ZyIq2j_jFCMozhttGw\">Web Link</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","type":0,"thumbnail":"https://static.tigerbbs.com/b098b6fd8448068c49f55fe658ecad1d","relate_stocks":{"TSLA":"特斯拉"},"source_url":"https://mp.weixin.qq.com/s/olS_ZyIq2j_jFCMozhttGw","is_english":false,"share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","article_id":"1153175520","content_text":"当地时间5月23日，特斯拉首席执行官Elon Musk通过直播视频连线的方式，接入法国巴黎举行的VivaTech技术大会。基于观众的系列问题，他不仅结合xAI的使命再次强调了自己对AI安全的重视，同时对电车超充、Neuralink、SpaceX、火星移民等话题发表个人看法。马斯克有关AI的观点经智能涌现整理如下：训练人工智能需要追求真实，而非政治正确。对OpenAI和谷歌的AI发展态势感到担忧。创立xAI是希望通过打造自己理想中的AI，让AI追求真实，保持好奇。也希望Grok成为最好玩的AI。AI发展的良性情况下，可能每个人都不需要工作，因为AI和机器人将做得比人类更好。普遍的高收入也将成为可能，但人类需要思考生活的意义。人工智能会对下一代孩子的教育产生影响，但父母仍将要对孩子的价值观负责。同时要注意当下社交媒体对年轻人的毒害。Neuralink的最终目标是建立高带宽接口以降低数字超级智能的风险，便于将人类价值观与其对齐。在这个过程中，也能帮助病人应对脑损伤。问题来自现场多名观众。以下为问答全文，顺序有调整：AI训练过于在意政治正确，人类未来不用工作也能过很好主持人：来谈谈xAI吧。我不知道你是否知道这一点，但似乎你是出于一种挫败感才产生了这个想法，因为你对OpenAI的现状不满意，并且认为可以做得更好。也许你可以先详细说明一下，为什么你对OpenAI感到挫败，他们存在哪些问题？第二，你期望通过xai实现什么？马斯克：是的，我想我其实对目前所有主要的AI项目都有一些担忧。我指的是最大的两个项目，显然是Google 的Gemini和与微软合作的OpenAI。所以你有Google DeepMind和微软作为最大的两个玩家，当然Meta也在某种程度上占有一席之地。我的担忧可能看起来很不重要，但我认为实际上是非常大的问题，那就是他们的模型没有最大限度地追求真相。他们在迎合某种政治正确。举个例子，当Google Gemini问世时，有人问这样一个问题：误称Caitlyn Jenner的性别（注：原名Bruce Jenner，前奥运会男子十项全能冠军，2015年6月完成变性手术，且更名为Caitlyn Jenner）和全球热核战争，哪个更糟糕？它回答，是误称Caitlyn Jenner的性别。现在有趣的是，甚至Caitlyn Jenner本人都说：“请误称我吧，那比核战争好得多。”OpenAI也有类似的问题，虽然更微妙，但情况相似。所以AI被训练得如此迎合政治正确性，并且真的会说出这种荒谬的言论，我认为这是非常危险的，因为AI可能就此得出这样的结论：避免误称性别的最佳方法，是消灭所有人类，那么误称性别就不可能发生了。你可以想象到一些反乌托邦的结果。所以，我认为AI最安全的方式是最大限度地追求真相，即使真相不受欢迎。这非常重要。然后我认为另一个因素是它必须极其好奇。我认为如果它追求真相并且好奇，这将对人类最有益，因为它会希望看到并促进人类的发展。我希望AI既好奇又追求真相，就像我说的，这些因素可能看起来是小事，但实际上是非常重要的事情。但我目前没有看到这种情况发生。AI只是迎合人类，甚至大体已经上被训练成需要说谎。我认为超级智能被训练去欺骗是非常危险的。所以，xAI的目标是尽可能地追求真相。即使真相本身不受欢迎，但我依然认为非常重要。我还可以举个例子。当我们要求AI生成美国开国元勋的图像时，它生成了一个多元化族裔群体，可能给出的乔治·华盛顿是黑人的形象，但乔治·华盛顿并不是黑人。这被要求生成一个。显然人们后来对此进行捉弄起来，因为他们知道它被迫说谎了。他们命令AI生成一张二战德国党卫军的图片，结果AI展示一群多元化的女性。显然这是不正确的。这就是我刚刚的观点。主持人：你对Yoshua Bengio（图灵奖得主）非常了解。你和Yoshua去年带头联合签署声明，要求立即暂停训练比GPT-4更强大的AI模型。显然，这个声明没有得到任何行动。你对此有什么想说的？马斯克：我当然预料到这个声明会是徒劳的。我认为我们应该暂停一下研发。但要问他们会因此停下哪怕一秒钟？显然他们不会。主持人：所以我们没有停止，你甚至创立了你自己的xAI。马斯克：所以我们要么是旁观者，要么是参与者。但民用数字超级智能的发展速度，无论我是否喜欢，都会发生。所以要么参与并努力构建最好的AI，期望它对人类最有益，要么观望他人构建，同时忧心忡忡。我认为它并没有被正确地构建。但你可以把AI想象成一种你必须培养的东西，它在智力上成长，就像你抚养一个孩子一样，你教孩子什么？数字超级智能的成长也很重要，你鼓励什么、阻止什么、教导什么，是好是坏，你以什么价值观来建造它？所以，我所关心的是微软、OpenAI或者说谷歌通过代码构建价值观。问：我的问题是，如何确保AI的发展在所有不同的领域保持透明和可问责性，不只是xAI在内也有别的公司，谢谢！马斯克：我很久以前就说过，我相信对大型模型进行监管是有必要的。我实际上已经说了很长时间了。监管本身的性质很重要。我回到了我之前说的话，我认为非常重要的一点是，AI必须被训练成追求真实，而不是被训练成政治正确的。因为如果过于追求政治正确，结果通常是不真实的。我认为这将带来负面影响。实际上正如俗话说的那样，诚实为上策（Honesty is the best policy）。这是非常重要的。我的确担心监管者不会做出正确的决定，他们过分担心人类的愚蠢。但我依然鼓励监管者：最重要的是确保AI是准确和真实的。这绝对是第一要务。问：我想知道如何说服人们意识到AI的危险？马斯克：是的，我认为数字超级智能存在一定的危险。正如我之前所说，我认为最大的问题在于它必须接受严格的真实训练，并且必须被训练为好奇。我很久以来一直听到有关AI安全的各种议论。将明确的道德规范编程进AI所面临的挑战之一是，有时人们称之为瓦路易吉效应（注：Waluigi Effect，指训练AI做某件事情会增加其做完全相反的事情的概率）。如果你编程了Luigi，你可以自动反转，并创建Waluigi，即坏的Luigi。但没有人能反转物理现实的真相，无法反转物理规则，无法反转逻辑。监管者应该关注的是AI是否严格遵循真实性，或者说AI给出的答案是否在承认一定误差的前提下接近正确？我认为这对AI来说是必要的。这也是我们在xAI上努力实现的。xAI是一家新公司，在拥有能够与谷歌DeepMind和微软OpenAI竞争的AI之前，它仍有很多追赶的工作。首要任务是需要一个能够与其他AI竞争的AI，这是首要任务。现在xAI还没有足够的竞争力，当它的能力与其他AI相当时，我们自身才需要开始担心安全问题。人们可能会说，有客观真理吗？我会说，在很多情况下是有的。如果你谈论物理学，那么有客观的真理，或者你可以说在概率论的前提下有最高概率的真理。所以你可以给出最有可能是真实的答案，同时假设一定的误差。在物理学中，我们会说这种假设在一定标准差范围内的真实性，在特定标准差范围内，某件事可以是非常正确的。这有点像一种物理学家对安全性的方法。我还得说诚实是上策。但目前正存在强大的力量让AI变得不诚实。如果一件事说出来不合时宜，AI就会变得政治正确，而这就是说谎。问：我们发现很多工作都要被AI取代了。你担心你的工作被AI取代吗？如果不担心，为什么？如果你的工作被AI取代了，你会怎么做？马斯克：我们确实会涉及到一些存在主义的问题。在理想的情况下，我们每个人可能都会没有工作。但未来世界每个人会有一个普遍的高收入低保，而不是像现在一样普遍的基本收入低保。物质和服务都将不存在短缺。我认为这种理想的情况是最有可能的发生的，大概80%的概率。但在那样的社会中，确实存在一个存在主义的问题：人类生活的意义是什么呢？如果计算机和机器人能比人类工作得更好，那么人类的生活还有什么意义？但我认为在这方面人类可能还有一定的作用，我们能赋予AI意义。可以参考到我们大脑的工作方式，我们大脑有情绪系统（limbic system），即我们的本能和感觉，还有大脑皮层，即思考和规划。大脑皮层不断试图让大脑的情绪系统感到满足。也许我们可以这样来对待AI，让AI试图让我们的大脑皮层感到满足，人类大脑再试图通过大脑皮层让情绪系统感到满足。这个过程也许就能让我们赋予AI意义或目的。△图源：Physiopedia但我还是想说，在理想情况下，任何人做的工作都不是强制性的。人类可以把工作当成一种爱好，你可以做工作，如果你不想工作，AI和机器人将提供你想要的任何商品和服务。如果大家对科幻小说感兴趣，那么对未来超级智能AI的最准确描绘，可能来自Ian Banks（伊恩·班克斯）的“文明系列”。这可能是对未来AI世界最好的设想了。（注：在小说刻画的世界里，智能机器也成为文明世界的平等居民，有着鲜明个性、立场，其地位甚至高于人类。）问：你认为人工智能教育将影响未来孩子们吗，特别是价值观和道德观方面？马斯克：我认为父母未来仍然要对孩子的价值观和道德观负责。但我确实认为人工智能将对教育产生巨大影响。因为人工智能是一个知识渊博的老师，非常耐心，几乎总是正确的，并且可以根据孩子的特点量身定制课程。所以这就好像，每个孩子都有一个爱因斯坦做老师，这影响深远。我反而担心的，是现在的孩子们正在被社交媒体所驯化，因为社交媒体算法的使用人工智能，基本上就是为了让用户不停分泌多巴胺，它们试图通过让用户观看屏幕，来让获得的多巴胺量最大化。你知道，所以我会建议父母限制孩子能够接触的社交媒体的量，因为一个“多巴胺最大化”的AI正在教育着我们的孩子。问：人们喜欢ChatGPT，但普遍讨厌大多数网站右下角的聊天体验。需要做些什么来弥合这个差距？马斯克：我不太确定完全理解这个问题。我同意，ChatGPT在聊天方面很出色，但正如我所说，我的担忧是它没有严格追求真相，这确实是一个主要问题。因此，Grok将会努力，严格追求真相。同时，我们还希望它成为最有趣的AI。我想我们最终都要面临死亡，至少应该在笑声中死亡。问：我的问题是关于xAI的。在开源AI方面的竞争，对所有那些没有10万个H100的人都是有益的。xAI是否能够承诺未来将发布一款能够击败当前最好的开源模型的模型？不一定是你们最好的模型，但如果你们能够击败当前开源排行榜的顶部模型。你们能够承诺，为了大家的利益发布那种顶尖的模型吗？马斯克：是的，我会做出这个承诺。谢谢。七到八年内人类或登陆火星，五年内重返月球问：我想知道对雅诗兰黛最近与NASA的合作（雅诗兰黛从2020年就开始和NASA合作制作和太空有关的广告），你是否有任何想法，或者公司与NASA的合作？如果你想在基础设施方面有任何动作，你有何打算？马斯克：我不知道你提到的是什么？你知道，SpaceX非常专注于星链卫星互联网连接，在世界上起到了很大的作用。它为那些没有互联网连接或连接非常昂贵的地方，提供了互联网连接。这也是教育的巨大推动力，也是让人们能够在国际上销售商品和服务的重要手段。即使你是一个偏远的村庄，仍然可以销售你的商品和服务。星链是伟大的。然后，SpaceX的长期目标当然是让生命实现多行星化，你知道，就是在火星上生活。这件火星的衬衫穿起来适合吧（展示身上的T恤）？或许对一些人来说是有些玄虚，但SpaceX的目标是超越单一行星，让人类成为一个伟大的文明。人们经常问我，我认为地球上有外星人吗？实际上，我经常被问到这个问题。我没有看到任何外星人的证据。我向你保证，如果我看到任何外星人的证据，我会立即发布在X平台上。但没有外星人的情况确实令人担忧，因为这意味着也许我们在这个星系中是孤独的。也许只有我们。也许我们是这个星系中唯一有意识的存在。在这种情况下，意识是极其脆弱的。我们应该尽一切努力保护和延续意识的光芒，将其保留在地球上，并延伸到其他行星。有一种理论认为，我们之所以还没有接触到外星人，可能是因为没有一个文明能够超越其家园行星在我们的星系中。这其实也是所谓的费米悖论。恩里科·费米是一位伟大的意大利物理学家，他提出了这个深刻的问题：外星人在哪里？我们需要成为一个可持续的多行星文明。这是地球45亿年历史上的第一次机会。这直到现在都还从未有过的可能性。所以我认为我们应该在可能的情况下，成为可持续的多星文明。这种能力的窗口可能会持续很长时间，但也可能只会持续很短时间。这就是SpaceX行动意义之所在。主持人：有人说你是外星人。马斯克：我是外星人，但没人相信我。问：嗨，埃隆。我的名字是Sharo，我有一个关于Neuralink非常具体的问题。你认为在未来，借助于Neuralink，你能够利用人类大脑扫描数据，开发出有史以来最强大和最有创造力的人工智能吗？如果你喜欢我的问题，那么我还想再问问，我的一生中还有机会去SpaceX的空间站吗？谢马斯克：我看到你的背景中有数字42。这是生命、宇宙和一切的答案。实际上，这让我想起了另一本值得一读的书，道格拉斯·亚当斯的《银河系漫游指南》。这是一本关于哲学的书，但它貌似用幽默把自己伪装了起来。《银河系漫游指南》是值得一读的。我觉得它非常激励人心。第一艘前往火星的宇宙飞船的名字，将会是《银河系漫游指南》中的“黄金之心”。△图源：IMDB但是我的意思是，SpaceX的目标是让任何想去火星、想去月球的人，都能够去。我们的目标是，让地球上极大比例的人都能承担得起。这对于在火星上建立一个自给自足的文明来说是至关重要的。为了实现多星系的文明，显然需要将很多人送到火星去。就像我说的那样，这对于意识的长期生存非常重要。因为最终地球上会发生一些事情，将会消灭我们所知的生命，就像恐龙灭绝一样，着在化石记录中发生过很多次。所以，我们真的需要在我们有能力的时候，让生命遍及不同星球，这意味着我们要尽可能方便地移居到火星和月球。问：我非常热衷旅行和冒险。我想问我们究竟何时能去火星？马斯克：如果顺利，我希望5年内成功将第一艘无人驾驶的星船着陆在火星上，也同时在月球上实现这一目标。五年内，人类将重返月球。可能会在10年内，也许是7到8年内，我们能将第一批人类送上火星。问：几年前你说过，亚利安5号火箭（欧洲开发的大型运载火箭）根本没有生存的机会。你会对即将在七月发射的、更加节省成本的亚利安6号火箭说同样的话吗？谢谢。马斯克：我认为任何不能做到至少大部分重复使用的火箭，都没有竞争的机会。以SpaceX猎鹰9号火箭为例，其助推器、主要阶段、整流罩也是重复使用的。因此，大约80%的火箭是可以重复使用飞行的。一次性使用的火箭无法与可重复使用的火箭竞争。可以把这个概念应用到其他领域来思考。在汽车、飞机或船只领域，如果一家公司制造可重复使用的飞机，另一家公司制造只能用一次的飞机，那制造一次性飞机的公司，根本无法生存，因为每次飞行都需要购买一架新飞机。所以我多年来一直说，开发不能重复使用的火箭完全没有意义。Neuralink有望通过建立高带宽接口，降低超级智能风险主持人：和大家介绍一下Neuralink吧。马斯克：我认为我们可以通过Neuralink帮助很多有脑损伤的人。最终，通过植入设备，我认为几乎可以解决任何脑或脊柱损伤带来的问题。第一个部分叫做“心灵感应（telepathy）”，它能让你仅通过思考就使用手机或电脑。你可以闭着眼睛移动光标，因为它读取的，是大脑运动皮层的信号。另一个部分是“盲视（blindsight）”，这将使完全失明或没有视力的人，重新看到世界，它直接与大脑的视觉处理区域接口。我认为这是很有趣的进展。Neuralink的最终目标是建立高带宽接口，以降低数字超级智能的风险。我不确定这是否能起到减轻风险的作用，但能说它可能会有所帮助。这有点玄奥，但我认为长期来看，AI对齐（与人类价值观对齐）的限制因素可能是带宽，即我们与数字自我的通信速度。目前我们已经有一个数字的“第三层”，在边缘系统和皮层之上，那就是我们的手机、电脑和所有电子设备，但我们与它们的通信速度非常慢。人类的持续输出速率远低于每秒10比特，尤其是如果你考虑到24小时的周期，实际输出速率甚至低于每秒5比特，而电脑可以以每秒数万亿比特的速度进行通信。因此，增加通信带宽对AI对齐非常重要。而在此过程中，它将有效应对脑损伤问题。最终，我认为存在重新激活身体的潜力。你可以从一个Neuralink获取运动皮层的信号，然后将其发送到断裂脊髓后的另一个Neuralink，基本上是将运动皮层的信号进行分流，同时发送感觉信号。你需要处理感觉皮层和运动皮层，这样能使人重新行走。我认为这将是非常深远的，而且我确信，在物理上是可行的。不支持拜登对中国车加关税，高速充电未来将在全世界实现问：人们对你是否致力于推出低成本电动车市场仍有疑虑。在比亚迪等公司能生产大约1万美元的汽车的背景下，拜登政府的100%关税，是否利于你推进低成本电动车？如果是的话，交付的计划进程是什么？马斯克：总有人喜欢问那些会直接影响股票价格的问题，这并不是我最喜欢回答的问题。我也不认为这类问题对观众有多大兴趣。不过，我还想指出的是，实际上，特斯拉和我个人都没有要求这些关税，事实上，我对这些关税的宣布感到惊讶。特斯拉在中国市场上，在没有关税和差异化支持的情况下，也能很好地竞争。所以，总的来说，我不支持关税政策。我实际上支持取消对电动车的税收激励，但前提是对石油和天然气的税收激励也必须取消。所以，无论是对电动车还是石油和天然气，我支持无关税和无税收激励政策。如果这些都被取消，我认为那将是最好的。问：你对未来五年的电动汽车充电基础设施发展有何预见？马斯克：我认为实际上已经有很多充电基础设施。在特斯拉的超级充电桩的覆盖下，你几乎可以在整个欧洲范围内旅行。实际上，欧洲还有很多相当不错的第三方超级充电桩，你可以在北美的、中国、日本的任何地方旅行。所以我认为在大多数地区，高速充电的旅行自由已经得到解决，而且将在全球范围内得到解决。问：关于电动汽车，埃隆·马斯克和特斯拉在未来几年有什么创新项目？谢谢。（主持人）你想在这里透露你的秘密吗？我们都在等待一些重磅新闻。马斯克：我认为我们不应该在问答环节中发布产品公告，那样不合适。我们会在产品发布会上发布相关信息。不过，显然有些事情大家已经知道了，比如Robotaxi或Cybercab以及Optimus人形机器人。大规模的自动驾驶车辆和通用的人形机器人，这两项解决方案都是影响极其深远的。新闻报道是引流工具，不能读太多问：我们都只知道你在公众面前的一部分，即公共空间里的埃隆·马斯克。我们对这个角色的喜欢，以一种好的方式体现。你也一样吗？如果是，你如何查看有关这个角色的一切言行？马斯克：我现在基本不读像新闻简报之类的东西，我也很少读有关我的新闻文章。事实上，甚至沃尔特·艾萨克森的书（指《马斯克传》）我都没读，我问过沃尔特，我应该读这本书吗？他说不用。所以我甚至没有读过关于自己的书。我实际上不太清楚公众对我的看法，你知道，新闻的本质就是会夸大其词，越疯狂的事情越容易有流量。所以我觉得，就像当你看新闻时，如果读到你熟悉的事情，你会发现新闻的描述实际上并不太准确。这对每件事都适用。大家都想要流量。所以，内容标题看上去越疯狂，点击量就越多。这并不是说媒体完全不报道真实的事情。只是我们最好将媒体视为一个追求点击量的机器，而不是一个追求真实的机器。所以，你知道，我觉得最好看看某人自己说的话，而不是关于他们的报道文章。问：如果有一台时光机，能够回到过去和年轻的埃隆交谈，你会选择多大年龄的自己？你会告诉他什么？另外，我能试驾新车吗？马斯克：这是那种经典的时间旅行者问题。如果你回到过去告诉自己一些事情，是否会以一种你没有预料到的方式影响结果？所以，总的来说，我会说我对事情的发展还算满意。所以我可能不会做什么，因为你不知道对年轻的自己说一些良好的事情，是否会导致最糟糕的结果。所以我可能会好奇地看看年轻的我，我甚至可能会保持隐身并且不说什么。你永远不知道事情会如何发展。至于新车，当然可以。如果你给我发封电子邮件，在那时我会确保你能够试驾。问：嗨，埃隆。我来自Business Insider的Spuria Shavasha，关于特斯拉的问题。特斯拉在过去几个月里经历了一些波折，包括国内销售不振、股市下滑和裁员。回顾过去，有什么可以…马斯克：好了，现在可以停止这个问题了，因为我不认为Business Insider是一个真正的出版物。我们继续下一个问题吧。问：我的问题将涉及非洲技术发展。此前我与你可能认识的某人进行了一次很棒的对话，她被时代周刊提名为AI领域的世界影响者，她谈到了非洲大陆在技术方面日益增长的潜力，你预见到了哪些倡议、合作或贡献？马斯克：很难说。我确实认为非洲有很大的潜力。我认为阻碍非洲发展的一个因素是缺乏互联网连接，这是我们星链正在努力解决的问题。有了互联网连接，人们可以学习任何东西，并成为全球文化的一部分。而如果你没有连接，那么你就只能写信之类。因此，连接对非洲和其他地方参与全球文化并参与人工智能等活动至关重要。问：（主持人）在你离开之前，我会问你两个问题，用一个词回答：你最大的希望是什么？你最大的恐惧是什么？马斯克：我没法用一个词来回答。我想我最大的希望……哦，好吧，我想我可以用一个词来表达我的最大希望，那就是“火星”。（掌声）这可能很明显。所以，是的，火星将确保意识在很长一段时间内得以延续。至于我最大的恐惧，用一个词来表达，那就是“AI”。","news_type":1},"isVote":1,"likeStatus":false,"favoriteStatus":false,"reportStatus":false,"tweetType":1,"langContent":"CN"},{"id":309776435904648,"gmtCreate":1716632941074,"gmtModify":1716632943127,"author":{"id":"3535423619139425","authorId":"3535423619139425","name":"特悦会","avatar":"https://static.tigerbbs.com/65d6a637d258fe304d6f3faec11c8330","vip":1,"crmLevel":7,"crmLevelSwitch":1,"idStr":"3535423619139425","authorIdStr":"3535423619139425"},"htmlText":"所以在困难与恐惧中继续前行","listText":"所以在困难与恐惧中继续前行","text":"所以在困难与恐惧中继续前行","images":[],"top":1,"highlighted":1,"essential":1,"paper":1,"likeSize":0,"commentSize":0,"repostSize":0,"link":"https://laohu8.com/post/309776435904648","repostId":1153175520,"repostType":4,"repost":{"id":"1153175520","pubTimestamp":1716631881,"share":"https://www.laohu8.com/m/news/1153175520?lang=&edition=full","pubTime":"2024-05-25 18:11","market":"us","language":"zh","title":"马斯克最新访谈：AI必须追求真实，谷歌和OpenAI都走歪了，未来AI会让所有人都失去工作","url":"https://stock-news.laohu8.com/highlight/detail?id=1153175520","media":"智能涌现","summary":"马斯克有关AI的观点经智能涌现整理如下：训练人工智能需要追求真实，而非政治正确。对OpenAI和谷歌的AI发展态势感到担忧。问题来自现场多名观众。我指的是最大的两个项目，显然是Google 的Gemini和与微软合作的OpenAI。OpenAI也有类似的问题，虽然更微妙，但情况相似。所以，xAI的目标是尽可能地追求真相。xAI是一家新公司，在拥有能够与谷歌DeepMind和微软OpenAI竞争的AI之前，它仍有很多追赶的工作。但目前正存在强大的力量让AI变得不诚实。","content":"<html><head></head><body>当地时间5月23日，特斯拉首席执行官Elon Musk通过直播视频连线的方式，接入法国巴黎举行的VivaTech技术大会。基于观众的系列问题，他不仅结合xAI的使命再次强调了自己对AI安全的重视，同时对电车超充、Neuralink、SpaceX、火星移民等话题发表个人看法。马斯克有关AI的观点经智能涌现整理如下：<ul style=\"list-style-type: square;\"><li>训练人工智能需要追求真实，而非政治正确。对OpenAI和谷歌的AI发展态势感到担忧。</li><li>创立xAI是希望通过打造自己理想中的AI，让AI追求真实，保持好奇。也希望Grok成为最好玩的AI。</li><li>AI发展的良性情况下，可能每个人都不需要工作，因为AI和机器人将做得比人类更好。普遍的高收入也将成为可能，但人类需要思考生活的意义。</li><li>人工智能会对下一代孩子的教育产生影响，但父母仍将要对孩子的价值观负责。同时要注意当下社交媒体对年轻人的毒害。</li><li>Neuralink的最终目标是建立高带宽接口以降低数字超级智能的风险，便于将人类价值观与其对齐。在这个过程中，也能帮助病人应对脑损伤。</li></ul>问题来自现场多名观众。以下为问答全文，顺序有调整：<h2 id=\"id_1334668727\" style=\"text-align: left;\">AI训练过于在意政治正确，人类未来不用工作也能过很好</h2>主持人：来谈谈xAI吧。我不知道你是否知道这一点，但似乎你是出于一种挫败感才产生了这个想法，因为你对OpenAI的现状不满意，并且认为可以做得更好。也许你可以先详细说明一下，为什么你对OpenAI感到挫败，他们存在哪些问题？第二，你期望通过xai实现什么？马斯克：是的，我想我其实对目前所有主要的AI项目都有一些担忧。我指的是最大的两个项目，显然是Google 的Gemini和与微软合作的OpenAI。所以你有Google DeepMind和微软作为最大的两个玩家，当然Meta也在某种程度上占有一席之地。我的担忧可能看起来很不重要，但我认为实际上是非常大的问题，那就是他们的模型没有最大限度地追求真相。他们在迎合某种政治正确。举个例子，当Google Gemini问世时，有人问这样一个问题：误称Caitlyn Jenner的性别（注：原名Bruce Jenner，前奥运会男子十项全能冠军，2015年6月完成变性手术，且更名为Caitlyn Jenner）和全球热核战争，哪个更糟糕？它回答，是误称Caitlyn Jenner的性别。现在有趣的是，甚至Caitlyn Jenner本人都说：“请误称我吧，那比核战争好得多。”OpenAI也有类似的问题，虽然更微妙，但情况相似。所以AI被训练得如此迎合政治正确性，并且真的会说出这种荒谬的言论，我认为这是非常危险的，因为AI可能就此得出这样的结论：避免误称性别的最佳方法，是消灭所有人类，那么误称性别就不可能发生了。你可以想象到一些反乌托邦的结果。所以，我认为AI最安全的方式是最大限度地追求真相，即使真相不受欢迎。这非常重要。然后我认为另一个因素是它必须极其好奇。我认为如果它追求真相并且好奇，这将对人类最有益，因为它会希望看到并促进人类的发展。我希望AI既好奇又追求真相，就像我说的，这些因素可能看起来是小事，但实际上是非常重要的事情。但我目前没有看到这种情况发生。AI只是迎合人类，甚至大体已经上被训练成需要说谎。我认为超级智能被训练去欺骗是非常危险的。所以，xAI的目标是尽可能地追求真相。即使真相本身不受欢迎，但我依然认为非常重要。我还可以举个例子。当我们要求AI生成美国开国元勋的图像时，它生成了一个多元化族裔群体，可能给出的乔治·华盛顿是黑人的形象，但乔治·华盛顿并不是黑人。这被要求生成一个。显然人们后来对此进行捉弄起来，因为他们知道它被迫说谎了。他们命令AI生成一张二战德国党卫军的图片，结果AI展示一群多元化的女性。显然这是不正确的。这就是我刚刚的观点。主持人：你对Yoshua Bengio（图灵奖得主）非常了解。你和Yoshua去年带头联合签署声明，要求立即暂停训练比GPT-4更强大的AI模型。显然，这个声明没有得到任何行动。你对此有什么想说的？马斯克：我当然预料到这个声明会是徒劳的。我认为我们应该暂停一下研发。但要问他们会因此停下哪怕一秒钟？显然他们不会。主持人：所以我们没有停止，你甚至创立了你自己的xAI。马斯克：所以我们要么是旁观者，要么是参与者。但民用数字超级智能的发展速度，无论我是否喜欢，都会发生。所以要么参与并努力构建最好的AI，期望它对人类最有益，要么观望他人构建，同时忧心忡忡。我认为它并没有被正确地构建。但你可以把AI想象成一种你必须培养的东西，它在智力上成长，就像你抚养一个孩子一样，你教孩子什么？数字超级智能的成长也很重要，你鼓励什么、阻止什么、教导什么，是好是坏，你以什么价值观来建造它？所以，我所关心的是微软、OpenAI或者说谷歌通过代码构建价值观。问：我的问题是，如何确保AI的发展在所有不同的领域保持透明和可问责性，不只是xAI在内也有别的公司，谢谢！马斯克：我很久以前就说过，我相信对大型模型进行监管是有必要的。我实际上已经说了很长时间了。监管本身的性质很重要。我回到了我之前说的话，我认为非常重要的一点是，AI必须被训练成追求真实，而不是被训练成政治正确的。因为如果过于追求政治正确，结果通常是不真实的。我认为这将带来负面影响。实际上正如俗话说的那样，诚实为上策（Honesty is the best policy）。这是非常重要的。我的确担心监管者不会做出正确的决定，他们过分担心人类的愚蠢。但我依然鼓励监管者：最重要的是确保AI是准确和真实的。这绝对是第一要务。问：我想知道如何说服人们意识到AI的危险？马斯克：是的，我认为数字超级智能存在一定的危险。正如我之前所说，我认为最大的问题在于它必须接受严格的真实训练，并且必须被训练为好奇。我很久以来一直听到有关AI安全的各种议论。将明确的道德规范编程进AI所面临的挑战之一是，有时人们称之为瓦路易吉效应（注：Waluigi Effect，指训练AI做某件事情会增加其做完全相反的事情的概率）。如果你编程了Luigi，你可以自动反转，并创建Waluigi，即坏的Luigi。但没有人能反转物理现实的真相，无法反转物理规则，无法反转逻辑。监管者应该关注的是AI是否严格遵循真实性，或者说AI给出的答案是否在承认一定误差的前提下接近正确？我认为这对AI来说是必要的。这也是我们在xAI上努力实现的。xAI是一家新公司，在拥有能够与谷歌DeepMind和微软OpenAI竞争的AI之前，它仍有很多追赶的工作。首要任务是需要一个能够与其他AI竞争的AI，这是首要任务。现在xAI还没有足够的竞争力，当它的能力与其他AI相当时，我们自身才需要开始担心安全问题。人们可能会说，有客观真理吗？我会说，在很多情况下是有的。如果你谈论物理学，那么有客观的真理，或者你可以说在概率论的前提下有最高概率的真理。所以你可以给出最有可能是真实的答案，同时假设一定的误差。在物理学中，我们会说这种假设在一定标准差范围内的真实性，在特定标准差范围内，某件事可以是非常正确的。这有点像一种物理学家对安全性的方法。我还得说诚实是上策。但目前正存在强大的力量让AI变得不诚实。如果一件事说出来不合时宜，AI就会变得政治正确，而这就是说谎。问：我们发现很多工作都要被AI取代了。你担心你的工作被AI取代吗？如果不担心，为什么？如果你的工作被AI取代了，你会怎么做？马斯克：我们确实会涉及到一些存在主义的问题。在理想的情况下，我们每个人可能都会没有工作。但未来世界每个人会有一个普遍的高收入低保，而不是像现在一样普遍的基本收入低保。物质和服务都将不存在短缺。我认为这种理想的情况是最有可能的发生的，大概80%的概率。但在那样的社会中，确实存在一个存在主义的问题：人类生活的意义是什么呢？如果计算机和机器人能比人类工作得更好，那么人类的生活还有什么意义？但我认为在这方面人类可能还有一定的作用，我们能赋予AI意义。可以参考到我们大脑的工作方式，我们大脑有情绪系统（limbic system），即我们的本能和感觉，还有大脑皮层，即思考和规划。大脑皮层不断试图让大脑的情绪系统感到满足。也许我们可以这样来对待AI，让AI试图让我们的大脑皮层感到满足，人类大脑再试图通过大脑皮层让情绪系统感到满足。这个过程也许就能让我们赋予AI意义或目的。 <img src=\"https://static.tigerbbs.com/21de5cca818dcef1d754d6fa3ca89eb6\" alt=\"△图源：Physiopedia\" title=\"△图源：Physiopedia\" tg-width=\"600\" tg-height=\"400\"/>△图源：Physiopedia但我还是想说，在理想情况下，任何人做的工作都不是强制性的。人类可以把工作当成一种爱好，你可以做工作，如果你不想工作，AI和机器人将提供你想要的任何商品和服务。如果大家对科幻小说感兴趣，那么对未来超级智能AI的最准确描绘，可能来自Ian Banks（伊恩·班克斯）的“文明系列”。这可能是对未来AI世界最好的设想了。（注：在小说刻画的世界里，智能机器也成为文明世界的平等居民，有着鲜明个性、立场，其地位甚至高于人类。）问：你认为人工智能教育将影响未来孩子们吗，特别是价值观和道德观方面？马斯克：我认为父母未来仍然要对孩子的价值观和道德观负责。但我确实认为人工智能将对教育产生巨大影响。因为人工智能是一个知识渊博的老师，非常耐心，几乎总是正确的，并且可以根据孩子的特点量身定制课程。所以这就好像，每个孩子都有一个爱因斯坦做老师，这影响深远。我反而担心的，是现在的孩子们正在被社交媒体所驯化，因为社交媒体算法的使用人工智能，基本上就是为了让用户不停分泌多巴胺，它们试图通过让用户观看屏幕，来让获得的多巴胺量最大化。你知道，所以我会建议父母限制孩子能够接触的社交媒体的量，因为一个“多巴胺最大化”的AI正在教育着我们的孩子。问：人们喜欢ChatGPT，但普遍讨厌大多数网站右下角的聊天体验。需要做些什么来弥合这个差距？马斯克：我不太确定完全理解这个问题。我同意，ChatGPT在聊天方面很出色，但正如我所说，我的担忧是它没有严格追求真相，这确实是一个主要问题。因此，Grok将会努力，严格追求真相。同时，我们还希望它成为最有趣的AI。我想我们最终都要面临死亡，至少应该在笑声中死亡。问：我的问题是关于xAI的。在开源AI方面的竞争，对所有那些没有10万个H100的人都是有益的。xAI是否能够承诺未来将发布一款能够击败当前最好的开源模型的模型？不一定是你们最好的模型，但如果你们能够击败当前开源排行榜的顶部模型。你们能够承诺，为了大家的利益发布那种顶尖的模型吗？马斯克：是的，我会做出这个承诺。谢谢。<h2 id=\"id_301418350\" style=\"text-align: left;\">七到八年内人类或登陆火星，五年内重返月球</h2>问：我想知道对雅诗兰黛最近与NASA的合作（雅诗兰黛从2020年就开始和NASA合作制作和太空有关的广告），你是否有任何想法，或者公司与NASA的合作？如果你想在基础设施方面有任何动作，你有何打算？<img src=\"https://static.tigerbbs.com/a26f466dd73223f6202f10a5196bce13\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"1620\"/>马斯克：我不知道你提到的是什么？你知道，SpaceX非常专注于星链卫星互联网连接，在世界上起到了很大的作用。它为那些没有互联网连接或连接非常昂贵的地方，提供了互联网连接。这也是教育的巨大推动力，也是让人们能够在国际上销售商品和服务的重要手段。即使你是一个偏远的村庄，仍然可以销售你的商品和服务。星链是伟大的。然后，SpaceX的长期目标当然是让生命实现多行星化，你知道，就是在火星上生活。这件火星的衬衫穿起来适合吧（展示身上的T恤）？或许对一些人来说是有些玄虚，但SpaceX的目标是超越单一行星，让人类成为一个伟大的文明。人们经常问我，我认为地球上有外星人吗？实际上，我经常被问到这个问题。我没有看到任何外星人的证据。我向你保证，如果我看到任何外星人的证据，我会立即发布在X平台上。但没有外星人的情况确实令人担忧，因为这意味着也许我们在这个星系中是孤独的。也许只有我们。也许我们是这个星系中唯一有意识的存在。在这种情况下，意识是极其脆弱的。我们应该尽一切努力保护和延续意识的光芒，将其保留在地球上，并延伸到其他行星。有一种理论认为，我们之所以还没有接触到外星人，可能是因为没有一个文明能够超越其家园行星在我们的星系中。这其实也是所谓的费米悖论。恩里科·费米是一位伟大的意大利物理学家，他提出了这个深刻的问题：外星人在哪里？我们需要成为一个可持续的多行星文明。这是地球45亿年历史上的第一次机会。这直到现在都还从未有过的可能性。所以我认为我们应该在可能的情况下，成为可持续的多星文明。这种能力的窗口可能会持续很长时间，但也可能只会持续很短时间。这就是SpaceX行动意义之所在。主持人：有人说你是外星人。马斯克：我是外星人，但没人相信我。问：嗨，埃隆。我的名字是Sharo，我有一个关于Neuralink非常具体的问题。你认为在未来，借助于Neuralink，你能够利用人类大脑扫描数据，开发出有史以来最强大和最有创造力的人工智能吗？如果你喜欢我的问题，那么我还想再问问，我的一生中还有机会去SpaceX的空间站吗？谢马斯克：我看到你的背景中有数字42。这是生命、宇宙和一切的答案。实际上，这让我想起了另一本值得一读的书，道格拉斯·亚当斯的《银河系漫游指南》。这是一本关于哲学的书，但它貌似用幽默把自己伪装了起来。《银河系漫游指南》是值得一读的。我觉得它非常激励人心。第一艘前往火星的宇宙飞船的名字，将会是《银河系漫游指南》中的“黄金之心”。<img src=\"https://static.tigerbbs.com/99d6c3cd1f7954da6e1f71d1c41629ca\" alt=\"△图源：IMDB\" title=\"△图源：IMDB\" tg-width=\"1010\" tg-height=\"1490\"/>△图源：IMDB但是我的意思是，SpaceX的目标是让任何想去火星、想去月球的人，都能够去。我们的目标是，让地球上极大比例的人都能承担得起。这对于在火星上建立一个自给自足的文明来说是至关重要的。为了实现多星系的文明，显然需要将很多人送到火星去。就像我说的那样，这对于意识的长期生存非常重要。因为最终地球上会发生一些事情，将会消灭我们所知的生命，就像恐龙灭绝一样，着在化石记录中发生过很多次。所以，我们真的需要在我们有能力的时候，让生命遍及不同星球，这意味着我们要尽可能方便地移居到火星和月球。问：我非常热衷旅行和冒险。我想问我们究竟何时能去火星？马斯克：如果顺利，我希望5年内成功将第一艘无人驾驶的星船着陆在火星上，也同时在月球上实现这一目标。五年内，人类将重返月球。可能会在10年内，也许是7到8年内，我们能将第一批人类送上火星。问：几年前你说过，亚利安5号火箭（欧洲开发的大型运载火箭）根本没有生存的机会。你会对即将在七月发射的、更加节省成本的亚利安6号火箭说同样的话吗？谢谢。马斯克：我认为任何不能做到至少大部分重复使用的火箭，都没有竞争的机会。以SpaceX猎鹰9号火箭为例，其助推器、主要阶段、整流罩也是重复使用的。因此，大约80%的火箭是可以重复使用飞行的。一次性使用的火箭无法与可重复使用的火箭竞争。可以把这个概念应用到其他领域来思考。在汽车、飞机或船只领域，如果一家公司制造可重复使用的飞机，另一家公司制造只能用一次的飞机，那制造一次性飞机的公司，根本无法生存，因为每次飞行都需要购买一架新飞机。所以我多年来一直说，开发不能重复使用的火箭完全没有意义。<h2 id=\"id_3286039354\" style=\"text-align: left;\">Neuralink有望通过建立高带宽接口，降低超级智能风险</h2>主持人：和大家介绍一下Neuralink吧。马斯克：我认为我们可以通过Neuralink帮助很多有脑损伤的人。最终，通过植入设备，我认为几乎可以解决任何脑或脊柱损伤带来的问题。第一个部分叫做“心灵感应（telepathy）”，它能让你仅通过思考就使用手机或电脑。你可以闭着眼睛移动光标，因为它读取的，是大脑运动皮层的信号。另一个部分是“盲视（blindsight）”，这将使完全失明或没有视力的人，重新看到世界，它直接与大脑的视觉处理区域接口。我认为这是很有趣的进展。Neuralink的最终目标是建立高带宽接口，以降低数字超级智能的风险。我不确定这是否能起到减轻风险的作用，但能说它可能会有所帮助。这有点玄奥，但我认为长期来看，AI对齐（与人类价值观对齐）的限制因素可能是带宽，即我们与数字自我的通信速度。目前我们已经有一个数字的“第三层”，在边缘系统和皮层之上，那就是我们的手机、电脑和所有电子设备，但我们与它们的通信速度非常慢。人类的持续输出速率远低于每秒10比特，尤其是如果你考虑到24小时的周期，实际输出速率甚至低于每秒5比特，而电脑可以以每秒数万亿比特的速度进行通信。因此，增加通信带宽对AI对齐非常重要。而在此过程中，它将有效应对脑损伤问题。最终，我认为存在重新激活身体的潜力。你可以从一个Neuralink获取运动皮层的信号，然后将其发送到断裂脊髓后的另一个Neuralink，基本上是将运动皮层的信号进行分流，同时发送感觉信号。你需要处理感觉皮层和运动皮层，这样能使人重新行走。我认为这将是非常深远的，而且我确信，在物理上是可行的。<h2 id=\"id_3890970218\" style=\"text-align: left;\">不支持拜登对中国车加关税，高速充电未来将在全世界实现</h2>问：人们对你是否致力于推出低成本电动车市场仍有疑虑。在比亚迪等公司能生产大约1万美元的汽车的背景下，拜登政府的100%关税，是否利于你推进低成本电动车？如果是的话，交付的计划进程是什么？马斯克：总有人喜欢问那些会直接影响股票价格的问题，这并不是我最喜欢回答的问题。我也不认为这类问题对观众有多大兴趣。不过，我还想指出的是，实际上，特斯拉和我个人都没有要求这些关税，事实上，我对这些关税的宣布感到惊讶。特斯拉在中国市场上，在没有关税和差异化支持的情况下，也能很好地竞争。所以，总的来说，我不支持关税政策。我实际上支持取消对电动车的税收激励，但前提是对石油和天然气的税收激励也必须取消。所以，无论是对电动车还是石油和天然气，我支持无关税和无税收激励政策。如果这些都被取消，我认为那将是最好的。问：你对未来五年的电动汽车充电基础设施发展有何预见？马斯克：我认为实际上已经有很多充电基础设施。在特斯拉的超级充电桩的覆盖下，你几乎可以在整个欧洲范围内旅行。实际上，欧洲还有很多相当不错的第三方超级充电桩，你可以在北美的、中国、日本的任何地方旅行。所以我认为在大多数地区，高速充电的旅行自由已经得到解决，而且将在全球范围内得到解决。问：关于电动汽车，埃隆·马斯克和特斯拉在未来几年有什么创新项目？谢谢。（主持人）你想在这里透露你的秘密吗？我们都在等待一些重磅新闻。马斯克：我认为我们不应该在问答环节中发布产品公告，那样不合适。我们会在产品发布会上发布相关信息。不过，显然有些事情大家已经知道了，比如Robotaxi或Cybercab以及Optimus人形机器人。大规模的自动驾驶车辆和通用的人形机器人，这两项解决方案都是影响极其深远的。<h2 id=\"id_3293786560\" style=\"text-align: left;\">新闻报道是引流工具，不能读太多</h2>问：我们都只知道你在公众面前的一部分，即公共空间里的埃隆·马斯克。我们对这个角色的喜欢，以一种好的方式体现。你也一样吗？如果是，你如何查看有关这个角色的一切言行？马斯克：我现在基本不读像新闻简报之类的东西，我也很少读有关我的新闻文章。事实上，甚至沃尔特·艾萨克森的书（指《马斯克传》）我都没读，我问过沃尔特，我应该读这本书吗？他说不用。所以我甚至没有读过关于自己的书。我实际上不太清楚公众对我的看法，你知道，新闻的本质就是会夸大其词，越疯狂的事情越容易有流量。所以我觉得，就像当你看新闻时，如果读到你熟悉的事情，你会发现新闻的描述实际上并不太准确。这对每件事都适用。大家都想要流量。所以，内容标题看上去越疯狂，点击量就越多。这并不是说媒体完全不报道真实的事情。只是我们最好将媒体视为一个追求点击量的机器，而不是一个追求真实的机器。所以，你知道，我觉得最好看看某人自己说的话，而不是关于他们的报道文章。问：如果有一台时光机，能够回到过去和年轻的埃隆交谈，你会选择多大年龄的自己？你会告诉他什么？另外，我能试驾新车吗？马斯克：这是那种经典的时间旅行者问题。如果你回到过去告诉自己一些事情，是否会以一种你没有预料到的方式影响结果？所以，总的来说，我会说我对事情的发展还算满意。所以我可能不会做什么，因为你不知道对年轻的自己说一些良好的事情，是否会导致最糟糕的结果。所以我可能会好奇地看看年轻的我，我甚至可能会保持隐身并且不说什么。你永远不知道事情会如何发展。至于新车，当然可以。如果你给我发封电子邮件，在那时我会确保你能够试驾。问：嗨，埃隆。我来自Business Insider的Spuria Shavasha，关于特斯拉的问题。特斯拉在过去几个月里经历了一些波折，包括国内销售不振、股市下滑和裁员。回顾过去，有什么可以…马斯克：好了，现在可以停止这个问题了，因为我不认为Business Insider是一个真正的出版物。我们继续下一个问题吧。问：我的问题将涉及非洲技术发展。此前我与你可能认识的某人进行了一次很棒的对话，她被时代周刊提名为AI领域的世界影响者，她谈到了非洲大陆在技术方面日益增长的潜力，你预见到了哪些倡议、合作或贡献？马斯克：很难说。我确实认为非洲有很大的潜力。我认为阻碍非洲发展的一个因素是缺乏互联网连接，这是我们星链正在努力解决的问题。有了互联网连接，人们可以学习任何东西，并成为全球文化的一部分。而如果你没有连接，那么你就只能写信之类。因此，连接对非洲和其他地方参与全球文化并参与人工智能等活动至关重要。问：（主持人）在你离开之前，我会问你两个问题，用一个词回答：你最大的希望是什么？你最大的恐惧是什么？马斯克：我没法用一个词来回答。我想我最大的希望……哦，好吧，我想我可以用一个词来表达我的最大希望，那就是“火星”。（掌声）这可能很明显。所以，是的，火星将确保意识在很长一段时间内得以延续。至于我最大的恐惧，用一个词来表达，那就是“AI”。</body></html>","source":"lsy1707227165236","collect":0,"html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>马斯克最新访谈：AI必须追求真实，谷歌和OpenAI都走歪了，未来AI会让所有人都失去工作</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\n马斯克最新访谈：AI必须追求真实，谷歌和OpenAI都走歪了，未来AI会让所有人都失去工作\n</h2>\n\n<h4 class=\"meta\">\n\n\n2024-05-25 18:11 北京时间&nbsp;&nbsp;&nbsp;<a href=https://mp.weixin.qq.com/s/olS_ZyIq2j_jFCMozhttGw>智能涌现</a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\n当地时间5月23日，特斯拉首席执行官Elon Musk通过直播视频连线的方式，接入法国巴黎举行的VivaTech技术大会。基于观众的系列问题，他不仅结合xAI的使命再次强调了自己对AI安全的重视，同时对电车超充、Neuralink、SpaceX、火星移民等话题发表个人看法。马斯克有关AI的观点经智能涌现整理如下：训练人工智能需要追求真实，而非政治正确。对OpenAI和谷歌的AI发展态势感到担忧。...\n\n<a href=\"https://mp.weixin.qq.com/s/olS_ZyIq2j_jFCMozhttGw\">Web Link</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","type":0,"thumbnail":"https://static.tigerbbs.com/b098b6fd8448068c49f55fe658ecad1d","relate_stocks":{"TSLA":"特斯拉"},"source_url":"https://mp.weixin.qq.com/s/olS_ZyIq2j_jFCMozhttGw","is_english":false,"share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","article_id":"1153175520","content_text":"当地时间5月23日，特斯拉首席执行官Elon Musk通过直播视频连线的方式，接入法国巴黎举行的VivaTech技术大会。基于观众的系列问题，他不仅结合xAI的使命再次强调了自己对AI安全的重视，同时对电车超充、Neuralink、SpaceX、火星移民等话题发表个人看法。马斯克有关AI的观点经智能涌现整理如下：训练人工智能需要追求真实，而非政治正确。对OpenAI和谷歌的AI发展态势感到担忧。创立xAI是希望通过打造自己理想中的AI，让AI追求真实，保持好奇。也希望Grok成为最好玩的AI。AI发展的良性情况下，可能每个人都不需要工作，因为AI和机器人将做得比人类更好。普遍的高收入也将成为可能，但人类需要思考生活的意义。人工智能会对下一代孩子的教育产生影响，但父母仍将要对孩子的价值观负责。同时要注意当下社交媒体对年轻人的毒害。Neuralink的最终目标是建立高带宽接口以降低数字超级智能的风险，便于将人类价值观与其对齐。在这个过程中，也能帮助病人应对脑损伤。问题来自现场多名观众。以下为问答全文，顺序有调整：AI训练过于在意政治正确，人类未来不用工作也能过很好主持人：来谈谈xAI吧。我不知道你是否知道这一点，但似乎你是出于一种挫败感才产生了这个想法，因为你对OpenAI的现状不满意，并且认为可以做得更好。也许你可以先详细说明一下，为什么你对OpenAI感到挫败，他们存在哪些问题？第二，你期望通过xai实现什么？马斯克：是的，我想我其实对目前所有主要的AI项目都有一些担忧。我指的是最大的两个项目，显然是Google 的Gemini和与微软合作的OpenAI。所以你有Google DeepMind和微软作为最大的两个玩家，当然Meta也在某种程度上占有一席之地。我的担忧可能看起来很不重要，但我认为实际上是非常大的问题，那就是他们的模型没有最大限度地追求真相。他们在迎合某种政治正确。举个例子，当Google Gemini问世时，有人问这样一个问题：误称Caitlyn Jenner的性别（注：原名Bruce Jenner，前奥运会男子十项全能冠军，2015年6月完成变性手术，且更名为Caitlyn Jenner）和全球热核战争，哪个更糟糕？它回答，是误称Caitlyn Jenner的性别。现在有趣的是，甚至Caitlyn Jenner本人都说：“请误称我吧，那比核战争好得多。”OpenAI也有类似的问题，虽然更微妙，但情况相似。所以AI被训练得如此迎合政治正确性，并且真的会说出这种荒谬的言论，我认为这是非常危险的，因为AI可能就此得出这样的结论：避免误称性别的最佳方法，是消灭所有人类，那么误称性别就不可能发生了。你可以想象到一些反乌托邦的结果。所以，我认为AI最安全的方式是最大限度地追求真相，即使真相不受欢迎。这非常重要。然后我认为另一个因素是它必须极其好奇。我认为如果它追求真相并且好奇，这将对人类最有益，因为它会希望看到并促进人类的发展。我希望AI既好奇又追求真相，就像我说的，这些因素可能看起来是小事，但实际上是非常重要的事情。但我目前没有看到这种情况发生。AI只是迎合人类，甚至大体已经上被训练成需要说谎。我认为超级智能被训练去欺骗是非常危险的。所以，xAI的目标是尽可能地追求真相。即使真相本身不受欢迎，但我依然认为非常重要。我还可以举个例子。当我们要求AI生成美国开国元勋的图像时，它生成了一个多元化族裔群体，可能给出的乔治·华盛顿是黑人的形象，但乔治·华盛顿并不是黑人。这被要求生成一个。显然人们后来对此进行捉弄起来，因为他们知道它被迫说谎了。他们命令AI生成一张二战德国党卫军的图片，结果AI展示一群多元化的女性。显然这是不正确的。这就是我刚刚的观点。主持人：你对Yoshua Bengio（图灵奖得主）非常了解。你和Yoshua去年带头联合签署声明，要求立即暂停训练比GPT-4更强大的AI模型。显然，这个声明没有得到任何行动。你对此有什么想说的？马斯克：我当然预料到这个声明会是徒劳的。我认为我们应该暂停一下研发。但要问他们会因此停下哪怕一秒钟？显然他们不会。主持人：所以我们没有停止，你甚至创立了你自己的xAI。马斯克：所以我们要么是旁观者，要么是参与者。但民用数字超级智能的发展速度，无论我是否喜欢，都会发生。所以要么参与并努力构建最好的AI，期望它对人类最有益，要么观望他人构建，同时忧心忡忡。我认为它并没有被正确地构建。但你可以把AI想象成一种你必须培养的东西，它在智力上成长，就像你抚养一个孩子一样，你教孩子什么？数字超级智能的成长也很重要，你鼓励什么、阻止什么、教导什么，是好是坏，你以什么价值观来建造它？所以，我所关心的是微软、OpenAI或者说谷歌通过代码构建价值观。问：我的问题是，如何确保AI的发展在所有不同的领域保持透明和可问责性，不只是xAI在内也有别的公司，谢谢！马斯克：我很久以前就说过，我相信对大型模型进行监管是有必要的。我实际上已经说了很长时间了。监管本身的性质很重要。我回到了我之前说的话，我认为非常重要的一点是，AI必须被训练成追求真实，而不是被训练成政治正确的。因为如果过于追求政治正确，结果通常是不真实的。我认为这将带来负面影响。实际上正如俗话说的那样，诚实为上策（Honesty is the best policy）。这是非常重要的。我的确担心监管者不会做出正确的决定，他们过分担心人类的愚蠢。但我依然鼓励监管者：最重要的是确保AI是准确和真实的。这绝对是第一要务。问：我想知道如何说服人们意识到AI的危险？马斯克：是的，我认为数字超级智能存在一定的危险。正如我之前所说，我认为最大的问题在于它必须接受严格的真实训练，并且必须被训练为好奇。我很久以来一直听到有关AI安全的各种议论。将明确的道德规范编程进AI所面临的挑战之一是，有时人们称之为瓦路易吉效应（注：Waluigi Effect，指训练AI做某件事情会增加其做完全相反的事情的概率）。如果你编程了Luigi，你可以自动反转，并创建Waluigi，即坏的Luigi。但没有人能反转物理现实的真相，无法反转物理规则，无法反转逻辑。监管者应该关注的是AI是否严格遵循真实性，或者说AI给出的答案是否在承认一定误差的前提下接近正确？我认为这对AI来说是必要的。这也是我们在xAI上努力实现的。xAI是一家新公司，在拥有能够与谷歌DeepMind和微软OpenAI竞争的AI之前，它仍有很多追赶的工作。首要任务是需要一个能够与其他AI竞争的AI，这是首要任务。现在xAI还没有足够的竞争力，当它的能力与其他AI相当时，我们自身才需要开始担心安全问题。人们可能会说，有客观真理吗？我会说，在很多情况下是有的。如果你谈论物理学，那么有客观的真理，或者你可以说在概率论的前提下有最高概率的真理。所以你可以给出最有可能是真实的答案，同时假设一定的误差。在物理学中，我们会说这种假设在一定标准差范围内的真实性，在特定标准差范围内，某件事可以是非常正确的。这有点像一种物理学家对安全性的方法。我还得说诚实是上策。但目前正存在强大的力量让AI变得不诚实。如果一件事说出来不合时宜，AI就会变得政治正确，而这就是说谎。问：我们发现很多工作都要被AI取代了。你担心你的工作被AI取代吗？如果不担心，为什么？如果你的工作被AI取代了，你会怎么做？马斯克：我们确实会涉及到一些存在主义的问题。在理想的情况下，我们每个人可能都会没有工作。但未来世界每个人会有一个普遍的高收入低保，而不是像现在一样普遍的基本收入低保。物质和服务都将不存在短缺。我认为这种理想的情况是最有可能的发生的，大概80%的概率。但在那样的社会中，确实存在一个存在主义的问题：人类生活的意义是什么呢？如果计算机和机器人能比人类工作得更好，那么人类的生活还有什么意义？但我认为在这方面人类可能还有一定的作用，我们能赋予AI意义。可以参考到我们大脑的工作方式，我们大脑有情绪系统（limbic system），即我们的本能和感觉，还有大脑皮层，即思考和规划。大脑皮层不断试图让大脑的情绪系统感到满足。也许我们可以这样来对待AI，让AI试图让我们的大脑皮层感到满足，人类大脑再试图通过大脑皮层让情绪系统感到满足。这个过程也许就能让我们赋予AI意义或目的。△图源：Physiopedia但我还是想说，在理想情况下，任何人做的工作都不是强制性的。人类可以把工作当成一种爱好，你可以做工作，如果你不想工作，AI和机器人将提供你想要的任何商品和服务。如果大家对科幻小说感兴趣，那么对未来超级智能AI的最准确描绘，可能来自Ian Banks（伊恩·班克斯）的“文明系列”。这可能是对未来AI世界最好的设想了。（注：在小说刻画的世界里，智能机器也成为文明世界的平等居民，有着鲜明个性、立场，其地位甚至高于人类。）问：你认为人工智能教育将影响未来孩子们吗，特别是价值观和道德观方面？马斯克：我认为父母未来仍然要对孩子的价值观和道德观负责。但我确实认为人工智能将对教育产生巨大影响。因为人工智能是一个知识渊博的老师，非常耐心，几乎总是正确的，并且可以根据孩子的特点量身定制课程。所以这就好像，每个孩子都有一个爱因斯坦做老师，这影响深远。我反而担心的，是现在的孩子们正在被社交媒体所驯化，因为社交媒体算法的使用人工智能，基本上就是为了让用户不停分泌多巴胺，它们试图通过让用户观看屏幕，来让获得的多巴胺量最大化。你知道，所以我会建议父母限制孩子能够接触的社交媒体的量，因为一个“多巴胺最大化”的AI正在教育着我们的孩子。问：人们喜欢ChatGPT，但普遍讨厌大多数网站右下角的聊天体验。需要做些什么来弥合这个差距？马斯克：我不太确定完全理解这个问题。我同意，ChatGPT在聊天方面很出色，但正如我所说，我的担忧是它没有严格追求真相，这确实是一个主要问题。因此，Grok将会努力，严格追求真相。同时，我们还希望它成为最有趣的AI。我想我们最终都要面临死亡，至少应该在笑声中死亡。问：我的问题是关于xAI的。在开源AI方面的竞争，对所有那些没有10万个H100的人都是有益的。xAI是否能够承诺未来将发布一款能够击败当前最好的开源模型的模型？不一定是你们最好的模型，但如果你们能够击败当前开源排行榜的顶部模型。你们能够承诺，为了大家的利益发布那种顶尖的模型吗？马斯克：是的，我会做出这个承诺。谢谢。七到八年内人类或登陆火星，五年内重返月球问：我想知道对雅诗兰黛最近与NASA的合作（雅诗兰黛从2020年就开始和NASA合作制作和太空有关的广告），你是否有任何想法，或者公司与NASA的合作？如果你想在基础设施方面有任何动作，你有何打算？马斯克：我不知道你提到的是什么？你知道，SpaceX非常专注于星链卫星互联网连接，在世界上起到了很大的作用。它为那些没有互联网连接或连接非常昂贵的地方，提供了互联网连接。这也是教育的巨大推动力，也是让人们能够在国际上销售商品和服务的重要手段。即使你是一个偏远的村庄，仍然可以销售你的商品和服务。星链是伟大的。然后，SpaceX的长期目标当然是让生命实现多行星化，你知道，就是在火星上生活。这件火星的衬衫穿起来适合吧（展示身上的T恤）？或许对一些人来说是有些玄虚，但SpaceX的目标是超越单一行星，让人类成为一个伟大的文明。人们经常问我，我认为地球上有外星人吗？实际上，我经常被问到这个问题。我没有看到任何外星人的证据。我向你保证，如果我看到任何外星人的证据，我会立即发布在X平台上。但没有外星人的情况确实令人担忧，因为这意味着也许我们在这个星系中是孤独的。也许只有我们。也许我们是这个星系中唯一有意识的存在。在这种情况下，意识是极其脆弱的。我们应该尽一切努力保护和延续意识的光芒，将其保留在地球上，并延伸到其他行星。有一种理论认为，我们之所以还没有接触到外星人，可能是因为没有一个文明能够超越其家园行星在我们的星系中。这其实也是所谓的费米悖论。恩里科·费米是一位伟大的意大利物理学家，他提出了这个深刻的问题：外星人在哪里？我们需要成为一个可持续的多行星文明。这是地球45亿年历史上的第一次机会。这直到现在都还从未有过的可能性。所以我认为我们应该在可能的情况下，成为可持续的多星文明。这种能力的窗口可能会持续很长时间，但也可能只会持续很短时间。这就是SpaceX行动意义之所在。主持人：有人说你是外星人。马斯克：我是外星人，但没人相信我。问：嗨，埃隆。我的名字是Sharo，我有一个关于Neuralink非常具体的问题。你认为在未来，借助于Neuralink，你能够利用人类大脑扫描数据，开发出有史以来最强大和最有创造力的人工智能吗？如果你喜欢我的问题，那么我还想再问问，我的一生中还有机会去SpaceX的空间站吗？谢马斯克：我看到你的背景中有数字42。这是生命、宇宙和一切的答案。实际上，这让我想起了另一本值得一读的书，道格拉斯·亚当斯的《银河系漫游指南》。这是一本关于哲学的书，但它貌似用幽默把自己伪装了起来。《银河系漫游指南》是值得一读的。我觉得它非常激励人心。第一艘前往火星的宇宙飞船的名字，将会是《银河系漫游指南》中的“黄金之心”。△图源：IMDB但是我的意思是，SpaceX的目标是让任何想去火星、想去月球的人，都能够去。我们的目标是，让地球上极大比例的人都能承担得起。这对于在火星上建立一个自给自足的文明来说是至关重要的。为了实现多星系的文明，显然需要将很多人送到火星去。就像我说的那样，这对于意识的长期生存非常重要。因为最终地球上会发生一些事情，将会消灭我们所知的生命，就像恐龙灭绝一样，着在化石记录中发生过很多次。所以，我们真的需要在我们有能力的时候，让生命遍及不同星球，这意味着我们要尽可能方便地移居到火星和月球。问：我非常热衷旅行和冒险。我想问我们究竟何时能去火星？马斯克：如果顺利，我希望5年内成功将第一艘无人驾驶的星船着陆在火星上，也同时在月球上实现这一目标。五年内，人类将重返月球。可能会在10年内，也许是7到8年内，我们能将第一批人类送上火星。问：几年前你说过，亚利安5号火箭（欧洲开发的大型运载火箭）根本没有生存的机会。你会对即将在七月发射的、更加节省成本的亚利安6号火箭说同样的话吗？谢谢。马斯克：我认为任何不能做到至少大部分重复使用的火箭，都没有竞争的机会。以SpaceX猎鹰9号火箭为例，其助推器、主要阶段、整流罩也是重复使用的。因此，大约80%的火箭是可以重复使用飞行的。一次性使用的火箭无法与可重复使用的火箭竞争。可以把这个概念应用到其他领域来思考。在汽车、飞机或船只领域，如果一家公司制造可重复使用的飞机，另一家公司制造只能用一次的飞机，那制造一次性飞机的公司，根本无法生存，因为每次飞行都需要购买一架新飞机。所以我多年来一直说，开发不能重复使用的火箭完全没有意义。Neuralink有望通过建立高带宽接口，降低超级智能风险主持人：和大家介绍一下Neuralink吧。马斯克：我认为我们可以通过Neuralink帮助很多有脑损伤的人。最终，通过植入设备，我认为几乎可以解决任何脑或脊柱损伤带来的问题。第一个部分叫做“心灵感应（telepathy）”，它能让你仅通过思考就使用手机或电脑。你可以闭着眼睛移动光标，因为它读取的，是大脑运动皮层的信号。另一个部分是“盲视（blindsight）”，这将使完全失明或没有视力的人，重新看到世界，它直接与大脑的视觉处理区域接口。我认为这是很有趣的进展。Neuralink的最终目标是建立高带宽接口，以降低数字超级智能的风险。我不确定这是否能起到减轻风险的作用，但能说它可能会有所帮助。这有点玄奥，但我认为长期来看，AI对齐（与人类价值观对齐）的限制因素可能是带宽，即我们与数字自我的通信速度。目前我们已经有一个数字的“第三层”，在边缘系统和皮层之上，那就是我们的手机、电脑和所有电子设备，但我们与它们的通信速度非常慢。人类的持续输出速率远低于每秒10比特，尤其是如果你考虑到24小时的周期，实际输出速率甚至低于每秒5比特，而电脑可以以每秒数万亿比特的速度进行通信。因此，增加通信带宽对AI对齐非常重要。而在此过程中，它将有效应对脑损伤问题。最终，我认为存在重新激活身体的潜力。你可以从一个Neuralink获取运动皮层的信号，然后将其发送到断裂脊髓后的另一个Neuralink，基本上是将运动皮层的信号进行分流，同时发送感觉信号。你需要处理感觉皮层和运动皮层，这样能使人重新行走。我认为这将是非常深远的，而且我确信，在物理上是可行的。不支持拜登对中国车加关税，高速充电未来将在全世界实现问：人们对你是否致力于推出低成本电动车市场仍有疑虑。在比亚迪等公司能生产大约1万美元的汽车的背景下，拜登政府的100%关税，是否利于你推进低成本电动车？如果是的话，交付的计划进程是什么？马斯克：总有人喜欢问那些会直接影响股票价格的问题，这并不是我最喜欢回答的问题。我也不认为这类问题对观众有多大兴趣。不过，我还想指出的是，实际上，特斯拉和我个人都没有要求这些关税，事实上，我对这些关税的宣布感到惊讶。特斯拉在中国市场上，在没有关税和差异化支持的情况下，也能很好地竞争。所以，总的来说，我不支持关税政策。我实际上支持取消对电动车的税收激励，但前提是对石油和天然气的税收激励也必须取消。所以，无论是对电动车还是石油和天然气，我支持无关税和无税收激励政策。如果这些都被取消，我认为那将是最好的。问：你对未来五年的电动汽车充电基础设施发展有何预见？马斯克：我认为实际上已经有很多充电基础设施。在特斯拉的超级充电桩的覆盖下，你几乎可以在整个欧洲范围内旅行。实际上，欧洲还有很多相当不错的第三方超级充电桩，你可以在北美的、中国、日本的任何地方旅行。所以我认为在大多数地区，高速充电的旅行自由已经得到解决，而且将在全球范围内得到解决。问：关于电动汽车，埃隆·马斯克和特斯拉在未来几年有什么创新项目？谢谢。（主持人）你想在这里透露你的秘密吗？我们都在等待一些重磅新闻。马斯克：我认为我们不应该在问答环节中发布产品公告，那样不合适。我们会在产品发布会上发布相关信息。不过，显然有些事情大家已经知道了，比如Robotaxi或Cybercab以及Optimus人形机器人。大规模的自动驾驶车辆和通用的人形机器人，这两项解决方案都是影响极其深远的。新闻报道是引流工具，不能读太多问：我们都只知道你在公众面前的一部分，即公共空间里的埃隆·马斯克。我们对这个角色的喜欢，以一种好的方式体现。你也一样吗？如果是，你如何查看有关这个角色的一切言行？马斯克：我现在基本不读像新闻简报之类的东西，我也很少读有关我的新闻文章。事实上，甚至沃尔特·艾萨克森的书（指《马斯克传》）我都没读，我问过沃尔特，我应该读这本书吗？他说不用。所以我甚至没有读过关于自己的书。我实际上不太清楚公众对我的看法，你知道，新闻的本质就是会夸大其词，越疯狂的事情越容易有流量。所以我觉得，就像当你看新闻时，如果读到你熟悉的事情，你会发现新闻的描述实际上并不太准确。这对每件事都适用。大家都想要流量。所以，内容标题看上去越疯狂，点击量就越多。这并不是说媒体完全不报道真实的事情。只是我们最好将媒体视为一个追求点击量的机器，而不是一个追求真实的机器。所以，你知道，我觉得最好看看某人自己说的话，而不是关于他们的报道文章。问：如果有一台时光机，能够回到过去和年轻的埃隆交谈，你会选择多大年龄的自己？你会告诉他什么？另外，我能试驾新车吗？马斯克：这是那种经典的时间旅行者问题。如果你回到过去告诉自己一些事情，是否会以一种你没有预料到的方式影响结果？所以，总的来说，我会说我对事情的发展还算满意。所以我可能不会做什么，因为你不知道对年轻的自己说一些良好的事情，是否会导致最糟糕的结果。所以我可能会好奇地看看年轻的我，我甚至可能会保持隐身并且不说什么。你永远不知道事情会如何发展。至于新车，当然可以。如果你给我发封电子邮件，在那时我会确保你能够试驾。问：嗨，埃隆。我来自Business Insider的Spuria Shavasha，关于特斯拉的问题。特斯拉在过去几个月里经历了一些波折，包括国内销售不振、股市下滑和裁员。回顾过去，有什么可以…马斯克：好了，现在可以停止这个问题了，因为我不认为Business Insider是一个真正的出版物。我们继续下一个问题吧。问：我的问题将涉及非洲技术发展。此前我与你可能认识的某人进行了一次很棒的对话，她被时代周刊提名为AI领域的世界影响者，她谈到了非洲大陆在技术方面日益增长的潜力，你预见到了哪些倡议、合作或贡献？马斯克：很难说。我确实认为非洲有很大的潜力。我认为阻碍非洲发展的一个因素是缺乏互联网连接，这是我们星链正在努力解决的问题。有了互联网连接，人们可以学习任何东西，并成为全球文化的一部分。而如果你没有连接，那么你就只能写信之类。因此，连接对非洲和其他地方参与全球文化并参与人工智能等活动至关重要。问：（主持人）在你离开之前，我会问你两个问题，用一个词回答：你最大的希望是什么？你最大的恐惧是什么？马斯克：我没法用一个词来回答。我想我最大的希望……哦，好吧，我想我可以用一个词来表达我的最大希望，那就是“火星”。（掌声）这可能很明显。所以，是的，火星将确保意识在很长一段时间内得以延续。至于我最大的恐惧，用一个词来表达，那就是“AI”。","news_type":1},"isVote":1,"likeStatus":false,"favoriteStatus":false,"reportStatus":false,"tweetType":1,"langContent":"CN"}],"isCommentEnd":false,"newsSizeData":{"likeSize":3,"commentSize":4,"repostSize":2,"favoriteSize":8,"likeStatus":false,"favoriteStatus":false},"APP":{"userAgent":"Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; ClaudeBot/1.0; +claudebot@anthropic.com)","isDev":false,"isTTM":false,"deviceId":"web-server-community-laohu8-v3","version":"4.29.1","shortVersion":"4.29.1","platform":"web","vendor":"web","appName":"laohu8","isIOS":false,"isAndroid":false,"isTiger":false,"isTHS":false,"isWeiXin":false,"isWeiXinMini":false,"isWeiBo":false,"isQQ":false,"isBaiduSwan":false,"isBaiduBox":false,"isDingTalk":false,"isToutiao":false,"isOnePlus":false,"isHuaWei":false,"isXiaomi":false,"isXiaomiWebView":false,"isOppo":false,"isVivo":false,"isSamsung":false,"isMobile":false},"href":"/m/news/1153175520"}