DeepMind创始人最新访谈：今年的诺贝尔奖，就像是AI的分水岭

学术头条10-22

【编者按】近日，人工智能（AI）不断霸屏各大社交媒体：AI 成为诺贝尔两大奖项最后赢家、通用人工智能（AGI）最早可能在 2026 年出现、百年难题李雅普诺夫函数谜题被 AI 攻克、AI 助力医疗取得突破进展......相关新闻引起人们广泛讨论。那么， AI 在促进科学方面究竟发挥了怎样的作用？我们可以一起来听听新晋诺奖得主、Google DeepMind 首席执行官 Demis Hassabis...

网页链接

免责声明：本文观点仅代表作者个人观点，不构成本平台的投资建议，本平台不对文章信息准确性、完整性和及时性做出任何保证，亦不对因使用或信赖文章信息引发的任何损失承担责任。

精彩评论

我们需要你的真知灼见来填补这片空白

发表看法

{"i18n":{"language":"zh_CN"},"isChannel":false,"data":{"share":"https://www.laohu8.com/m/news/2477225385?lang=zh_CN&edition=full","thumbnail":"","is_english":false,"pubTime":"2024-10-22 17:55","share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","id":"2477225385","market":"hk","top_or_hot":-1,"title":"DeepMind创始人最新访谈：今年的诺贝尔奖，就像是AI的分水岭","media":"学术头条","content":"<div>\n<p>【编者按】近日，人工智能（AI）不断霸屏各大社交媒体：AI 成为诺贝尔两大奖项最后赢家、通用人工智能（AGI）最早可能在 2026 年出现、百年难题李雅普诺夫函数谜题被 AI 攻克、AI 助力医疗取得突破进展......相关新闻引起人们广泛讨论。那么， AI 在促进科学方面究竟发挥了怎样的作用？我们可以一起来听听新晋诺奖得主、Google DeepMind 首席执行官 Demis Hassabis...</p>\n\n<a href=\"https://tech.ifeng.com/c/8dtLbX0Pyfi\">网页链接</a>\n\n</div>\n","source":"ifeng_tech","html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>DeepMind创始人最新访谈：今年的诺贝尔奖，就像是AI的分水岭</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\nDeepMind创始人最新访谈：今年的诺贝尔奖，就像是AI的分水岭\n</h2>\n\n<h4 class=\"meta\">\n\n\n2024-10-22 17:55 北京时间&nbsp;&nbsp;&nbsp;<a href=https://tech.ifeng.com/c/8dtLbX0Pyfi><strong>学术头条</strong></a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\n<p>【编者按】近日，人工智能（AI）不断霸屏各大社交媒体：AI 成为诺贝尔两大奖项最后赢家、通用人工智能（AGI）最早可能在 2026 年出现、百年难题李雅普诺夫函数谜题被 AI 攻克、AI 助力医疗取得突破进展......相关新闻引起人们广泛讨论。那么， AI 在促进科学方面究竟发挥了怎样的作用？我们可以一起来听听新晋诺奖得主、Google DeepMind 首席执行官 Demis Hassabis...</p>\n\n<a href=\"https://tech.ifeng.com/c/8dtLbX0Pyfi\">网页链接</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","isBrief":false,"type":0,"news_type":1,"symbol":"LU0496367417.USD","symbol_name":"富兰克林黄金和贵金属A（acc）","start_time":0,"source_url":"https://tech.ifeng.com/c/8dtLbX0Pyfi","article_id":"2477225385","we_media_id":null,"thumbnails":[],"rights":null,"url":"https://stock-news.laohu8.com/highlight/detail?id=2477225385","pubTimestamp":1729590918,"columns":[],"sourceInfo":{"source_id":"ifeng_tech","name":"凤凰网财经"},"weMediaInfo":null,"summary":"AlphaFold 模型是一种可以预测所有已知蛋白质结构的 AI 系统。但很难不认为这只是委员会的一个声明。这感觉像是 AI 的一个分水岭，人们认识到它实际上已经足够成熟，可以帮助科学发现。AlphaFold 就是最好的例子。有趣的是，他们决定将这些奖项合并在一起，几乎是双重相关的奖项。像 Francis Arnold等人研究了将 AI 与定向 [蛋白质] 进化相结合。从某种意义上说，预测是理解的一部分。","collect":0,"end_time":0,"defaultTopTitle":"ifeng.com","property":[],"viewcount":null,"language":"zh","relate_stocks":{"LU0496367417.USD":"富兰克林黄金和贵金属A（acc）","BK4538":"云计算","IE00BK4W5L77.USD":"HSBC GLOBAL FUNDS ICAV US EQUITY INDEX \"HC\" (USD) ACC","LU0128525689.USD":"TEMPLETON GLOBAL BALANCED \"A\"(USD) ACC","IE00BSNM7G36.USD":"NEUBERGER BERMAN SYSTEMATIC GLOBAL SUSTAINABLE VALUE \"A\" (USD) ACC","BK4077":"互动媒体与服务","IE00BK4W5M84.HKD":"HSBC GLOBAL FUNDS ICAV US EQUITY INDEX \"HC\" (HKD) ACC","BK4588":"碎股","LU0061474705.USD":"THREADNEEDLE (LUX) GLOBAL DYNAMIC REAL RETURN \"AU\" (USD) ACC","LU0097036916.USD":"贝莱德美国增长A2 USD","MSFT":"微软","BK4503":"景林资产持仓","LU0225283273.USD":"SCHRODER ISF GLOBAL EQUITY ALPHA \"A\" (USD) ACC","AGI":"Alamos Gold Inc","LU0061475181.USD":"THREADNEEDLE (LUX) AMERICAN \"AU\" (USD) ACC","LU0498741890.SGD":"FTIF - Franklin Gold and Precious Metals A (acc) SGD","BK4561":"索罗斯持仓","LU0130103400.USD":"Natixis Harris Associates Global Equity RA USD","LU0149725797.USD":"汇丰美国股市经济规模基金","IE00BKVL7J92.USD":"Legg Mason ClearBridge - US Equity Sustainability Leaders A Acc USD","IE0034235303.USD":"PINEBRIDGE US RESEARCH ENHANCED CORE EQUITY \"A\" (USD) ACC","LU0498741114.HKD":"FRANKLIN GOLD & PRECIOUS METALS \"A\" (HKD) ACC","LU0154236417.USD":"BGF US FLEXIBLE EQUITY \"A2\" ACC","IE00BJTD4N35.SGD":"Neuberger Berman US Long Short Equity A1  Acc SGD-H","GOOGL":"谷歌A","BK4017":"黄金","BK4514":"搜索引擎","LU0029864427.USD":"TEMPLETON GLOBAL \"A\" (USD) INC","BK4581":"高盛持仓","LU0128525929.USD":"TEMPLETON GLOBAL \"A\" (USD) ACC","BK4573":"虚拟现实","LU0234570918.USD":"高盛全球核心股票组合Acc Close","LU0187121727.USD":"FIDELITY SUSTAINABLE US EQUITY \"A\" (USD) INC","LU0170899867.USD":"EASTSPRING INVESTMENTS WORLD VALUE EQUITY  \"A\" (USD) ACC","LU0211327993.USD":"TEMPLETON GLOBAL EQUITY INCOME \"A\" (USD) ACC","LU0048573561.USD":"FIDELITY AMERICA \"A\" (USD) INC","BK4574":"无人驾驶","IE0004091025.USD":"BNY MELLON GLOBAL OPPORTUNITIES \"B\" (USD) ACC","LU0052756011.USD":"TEMPLETON GLOBAL BALANCED \"A\" (USD) INC","BK4592":"伊斯兰概念","LU0056508442.USD":"贝莱德世界科技基金A2","IE00B1BXHZ80.USD":"Legg Mason ClearBridge - US Appreciation A Acc USD","LU0080751232.USD":"富达环球多元动力基金A","IE00B1XK9C88.USD":"PINEBRIDGE US LARGE CAP RESEARCH ENHANCED \"A\" (USD) ACC","LU0048584097.USD":"FIDELITY FUNDS  GLOBAL THEMATIC OPPORTUNITIES \"A\" (USD) INC","DH":"Definitive Healthcare Corp.","LU0158827781.USD":" ALLIANZ GLOBAL SUSTAINABILITY \"AT\" (USD) ACC","LU0130518102.USD":"HARRIS ASSOCIATES GLOBAL EQUITY \"R\" INC","FT":"富兰克林通用信托","LU0234572021.USD":"高盛美国核心股票组合Acc","IE00BKPKM429.USD":"NEUBERGER BERMAN GLOBAL SUSTAINABLE EQUITY \"A\" (USD) ACC"},"translate_title":"The latest interview with the founder of DeepMind: This year's Nobel Prize is like a watershed for AI","themeId":null,"isJumpTheme":false,"ttsUrl":null,"symbols_score_info":{"AGI":1,"FT":1,"GOOGL":0.9,"DH":0.78,"MSFT":0.6},"content_text":"【编者按】近日，人工智能（AI）不断霸屏各大社交媒体：AI 成为诺贝尔两大奖项最后赢家、通用人工智能（AGI）最早可能在 2026 年出现、百年难题李雅普诺夫函数谜题被 AI 攻克、AI 助力医疗取得突破进展......相关新闻引起人们广泛讨论。那么， AI 在促进科学方面究竟发挥了怎样的作用？我们可以一起来听听新晋诺奖得主、Google DeepMind 首席执行官 Demis Hassabis 的观点。日前，英国《金融时报》（FT）刊登了 Hassabis 接受科技记者 Madhumita Murgia 的专访。在访谈中，Hassabis 深度探讨了 AI 在生物学、材料设计、气候建模等科学领域的突破性应用及其发展方向 ，并强 调了在推进 AGI 过程中对系统理解、安全性及社会价值观讨论的重要性。他说道： “AI 已经到达一个分水岭，人们认识到它实际上已经足够成熟，可以帮助科学发现。”部分核心观点如下：没人知道[诺贝尔]委员会在想什么...... 这感觉像是 AI 的一个分水岭，人们认识到它实际上已经足够成熟，可以帮助科学发现。希望 10 年后回顾 AlphaFold，它将预示着所有这些不同领域的科学发现进入一个新的黄金时代。从某种意义上说，预测是理解的一部分。如果能预测，就能理解。AI 是一门工程科学。这意味着你必须先制造出 AI，然后才能研究它。这与自然科学不同，在自然科学中，现象已经存在。[实现 AGI 的]科学方法意味着要将更多的时间、精力和思想投入到理解和分析工具、基准测试和评估上...... AI 安全机构也需要投入 10 倍以上的精力。学术界和民间社会也是如此。科学就是在一切发生之前你能理解的东西。学术头条在不改变原文大意的情况下，对访谈内容做了简单的编译。内容如下：Madhumita Murgia：你获得诺贝尔奖已经一天了，感觉如何？Demis Hassabis：说实话，昨天的一切都很模糊，我的脑子完全乱了，这种情况几乎从未发生过。那是一次奇怪的经历，几乎就像灵魂出窍一样。今天仍然感觉很不真实。今天早上醒来时，我心想，这是真的吗？说实话，这仍然感觉像一场梦。MM：由于你在 AlphaFold 模型方面的工作，蛋白质折叠问题已基本得到解决。AlphaFold 模型是一种可以预测所有已知蛋白质结构的 AI 系统。你认为 AI 要破解的下一个巨大挑战是什么？DH：有几个。首先，在生物学方面——你可以看到我们在 AlphaFold 3 中的进展——我们的想法是了解[生物]相互作用，并最终模拟整个路径。然后，我可能想在某个时候构建一个虚拟细胞。借助 Isomorphic（DeepMind 的药物开发子公司），我们正尝试拓展药物研发领域——设计化学化合物，找出它们的结合位置，预测这些化合物的性质、吸收、毒性等等。我们在 Eli Lilly 和 Novartis 都有很好的合作伙伴……我们与他们合作开展项目，进展非常顺利。我想解决一些疾病。我希望我们能帮助治愈一些疾病。MM： 你们有兴趣解决什么特定的疾病吗？DH ：我们有。我们正在开展 6 个药物项目。我不能说是哪些领域，但它们都是健康的重要领域。我希望我们能在未来几年内将一些药物投入临床研究——非常快。然后，显然，我们必须经历整个临床过程，但至少药物研发的部分将大大缩减。MM：生物学之外还有什么其他领域让你感兴趣吗？DH：我对我们的材料设计工作感到非常兴奋：去年我们在 Nature 上发表了一篇关于一种名为 GNoME 的工具的论文（一种发现了 220 万个新晶体的 AI 工具）。这是 AlphaFold-1 级材料设计。我们需要达到 AlphaFold-2 级，我们正在努力实现这个目标。我们将在 AI 的帮助下解决一些重要的数学猜想。今年夏天我们获得了奥林匹克竞赛银牌。这是一场非常艰难的比赛。未来几年里，我们将解决其中一个重要猜想。然后，在能源/气候方面，我们的 Graphcast 天气建模赢得了 MacRobert 奖，这是工程方面的一项巨大荣誉。我们正在研究是否可以使用这些技术来帮助气候建模，使其更加精确，这对于帮助应对气候变化以及优化电网等都很重要。MM：看来你的重点更多地放在应用方面——关注那些能转化为现实影响的工作，而不是纯粹的基础性工作。DH：这么说也许没错。像蛋白质折叠这样的挑战并不多。我过去称它为生物学中的费马最后定理。没有多少事情像蛋白质折叠这样重要且长期存在。显然，我非常专注于利用基于智能体的系统推进 AGI。我们可能想谈谈 Astra 项目以及数字助理、通用数字助理的未来，我个人也在研究这些，我认为这是通往 AGI 的道路。MM：AI 领域同时获得诺贝尔化学奖和诺贝尔物理学奖（今年的物理学奖授予了 Geoffrey Hinton 和 John Hopfield，以表彰他们在现代 AI 系统的基础技术神经网络方面的工作）如何看待这项技术在科学中的作用和影响？DH：这很有趣。显然，没人知道[诺贝尔]委员会在想什么。但很难不认为这只是委员会的一个声明。这感觉像是 AI 的一个分水岭，人们认识到它实际上已经足够成熟，可以帮助科学发现。AlphaFold 就是最好的例子。而 Geoff 和 Hopfield 的奖项则是为了更基础、更底层的算法工作……有趣的是，他们决定将这些奖项合并在一起，几乎是双重相关的奖项。对我来说，我希望 10 年后回顾 AlphaFold，它将预示着所有这些不同领域的科学发现进入一个新的黄金时代。我希望我们将为这一成果锦上添花。我认为，我们是世界上非常独特的大型实验室之一，实际上我们不仅谈论将其用于科学研究，而且正在付诸实践。学术界也有很多很酷的事情发生。我曾和天体物理学领域的一位诺贝尔奖获得者聊过，他正在用它扫描天空，寻找大气信号等等。这很完美。它正在欧洲核子研究中心使用。所以也许委员会想承认这一时刻。我认为他们这样做很酷。MM：你的 AlphaFold 研究将为我们带来哪些新发现？你是否在其他实验室看到过让你兴奋的有趣突破？DH：Nature 上关于核孔复合体的特刊给我留下了深刻的印象，核孔复合体是人体最大的蛋白质之一，它像大门一样打开和关闭，让营养物质进出细胞核。四项研究同时发现了这种结构。四篇论文中有三篇发现 AlphaFold 预测是他们能够解决整体结构的关键部分。这是基本的生物学理解。这是让我印象深刻的事情。酶设计确实很有趣。像 Francis Arnold（美国生物化学家、诺贝尔奖获得者）等人研究了将 AI 与定向 [蛋白质] 进化相结合。有很多有趣的组合。许多顶级实验室已经将其用于植物，研究能否让植物更好地抵抗气候变化。小麦有数万种蛋白质。没有人研究过这一点，因为这样做的实验成本太高。它对各个领域都有帮助，很高兴看到这一点。MM：我有一个关于科学事业的概念性问题。我们原本认为预测某件事就是最重要的，于是花费了那么多时间和精力去预测，比如蛋白质的结构。但现在我们可以利用机器学习快速做到这一点，而无需理解“为什么”。这是否意味着作为科学家，我们应该努力推动自己去寻找更多的东西？这是否会改变我们学习科学概念的方式？DH：这个问题很有趣。从某种意义上说，预测是理解的一部分。如果能预测，就能理解。现在，有了这些新的 [AI] 系统，它们就成了世界上的新产物，它们不符合物体的常规分类。它们本身具有一些内在能力，这使它们成为一类独特的新工具。我的观点是，如果产出足够重要，例如蛋白质结构，那么它本身就是有价值的。如果生物学家正在研究利什曼病，那么他们从哪里获得蛋白质结构并不重要，只要它们是正确的，他们就可以在此基础上进行科学研究。或者，如果你治愈了癌症，你不会说：别给我这个，因为我们不了解它。在没有完全理解的情况下，这将是一件了不起的事情。科学有很多抽象概念。整个化学都是这样，对吧？它建立在物理学的基础上，然后生物学从中衍生出来。但它可以在其自己的抽象层面上被理解，而不必理解其下面的所有物理学。你可以谈论原子、化学物质和化合物，而不必完全理解量子力学的一切——我们还没有完全理解量子力学。这是一个抽象层。它已经存在于科学中。至于生物学，我们可以研究生命，但仍然不知道生命是如何进化或出现的。我们甚至无法正确定义它。但这些都是庞大的领域：生物学、化学和物理学。所以从某种意义上说，这并不罕见——AI 就像一个抽象层。构建程序和网络的人在某种程度上理解这一点，但这种新兴属性就从中产生，在这种情况下就是预测。但你可以在科学层面上分析这些预测本身。话虽如此，我认为理解非常重要。尤其是当我们越来越接近 AGI 时。我认为它会比现在好得多。AI 是一门工程科学。这意味着你必须先制造出 AI，然后才能研究它。这与自然科学不同，在自然科学中，现象已经存在。而且，AI 是一种人造的、工程化的人工制品，这并不意味着它的复杂程度会低于我们想要研究的自然现象。所以你应该预料到，理解、解构和解构一个像神经网络这样的人工制品同样困难。这种情况现在正在发生，我们正在取得一些进展。有一整个领域叫做“机理可解释性”（mechanistic interpretation），就是使用神经科学的工具和理念来分析这些虚拟大脑。我热爱这个领域，并在 DeepMind 鼓励这方面的工作。MM：我查阅了你之前提到的一个关于利用神经网络绘制果蝇连接组（大脑图谱）的项目。AI 有助于理解这一自然现象。DH：没错。这是一个完美的例子，说明这些东西是如何结合起来的，然后我们慢慢地对这些系统有了越来越多的了解。所以，是的，这是一个很好的问题，我非常乐观地认为，在未来几年里，我们将在理解 AI 系统方面取得很大进展。当然，也许它们也可以自我解释。想象一下将 AlphaFold 与语言能力系统结合起来，也许它可以解释一下它在做什么。MM：AI 领域的技术行业竞争态势已经变得更加激烈。你认为这会如何影响和塑造这一领域的进步？你是否担心创意会越来越少，人们会更加关注基于 Transformer 的大语言模型？DH：我认为，实际上许多领先的实验室正在缩小他们的研究范围，专注于扩展 transformer。显然，它们非常棒，将成为终极 AGI 系统的关键组成部分。但我们一直坚信探索和创新研究。我们一直保持着这样做的能力——在发明下一代 transformer 方面，我们拥有迄今为止最广泛和最深入的研究平台，如果需要的话。这是我们科学传统的一部分，不仅在 DeepMind，在 Google Brain 也是如此。我们正在加倍努力，同时在工程和规模化方面与其他人保持同步。我们必须这样做——部分原因是为了看看这能走多远，这样你就知道你需要探索什么。我一直相信，在探索新想法的同时，也要将令人兴奋的想法发挥到极致。除非你知道当前想法的绝对极限，否则你不知道你需要什么突破。在长上下文窗口（衡量 LLM 一次可以处理多少文本的指标）中看到了这一点。这是一项很酷的创新，没有人能够复制它。这只是其中一件事——我们的主流工作中还将出现更多突破。MM：你和其他人都说过 AGI 距离实现还有 5 到 20 年的时间：实现这一目标的科学方法是什么样子的？当我们实现这一目标时会发生什么？DH：科学方法意味着要将更多的时间、精力和思想投入到理解和分析工具、基准测试和评估上。不仅是公司，AI 安全机构也需要投入 10 倍以上的精力。我认为学术界和民间社会也是如此。我认为我们需要了解系统在做什么、这些系统的局限性以及如何控制和保护这些系统。理解是科学方法的重要组成部分。我认为纯工程学缺少这一点。工程学只是观察——它是否有效？如果不行，就再试一次。这都是反复试验的过程。科学就是在一切发生之前你能理解的东西。理想情况下，这种理解意味着你会犯更少的错误。这对 AGI 和 AI 很重要，因为它是一项非常强大的技术，你希望尽可能少犯错误。当然，你希望能够做到完美，但它太新了，发展太快了。但我们肯定可以做得比过去的技术更好。我认为我们需要用 AI 做到这一点。这就是我所提倡的。当我们距离 AGI 更近时，也许还需要几年时间，就会出现一个社会问题，而这个问题也可以通过科学方法来解答。我们希望这些系统拥有什么价值观？我们希望为它们设定什么目标？因此，这两个问题是分开的。技术上的问题是，如何让事情朝着你设定的目标前进？但这并不能帮助你决定这个目标应该是什么，对吧？但你需要这两件事都正确才能建立一个安全的 AGI 系统。我认为第二个问题可能更难回答，比如，目标是什么、价值观是什么等等。我认为我们需要就此展开广泛讨论，与政府、民间社会、学术界、社会各界——甚至包括社会科学和哲学界展开讨论。我尝试与所有这些类型的人交流，但在这方面我有点与众不同。我试图鼓励更多的人这样做，或者至少充当榜样，充当将这些声音带到谈判桌上的渠道。我认为我们应该现在就开始，因为即使 AGI 还需要 10 年时间才能实现，而且有些人认为它可能会更快，时间也不多了。原文链接：https://www.ft.com/content/72d2c2b1-493b-4520-ae10-41c1a7f3b7e4","kind":"news","is_publish_news":true,"is_publish_highlight":false,"is_publish_live":false,"is_publish_wemedia":null,"editions":null,"column":"","sentiment":"1","news_tag":"","news_rank":0,"symbols":[],"gpt_button":0},"commentList":[],"isCommentEnd":true,"newsSizeData":{"likeSize":0,"commentSize":0,"repostSize":0,"favoriteSize":0,"likeStatus":false,"favoriteStatus":false},"APP":{"userAgent":"Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; ClaudeBot/1.0; +claudebot@anthropic.com)","isDev":false,"isTTM":false,"deviceId":"web-server-community-laohu8-v3","version":"4.29.3","shortVersion":"4.29.3","platform":"web","vendor":"web","appName":"laohu8","isIOS":false,"isAndroid":false,"isTiger":false,"isTHS":false,"isWeiXin":false,"isWeiXinMini":false,"isWeiBo":false,"isQQ":false,"isBaiduSwan":false,"isBaiduBox":false,"isDingTalk":false,"isToutiao":false,"isOnePlus":false,"isHuaWei":false,"isXiaomi":false,"isXiaomiWebView":false,"isOppo":false,"isVivo":false,"isSamsung":false,"isMobile":false},"href":"/m/news/2477225385"}