沙发_老虎社区_美港股上老虎

美股价投王2077
2023-03-29

沙发

马斯克、图灵奖得主等叫停GPT-4后续大模型，千人响应

呼吁所有 AI 实验室立即暂停训练比 GPT-4 更强大的 AI 系统

马斯克、图灵奖得主等叫停GPT-4后续大模型，千人响应

免责声明：上述内容仅代表发帖人个人观点，不构成本平台的任何投资建议。

推荐
最新

暂无评论

热议股票

关于我们·老虎社区守则·老虎社区账号管理规范·老虎社区服务协议·老虎社区隐私政策

公司名称：北京至简风宜信息技术有限公司

违法和不良信息投诉：010-5681-3562（工作时间9:30-18:30）

邮箱：service@laohu8.com

营业执照：91110105MA01A4U55R

ICP备：京ICP备18016422号

网安备：京公网安备11010502036490

关注我们

{"i18n":{"language":"zh_CN"},"data":{"magic":2,"id":659277872,"tweetId":"659277872","gmtCreate":1680103003396,"gmtModify":1680103740251,"author":{"id":3525131286963843,"idStr":"3525131286963843","authorId":3525131286963843,"authorIdStr":"3525131286963843","name":"美股价投王2077","avatar":"https://static.tigerbbs.com/0f6b2ca4b7f7f8aa96dfb4914e455ebc","vip":1,"userType":1,"introduction":"","boolIsFan":false,"boolIsHead":false,"crmLevel":1,"crmLevelSwitch":0,"individualDisplayBadges":[],"fanSize":2,"starInvestorFlag":false},"themes":[],"images":[],"coverImages":[],"html":"<html><head></head><body>沙发</body></html>","htmlText":"<html><head></head><body>沙发</body></html>","text":"沙发","highlighted":1,"essential":1,"paper":1,"likeSize":0,"commentSize":0,"repostSize":0,"favoriteSize":0,"link":"https://laohu8.com/post/659277872","repostId":2323223301,"repostType":2,"repost":{"id":"2323223301","kind":"highlight","pubTimestamp":1680069488,"share":"https://www.laohu8.com/m/news/2323223301?lang=&edition=full","pubTime":"2023-03-29 13:58","market":"us","language":"zh","title":"马斯克、图灵奖得主等叫停GPT-4后续大模型，千人响应","url":"https://stock-news.laohu8.com/highlight/detail?id=2323223301","media":"虎嗅","summary":"呼吁所有 AI 实验室立即暂停训练比 GPT-4 更强大的 AI 系统","content":"<html><body>本文来自微信公众号：机器之心 （ID：almosthuman2014），作者：机器之心编辑部，头图来自：<a href=\"https://laohu8.com/S/000681\">视觉中国</a>人们一直在说 ChatGPT 有风险，OpenAI CEO 也这么说，现在终于有人出手了。在 GPT-4 诞生两周之际，一封公开信正在社交媒体发酵。这封公开信指出，最近几个月，人工<a href=\"https://laohu8.com/S/5RE.SI\">智能</a>实验室陷入了一场失控的竞赛，他们没有办法理解、预测或可靠地控制自己创造的大模型。人类社会对其可能造成的影响也没有做好准备。因此，公开信呼吁，所有 AI 实验室应立即暂停训练比 GPT-4 更强大的 AI 模型，为期至少 6 个月。<img src=\"https://img.huxiucdn.com/article/content/202303/29/123626167281.png?imageView2/2/w/1000/format/png/interlace/1/q/85\"/>公开信链接：https://futureoflife.org/open-letter/pause-giant-ai-experiments/截至目前，图灵奖得主 Yoshua Bengio、<a href=\"https://laohu8.com/S/TSLA\">特斯拉</a> CEO（OpenAI 联合创始人）伊隆・马斯克、纽约大学名誉教授 Gary Marcus、UC 伯克利教授 Stuart Russell 等 1000 多人已经在这封公开信上签名。<img src=\"https://img.huxiucdn.com/article/content/202303/29/123626946088.png?imageView2/2/w/1000/format/png/interlace/1/q/85\"/>不过一直抨击ChatGPT的Yann LeCun公开表示不会签署这个公开信，不同意这封公开信的内容。<img src=\"https://img.huxiucdn.com/article/content/202303/29/123627436937.png?imageView2/2/w/1000/format/png/interlace/1/q/85\"/>以下为公开信内容：大量研究[1]表明：具有人类水平智能的 AI 系统可能对社会和人类带来极大的风险，这一点已经得到顶级 AI 实验室[2]的认同。正如广泛认可的 Asilomar AI 原则中所述，高级 AI 可能代表地球生命史上的深刻变化，应以相应的关怀和资源进行规划和管理。不幸的是，目前尚无这种级别的规划和管理。最近几个月人工智能实验室陷入了一场失控的竞赛，他们致力于开发和部署更强大的数字思维，但是没有人能理解、预测或可靠地控制这些大模型，甚至模型的创造者也不能。当代人工智能系统现在在一般任务[3]上表现与人类相当，我们必须扪心自问：<ul><li>我们是否应该让机器用宣传（尤指误导的）和谎言充斥我们的信息渠道？</li><li>我们应该自动化所有的工作，包括令人满意的工作吗？</li><li>我们是否应该发展最终可能超越我们并取代我们的非人类思维？</li><li>我们应该冒险失去对我们文明的控制吗？</li></ul>我们不应该将此类决定交给未经选举产生的技术领导者。只有当我们确信 AI 大模型的影响是积极的并且风险是可控的时，我们才能开发强大的人工智能系统。而且，这种判断必须有充分的理由，并随着系统潜在影响的大小而跟进。OpenAI 最近关于人工智能的声明指出：“在开始训练未来系统之前进行独立审查可能很重要，并且对于最先进的工作来说，人们应该在合适的时间点限制用于创建新系统的计算增长率。”我们认为，现在已经到了这个时间点。因此，我们呼吁所有 AI 实验室立即暂停训练比 GPT-4 更强大的 AI 系统，为期至少 6 个月。这种暂停应该是公开的和可验证的，并且所有关键参与者也应该暂停相关工作。如果不能迅速实施这种暂停计划，政府机构应介入并暂停。人工智能实验室和独立专家应该利用这次暂停，共同开发和实施一套用于高级人工智能设计和开发的共享安全协议，并由独立的外部专家进行严格审计和监督。这些协议应确保遵守它们的系统是安全的，无可置疑的[4]。这并不意味着总体上暂停 AI 开发，而是从具有新兴功能的、不可预测的大型黑盒模型的危险竞赛中后退一步。人工智能的研究和开发应该重新聚焦于使当今强大的、最先进的系统更加准确、安全、可解释、透明、稳健、一致、可信和可靠。同时，人工智能开发者必须与政策制定者合作，大幅加快强大的人工智能治理系统的开发。这些工作至少应该包括：<ul><li>专门针对人工智能的新的、有能力的监管机构；</li><li>对高能力的人工智能系统和大型计算能力池的监督和跟踪；</li><li>帮助区分真实和合成数据的溯源、水印系统，并跟踪模型泄露；</li><li>强大的审计和认证生态系统；</li><li>对人工智能造成的伤害的责任认定；</li><li>对人工智能安全技术研究的强大公共资金；</li><li>资源丰富的机构，以应对人工智能将造成的巨大经济和政治混乱。</li></ul>人类可以通过人工智能享受一个繁荣的未来。在成功创造出强大的人工智能系统之后，我们现在可以享受一个“人工智能之夏”。在这个夏天，我们收获了回报，为所有人的明确利益设计这些系统，并给社会一个适应的机会。社会已经暂停了对自身有潜在灾难性影响的其他技术[5]。我们在这个领域也可以这样做。让我们享受一个漫长的人工智能之夏，而不是在毫无准备的情况下冲进秋天（Let's enjoy a long AI summer， not rush unprepared into a fall）。签名者：<ul><li>Yoshua Bengio，蒙特利尔大学，因开发深度学习而获得图灵奖，蒙特利尔学习算法研究所负责人</li><li>Stuart Russell，加州大学伯克利分校智能系统中心创始人兼计算机科学专业教授，标准教科书《人工智能：一种现代的方法》的合著者</li><li>Elon Musk，SpaceX、Tesla 和 Twitter 的首席执行官</li><li>Gary Marcus，纽约大学，AI 研究员，名誉教授</li><li>Steve Wozniak，苹果公司联合创始人</li><li>杨安泽，2020 年美国总统候选人，<a href=\"https://laohu8.com/S/NYT\">纽约时报</a>畅销书作家</li><li>Emad Mostaque，Stability AI 首席执行官</li><li>Zachary Kenton，DeepMind，高级研究科学家</li></ul>目前，这封仅仅出现数小时的公开信在持续发酵，在国外 AI 社区已经引起了极大的关注与讨论。因为有大佬带头，支持者甚多。当然，在看到 ChatGPT 的成功之后，也有一大批人反对这个公开信。目前而言，谁是谁非难有定论。公开信参考链接：[1] Bender， E. M.， Gebru， T.， McMillan-Major， A.， &amp; Shmitchell， S. (2021， March). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?. In Proceedings of the 2021 ACM conference on fairness， accountability， and transparency (pp. 610-623).Bostrom， N. (2016). Superintelligence. Oxford University Press.Bucknall， B. S.， &amp; Dori-Hacohen， S. (2022， July). Current and near-term AI as a potential existential risk factor. In Proceedings of the 2022 AAAI/ACM Conference on AI， Ethics， and Society (pp. 119-129).Carlsmith， J. (2022). Is Power-Seeking AI an Existential Risk?. arXiv preprint arXiv:2206.13353.Christian， B. (2020). The Alignment Problem: Machine Learning and human values. Norton &amp; Company.Cohen， M. et al. (2022). Advanced Artificial Agents Intervene in the Provision of Reward. AI Magazine， 43 (3) (pp. 282-293).Eloundou， T.， et al. (2023). GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models.Hendrycks， D.， &amp; Mazeika， M. (2022). X-risk Analysis for AI Research. arXiv preprint arXiv:2206.05862.Ngo， R. (2022). The alignment problem from a deep learning perspective. arXiv preprint arXiv:2209.00626.Russell， S. (2019). Human Compatible: Artificial Intelligence and the Problem of Control. Viking.Tegmark， M. (2017). Life 3.0: Being Human in the Age of Artificial Intelligence. Knopf.Weidinger， L. et al (2021). Ethical and social risks of harm from language models. arXiv preprint arXiv:2112.04359.[2] Ordonez， V. et al. (2023， March 16). OpenAI CEO Sam Altman says AI will reshape society， acknowledges risks: 'A little bit scared of this’. ABC News.Perrigo， B. (2023， January 12). DeepMind CEO Demis Hassabis Urges Caution on AI. Time.[3] Bubeck， S. et al. (2023). Sparks of Artificial General Intelligence: Early experiments with GPT-4. arXiv:2303.12712.OpenAI (2023). GPT-4 Technical Report. arXiv:2303.08774.[4] Ample legal precedent exists – for example， the widely adopted OECD AI Principles require that AI systems \"function appropriately and do not pose unreasonable safety risk\".[5] Examples include human cloning， human germline modification， gain-of-function research， and eugenics. 本文来自微信公众号：机器之心 （ID：almosthuman2014），作者：机器之心编辑部</body></html>","source":"highlight_huxiu","collect":0,"html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>马斯克、图灵奖得主等叫停GPT-4后续大模型，千人响应</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\n马斯克、图灵奖得主等叫停GPT-4后续大模型，千人响应\n</h2>\n\n<h4 class=\"meta\">\n\n\n2023-03-29 13:58 北京时间&nbsp;&nbsp;&nbsp;<a href=https://www.huxiu.com/article/971372.html>虎嗅</a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\n本文来自微信公众号：机器之心 （ID：almosthuman2014），作者：机器之心编辑部，头图来自：视觉中国人们一直在说 ChatGPT 有风险，OpenAI CEO 也这么说，现在终于有人出手了。在 GPT-4 诞生两周之际，一封公开信正在社交媒体发酵。这封公开信指出，最近几个月，人工智能实验室陷入了一场失控的竞赛，他们没有办法理解、预测或可靠地控制自己创造的大模型。人类社会对其可能造成的...\n\n<a href=\"https://www.huxiu.com/article/971372.html\">Web Link</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","type":0,"thumbnail":"https://img.huxiucdn.com/article/cover/202303/29/133327841316.jpg?imageView2/1/w/720/h/405/|imageMogr2/strip/interlace/1/quality/85/format/jpg","relate_stocks":{"LU0820561818.USD":"安联收益及增长平衡基金Cl AM DIS","LU1551013425.SGD":"Allianz Income and Growth Cl AMg2 DIS H2-SGD","LU0348723411.USD":"ALLIANZ GLOBAL HI-TECH GROWTH \"A\" (USD) INC","LU1720051108.HKD":"ALLIANZ GLOBAL ARTIFICIAL INTELLIGENCE \"AT\" (HKD) ACC","LU0943347566.SGD":"安联收益及增长平衡基金AM H2-SGD","LU2357305700.SGD":"Allianz Global Artificial Intelligence ET H2-SGD","LU0234570918.USD":"高盛全球核心股票组合Acc Close","LU1839511570.USD":"WELLS FARGO GLOBAL FACTOR ENHANCED EQUITY \"I\" (USD) ACC","BK4534":"瑞士信贷持仓","LU1861559042.SGD":"日兴方舟颠覆性创新基金B SGD","BK4585":"ETF&股票定投概念","LU0053666078.USD":"摩根大通基金-美国股票A（离岸）美元","LU1429558221.USD":"Natixis Loomis Sayles US Growth Equity RA USD","LU0823411888.USD":"法巴消费创新基金 Cap","LU1435385759.SGD":"Natixis Loomis Sayles US Growth Equity RA SGD-H","BK4555":"新能源车","LU0082616367.USD":"摩根大通美国科技A（dist）","LU1551013342.USD":"Allianz Income and Growth Cl AMg2 DIS USD","LU0056508442.USD":"贝莱德世界科技基金A2","LU0719512351.SGD":"JPMorgan Funds - US Technology A (acc) SGD","IE00B1XK9C88.USD":"PINEBRIDGE US LARGE CAP RESEARCH ENHANCED \"A\" (USD) ACC","BK4527":"明星科技股","LU0820561909.HKD":"ALLIANZ INCOME AND GROWTH \"AM\" (HKD) INC","IE00BSNM7G36.USD":"NEUBERGER BERMAN SYSTEMATIC GLOBAL SUSTAINABLE VALUE \"A\" (USD) ACC","LU1861220033.SGD":"Blackrock Next Generation Technology A2 SGD-H","LU2249611893.SGD":"BNP PARIBAS ENERGY TRANSITION \"CRH\" (SGD) ACC","BK4588":"碎股","BK4550":"红杉资本持仓","LU0234572021.USD":"高盛美国核心股票组合Acc","LU2063271972.USD":"富兰克林创新领域基金","BK4574":"无人驾驶","BK4551":"寇图资本持仓","LU0823414478.USD":"法巴经典能源转换基金","IE00BWXC8680.SGD":"PINEBRIDGE US LARGE CAP RESEARCH ENHANCED \"A5\" (SGD) ACC","TSLA":"特斯拉","LU0097036916.USD":"贝莱德美国增长A2 USD","BK4581":"高盛持仓","LU2087621335.USD":"ALLSPRING GLOBAL FACTOR ENHANCED EQUITY \"A\" (USD) ACC","LU0689472784.USD":"安联收益及增长基金Cl AM AT Acc","LU1852331112.SGD":"Blackrock World Technology Fund A2 SGD-H","LU2326559502.SGD":"Natixis Loomis Sayles US Growth Equity P/A SGD-H","LU1720051017.SGD":"Allianz Global Artificial Intelligence AT Acc H2-SGD","LU0316494557.USD":"FRANKLIN GLOBAL FUNDAMENTAL STRATEGIES \"A\" ACC","LU0198837287.USD":"UBS (LUX) EQUITY SICAV - USA GROWTH \"P\" (USD) ACC","BK4099":"汽车制造商","LU1861215975.USD":"贝莱德新一代科技基金 A2","LU1548497426.USD":"安联环球人工智能AT Acc","BK4511":"特斯拉概念","LU1861558580.USD":"日兴方舟颠覆性创新基金B"},"source_url":"https://www.huxiu.com/article/971372.html","is_english":false,"share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","article_id":"2323223301","content_text":"本文来自微信公众号：机器之心 （ID：almosthuman2014），作者：机器之心编辑部，头图来自：视觉中国人们一直在说 ChatGPT 有风险，OpenAI CEO 也这么说，现在终于有人出手了。在 GPT-4 诞生两周之际，一封公开信正在社交媒体发酵。这封公开信指出，最近几个月，人工智能实验室陷入了一场失控的竞赛，他们没有办法理解、预测或可靠地控制自己创造的大模型。人类社会对其可能造成的影响也没有做好准备。因此，公开信呼吁，所有 AI 实验室应立即暂停训练比 GPT-4 更强大的 AI 模型，为期至少 6 个月。公开信链接：https://futureoflife.org/open-letter/pause-giant-ai-experiments/截至目前，图灵奖得主 Yoshua Bengio、特斯拉 CEO（OpenAI 联合创始人）伊隆・马斯克、纽约大学名誉教授 Gary Marcus、UC 伯克利教授 Stuart Russell 等 1000 多人已经在这封公开信上签名。不过一直抨击ChatGPT的Yann LeCun公开表示不会签署这个公开信，不同意这封公开信的内容。以下为公开信内容：大量研究[1]表明：具有人类水平智能的 AI 系统可能对社会和人类带来极大的风险，这一点已经得到顶级 AI 实验室[2]的认同。正如广泛认可的 Asilomar AI 原则中所述，高级 AI 可能代表地球生命史上的深刻变化，应以相应的关怀和资源进行规划和管理。不幸的是，目前尚无这种级别的规划和管理。最近几个月人工智能实验室陷入了一场失控的竞赛，他们致力于开发和部署更强大的数字思维，但是没有人能理解、预测或可靠地控制这些大模型，甚至模型的创造者也不能。当代人工智能系统现在在一般任务[3]上表现与人类相当，我们必须扪心自问：我们是否应该让机器用宣传（尤指误导的）和谎言充斥我们的信息渠道？我们应该自动化所有的工作，包括令人满意的工作吗？我们是否应该发展最终可能超越我们并取代我们的非人类思维？我们应该冒险失去对我们文明的控制吗？我们不应该将此类决定交给未经选举产生的技术领导者。只有当我们确信 AI 大模型的影响是积极的并且风险是可控的时，我们才能开发强大的人工智能系统。而且，这种判断必须有充分的理由，并随着系统潜在影响的大小而跟进。OpenAI 最近关于人工智能的声明指出：“在开始训练未来系统之前进行独立审查可能很重要，并且对于最先进的工作来说，人们应该在合适的时间点限制用于创建新系统的计算增长率。”我们认为，现在已经到了这个时间点。因此，我们呼吁所有 AI 实验室立即暂停训练比 GPT-4 更强大的 AI 系统，为期至少 6 个月。这种暂停应该是公开的和可验证的，并且所有关键参与者也应该暂停相关工作。如果不能迅速实施这种暂停计划，政府机构应介入并暂停。人工智能实验室和独立专家应该利用这次暂停，共同开发和实施一套用于高级人工智能设计和开发的共享安全协议，并由独立的外部专家进行严格审计和监督。这些协议应确保遵守它们的系统是安全的，无可置疑的[4]。这并不意味着总体上暂停 AI 开发，而是从具有新兴功能的、不可预测的大型黑盒模型的危险竞赛中后退一步。人工智能的研究和开发应该重新聚焦于使当今强大的、最先进的系统更加准确、安全、可解释、透明、稳健、一致、可信和可靠。同时，人工智能开发者必须与政策制定者合作，大幅加快强大的人工智能治理系统的开发。这些工作至少应该包括：专门针对人工智能的新的、有能力的监管机构；对高能力的人工智能系统和大型计算能力池的监督和跟踪；帮助区分真实和合成数据的溯源、水印系统，并跟踪模型泄露；强大的审计和认证生态系统；对人工智能造成的伤害的责任认定；对人工智能安全技术研究的强大公共资金；资源丰富的机构，以应对人工智能将造成的巨大经济和政治混乱。人类可以通过人工智能享受一个繁荣的未来。在成功创造出强大的人工智能系统之后，我们现在可以享受一个“人工智能之夏”。在这个夏天，我们收获了回报，为所有人的明确利益设计这些系统，并给社会一个适应的机会。社会已经暂停了对自身有潜在灾难性影响的其他技术[5]。我们在这个领域也可以这样做。让我们享受一个漫长的人工智能之夏，而不是在毫无准备的情况下冲进秋天（Let's enjoy a long AI summer， not rush unprepared into a fall）。签名者：Yoshua Bengio，蒙特利尔大学，因开发深度学习而获得图灵奖，蒙特利尔学习算法研究所负责人Stuart Russell，加州大学伯克利分校智能系统中心创始人兼计算机科学专业教授，标准教科书《人工智能：一种现代的方法》的合著者Elon Musk，SpaceX、Tesla 和 Twitter 的首席执行官Gary Marcus，纽约大学，AI 研究员，名誉教授Steve Wozniak，苹果公司联合创始人杨安泽，2020 年美国总统候选人，纽约时报畅销书作家Emad Mostaque，Stability AI 首席执行官Zachary Kenton，DeepMind，高级研究科学家目前，这封仅仅出现数小时的公开信在持续发酵，在国外 AI 社区已经引起了极大的关注与讨论。因为有大佬带头，支持者甚多。当然，在看到 ChatGPT 的成功之后，也有一大批人反对这个公开信。目前而言，谁是谁非难有定论。公开信参考链接：[1] Bender， E. M.， Gebru， T.， McMillan-Major， A.， & Shmitchell， S. (2021， March). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?. In Proceedings of the 2021 ACM conference on fairness， accountability， and transparency (pp. 610-623).Bostrom， N. (2016). Superintelligence. Oxford University Press.Bucknall， B. S.， & Dori-Hacohen， S. (2022， July). Current and near-term AI as a potential existential risk factor. In Proceedings of the 2022 AAAI/ACM Conference on AI， Ethics， and Society (pp. 119-129).Carlsmith， J. (2022). Is Power-Seeking AI an Existential Risk?. arXiv preprint arXiv:2206.13353.Christian， B. (2020). The Alignment Problem: Machine Learning and human values. Norton & Company.Cohen， M. et al. (2022). Advanced Artificial Agents Intervene in the Provision of Reward. AI Magazine， 43 (3) (pp. 282-293).Eloundou， T.， et al. (2023). GPTs are GPTs: An Early Look at the Labor Market Impact Potential of Large Language Models.Hendrycks， D.， & Mazeika， M. (2022). X-risk Analysis for AI Research. arXiv preprint arXiv:2206.05862.Ngo， R. (2022). The alignment problem from a deep learning perspective. arXiv preprint arXiv:2209.00626.Russell， S. (2019). Human Compatible: Artificial Intelligence and the Problem of Control. Viking.Tegmark， M. (2017). Life 3.0: Being Human in the Age of Artificial Intelligence. Knopf.Weidinger， L. et al (2021). Ethical and social risks of harm from language models. arXiv preprint arXiv:2112.04359.[2] Ordonez， V. et al. (2023， March 16). OpenAI CEO Sam Altman says AI will reshape society， acknowledges risks: 'A little bit scared of this’. ABC News.Perrigo， B. (2023， January 12). DeepMind CEO Demis Hassabis Urges Caution on AI. Time.[3] Bubeck， S. et al. (2023). Sparks of Artificial General Intelligence: Early experiments with GPT-4. arXiv:2303.12712.OpenAI (2023). GPT-4 Technical Report. arXiv:2303.08774.[4] Ample legal precedent exists – for example， the widely adopted OECD AI Principles require that AI systems \"function appropriately and do not pose unreasonable safety risk\".[5] Examples include human cloning， human germline modification， gain-of-function research， and eugenics. 本文来自微信公众号：机器之心 （ID：almosthuman2014），作者：机器之心编辑部","news_type":1},"isVote":1,"tweetType":1,"viewCount":648,"commentLimit":10,"likeStatus":false,"favoriteStatus":false,"reportStatus":false,"symbols":[],"verified":2,"subType":0,"readableState":1,"langContent":"CN","currentLanguage":"CN","warmUpFlag":false,"orderFlag":false,"shareable":true,"causeOfNotShareable":"","featuresForAnalytics":[],"commentAndTweetFlag":false,"andRepostAutoSelectedFlag":false,"upFlag":false,"length":4,"xxTargetLangEnum":"ZH_CN"},"commentList":[],"hasMoreComment":false,"orderType":2}