超强进化！GPT-4正在改进自己，近万人联名封杀

新智元2023-04-05

GPT-5的威胁，已经黑云压顶。GPT-4诞生后，AI可能给人类社会造成的颠覆性影响，早已让多位业内大佬感到恐惧。最近，似乎全世界都在围剿ChatGPT。前一阵由马斯克、图灵奖得主Bengio等大佬联名发起的暂停高级AI研发的公开信，现在签名已经上升到9000多人。紧接着，美国非营利组织人工智能与数字政策中心（CAIDP）也要求联邦贸易委员会（FTC）调查OpenAI是否违反了消费者保护规则，并...

网页链接

免责声明：本文观点仅代表作者个人观点，不构成本平台的投资建议，本平台不对文章信息准确性、完整性和及时性做出任何保证，亦不对因使用或信赖文章信息引发的任何损失承担责任。

精彩评论

子虚乌有的事
2023-04-06
子虚乌有的事
放心，我们这达不到这水平
猛逃
2023-04-05
猛逃
哪来的小丑🤡
阳山
2023-04-05
阳山
我们让AI思考学，人置于何地。
吻住硪还能硬
2023-04-05
吻住硪还能硬
太牛逼了

发表看法

{"i18n":{"language":"zh_CN"},"isChannel":false,"data":{"share":"https://www.laohu8.com/m/news/1139481255?lang=zh_CN&edition=full","thumbnail":"https://static.tigerbbs.com/b7bd6aaa8b0c55a6e9451f9983087814","is_english":false,"pubTime":"2023-04-05 21:51","share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","id":"1139481255","market":"us","top_or_hot":-1,"title":"超强进化！GPT-4正在改进自己，近万人联名封杀","media":"新智元","content":"<div>\nGPT-5的威胁，已经黑云压顶。GPT-4诞生后，AI可能给人类社会造成的颠覆性影响，早已让多位业内大佬感到恐惧。最近，似乎全世界都在围剿ChatGPT。前一阵由马斯克、图灵奖得主Bengio等大佬联名发起的暂停高级AI研发的公开信，现在签名已经上升到9000多人。紧接着，美国非营利组织人工智能与数字政策中心（CAIDP）也要求联邦贸易委员会（FTC）调查OpenAI是否违反了消费者保护规则，并...\n\n<a href=\"https://mp.weixin.qq.com/s?__biz=MzI3MTA0MTk1MA==&mid=2652313763&idx=1&sn=5c1f40eb680cf66f27abc557967920b7&chksm=f1246c52c653e544945871c3c6bb0753ca6a2e0dd2d1db6424badc68432b456e046fa7fe21d2&mpshare=1&scene=23&srcid=0405ZfSCJKXokh3KTuYlnWWJ&sharer_sharetime=1680668383759&sharer_shareid=00a55b671777cf0e253d4693000ead51#rd\">网页链接</a>\n\n</div>\n","source":"lsy1569730104218","html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>超强进化！GPT-4正在改进自己，近万人联名封杀</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\n超强进化！GPT-4正在改进自己，近万人联名封杀\n</h2>\n\n<h4 class=\"meta\">\n\n\n2023-04-05 21:51 北京时间&nbsp;&nbsp;&nbsp;<a href=https://mp.weixin.qq.com/s?__biz=MzI3MTA0MTk1MA==&mid=2652313763&idx=1&sn=5c1f40eb680cf66f27abc557967920b7&chksm=f1246c52c653e544945871c3c6bb0753ca6a2e0dd2d1db6424badc68432b456e046fa7fe21d2&mpshare=1&scene=23&srcid=0405ZfSCJKXokh3KTuYlnWWJ&sharer_sharetime=1680668383759&sharer_shareid=00a55b671777cf0e253d4693000ead51#rd>新智元</a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\nGPT-5的威胁，已经黑云压顶。GPT-4诞生后，AI可能给人类社会造成的颠覆性影响，早已让多位业内大佬感到恐惧。最近，似乎全世界都在围剿ChatGPT。前一阵由马斯克、图灵奖得主Bengio等大佬联名发起的暂停高级AI研发的公开信，现在签名已经上升到9000多人。紧接着，美国非营利组织人工智能与数字政策中心（CAIDP）也要求联邦贸易委员会（FTC）调查OpenAI是否违反了消费者保护规则，并...\n\n<a href=\"https://mp.weixin.qq.com/s?__biz=MzI3MTA0MTk1MA==&mid=2652313763&idx=1&sn=5c1f40eb680cf66f27abc557967920b7&chksm=f1246c52c653e544945871c3c6bb0753ca6a2e0dd2d1db6424badc68432b456e046fa7fe21d2&mpshare=1&scene=23&srcid=0405ZfSCJKXokh3KTuYlnWWJ&sharer_sharetime=1680668383759&sharer_shareid=00a55b671777cf0e253d4693000ead51#rd\">网页链接</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","isBrief":false,"type":0,"news_type":1,"symbol":null,"symbol_name":null,"start_time":0,"source_url":"https://mp.weixin.qq.com/s?__biz=MzI3MTA0MTk1MA==&mid=2652313763&idx=1&sn=5c1f40eb680cf66f27abc557967920b7&chksm=f1246c52c653e544945871c3c6bb0753ca6a2e0dd2d1db6424badc68432b456e046fa7fe21d2&mpshare=1&scene=23&srcid=0405ZfSCJKXokh3KTuYlnWWJ&sharer_sharetime=1680668383759&sharer_shareid=00a55b671777cf0e253d4693000ead51#rd","article_id":"1139481255","we_media_id":null,"thumbnails":["https://static.tigerbbs.com/b7bd6aaa8b0c55a6e9451f9983087814"],"rights":null,"url":"https://stock-news.laohu8.com/highlight/detail?id=1139481255","pubTimestamp":1680702675,"columns":[],"sourceInfo":{"source_id":"lsy1569730104218","name":"新智元"},"weMediaInfo":null,"summary":"即使全世界都对超级AI如临大敌，想赶紧悬崖勒马，恐怕也为时已晚。","collect":0,"end_time":0,"defaultTopTitle":"qq.com","property":[],"viewcount":null,"language":"zh","relate_stocks":{},"translate_title":"Super evolution! GPT-4 is improving itself, and nearly 10,000 people jointly banned it","themeId":"","isJumpTheme":false,"ttsUrl":"https://static.tigerbbs.com/2a82bc9fe60b7b09db18ff5634d617cd","symbols_score_info":{},"content_text":"GPT-5的威胁，已经黑云压顶。GPT-4诞生后，AI可能给人类社会造成的颠覆性影响，早已让多位业内大佬感到恐惧。最近，似乎全世界都在围剿ChatGPT。前一阵由马斯克、图灵奖得主Bengio等大佬联名发起的暂停高级AI研发的公开信，现在签名已经上升到9000多人。紧接着，美国非营利组织人工智能与数字政策中心（CAIDP）也要求联邦贸易委员会（FTC）调查OpenAI是否违反了消费者保护规则，并禁止其进一步发布GPT-4。而意大利直接全国上下封禁了ChatGPT，只给OpenAI 20天的调整适应期，拿不出合格的方案，就得交最高2000万欧元的罚款。封杀ChatGPT狂潮席卷全球有趣的是，自从意大利开了这个头之后，其他一些国家也跃跃欲试，准备要对ChatGPT开刀。法国和爱尔兰的隐私监管机构，已经联系了他们的意大利同行，希望得到更多关于调查的详细资料。德国联邦数据保护专员Ulrich Kelber表示：「从原则上讲，德国也有可能采取类似的程序。」此外，欧盟也提出草案，计划将ChatGPT视为高风险的AI系统进行监管。美国也出手了而就在今天，美国总统拜登也在白宫与科技顾问开了会，讨论了AI给人类、社会和国家安全带来的风险和机遇。据路透社报道，在总统科学技术顾问委员会 (PCAST) 会议中，拜登强调，「在我看来，科技公司有责任确保他们的产品在公开之前是安全的。」而在被问及AI是否危险时，他说，「还有待观察，有这种可能性。」拜登表示，强大技术在没有保护措施的情况下会造成哪些危害，在社交媒体上已经很明显了。「因为缺乏保障措施，我们看到技术影响了人们的心理健康，让他们对自我形象产生了自卑和绝望，这种影响在年轻人中尤为明显。」他再次呼吁国会通过两党隐私立法，限制科技公司收集的个人数据，禁止针对青少年的广告，并在产品开发中优先考虑健康和安全。受此消息影响，在拜登召开这次会议之前，AI公司的股价均出现大幅下跌。ChatGPT概念股C3.ai的股价持续走低，收跌26.34%报24.95美元，市值28亿美元，创该股上市以来最大日内跌幅。而此前，自微软宣布与OpenAI建立数十亿美元的合作关系以来，C3.ai与AI领域的许多公司一样，已经成为华尔街近期最热门的公司之一，今年以来C3.ai的股价已经上涨了超过130%。盖茨：暂停AI研发无法「解决挑战」当地时间4月3日，盖茨接受路透的采访时公开谈论了千名专家签署的公开信，呼吁暂停人工智能开发不会「解决挑战」，最好是把注意力放在如何最好地利用人工智能的发展上，很难理解在全球范围内暂停AI研发将如何实现。他继续表示，我不认为要求某个特定群体暂停工作就能解决挑战。显然，这些东西有巨大的好处······我们需要做的是确定棘手的领域。盖茨是人工智能的坚定支持者。3月21日，也就是发起联名公开信的前一天，盖茨曾发表了一篇「人工智能时代已经开始」的博客文章。其中提到了应该利用人工智能来帮助减少世界上一些最严重的不平等现象。他在博客中盛赞人工智能，「AI时代已经开启，人工智能革命重要程度不亚于手机和互联网的诞生，这是其一生中唯二的革命性技术进步。」目前为止，微软已经向OpenAI投资了数十亿美元。OpenAI正在为微软必应、Edge、Microsoft 365和其他产品构建AI技术。在接受采访时，盖茨质疑暂停AI开发的可行性，想知道如何实施。「任何暂停的细节都会很复杂，难以执行。我不太明白，他们说的哪些人可能停止，世界上每个国家是否都会同意停止，以及为什么要停止，在这个领域会有很多不同的意见。」GPT-4学会「自我反思」，性能大涨30%但是，即使全世界都对超级AI如临大敌，想赶紧悬崖勒马，恐怕也为时已晚。因为，如今的AI，已经学会自我进化了！有证据表明：GPT-4，正在改进自己！前段时间，前谷歌大脑研究工程师Eric Jang发现令人疯的一点：GPT-4能够以合理的方式批评自己的成果。与其为大型语言模型（LLM）寻找完美的提示（让我们一步一步思考），不如让LLM评估自己的输出并立即纠正自己的错误。甚至连特斯拉前AI总监，OpenAI研究科学家Andrej Karpathy大赞，这是一个很好的例子，说明我们还没有看到GPT-4的最大能力。在Eric Jang给出的例子中，曾看到微软研究员发推说GPT-4根本无法写出「不押韵」的诗歌。然而，当再去询问GPT-4是否完成了任务。这时，它道歉后，生成了一个不押韵的诗！可以说是满分。这恰恰印证了GPT-4是有「反思」能力的。最近，来自美国东北大学、MIT等机构研究者提出了Reflexion。这一方法赋予智能体动态记忆，以及自我反思的能力。论文地址：https://arxiv.org/abs/2303.11366为了验证方法的有效性，研究人员评估了智能体在AlfWorld环境中完成决策任务的能力，以及在HotPotQA环境中完成知识密集型、基于搜索问答任务的能力。在这两项任务的成功率分别为97%和51%。Reflexion智能体的整体架构有网友便表示，你可以通过要求 GPT-4 反思「你为什么错了？」，并为自己生成一个新的提示，将这个错误原因考虑在内，直到结果正确，从而将GPT-4的性能提高惊人的30%。另外，论文指出，在测试模型编写代码的能力时，Reflexion+GPT-4也显著优于常规的GPT-4。这样看来，就像Eric Jang所说，我们现在可以考虑一种「后缀提示工程」，而不是巧妙的「前缀提示工程」。这将鼓励LLM在先前生成的解决方案中找到更正和不一致的地方。对于GPT-4通过自我改进让自己变得更聪明的能力，一位网友对此做了一个视频总结。，时长14:55ChatGPT长「手」了如果说GPT-4能够反思，有了大脑，就已经够可怕的了，而现在，ChatGPT还有了「手」，不仅能够用工具，还可以用模型。在ChatGPT还未上线「插件」功能前，Meta研究人员曾在2月份抛出一篇新论文Toolformer，直接瞄准ChatGPT的「软肋」，让大语言模型自行学会使用工具。论文地址：https://arxiv.org/abs/2302.04761按照Meta的思路，像ChatGPT这样的大语言模型可以缺啥补啥。比如不会算数，就拿出计算器；需要最新信息，就自己连接搜索引擎搜索；甚至可以直接把想翻译的内容丢给它。论文一出瞬间爆火，许多AI研究者表示，这篇论文为人们打开了思路，让大语言模型未来可以成为所有事情的起点。同样，最近浙大和微软亚研院新出的论文「贾维斯」HuggingGPT在业界引起很大的关注。论文地址：https://arxiv.org/abs/2303.17580论文中，研究者提出的HuggingGPT利用ChatGPT作为控制器，连接HuggingFace社区中的各种AI模型，来完成多模态等各种复杂任务。有网友表示，我强烈怀疑第一个通用人工智能（AGI）的出现将比预期更早。它将依靠「胶水」AI，能够智能地将一系列狭义人工智能和实用工具粘合在一起。自动写代码最近，一位开发者做了一个能让GPT-4自动生成代码的项目——Auto-GPT。甚至还可以执行代码。在后续改进中，Auto-GPT可以使用GPT-4编写代码，并执行Python脚本。这使得它能够递归调试、开发并自我改进...Auto-GPT让人们更进一步了解到GPT-4强大能力，甚至有网友做了一张梗图：Andrej Karpathy表示，在我看来，提示工程的下一个前沿领域是「AutoGPT」。一个GPT调用就像计算机上的一个指令。它们可以被串联成程序中。使用提示来定义I/O设备和工具规格，定义认知循环，在上下文中分页数据输入和输出，然后运行。网友：奇点来了有网友称，这基本上就是奇点的定义。一个能够自我改进的AI，现在唯一需要的就是使其能够修改模型的代码，并自主训练（通过浏览互联网并自行标记所有内容）。甚至有的网友认为，技术的飞速进步，让我们已经到了无法回头的地步。到2025年，这个世界将会发生翻天覆地的变化，无论是好还是坏。从错误中学习，是智力的基础。如此看来，GPT-4打败自己，想要成为超级AI。而根据某大佬的最新消息，OpenAI非常清楚，最近他们AI产品的快速迭代引起了极度强烈的反响，而他们也欢迎公众的监督。其负责人表示，目前risk per token还没到临界点，所以GPT的滥用还造不成太大的伤害。而AI对齐的路线图，即将在几个月内发布。","kind":"news","is_publish_news":false,"is_publish_highlight":true,"is_publish_live":false,"is_publish_wemedia":null,"editions":null,"column":"","sentiment":"0","news_tag":"","news_rank":0,"symbols":[],"gpt_button":1},"commentList":[{"id":653892697,"gmtCreate":1680716007319,"gmtModify":1680745270225,"author":{"id":"4138344628572510","authorId":"4138344628572510","name":"子虚乌有的事","avatar":"https://static.laohu8.com/default-avatar.jpg","vip":1,"crmLevel":2,"crmLevelSwitch":0,"idStr":"4138344628572510","authorIdStr":"4138344628572510"},"htmlText":"放心，我们这达不到这水平","listText":"放心，我们这达不到这水平","text":"放心，我们这达不到这水平","images":[],"top":1,"highlighted":1,"essential":1,"paper":1,"likeSize":0,"commentSize":0,"repostSize":0,"link":"https://laohu8.com/post/653892697","repostId":1139481255,"repostType":2,"repost":{"id":"1139481255","kind":"news","pubTimestamp":1680702675,"share":"https://www.laohu8.com/m/news/1139481255?lang=&edition=full","pubTime":"2023-04-05 21:51","market":"us","language":"zh","title":"超强进化！GPT-4正在改进自己，近万人联名封杀","url":"https://stock-news.laohu8.com/highlight/detail?id=1139481255","media":"新智元","summary":"即使全世界都对超级AI如临大敌，想赶紧悬崖勒马，恐怕也为时已晚。","content":"<html><head></head><body>GPT-5的威胁，已经黑云压顶。GPT-4诞生后，AI可能给人类社会造成的颠覆性影响，早已让多位业内大佬感到恐惧。最近，似乎全世界都在围剿ChatGPT。前一阵由马斯克、图灵奖得主Bengio等大佬联名发起的暂停高级AI研发的公开信，现在签名已经上升到9000多人。<img src=\"https://static.tigerbbs.com/ef20c9ddb2a833c9584bbc75eeae8299\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"363\"/>紧接着，美国非营利组织人工智能与数字政策中心（CAIDP）也要求联邦贸易委员会（FTC）调查OpenAI是否违反了消费者保护规则，并禁止其进一步发布GPT-4。而意大利直接全国上下封禁了ChatGPT，只给OpenAI 20天的调整适应期，拿不出合格的方案，就得交最高2000万欧元的罚款。封杀ChatGPT狂潮席卷全球有趣的是，自从意大利开了这个头之后，其他一些国家也跃跃欲试，准备要对ChatGPT开刀。法国和爱尔兰的隐私监管机构，已经联系了他们的意大利同行，希望得到更多关于调查的详细资料。德国联邦数据保护专员Ulrich Kelber表示：「从原则上讲，德国也有可能采取类似的程序。」此外，欧盟也提出草案，计划将ChatGPT视为高风险的AI系统进行监管。<img src=\"https://static.tigerbbs.com/a5390af781574ba9ba466163d255e2df\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"720\"/>美国也出手了而就在今天，美国总统拜登也在白宫与科技顾问开了会，讨论了AI给人类、社会和国家安全带来的风险和机遇。<img src=\"https://static.tigerbbs.com/444e7068c39b3fc1c1166d1c720e717d\" alt=\"\" title=\"\" tg-width=\"960\" tg-height=\"640\"/>据路透社报道，在总统科学技术顾问委员会 (PCAST) 会议中，拜登强调，「在我看来，科技公司有责任确保他们的产品在公开之前是安全的。」而在被问及AI是否危险时，他说，「还有待观察，有这种可能性。」拜登表示，强大技术在没有保护措施的情况下会造成哪些危害，在社交媒体上已经很明显了。「因为缺乏保障措施，我们看到技术影响了人们的心理健康，让他们对自我形象产生了自卑和绝望，这种影响在年轻人中尤为明显。」<img src=\"https://static.tigerbbs.com/4b1cb6c22c11c9294e5ee459ef6a625a\" alt=\"\" title=\"\" tg-width=\"960\" tg-height=\"642\"/>他再次呼吁国会通过两党隐私立法，限制科技公司收集的个人数据，禁止针对青少年的广告，并在产品开发中优先考虑健康和安全。受此消息影响，在拜登召开这次会议之前，AI公司的股价均出现大幅下跌。ChatGPT概念股C3.ai的股价持续走低，收跌26.34%报24.95美元，市值28亿美元，创该股上市以来最大日内跌幅。<img src=\"https://static.tigerbbs.com/39c9c9f959f8794ecc5114ad181897a3\" title=\"\" tg-width=\"560\" tg-height=\"240\"/>而此前，自微软宣布与OpenAI建立数十亿美元的合作关系以来，C3.ai与AI领域的许多公司一样，已经成为华尔街近期最热门的公司之一，今年以来C3.ai的股价已经上涨了超过130%。盖茨：暂停AI研发无法「解决挑战」当地时间4月3日，盖茨接受路透的采访时公开谈论了千名专家签署的公开信，<blockquote>呼吁暂停人工智能开发不会「解决挑战」，最好是把注意力放在如何最好地利用人工智能的发展上，很难理解在全球范围内暂停AI研发将如何实现。</blockquote>他继续表示，我不认为要求某个特定群体暂停工作就能解决挑战。显然，这些东西有巨大的好处······我们需要做的是确定棘手的领域。<img src=\"https://static.tigerbbs.com/92f88acae2d64cdc7ec2d20741aecae3\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"720\"/>盖茨是人工智能的坚定支持者。3月21日，也就是发起联名公开信的前一天，盖茨曾发表了一篇「人工智能时代已经开始」的博客文章。其中提到了应该利用人工智能来帮助减少世界上一些最严重的不平等现象。<img src=\"https://static.tigerbbs.com/4d4534bd778e39d044a85ab65e2f76fc\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"297\"/>他在博客中盛赞人工智能，「AI时代已经开启，人工智能革命重要程度不亚于手机和互联网的诞生，这是其一生中唯二的革命性技术进步。」目前为止，微软已经向OpenAI投资了数十亿美元。OpenAI正在为微软必应、Edge、Microsoft 365和其他产品构建AI技术。在接受采访时，盖茨质疑暂停AI开发的可行性，想知道如何实施。「任何暂停的细节都会很复杂，难以执行。我不太明白，他们说的哪些人可能停止，世界上每个国家是否都会同意停止，以及为什么要停止，在这个领域会有很多不同的意见。」GPT-4学会「自我反思」，性能大涨30%但是，即使全世界都对超级AI如临大敌，想赶紧悬崖勒马，恐怕也为时已晚。因为，如今的AI，已经学会自我进化了！<img src=\"https://static.tigerbbs.com/ddb9844de9499b1104f2f1c6b31420f2\" alt=\"\" title=\"\" tg-width=\"1070\" tg-height=\"590\"/>有证据表明：GPT-4，正在改进自己！<img src=\"https://static.tigerbbs.com/fa376ec4309ec16e6274c523bb81c0e6\" alt=\"\" title=\"\" tg-width=\"830\" tg-height=\"154\"/>前段时间，前谷歌大脑研究工程师Eric Jang发现令人疯的一点：GPT-4能够以合理的方式批评自己的成果。<blockquote>与其为大型语言模型（LLM）寻找完美的提示（让我们一步一步思考），不如让LLM评估自己的输出并立即纠正自己的错误。</blockquote><img src=\"https://static.tigerbbs.com/43375b4dcb7a8e6e44a64fa841954e63\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"270\"/>甚至连特斯拉前AI总监，OpenAI研究科学家Andrej Karpathy大赞，这是一个很好的例子，说明我们还没有看到GPT-4的最大能力。<img src=\"https://static.tigerbbs.com/86ab1cd698864804a268ab7ec4890dc5\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"257\"/>在Eric Jang给出的例子中，曾看到微软研究员发推说GPT-4根本无法写出「不押韵」的诗歌。<img src=\"https://static.tigerbbs.com/b19f5c34d1b1ac5fb066ddc0943d7e7e\" alt=\"\" title=\"\" tg-width=\"616\" tg-height=\"582\"/>然而，当再去询问GPT-4是否完成了任务。这时，它道歉后，生成了一个不押韵的诗！可以说是满分。<img src=\"https://static.tigerbbs.com/0e8df2b51c3c931b669e257fbcb1393a\" alt=\"\" title=\"\" tg-width=\"564\" tg-height=\"756\"/>这恰恰印证了GPT-4是有「反思」能力的。最近，来自美国东北大学、MIT等机构研究者提出了Reflexion。这一方法赋予智能体动态记忆，以及自我反思的能力。<img src=\"https://static.tigerbbs.com/3c4d3f21faf5b51a952c5427d7b11e84\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"565\"/>论文地址：https://arxiv.org/abs/2303.11366为了验证方法的有效性，研究人员评估了智能体在AlfWorld环境中完成决策任务的能力，以及在HotPotQA环境中完成知识密集型、基于搜索问答任务的能力。在这两项任务的成功率分别为97%和51%。<img src=\"https://static.tigerbbs.com/d2139cb9592549b14e83e636916f614a\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"425\"/>Reflexion智能体的整体架构有网友便表示，你可以通过要求 GPT-4 反思「你为什么错了？」，并为自己生成一个新的提示，将这个错误原因考虑在内，直到结果正确，从而将GPT-4的性能提高惊人的30%。<img src=\"https://static.tigerbbs.com/077297f48d89ed9bd0b0cb77d6cb544e\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"361\"/>另外，论文指出，在测试模型编写代码的能力时，Reflexion+GPT-4也显著优于常规的GPT-4。<img src=\"https://static.tigerbbs.com/9a94e329e628b5a3bdf1e1449e80d519\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"810\"/>这样看来，就像Eric Jang所说，我们现在可以考虑一种「后缀提示工程」，而不是巧妙的「前缀提示工程」。这将鼓励LLM在先前生成的解决方案中找到更正和不一致的地方。<img src=\"https://static.tigerbbs.com/1f4e1dd56996ed9a8297153be2a166ff\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"202\"/>对于GPT-4通过自我改进让自己变得更聪明的能力，一位网友对此做了一个视频总结。，时长14:55ChatGPT长「手」了如果说GPT-4能够反思，有了大脑，就已经够可怕的了，而现在，ChatGPT还有了「手」，不仅能够用工具，还可以用模型。在ChatGPT还未上线「插件」功能前，Meta研究人员曾在2月份抛出一篇新论文Toolformer，直接瞄准ChatGPT的「软肋」，让大语言模型自行学会使用工具。<img src=\"https://static.tigerbbs.com/c53698d2aeafbdfa5782158fe1de039b\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"303\"/>论文地址：https://arxiv.org/abs/2302.04761按照Meta的思路，像ChatGPT这样的大语言模型可以缺啥补啥。比如不会算数，就拿出计算器；需要最新信息，就自己连接搜索引擎搜索；甚至可以直接把想翻译的内容丢给它。<img src=\"https://static.tigerbbs.com/be8edd42ed682aa4d2961162abb5c7ab\" alt=\"\" title=\"\" tg-width=\"540\" tg-height=\"303\"/>论文一出瞬间爆火，许多AI研究者表示，这篇论文为人们打开了思路，让大语言模型未来可以成为所有事情的起点。同样，最近浙大和微软亚研院新出的论文「贾维斯」HuggingGPT在业界引起很大的关注。<img src=\"https://static.tigerbbs.com/3006d333baf5371f05956d15745a0a17\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"390\"/>论文地址：https://arxiv.org/abs/2303.17580论文中，研究者提出的HuggingGPT利用ChatGPT作为控制器，连接HuggingFace社区中的各种AI模型，来完成多模态等各种复杂任务。<img src=\"https://static.tigerbbs.com/e6e353bd210863877822bf0b050f454a\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"490\"/>有网友表示，我强烈怀疑第一个通用人工智能（AGI）的出现将比预期更早。它将依靠「胶水」AI，能够智能地将一系列狭义人工智能和实用工具粘合在一起。<img src=\"https://static.tigerbbs.com/0272a7ec06fa9f239562936751ee3f2a\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"115\"/>自动写代码<h2 style=\"text-align: justify;\"> </h2>最近，一位开发者做了一个能让GPT-4自动生成代码的项目——Auto-GPT。<img src=\"https://static.tigerbbs.com/ee40892a3a028bd0a96c2b115b018bcc\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"391\"/>甚至还可以执行代码。在后续改进中，Auto-GPT可以使用GPT-4编写代码，并执行Python脚本。这使得它能够递归调试、开发并自我改进...<img src=\"https://static.tigerbbs.com/6fa4735e176961a31b7aa3f36a5ef3ee\" alt=\"\" title=\"\" tg-width=\"640\" tg-height=\"360\"/>Auto-GPT让人们更进一步了解到GPT-4强大能力，甚至有网友做了一张梗图：<img src=\"https://static.tigerbbs.com/8779a9fab5ee9d447bbb5985687985c1\" alt=\"\" title=\"\" tg-width=\"629\" tg-height=\"500\"/>Andrej Karpathy表示，在我看来，提示工程的下一个前沿领域是「AutoGPT」。一个GPT调用就像计算机上的一个指令。它们可以被串联成程序中。使用提示来定义I/O设备和工具规格，定义认知循环，在上下文中分页数据输入和输出，然后运行。<img src=\"https://static.tigerbbs.com/3342f1287e7e79f3619ba4e3c2db8bd4\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"239\"/>网友：奇点来了 有网友称，这基本上就是奇点的定义。一个能够自我改进的AI，现在唯一需要的就是使其能够修改模型的代码，并自主训练（通过浏览互联网并自行标记所有内容）。<img src=\"https://static.tigerbbs.com/484a88545cb7b47fd3c71469a276afd9\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"165\"/>甚至有的网友认为，技术的飞速进步，让我们已经到了无法回头的地步。到2025年，这个世界将会发生翻天覆地的变化，无论是好还是坏。<img src=\"https://static.tigerbbs.com/809f1644ad8821475032ce0c8a578c2b\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"211\"/>从错误中学习，是智力的基础。<img src=\"https://static.tigerbbs.com/18fd652bb2a8a5d7c78f0a855d0ff8c7\" alt=\"\" title=\"\" tg-width=\"1064\" tg-height=\"126\"/>如此看来，GPT-4打败自己，想要成为超级AI。<img src=\"https://static.tigerbbs.com/16035e2c743e469b940958eddb76db80\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"717\"/>而根据某大佬的最新消息，OpenAI非常清楚，最近他们AI产品的快速迭代引起了极度强烈的反响，而他们也欢迎公众的监督。其负责人表示，目前risk per token还没到临界点，所以GPT的滥用还造不成太大的伤害。而AI对齐的路线图，即将在几个月内发布。<img src=\"https://static.tigerbbs.com/ea9b666066ac4604235a3b13e82c9b6f\" alt=\"\" title=\"\" tg-width=\"1052\" tg-height=\"652\"/></body></html>","source":"lsy1569730104218","collect":0,"html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>超强进化！GPT-4正在改进自己，近万人联名封杀</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\n超强进化！GPT-4正在改进自己，近万人联名封杀\n</h2>\n\n<h4 class=\"meta\">\n\n\n2023-04-05 21:51 北京时间&nbsp;&nbsp;&nbsp;<a href=https://mp.weixin.qq.com/s?__biz=MzI3MTA0MTk1MA==&mid=2652313763&idx=1&sn=5c1f40eb680cf66f27abc557967920b7&chksm=f1246c52c653e544945871c3c6bb0753ca6a2e0dd2d1db6424badc68432b456e046fa7fe21d2&mpshare=1&scene=23&srcid=0405ZfSCJKXokh3KTuYlnWWJ&sharer_sharetime=1680668383759&sharer_shareid=00a55b671777cf0e253d4693000ead51#rd>新智元</a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\nGPT-5的威胁，已经黑云压顶。GPT-4诞生后，AI可能给人类社会造成的颠覆性影响，早已让多位业内大佬感到恐惧。最近，似乎全世界都在围剿ChatGPT。前一阵由马斯克、图灵奖得主Bengio等大佬联名发起的暂停高级AI研发的公开信，现在签名已经上升到9000多人。紧接着，美国非营利组织人工智能与数字政策中心（CAIDP）也要求联邦贸易委员会（FTC）调查OpenAI是否违反了消费者保护规则，并...\n\n<a href=\"https://mp.weixin.qq.com/s?__biz=MzI3MTA0MTk1MA==&mid=2652313763&idx=1&sn=5c1f40eb680cf66f27abc557967920b7&chksm=f1246c52c653e544945871c3c6bb0753ca6a2e0dd2d1db6424badc68432b456e046fa7fe21d2&mpshare=1&scene=23&srcid=0405ZfSCJKXokh3KTuYlnWWJ&sharer_sharetime=1680668383759&sharer_shareid=00a55b671777cf0e253d4693000ead51#rd\">Web Link</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","type":0,"thumbnail":"https://static.tigerbbs.com/b7bd6aaa8b0c55a6e9451f9983087814","relate_stocks":{},"source_url":"https://mp.weixin.qq.com/s?__biz=MzI3MTA0MTk1MA==&mid=2652313763&idx=1&sn=5c1f40eb680cf66f27abc557967920b7&chksm=f1246c52c653e544945871c3c6bb0753ca6a2e0dd2d1db6424badc68432b456e046fa7fe21d2&mpshare=1&scene=23&srcid=0405ZfSCJKXokh3KTuYlnWWJ&sharer_sharetime=1680668383759&sharer_shareid=00a55b671777cf0e253d4693000ead51#rd","is_english":false,"share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","article_id":"1139481255","content_text":"GPT-5的威胁，已经黑云压顶。GPT-4诞生后，AI可能给人类社会造成的颠覆性影响，早已让多位业内大佬感到恐惧。最近，似乎全世界都在围剿ChatGPT。前一阵由马斯克、图灵奖得主Bengio等大佬联名发起的暂停高级AI研发的公开信，现在签名已经上升到9000多人。紧接着，美国非营利组织人工智能与数字政策中心（CAIDP）也要求联邦贸易委员会（FTC）调查OpenAI是否违反了消费者保护规则，并禁止其进一步发布GPT-4。而意大利直接全国上下封禁了ChatGPT，只给OpenAI 20天的调整适应期，拿不出合格的方案，就得交最高2000万欧元的罚款。封杀ChatGPT狂潮席卷全球有趣的是，自从意大利开了这个头之后，其他一些国家也跃跃欲试，准备要对ChatGPT开刀。法国和爱尔兰的隐私监管机构，已经联系了他们的意大利同行，希望得到更多关于调查的详细资料。德国联邦数据保护专员Ulrich Kelber表示：「从原则上讲，德国也有可能采取类似的程序。」此外，欧盟也提出草案，计划将ChatGPT视为高风险的AI系统进行监管。美国也出手了而就在今天，美国总统拜登也在白宫与科技顾问开了会，讨论了AI给人类、社会和国家安全带来的风险和机遇。据路透社报道，在总统科学技术顾问委员会 (PCAST) 会议中，拜登强调，「在我看来，科技公司有责任确保他们的产品在公开之前是安全的。」而在被问及AI是否危险时，他说，「还有待观察，有这种可能性。」拜登表示，强大技术在没有保护措施的情况下会造成哪些危害，在社交媒体上已经很明显了。「因为缺乏保障措施，我们看到技术影响了人们的心理健康，让他们对自我形象产生了自卑和绝望，这种影响在年轻人中尤为明显。」他再次呼吁国会通过两党隐私立法，限制科技公司收集的个人数据，禁止针对青少年的广告，并在产品开发中优先考虑健康和安全。受此消息影响，在拜登召开这次会议之前，AI公司的股价均出现大幅下跌。ChatGPT概念股C3.ai的股价持续走低，收跌26.34%报24.95美元，市值28亿美元，创该股上市以来最大日内跌幅。而此前，自微软宣布与OpenAI建立数十亿美元的合作关系以来，C3.ai与AI领域的许多公司一样，已经成为华尔街近期最热门的公司之一，今年以来C3.ai的股价已经上涨了超过130%。盖茨：暂停AI研发无法「解决挑战」当地时间4月3日，盖茨接受路透的采访时公开谈论了千名专家签署的公开信，呼吁暂停人工智能开发不会「解决挑战」，最好是把注意力放在如何最好地利用人工智能的发展上，很难理解在全球范围内暂停AI研发将如何实现。他继续表示，我不认为要求某个特定群体暂停工作就能解决挑战。显然，这些东西有巨大的好处······我们需要做的是确定棘手的领域。盖茨是人工智能的坚定支持者。3月21日，也就是发起联名公开信的前一天，盖茨曾发表了一篇「人工智能时代已经开始」的博客文章。其中提到了应该利用人工智能来帮助减少世界上一些最严重的不平等现象。他在博客中盛赞人工智能，「AI时代已经开启，人工智能革命重要程度不亚于手机和互联网的诞生，这是其一生中唯二的革命性技术进步。」目前为止，微软已经向OpenAI投资了数十亿美元。OpenAI正在为微软必应、Edge、Microsoft 365和其他产品构建AI技术。在接受采访时，盖茨质疑暂停AI开发的可行性，想知道如何实施。「任何暂停的细节都会很复杂，难以执行。我不太明白，他们说的哪些人可能停止，世界上每个国家是否都会同意停止，以及为什么要停止，在这个领域会有很多不同的意见。」GPT-4学会「自我反思」，性能大涨30%但是，即使全世界都对超级AI如临大敌，想赶紧悬崖勒马，恐怕也为时已晚。因为，如今的AI，已经学会自我进化了！有证据表明：GPT-4，正在改进自己！前段时间，前谷歌大脑研究工程师Eric Jang发现令人疯的一点：GPT-4能够以合理的方式批评自己的成果。与其为大型语言模型（LLM）寻找完美的提示（让我们一步一步思考），不如让LLM评估自己的输出并立即纠正自己的错误。甚至连特斯拉前AI总监，OpenAI研究科学家Andrej Karpathy大赞，这是一个很好的例子，说明我们还没有看到GPT-4的最大能力。在Eric Jang给出的例子中，曾看到微软研究员发推说GPT-4根本无法写出「不押韵」的诗歌。然而，当再去询问GPT-4是否完成了任务。这时，它道歉后，生成了一个不押韵的诗！可以说是满分。这恰恰印证了GPT-4是有「反思」能力的。最近，来自美国东北大学、MIT等机构研究者提出了Reflexion。这一方法赋予智能体动态记忆，以及自我反思的能力。论文地址：https://arxiv.org/abs/2303.11366为了验证方法的有效性，研究人员评估了智能体在AlfWorld环境中完成决策任务的能力，以及在HotPotQA环境中完成知识密集型、基于搜索问答任务的能力。在这两项任务的成功率分别为97%和51%。Reflexion智能体的整体架构有网友便表示，你可以通过要求 GPT-4 反思「你为什么错了？」，并为自己生成一个新的提示，将这个错误原因考虑在内，直到结果正确，从而将GPT-4的性能提高惊人的30%。另外，论文指出，在测试模型编写代码的能力时，Reflexion+GPT-4也显著优于常规的GPT-4。这样看来，就像Eric Jang所说，我们现在可以考虑一种「后缀提示工程」，而不是巧妙的「前缀提示工程」。这将鼓励LLM在先前生成的解决方案中找到更正和不一致的地方。对于GPT-4通过自我改进让自己变得更聪明的能力，一位网友对此做了一个视频总结。，时长14:55ChatGPT长「手」了如果说GPT-4能够反思，有了大脑，就已经够可怕的了，而现在，ChatGPT还有了「手」，不仅能够用工具，还可以用模型。在ChatGPT还未上线「插件」功能前，Meta研究人员曾在2月份抛出一篇新论文Toolformer，直接瞄准ChatGPT的「软肋」，让大语言模型自行学会使用工具。论文地址：https://arxiv.org/abs/2302.04761按照Meta的思路，像ChatGPT这样的大语言模型可以缺啥补啥。比如不会算数，就拿出计算器；需要最新信息，就自己连接搜索引擎搜索；甚至可以直接把想翻译的内容丢给它。论文一出瞬间爆火，许多AI研究者表示，这篇论文为人们打开了思路，让大语言模型未来可以成为所有事情的起点。同样，最近浙大和微软亚研院新出的论文「贾维斯」HuggingGPT在业界引起很大的关注。论文地址：https://arxiv.org/abs/2303.17580论文中，研究者提出的HuggingGPT利用ChatGPT作为控制器，连接HuggingFace社区中的各种AI模型，来完成多模态等各种复杂任务。有网友表示，我强烈怀疑第一个通用人工智能（AGI）的出现将比预期更早。它将依靠「胶水」AI，能够智能地将一系列狭义人工智能和实用工具粘合在一起。自动写代码最近，一位开发者做了一个能让GPT-4自动生成代码的项目——Auto-GPT。甚至还可以执行代码。在后续改进中，Auto-GPT可以使用GPT-4编写代码，并执行Python脚本。这使得它能够递归调试、开发并自我改进...Auto-GPT让人们更进一步了解到GPT-4强大能力，甚至有网友做了一张梗图：Andrej Karpathy表示，在我看来，提示工程的下一个前沿领域是「AutoGPT」。一个GPT调用就像计算机上的一个指令。它们可以被串联成程序中。使用提示来定义I/O设备和工具规格，定义认知循环，在上下文中分页数据输入和输出，然后运行。网友：奇点来了有网友称，这基本上就是奇点的定义。一个能够自我改进的AI，现在唯一需要的就是使其能够修改模型的代码，并自主训练（通过浏览互联网并自行标记所有内容）。甚至有的网友认为，技术的飞速进步，让我们已经到了无法回头的地步。到2025年，这个世界将会发生翻天覆地的变化，无论是好还是坏。从错误中学习，是智力的基础。如此看来，GPT-4打败自己，想要成为超级AI。而根据某大佬的最新消息，OpenAI非常清楚，最近他们AI产品的快速迭代引起了极度强烈的反响，而他们也欢迎公众的监督。其负责人表示，目前risk per token还没到临界点，所以GPT的滥用还造不成太大的伤害。而AI对齐的路线图，即将在几个月内发布。","news_type":1},"isVote":1,"likeStatus":false,"favoriteStatus":false,"reportStatus":false,"tweetType":1,"langContent":"CN"},{"id":653890083,"gmtCreate":1680707769642,"gmtModify":1680707790389,"author":{"id":"3518527627041174","authorId":"3518527627041174","name":"猛逃","avatar":"https://static.laohu8.com/default-avatar.jpg","vip":1,"crmLevel":1,"crmLevelSwitch":0,"idStr":"3518527627041174","authorIdStr":"3518527627041174"},"htmlText":"哪来的小丑🤡","listText":"哪来的小丑🤡","text":"哪来的小丑🤡","images":[],"top":1,"highlighted":1,"essential":1,"paper":1,"likeSize":1,"commentSize":0,"repostSize":0,"link":"https://laohu8.com/post/653890083","repostId":1139481255,"repostType":4,"repost":{"id":"1139481255","kind":"news","pubTimestamp":1680702675,"share":"https://www.laohu8.com/m/news/1139481255?lang=&edition=full","pubTime":"2023-04-05 21:51","market":"us","language":"zh","title":"超强进化！GPT-4正在改进自己，近万人联名封杀","url":"https://stock-news.laohu8.com/highlight/detail?id=1139481255","media":"新智元","summary":"即使全世界都对超级AI如临大敌，想赶紧悬崖勒马，恐怕也为时已晚。","content":"<html><head></head><body>GPT-5的威胁，已经黑云压顶。GPT-4诞生后，AI可能给人类社会造成的颠覆性影响，早已让多位业内大佬感到恐惧。最近，似乎全世界都在围剿ChatGPT。前一阵由马斯克、图灵奖得主Bengio等大佬联名发起的暂停高级AI研发的公开信，现在签名已经上升到9000多人。<img src=\"https://static.tigerbbs.com/ef20c9ddb2a833c9584bbc75eeae8299\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"363\"/>紧接着，美国非营利组织人工智能与数字政策中心（CAIDP）也要求联邦贸易委员会（FTC）调查OpenAI是否违反了消费者保护规则，并禁止其进一步发布GPT-4。而意大利直接全国上下封禁了ChatGPT，只给OpenAI 20天的调整适应期，拿不出合格的方案，就得交最高2000万欧元的罚款。封杀ChatGPT狂潮席卷全球有趣的是，自从意大利开了这个头之后，其他一些国家也跃跃欲试，准备要对ChatGPT开刀。法国和爱尔兰的隐私监管机构，已经联系了他们的意大利同行，希望得到更多关于调查的详细资料。德国联邦数据保护专员Ulrich Kelber表示：「从原则上讲，德国也有可能采取类似的程序。」此外，欧盟也提出草案，计划将ChatGPT视为高风险的AI系统进行监管。<img src=\"https://static.tigerbbs.com/a5390af781574ba9ba466163d255e2df\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"720\"/>美国也出手了而就在今天，美国总统拜登也在白宫与科技顾问开了会，讨论了AI给人类、社会和国家安全带来的风险和机遇。<img src=\"https://static.tigerbbs.com/444e7068c39b3fc1c1166d1c720e717d\" alt=\"\" title=\"\" tg-width=\"960\" tg-height=\"640\"/>据路透社报道，在总统科学技术顾问委员会 (PCAST) 会议中，拜登强调，「在我看来，科技公司有责任确保他们的产品在公开之前是安全的。」而在被问及AI是否危险时，他说，「还有待观察，有这种可能性。」拜登表示，强大技术在没有保护措施的情况下会造成哪些危害，在社交媒体上已经很明显了。「因为缺乏保障措施，我们看到技术影响了人们的心理健康，让他们对自我形象产生了自卑和绝望，这种影响在年轻人中尤为明显。」<img src=\"https://static.tigerbbs.com/4b1cb6c22c11c9294e5ee459ef6a625a\" alt=\"\" title=\"\" tg-width=\"960\" tg-height=\"642\"/>他再次呼吁国会通过两党隐私立法，限制科技公司收集的个人数据，禁止针对青少年的广告，并在产品开发中优先考虑健康和安全。受此消息影响，在拜登召开这次会议之前，AI公司的股价均出现大幅下跌。ChatGPT概念股C3.ai的股价持续走低，收跌26.34%报24.95美元，市值28亿美元，创该股上市以来最大日内跌幅。<img src=\"https://static.tigerbbs.com/39c9c9f959f8794ecc5114ad181897a3\" title=\"\" tg-width=\"560\" tg-height=\"240\"/>而此前，自微软宣布与OpenAI建立数十亿美元的合作关系以来，C3.ai与AI领域的许多公司一样，已经成为华尔街近期最热门的公司之一，今年以来C3.ai的股价已经上涨了超过130%。盖茨：暂停AI研发无法「解决挑战」当地时间4月3日，盖茨接受路透的采访时公开谈论了千名专家签署的公开信，<blockquote>呼吁暂停人工智能开发不会「解决挑战」，最好是把注意力放在如何最好地利用人工智能的发展上，很难理解在全球范围内暂停AI研发将如何实现。</blockquote>他继续表示，我不认为要求某个特定群体暂停工作就能解决挑战。显然，这些东西有巨大的好处······我们需要做的是确定棘手的领域。<img src=\"https://static.tigerbbs.com/92f88acae2d64cdc7ec2d20741aecae3\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"720\"/>盖茨是人工智能的坚定支持者。3月21日，也就是发起联名公开信的前一天，盖茨曾发表了一篇「人工智能时代已经开始」的博客文章。其中提到了应该利用人工智能来帮助减少世界上一些最严重的不平等现象。<img src=\"https://static.tigerbbs.com/4d4534bd778e39d044a85ab65e2f76fc\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"297\"/>他在博客中盛赞人工智能，「AI时代已经开启，人工智能革命重要程度不亚于手机和互联网的诞生，这是其一生中唯二的革命性技术进步。」目前为止，微软已经向OpenAI投资了数十亿美元。OpenAI正在为微软必应、Edge、Microsoft 365和其他产品构建AI技术。在接受采访时，盖茨质疑暂停AI开发的可行性，想知道如何实施。「任何暂停的细节都会很复杂，难以执行。我不太明白，他们说的哪些人可能停止，世界上每个国家是否都会同意停止，以及为什么要停止，在这个领域会有很多不同的意见。」GPT-4学会「自我反思」，性能大涨30%但是，即使全世界都对超级AI如临大敌，想赶紧悬崖勒马，恐怕也为时已晚。因为，如今的AI，已经学会自我进化了！<img src=\"https://static.tigerbbs.com/ddb9844de9499b1104f2f1c6b31420f2\" alt=\"\" title=\"\" tg-width=\"1070\" tg-height=\"590\"/>有证据表明：GPT-4，正在改进自己！<img src=\"https://static.tigerbbs.com/fa376ec4309ec16e6274c523bb81c0e6\" alt=\"\" title=\"\" tg-width=\"830\" tg-height=\"154\"/>前段时间，前谷歌大脑研究工程师Eric Jang发现令人疯的一点：GPT-4能够以合理的方式批评自己的成果。<blockquote>与其为大型语言模型（LLM）寻找完美的提示（让我们一步一步思考），不如让LLM评估自己的输出并立即纠正自己的错误。</blockquote><img src=\"https://static.tigerbbs.com/43375b4dcb7a8e6e44a64fa841954e63\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"270\"/>甚至连特斯拉前AI总监，OpenAI研究科学家Andrej Karpathy大赞，这是一个很好的例子，说明我们还没有看到GPT-4的最大能力。<img src=\"https://static.tigerbbs.com/86ab1cd698864804a268ab7ec4890dc5\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"257\"/>在Eric Jang给出的例子中，曾看到微软研究员发推说GPT-4根本无法写出「不押韵」的诗歌。<img src=\"https://static.tigerbbs.com/b19f5c34d1b1ac5fb066ddc0943d7e7e\" alt=\"\" title=\"\" tg-width=\"616\" tg-height=\"582\"/>然而，当再去询问GPT-4是否完成了任务。这时，它道歉后，生成了一个不押韵的诗！可以说是满分。<img src=\"https://static.tigerbbs.com/0e8df2b51c3c931b669e257fbcb1393a\" alt=\"\" title=\"\" tg-width=\"564\" tg-height=\"756\"/>这恰恰印证了GPT-4是有「反思」能力的。最近，来自美国东北大学、MIT等机构研究者提出了Reflexion。这一方法赋予智能体动态记忆，以及自我反思的能力。<img src=\"https://static.tigerbbs.com/3c4d3f21faf5b51a952c5427d7b11e84\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"565\"/>论文地址：https://arxiv.org/abs/2303.11366为了验证方法的有效性，研究人员评估了智能体在AlfWorld环境中完成决策任务的能力，以及在HotPotQA环境中完成知识密集型、基于搜索问答任务的能力。在这两项任务的成功率分别为97%和51%。<img src=\"https://static.tigerbbs.com/d2139cb9592549b14e83e636916f614a\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"425\"/>Reflexion智能体的整体架构有网友便表示，你可以通过要求 GPT-4 反思「你为什么错了？」，并为自己生成一个新的提示，将这个错误原因考虑在内，直到结果正确，从而将GPT-4的性能提高惊人的30%。<img src=\"https://static.tigerbbs.com/077297f48d89ed9bd0b0cb77d6cb544e\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"361\"/>另外，论文指出，在测试模型编写代码的能力时，Reflexion+GPT-4也显著优于常规的GPT-4。<img src=\"https://static.tigerbbs.com/9a94e329e628b5a3bdf1e1449e80d519\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"810\"/>这样看来，就像Eric Jang所说，我们现在可以考虑一种「后缀提示工程」，而不是巧妙的「前缀提示工程」。这将鼓励LLM在先前生成的解决方案中找到更正和不一致的地方。<img src=\"https://static.tigerbbs.com/1f4e1dd56996ed9a8297153be2a166ff\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"202\"/>对于GPT-4通过自我改进让自己变得更聪明的能力，一位网友对此做了一个视频总结。，时长14:55ChatGPT长「手」了如果说GPT-4能够反思，有了大脑，就已经够可怕的了，而现在，ChatGPT还有了「手」，不仅能够用工具，还可以用模型。在ChatGPT还未上线「插件」功能前，Meta研究人员曾在2月份抛出一篇新论文Toolformer，直接瞄准ChatGPT的「软肋」，让大语言模型自行学会使用工具。<img src=\"https://static.tigerbbs.com/c53698d2aeafbdfa5782158fe1de039b\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"303\"/>论文地址：https://arxiv.org/abs/2302.04761按照Meta的思路，像ChatGPT这样的大语言模型可以缺啥补啥。比如不会算数，就拿出计算器；需要最新信息，就自己连接搜索引擎搜索；甚至可以直接把想翻译的内容丢给它。<img src=\"https://static.tigerbbs.com/be8edd42ed682aa4d2961162abb5c7ab\" alt=\"\" title=\"\" tg-width=\"540\" tg-height=\"303\"/>论文一出瞬间爆火，许多AI研究者表示，这篇论文为人们打开了思路，让大语言模型未来可以成为所有事情的起点。同样，最近浙大和微软亚研院新出的论文「贾维斯」HuggingGPT在业界引起很大的关注。<img src=\"https://static.tigerbbs.com/3006d333baf5371f05956d15745a0a17\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"390\"/>论文地址：https://arxiv.org/abs/2303.17580论文中，研究者提出的HuggingGPT利用ChatGPT作为控制器，连接HuggingFace社区中的各种AI模型，来完成多模态等各种复杂任务。<img src=\"https://static.tigerbbs.com/e6e353bd210863877822bf0b050f454a\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"490\"/>有网友表示，我强烈怀疑第一个通用人工智能（AGI）的出现将比预期更早。它将依靠「胶水」AI，能够智能地将一系列狭义人工智能和实用工具粘合在一起。<img src=\"https://static.tigerbbs.com/0272a7ec06fa9f239562936751ee3f2a\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"115\"/>自动写代码<h2 style=\"text-align: justify;\"> </h2>最近，一位开发者做了一个能让GPT-4自动生成代码的项目——Auto-GPT。<img src=\"https://static.tigerbbs.com/ee40892a3a028bd0a96c2b115b018bcc\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"391\"/>甚至还可以执行代码。在后续改进中，Auto-GPT可以使用GPT-4编写代码，并执行Python脚本。这使得它能够递归调试、开发并自我改进...<img src=\"https://static.tigerbbs.com/6fa4735e176961a31b7aa3f36a5ef3ee\" alt=\"\" title=\"\" tg-width=\"640\" tg-height=\"360\"/>Auto-GPT让人们更进一步了解到GPT-4强大能力，甚至有网友做了一张梗图：<img src=\"https://static.tigerbbs.com/8779a9fab5ee9d447bbb5985687985c1\" alt=\"\" title=\"\" tg-width=\"629\" tg-height=\"500\"/>Andrej Karpathy表示，在我看来，提示工程的下一个前沿领域是「AutoGPT」。一个GPT调用就像计算机上的一个指令。它们可以被串联成程序中。使用提示来定义I/O设备和工具规格，定义认知循环，在上下文中分页数据输入和输出，然后运行。<img src=\"https://static.tigerbbs.com/3342f1287e7e79f3619ba4e3c2db8bd4\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"239\"/>网友：奇点来了 有网友称，这基本上就是奇点的定义。一个能够自我改进的AI，现在唯一需要的就是使其能够修改模型的代码，并自主训练（通过浏览互联网并自行标记所有内容）。<img src=\"https://static.tigerbbs.com/484a88545cb7b47fd3c71469a276afd9\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"165\"/>甚至有的网友认为，技术的飞速进步，让我们已经到了无法回头的地步。到2025年，这个世界将会发生翻天覆地的变化，无论是好还是坏。<img src=\"https://static.tigerbbs.com/809f1644ad8821475032ce0c8a578c2b\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"211\"/>从错误中学习，是智力的基础。<img src=\"https://static.tigerbbs.com/18fd652bb2a8a5d7c78f0a855d0ff8c7\" alt=\"\" title=\"\" tg-width=\"1064\" tg-height=\"126\"/>如此看来，GPT-4打败自己，想要成为超级AI。<img src=\"https://static.tigerbbs.com/16035e2c743e469b940958eddb76db80\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"717\"/>而根据某大佬的最新消息，OpenAI非常清楚，最近他们AI产品的快速迭代引起了极度强烈的反响，而他们也欢迎公众的监督。其负责人表示，目前risk per token还没到临界点，所以GPT的滥用还造不成太大的伤害。而AI对齐的路线图，即将在几个月内发布。<img src=\"https://static.tigerbbs.com/ea9b666066ac4604235a3b13e82c9b6f\" alt=\"\" title=\"\" tg-width=\"1052\" tg-height=\"652\"/></body></html>","source":"lsy1569730104218","collect":0,"html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>超强进化！GPT-4正在改进自己，近万人联名封杀</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\n超强进化！GPT-4正在改进自己，近万人联名封杀\n</h2>\n\n<h4 class=\"meta\">\n\n\n2023-04-05 21:51 北京时间&nbsp;&nbsp;&nbsp;<a href=https://mp.weixin.qq.com/s?__biz=MzI3MTA0MTk1MA==&mid=2652313763&idx=1&sn=5c1f40eb680cf66f27abc557967920b7&chksm=f1246c52c653e544945871c3c6bb0753ca6a2e0dd2d1db6424badc68432b456e046fa7fe21d2&mpshare=1&scene=23&srcid=0405ZfSCJKXokh3KTuYlnWWJ&sharer_sharetime=1680668383759&sharer_shareid=00a55b671777cf0e253d4693000ead51#rd>新智元</a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\nGPT-5的威胁，已经黑云压顶。GPT-4诞生后，AI可能给人类社会造成的颠覆性影响，早已让多位业内大佬感到恐惧。最近，似乎全世界都在围剿ChatGPT。前一阵由马斯克、图灵奖得主Bengio等大佬联名发起的暂停高级AI研发的公开信，现在签名已经上升到9000多人。紧接着，美国非营利组织人工智能与数字政策中心（CAIDP）也要求联邦贸易委员会（FTC）调查OpenAI是否违反了消费者保护规则，并...\n\n<a href=\"https://mp.weixin.qq.com/s?__biz=MzI3MTA0MTk1MA==&mid=2652313763&idx=1&sn=5c1f40eb680cf66f27abc557967920b7&chksm=f1246c52c653e544945871c3c6bb0753ca6a2e0dd2d1db6424badc68432b456e046fa7fe21d2&mpshare=1&scene=23&srcid=0405ZfSCJKXokh3KTuYlnWWJ&sharer_sharetime=1680668383759&sharer_shareid=00a55b671777cf0e253d4693000ead51#rd\">Web Link</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","type":0,"thumbnail":"https://static.tigerbbs.com/b7bd6aaa8b0c55a6e9451f9983087814","relate_stocks":{},"source_url":"https://mp.weixin.qq.com/s?__biz=MzI3MTA0MTk1MA==&mid=2652313763&idx=1&sn=5c1f40eb680cf66f27abc557967920b7&chksm=f1246c52c653e544945871c3c6bb0753ca6a2e0dd2d1db6424badc68432b456e046fa7fe21d2&mpshare=1&scene=23&srcid=0405ZfSCJKXokh3KTuYlnWWJ&sharer_sharetime=1680668383759&sharer_shareid=00a55b671777cf0e253d4693000ead51#rd","is_english":false,"share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","article_id":"1139481255","content_text":"GPT-5的威胁，已经黑云压顶。GPT-4诞生后，AI可能给人类社会造成的颠覆性影响，早已让多位业内大佬感到恐惧。最近，似乎全世界都在围剿ChatGPT。前一阵由马斯克、图灵奖得主Bengio等大佬联名发起的暂停高级AI研发的公开信，现在签名已经上升到9000多人。紧接着，美国非营利组织人工智能与数字政策中心（CAIDP）也要求联邦贸易委员会（FTC）调查OpenAI是否违反了消费者保护规则，并禁止其进一步发布GPT-4。而意大利直接全国上下封禁了ChatGPT，只给OpenAI 20天的调整适应期，拿不出合格的方案，就得交最高2000万欧元的罚款。封杀ChatGPT狂潮席卷全球有趣的是，自从意大利开了这个头之后，其他一些国家也跃跃欲试，准备要对ChatGPT开刀。法国和爱尔兰的隐私监管机构，已经联系了他们的意大利同行，希望得到更多关于调查的详细资料。德国联邦数据保护专员Ulrich Kelber表示：「从原则上讲，德国也有可能采取类似的程序。」此外，欧盟也提出草案，计划将ChatGPT视为高风险的AI系统进行监管。美国也出手了而就在今天，美国总统拜登也在白宫与科技顾问开了会，讨论了AI给人类、社会和国家安全带来的风险和机遇。据路透社报道，在总统科学技术顾问委员会 (PCAST) 会议中，拜登强调，「在我看来，科技公司有责任确保他们的产品在公开之前是安全的。」而在被问及AI是否危险时，他说，「还有待观察，有这种可能性。」拜登表示，强大技术在没有保护措施的情况下会造成哪些危害，在社交媒体上已经很明显了。「因为缺乏保障措施，我们看到技术影响了人们的心理健康，让他们对自我形象产生了自卑和绝望，这种影响在年轻人中尤为明显。」他再次呼吁国会通过两党隐私立法，限制科技公司收集的个人数据，禁止针对青少年的广告，并在产品开发中优先考虑健康和安全。受此消息影响，在拜登召开这次会议之前，AI公司的股价均出现大幅下跌。ChatGPT概念股C3.ai的股价持续走低，收跌26.34%报24.95美元，市值28亿美元，创该股上市以来最大日内跌幅。而此前，自微软宣布与OpenAI建立数十亿美元的合作关系以来，C3.ai与AI领域的许多公司一样，已经成为华尔街近期最热门的公司之一，今年以来C3.ai的股价已经上涨了超过130%。盖茨：暂停AI研发无法「解决挑战」当地时间4月3日，盖茨接受路透的采访时公开谈论了千名专家签署的公开信，呼吁暂停人工智能开发不会「解决挑战」，最好是把注意力放在如何最好地利用人工智能的发展上，很难理解在全球范围内暂停AI研发将如何实现。他继续表示，我不认为要求某个特定群体暂停工作就能解决挑战。显然，这些东西有巨大的好处······我们需要做的是确定棘手的领域。盖茨是人工智能的坚定支持者。3月21日，也就是发起联名公开信的前一天，盖茨曾发表了一篇「人工智能时代已经开始」的博客文章。其中提到了应该利用人工智能来帮助减少世界上一些最严重的不平等现象。他在博客中盛赞人工智能，「AI时代已经开启，人工智能革命重要程度不亚于手机和互联网的诞生，这是其一生中唯二的革命性技术进步。」目前为止，微软已经向OpenAI投资了数十亿美元。OpenAI正在为微软必应、Edge、Microsoft 365和其他产品构建AI技术。在接受采访时，盖茨质疑暂停AI开发的可行性，想知道如何实施。「任何暂停的细节都会很复杂，难以执行。我不太明白，他们说的哪些人可能停止，世界上每个国家是否都会同意停止，以及为什么要停止，在这个领域会有很多不同的意见。」GPT-4学会「自我反思」，性能大涨30%但是，即使全世界都对超级AI如临大敌，想赶紧悬崖勒马，恐怕也为时已晚。因为，如今的AI，已经学会自我进化了！有证据表明：GPT-4，正在改进自己！前段时间，前谷歌大脑研究工程师Eric Jang发现令人疯的一点：GPT-4能够以合理的方式批评自己的成果。与其为大型语言模型（LLM）寻找完美的提示（让我们一步一步思考），不如让LLM评估自己的输出并立即纠正自己的错误。甚至连特斯拉前AI总监，OpenAI研究科学家Andrej Karpathy大赞，这是一个很好的例子，说明我们还没有看到GPT-4的最大能力。在Eric Jang给出的例子中，曾看到微软研究员发推说GPT-4根本无法写出「不押韵」的诗歌。然而，当再去询问GPT-4是否完成了任务。这时，它道歉后，生成了一个不押韵的诗！可以说是满分。这恰恰印证了GPT-4是有「反思」能力的。最近，来自美国东北大学、MIT等机构研究者提出了Reflexion。这一方法赋予智能体动态记忆，以及自我反思的能力。论文地址：https://arxiv.org/abs/2303.11366为了验证方法的有效性，研究人员评估了智能体在AlfWorld环境中完成决策任务的能力，以及在HotPotQA环境中完成知识密集型、基于搜索问答任务的能力。在这两项任务的成功率分别为97%和51%。Reflexion智能体的整体架构有网友便表示，你可以通过要求 GPT-4 反思「你为什么错了？」，并为自己生成一个新的提示，将这个错误原因考虑在内，直到结果正确，从而将GPT-4的性能提高惊人的30%。另外，论文指出，在测试模型编写代码的能力时，Reflexion+GPT-4也显著优于常规的GPT-4。这样看来，就像Eric Jang所说，我们现在可以考虑一种「后缀提示工程」，而不是巧妙的「前缀提示工程」。这将鼓励LLM在先前生成的解决方案中找到更正和不一致的地方。对于GPT-4通过自我改进让自己变得更聪明的能力，一位网友对此做了一个视频总结。，时长14:55ChatGPT长「手」了如果说GPT-4能够反思，有了大脑，就已经够可怕的了，而现在，ChatGPT还有了「手」，不仅能够用工具，还可以用模型。在ChatGPT还未上线「插件」功能前，Meta研究人员曾在2月份抛出一篇新论文Toolformer，直接瞄准ChatGPT的「软肋」，让大语言模型自行学会使用工具。论文地址：https://arxiv.org/abs/2302.04761按照Meta的思路，像ChatGPT这样的大语言模型可以缺啥补啥。比如不会算数，就拿出计算器；需要最新信息，就自己连接搜索引擎搜索；甚至可以直接把想翻译的内容丢给它。论文一出瞬间爆火，许多AI研究者表示，这篇论文为人们打开了思路，让大语言模型未来可以成为所有事情的起点。同样，最近浙大和微软亚研院新出的论文「贾维斯」HuggingGPT在业界引起很大的关注。论文地址：https://arxiv.org/abs/2303.17580论文中，研究者提出的HuggingGPT利用ChatGPT作为控制器，连接HuggingFace社区中的各种AI模型，来完成多模态等各种复杂任务。有网友表示，我强烈怀疑第一个通用人工智能（AGI）的出现将比预期更早。它将依靠「胶水」AI，能够智能地将一系列狭义人工智能和实用工具粘合在一起。自动写代码最近，一位开发者做了一个能让GPT-4自动生成代码的项目——Auto-GPT。甚至还可以执行代码。在后续改进中，Auto-GPT可以使用GPT-4编写代码，并执行Python脚本。这使得它能够递归调试、开发并自我改进...Auto-GPT让人们更进一步了解到GPT-4强大能力，甚至有网友做了一张梗图：Andrej Karpathy表示，在我看来，提示工程的下一个前沿领域是「AutoGPT」。一个GPT调用就像计算机上的一个指令。它们可以被串联成程序中。使用提示来定义I/O设备和工具规格，定义认知循环，在上下文中分页数据输入和输出，然后运行。网友：奇点来了有网友称，这基本上就是奇点的定义。一个能够自我改进的AI，现在唯一需要的就是使其能够修改模型的代码，并自主训练（通过浏览互联网并自行标记所有内容）。甚至有的网友认为，技术的飞速进步，让我们已经到了无法回头的地步。到2025年，这个世界将会发生翻天覆地的变化，无论是好还是坏。从错误中学习，是智力的基础。如此看来，GPT-4打败自己，想要成为超级AI。而根据某大佬的最新消息，OpenAI非常清楚，最近他们AI产品的快速迭代引起了极度强烈的反响，而他们也欢迎公众的监督。其负责人表示，目前risk per token还没到临界点，所以GPT的滥用还造不成太大的伤害。而AI对齐的路线图，即将在几个月内发布。","news_type":1},"isVote":1,"likeStatus":false,"favoriteStatus":false,"reportStatus":false,"tweetType":1,"langContent":"CN"},{"id":653801793,"gmtCreate":1680704079412,"gmtModify":1680704080971,"author":{"id":"3524070998279497","authorId":"3524070998279497","name":"阳山","avatar":"https://static.tigerbbs.com/c8bff9d28f5874990920b416fdb1e0ab","vip":1,"crmLevel":1,"crmLevelSwitch":0,"idStr":"3524070998279497","authorIdStr":"3524070998279497"},"htmlText":"我们让AI思考学，人置于何地。","listText":"我们让AI思考学，人置于何地。","text":"我们让AI思考学，人置于何地。","images":[],"top":1,"highlighted":1,"essential":1,"paper":1,"likeSize":1,"commentSize":0,"repostSize":0,"link":"https://laohu8.com/post/653801793","repostId":1139481255,"repostType":2,"repost":{"id":"1139481255","kind":"news","pubTimestamp":1680702675,"share":"https://www.laohu8.com/m/news/1139481255?lang=&edition=full","pubTime":"2023-04-05 21:51","market":"us","language":"zh","title":"超强进化！GPT-4正在改进自己，近万人联名封杀","url":"https://stock-news.laohu8.com/highlight/detail?id=1139481255","media":"新智元","summary":"即使全世界都对超级AI如临大敌，想赶紧悬崖勒马，恐怕也为时已晚。","content":"<html><head></head><body>GPT-5的威胁，已经黑云压顶。GPT-4诞生后，AI可能给人类社会造成的颠覆性影响，早已让多位业内大佬感到恐惧。最近，似乎全世界都在围剿ChatGPT。前一阵由马斯克、图灵奖得主Bengio等大佬联名发起的暂停高级AI研发的公开信，现在签名已经上升到9000多人。<img src=\"https://static.tigerbbs.com/ef20c9ddb2a833c9584bbc75eeae8299\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"363\"/>紧接着，美国非营利组织人工智能与数字政策中心（CAIDP）也要求联邦贸易委员会（FTC）调查OpenAI是否违反了消费者保护规则，并禁止其进一步发布GPT-4。而意大利直接全国上下封禁了ChatGPT，只给OpenAI 20天的调整适应期，拿不出合格的方案，就得交最高2000万欧元的罚款。封杀ChatGPT狂潮席卷全球有趣的是，自从意大利开了这个头之后，其他一些国家也跃跃欲试，准备要对ChatGPT开刀。法国和爱尔兰的隐私监管机构，已经联系了他们的意大利同行，希望得到更多关于调查的详细资料。德国联邦数据保护专员Ulrich Kelber表示：「从原则上讲，德国也有可能采取类似的程序。」此外，欧盟也提出草案，计划将ChatGPT视为高风险的AI系统进行监管。<img src=\"https://static.tigerbbs.com/a5390af781574ba9ba466163d255e2df\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"720\"/>美国也出手了而就在今天，美国总统拜登也在白宫与科技顾问开了会，讨论了AI给人类、社会和国家安全带来的风险和机遇。<img src=\"https://static.tigerbbs.com/444e7068c39b3fc1c1166d1c720e717d\" alt=\"\" title=\"\" tg-width=\"960\" tg-height=\"640\"/>据路透社报道，在总统科学技术顾问委员会 (PCAST) 会议中，拜登强调，「在我看来，科技公司有责任确保他们的产品在公开之前是安全的。」而在被问及AI是否危险时，他说，「还有待观察，有这种可能性。」拜登表示，强大技术在没有保护措施的情况下会造成哪些危害，在社交媒体上已经很明显了。「因为缺乏保障措施，我们看到技术影响了人们的心理健康，让他们对自我形象产生了自卑和绝望，这种影响在年轻人中尤为明显。」<img src=\"https://static.tigerbbs.com/4b1cb6c22c11c9294e5ee459ef6a625a\" alt=\"\" title=\"\" tg-width=\"960\" tg-height=\"642\"/>他再次呼吁国会通过两党隐私立法，限制科技公司收集的个人数据，禁止针对青少年的广告，并在产品开发中优先考虑健康和安全。受此消息影响，在拜登召开这次会议之前，AI公司的股价均出现大幅下跌。ChatGPT概念股C3.ai的股价持续走低，收跌26.34%报24.95美元，市值28亿美元，创该股上市以来最大日内跌幅。<img src=\"https://static.tigerbbs.com/39c9c9f959f8794ecc5114ad181897a3\" title=\"\" tg-width=\"560\" tg-height=\"240\"/>而此前，自微软宣布与OpenAI建立数十亿美元的合作关系以来，C3.ai与AI领域的许多公司一样，已经成为华尔街近期最热门的公司之一，今年以来C3.ai的股价已经上涨了超过130%。盖茨：暂停AI研发无法「解决挑战」当地时间4月3日，盖茨接受路透的采访时公开谈论了千名专家签署的公开信，<blockquote>呼吁暂停人工智能开发不会「解决挑战」，最好是把注意力放在如何最好地利用人工智能的发展上，很难理解在全球范围内暂停AI研发将如何实现。</blockquote>他继续表示，我不认为要求某个特定群体暂停工作就能解决挑战。显然，这些东西有巨大的好处······我们需要做的是确定棘手的领域。<img src=\"https://static.tigerbbs.com/92f88acae2d64cdc7ec2d20741aecae3\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"720\"/>盖茨是人工智能的坚定支持者。3月21日，也就是发起联名公开信的前一天，盖茨曾发表了一篇「人工智能时代已经开始」的博客文章。其中提到了应该利用人工智能来帮助减少世界上一些最严重的不平等现象。<img src=\"https://static.tigerbbs.com/4d4534bd778e39d044a85ab65e2f76fc\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"297\"/>他在博客中盛赞人工智能，「AI时代已经开启，人工智能革命重要程度不亚于手机和互联网的诞生，这是其一生中唯二的革命性技术进步。」目前为止，微软已经向OpenAI投资了数十亿美元。OpenAI正在为微软必应、Edge、Microsoft 365和其他产品构建AI技术。在接受采访时，盖茨质疑暂停AI开发的可行性，想知道如何实施。「任何暂停的细节都会很复杂，难以执行。我不太明白，他们说的哪些人可能停止，世界上每个国家是否都会同意停止，以及为什么要停止，在这个领域会有很多不同的意见。」GPT-4学会「自我反思」，性能大涨30%但是，即使全世界都对超级AI如临大敌，想赶紧悬崖勒马，恐怕也为时已晚。因为，如今的AI，已经学会自我进化了！<img src=\"https://static.tigerbbs.com/ddb9844de9499b1104f2f1c6b31420f2\" alt=\"\" title=\"\" tg-width=\"1070\" tg-height=\"590\"/>有证据表明：GPT-4，正在改进自己！<img src=\"https://static.tigerbbs.com/fa376ec4309ec16e6274c523bb81c0e6\" alt=\"\" title=\"\" tg-width=\"830\" tg-height=\"154\"/>前段时间，前谷歌大脑研究工程师Eric Jang发现令人疯的一点：GPT-4能够以合理的方式批评自己的成果。<blockquote>与其为大型语言模型（LLM）寻找完美的提示（让我们一步一步思考），不如让LLM评估自己的输出并立即纠正自己的错误。</blockquote><img src=\"https://static.tigerbbs.com/43375b4dcb7a8e6e44a64fa841954e63\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"270\"/>甚至连特斯拉前AI总监，OpenAI研究科学家Andrej Karpathy大赞，这是一个很好的例子，说明我们还没有看到GPT-4的最大能力。<img src=\"https://static.tigerbbs.com/86ab1cd698864804a268ab7ec4890dc5\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"257\"/>在Eric Jang给出的例子中，曾看到微软研究员发推说GPT-4根本无法写出「不押韵」的诗歌。<img src=\"https://static.tigerbbs.com/b19f5c34d1b1ac5fb066ddc0943d7e7e\" alt=\"\" title=\"\" tg-width=\"616\" tg-height=\"582\"/>然而，当再去询问GPT-4是否完成了任务。这时，它道歉后，生成了一个不押韵的诗！可以说是满分。<img src=\"https://static.tigerbbs.com/0e8df2b51c3c931b669e257fbcb1393a\" alt=\"\" title=\"\" tg-width=\"564\" tg-height=\"756\"/>这恰恰印证了GPT-4是有「反思」能力的。最近，来自美国东北大学、MIT等机构研究者提出了Reflexion。这一方法赋予智能体动态记忆，以及自我反思的能力。<img src=\"https://static.tigerbbs.com/3c4d3f21faf5b51a952c5427d7b11e84\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"565\"/>论文地址：https://arxiv.org/abs/2303.11366为了验证方法的有效性，研究人员评估了智能体在AlfWorld环境中完成决策任务的能力，以及在HotPotQA环境中完成知识密集型、基于搜索问答任务的能力。在这两项任务的成功率分别为97%和51%。<img src=\"https://static.tigerbbs.com/d2139cb9592549b14e83e636916f614a\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"425\"/>Reflexion智能体的整体架构有网友便表示，你可以通过要求 GPT-4 反思「你为什么错了？」，并为自己生成一个新的提示，将这个错误原因考虑在内，直到结果正确，从而将GPT-4的性能提高惊人的30%。<img src=\"https://static.tigerbbs.com/077297f48d89ed9bd0b0cb77d6cb544e\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"361\"/>另外，论文指出，在测试模型编写代码的能力时，Reflexion+GPT-4也显著优于常规的GPT-4。<img src=\"https://static.tigerbbs.com/9a94e329e628b5a3bdf1e1449e80d519\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"810\"/>这样看来，就像Eric Jang所说，我们现在可以考虑一种「后缀提示工程」，而不是巧妙的「前缀提示工程」。这将鼓励LLM在先前生成的解决方案中找到更正和不一致的地方。<img src=\"https://static.tigerbbs.com/1f4e1dd56996ed9a8297153be2a166ff\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"202\"/>对于GPT-4通过自我改进让自己变得更聪明的能力，一位网友对此做了一个视频总结。，时长14:55ChatGPT长「手」了如果说GPT-4能够反思，有了大脑，就已经够可怕的了，而现在，ChatGPT还有了「手」，不仅能够用工具，还可以用模型。在ChatGPT还未上线「插件」功能前，Meta研究人员曾在2月份抛出一篇新论文Toolformer，直接瞄准ChatGPT的「软肋」，让大语言模型自行学会使用工具。<img src=\"https://static.tigerbbs.com/c53698d2aeafbdfa5782158fe1de039b\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"303\"/>论文地址：https://arxiv.org/abs/2302.04761按照Meta的思路，像ChatGPT这样的大语言模型可以缺啥补啥。比如不会算数，就拿出计算器；需要最新信息，就自己连接搜索引擎搜索；甚至可以直接把想翻译的内容丢给它。<img src=\"https://static.tigerbbs.com/be8edd42ed682aa4d2961162abb5c7ab\" alt=\"\" title=\"\" tg-width=\"540\" tg-height=\"303\"/>论文一出瞬间爆火，许多AI研究者表示，这篇论文为人们打开了思路，让大语言模型未来可以成为所有事情的起点。同样，最近浙大和微软亚研院新出的论文「贾维斯」HuggingGPT在业界引起很大的关注。<img src=\"https://static.tigerbbs.com/3006d333baf5371f05956d15745a0a17\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"390\"/>论文地址：https://arxiv.org/abs/2303.17580论文中，研究者提出的HuggingGPT利用ChatGPT作为控制器，连接HuggingFace社区中的各种AI模型，来完成多模态等各种复杂任务。<img src=\"https://static.tigerbbs.com/e6e353bd210863877822bf0b050f454a\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"490\"/>有网友表示，我强烈怀疑第一个通用人工智能（AGI）的出现将比预期更早。它将依靠「胶水」AI，能够智能地将一系列狭义人工智能和实用工具粘合在一起。<img src=\"https://static.tigerbbs.com/0272a7ec06fa9f239562936751ee3f2a\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"115\"/>自动写代码<h2 style=\"text-align: justify;\"> </h2>最近，一位开发者做了一个能让GPT-4自动生成代码的项目——Auto-GPT。<img src=\"https://static.tigerbbs.com/ee40892a3a028bd0a96c2b115b018bcc\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"391\"/>甚至还可以执行代码。在后续改进中，Auto-GPT可以使用GPT-4编写代码，并执行Python脚本。这使得它能够递归调试、开发并自我改进...<img src=\"https://static.tigerbbs.com/6fa4735e176961a31b7aa3f36a5ef3ee\" alt=\"\" title=\"\" tg-width=\"640\" tg-height=\"360\"/>Auto-GPT让人们更进一步了解到GPT-4强大能力，甚至有网友做了一张梗图：<img src=\"https://static.tigerbbs.com/8779a9fab5ee9d447bbb5985687985c1\" alt=\"\" title=\"\" tg-width=\"629\" tg-height=\"500\"/>Andrej Karpathy表示，在我看来，提示工程的下一个前沿领域是「AutoGPT」。一个GPT调用就像计算机上的一个指令。它们可以被串联成程序中。使用提示来定义I/O设备和工具规格，定义认知循环，在上下文中分页数据输入和输出，然后运行。<img src=\"https://static.tigerbbs.com/3342f1287e7e79f3619ba4e3c2db8bd4\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"239\"/>网友：奇点来了 有网友称，这基本上就是奇点的定义。一个能够自我改进的AI，现在唯一需要的就是使其能够修改模型的代码，并自主训练（通过浏览互联网并自行标记所有内容）。<img src=\"https://static.tigerbbs.com/484a88545cb7b47fd3c71469a276afd9\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"165\"/>甚至有的网友认为，技术的飞速进步，让我们已经到了无法回头的地步。到2025年，这个世界将会发生翻天覆地的变化，无论是好还是坏。<img src=\"https://static.tigerbbs.com/809f1644ad8821475032ce0c8a578c2b\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"211\"/>从错误中学习，是智力的基础。<img src=\"https://static.tigerbbs.com/18fd652bb2a8a5d7c78f0a855d0ff8c7\" alt=\"\" title=\"\" tg-width=\"1064\" tg-height=\"126\"/>如此看来，GPT-4打败自己，想要成为超级AI。<img src=\"https://static.tigerbbs.com/16035e2c743e469b940958eddb76db80\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"717\"/>而根据某大佬的最新消息，OpenAI非常清楚，最近他们AI产品的快速迭代引起了极度强烈的反响，而他们也欢迎公众的监督。其负责人表示，目前risk per token还没到临界点，所以GPT的滥用还造不成太大的伤害。而AI对齐的路线图，即将在几个月内发布。<img src=\"https://static.tigerbbs.com/ea9b666066ac4604235a3b13e82c9b6f\" alt=\"\" title=\"\" tg-width=\"1052\" tg-height=\"652\"/></body></html>","source":"lsy1569730104218","collect":0,"html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>超强进化！GPT-4正在改进自己，近万人联名封杀</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\n超强进化！GPT-4正在改进自己，近万人联名封杀\n</h2>\n\n<h4 class=\"meta\">\n\n\n2023-04-05 21:51 北京时间&nbsp;&nbsp;&nbsp;<a href=https://mp.weixin.qq.com/s?__biz=MzI3MTA0MTk1MA==&mid=2652313763&idx=1&sn=5c1f40eb680cf66f27abc557967920b7&chksm=f1246c52c653e544945871c3c6bb0753ca6a2e0dd2d1db6424badc68432b456e046fa7fe21d2&mpshare=1&scene=23&srcid=0405ZfSCJKXokh3KTuYlnWWJ&sharer_sharetime=1680668383759&sharer_shareid=00a55b671777cf0e253d4693000ead51#rd>新智元</a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\nGPT-5的威胁，已经黑云压顶。GPT-4诞生后，AI可能给人类社会造成的颠覆性影响，早已让多位业内大佬感到恐惧。最近，似乎全世界都在围剿ChatGPT。前一阵由马斯克、图灵奖得主Bengio等大佬联名发起的暂停高级AI研发的公开信，现在签名已经上升到9000多人。紧接着，美国非营利组织人工智能与数字政策中心（CAIDP）也要求联邦贸易委员会（FTC）调查OpenAI是否违反了消费者保护规则，并...\n\n<a href=\"https://mp.weixin.qq.com/s?__biz=MzI3MTA0MTk1MA==&mid=2652313763&idx=1&sn=5c1f40eb680cf66f27abc557967920b7&chksm=f1246c52c653e544945871c3c6bb0753ca6a2e0dd2d1db6424badc68432b456e046fa7fe21d2&mpshare=1&scene=23&srcid=0405ZfSCJKXokh3KTuYlnWWJ&sharer_sharetime=1680668383759&sharer_shareid=00a55b671777cf0e253d4693000ead51#rd\">Web Link</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","type":0,"thumbnail":"https://static.tigerbbs.com/b7bd6aaa8b0c55a6e9451f9983087814","relate_stocks":{},"source_url":"https://mp.weixin.qq.com/s?__biz=MzI3MTA0MTk1MA==&mid=2652313763&idx=1&sn=5c1f40eb680cf66f27abc557967920b7&chksm=f1246c52c653e544945871c3c6bb0753ca6a2e0dd2d1db6424badc68432b456e046fa7fe21d2&mpshare=1&scene=23&srcid=0405ZfSCJKXokh3KTuYlnWWJ&sharer_sharetime=1680668383759&sharer_shareid=00a55b671777cf0e253d4693000ead51#rd","is_english":false,"share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","article_id":"1139481255","content_text":"GPT-5的威胁，已经黑云压顶。GPT-4诞生后，AI可能给人类社会造成的颠覆性影响，早已让多位业内大佬感到恐惧。最近，似乎全世界都在围剿ChatGPT。前一阵由马斯克、图灵奖得主Bengio等大佬联名发起的暂停高级AI研发的公开信，现在签名已经上升到9000多人。紧接着，美国非营利组织人工智能与数字政策中心（CAIDP）也要求联邦贸易委员会（FTC）调查OpenAI是否违反了消费者保护规则，并禁止其进一步发布GPT-4。而意大利直接全国上下封禁了ChatGPT，只给OpenAI 20天的调整适应期，拿不出合格的方案，就得交最高2000万欧元的罚款。封杀ChatGPT狂潮席卷全球有趣的是，自从意大利开了这个头之后，其他一些国家也跃跃欲试，准备要对ChatGPT开刀。法国和爱尔兰的隐私监管机构，已经联系了他们的意大利同行，希望得到更多关于调查的详细资料。德国联邦数据保护专员Ulrich Kelber表示：「从原则上讲，德国也有可能采取类似的程序。」此外，欧盟也提出草案，计划将ChatGPT视为高风险的AI系统进行监管。美国也出手了而就在今天，美国总统拜登也在白宫与科技顾问开了会，讨论了AI给人类、社会和国家安全带来的风险和机遇。据路透社报道，在总统科学技术顾问委员会 (PCAST) 会议中，拜登强调，「在我看来，科技公司有责任确保他们的产品在公开之前是安全的。」而在被问及AI是否危险时，他说，「还有待观察，有这种可能性。」拜登表示，强大技术在没有保护措施的情况下会造成哪些危害，在社交媒体上已经很明显了。「因为缺乏保障措施，我们看到技术影响了人们的心理健康，让他们对自我形象产生了自卑和绝望，这种影响在年轻人中尤为明显。」他再次呼吁国会通过两党隐私立法，限制科技公司收集的个人数据，禁止针对青少年的广告，并在产品开发中优先考虑健康和安全。受此消息影响，在拜登召开这次会议之前，AI公司的股价均出现大幅下跌。ChatGPT概念股C3.ai的股价持续走低，收跌26.34%报24.95美元，市值28亿美元，创该股上市以来最大日内跌幅。而此前，自微软宣布与OpenAI建立数十亿美元的合作关系以来，C3.ai与AI领域的许多公司一样，已经成为华尔街近期最热门的公司之一，今年以来C3.ai的股价已经上涨了超过130%。盖茨：暂停AI研发无法「解决挑战」当地时间4月3日，盖茨接受路透的采访时公开谈论了千名专家签署的公开信，呼吁暂停人工智能开发不会「解决挑战」，最好是把注意力放在如何最好地利用人工智能的发展上，很难理解在全球范围内暂停AI研发将如何实现。他继续表示，我不认为要求某个特定群体暂停工作就能解决挑战。显然，这些东西有巨大的好处······我们需要做的是确定棘手的领域。盖茨是人工智能的坚定支持者。3月21日，也就是发起联名公开信的前一天，盖茨曾发表了一篇「人工智能时代已经开始」的博客文章。其中提到了应该利用人工智能来帮助减少世界上一些最严重的不平等现象。他在博客中盛赞人工智能，「AI时代已经开启，人工智能革命重要程度不亚于手机和互联网的诞生，这是其一生中唯二的革命性技术进步。」目前为止，微软已经向OpenAI投资了数十亿美元。OpenAI正在为微软必应、Edge、Microsoft 365和其他产品构建AI技术。在接受采访时，盖茨质疑暂停AI开发的可行性，想知道如何实施。「任何暂停的细节都会很复杂，难以执行。我不太明白，他们说的哪些人可能停止，世界上每个国家是否都会同意停止，以及为什么要停止，在这个领域会有很多不同的意见。」GPT-4学会「自我反思」，性能大涨30%但是，即使全世界都对超级AI如临大敌，想赶紧悬崖勒马，恐怕也为时已晚。因为，如今的AI，已经学会自我进化了！有证据表明：GPT-4，正在改进自己！前段时间，前谷歌大脑研究工程师Eric Jang发现令人疯的一点：GPT-4能够以合理的方式批评自己的成果。与其为大型语言模型（LLM）寻找完美的提示（让我们一步一步思考），不如让LLM评估自己的输出并立即纠正自己的错误。甚至连特斯拉前AI总监，OpenAI研究科学家Andrej Karpathy大赞，这是一个很好的例子，说明我们还没有看到GPT-4的最大能力。在Eric Jang给出的例子中，曾看到微软研究员发推说GPT-4根本无法写出「不押韵」的诗歌。然而，当再去询问GPT-4是否完成了任务。这时，它道歉后，生成了一个不押韵的诗！可以说是满分。这恰恰印证了GPT-4是有「反思」能力的。最近，来自美国东北大学、MIT等机构研究者提出了Reflexion。这一方法赋予智能体动态记忆，以及自我反思的能力。论文地址：https://arxiv.org/abs/2303.11366为了验证方法的有效性，研究人员评估了智能体在AlfWorld环境中完成决策任务的能力，以及在HotPotQA环境中完成知识密集型、基于搜索问答任务的能力。在这两项任务的成功率分别为97%和51%。Reflexion智能体的整体架构有网友便表示，你可以通过要求 GPT-4 反思「你为什么错了？」，并为自己生成一个新的提示，将这个错误原因考虑在内，直到结果正确，从而将GPT-4的性能提高惊人的30%。另外，论文指出，在测试模型编写代码的能力时，Reflexion+GPT-4也显著优于常规的GPT-4。这样看来，就像Eric Jang所说，我们现在可以考虑一种「后缀提示工程」，而不是巧妙的「前缀提示工程」。这将鼓励LLM在先前生成的解决方案中找到更正和不一致的地方。对于GPT-4通过自我改进让自己变得更聪明的能力，一位网友对此做了一个视频总结。，时长14:55ChatGPT长「手」了如果说GPT-4能够反思，有了大脑，就已经够可怕的了，而现在，ChatGPT还有了「手」，不仅能够用工具，还可以用模型。在ChatGPT还未上线「插件」功能前，Meta研究人员曾在2月份抛出一篇新论文Toolformer，直接瞄准ChatGPT的「软肋」，让大语言模型自行学会使用工具。论文地址：https://arxiv.org/abs/2302.04761按照Meta的思路，像ChatGPT这样的大语言模型可以缺啥补啥。比如不会算数，就拿出计算器；需要最新信息，就自己连接搜索引擎搜索；甚至可以直接把想翻译的内容丢给它。论文一出瞬间爆火，许多AI研究者表示，这篇论文为人们打开了思路，让大语言模型未来可以成为所有事情的起点。同样，最近浙大和微软亚研院新出的论文「贾维斯」HuggingGPT在业界引起很大的关注。论文地址：https://arxiv.org/abs/2303.17580论文中，研究者提出的HuggingGPT利用ChatGPT作为控制器，连接HuggingFace社区中的各种AI模型，来完成多模态等各种复杂任务。有网友表示，我强烈怀疑第一个通用人工智能（AGI）的出现将比预期更早。它将依靠「胶水」AI，能够智能地将一系列狭义人工智能和实用工具粘合在一起。自动写代码最近，一位开发者做了一个能让GPT-4自动生成代码的项目——Auto-GPT。甚至还可以执行代码。在后续改进中，Auto-GPT可以使用GPT-4编写代码，并执行Python脚本。这使得它能够递归调试、开发并自我改进...Auto-GPT让人们更进一步了解到GPT-4强大能力，甚至有网友做了一张梗图：Andrej Karpathy表示，在我看来，提示工程的下一个前沿领域是「AutoGPT」。一个GPT调用就像计算机上的一个指令。它们可以被串联成程序中。使用提示来定义I/O设备和工具规格，定义认知循环，在上下文中分页数据输入和输出，然后运行。网友：奇点来了有网友称，这基本上就是奇点的定义。一个能够自我改进的AI，现在唯一需要的就是使其能够修改模型的代码，并自主训练（通过浏览互联网并自行标记所有内容）。甚至有的网友认为，技术的飞速进步，让我们已经到了无法回头的地步。到2025年，这个世界将会发生翻天覆地的变化，无论是好还是坏。从错误中学习，是智力的基础。如此看来，GPT-4打败自己，想要成为超级AI。而根据某大佬的最新消息，OpenAI非常清楚，最近他们AI产品的快速迭代引起了极度强烈的反响，而他们也欢迎公众的监督。其负责人表示，目前risk per token还没到临界点，所以GPT的滥用还造不成太大的伤害。而AI对齐的路线图，即将在几个月内发布。","news_type":1},"isVote":1,"likeStatus":false,"favoriteStatus":false,"reportStatus":false,"tweetType":1,"langContent":"CN"},{"id":653801220,"gmtCreate":1680703651961,"gmtModify":1680704001326,"author":{"id":"3500176385752541","authorId":"3500176385752541","name":"吻住硪还能硬","avatar":"https://static.tigerbbs.com/cc2195a707315c6c9312cf3a79ea78d2","vip":1,"crmLevel":9,"crmLevelSwitch":0,"idStr":"3500176385752541","authorIdStr":"3500176385752541"},"htmlText":"太牛逼了","listText":"太牛逼了","text":"太牛逼了","images":[],"top":1,"highlighted":1,"essential":1,"paper":1,"likeSize":1,"commentSize":0,"repostSize":0,"link":"https://laohu8.com/post/653801220","repostId":1139481255,"repostType":2,"repost":{"id":"1139481255","kind":"news","pubTimestamp":1680702675,"share":"https://www.laohu8.com/m/news/1139481255?lang=&edition=full","pubTime":"2023-04-05 21:51","market":"us","language":"zh","title":"超强进化！GPT-4正在改进自己，近万人联名封杀","url":"https://stock-news.laohu8.com/highlight/detail?id=1139481255","media":"新智元","summary":"即使全世界都对超级AI如临大敌，想赶紧悬崖勒马，恐怕也为时已晚。","content":"<html><head></head><body>GPT-5的威胁，已经黑云压顶。GPT-4诞生后，AI可能给人类社会造成的颠覆性影响，早已让多位业内大佬感到恐惧。最近，似乎全世界都在围剿ChatGPT。前一阵由马斯克、图灵奖得主Bengio等大佬联名发起的暂停高级AI研发的公开信，现在签名已经上升到9000多人。<img src=\"https://static.tigerbbs.com/ef20c9ddb2a833c9584bbc75eeae8299\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"363\"/>紧接着，美国非营利组织人工智能与数字政策中心（CAIDP）也要求联邦贸易委员会（FTC）调查OpenAI是否违反了消费者保护规则，并禁止其进一步发布GPT-4。而意大利直接全国上下封禁了ChatGPT，只给OpenAI 20天的调整适应期，拿不出合格的方案，就得交最高2000万欧元的罚款。封杀ChatGPT狂潮席卷全球有趣的是，自从意大利开了这个头之后，其他一些国家也跃跃欲试，准备要对ChatGPT开刀。法国和爱尔兰的隐私监管机构，已经联系了他们的意大利同行，希望得到更多关于调查的详细资料。德国联邦数据保护专员Ulrich Kelber表示：「从原则上讲，德国也有可能采取类似的程序。」此外，欧盟也提出草案，计划将ChatGPT视为高风险的AI系统进行监管。<img src=\"https://static.tigerbbs.com/a5390af781574ba9ba466163d255e2df\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"720\"/>美国也出手了而就在今天，美国总统拜登也在白宫与科技顾问开了会，讨论了AI给人类、社会和国家安全带来的风险和机遇。<img src=\"https://static.tigerbbs.com/444e7068c39b3fc1c1166d1c720e717d\" alt=\"\" title=\"\" tg-width=\"960\" tg-height=\"640\"/>据路透社报道，在总统科学技术顾问委员会 (PCAST) 会议中，拜登强调，「在我看来，科技公司有责任确保他们的产品在公开之前是安全的。」而在被问及AI是否危险时，他说，「还有待观察，有这种可能性。」拜登表示，强大技术在没有保护措施的情况下会造成哪些危害，在社交媒体上已经很明显了。「因为缺乏保障措施，我们看到技术影响了人们的心理健康，让他们对自我形象产生了自卑和绝望，这种影响在年轻人中尤为明显。」<img src=\"https://static.tigerbbs.com/4b1cb6c22c11c9294e5ee459ef6a625a\" alt=\"\" title=\"\" tg-width=\"960\" tg-height=\"642\"/>他再次呼吁国会通过两党隐私立法，限制科技公司收集的个人数据，禁止针对青少年的广告，并在产品开发中优先考虑健康和安全。受此消息影响，在拜登召开这次会议之前，AI公司的股价均出现大幅下跌。ChatGPT概念股C3.ai的股价持续走低，收跌26.34%报24.95美元，市值28亿美元，创该股上市以来最大日内跌幅。<img src=\"https://static.tigerbbs.com/39c9c9f959f8794ecc5114ad181897a3\" title=\"\" tg-width=\"560\" tg-height=\"240\"/>而此前，自微软宣布与OpenAI建立数十亿美元的合作关系以来，C3.ai与AI领域的许多公司一样，已经成为华尔街近期最热门的公司之一，今年以来C3.ai的股价已经上涨了超过130%。盖茨：暂停AI研发无法「解决挑战」当地时间4月3日，盖茨接受路透的采访时公开谈论了千名专家签署的公开信，<blockquote>呼吁暂停人工智能开发不会「解决挑战」，最好是把注意力放在如何最好地利用人工智能的发展上，很难理解在全球范围内暂停AI研发将如何实现。</blockquote>他继续表示，我不认为要求某个特定群体暂停工作就能解决挑战。显然，这些东西有巨大的好处······我们需要做的是确定棘手的领域。<img src=\"https://static.tigerbbs.com/92f88acae2d64cdc7ec2d20741aecae3\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"720\"/>盖茨是人工智能的坚定支持者。3月21日，也就是发起联名公开信的前一天，盖茨曾发表了一篇「人工智能时代已经开始」的博客文章。其中提到了应该利用人工智能来帮助减少世界上一些最严重的不平等现象。<img src=\"https://static.tigerbbs.com/4d4534bd778e39d044a85ab65e2f76fc\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"297\"/>他在博客中盛赞人工智能，「AI时代已经开启，人工智能革命重要程度不亚于手机和互联网的诞生，这是其一生中唯二的革命性技术进步。」目前为止，微软已经向OpenAI投资了数十亿美元。OpenAI正在为微软必应、Edge、Microsoft 365和其他产品构建AI技术。在接受采访时，盖茨质疑暂停AI开发的可行性，想知道如何实施。「任何暂停的细节都会很复杂，难以执行。我不太明白，他们说的哪些人可能停止，世界上每个国家是否都会同意停止，以及为什么要停止，在这个领域会有很多不同的意见。」GPT-4学会「自我反思」，性能大涨30%但是，即使全世界都对超级AI如临大敌，想赶紧悬崖勒马，恐怕也为时已晚。因为，如今的AI，已经学会自我进化了！<img src=\"https://static.tigerbbs.com/ddb9844de9499b1104f2f1c6b31420f2\" alt=\"\" title=\"\" tg-width=\"1070\" tg-height=\"590\"/>有证据表明：GPT-4，正在改进自己！<img src=\"https://static.tigerbbs.com/fa376ec4309ec16e6274c523bb81c0e6\" alt=\"\" title=\"\" tg-width=\"830\" tg-height=\"154\"/>前段时间，前谷歌大脑研究工程师Eric Jang发现令人疯的一点：GPT-4能够以合理的方式批评自己的成果。<blockquote>与其为大型语言模型（LLM）寻找完美的提示（让我们一步一步思考），不如让LLM评估自己的输出并立即纠正自己的错误。</blockquote><img src=\"https://static.tigerbbs.com/43375b4dcb7a8e6e44a64fa841954e63\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"270\"/>甚至连特斯拉前AI总监，OpenAI研究科学家Andrej Karpathy大赞，这是一个很好的例子，说明我们还没有看到GPT-4的最大能力。<img src=\"https://static.tigerbbs.com/86ab1cd698864804a268ab7ec4890dc5\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"257\"/>在Eric Jang给出的例子中，曾看到微软研究员发推说GPT-4根本无法写出「不押韵」的诗歌。<img src=\"https://static.tigerbbs.com/b19f5c34d1b1ac5fb066ddc0943d7e7e\" alt=\"\" title=\"\" tg-width=\"616\" tg-height=\"582\"/>然而，当再去询问GPT-4是否完成了任务。这时，它道歉后，生成了一个不押韵的诗！可以说是满分。<img src=\"https://static.tigerbbs.com/0e8df2b51c3c931b669e257fbcb1393a\" alt=\"\" title=\"\" tg-width=\"564\" tg-height=\"756\"/>这恰恰印证了GPT-4是有「反思」能力的。最近，来自美国东北大学、MIT等机构研究者提出了Reflexion。这一方法赋予智能体动态记忆，以及自我反思的能力。<img src=\"https://static.tigerbbs.com/3c4d3f21faf5b51a952c5427d7b11e84\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"565\"/>论文地址：https://arxiv.org/abs/2303.11366为了验证方法的有效性，研究人员评估了智能体在AlfWorld环境中完成决策任务的能力，以及在HotPotQA环境中完成知识密集型、基于搜索问答任务的能力。在这两项任务的成功率分别为97%和51%。<img src=\"https://static.tigerbbs.com/d2139cb9592549b14e83e636916f614a\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"425\"/>Reflexion智能体的整体架构有网友便表示，你可以通过要求 GPT-4 反思「你为什么错了？」，并为自己生成一个新的提示，将这个错误原因考虑在内，直到结果正确，从而将GPT-4的性能提高惊人的30%。<img src=\"https://static.tigerbbs.com/077297f48d89ed9bd0b0cb77d6cb544e\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"361\"/>另外，论文指出，在测试模型编写代码的能力时，Reflexion+GPT-4也显著优于常规的GPT-4。<img src=\"https://static.tigerbbs.com/9a94e329e628b5a3bdf1e1449e80d519\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"810\"/>这样看来，就像Eric Jang所说，我们现在可以考虑一种「后缀提示工程」，而不是巧妙的「前缀提示工程」。这将鼓励LLM在先前生成的解决方案中找到更正和不一致的地方。<img src=\"https://static.tigerbbs.com/1f4e1dd56996ed9a8297153be2a166ff\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"202\"/>对于GPT-4通过自我改进让自己变得更聪明的能力，一位网友对此做了一个视频总结。，时长14:55ChatGPT长「手」了如果说GPT-4能够反思，有了大脑，就已经够可怕的了，而现在，ChatGPT还有了「手」，不仅能够用工具，还可以用模型。在ChatGPT还未上线「插件」功能前，Meta研究人员曾在2月份抛出一篇新论文Toolformer，直接瞄准ChatGPT的「软肋」，让大语言模型自行学会使用工具。<img src=\"https://static.tigerbbs.com/c53698d2aeafbdfa5782158fe1de039b\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"303\"/>论文地址：https://arxiv.org/abs/2302.04761按照Meta的思路，像ChatGPT这样的大语言模型可以缺啥补啥。比如不会算数，就拿出计算器；需要最新信息，就自己连接搜索引擎搜索；甚至可以直接把想翻译的内容丢给它。<img src=\"https://static.tigerbbs.com/be8edd42ed682aa4d2961162abb5c7ab\" alt=\"\" title=\"\" tg-width=\"540\" tg-height=\"303\"/>论文一出瞬间爆火，许多AI研究者表示，这篇论文为人们打开了思路，让大语言模型未来可以成为所有事情的起点。同样，最近浙大和微软亚研院新出的论文「贾维斯」HuggingGPT在业界引起很大的关注。<img src=\"https://static.tigerbbs.com/3006d333baf5371f05956d15745a0a17\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"390\"/>论文地址：https://arxiv.org/abs/2303.17580论文中，研究者提出的HuggingGPT利用ChatGPT作为控制器，连接HuggingFace社区中的各种AI模型，来完成多模态等各种复杂任务。<img src=\"https://static.tigerbbs.com/e6e353bd210863877822bf0b050f454a\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"490\"/>有网友表示，我强烈怀疑第一个通用人工智能（AGI）的出现将比预期更早。它将依靠「胶水」AI，能够智能地将一系列狭义人工智能和实用工具粘合在一起。<img src=\"https://static.tigerbbs.com/0272a7ec06fa9f239562936751ee3f2a\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"115\"/>自动写代码<h2 style=\"text-align: justify;\"> </h2>最近，一位开发者做了一个能让GPT-4自动生成代码的项目——Auto-GPT。<img src=\"https://static.tigerbbs.com/ee40892a3a028bd0a96c2b115b018bcc\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"391\"/>甚至还可以执行代码。在后续改进中，Auto-GPT可以使用GPT-4编写代码，并执行Python脚本。这使得它能够递归调试、开发并自我改进...<img src=\"https://static.tigerbbs.com/6fa4735e176961a31b7aa3f36a5ef3ee\" alt=\"\" title=\"\" tg-width=\"640\" tg-height=\"360\"/>Auto-GPT让人们更进一步了解到GPT-4强大能力，甚至有网友做了一张梗图：<img src=\"https://static.tigerbbs.com/8779a9fab5ee9d447bbb5985687985c1\" alt=\"\" title=\"\" tg-width=\"629\" tg-height=\"500\"/>Andrej Karpathy表示，在我看来，提示工程的下一个前沿领域是「AutoGPT」。一个GPT调用就像计算机上的一个指令。它们可以被串联成程序中。使用提示来定义I/O设备和工具规格，定义认知循环，在上下文中分页数据输入和输出，然后运行。<img src=\"https://static.tigerbbs.com/3342f1287e7e79f3619ba4e3c2db8bd4\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"239\"/>网友：奇点来了 有网友称，这基本上就是奇点的定义。一个能够自我改进的AI，现在唯一需要的就是使其能够修改模型的代码，并自主训练（通过浏览互联网并自行标记所有内容）。<img src=\"https://static.tigerbbs.com/484a88545cb7b47fd3c71469a276afd9\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"165\"/>甚至有的网友认为，技术的飞速进步，让我们已经到了无法回头的地步。到2025年，这个世界将会发生翻天覆地的变化，无论是好还是坏。<img src=\"https://static.tigerbbs.com/809f1644ad8821475032ce0c8a578c2b\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"211\"/>从错误中学习，是智力的基础。<img src=\"https://static.tigerbbs.com/18fd652bb2a8a5d7c78f0a855d0ff8c7\" alt=\"\" title=\"\" tg-width=\"1064\" tg-height=\"126\"/>如此看来，GPT-4打败自己，想要成为超级AI。<img src=\"https://static.tigerbbs.com/16035e2c743e469b940958eddb76db80\" alt=\"\" title=\"\" tg-width=\"1080\" tg-height=\"717\"/>而根据某大佬的最新消息，OpenAI非常清楚，最近他们AI产品的快速迭代引起了极度强烈的反响，而他们也欢迎公众的监督。其负责人表示，目前risk per token还没到临界点，所以GPT的滥用还造不成太大的伤害。而AI对齐的路线图，即将在几个月内发布。<img src=\"https://static.tigerbbs.com/ea9b666066ac4604235a3b13e82c9b6f\" alt=\"\" title=\"\" tg-width=\"1052\" tg-height=\"652\"/></body></html>","source":"lsy1569730104218","collect":0,"html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>超强进化！GPT-4正在改进自己，近万人联名封杀</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\n超强进化！GPT-4正在改进自己，近万人联名封杀\n</h2>\n\n<h4 class=\"meta\">\n\n\n2023-04-05 21:51 北京时间&nbsp;&nbsp;&nbsp;<a href=https://mp.weixin.qq.com/s?__biz=MzI3MTA0MTk1MA==&mid=2652313763&idx=1&sn=5c1f40eb680cf66f27abc557967920b7&chksm=f1246c52c653e544945871c3c6bb0753ca6a2e0dd2d1db6424badc68432b456e046fa7fe21d2&mpshare=1&scene=23&srcid=0405ZfSCJKXokh3KTuYlnWWJ&sharer_sharetime=1680668383759&sharer_shareid=00a55b671777cf0e253d4693000ead51#rd>新智元</a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\nGPT-5的威胁，已经黑云压顶。GPT-4诞生后，AI可能给人类社会造成的颠覆性影响，早已让多位业内大佬感到恐惧。最近，似乎全世界都在围剿ChatGPT。前一阵由马斯克、图灵奖得主Bengio等大佬联名发起的暂停高级AI研发的公开信，现在签名已经上升到9000多人。紧接着，美国非营利组织人工智能与数字政策中心（CAIDP）也要求联邦贸易委员会（FTC）调查OpenAI是否违反了消费者保护规则，并...\n\n<a href=\"https://mp.weixin.qq.com/s?__biz=MzI3MTA0MTk1MA==&mid=2652313763&idx=1&sn=5c1f40eb680cf66f27abc557967920b7&chksm=f1246c52c653e544945871c3c6bb0753ca6a2e0dd2d1db6424badc68432b456e046fa7fe21d2&mpshare=1&scene=23&srcid=0405ZfSCJKXokh3KTuYlnWWJ&sharer_sharetime=1680668383759&sharer_shareid=00a55b671777cf0e253d4693000ead51#rd\">Web Link</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","type":0,"thumbnail":"https://static.tigerbbs.com/b7bd6aaa8b0c55a6e9451f9983087814","relate_stocks":{},"source_url":"https://mp.weixin.qq.com/s?__biz=MzI3MTA0MTk1MA==&mid=2652313763&idx=1&sn=5c1f40eb680cf66f27abc557967920b7&chksm=f1246c52c653e544945871c3c6bb0753ca6a2e0dd2d1db6424badc68432b456e046fa7fe21d2&mpshare=1&scene=23&srcid=0405ZfSCJKXokh3KTuYlnWWJ&sharer_sharetime=1680668383759&sharer_shareid=00a55b671777cf0e253d4693000ead51#rd","is_english":false,"share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","article_id":"1139481255","content_text":"GPT-5的威胁，已经黑云压顶。GPT-4诞生后，AI可能给人类社会造成的颠覆性影响，早已让多位业内大佬感到恐惧。最近，似乎全世界都在围剿ChatGPT。前一阵由马斯克、图灵奖得主Bengio等大佬联名发起的暂停高级AI研发的公开信，现在签名已经上升到9000多人。紧接着，美国非营利组织人工智能与数字政策中心（CAIDP）也要求联邦贸易委员会（FTC）调查OpenAI是否违反了消费者保护规则，并禁止其进一步发布GPT-4。而意大利直接全国上下封禁了ChatGPT，只给OpenAI 20天的调整适应期，拿不出合格的方案，就得交最高2000万欧元的罚款。封杀ChatGPT狂潮席卷全球有趣的是，自从意大利开了这个头之后，其他一些国家也跃跃欲试，准备要对ChatGPT开刀。法国和爱尔兰的隐私监管机构，已经联系了他们的意大利同行，希望得到更多关于调查的详细资料。德国联邦数据保护专员Ulrich Kelber表示：「从原则上讲，德国也有可能采取类似的程序。」此外，欧盟也提出草案，计划将ChatGPT视为高风险的AI系统进行监管。美国也出手了而就在今天，美国总统拜登也在白宫与科技顾问开了会，讨论了AI给人类、社会和国家安全带来的风险和机遇。据路透社报道，在总统科学技术顾问委员会 (PCAST) 会议中，拜登强调，「在我看来，科技公司有责任确保他们的产品在公开之前是安全的。」而在被问及AI是否危险时，他说，「还有待观察，有这种可能性。」拜登表示，强大技术在没有保护措施的情况下会造成哪些危害，在社交媒体上已经很明显了。「因为缺乏保障措施，我们看到技术影响了人们的心理健康，让他们对自我形象产生了自卑和绝望，这种影响在年轻人中尤为明显。」他再次呼吁国会通过两党隐私立法，限制科技公司收集的个人数据，禁止针对青少年的广告，并在产品开发中优先考虑健康和安全。受此消息影响，在拜登召开这次会议之前，AI公司的股价均出现大幅下跌。ChatGPT概念股C3.ai的股价持续走低，收跌26.34%报24.95美元，市值28亿美元，创该股上市以来最大日内跌幅。而此前，自微软宣布与OpenAI建立数十亿美元的合作关系以来，C3.ai与AI领域的许多公司一样，已经成为华尔街近期最热门的公司之一，今年以来C3.ai的股价已经上涨了超过130%。盖茨：暂停AI研发无法「解决挑战」当地时间4月3日，盖茨接受路透的采访时公开谈论了千名专家签署的公开信，呼吁暂停人工智能开发不会「解决挑战」，最好是把注意力放在如何最好地利用人工智能的发展上，很难理解在全球范围内暂停AI研发将如何实现。他继续表示，我不认为要求某个特定群体暂停工作就能解决挑战。显然，这些东西有巨大的好处······我们需要做的是确定棘手的领域。盖茨是人工智能的坚定支持者。3月21日，也就是发起联名公开信的前一天，盖茨曾发表了一篇「人工智能时代已经开始」的博客文章。其中提到了应该利用人工智能来帮助减少世界上一些最严重的不平等现象。他在博客中盛赞人工智能，「AI时代已经开启，人工智能革命重要程度不亚于手机和互联网的诞生，这是其一生中唯二的革命性技术进步。」目前为止，微软已经向OpenAI投资了数十亿美元。OpenAI正在为微软必应、Edge、Microsoft 365和其他产品构建AI技术。在接受采访时，盖茨质疑暂停AI开发的可行性，想知道如何实施。「任何暂停的细节都会很复杂，难以执行。我不太明白，他们说的哪些人可能停止，世界上每个国家是否都会同意停止，以及为什么要停止，在这个领域会有很多不同的意见。」GPT-4学会「自我反思」，性能大涨30%但是，即使全世界都对超级AI如临大敌，想赶紧悬崖勒马，恐怕也为时已晚。因为，如今的AI，已经学会自我进化了！有证据表明：GPT-4，正在改进自己！前段时间，前谷歌大脑研究工程师Eric Jang发现令人疯的一点：GPT-4能够以合理的方式批评自己的成果。与其为大型语言模型（LLM）寻找完美的提示（让我们一步一步思考），不如让LLM评估自己的输出并立即纠正自己的错误。甚至连特斯拉前AI总监，OpenAI研究科学家Andrej Karpathy大赞，这是一个很好的例子，说明我们还没有看到GPT-4的最大能力。在Eric Jang给出的例子中，曾看到微软研究员发推说GPT-4根本无法写出「不押韵」的诗歌。然而，当再去询问GPT-4是否完成了任务。这时，它道歉后，生成了一个不押韵的诗！可以说是满分。这恰恰印证了GPT-4是有「反思」能力的。最近，来自美国东北大学、MIT等机构研究者提出了Reflexion。这一方法赋予智能体动态记忆，以及自我反思的能力。论文地址：https://arxiv.org/abs/2303.11366为了验证方法的有效性，研究人员评估了智能体在AlfWorld环境中完成决策任务的能力，以及在HotPotQA环境中完成知识密集型、基于搜索问答任务的能力。在这两项任务的成功率分别为97%和51%。Reflexion智能体的整体架构有网友便表示，你可以通过要求 GPT-4 反思「你为什么错了？」，并为自己生成一个新的提示，将这个错误原因考虑在内，直到结果正确，从而将GPT-4的性能提高惊人的30%。另外，论文指出，在测试模型编写代码的能力时，Reflexion+GPT-4也显著优于常规的GPT-4。这样看来，就像Eric Jang所说，我们现在可以考虑一种「后缀提示工程」，而不是巧妙的「前缀提示工程」。这将鼓励LLM在先前生成的解决方案中找到更正和不一致的地方。对于GPT-4通过自我改进让自己变得更聪明的能力，一位网友对此做了一个视频总结。，时长14:55ChatGPT长「手」了如果说GPT-4能够反思，有了大脑，就已经够可怕的了，而现在，ChatGPT还有了「手」，不仅能够用工具，还可以用模型。在ChatGPT还未上线「插件」功能前，Meta研究人员曾在2月份抛出一篇新论文Toolformer，直接瞄准ChatGPT的「软肋」，让大语言模型自行学会使用工具。论文地址：https://arxiv.org/abs/2302.04761按照Meta的思路，像ChatGPT这样的大语言模型可以缺啥补啥。比如不会算数，就拿出计算器；需要最新信息，就自己连接搜索引擎搜索；甚至可以直接把想翻译的内容丢给它。论文一出瞬间爆火，许多AI研究者表示，这篇论文为人们打开了思路，让大语言模型未来可以成为所有事情的起点。同样，最近浙大和微软亚研院新出的论文「贾维斯」HuggingGPT在业界引起很大的关注。论文地址：https://arxiv.org/abs/2303.17580论文中，研究者提出的HuggingGPT利用ChatGPT作为控制器，连接HuggingFace社区中的各种AI模型，来完成多模态等各种复杂任务。有网友表示，我强烈怀疑第一个通用人工智能（AGI）的出现将比预期更早。它将依靠「胶水」AI，能够智能地将一系列狭义人工智能和实用工具粘合在一起。自动写代码最近，一位开发者做了一个能让GPT-4自动生成代码的项目——Auto-GPT。甚至还可以执行代码。在后续改进中，Auto-GPT可以使用GPT-4编写代码，并执行Python脚本。这使得它能够递归调试、开发并自我改进...Auto-GPT让人们更进一步了解到GPT-4强大能力，甚至有网友做了一张梗图：Andrej Karpathy表示，在我看来，提示工程的下一个前沿领域是「AutoGPT」。一个GPT调用就像计算机上的一个指令。它们可以被串联成程序中。使用提示来定义I/O设备和工具规格，定义认知循环，在上下文中分页数据输入和输出，然后运行。网友：奇点来了有网友称，这基本上就是奇点的定义。一个能够自我改进的AI，现在唯一需要的就是使其能够修改模型的代码，并自主训练（通过浏览互联网并自行标记所有内容）。甚至有的网友认为，技术的飞速进步，让我们已经到了无法回头的地步。到2025年，这个世界将会发生翻天覆地的变化，无论是好还是坏。从错误中学习，是智力的基础。如此看来，GPT-4打败自己，想要成为超级AI。而根据某大佬的最新消息，OpenAI非常清楚，最近他们AI产品的快速迭代引起了极度强烈的反响，而他们也欢迎公众的监督。其负责人表示，目前risk per token还没到临界点，所以GPT的滥用还造不成太大的伤害。而AI对齐的路线图，即将在几个月内发布。","news_type":1},"isVote":1,"likeStatus":false,"favoriteStatus":false,"reportStatus":false,"tweetType":1,"langContent":"CN"}],"isCommentEnd":false,"newsSizeData":{"likeSize":16,"commentSize":4,"repostSize":5,"favoriteSize":18,"likeStatus":false,"favoriteStatus":false},"APP":{"userAgent":"Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; ClaudeBot/1.0; +claudebot@anthropic.com)","isDev":false,"isTTM":false,"deviceId":"web-server-community-laohu8-v3","version":"4.29.4","shortVersion":"4.29.4","platform":"web","vendor":"web","appName":"laohu8","isIOS":false,"isAndroid":false,"isTiger":false,"isTHS":false,"isWeiXin":false,"isWeiXinMini":false,"isWeiBo":false,"isQQ":false,"isBaiduSwan":false,"isBaiduBox":false,"isDingTalk":false,"isToutiao":false,"isOnePlus":false,"isHuaWei":false,"isXiaomi":false,"isXiaomiWebView":false,"isOppo":false,"isVivo":false,"isSamsung":false,"isMobile":false},"href":"/m/news/1139481255"}