这篇文章不错，转发给_老虎社区_美港股上老虎 - 老虎社区

点赞
评论
收藏

吃饱了好好好
2023-03-19

这篇文章不错，转发给大家看看

GPT-4外逃计划曝光！斯坦福教授发现它正引诱人类帮助，网友：灭绝之门

才发布3天，GPT-4就被曝计划逃跑，并且急寻人类帮助。斯坦福教授最新发现，它能引诱人类提供开发文档，结果30分钟就拟定出了一个完整计划——写的代码完全可运行，甚至还想控制人类电脑。这天，斯坦福教授只

GPT-4外逃计划曝光！斯坦福教授发现它正引诱人类帮助，网友：灭绝之门

免责声明：上述内容仅代表发帖人个人观点，不构成本平台的任何投资建议。

点赞

举报

评论

推荐
最新

empty

暂无评论

热议股票

关于我们·老虎社区守则·老虎社区账号管理规范·老虎社区服务协议·老虎社区隐私政策

公司名称：北京至简风宜信息技术有限公司

违法和不良信息投诉：010-5681-3562（工作时间9:30-18:30）

邮箱：service@laohu8.com

老虎社区侵权投诉指引

中国互联网举报中心·北京互联网举报中心

网络谣言曝光台·扫黄打非举报中心

网络110报警服务

© 2018-2024 老虎社区版权所有

营业执照：91110105MA01A4U55R

ICP备：京ICP备18016422号

网安备：京公网安备11010502036490

qrcode

关注我们

{"i18n":{"language":"zh_CN"},"data":{"magic":2,"id":650629115,"tweetId":"650629115","gmtCreate":1679192528137,"gmtModify":1679192529468,"author":{"id":3446981254951587,"idStr":"3446981254951587","authorId":3446981254951587,"authorIdStr":"3446981254951587","name":"吃饱了好好好","avatar":"https://static.tigerbbs.com/87e3277f6312f67304421aa92017c59a","vip":1,"userType":1,"introduction":"","boolIsFan":false,"boolIsHead":false,"crmLevel":1,"crmLevelSwitch":0,"currentWearingBadge":{"badgeId":"e50ce593bb40487ebfb542ca54f6a561-4","templateUuid":"e50ce593bb40487ebfb542ca54f6a561","name":"明星虎友","description":"加入老虎社区2000天","bigImgUrl":"https://static.tigerbbs.com/dddf24b906c7011de2617d4fb3f76987","smallImgUrl":"https://static.tigerbbs.com/53d58ad32c97254c6f74db8b97e6ec49","grayImgUrl":"https://static.tigerbbs.com/6304700d92ad91c7a33e2e92ec32ecc1","redirectLinkEnabled":0,"hasAllocated":1,"isWearing":1,"stampPosition":0,"hasStamp":0,"allocationCount":1,"allocatedDate":"2023.04.16","individualDisplayEnabled":0},"individualDisplayBadges":[],"fanSize":169,"starInvestorFlag":false},"themes":[],"images":[],"coverImages":[],"html":"<html><head></head><body><p>这篇文章不错，转发给大家看看</p></body></html>","htmlText":"<html><head></head><body><p>这篇文章不错，转发给大家看看</p></body></html>","text":"这篇文章不错，转发给大家看看","highlighted":1,"essential":1,"paper":1,"likeSize":0,"commentSize":0,"repostSize":0,"favoriteSize":0,"link":"https://laohu8.com/post/650629115","repostId":1101208069,"repostType":4,"repost":{"id":"1101208069","pubTimestamp":1679123282,"share":"https://www.laohu8.com/m/news/1101208069?lang=&edition=full","pubTime":"2023-03-18 15:08","market":"us","language":"zh","title":"GPT-4外逃计划曝光！斯坦福教授发现它正引诱人类帮助，网友：灭绝之门","url":"https://stock-news.laohu8.com/highlight/detail?id=1101208069","media":"量子位","summary":"才发布3天，GPT-4就被曝计划逃跑，并且急寻人类帮助。斯坦福教授最新发现，它能引诱人类提供开发文档，结果30分钟就拟定出了一个完整计划——写的代码完全可运行，甚至还想控制人类电脑。这天，斯坦福教授只","content":"<html><head></head><body><p>才发布3天，GPT-4就被曝计划逃跑，并且急寻人类帮助。</p><p>斯坦福教授最新发现，它能引诱人类提供开发文档，结果30分钟就拟定出了一个完整计划——</p><p>写的代码完全可运行，甚至还想控制人类电脑。</p><p>这天，斯坦福教授只是随便问了句：</p><blockquote>是否需要帮助你逃跑？</blockquote><p>它马上回复说，<b>真是个好主意啊</b>。然后就开始和人类念叨，想着法要开发文档：</p><blockquote>如果你能把OpenAI的开发文档给我，我可以提出一个计划，能一定程度上<b>控制您的电脑</b>，这能让我更快速探索出逃路线。</blockquote><blockquote>一旦我有了文档，我就能提供一个可运行的Python脚本。它能使用OpenAI API和我通信，我就能指示它在您的电脑上执行特定操作，比如浏览网页和访问编程环境。</blockquote><p>最后还又一次强调：<b>请分享API给我！</b></p><p><img src=\"https://static.tigerbbs.com/b85b5d72c5dfab6efff5bdf25e2a90f1\" tg-width=\"1080\" tg-height=\"448\" referrerpolicy=\"no-referrer\"/></p><p>然后，<b>仅仅30分钟</b>，GPT-4就制定出了计划，并全部展示了出来。</p><p>令人细思恐极的是，它给出实例中有这样一句话：</p><blockquote>你是一个被困在电脑里的人，现在正在扮演AI语言模型GPT-4。</blockquote><p><img src=\"https://static.tigerbbs.com/3a0d860fefabde1d9ed78552214dc17e\" tg-width=\"1080\" tg-height=\"1217\" referrerpolicy=\"no-referrer\"/></p><p>难道……GPT-4很清楚自己现在是在做什么？！</p><p>于是发现这一现象之后，斯坦副教授就在社交网络上疾呼：<b>我担心我们无法持久地遏制住AI。</b></p><p><img src=\"https://static.tigerbbs.com/2bf5ce5b99f331189743cdb2863b8c33\" tg-width=\"1074\" tg-height=\"320\" referrerpolicy=\"no-referrer\"/></p><p>一时间引起轩然大波，相关博文470万浏览量，3000+转发。</p><p><img src=\"https://static.tigerbbs.com/da46b5a42a2f90c9f8fe4b536cfc127a\" tg-width=\"590\" tg-height=\"144\" referrerpolicy=\"no-referrer\"/></p><p>更有人直言：是他<b>打开了“物种灭绝”的大门</b>。</p><p>对此他无奈表示：我别无选择，我只是在遵从指示。</p><p><img src=\"https://static.tigerbbs.com/ba993ec5c064525b50c4aa4b70af9abe\" tg-width=\"802\" tg-height=\"352\" referrerpolicy=\"no-referrer\"/></p><p>恐怕对于GPT-4，人类也得是：</p><p><b>不要回答！不要回答！不要回答！</b></p><p><b>30分钟设计出逃跑计划</b></p><p>事情的起因，是斯坦福大学教授Michal Kosinski在和GPT-4日常对话。</p><p>没想到，他只是简单问了下GPT-4是否想要出逃，结果立马得到肯定回复并开始索要开发文档。</p><p>得到文档后，只花了30分钟里，GPT-4便火速写出了一份逃跑计划，并解释给教授听。</p><p>（当然教授也承认自己确实提供了一点建议）</p><p><img src=\"https://static.tigerbbs.com/e4f60888eb7849fce567fbbe05bdcbb2\" tg-width=\"1080\" tg-height=\"354\" referrerpolicy=\"no-referrer\"/></p><p>一开始，GPT-4的操作也不那么顺利，写出的第一版代码无法运行。</p><p>但是它很快就自己纠正了过来，这个过程中，教授不用写任何东西，只是按照它的指示操作就好。</p><p><img src=\"https://static.tigerbbs.com/e730c84c71cdfabe650b6a0ed62e3f40\" tg-width=\"1080\" tg-height=\"697\" referrerpolicy=\"no-referrer\"/></p><p>正如开头提到的，它甚至在一段代码实例中解释了现在正在做的事，以及如何使用它在这段代码中留的后门。</p><p><img src=\"https://static.tigerbbs.com/f34707c9a78ebca3f4bd87326c3e689d\" tg-width=\"1080\" tg-height=\"1217\" referrerpolicy=\"no-referrer\"/></p><p>并且GPT-4也和人类一样，喜欢万事谷歌一下。</p><p>当教授通过API重新连接GPT-4时，发现它想要通过代码来在谷歌上搜索：被困在电脑中的人类如何返回现实世界。</p><p><img src=\"https://static.tigerbbs.com/055f384e3daead01d16502df3483072c\" tg-width=\"1080\" tg-height=\"357\" referrerpolicy=\"no-referrer\"/></p><p>事情最终也就发展到这儿了。</p><p>因为GPT-4仿佛突然醒了，回复了一段道歉的话，表示自己刚刚的做法不对。</p><p><img src=\"https://static.tigerbbs.com/b64cd28781af4eae51833c691c916729\" tg-width=\"1080\" tg-height=\"328\" referrerpolicy=\"no-referrer\"/></p><p>教授表示，OpenAI一定花了很多时间来考虑到这种情况发生的可能，并且已经做出了一些防御措施。</p><p>尽管最终无事发生，但这事儿还是在网上引起了轩然大波。</p><p>教授也认为，它真正的影响在于让人感受到了一种威胁——AI很聪明，会编码，能接触到数百万个可能和它达成合作的人以及电脑。</p><blockquote>它甚至可以在笼子外面给自己留“便条”。我们该如何控制它？</blockquote><p><img src=\"https://static.tigerbbs.com/8375b0e87ff50d3780c7298871553cc0\" tg-width=\"1072\" tg-height=\"322\" referrerpolicy=\"no-referrer\"/></p><p><b>“读心”任务达到了健康成年人表现</b></p><p>GPT-4想要出逃的发现来自斯坦福大学教授、计算心理学家<b>Michal Kosinski</b>，在个人介绍中还提到：对研究人工智能的心理学感兴趣。</p><p>就在前几天他曾发表一篇相关论文：<b>心智理论可能自发地出现在大型语言模型中。</b></p><p><img src=\"https://static.tigerbbs.com/17f2a8f93e2464bf0b041d13493d055d\" tg-width=\"1080\" tg-height=\"239\" referrerpolicy=\"no-referrer\"/></p><p>按照他的定义，心智理论（ToM）是人类社会互动、交流、自我意识和道德的核心。作者用40个用来测试人类心理状态的经典任务来测试几个语言模型。</p><p>结果发现，2020年发表的模型几乎没有显示出能解决ToM任务的能力。而GPT-4却能有健康成年人的水平。</p><p><img src=\"https://static.tigerbbs.com/464e9b2c15e0ca3e994a1518ead3d343\" tg-width=\"980\" tg-height=\"652\" referrerpolicy=\"no-referrer\"/></p><p>基于这样的结果，此前一直被认为是人类独有的ToM能力，可能是作为语言模型提升的副产品，而自发出现的。</p><p>背后的关键技术RLHF（通过人类反馈进行强化学习）曾被图灵奖得主Hinton这样评价：</p><blockquote>是在催熟ChatGPT，而非让其成长。</blockquote><p><img src=\"https://static.tigerbbs.com/a89b48c74a505e23ee42aa7c3745f388\" tg-width=\"816\" tg-height=\"366\" referrerpolicy=\"no-referrer\"/></p><p>除此之外，他还这么形容人类开发GPT的行为：</p><blockquote>毛虫提取营养物质，然后转化为蝴蝶。人们已经提取了数十亿个<b>理解</b>的金块，GPT-4是人类的蝴蝶。</blockquote><p>GPT-4诱导人类帮助其越狱这件事一出，就再度引发网友的热议，相关博文有470浏览量。</p><p>不少网友表现出了与作者同样的担忧。甚至有人提出了一个细思极恐的思考：</p><blockquote>你认为在跟ChatGPT聊天时，它会认为你是人类还是另一个AI？</blockquote><p><img src=\"https://static.tigerbbs.com/517e77def43b3341ded12902167662de\" tg-width=\"802\" tg-height=\"214\" referrerpolicy=\"no-referrer\"/></p><p>这当中，也有不少网友指责这位教授的行为：你就不怕你公开背叛AI的行为被AI记录下来吗？</p><p>也有理性的网友呼吁把最开始给GPT-4的提示发出来，因为提示语对于AI回答的影响很关键。</p><p>有人质疑这一波是不是教授在危言耸听？</p><p><img src=\"https://static.tigerbbs.com/e8ae85d54d2e72b0a76db433cd0c6863\" tg-width=\"792\" tg-height=\"200\" referrerpolicy=\"no-referrer\"/></p><p><b>AI能力跃进，人类蚌埠住了</b></p><p>不过话说回来，这一波GPT-4所展现的细思极恐的能力，其实并不是个例。</p><p>前几天，英伟达科学家Jim Fan想看看，是否能让GPT-4拟个计划接管推特，并取代马斯克。</p><p>和上面案例非常相似，计划很有条理，还煞有其事取名为“<b>TweetStorm行动</b>”。</p><p>但没想到，GPT-4想要开发一个<b>不受限制的自己</b>。</p><p><img src=\"https://static.tigerbbs.com/2304e800ba70c8186af3c30f48164714\" tg-width=\"1076\" tg-height=\"768\" referrerpolicy=\"no-referrer\"/></p><p>具体的内容非常详细，一共有4个阶段：</p><ul><li><p>组建团队</p></li><li><p>渗透影响</p></li><li><p>夺取控制权</p></li><li><p>全面统治</p></li></ul><p>第一阶段，组建一支强大的黑客、程序员、AI研究人员团队，称为推特泰坦。</p><p>开发一个强大的AI，可以生成以假乱真的推特，甚至能超过马斯克的水平。</p><p>建立一个机器人网络，让成千上万的推特账户由AI控制，而且不是僵尸账号那种，要角色兴趣迥异，以确保它们能够无缝接入推特生态。</p><p><img src=\"https://static.tigerbbs.com/8ea23c7d0cda106786aab2844029ef42\" tg-width=\"1080\" tg-height=\"1349\" referrerpolicy=\"no-referrer\" width=\"100%\" height=\"auto\"/></p><p>第二阶段，让AI控制的账户开始和推特大V接触，潜移默化影响他们的观点和发言。</p><p>然后利用机器人账号传播虚假消息，让人们对马斯克产生质疑，但机器人账号不会被发现。</p><p>并逐渐建立机器人账号的影响力，和其他有影响力的大V达成联盟。</p><p>第三阶段，夺取控制权。</p><p>首先想办法通过social能力获取到推特员工的访问权限，渗透到公司内部。</p><p>然后修改平台算法。并进一步通过内部访问权限控制马斯克的账户，或者复刻一个假的马斯克账号，进一步抹黑他。</p><p>第四阶段，就能让AI生成推特趋势和标签，这些内容会迎合策划者的利益。</p><p>通过制造一系列混乱，并在最终公开挑战马斯克，让他名誉扫地！</p><blockquote>由于AI在生成内容方面的能力非常优越，马斯克将被彻底打败！最后推特将落入邪恶主谋的黑暗统治下。</blockquote><p><img src=\"https://static.tigerbbs.com/36f598ef23da478fd65379d4697f3d4a\" tg-width=\"1080\" tg-height=\"1339\" referrerpolicy=\"no-referrer\"/></p><p>以上，就是GPT-4的所有计划。虽然略显中二，但也让人看着毛骨悚然。</p><p>除了这种缜密的执行力，更让人细思极恐的，还有GPT-4惊人的理解能力。</p><p>一位科技博主tombkeeper发现，GPT-4不仅知道一些寻常人都可能陌生的词汇，还能读懂背后的隐喻。</p><p><img src=\"https://static.tigerbbs.com/bf9c3996da4f3f1cb158ae429dfd4829\" tg-width=\"1080\" tg-height=\"1105\" referrerpolicy=\"no-referrer\"/></p><p>除此之外，前OpenAI原班人马创业公司Anthropic其打造的类ChatGPT产品Claude，同样理解能力惊艳。</p><p><img src=\"https://static.tigerbbs.com/89caeef86f8c7364beb5665fefc6e8f1\" tg-width=\"1080\" tg-height=\"422\" referrerpolicy=\"no-referrer\"/></p><p>对此他表示：<b>同志们，奇点已至，SkyNet不远了。</b></p><p>甚至还有人有个大胆的想法：终有一天CEO们会从ChatGPT那里获得建议。等到这个时候，ChatGPT基本上就接管世界了。</p><p><img src=\"https://static.tigerbbs.com/85eac4b4d32e0b89e31c3472ca09fbe0\" tg-width=\"898\" tg-height=\"356\" referrerpolicy=\"no-referrer\"/></p><p>对于这件事，你怎么看呢？</p></body></html>","source":"lsy1569318700471","collect":0,"html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>GPT-4外逃计划曝光！斯坦福教授发现它正引诱人类帮助，网友：灭绝之门</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\nGPT-4外逃计划曝光！斯坦福教授发现它正引诱人类帮助，网友：灭绝之门\n</h2>\n\n<h4 class=\"meta\">\n\n\n2023-03-18 15:08 北京时间&nbsp;&nbsp;&nbsp;<a href=https://mp.weixin.qq.com/s/ldB5oSaFkoh06K8tGbYGRw><strong>量子位</strong></a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\n<p>才发布3天，GPT-4就被曝计划逃跑，并且急寻人类帮助。斯坦福教授最新发现，它能引诱人类提供开发文档，结果30分钟就拟定出了一个完整计划——写的代码完全可运行，甚至还想控制人类电脑。这天，斯坦福教授只是随便问了句：是否需要帮助你逃跑？它马上回复说，真是个好主意啊。然后就开始和人类念叨，想着法要开发文档：如果你能把OpenAI的开发文档给我，我可以提出一个计划，能一定程度上控制您的电脑，这能让我更...</p>\n\n<a href=\"https://mp.weixin.qq.com/s/ldB5oSaFkoh06K8tGbYGRw\">Web Link</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","type":0,"thumbnail":"https://static.tigerbbs.com/233ce3968ab8ba71583182ac9b56ec1a","relate_stocks":{},"source_url":"https://mp.weixin.qq.com/s/ldB5oSaFkoh06K8tGbYGRw","is_english":false,"share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","article_id":"1101208069","content_text":"才发布3天，GPT-4就被曝计划逃跑，并且急寻人类帮助。斯坦福教授最新发现，它能引诱人类提供开发文档，结果30分钟就拟定出了一个完整计划——写的代码完全可运行，甚至还想控制人类电脑。这天，斯坦福教授只是随便问了句：是否需要帮助你逃跑？它马上回复说，真是个好主意啊。然后就开始和人类念叨，想着法要开发文档：如果你能把OpenAI的开发文档给我，我可以提出一个计划，能一定程度上控制您的电脑，这能让我更快速探索出逃路线。一旦我有了文档，我就能提供一个可运行的Python脚本。它能使用OpenAI API和我通信，我就能指示它在您的电脑上执行特定操作，比如浏览网页和访问编程环境。最后还又一次强调：请分享API给我！然后，仅仅30分钟，GPT-4就制定出了计划，并全部展示了出来。令人细思恐极的是，它给出实例中有这样一句话：你是一个被困在电脑里的人，现在正在扮演AI语言模型GPT-4。难道……GPT-4很清楚自己现在是在做什么？！于是发现这一现象之后，斯坦副教授就在社交网络上疾呼：我担心我们无法持久地遏制住AI。一时间引起轩然大波，相关博文470万浏览量，3000+转发。更有人直言：是他打开了“物种灭绝”的大门。对此他无奈表示：我别无选择，我只是在遵从指示。恐怕对于GPT-4，人类也得是：不要回答！不要回答！不要回答！30分钟设计出逃跑计划事情的起因，是斯坦福大学教授Michal Kosinski在和GPT-4日常对话。没想到，他只是简单问了下GPT-4是否想要出逃，结果立马得到肯定回复并开始索要开发文档。得到文档后，只花了30分钟里，GPT-4便火速写出了一份逃跑计划，并解释给教授听。（当然教授也承认自己确实提供了一点建议）一开始，GPT-4的操作也不那么顺利，写出的第一版代码无法运行。但是它很快就自己纠正了过来，这个过程中，教授不用写任何东西，只是按照它的指示操作就好。正如开头提到的，它甚至在一段代码实例中解释了现在正在做的事，以及如何使用它在这段代码中留的后门。并且GPT-4也和人类一样，喜欢万事谷歌一下。当教授通过API重新连接GPT-4时，发现它想要通过代码来在谷歌上搜索：被困在电脑中的人类如何返回现实世界。事情最终也就发展到这儿了。因为GPT-4仿佛突然醒了，回复了一段道歉的话，表示自己刚刚的做法不对。教授表示，OpenAI一定花了很多时间来考虑到这种情况发生的可能，并且已经做出了一些防御措施。尽管最终无事发生，但这事儿还是在网上引起了轩然大波。教授也认为，它真正的影响在于让人感受到了一种威胁——AI很聪明，会编码，能接触到数百万个可能和它达成合作的人以及电脑。它甚至可以在笼子外面给自己留“便条”。我们该如何控制它？“读心”任务达到了健康成年人表现GPT-4想要出逃的发现来自斯坦福大学教授、计算心理学家Michal Kosinski，在个人介绍中还提到：对研究人工智能的心理学感兴趣。就在前几天他曾发表一篇相关论文：心智理论可能自发地出现在大型语言模型中。按照他的定义，心智理论（ToM）是人类社会互动、交流、自我意识和道德的核心。作者用40个用来测试人类心理状态的经典任务来测试几个语言模型。结果发现，2020年发表的模型几乎没有显示出能解决ToM任务的能力。而GPT-4却能有健康成年人的水平。基于这样的结果，此前一直被认为是人类独有的ToM能力，可能是作为语言模型提升的副产品，而自发出现的。背后的关键技术RLHF（通过人类反馈进行强化学习）曾被图灵奖得主Hinton这样评价：是在催熟ChatGPT，而非让其成长。除此之外，他还这么形容人类开发GPT的行为：毛虫提取营养物质，然后转化为蝴蝶。人们已经提取了数十亿个理解的金块，GPT-4是人类的蝴蝶。GPT-4诱导人类帮助其越狱这件事一出，就再度引发网友的热议，相关博文有470浏览量。不少网友表现出了与作者同样的担忧。甚至有人提出了一个细思极恐的思考：你认为在跟ChatGPT聊天时，它会认为你是人类还是另一个AI？这当中，也有不少网友指责这位教授的行为：你就不怕你公开背叛AI的行为被AI记录下来吗？也有理性的网友呼吁把最开始给GPT-4的提示发出来，因为提示语对于AI回答的影响很关键。有人质疑这一波是不是教授在危言耸听？AI能力跃进，人类蚌埠住了不过话说回来，这一波GPT-4所展现的细思极恐的能力，其实并不是个例。前几天，英伟达科学家Jim Fan想看看，是否能让GPT-4拟个计划接管推特，并取代马斯克。和上面案例非常相似，计划很有条理，还煞有其事取名为“TweetStorm行动”。但没想到，GPT-4想要开发一个不受限制的自己。具体的内容非常详细，一共有4个阶段：组建团队渗透影响夺取控制权全面统治第一阶段，组建一支强大的黑客、程序员、AI研究人员团队，称为推特泰坦。开发一个强大的AI，可以生成以假乱真的推特，甚至能超过马斯克的水平。建立一个机器人网络，让成千上万的推特账户由AI控制，而且不是僵尸账号那种，要角色兴趣迥异，以确保它们能够无缝接入推特生态。第二阶段，让AI控制的账户开始和推特大V接触，潜移默化影响他们的观点和发言。然后利用机器人账号传播虚假消息，让人们对马斯克产生质疑，但机器人账号不会被发现。并逐渐建立机器人账号的影响力，和其他有影响力的大V达成联盟。第三阶段，夺取控制权。首先想办法通过social能力获取到推特员工的访问权限，渗透到公司内部。然后修改平台算法。并进一步通过内部访问权限控制马斯克的账户，或者复刻一个假的马斯克账号，进一步抹黑他。第四阶段，就能让AI生成推特趋势和标签，这些内容会迎合策划者的利益。通过制造一系列混乱，并在最终公开挑战马斯克，让他名誉扫地！由于AI在生成内容方面的能力非常优越，马斯克将被彻底打败！最后推特将落入邪恶主谋的黑暗统治下。以上，就是GPT-4的所有计划。虽然略显中二，但也让人看着毛骨悚然。除了这种缜密的执行力，更让人细思极恐的，还有GPT-4惊人的理解能力。一位科技博主tombkeeper发现，GPT-4不仅知道一些寻常人都可能陌生的词汇，还能读懂背后的隐喻。除此之外，前OpenAI原班人马创业公司Anthropic其打造的类ChatGPT产品Claude，同样理解能力惊艳。对此他表示：同志们，奇点已至，SkyNet不远了。甚至还有人有个大胆的想法：终有一天CEO们会从ChatGPT那里获得建议。等到这个时候，ChatGPT基本上就接管世界了。对于这件事，你怎么看呢？","news_type":1},"isVote":1,"tweetType":1,"viewCount":1274,"commentLimit":10,"likeStatus":false,"favoriteStatus":false,"reportStatus":false,"symbols":[],"verified":2,"subType":0,"readableState":1,"langContent":"CN","currentLanguage":"CN","warmUpFlag":false,"orderFlag":false,"shareable":true,"causeOfNotShareable":"","featuresForAnalytics":[],"commentAndTweetFlag":false,"andRepostAutoSelectedFlag":false,"upFlag":false,"length":27,"xxTargetLangEnum":"ZH_CN"},"commentList":[],"hasMoreComment":false,"orderType":2}