社区

如何造出一个会反叛的机器人？文 | 史中（一）为什么会反叛的机器人才像人？在美剧《西部世界》中，描述了一个未来的“迪士尼乐园”。在这个“西部世界”里，早已没有什么工作人员穿着皮套装米老鼠陪你照相。那些都 low 爆了，他们直接用人工智能机器人做成 NPC 跟你做！游！戏！虽说不是人，但从容貌到动作都和人一毛一样，甚至比人都精致。既然这么逼真，那你懂的。。。以人类的尿性，必然是不玩儿坏掉不回家的节奏。。。有个叫罗根的顾客，是店里玩得最花的。每次罗根去“西部世界”，基本都是屠城的效果——男人杀光，女人睡尽。跟他一起玩儿的人，都因不够变态而与他格格不入。但凡罗根来一趟，乐园修机器人都修不过来。。。要不因为他是老板的傻儿子，妥妥得让他加钱。而即使这样，我觉得他的变态程度也只能排老二。最变态的顾客，是罗根的姐夫，也就是乐园未来的继承人，威廉。威廉觉得：你们这些机器人 NPC 怎么不反抗呀？你不还手那有啥意思？你得挣扎啊。。。你越挣扎我越兴奋呢！他抖S属性大爆发，不仅爱上了一个机器人 NPC 德洛丽丝，还每一轮都想尽各种方法虐杀她，在她灵魂的G点上反复摩擦，试图唤起机器人的反抗精神。老哥也是执着，每年都来西部世界几趟，而且可着这一个妹子变着各种花样剧情各种角度摩擦了三十年。自己一头秀发都磨秃了，机器人终于被磨醒，面对人类扣动了板机，差点把他也一枪给崩了。老哥脸上写满了舒适。我说这个剧情，不是什么“三分钟带你看美剧”，而是为了接下来和你认真地探讨一个问题：造出一个会反叛的机器人，拢共分几步？纳尼？中哥你在说啥？别急，虽然你不一定想要一个机器人起义的世界。但你一定同意：“会反抗的机器人”比“不会反抗的机器人”更像人。（此处威廉点了个赞）细节里有魔鬼——为啥你会觉得“反抗”就更像人嘞？我猜因为你潜意识里知道：相比逆来顺受，反抗是一种主动实现目标的行为。它背后对应着把一系列复杂行动整合起来的能

当 AI 活成了你的样子而你活成了狗文 | 史中（零）你被人弄死的概率，比被 AI 弄死的概率大多了 AI 会征服人类吗？说真的，与其问这个问题，还不如问：一群人类会征服另一群人类吗？让我猜猜，打开这篇文章时，你并不快乐。老妈执意去保健品宣传活动上领鸡蛋，结果买了个 5000 块的“量子床垫”，昨晚你和她电话里吵了一架；你生气睡不着，早晨起晚，挤进地铁车厢时踩到一个壮汉的脚，他对你口吐芬芳，你强忍没还嘴；到了公司，老板说客户要改方案，组里的马屁精把锅无缝甩给了你，接下来几周你都得加班；你失魂落魄端着咖啡走到工位，一个趔趄全泼在了电脑上；你赶紧关机擦水，手机弹出女朋友的消息：“彩礼的事儿，我妈说不能再少了。”你仰天长啸：“老天爷，你下 Dior 吧！超市我吧！”然后，窗外天气晴朗，只有周遭同事噼里啪啦打字的声音，如同轻蔑的嘲讽。你的故事未必相同，但意思肯定大差不差：总之，在被 AI 征服前，你早已被人类征得服服的了。而且别误会，这篇文章不是来救你的，只是让你死个明白。我的意思是：对你来说，被人类征服和被 AI 征服，本质上并没有区别。因为人类和 AI 并没有区别。我们所知的历史，无非是一场漫长的生存战争——它不是“所有人对所有人的战争”，而是“所有智能体对所有智能体的战争”。车轮狂卷烟尘，从不在乎谁伸出的螳臂。我建议你找个安静的角落，看我一点一点为你 Loading 血淋淋的真相。（一）智能的本质是压缩 刚才我提到了一个概念，智能体。我们不妨先掰扯清楚一个概念——啥是“智能”？你大概用过压缩软件，WinRAR 之类的。（虽然你肯定没给人家付过钱）但你估计不会猜到，掀开智能的盖头，里面的家伙竟然是“压缩”。你有没有好奇过，凭啥一个 20M 的东西压一下就能变成 15M？解压缩又能恢复 20M？中间那 5M 怎么凭空消失的？又是怎么回来的？这里，我们举个简单的

加密货币“主神”的烈日与黄昏文 | 史中你抛过硬币吗？当你极端不信它的正面，其实是在笃信它的反面。而笃信，是灾祸的开端。（零）羔羊与主神 在任何一场“邪教溃败”的故事中，最让人触动的脸庞从不来自于“主神”，而来自那些眼里曾经闪闪发光的“羔羊们”。我们的故事，从几张面孔开始吧。Natalie Tien娜塔莉·田，一个台湾女生。这张照片里，华尔街日报不太友善的打光和直男P图让她看起来有些憔悴。但这丝毫不能掩饰她比普通女孩更优渥的出身，以及更大的野心。大学毕业后，父母催她找男人，但她去找了工作——虽然拥有很多男权社会期待的女性特质，但她不想借此优势把自己变成被挑选的物品。她懵懂地渴望某种超越于性别意识的，更伟大的生活方式。2018 年，她尝试进入了方兴未艾的“币圈”。这个新兴的科技领域有趣，国际化，能赚钱，却遍地流淌着毫不掩饰的荷尔蒙，几乎所有的“成功男士”都用直勾勾的眼神盯着跳动的账户余额和女生的胸口。甚至这是少有的在招聘广告里直接要求女生罩杯大小的行业。这些事实不断提醒她，自己尚未抵达目标，还不能停下来。直到娜塔莉认识了 SBF。这个男人名字怪异，性格也像个谜：他对金钱和美女都毫无兴趣，却手搓出世界上最能赚钱的量化基金——Alameda，还创办了眼看更能赚钱的数字货币交易平台——FTX。“既不爱财又不好色，那。。。这位尊者每天工作 20 个小时图啥？”2020 年，带着深深的疑问，娜塔莉加入了 FTX，成为 SBF 的私人助理兼 FTX 的公关负责人。就在那一刻，她仿佛推开了一扇沉重的大门，光芒从背后泻出。Caroline Ellison卡洛琳·艾莉森，麻省理工大学经济系主任的女儿。联系她的出身，再加上她的面孔，你丝毫不会怀疑她能在数学奥赛里拿一等奖。事实也正是如此。卡洛琳高中时就代表美国队赢得了世界奥赛的 33 名，被媒体奉为神童；进入斯坦福大学后，她在哈佛-麻省

CPU 的“庶民的胜利”文 | 史中（一）堤坝上的裂缝 人们总说要“活在当下”。但好多烦恼恰恰来自人们太活在“当下”了。就拿芯片“卡脖子”这件事来说，很多人的第一反应是——中国脖子已经被卡了好久，都卡秃噜皮了。但看看以下时间点：2022 年 10 月，美国宣布对中国先进计算芯片的出口管制。距今 1.5 年。2020 年 3 月，美国宣布禁止台积电为华为代工。距今 4 年。2018 年 10 月，美国宣布对福建晋华实施制裁，这已是美国对华芯片压制的起点，距今 5.5 年。这段时间，实际上比很多人的感觉更短。也许只是痛苦才让它显得漫长，这就是“相对论”吧。。。有人可能会想：“虽说开始没多久，但不知道什么时候才能摆脱制裁啊！大的还没来，岂不是更让人灼菊？”要我说，摆脱在芯片上的困局，绝不会难到“家祭无忘告乃翁”的程度！“理解当下”的最好办法是“活进历史”。你看，1971 年现代 CPU 才诞生，创造 CPU 的那一代人也还世。而在 50 多年的历史中，CPU 江湖已经改朝换代不知几何。君不见，每一代霸主都期待构建起雄伟的大坝，把技术之水围住，可谁又成功了呢？世界上第一个 CPU，Intel 4004 的结构图。正如中国古话所说：“千里之堤毁于蚁穴”。小小的蚁穴都能溃坝，何况。。。这次鹰酱用政策构建的堤坝上可不只是蚁穴，甚至可以说有不少裂缝，创可贴都贴不过来。说到这儿，可能有浅友要吐槽：“中哥你这不就是‘遥遥领先党’吗？”非也。情感毕竟虚幻，事实才能通向答案。所以，今天的节目我带大家来参观一下 CPU 历史上的“溃坝事件”。大家看后，也许自有论断。我们就从大陆的另一端，烟雨蒙蒙的英国开始吧。（二）小小的橡果&傲慢的巨头1978 年，那是一个春天。那一年，Intel 公司搞出了一个芯片，叫做“8086”。那一年，美国的铁子们开始口耳相传

浅友们好~我是史中，我的日常生活是开撩五湖四海的科技大牛，我会尝试用各种姿势，把他们的无边脑洞和温情故事讲给你听。如果你想和我做朋友，不妨加微信（shizhongmax）。“AI 蠕虫”和时代裂隙中的刺客文 | 史中（一）虫子 1988 年 11 月 3 日，美国加州的 NASA 艾姆斯研究中心迎来一个万里无云的秋日。端着咖啡的火箭科学家们挠挠蓬乱的头发，准备开始今天的工作。很快，他们不约而同地抬起头来，面面相觑。所有人的电脑都在疯狂地转动，但，只是自顾自转动，完全不理会任何人的指令——它们被某种神秘的力量锁死了！老哥们眼里闪现出一丝恐惧。咱就说。。。如果外星人准备占地球，先拿下 NASA，好像也是合理剧情。。。很快，更炸裂的消息传来，负责保护国家核武器的劳伦斯利福摩尔国家实验室的电脑也被干蒙了；曼哈顿计划的策源地、第一颗原子弹诞生的洛斯阿拉莫斯国家实验室的电脑同样锁死。就在同一时刻，轻轻拨转地球，印第安纳州的普渡大学，计算机教授尤金·斯帕福德也端着咖啡愣在原地。因为电脑屏幕上显示：从昨夜到今晨，他收到的电子邮件数为“0”。要知道在那个年代，普通美国人还很少有电脑，更不知道“电子邮件”是啥，互发电子邮件只是学术界的大佬们炫富的姿势。一晚上没人“炫富”，只有一种可能。。。斯帕福德冲进学校机房，发现了可怕的一幕——服务器疯狂转动，已经被压到无法呼吸，早顾不上什么邮件服务了。斯帕福德很镇定，毕竟自己的专业就是“禅与计算机维修艺术”。他马上使出一招“葵花点穴手”，让计算机暂时封印，然后强制进入后台。我勒个去！有好多奇怪的程序，如密密麻麻的虫子一般，盘踞在计算机的芯片上，已几乎把资源吃空。而且它们仍在不断蠕动，不断繁殖，仿佛要把电脑撑爆了才罢休。阅尽代码而心中无码的斯帕福德，脑海里已经有画面了，泛起一阵阵恶心。就在这时，来自各个大学的老伙计们纷纷打来电话。一张地图在他眼前摊

暗网生死疲劳：枭首、重生与漫长的自由之歌文 ｜ 史中人来世上，都在寻找奇迹，只是他们眼中的“奇迹”并不相通。（零）引子 2013年10月1日，一个惬意午后，旧金山公共图书馆格伦公园分馆里，人们看着眼前的书籍或电脑，准备提前迎接又一天的安静日暮。墙上的时钟漫不经心地跳向 15:15。平地惊雷，一张桌子前的情侣开始激烈吵架，感觉分分钟要发展成自由搏击。离他们最近的一位无辜小伙儿赶紧扭过头去观察情况，心说我勒个去可别溅我一身血。就在这一秒，小伙儿面前的电脑被对面的人拉走，旁边几个看书的人一拥而上，用远高于反抗的力气把这个年轻人死死按住，仿佛要把他钉进地板。图书馆管理员刚想跑过来平事儿，门口已经冲进几个荷枪实弹的人。“不许动！！FBI！！”小伙儿使出吃奶的劲儿勉强抬起头。此刻，他只能做为自己命运的观众了。FBI 特工在根本来不及关掉的电脑上插上了一个特制U盘，里面有为这次行动专门开发的软件——关键数据被当场拷贝下来，以防电脑上装有自毁程序，闪烁的屏幕上显示，它的主人正以管理员的身份登陆着一个不寻常的网站。没错，这个阳光帅气的年轻人就是彼时彼刻世界上最大的暗网集市“丝绸之路”（Silk Road）的创始人——罗斯·乌布利希（Ross Ulbritch）。Ross Ulbritch乌布利希被从地上拽起来，看着摇摇晃晃的人间。那一刻，是乌布利希来到这个世界上的第10781天，是丝绸之路成立的第969天。那一刻，这位物理学学士、材料科学和工程硕士的领英页面上仍写着：“正如大多数地方的奴隶制已经被废除一样，我相信暴力、逼迫和一个人对另一个人的一切形式的强制都可以结束。而使用暴力最广泛的就是机构和政府，这正是我目前努力的所在。”那一刻，“丝绸之路”上密密麻麻的帖子里仍记录着这位自称 DPR（凶残海盗罗伯茨）的创始人旁征博引众多哲学和经济学经典对用户的慷慨陈词：“丝绸之路建立在自由主义

浅友们好~我是史中，我的日常生活是开撩五湖四海的科技大牛，我会尝试用各种姿势，把他们的无边脑洞和温情故事讲给你听。如果你想和我做朋友，不妨加微信（shizhongmax）。 360想拯救与黑客作战的100000个“帕鲁” 文 ｜ 史中 （一）铁柱遍地走，大聪不常有  多年后的一天，当铁柱低头被领导训斥的时候，也许会想起和大聪结伴回家的那个夜晚。 铁柱来自一座北方十八线小城，毕业于名不见经传的二本学校。 当初填报志愿两眼一抹黑，二叔说搞计算机有前途，于是稀里糊涂地选了网络安全专业，进入一家企业成为“安全工程师”。 第一天坐在工位前，他感觉自己是个飞行员，眼前怼满了各个安全系统的告警日志。 带他的师傅说：“你的任务很简单，就是每天找出最危险的 100 条告警，然后顺藤摸瓜，看看背后有没有黑客在搞我们！” 铁柱兴奋了，像福尔摩斯一样拿着放大镜研究各种告警。但一周后他发现，大部分告警其实是误报；另外一些告警看上去很可疑，但查了半天也没搞清楚端倪，只好放在那儿；自己真正能搞懂并且能处理的威胁线索少之又少。。。 恰巧几个月后，来了一位厉害的同事，大聪。 这哥们名校毕业，对网络安全的理解很深刻，说话又好听。铁柱每天围着大聪询问各种安全系统的使用方法，大聪也不吝赐教。 可是铁柱很快发现，他跟不上大聪漂移过弯的思路。。。 大聪一会儿就能搞定的事儿，他要搞到很晚才勉强弄完。那天两人加班到夜里，结伴回家，铁柱看到万家灯火，心里一种说不出的滋味。 又过了几个月，大聪辞职了。听说被一家专门做网络安全的公司给挖走了。那一刻铁柱也想走，可冷静想想自己的能力，还是留下了。 日子一天天过，铁柱当上了小组长，但肩上的担子越来越重。 他所在的企业数字化改造加快，越来越多关键数据都存在网络空间里； 国家《网络安全法》《个人信息保护法》依次实施，数据一旦失窃，后果重大； 偏偏国际形势、经济形势都变得越来

我认识了一个“给网络空间打疫苗”的人文 | 史中（零）不该犯的错 今年国庆节，我去堂哥家。刚进门，就看到劲爆一幕：我哥在发飙，地上散落着雪白的卷子，侄子扶着桌角抹眼泪。问了问缘由，其实很简单。前几天辅导侄子作业，有道数学题做错了，表哥专门给他掰开揉碎讲了一晚上，结果最近一次月考，同样的题换了个数，他儿子手一抖又给整错了。“谁说错过的题就不允许再错了？？”侄子振振有词。“错过的题还错，你哪辈子能进步？！”他爹咆哮。因为这个小小的低级失误触怒了我哥望子成龙的脆弱神经，侄子痛失去环球影城玩耍的机会。。。中午吃饭时，刚吃到一半，堂哥手机弹出一条消息。他斜眼看到，把筷子一扔，冲到电脑前开始一顿操作。半小时后，他翻着白眼走回来。“国庆假期我值班，早晨我迷迷糊糊进内网维护，把参数给打错了，幸亏看到告警，差点系统就又挂了。。。”他解释。“等等，你为什么要说‘又’？”我问。“嗨，上个月弄错过一次。。。”他自言自语。如核爆一般，侄子原地跳起来半米：“啊！！错过的题还错，你哪辈子能进步？！”看着他们父慈子孝其乐融融，我陷入了沉思：讲真，低级错误是不分年龄的，甚至也是不分人的，它更像是人类自带的 Bug，你我渺小的一生都如同奶酪一样——被低级错误的泡泡填满。如果把进步之路看成马拉松，那么绝大多数人别说跑了，连走都不是——基本就是知错不改，下次还敢，像帕金森一样原地横跳。。。如此说来，但凡能做到“同款的坑不踩两次”，走到最后都妥妥的是赢家啊！我为啥想到这些了呢？说来也巧，最近我遇到一位牛人，他叫聂君。聂君被人尊为“君哥”，因为他不仅是征战网络安全疆场十几年的“老炮儿”，还是个网红。从2016年开始，他就坚持干狠活儿——把自己每天的技术研究和点滴思考记录下来，发在自己的专栏“君哥的体历”上，意思就是“君哥的体验和经历”。君哥的字里行间清楚地展示出他的人生哲学：一旦从自己或

支付宝有多狠？当年为抓骗子搞出“图计算”现在竟用它预测未来文 | 史中（零）圣彼得堡凶杀案 19世纪，圣彼得堡的一座高档公寓里，发生了一起凶案。一位富商在浴室被刺死，而凶器就遗落在一旁，是一把精致的开信刀。资深的警探史·伊万懦夫·中奉命调查此事。他制定了天衣无缝的调查计划：1）先调查富商，把和他可能有过节的100人列成一张“表格A”； 2）再调查刀具工匠，这款刀是限量款，只做过100把，于是把买过刀的客户也列成一张“表格B”； 3）然后对A、B两个表格进行比对，看看有没有重合的人。结果，两群人完全不重合。“这。。。不科学啊，一定存在更隐蔽的联系！”警探不放弃，决定进一步调查。他把“表格A”上的100人和“表格B”上的100人分别连线，成为10000组配对，然后挨个走访调查。他想发现这些“配对”之间有没有“曾同处一室”或“认识同一位中间人”的情况，但组合众多，其中的可能性也多如牛毛。史·伊万懦夫·中咬咬牙，以坚毅的决心开始推进！调查进行了几个月，案件陷入一团乱麻，但警探遇到了不得的事儿：表格B上有一位刀具经销商格列布，格列布对他说，你这么有毅力有恒心，不妨跟我做生意，比当警探好赚多了！表格A上有另一位富豪安托尼，他的女儿居然对自己产生了爱慕之情。于是，史·伊万懦夫·中毅然决定出任格列布公司的总经理，然后娶了安托尼的女儿，走上人生巅峰。今天的浅黑讲故事就到这里。等等。。。那边血泊里还躺着一位呢，不管了吗？！不是不管，是真管不了。。。我们回到警探身边，不难发现，他面前发散出了无数个表格：和死亡富商有关的人组成了“表格A”， 表格A上第1个人去过的地方组成了“表格A1”， 表格A1上的第一个地点又有好多人去过，他们组成了“表格A1-1”， 表格A1上的第二个地点又有好多人去过，他们组成了“表格A1-2”， 以此类推，无穷尽也。。。每个人都和众多地点和人存在关联，如果事无巨

浅友们好~我是史中，我的日常生活是开撩五湖四海的科技大牛，我会尝试用各种姿势，把他们的无边脑洞和温情故事讲给你听。如果你想和我做朋友，不妨加微信（shizhongmax）。2023：当我们都活成了“大模型”文 | 史中2023，大模型擦燃了科技进步的火，所有人的迷茫却凝成了脚下的冰。不是说科技一定会换来幸福吗？我们和上天的契约失效了吗？在我看来，技术的进步当然会给我们带来生活下去的智慧和勇气，只不过在 2023，启示藏得有点儿深。建议你温一杯酒，找个阳光和煦的下午，细细体味。（一）你我都是“高配版”的 ChatGPT 对于奈何桥的设计，我有一些赛博朋克的想法。我会在转世投胎的闸门口放一个巨型触摸屏，上面显示一个348页的《人类用户协议》，往下拉半分钟才能看见最后的同意按钮。用户协议里有一行小字：“允许其他玩家读取您的行为数据。”你选择“同意”，顺利降生；选择“拒绝”，则强制退出投胎过程。。。我不是针对谁，在座的各位肯定都是签署过这个协议才来的，因为咱们“活法儿”都一样：通过观察世间万物的行为来收集数据，然后把数据扔进脑袋瓜的神经网络里，用计算力输出决策，再付诸行动，让自己活下去，争取活得好； 当然，你在桥上看风景，也有人在楼上看你。你的行为也会成为他人决策的重要数据。数据、神经网络、计算力，怎么这么耳熟？？这套操作，像极了大火的人工智能“大模型” ChatGPT 的工作流程。或者说。。。ChatGPT 像极了人脑的工作流程。人脑就是一个高配版的 ChatGPT。唐太宗说，以史为镜，可以知兴替；以人为镜，可以明得失。目前大模型虽然比人脑的精密差之万倍，但已足够做一面镜子：它正面是照妖镜，可以让我们大脑的盲目、短视和不堪瞬间现出原形（我会在第二～四章讲）；它反面是放大镜，把大自然用亿万年塑造的人类精神映照得熠熠生辉（我会在第五～八章讲）。它有大用。好，我们开始。不妨先