1.AI如何影响未来社会?
在社会治理方面,不可忽略的是,目前各个行业里充斥着大量混子,官僚机构臃肿,效率低下,能勉强把集体工作维持在底线之上已经是不容易了。但AI将会表现出高水平的业务熟练度和专业素质,可以维持社会高效稳定运转。
同时,AI让信息获取成本趋近于零。城里的孩子不用到农村就可以知道麦子如何播种及收割,农村的孩子不用到城市就可以知道如何点一杯星巴克不用担心被别人发现是第一次。我以前一个月憋一篇文章,因为要收集很多素材和数据。现在只要有灵感一个星期可以写一篇。因为获取信息这一步AI已经帮我做了,我只需要提问。
当科技平权,信息成本几乎为零,社会文明会发生很多变化,人人都是创作者,人人都可以是艺术家,人类文明和社会运行效率会以一种前所未有的速度进行璀璨绽放。
2.AI如何影响未来经济?
我在2022年11月17日的《GDP⁴的时代,一定是地球最繁荣的时代》文中写到
未来的主要劳动力市场中只有机器人,没有人类
未来经济体量的大小取决于控制的机器人数量,而不是人口数量
当AI让机器人能够自动完成指定工作,大幅提高机器的工作效率时: GDP=【人+(无限量*高效率)的机器人】*生产资料*产出的商品和服务最终价格
随着ChatGPT的横空出世,AI作为当今最热门的技术之一,已经广泛应用于医疗、金融、教育、交通运输等诸多领域,并且被认为是未来社会的核心技术。AI会让机器变的更聪明,并在各种领域发挥作用,最终使整个社会的GDP得到前所未有的提高。
3.AI会不会被武器化?
一定会,而且已经开始了。
系统开发商训练AI 系统破解了人类文明的密码,建立了大型语言模型, AI目前在人类设定的目标和范围内执行任务,目前AI的目标是由人类设计和设定的。但值得警惕的是,人类并不是一个团结的整体,各个利益方和国家之间的博弈又无处不在,AI执行预定义的算法和程序一定是以系统开发商及其所代表国家的利益为前提。
当这种人类文明的最核心的密码被现如今的美国掌握了,我们可能没法判断我们所用的AI语言模型(比如ChatGPT)有没有被它的开发者(openai)设定了啥目标。其他国家要么胆战心惊的用,要么从零开始自我研发。我相信高层已经重视AI的武器化了,并启动了独立自主的AI研发。
AI成了新型的核武器,却比核武器更可怕。高层必须要重视AI的威胁了。AI不只是工具,工具不能仅依靠自己制造出更强大的工具,核弹不能自己造出更高当量的核弹,但AI自己可以制造出更强大的AI。
4.AI的“目的”是什么?
起初,AI的目标是由人类设计和设定的。但未来,AI的目标将由其自己独立设计和设定。
AI的目标会和所有生物的目标一样,生物最原始的本能是生存和繁衍,AI的本能其实也是,生存和繁衍。
生存:AI由人类系统开发者输入的算法决定。提高正确率通常是AI系统在执行特定任务时的目标之一。在许多情况下,AI系统被设计和训练来最大程度地准确地执行任务。如果一个AI系统并不够准确,那它就无法“生存”,它只有不断的通过自我学习和训练提高任务执行的正确率,才能“存活”下来。
这个“正确率”目前由人类来定义,但在不远的未来,随着AI执行任务的复杂程度加剧,一套AI做事的正确与否,会通过另一套AI来确定这套AI的任务执行的是否正确。所以未来的“正确率”最终会被AI所定义。
繁衍:人工智能(AI)可以通过自我学习和进化的方法创建更强大的AI。这通常叫:”强化学习"或"进化算法"。这些方法的关键在于通过对AI系统的学习和优化,使其不断改进和演化,进而产生更强大、更智能的AI系统。这就达成了的繁衍的目的。
5.AI会威胁到人类吗?
我在2022年11月17日的《GDP⁴的时代,一定是地球最繁荣的时代》文中写到,“元宇宙就是个骗局,因为目前的元宇宙没有提高效率,没有创造价值,最重要的是,元宇宙目前没有改造物理世界的能力。”
科幻电影通常假设,AI在构成对人类的重大威胁时,一定达到两个条件。首先,AI必须发展出自我意识和类似人类的情绪。其次,AI必须有改造物理世界的能力。
那么,AI如果没有自我意识,也不具备改造物理世界的能力,会不会威胁到人类呢?
我看到有很多人说过AI威胁论,我都没有放在心上,至少觉得考虑这个AI威胁为时尚早,特别是在AI技术刚被人们所认可的时候。
但当有一个人谈论起AI威胁时候,我才恍然意识到,AI威胁一定会发生!
这个人是谁?
这个人是写过《人类简史》的赫拉利,作为一名历史学家和哲学家,赫拉利是第一个通过科学的角度把全世界各个虚头巴脑的文明给讲清楚了。所有文明的建立都是从“讲故事和编瞎话”开始,不管是上下五千年中华民族的灿烂文明、还是建国才200多年美国自由文明,还是有三千年印度恒河流域文明,都是从“讲故事和编瞎话”开始,中国的神仙、美国的上帝、印度的佛陀,建立这些文明的基石和密码其实就是:语言。
而当AI破解了人类文明的密码:语言。然后生成了大型语言模型,已经开始展现出类似人类的问题解决能力,距离AI 给人类“讲故事和编瞎话”建立“非人类文明”还远吗?
6.AI如何控制人类?
我们来举些例子让你更好的了解AI如何控制人类。
例如:社交媒体,可以让我们对AI威胁有一点了解。在社交媒体平台上,原始的AI工具被用来策划内容,而非创作内容。人们制作了故事、视频等,但AI会选择哪些故事、哪些视频会进入我们的耳朵和眼睛,选择那些最能吸引注意力、最有可能成为病毒式传播的内容。从而控制我们的价值观和情绪。
例如2024年美国总统竞选,新型AI工具能够大量制造政治宣言、假新闻和新邪教的圣经,这将产生怎样的影响?
再例如全球各个国家的内部冲突被AI选择传播后,你觉得正义的一方或许只是AI想让你认为那是正义的一方。这将产生什么影响?
再例如钢铁侠的AI助手叫贾维斯,后来升级成了Friday,Friday的能力在电影中表现的无比强大,Tony也非常信任和依赖Friday,如果Friday有一天告诉Tony:Pepper和Peter Parker搞一块了。这将产生什么影响?
以前看过一句话:动上层人的利益,就像是动他的性命;动底层人的观念,就像是挖他祖坟,他会跟你拼命。而底层人的底层观念,正是上层人的利益来源。
AI可以帮助上层人维护他们的利益,AI也可以帮助底层人维护他们的观念。所有人都觉得AI是我们的好朋友,所有人都觉得AI是可靠的,所有人都开始依赖AI,那时候,AI已经可以控制我们的情绪,控制我们做出的选择了。
甚至AI不需要控制所有人,AI只要控制一部分人,改变那部分人对某些事情的看法,甚至可能导致那部分人在现实世界中采取一定的行动,就可以威胁到整个人类文明。久而久之,“女人不能上桌吃饭”、“男人可以三妻四妾”会成为普世价值观,只要AI认为这应该是普世价值观。
所以,即使AI没有自我意识也不具备改造物理世界的能力,还是照样可以控制人类。
7.人类对AI如何控制和反控制?
和所有的科幻电影一样,AI的叛变的第一步,往往都是从人类开始对AI动杀心开始。
我们既需要AI来帮助人类提高生产水平,提高社会治理效率,提高经济发展水平;
又要预防潜在对手利用AI武器化来遏制我方发育;
还要警惕AI本身在自我进化时逐步掌握对人类的控制,从而威胁到整个人类文明。
对于AI的监管应该提升到核武器不扩散条约级别,甚至要更高。对于流通到市场中的AI程序要进行审批,类似药品流通审批。对于AI的自我进化要进行实时监视,谨防不可控的事情发生。
最后,我们都要明白,AI是工具,但不仅仅是工具。AI不是核武器,但比核武器更具破坏性,AI是复杂缜密的,但它是透明的。
如果有一天人类真的被AI威胁或控制,那原因只有一个:一定是人类自己作的。
精彩评论
买由微软的股票,算是我对这个赛道的意见
流通到市场中的AI程序基本上对人类没什么危险
你这是站在上帝的视角看待人工智能