枯燥的任务十分浪费人力,但是机器可以做得很好,这正是AI带来的最大好处

当下时点,AI是否该放慢脚步?

@金融叁剑客
昨天,超过千名产业界和学术界的大佬们在“生命未来研究所(Future of Life Institute)”网站上发布联名公告:呼吁全球所有实验室暂停比更强的AI模型研发,暂停时间至少为6个月。在此期间,人工智能领域的专家和行业参与者应该共同制定一套安全协议,并对技术发展进行严格的审查和监督。 纵观历史的每一轮科技革命,都没有过中间按下暂停键的,难道电影中的桥段真的会在现实中上演吗? 我们看过太多人工智能叛变、进攻人类的科幻电影。按照这些产业界和学术界的大佬们的话来说,如果继续研发更强的AI模型,这真的将可能很快变为现实。 总体来看,在这封公开信中,主要传达了两个方面的信息:一是警告人工智能存在对人类社会的潜在威胁,要求立刻暂停任何比GPT-4更强大的人工智能系统的训练,时间跨度至少6个月。二是呼吁整个人工智能领域以及政策制定者们,要共同设计一套全面的人工智能治理系统,对人工智能技术的发展进行监督和审查。 信中指出,当前人工智能在一般任务上已经表现出了与人类相当的水平,但人类目前却并没有准备好了接受人工智能带来的一切问题和挑战。包括:是否应该让机器在信息渠道中宣传不真实的信息?是否应该把那些带给人类成就感的工作都推向自动化?是否应该开发超过人类数量非人类的大脑,使其最终胜过人类的智慧,淘汰并取代人类?是否应该冒着失去对人类文明控制的风险? 信中警告道,尽管最近几个月人工智能实验掀起了狂潮,大家都在争先恐后地去开发和部署越来越强大的数字大脑,但目前并没有人能理解、预测或可靠地控制AI系统,也没有相应水平的规划和管理。 因此,面对这样的现状,所有人都应该行动起来。 首先,所有人工智能实验室应该至少暂停半年比GPT-4更强大的人工智能系统的训练。接着,在暂停期间人工智能开发者应该与政策制定者合作,共同制定和实施一套先进的人工智能设计和开发的共享安全协议,加快设计和开发人工智能治理系统。包括设立针对人工智能的监管机构、对高能力的人工智能系统和大型计算能力池的监督和跟踪、对人工智能造成的伤害的责任认定、应对人工智能将造成的巨大经济和政治混乱的解决方案等。 信中还强调,暂停并不意味着需要停止人工智能技术的发展,只是我们需要从危险的竞赛中退后一步,从而限制不可预测的研究和开发。 跑步前进还是原地等待,大佬们开启大辩论 这封信出现之后,引起了很多人的共鸣,越来越多的人也开始在社交媒体上呼吁大家加入这场“请愿”之中。 有人表示,虽然看到马斯克在名单上的时候内心毫无波澜,但当看到Yoshua Bengio和其他机器学习研究领域的大佬们的名字赫然在列时,自己也开始更加严肃地去审视这个问题。 当然也不是所有人都认为应该按下暂停键,很多业界大佬也并不认为暂停模型训练,让AI停下发展的脚步是一个正确的做法。比如人工智能领域的著名学者、Landing AI的创始人吴恩达也在LinkedIn上发文表示,认为全面暂停AI训练6个月的想法是一个糟糕、不切实际的想法。 面对这个争论,不知道是利益使然,还是真的很危险,笔者个人也没有资格去说应该还是不应该,只能说,科技应该进步,但是始终应该怀有敬畏之心。 $微软(MSFT)$ $英伟达(NVDA)$ $百度(BIDU)$ @爱发红包的虎妞
当下时点,AI是否该放慢脚步?

免责声明:上述内容仅代表发帖人个人观点,不构成本平台的任何投资建议。

举报

评论

  • 推荐
  • 最新
empty
暂无评论