【智能前线】第14期:OpenAI 12弹发布季系列前3弹,纽约时报专访Sam Altman,AGI可能比预期更早到来

2024年12月4日,纽约时报Youtube频道发布Sam Altman DealBook峰会专访,主要围绕Sam Altman对OpenAI过去2年发展、未来方向、AI技术发展趋势看法展开。Altman预测,AGI可能比预期更早到来,将在2025年带来令人震惊的AI系统,AI Agent是未来发展重要方向。

2024年12月5日,OpenAI正式开启Shipmas产品发布季,将连续12个工作日发布新产品与功能更新。首日,OpenAI推出两个重磅更新,o1模型满血正式版、ChatGPT Pro订阅计划。o1模型处理复杂问题错误率大幅降低,同时在数学、编程、科学问题上展现出色表现,特别是在多模态识别上重大突破,实用性大幅提升。ChatGPT Pro订阅计划,定价200美金/月,提供更强大o1 Pro模式,确保在处理难题时获得更多算力,实现更高稳定性与一致性。

2024年12月6日,OpenAI推出强化微调技术,允许用户根据特定需求定制o1 mini模型,预计将在2025年Q1正式发布。这项技术将使科学家、开发者、研究人员能利用自有数据定制o1推理模型,即使只有少量训练数据,提高模型在特定任务与领域准确性,预示AI模型性能提升关键手段。

2024年12月9日,OpenAI延迟10个月,正式推出AI视频生成模型Sora,与预期Sora 2.0级别大版本升级不同,此次发布更注重形成端到端可交付产品。Sora在产品设计上有所进步,物理理解等问题仍有待提高,Plus用户每月有50次生成配额,Pro用户享受无限慢速模式与500次快速通道。

本期智能前线,选择Sam Altman专访纪要、OpenAI 12弹发布季系列前3弹介绍与分析,瓜哥AI新知、腾讯科技发布,六合商业研选精校,分享给大家,Enjoy!

正文:

全文16,625字

预计阅读33分钟

纽约时报专访Sam Altman:如果时光倒流,我会要OpenAI股份,马斯克的xAI是强大的对手

时间:2024年12月6日

来源:瓜哥AI新知

字数:10,480

Sam Altman接受纽约时报DealBook峰会专访,2024年12月4日公开发表于New York Times Events Youtube频道,主要围绕Sam Altman对OpenAI过去2年发展、未来方向、AI技术发展趋势的看法展开。

内容导读

ChatGPT成功并非完全预料之中:OpenAI内部一直相信大型语言模型潜力,ChatGPT的爆火程度与时机仍存在偶然性。GPT-3发布相对较早,杀手级应用是开发者在playground中的交互式使用,ChatGPT正是基于此改进而来,使其更容易上手,并广泛流行。

AGI临近与影响:Altman认为AGI可能比大多数人预期的更早到来,带来的经济变革将是渐进式开始,迅速加剧;预计在2025年,将出现令人震惊的AI系统,认为AI Agent是未来发展重要方向。

AI发展三大关键要素与Scaling Law:Altman指出AI发展三大关键要素是算力、数据、算法,它们之间可以相互权衡。算力竞争最为显著,算法突破性进展才能带来指数级收益提升,坚信AI Scaling Law将继续有效,没有墙。

与微软合作关系与算力获取:Altman承认与微软合作中存在挑战,整体上认为合作关系积极;表示OpenAI需要确保获得足够算力,并不一定需要自行建造全部数据中心,可以借助云服务商的力量。

对AI安全性回应与担忧:Altman承认存在对OpenAI不够重视安全的批评,认为安全是持续迭代与协商的过程,强调迭代式部署的重要性;认为极度危险的超级智能,离我们比较远,需要在技术与政策层面共同努力应

对竞争对手看法:Altman认为xAI,将成为强大竞争对手,对他们快速建设数据中心的能力表示尊重;认为AI技术最终会商品化,并非坏事。

OpenAI发展模式转变:OpenAI最初是非盈利组织,发展需要巨额资金,逐渐转向盈利模式,非营利组织初衷与部分工作仍在继续,解释了OpenAI组织结构调整的复杂性与挑战。

个人持股问题与对未来展望:Altman解释自己未持有OpenAI股份原因,强调自己对工作的热爱与满足感胜过金钱;认为AI将改变世界,人类根本需求与情感不会因此改变,他期待孩子降生,认为这比AGI更重要。

对版权与创作者权益看法:Altman认为需要新的协议来规范AI训练数据的使用,支持创作者获得报酬的机制,认为《纽约时报》诉讼立场是错误。

访谈全文

主持人安德鲁:非常感谢你,感谢你来到这里。

Sam是OpenAI联合创始人、CEO,这是我们时代影响力最大的公司之一。

仅在过去的几年里,ChatGPT发布以来,Sam与他的团队已经将AI带入主流,从根本上改变我们工作、沟通、创新方式、我们对未来将会是什么样的思考。

OpenAI现在价值约1,570亿美元,不仅引发一场军备竞赛,真正重新定义技术的可能性,随着他向AGI迈进,我们被迫要认真思考关于未来工作、权力平衡、伦理考量、许多其他议题的重大问题,我们将与Sam深入探讨所有这些问题。

感谢这位处于这一切中心的人物,很高兴见到你。

2年前,几乎就在这个星期,你们发布ChatGPT。我认为,可以说,当你按下按钮的那一刻,一切都乱套了。

感觉是这样,它改变了全球对话,改变了融资重点,转移了资源的流动,其他科技公司也改变他们做事方式,已经出现诉讼、各种反应。

我非常好奇,能否请你带我们回到2年前,几乎是同一天或同一周,分享当时按下按钮时预期的结果。

Sam Altman:我们一直都知道,会有一些时刻,无论出于什么原因,世界都会从不理解到理解。突然之间,这项技术是有效的这一点会变得清晰明了。

在内部,那时对我们说,语言模型会不断扩展,会做所有这些有用的事,这似乎非常明显。

为什么它在ChatGPT发布时发生,我有一些理论,为什么它在当时发生,而不是在我们之前发布GPT-3与API时发生,或者为什么它直到几个月后GPT-4发布才发生,这是一个有趣的问题。

当它真正流行起来时,似乎有一些偶然的因素。我们通过API与GPT-3观察到,GPT-3有点早期,它并不适用于很多事。

某种意义上说,它的杀手级用例之一,是开发者在playground游乐场中使用它,在那里他们可以在实现API之前快速测试想法。他们喜欢与模型对话,他们会坐在那里,与GPT-3进行关于任何事的对话,这是人们主要使用它的方式。

我们说,如果这就是人们想要的,我们可以让它更易使用。你不需要注册开发者帐户、执行所有其他操作,我们可以对其进行调整,以擅长对话。我们说,让我们把它做成一个产品。

现在,我们一直在计划用GPT-4来发布它。我们在2022年8月完成GPT-4,我们将其保留了一段时间。

你是否预料到这一切都会发生?

再说一次,某个时刻,我们认为世界上会有一件大事发生。

我们知道它会恰好在ChatGPT发布时发生吗?不是。

主持人安德鲁:现在,2年后,我们所有人都在问的下一个大问题是,我甚至不敢相信我们只是在2年后才问这个问题,你刚写到这个问题,你说我们有可能在接下来几千天内拥有超级智能。

2年前,你这么认为吗?当你提到几千天时,我可以对这意味着什么进行各种计算。

Sam Altman:存在很大不确定性,对超级智能的定义也不同。

2年前,我们认为我们正处于一条非常陡峭的曲线之上。我们创建OpenAI,是我们认为这是可能的,可能不会太遥远。进展顺利,我们希望它会进展顺利。

就像,我们相信深度学习是人类令人难以置信的新发现。我们认为它可以达到这个目标,我们有责任让它达到这个目标,让它进展顺利,广泛分享益处,我们认为我们可以做到这一点,我们仍然相信我们可以做到这一点,但这并不确定。仍有工程方面的工作要做,但我认为这是可能的,我认为这并非遥远的未来。

我预计在2025年,我们将拥有这样的系统,即使是对当前进展持怀疑态度的人也会说,我没想到会这样,这会改变什么?

我认为,AI Agent是每个人都在谈论的事,我认为这是有充分理由的。这个想法是,你可以给AI系统相当复杂的任务,就像你交给非常聪明人的任务一样,需要一段时间才能完成,使用一堆工具来创造一些有价值的东西,这就是我2025年期待的那种事,这是一件大事。

我们谈论这件事就像,这件事将会发生,但这是真的。如果它像我们希望的那样有效,它真的可以改变很多东西。

主持人安德鲁:我们应该怎么想?过去几周里,有很多标题新闻谈论到AI的Scaling Law正在放缓。你发布这条,我不知道是含糊其辞,还是非常直接,你发布一条推文,上面写着,没有墙。

Sam Altman:看还有什么比这更不含糊的方法,这完全是一次试图不含糊其辞的尝试,说,这将会继续下去,希望这至少能暂时解决这个问题。

我一直对人们多么喜欢推测有墙吗,缩放会继续下去吗,感到震惊,而不是仅查看进展曲线,然后说,也许我不应该与这样的指数增长作对。

无论如何,我们还有很多很棒的新东西,我们正在为假期做一些有趣的事。我们从明天开始,进行12天OpenAI活动。我们将每天发布一些东西或进行演示,持续接下来的12个工作日。在不透露太多关于明天事情情况下,是持续的进步。

主持人安德鲁:给我们一点提示,如果它明天就要开始的话。

Sam Altman:我不想剧透,等待的时间并不长。

主持人安德鲁:我不擅长等待,我想知道。

关于AI的一个重大问题是,这与缩放问题有关,就是需要多少数据、需要什么,才能继续缩放。有多少是关于纯粹的处理能力,因此是资本,与数据相比,你从哪里获得数据,这个合成数据、数字数据的想法,我们将在此基础上重新创建数据?

在这个阶段,需要什么才能扩展?当人们甚至谈论一些限制因素时,我认为其中包含一些关于哪个部分将获得这个的问题。

Sam Altman:还有其他要素,三个关键要素是算力、数据、算法,有时你可以权衡它们。

比如,如果有更好的数据,可以减少算力使用;或者,如果有更多算力,可以用它来生成合成数据,获得更多数据。

一段时间以来,我们在算力方面,获得令人难以置信的容易收益。最近,我们在算法方面取得很多进展。你需要同时推动三个要素的发展,在不同时间,对其中一个或另一个要素的投入,可能会有不同的回报,我倾向于将这三个要素都考虑在内。

主持人安德鲁:对你来说,我猜想算力是最大的因素?如果没有算力,其他一切都不重要。

Sam Altman:某种意义上,算法的进步才是最重要的,最大的因素。也许你可以将计算机规模扩大一倍,也许随时间推移,通过大量资金投入,可以将计算机规模扩大10倍。但偶尔,算法会带来1,000倍收益,Transformer就是很好的近期例子。这种情况很少见,一旦发生,就是最大收益。

主持人安德鲁:现在感觉像是在进行一场算力军备竞赛,一场为算力筹集资金的军备竞赛,一场建造与获取更多算力的军备竞赛。你与微软有合作关系,你现在依赖他们。

Sam Altman:我认为所有这些方面,都在进行竞争。

算力竞争,是最有趣、最引人注目、数字最大的那一个,它得到最多关注,非常重要,我不想轻视它。

肯定也有大量的努力,投入到谁能想出最好的算法、谁能获得新的数据源上,我认为这三个方面都在竞争。

主持人安德鲁:你与微软有合作关系,有时它被描述为,以最好的方式说,一种科技上的兄弟情。我刚读到Alex Heath文章,他写道,微软与OpenAI正在逐渐疏远。

Sam Altman:我认为我们没有疏远,我不会假装没有不一致或挑战,有一些。总的说,我认为这对两家公司,都是非常积极的事,很高兴能够一起做更多、更多的事。

主持人安德鲁:长远看,你认为你需要拥有自己算力,而不是依赖其他人吗?

Sam Altman:我认为我们需要确保,获得足够我们想要、可以依赖的算力。也可能有一些原因,我们有一些关于我们想构建东西的非常疯狂想法,这些想法,是高风险、高回报的。

我们不需要OpenAI,变得非常擅长建造像大型数据中心那样的计算机。

其中一件事,也许这是我成长方式的结果,我作为那一代初创公司创始人之一长大,当时情况是,那段时间之前,每个人都必须自己建造硬件,你们有这些大型数据中心。

突然之间,AWS改变局面,我一直都是这么想的。

我很乐意我们说,我们将不得不自己建造东西,或者随时间推移,垂直整合会变得更重要。

但专注研究与产品,做我们正在做的事,真的很好。

主持人安德鲁:我之所以这样问,是这会造成一种朋友、敌人、亦敌亦友的局面,我想,你有你的产品。

我昨天用它来检查了一些事,效果如何?很好。很高兴听到这个消息,我们稍后会请Sundar来,你们正在做的搜索产品非常吸引人。

Sam Altman:它真的很酷。我不得不说,这是我们推出我最喜欢的产品,谢谢你说这些。这是我很久以来,推出我最喜欢的产品。我经常使用它,非常满意,它彻底改变了我使用互联网的方式。

主持人安德鲁:我之所以这样说,是你们关系是这样:微软在Copilot中使用你的产品,苹果也在使用你的产品,你们自己销售自己原生产品。

某些时候,利益是否不再一致?我这么说,是包括《纽约时报》在内一些报道暗示,对于你们获得多少算力与访问权限,OpenAI员工应该使用的某些微软产品,他们可能不想使用的要求方面,存在一些不满,我只是想了解所有这些。

Sam Altman:在不同时间,肯定存在真正的算力紧缺。同样,我们产品规模已经扩大。

2年前,我们几乎没有业务,现在我们每周有超过3亿活跃用户,我们用户每天向ChatGPT发送超过10亿条消息。

我们拥有非常庞大的开发者业务,我认为大约有130万美国开发者,全世界还有更多。

我们需要大量算力,比我们预测的还要多。

这在商业史上,是不同寻常的快速扩张,这方面存在压力,我没有听说有人使用微软服务而感到沮丧。

我们拥有庞大的平台业务,我们拥有庞大的第一方业务,许多其他公司都在管理这两件事。

我们擅长一些事,微软擅长一些事。再说一次,并非没有压力,总的说,我认为我们目标是相当一致。

主持人安德鲁:听起来有点紧张,但在AGI方面,你总是说,你与他们交易的一部分是,如果你真的实现AGI,交易可能会被取消,听起来你好像快成功了。

Sam Altman:我们说过,我们目标是将AGI视为沿途一个里程碑。我们给自己留下一些灵活性,我们不知道会发生什么。

我猜想,我们将比世界上大多数人想象的更早实现AGI,它的重要性会小得多。

我们与其他人表达的许多安全担忧,并没有在AGI出现的那一刻到来,就像AGI可以被构建出来。

世界还是按照同样的方式运行,经济发展得更快,事情发展得更快。但随后,从我们所说的AGI,到我们所说的超级智能,会有一段持续不断的延续。

主持人安德鲁:那时我们才应该担心,我记得你甚至在过去几年里,你在华盛顿与其他地方告诉我们,应该感到紧张。

Sam Altman:确实如此。

首先,即使在AGI到来之时,我认为仍然有一些值得担忧的事。

我预计经济的颠覆性变化,会比人们想象的持续更久一些,社会存在着巨大惯性,强度也会比人们想象的更剧烈。

最初几年可能变化不大,经济可能发生剧烈的变化。

我不相信无业的说法,我认为我们总会找到事可做。

每一次重大的技术革命,都会带来大量职位更替,我敢打赌,这次的变革速度将前所未有。

我认为在相对较短时期内,我们需要担心类似这样的问题。极其危险的事,我认为,离我们还比较远。

主持人安德鲁:你相信政府或其他人,能够想出办法避免这种情况吗?

Sam Altman:我相信研究人员能够想出办法避免这种情况,我认为有一系列技术难题,世界上最聪明的人,将会致力解决这些难题。

我天生比较乐观,我假设他们能够解决这些问题。我们正在非常努力工作,其他人也在非常努力工作。

我认为摆在我们面前的任务还有很多,我同时认为我们拥有这项神奇,并非魔法,而是这项令人难以置信的科学成就深度学习,它可以帮助我们解决非常棘手的问题,我认为我们会把这件事做好。

围绕AGI的社会问题,不仅是几年后就能完成大量工作,创造巨大经济价值的那种AGI,而是真正的超级智能,那种不仅比你聪明、比我聪明,甚至比我们所有人加起来都聪明的系统,拥有令人难以置信的能力。

即使我们能够在技术上确保它的安全,我假设我们会做到这一点,我们必须对我们政府抱有一定的信心。

这将需要一些相关的政策措施,需要在一定程度上进行全球协调,我认为这种情况将会出现,这似乎是一个挑战。

主持人安德鲁:这就是安全问题。

我们都读过相关新闻标题,你也多次出现在新闻标题中。

在过去1~2年里,有许多人,包括OpenAI内部一些人,他们要么离职,要么公开发表意见,或者采取其他行动,他们说,这些人对安全不够重视,你必须回答信任问题。

请说明一下,以便我们理解。当人们说对安全关注不够时,你认为是什么情况?具体是什么问题?应该做的事没有做到?

Sam Altman:我会指出我们过往记录,我会说,我们谈到过我们推出一款伟大的产品。这是一项非常新兴的技术,发展速度非常快。

一开始,我们不知道如何很好对其进行对齐。现在,它普遍被社会认为是安全可靠的。安全,这始终是由许多利益相关者协商达成的协议,也许很难准确定义它意味着什么。

主持人安德鲁:对儿童版GPT,安全意味着什么。我这么问,是当我们听到一些离开OpenAI,公开发表言论的人,他们在X/推特说,这些人不重视安全。

这是关于安全资源的问题吗?是关于处理能力的问题吗?是关于你们关注度的问题吗?

Sam Altman:有人认为ChatGPT不够安全,它允许它不应该做的事,或者没有做它应该做的事,有些人会在这方面施压。

有些人会说,ChatGPT比我们想象的要安全一点。下一个系统的计划是什么?我们要如何处理这个问题?还有一些人会说,发布这样的系统本身就不安全,OpenAI加速全球竞争,这让我们用来处理安全问题的时间更少。

我们相信,这是有主观意见的立场,这种迭代部署的想法非常重要,我们必须将这些系统投放到世界中,社会与技术必须共同发展。

你必须从风险较低时开始,你必须了解人们将如何使用它,它在哪些方面不起作用,哪些方面有效。

还有一些人会说,这样做有一些好处,不值得付出相应代价。

主持人安德鲁:让我问一个不同的问题,也许它可以追溯到处理能力的问题。

我打算提到,马斯克正在建造他自己的处理设施,是巨大的处理能力实验室,为xAI提供动力。

我问你是否需要你自己处理能力的原因之一是,似乎每个人都在获取自己处理能力。

我们之前刚与肯谈论马斯克,马斯克在这些年中与你们关系相当独特,他既是创始人,也是现在正在起诉OpenAI的人,你认为xAI在多大程度上是你们竞争对手。

我们总是谈论谷歌,也谈论Anthropic,在某种程度上谈论微软。

我不知道你认为亚马逊处于什么地位,我们今天下午会与贝佐斯谈。

你是怎么看待这个问题的,他们是竞争对手吗,你认为他们是你们最大的竞争对手之一吗?看起来他们发展得非常迅速。

Sam Altman:我认为他们将成为非常强大的竞争对手。

主持人安德鲁:你预料到这一点吗?他们在做什么?他们做了什么,他们是如何能够如此快速组建一家公司,我不是说它与你们正在做的事可以相比,它已经非常接近,发展速度非常快,这是什么原因?

Sam Altman:目前处于前沿的许多模型都非常接近,我非常尊重他们建造数据中心的速度。

主持人安德鲁:你担心所有这些都会因此商品化吗?我不是说任何人都能做到,这看起来就像,你们优势是什么,你们劣势是什么?

Sam Altman:我认为这项技术本身,如果你相信深度学习就像某种物理定律,我们发现一项重要新的科学成果,这部分工作将会由很多人来完成,每个人都有自己对AI的比喻。

Sundar Pichai一会儿会来这里,他把它比作电力;许多其他人把它比作工业革命,有些人称为文艺复兴。

我喜欢的一个比喻是晶体管,这是一项科学发现,一些公司首先发现这项发现,它改变了我们社会,扩展得非常好。

当人们谈论规模定律时,我认为最好的比喻是摩尔定律,这个概念被世界各地许多公司使用。

如果你看这个房间里所有带有晶体管的东西,我们不会把它们看作晶体管设备,我们不会认为谷歌是家晶体管公司,如果没有晶体管,他们就不会存在。

我认为AI也将发生这种情况,将会有令人震惊的强大模型,广泛可用,并用于一切事物。未来的人们会无法想象,他们使用的设备、产品、服务不是真正智能的。

他们不会都自称是AI公司或AI产品,某种意义上说,AI本身,也就是它推理引擎的本质,将会商品化,这很好。

科学应该传播到整个社会,这就是为什么我们专注构建像ChatGPT这样的东西。

主持人安德鲁:另一个问题,也跟马斯克有关,就是你们公司现在正转向盈利模式,现在是公益性质的。

如果大家看过新闻报道,马斯克正在就此事、其他许多事起诉你们。我只想从非常私人角度问你,抛开案件优劣不谈,作为与他共事多年、共同创立OpenAI的人,你今天对这一切有什么感受?

Sam Altman:令人极其难过,我从小就视马斯克为超级英雄。

我认为马斯克所做的一切,对世界都非常不可思议。我现在对他感觉有所不同,我仍然很高兴他存在。

这不仅是,我是认真的,不仅是我认为他的公司很棒我这么认为,而是他在一个大多数人没有抱有远大抱负的时候,他激励包括我在内很多人更有野心思考。

我很感激,这词好像不太贴切,我更愿意说是感谢,我对这一点持积极态度。

我们一起创立OpenAI,在某个时候,他完全失去对OpenAI信心,决定走自己的路,这也没什么问题。

我认为马斯克是一位建设者,大家都知道的一点是,他非常在乎成为领头人。我认为他是一个,如果他不是,就会在市场、技术或其他领域竞争,而不是诉诸法律诉讼。

不管申诉中陈述的内容是什么,我认为他只是一个竞争对手,我们做得很好,看到这种情况让人很难过。

主持人安德鲁:我必须问你这个问题,《华尔街日报》上有一篇文章,你、贝佐斯、其他一些他的主要竞争对手都在其中。文章推测,像你这样的人担心他的影响力,不仅是他在科技领域势力,包括他现在与当选总统密切关系。

Sam Altman:我不担心,我对此深信不疑,我可能最终会错,我非常相信马斯克会做正确的事,美国人如果利用马斯克所拥有的这种政治权力,来伤害竞争对手,让自己企业获益,那将是极度不美国的行为。

我认为人们不会容忍这种行为,我认为马斯克不会这么做,这会严重违背我认为他非常珍视的价值观,我不担心。

请务必阅读免责声明与风险提示

免责声明:上述内容仅代表发帖人个人观点,不构成本平台的任何投资建议。

举报

评论

  • 推荐
  • 最新
empty
暂无评论