社区

大模型落地考，难点在哪里？| 2024 WAIC 图片 文｜周效敬 编｜王一粟 去年是百模大战，今年走到了应用的深水区。 “应用，还是应用”，去年都是技术大咖在前台分享，今年更多是应用的负责人。论坛太多，嘉宾都不够用了。 这是光锥智能在2024 世界人工智能大会（WAIC）现场最直观的感受。500+家企业参展，1500+项展品展出，200+位重磅嘉宾演讲，这个占地5万多平米的会场上人头攒动，到处弥漫着对技术落地和应用的关切。 去年的WAIC，行业更关注大模型技术的追赶和突破，那么今年WAIC则更加聚焦于商业化落地，探索可行的商业模式和盈利途径。 世界人工智能大会是中国大模型玩家集中“秀肌肉”的一个绝佳舞台，大会现场展示了上百款大模型产品，不仅有百度文心一言、讯飞星火、阿里通义千问、腾讯元宝、华为盘古等这些来自头部厂商的热门产品，也有Minimax、百川智能、智谱AI等新晋玩家的产品展出。 “人是被忽视的因素，不是企业里所有人都拥抱AI。小企业把AI当成革命的工具，大企业把AI当成工具的革命。当大企业也意识到AI是革命的工具，变化就会到来。”中国工程院院士、之江实验室主任、阿里云创始人王坚在大会上说。 图片 中国工程院院士、之江实验室主任、阿里云创始人 王坚 王坚道出的是中国大模型商业化落地的基本现状。 据《中国新一代人工智能科技产业发展报告2024》，2023年中国人工智能核心产业规模达5784亿元，增长13.9%；中国生成式人工智能的企业采用率15%，市场规模约为14.4万亿元。 与去年相比，今年大模型的应用更加深入，但这依然不够。 拼应用，大模型厂商 使出浑身解数 在大模型刚刚兴起时，由于技术和经验的限制，大模型在落地过程中需要投入更多的资源进行研发和调试，导致当时的落地比较重，不少人也停留在AI 1.0时代的旧思路中。一年过去，大模型厂商的落地策略发生了不小的变化。

图片 文｜刘俊宏 编｜王一粟 六月，是智能汽车集体“狂欢”的月份。 根据最新的汽车销量显示，多家智能汽车厂商“开起了香槟”。理想汽车和鸿蒙智行分列“榜一榜二”，两者分别以47774辆和46141辆的成绩，“咬的难舍难分”。极氪汽车本月交付20106辆，以同比暴涨89%的销量增幅，首次突破月销过两万的成绩。万众瞩目的小米，上市不到100天，销量也突破了万台大关。 最令人意外的还得属蔚来。6月作为蔚来2024年促销退坡的首月，蔚来不仅实现了交付21209辆车，销量进一步增长的成绩，还一举突破了6月电话会给出的销量指引预期。 如此成绩，暗示着蔚来正在走出过往低迷的销量困境。为蔚来“下注”长线布局的开支，相继找到了新的意义。 “想起2021年第一季度只亏过4个亿的时候，我在想还有这么好的日子？”，2023年的年底沟通会上，蔚来CEO李斌如此自嘲道。 而超预期向好的销量，结合蔚来换电、智能硬件研发、智驾等智能汽车基础设施下，或将触发蔚来“长线赌局”的“链式反应”。“反复”踏入“生死线”的蔚来，似乎又有了更多的想象空间。 或许蔚来当下的改变，并不只是李斌“2024年没有大招，只有老老实实地卖车”的结果。智能汽车时代，结合过往的长线运营，来自智驾、新产品的改变，即将拉开蔚来“破晓”的幕布。 不再全押算力 蔚来智驾踏入“端到端” 2024年，智驾的最新发展趋势已经显现。 其一是高阶智驾的落地，已经“迫在眉睫”。其二则是“端到端”的新一代智驾技术路线正在成为主流智驾技术。面对汹涌的时代浪潮，蔚来在近期相应做了不少改变。 4月30日，蔚来向所有NT2平台车型推送了全域领航辅助NOP+的城区功能。虽然仍侧重辅助的NOP+功能，并不严格对应主流认知的城市无图NOA（蔚来严格对标城市无图NOA的产品为智能驾驶NAD）。但NOP+的大范围推送，代表着蔚来的智驾进入了“城区”时代。 另一边据晚点报道，蔚

文｜周效敬 编｜王一粟 当大模型的竞争开始拼落地，商业化在B端和C端都展开了自由生长。 在B端，借助云计算向千行万业扎根；在C端，通过软件App和智能终端快速迭代。 在华为，这家曾经以通信行业起家的科技公司，以AI为纵向中轴线的牵引力，以鸿蒙为横向基础系统，分别延伸出了B端和C端的不同业务线的迭代。 在B端，华为从网络通信、底层算力，到云计算都有系统性覆盖，尤其是近年来高歌猛进的华为云，成为了承接AI基础大模型——盘古大模型落地的最佳场景。而在C端，从手机、PC平板，再到智能汽车，华为终端也包揽了几乎最全的智能硬件生态，第一时间落地大模型。 6月中旬，华为在2024年开发者大会上呈现出的AI和系统级的软件能力，再次证明了硬件出身的华为，一样能让“软件定义华为”。 “硬件越来越简单，软件越来越复杂”，任正非曾在一次会议中提到他对软件的重视，“未来软件将吞噬一切，说明未来信息社会的数字化基础架构核心是软件。数字社会首先要终端数字化，更难的是行业终端数字化，只有行业终端数字化了，才可能建立起智能化和软件服务的基础。” 而到了大模型时代，盘古大模型做的怎么样，能否承担牵引华为整体业务的重担？在大模型B端行业场景中，华为云又靠什么去解最难的题？ 目前看来，盘古大模型5.0在多模态、思维链技术上都做了重点加强，正好命中大模型技术中最前沿、也最难攻克的两个技术点，可以说，这两个技术的水平决定了大模型能力的上限。另外，盘古大模型5.0已经集齐从十亿级到万亿级的参数规模，可满足几乎所有规模企业的应用场景。 而在行业落地上，过去一年里，在多数厂商仍处于POC阶段时，盘古大模型已在30多个行业、400多个场景中落地，覆盖了从高铁巡检、气象预报到钢厂场景仿真、具身智能，再到工业互联网等。 华为常务董事、华为云CEO张平安宣布盘古大模型5.0正式发布 华为云盘古大模型能够在B端快速落地，一方面得益

文｜白 鸽 编｜周效敬 这些场景，对你来说或许并不陌生： 在医院的大屏上，一个医生模样的数字人在做医疗知识科普；在抖音的直播间里，一个真人模样的数字人在线上直播带货，24小时无休无止；在一个10万人的钢铁工厂里，AI将生产链条、财务管理和前端需求打通，厂子的运营效率大幅提升…… 随着生成式AI的爆发，这样的画面越来越多出现在中小企业身上。近年来，作为占据中国90%市场的主体，中小企业的数智化转型一直备受关注。 但转型进程依然缓慢。同时，虽然各大科技巨头不断加深AI的研发投入，行业应用呈现百花齐放态势，但这些产品大都由头部企业买单，中小企业并未进入应用深水区。 数据显示，有80.8%的中小企业已经对生成式AI技术有所了解，但仅有6.2%的企业表示在工作中经常使用此技术。影响中小企业数智化进程的因素各异，来自云服务商的推动也至关重要。 如华为云通过推出适配中小企业数智化转型的数十款产品及行业解决方案，包括4大爆款明星产品、10+通用爆款解决方案、4大行业爆款解决方案，助力中小企业突破技术瓶颈，加速驶入智能化转型的快车道。 上云，中小企业数智转型的加速器 “本质上，做数智化转型的核心一定是为了提升效率。”崐玉资本合伙人徐文龙对光锥智能说道。但有部分人认为，相比于大型企业，中小企业的组织架构和业务相对简单，管理基础相对薄弱，因此转型的需求并不迫切，且转型的基础也不够扎实。 事实却并不如此。大型企业能够通过数字化的手段重塑业务流程，提升运营效率，中小企业则更多的是面临生存和成长问题，需要通过数字化的手段来解决成长过程中碰到的业务问题，比如如何获客、如何提升管理效率、如何控制成本等。 从该维度来说，中小企业对数智化转型的需求也更迫切。然而，由于历史原因和自身条件的限制，中小企业在数智化转型过程中仍存在一些问题，普遍存在“不会转”“不想转”的困局。 一方面，中小企业面临着国内外市场需求

图片 文｜艺    思 编｜王一粟 “在商场全面部署AI机器人仅1年，AI带来的销售占同期整体联营销售额的比重逐步增加，最高达到了15%。” 这是正在银泰百货发生的真实案例。 除了线上电商，百货商场等线下的实体零售也正在尝试AI的力量。 和电商行业天然就拥有大量的数据不同，线下商场的数据，往往需要二次收集，比如货品的管理、门店的运营。这让实体零售在数智化之前，需要经历了一个漫长的信息化和数字化过程，这也是此次承接AI大模型浪潮的基础。 从2023年至今，不到一年的时间内，一些走在前面的百货商场也拥有了自己的“AI实践”。 近日，光锥智能在对银泰百货的调研中发现了两个巨大的变化： AI技术缩短了品牌专柜导购的能力方差，导购的工资也实现翻番，有的人1个月可以拿5万； 非一线羊毛衫品牌“莱言”有了爆品运营的能力，成功卖出六七款单件销量过千的产品； AI已经成为商场“提质增效”的重要路径之一。 AI成商场新质生产力 “AI打开了商家运营的黑盒。”银泰商业集团营运管理部总经理江锋在采访中表示。 2023年伊始，银泰百货开始了AI大模型的布局，在此前数字化基建和新商场商业操作系统（MOS系统）基础上，在商场专柜全面部署了AI机器人。这样一来，标准化程度较高的、简单重复且费时费力的工作由机器人代劳，由于机器人没有能力方差，准确率较此前提高了不少。 图片 “原来的系统是从上往下走，比如我和另外一个人意见一致，但在系统中传达给下个人的时候，往往会出现偏差”，银泰百货专柜数智化运营系统产品负责人得壹认为，“AI机器人是双向打通的，人和机器人聊，长此以往彼此会更了解、更默契，成本自然会降下来。优质品牌和货品可以实现更精准的人货匹配，带来更多的商业转化。” 除了帮助零售商做整体的销售增长，AI也在不断深入到品牌专柜运营的方方面面。 爆品的打造对于雅诗兰黛、资生堂、赫莲娜等

图片 文｜白    鸽 “零一万物坚决做To C，不做赔钱的To B，要做能赚钱的To B。”2024年6月14日，在智源大会上，零一万物创始人李开复如此坚定地说道。 而与之相对，中国工程院院士、清华大学智能产业研究院（AIR）院长张亚勤院士认为，在具身智能阶段，To B的应用可能会比To C更快落地，“现阶段大模型真正赚钱的则在于B端基础设施层面，包括芯片、硬件、服务器等。” 在经历了“百模大战”之后，2024年中国大模型开始走向商业化落地。但在大模型商业化的落地过程中，到底应该是To C还是To B，是行业中一直争论的焦点。 一方观点认为，B端应用目前相对明确，能够快速实现在多个场景中广泛应用，且几乎覆盖了所有行业，而C端则需要一款爆款应用的出现，现阶段还需要对其有一定的耐心。 另一方观点则认为，B端没有利润，大家都在卷价格战，导致大模型利润被极致压缩。同时中国企业对软件付费的意愿并不高，所以相对来说C端能够更快速获得预期的收益与回报。 以此争论为基础，当前头部大模型厂商已经形成两条不同的大模型商业化路径： 一种是坚定走C端应用，以大模型头部创业公司百川智能、月之暗面、零一万物为主； 一种是以B端应用为主，同步兼顾C端应用，以百度智能云、腾讯云等云厂商们为主，也包括坚持两条腿走路的创业公司MiniMax，和以B端为主的智谱AI。 但总体来说，现阶段大模型创业公司更偏向于走门槛更低，回报更快的C端商业化路线。而B端商业化则逐渐成为了云厂商们的主战场。 中国大模型正经历从PoC（概念验证）到商业落地的关键阶段，短期来看，大模型在C端应用门槛更低，但行业竞争更加激烈，能够成功的路径也更陡峭。在B端应用上，越来越多同质化的产品和服务、愈发“内卷”的价格，也似乎正在走中国SaaS的老路。 那么，大模型商业化落地究竟该如何避免“囚徒困境”？ 扎堆大模型C端应

图片文｜白    鸽编｜王一粟“每个大模型看起来都差不多，只能谁便宜先用谁的。但用下来之后，不合适再换，又费钱又费力”，一位AI 招聘公司的创始人对光锥智能抱怨道。2024年，大模型正在加速走向行业应用。但每一种大模型所擅长的领域都不一样，如何找到最适合自身业务场景的大模型，成为摆在开发者们眼前的难题之一。“在之前做大模型应用开发过程中，我们一般会先选择一到两个大模型，单独对接研发产品，Demo出来之后，再去评估大模型是否合适。”一位开发者如此对光锥智能说道。不难看出，这种大模型应用开发方式，耗时耗力，开发成本也非常高昂。基于此，当前各大厂商都在AI应用开发平台中内置了模型评估和模型选择等功能，比如百度智能云千帆大模型平台、亚马逊云科技的Amazon Bedrock等。但这些平台的模型评估和选择功能，更适用于企业级开发者。于普通的个人开发者而言，尤其是没有编程基础的用户，很难搞清楚这背后模型评估的逻辑。那么，有没有一种更加简单、清晰、适合个人开发者的模型评估与选择方式？字节跳动将自身经典的A/B测试方法论，带到了大模型选择与评估上。6月12日，由字节跳动AI应用开发平台—扣子（coze.cn）推出了「扣子模型广场」。模型广场主要包含两方面能力：其一，模型集市。模型广场已经接入多个国内头部大语言模型，包括豆包、通义千问、智谱、MiniMax、Moonshot 、Baichuan等，在创建Bot（智能体）、调试Bot时都可以一键切换。其二，模型竞技场。通过类似小游戏的模型对战，开发者可以让两个隐藏了模型的Bot一键PK，并根据模型的回答进行投票，投票结束后才会揭秘具体的模型。一键PK，傻瓜式的操作，为开发者提供了一种相当简单便捷地筛选大模型的方式。这种PK，类似对大模型进行“A/B测试”，给予大模型真实的人类反馈，能够快速促进大模型的升级迭代，从而为Bot应

图片 文｜王一粟、艺思 大模型爆火一年，超级应用在哪里？ 相比在ChatGPT问世时，人们对于“AI问答产品”寄予的超高期待，AI在办公场景中率先展现出来的能量，超出了所有人的预期。 6月7日，“AI产品榜”发布最新5月份榜单，百度文库AI功能蝉联国内总榜第一名。 图片 我们可以看到，除了百度文库之外，在榜单上5月份访问量最高的都是AI问答产品和搜索产品。从品类上来讲，与硅谷2023年AI大模型产品火爆的趋势是比较一致的，但不同的是，硅谷是ChatGPT一枝独秀，国内则更多是百花齐放。 AI的本质是生产力工具，这一波大模型就是将AI降本增效的能力又提到了一个新高度。 生产力工具，引发的生产力革命，第一波受益的就是办公软件。 纵观过去一年，从海外的微软Office、Photoshop，到国内的百度文库、钉钉、飞书，都因为AI功能的加持而得到了用户的二次增长，付费率的持续提升。 可以看到，AI并没有像之前预想的一样给打工人带来失业的恐慌，反而是率先帮助打工人提升了工作效率。 不过，AI对生产力的提升才刚刚开始，之前的产品还比较浅层。无论是生成简单的文案、还是作图和剪视频，能力的天花板都非常明显，只能满足一些简单的、特定的场景。 要想释放更大的生产力革命，还需要和更专业的数据结合，这也给百度文库等沉淀了大量专业知识数据的产品，二次爆发的机会。 同时，百度文库近日发布了一个新产品“橙篇”，就是集“专业知识检索和问答、超长图文理解和生成、深度编辑和整理、跨模态自由创作”于一身的综合性AI Native（AI原生）产品。 简单来讲，“橙篇”不光能够阅读几十万字的文档，还能够快速生成几万字的长篇专业文章和深度研报。不得不说，又把“长文本”卷到了一个新高度。 一句话生成3万字专业研报 AI诚不欺打工人 庞大的用户数量，证明百度文库已经受到了很多人的关注和青睐。 据官方报道，百度文库累计AI

图片 文｜刘俊宏 “今年，学习机是我们要高举高打的爆款产品。”一家科技公司的工作人员告诉光锥智能。 曾经，凭借一己之力将一众教育科技公司，从生死边缘拉回来的教育智能硬件，在AI大模型时代，又有了新故事。 AI改变智能终端的时代，教育硬件也必须面对AI的“升级重造”。 近日，多家教育科技公司纷纷以学习机搭载了AI大模型为卖点，打起了“争霸赛”。 最有资历的教育公司，对大模型落地教育硬件的趋势最敏感。在2023年，科大讯飞和学而思就分别将大模型接入到了学习机产品中。 今年5月，大模型与学习机结合的热度突然开始爆发。在这一个月中，小度科技在新发布的学习机Z30上，落地了文心一言大模型；猿辅导首次披露了大模型架构，以及AI课程的结合；网易有道旗下子曰教育大模型技术升级，并披露了“LLM翻译”“虚拟人口语教练”“AI作文指导等六大落地应用。 图片 教育科技公司的密集动作，不仅体现在AI改造硬件上，也引来新一轮的行业投资。5月29日，AI教育公司精准学获得来自阿里的近2亿元的融资，即将推出基于通义千问大模型打造的AI“辅学机”。 一切，好似又回到了2013年在线教育“跑马圈地”的时代。老牌教育公司和科技公司们在各自擅长的能力下，利用AI大模型在智能硬件领域上演着“代理人战争”。 例如，小度科技结合了百度文心一言，将大模型的自然语言理解能力落地到学习机上，不仅能多轮对话进行启发式教学，还能“手把手”教写作文。网易有道则是基于英语翻译领域十几年的功底，在学习机上落地了自然语言对话的数字人，让英语口语训练不再仅限“公式化”对答。科大讯飞在传统教育业务积累了历年真题库的数据下，借助大模型对知识点的理解，优化了学习机刷题的合理性。 历史总是重复的，口语练习、拍照做题、作业批改，传统在线教育中三个最大的需求点，AI 时代正在最先被重塑。 网易有道CEO周枫称，“当前已经是‘模型即应用’的时代，大

图片 文｜艺    思 编｜王一粟 经过了2023年的小试牛刀，2024年，三大运营商带着大模型一路狂飙。 刚刚过去的5月，中国电信、中国移动、中国联通三大运营商集体完成了新一轮的大模型进化，特别是围绕大模型的研发与应用，展现了各自在技术革新和产业升级方面的最新成果。 快速进化，源自三大运营商在AI方面的战略布局。 中国电信在2023年年报中表示，2024年公司将把握以人工智能为代表的新一轮科技革命和产业变革趋势；中国移动也曾公开表示，九天人工智能团队将于2024年底对标GPT-4完成多模态大模型训练，含8款子平台、287项核心算法能力、37项规模化应用。 野村综研咨询顾问张凯认为，运营商的通信基础业务和公众市场在短期内已经不能产生大规模增长，ICT业务和政企市场是新的业务增长空间。随着数字化进程的加快，AI必将成为社会基础设施之一。运营商在此时尝试大模型基础能力的开发，是一种战略选择。 智能化是近年来运营商一直强调的技术创新方向，并在旗下各种产品都加入了AI功能，尤其是赖以生存的网络产品。早在2020年，Omdia的ICT-Enterprise Insights公布的一项调查数据显示，有近80%的全新运营商认为使用AI技术是一项“重要”或“非常重要”的IT项目，其中近60%的运营商计划增加了对AI工具的投资。 值得注意的是，同样是布局大模型，运营商制定了和头部云厂商不同的策略：不卷通用大模型，而是把重点放在行业大模型，加速落地。 论技术和产品，运营商很难和科技公司出身的云厂商和大模型公司PK，但对于深耕多年了数智化市场的云厂商来讲，5G的利刃、政企市场的深耕，都让他们成为了AI市场中难以忽略的重量级选手。 而对大模型寄予厚望的云厂商来讲，这些对手，既是要敬畏的，又是要合作的。 运营商大模型，提速快且力度大 继2023年7月小试牛刀后，今年运营商明显加快