社区

©️深响原创 · 作者｜亚澜

经历了巨头级公司全力加码、明星创业者云集的“百模大战”尖峰时刻，大模型对于很多人来说不再是一个陌生词汇。

喧嚣伴随着认知门槛的降低，逐渐叩开市场的大门，而喧嚣背后，大模型行业已达成共识——必须聚焦于“场景”和实际应用，只有使用量拉起来了，才有机会磨出真正有价值的好模型。也难怪就连Open AI的创始人Altman都已着手创办新公司Thrive AI Health，聚焦到健康慢病管理场景了。

在拉通大模型的应用方向，我们关注到智能客服这一特定领域。“大模型的应用对于智能客服行业的商业模式、组织结构、业务效率效果、商业价值等方面都产生了深刻的影响。”晓多科技CTO向海告诉「深响」。

晓多科技是以智能对话为核心的认知智能 SaaS 产品和行业数智化解决方案服务商，其智能客服广泛应用于电商、电信、政务、教育等多领域，覆盖全国50多城，服务了包括美的、海信、极米、方太、芝华士等零售类品牌，在今年5月成为了抖音电商客服服务商。作为专注智能客服十余年的关键企业，晓多科技从认知到实践，让我们看到大模型落地特定行业的探索过程——大模型究竟如何在智能客服具体场景中发挥作用？给客服行业带来了哪些层面的改变？我们如何去理解这些变化以及借力这些变化？

“客服”虽然并不“高大上”，但他们却是品牌商家直面用户的窗口。根据《2023年中国智能客服市场报告》，中国智能客服市场规模已达66.8亿元，预计到2027年，市场规模有望增长至181.3亿元。而大模型技术的应用，一方面解决着过去客服交互、客服培训等具体环节的痛点，另一方面也为智能客服行业延展出更多的业务空间，让智能客服不止于“客服”，更是深入到营销、交易、履约等各个生意关键环节，实现更大的价值。

先用再说

晓多科技能够在今天迅速拿起大模型的利器其实有一定的历史渊源。

十年前，CEO江岭察觉到客服行业痛点问题，就针对电商客服场景设计了人工智能辅助工具，其核心产品“智能客服机器人”已为多个电商平台的多品类企业提供着高准确率、高覆盖率的个性化服务。江岭是自然语言处理和机器学习专家，晓多科技的大部分研发人员则来自百度、腾讯、华为、科大讯飞等知名企业。

这样的技术积累和敏感度，让晓多科技在2020年就将大模型纳入了重点关注范围。2022年，ChatGPT在全球范围引发热议，江岭没有犹豫，立即发起了“全员AI”的工作要求，让各个业务模块尝试用GPT提效并加速认知上的迭代。

2022年12月，晓多科技的大模型团队正式组建，覆盖工程、算法、数据、产品等角色，并在单独的空间中“闭关”，围绕自己的业务场景去测，跑通微调模型。当时的晓多科技明确了一个很重要的方向判断：大模型的魔法不会凭空出现，必须围绕自身的业务场景去探索。

但晓多科技的业务模块并不简单，“一竖一横”的布局严密地构建出其在智能客服领域的专业度和护城河：

• 一竖是晓多科技最为核心的“前台业务”，直面消费者，包括接待消费者、回答消费者、导购消费者等等；

• 一横则是围绕客服管理和能力提升的“后台业务”，包括客服招聘、岗前培训、上岗考核、岗后团队管理等等。

这么多的场景，怎么选择？怎么切入？晓多的答案是先测试最核心的应答环节，这是智能客服最重要的能力。

2023年3月，晓多科技与国家超级计算成都中心达成合作，解决算力资源问题，把基础模型微调训练全部跑通。5月发布了基于生成式预训练Transformer的深度学习模型“XPT晓模型”。“XPT晓模型”与ChatGPT的核心技术架构相同，但不同的是，晓模型接受了大量的电商行业的领域知识训练，积累了电商行业关于商品、行业上下游、行业政策以及产品使用场景相关的数亿Token的领域知识，可以更好地为顾客提供智能化和个性化的服务。

XPT晓模型

“XPT晓模型”是晓多科技“一竖”业务的进阶。但考虑到人力和资源的效率问题，对于“一横”业务对应的诸多场景，晓多科技选择“放手”，以采购其他人的API为主了。

CTO向海向「深响」坦言：“一开始都自己做，但什么都全做的思路其实不符合晓多对于大模型ALL in One的理解。”

彼时向海注意到火山引擎在大模型上的投入很大，而且产品的成熟度和迭代速度有目共睹。晓多科技自己开发Agent产品时也受到了字节扣子（coze.cn）的一些产品思路启发。于是晓多科技开始和火山引擎团队接触并初步合作。

火山引擎团队“先做事”的风格让向海印象深刻。“让我们先用了再说、先敞开测、先把场景摆出来，”向海说：“用下来之后确实很多场景都匹配，可用性超过80%，稳定性也好。新业务测下来10次能对9.9、9.5次，符合我们的预期。”

另外，晓多科技的业务场景很多都在电商上，618、双11这样的大促节点带来的高并发问题不容忽视，火山引擎对于高并发的保障能力也是晓多科技认可的关键：“1000条并发过来，就能在几分钟、十几分钟形成一个模型的迭代，这个速度非常诱人。”

今年五月，字节跳动豆包大模型在火山引擎原动力大会上正式发布，据火山引擎总裁谭待介绍，经过一年时间的迭代和市场验证，豆包大模型正成为国内使用量最大、应用场景最丰富的大模型之一，日均处理1200亿Tokens文本，生成3000万张图片。而豆包主力模型在企业市场的定价只有0.0008元/千Tokens，这种让大模型以分计价到以厘计价的转折显然会刺激更多企业把大模型“先用起来”。

向海告诉「深响」，目前晓多科技与豆包大模型在“横”“竖”两向的诸多业务场景上都有紧密合作。

在“一横”的场景中，豆包是晓多科技的“伙伴”。比如通过调用豆包的API，用豆包模拟消费者进线，来训练客服应对各种问题。就像今年618前夕，晓多科技的一个客户招聘了三四百个客服，通过豆包的合作，在2-3天内完成了这批客服的训练和考试，大大节省了管理、考核、培训的时间精力和成本。

在“一竖”的核心场景中，豆包则扮演着“导师”的角色，生成大量训练数据，帮助晓多训练中小模型，帮晓多纠正优化小模型，让晓多能在响应时间有要求、准确率有要求、不接受幻觉的的场景上可以跑得更快。

向海为我们举了一个有趣的例子：人工客服在回答消费者问题时其实会逐渐积累负面情绪，当负面情绪不可避免地爆发时，智能系统就会做出拦截。这本来是智能客服的优势，但由于语言的艺术“博大精深”，有时就会错误地理解词语的含义而做出错误的响应动作。罗技有一款鼠标GPW，被消费者们昵称为“狗屁王”，当客服向消费者提到这块产品时，就不应该被拦截。但有时这种细分场景的小模型识别不出来，我们就需要“豆包”作为“导师”来纠偏，让我们的局部小模型自驱完成迭代，变得更好。

而字节跳动的抖音电商、抖音生活服务、巨量引擎等业务跟消费零售关系非常紧密，这也是其大模型的天然优势——在足够多的场景中进行深度的浸泡，理解毛细化的需求，为更多消费场景的企业提供全局视角才能看到的启发。

具体场景，具体解决

明确了晓多科技应用大模型的“顶层设计”，我们不妨再进一步，具体来看两个用大模型提效的实际业务场景——全渠道商品知识库和训练场。

全渠道商品知识库是客服系统非常重要的一个组成部分，从产品规格、使用说明、常见问答到退货政策、配送信息、故障排除步骤等等，好的知识库可以有效地管理和应用商品知识，提升服务体验。

但在实际的客服工作中，好的知识库实在太难得了。我们发现，大部分商家的知识库仍然是文档、Excel形式，知识库更新不及时、内容不全面、结构混乱、不易搜索、知识库系统与客服系统集成度太低、人工依赖度高等等问题层出不穷。比如客服在回答消费者问题时往往需要在多个平台和文档之间来回切换“找答案”，耗时且低效，更别说及时进行商品对比和商品推荐以及跨平台的知识分享了。

对此，晓多采取了通过后台管理界面“一键同步”功能，实现与电商平台的无缝对接，一键操作，便可轻松同步商品信息，这就解决了知识库内容及时和全面的问题。而借助晓多的智能学习引擎，这些信息被高效转化为可直接利用的丰富商品知识库，让商品管理变得便捷高效。商品知识库搭建完成后，即可一键启动，实现即时的智能应答和辅助，还可以一套知识库，在多渠道灵活分享使用。

这背后既有晓多科技对于智能客服各个环节细致入微的理解，也有大模型技术深入实际应用层面的积极进展。火山引擎行业团队与晓多科技合作采用标签化替代自然语言、设定结构化输出模板、创新实践示例、任务定制最优参数等策略，深度优化提示词，显著提升大模型输出的质量和稳定性。特别是在豆包通用模型 Doubao-pro-32k 版本中，针对超 5k 字的文本场景，有效解决了应答延迟问题。

具体而言，在客服转述用户的提问后，豆包大模型就通过分析和精准理解，将问题转化为知识库查询可用的关键字，以便能快速检索到相关内容。而基于对用户需求的理解，豆包大模型可在众多内容中将用户最为关心的部分以高亮显示，进行重点呈现，并支持多个不同产品之间的对比。通过两次“转译”让用户以口语化的自然语言提出需求，既收获对核心需求的精准回复，节约对话时间的同时，还提高了用户的满意度和下单率。

同样能带来超预期提效的还有“训练场”。

客服培训其实一直是整个行业的痛点，培训时间长、效果差、培训内容和实际情况脱节等问题直接影响着工作效率。针对这些问题，晓多训练场就通过调用大模型模拟用户进线，用实操练兵替代“只看”资料、考试、带教的新人培训方式。

晓多科技一开始使用的是传统的工程方法，容易显得不自然和机械化，用了豆包大模型后，对话更加拟人化，更符合实际情况，提高了消费者问题模拟的准确度，同时能与训练中的客服有效互动，提出的问题衍生不重复。这对于客服训练来说至关重要，消费者可不会按照“流程手册”来提问，现实中的场景一定是带有个性化需求、带有情绪的，如果训练时没有贴合实际，真到了工作中，客服恐怕就会手足无措。

据了解，在豆包大模型帮助下，晓多科技的“AI 训练场”场景获得了更高的并发保障，同时成本也优化了50倍以上，实现了效率成本双提升。目前晓多训练场可以将客服培训周期从原来的3-4个月缩短到8周左右，而AI训练的客服对比常规培训的客服，销售转化率提升了3%-5%。

训练场中还有“原版回复”功能 让新客服可以模仿再练习

感知变化，用才知道

更加值得探讨的是，大模型技术对业务层面的提效还会进一步影响到行业的商业模式和发展方向。

以智能客服这样的to B生意来说，过去的逻辑是，大家要尽量SaaS标准化，提高边际效益，从而带来更多利润空间。但实情是客户的生意五花八门，也经常提出定制的个性化需求，以至于不少人都质疑SaaS模式在中国的可行性。

而现在，大模型技术的改变为我们带来了全新的视角，它让个性化服务变得既可行又经济。

“个性的东西才是企业基业长青的秘诀。”向海告诉「深响」：“大模型让我们可以重新回归到个性化的服务上，对行业进行建模，对流程进行建模，把基座做好，支持我们在上面个性化。而更多长尾需求得到解决，个性化响应能力不断增强，也相当于让我们有了更广阔的发展空间。”

而在未来，智能客服行业将不仅仅是单纯的“客服”概念，它正逐步从成本中心转变为价值中心，成为企业直面消费者的第一现场。大模型技术的到来恰逢其时，它顺应了客服行业正在经历的深刻变革——客服的角色不再局限于传统的服务范畴，而是扩展到了咨询、销售导购等多个层面。服务场景日益丰富的客观趋势下，智能客服成为连接企业与消费者的纽带，也有了不止于“客服”的、更立体的价值。

当然，大模型技术对于智能客服行业已经产生了一些很直观的影响，比如工作流程、组织结构、关键岗位的变化等等。繁琐、重复性的脑力工作得到缓解，客服们可以承担起更多情感价值的传递。

整体看下来不难发现，“大模型”虽然是前沿科技，但在上述案例中并非以“高高在上”的姿态存在，而是深入到了业务的“细枝末节”，与人平视，追求效率务实。

晓多科技认为智能客服进化与人类形成的关系进阶路径是：“助理”（Copilot），“教练”（Coach），“同事”（Coworker）。在训练场的例子中，智能客服是Coach；在多策，智能客服是Coworker……这其实也与豆包大模型的理念不谋而合——字节跳动产品与战略副总裁朱骏曾透露其团队给豆包的三个产品设计原则，拟人化、离用户近、个性化。

豆包大模型其实包括了豆包通用模型pro、豆包通用模型lite、豆包·角色扮演模型、豆包·语音合成模型、豆包·声音复刻模型、豆包·语音识别模型、豆包·文生图模型、豆包·Function Call模型、豆包·向量化模型等9款大模型。企业可以根据自身业务场景需求，灵活选择并快速落地。而目前，豆包大模型已在金融、汽车、智能终端、电商零售、教育科研等多个行业落地。其背后的火山引擎则以一站式大模型服务平台火山方舟，让模型即服务，帮助企业在高效、安全的环境里应用各类模型。

放眼整个科技行业，我们总是试图总结一些评价大模型水平的衡量标准，比如泛化能力、精度和稳定性、训练数据量、工具链完备性、可解释性和鲁棒性等等。但谁用谁知道，抛开专业术语和科技感，解决真问题、技术真落地才是这轮大模型技术进步的中心奥义。

“并发足、稳定够、幻觉少、价格好。”向海如是说。