2024爱分析·AI Agent厂商全景报告|爱分析报告(2)
典型客户:
飞鹤、某知名高校、某知名三甲医院、某大型航空公司
代表厂商评估:
神州问学
厂商介绍:
神州数码集团股份有限公司(简称:神州数码)在2023年推出AI原生赋能平台——神州问学,旨在为企业提供模型、算力、数据和应用的连接能力,它既是一站式企业大模型集成平台,也是企业的大模型运营平台。发展至今,神州问学已落地金融、能源、汽车、医疗、消费零售、政务等多个领域。
产品服务介绍:
神州问学是企业级一站式GenAl集成平台,致力于打通模型、数据、应用和算力四大要素,专注于企业大模型落地的全生命周期过程管理,有效应对大型应用落地中的各种挑战。
同时,神州问学提供了多云多语言支持,满足企业多样化的业务需求,帮助企业以快速且低成本的方式构建大模型应用。平台内含八款大模型应用,包括慧阅读、慧解析、慧回答、慧写作、慧绘图、慧翻译、慧朗读和慧互动,这些应用能够助力企业在不同场景下实现智能化升级和业务创新。
厂商评估:
神州问学是涵盖软件与硬件的一站式解决方案,具备算力优化、模型供应、场景增强和应用构建四大优势。神州问学通过专业的算力设计服务,有效降低企业在高端GPU资源上的支出。依托深厚的供应商关系,平台提供全面、新颖且价格优惠的大模型供应。结合企业场景增强技术,确保大模型在To B场景中的实用性和落地能力。此外,神州问学提供多样化的配置方式和丰富的应用场景模板,使企业能够快速搭建并定制化业务应用。
专注算力设计与资源管理,神州问学为企业节约算力支出。在当前高端GPU市场供应紧张、价格持续高位的背景下,企业在部署大型模型时面临着成本控制的挑战。神州问学通过专业的算力设计服务,帮助企业在保证性能的同时,实现成本效益的最大化。该团队专注于为企业提供定制化的算力解决方案,以平衡性能需求与成本支出。
神州问学所提供的算力管理功能,能够实现资源的统一管理和动态分配,这不仅提高了资源使用效率,也为企业节约了可观的算力成本。通过这种高效的资源调度,企业能够更加灵活地应对不同业务场景下的需求波动。
此外,神州问学还针对企业对算力的多样化需求,提供了灵活的部署方案。无论是公有云还是私有云部署,企业都可以根据自己的业务特点和安全要求,选择最合适的部署模式。同时,平台还提供了包括国际品牌如英伟达的算力资源,以及符合国内信创标准的算力选项,确保企业能够在全球化和本土化之间找到最佳平衡点。
依托深厚供应商关系,神州问学打造“全、新、惠”模型供应能力。凭借20余年的行业积累,神州数码已与3万余家生态伙伴建立了深厚的合作关系。这一庞大的合作伙伴网络为神州问学提供了强大的模型供应能力,具备"全、新、惠"三大特点。
首先,"全"体现在神州问学对主流供应商如阿里百炼、百度千帆、智谱、百川、OpenAI等的大模型的广泛适配。这种全面的兼容性确保企业能够快速地选择合适的大模型,满足其多样化的业务需求。
其次,"新"反映了神州问学在大模型更新迭代方面的敏捷性。面对大模型技术的快速发展,神州问学能够迅速引入并上线最新的模型,帮助企业把握技术前沿,提升竞争力。
最后,"惠"则凸显了神州问学在价格谈判方面的优势。通过与供应商的紧密合作,神州问学能够为企业争取到更优惠的价格,降低企业在大模型应用上的经济负担。
企业场景增强,神州问学让大模型在toB场景真正落地。仅依靠大模型构建应用,更适合To C场景,例如写文章、做摘要等。但是,此方式难以应用于To B场景。
神州问学通过深耕企业场景增强技术,成功实现了大模型在To B场景的落地应用。具体而言,企业场景增强相关技术包括RAG,多模态存储、向量化,上下文理解增强,多轮会话增强、推理增强、人机会话增强,多路召回等。
20+企业级应用场景模板&3种配置方式,神州问学让企业便捷搭建业务应用。神州问学在搭建业务应用方面具备四个亮点。
1) 灵活的配置方式:神州问学提供无代码、低代码、全代码三种配置方式,满足不同技术背景的企业需求。无代码和低代码配置方式通过直观的拖拽操作,使企业能够快速搭建业务应用;而全代码配置方式则赋予企业更大的自主性,支持开发更复杂的AI应用。
2) 集成的企业级能力:平台集成了ASR(自动语音识别)、TTS(文本到语音转换)、OCR(光学字符识别)等关键技术,支持二次开发和定制化开发,确保与企业现有业务系统的无缝融合。
3) 丰富的应用场景模板:神州问学预置了20多个企业级应用场景模板,覆盖法律、人力资源、营销、风险控制等领域,使企业最快在5分钟左右快速构建企业级应用。
4) 开箱即用的模型应用:神州问学提供八大模型应用,包括慧阅读、慧解析、慧回答、慧写作、慧绘图、慧翻译、慧朗读、慧互动等,实现即插即用。例如,天士力医药基于慧阅读开发了智能培训机器人,通过模拟销售情境与初级医药代表进行互动对话,实时校验并矫正销售话术,模拟医生询证产品情景,有效提升了医药代表的专业应答能力。
典型客户:
天士力医药、某国际知名食品饮料企业、某省烟草局
代表厂商评估:
拓尔思
厂商介绍:
拓尔思信息技术股份有限公司(简称“拓尔思”)成立于 1993 年,是一家专业的大数据、人工智能和数据安全产品及服务提供商。拓尔思坚持核心技术自主研发,拥有 50+专利、800+软件著作权,在搜索型数据库、自然语言处理(NLP)技术的技术创新和应用场景落地等方面保持领先地位。
产品服务介绍:
拓天链是拓尔思推出的智能体平台,它结合了知识库、工具组件以及大型语言模型的能力,旨在通过AI Agent技术,简化问答系统搭建和复杂问题处理。该平台提供低/无代码的环境,用户可以通过拖拽和配置的方式快速搭建工作流,无需深入了解底层技术细节。拓天链智能体适用于多种应用场景,如客户服务、数据分析、内容生成、知识管理和教育培训等。目前,拓天链已在金融、媒体、政务、安全等领域陆续落地。
厂商评估:
拓天链通过其用户友好的交互界面和低代码开发方式,使得AI应用的构建变得简单直观,支持多模态输入,拓宽了应用场景。它提供的丰富组件,满足了多样化的AI应用开发需求。此外,拓天链允许用户自定义工作流,有效应对复杂任务的挑战。拓尔思的生态整合,为企业提供了一个全面的端到端AI解决方案,加速了AI技术在企业中的落地。
拓天链支持可视化低代码开发,简化AI应用创新。拓天链作为一款AI Agent开发管理平台,提供了一种用户友好的交互界面,支持通过拖拽组件的方式构建工作流,实现低代码编程。这种开发方式允许用户利用prompt生成与可视化工具链编辑,快速组合复杂的工具链。该平台的设计旨在降低AI应用开发的技术门槛,使用户能够从简单的应用开发起步,逐步扩展至更为复杂的解决方案。
此外,拓天链支持多模态输入,包括文本、音频、视频、PDF、Word文档、图片以及HTTP链接等,这为用户提供了广泛的应用场景。例如,在知识产权领域,拓天链开发的AI应用能够接收图片输入,并提供侵权分析结果,这体现了其在特定业务流程中的实用性和效率。
拓天链提供丰富组件,支撑多样化AI应用开发。在AI应用开发领域,AI Agent的角色趋向于“规划者”,而非单纯的“执行者”。拓天链平台认识到这一趋势,并提供了一系列预构建组件,以支持企业在执行环节调用所需的各类工具。
这些组件包括多模态文档解析器、语音转写、OCR识别、PDF解析、Word文档解析、外部接口调用、搜索引擎集成以及向量数据库访问等。这些工具的集合旨在满足不同行业和应用场景下的开发需求,为用户提供了一个全面的工具箱,以构建和扩展AI应用。
拓天链支持用户自定义工作流,优化复杂任务处理。在AI Agent的规划与处理工作中,简单任务往往容易应对,而复杂任务则可能面临规划上的挑战。拓天链针对这一问题,提供了"用户自定义工作流"的解决方案。该平台允许用户将复杂的任务转化为一系列可控的链式指令调用,将任务分解为多个步骤,每个步骤都可以调用不同的工具或模型。这种链式调用不仅包括对大模型的调用,也包括对外部工具的集成使用。
通过这种方式,拓天链能够将外部工具的特定功能与大模型的强大能力相结合,实现更为精确和稳定的任务处理。这种灵活性和可控性,为用户提供了一种有效的方法来解决复杂问题,优化了AI应用的执行效率和准确性。
拓天链与拓尔思生态打通,提供端到端AI解决方案。拓尔思基于其大模型技术,以拓天链为核心,构建了一个全面的AI智能平台解决方案。该方案由三个关键部分组成,共同为企业落地AI Agent提供了从底层技术到应用层服务的端到端支持。
图表3:拓尔思AI智能平台整体解决方案
1) AI能力平台:作为拓天链的"大脑",AI能力平台由三个引擎组成——智语NLP引擎、拓天大模型、智眼机器视觉引擎。这些引擎为拓天链提供了强大的语言处理、数据分析和视觉识别能力。
2) AI训练平台:位于AI能力平台之下的是智拓AI训练平台,它提供数据标注和模型训练服务。该平台为拓天链的大模型和小模型提供了能力支撑,训练完成的模型可以直接发布到AI能力平台,为拓天链构建提供组件化支持。
3) AI服务平台:位于AI能力平台之上,AI服务平台依托拓尔思在语义智能、大数据、AI工程、场景算法技术和行业实践方面的深厚积累,为企业和开发者提供一站式的AI能力体系。服务以在线平台和API接口的形式对外提供,确保了服务的便捷性和可访问性。
典型客户:
南京图书馆、某综合性出版社、某银行
3.2 协同办公AI Agent
市场定义:
一种基于Agent架构的大模型应用,能理解自然语言描述的任务需求,自主完成办公环境的感知、任务的逻辑拆分、相应工具的智能选择、流程的精确执行等一系列工作,实现人与AI的深度协同,显著提升办公效率和质量。
甲方终端用户:
业务部门、职能部门、IT部门
甲方核心需求:
企业希望通过协同办公AI Agent实现低成本高效率的工作环境,解决那些影响员工日常效率的长尾场景。AI Agent旨在不增加人力成本的前提下,推动企业业绩和运营效率的增长。此外,企业期望利用AI Agent提升知识资产的利用率,培养员工的专业能力,使初级员工能够承担更复杂的任务,优化人力资源配置,实现业务流程的自动化和智能化。
协同办公AI Agent是低成本解决长尾场景的利器。在协同办公领域,企业面临着众多特定的长尾场景,这些场景虽小,却对员工的日常工作效率有着显著影响。例如,销售经理每日需将客户拜访数据汇总至团队报表,这一过程虽简单却耗时。提升此类数据汇报的效率,对员工而言意味着时间的节省和工作满意度的提升,但对企业整体而言,其直接价值并不显著,导致企业往往只分配有限的IT资源来应对。
以某大型银行为例,尽管已安排10名IT人员利用RPA技术满足了3000多个长尾办公需求,IT人力资源的紧张和工单积压的问题依旧严峻。协同办公AI Agent的出现,为这一困境带来了转机。通过为每位员工配备一个智能AI助理,员工可以自定义解决方案,快速响应个性化的长尾需求。
AI Agent的业务价值在于其能够显著提升员工的工作效率,使他们能够在不增加工作量的前提下承担更多任务。这不仅提升了员工的工作满意度,同时也使企业能够在不增加人力成本(Headcount)的情况下,实现业绩的增长和运营效率的提升。这种以技术驱动的解决方案,为现代企业在资源优化和效率提升方面开辟了新的可能性。
协同办公AI Agent让初级工变高级工。随着大型企业的持续发展,它们积累了丰富的知识资产。众多企业在咨询协同办公AI Agent时表达了一个共同的愿景:通过提高知识资产的利用率,来培养和沉淀专业能力,进而提升对特定业务的解决能力。这一愿景的核心在于利用协同办公AI Agent,将初级员工的能力提升至高级水平。
以合同审核为例,这一工作通常涉及复杂的专业知识和高风险,需要由经验丰富的专业人员来执行。企业期望通过引入协同办公AI Agent,实现合同审核流程的自动化,从而降低对员工专业技能的门槛。AI Agent能够辅助员工快速识别合同中的关键条款和潜在风险,提供标准化的审核建议,甚至在一些情况下,完全自动化地完成审核任务。
通过这种方式,初级员工可以在AI Agent的协助下,承担起以往需要高级工才能完成的任务。企业因此能够更有效地利用现有人才资源,同时降低对高级别专业人才的依赖,实现人力资源的优化配置。
厂商能力要求:
厂商需具备深入的大模型架构理解力,以精准选型并训练模型,实现成本与效果的平衡。同时,厂商应提供丰富的组件库,支持AI Agent作为规划者的角色,高效响应企业长尾需求。此外,厂商还需掌握构建知识管理系统的技术,以提升企业知识利用效率,增强业务处理能力。
厂商需深刻理解大模型架构,实现协同办公AI Agent的成本效益平衡。大模型作为协同办公AI Agent的核心支撑,要求厂商不仅关注AI Agent本身,更需深入理解大模型的底层架构设计。这种深刻理解对于大模型的选型至关重要,同时也为在特定垂直场景中对大模型进行有效的训练和微调提供了基础。在当前企业普遍寻求成本降低的背景下,厂商的任务是为企业找到性能与成本之间的最优平衡点。
进一步而言,厂商应组建专业的大模型算法团队,这不仅是对大模型架构理解的体现,也是深化模型应用的关键。缺乏这样的团队,厂商可能只能停留在提示词工程层面,无法深入到模型层,从而无法充分利用大模型的潜力,满足企业对协同办公AI Agent的深层次需求。
厂商需提供多功能组件库,以满足企业多样化长尾场景需求。当前,AI Agent更适合做一名“规划者”,而不是担任“执行者”的角色。执行环节需要调动各类工具,来满足企业的长尾需求。协同办公AI Agent在接收到用户需求后,并非直接执行任务,而是进行细致的规划,并调动一系列工具和组件来实现需求满足。为了适应企业的长尾需求,厂商必须拥有一个包含RPA、BI、IDP等在内的丰富组件库。这些工具和组件是AI Agent能力的延伸,能够确保在执行阶段能够精准、高效地满足用户需求。
厂商需掌握知识管理系统构建技术,增强企业知识应用效率。企业期望通过协同办公AI Agent显著提高知识资产的利用率,并在此过程中积累和沉淀专业能力,以强化对关键业务问题的处理能力。为实现这一目标,厂商必须掌握构建高效知识管理系统的核心技术,这包括但不限于引擎优化、向量化处理、文档智能切分、知识图谱构建以及自然语言处理等技术。除了拥有这些技术能力,厂商还需要具备将技术成功落地的经验,确保这些技术能够与AI Agent无缝集成,形成协同效应。
入选标准:
1. 符合协同办公AI Agent市场分析的厂商能力要求;
2. 近一年厂商在该市场至少服务1家企业。
代表厂商评估:
实在智能
厂商介绍:
实在智能是一家专注自研AGI大模型和超自动化技术(RPA/IPA/AI Agent等)的人工智能科技公司,拥有近百项发明专利和数百项软件著作权,在北京、上海、广州、深圳、成都、南京、济南及日本东京等地设有分支机构,服务团队覆盖全国。实在智能深耕央国企、金融、制造、运营商、电商、烟草、能源、交通等领域,已服务2500+家大中型客户。
产品服务介绍:
实在智能自研垂直大模型TARS(塔斯),在流程自动化垂直场景大模型、文档处理垂直场景大模型、数据处理垂直场景大模型和财经(证券)行业大模型四大专业领域完成了垂直训练,主打效果可用、成本可控、定制化训练、私有化部署等特色。
实在智能基于TARS大模型,已构建三款AI Agent。①Chat-RPA:具备数字员工发现、构建、应用、管理等能力,支持用户以对话方式实现桌面操作。②Chat-IDP:具备文档智能抽取、审核、比较模型训练等能力,支持用户以对话方式实现文档处理。③Chat-BI:具备数据采集、存储、管理、应用等能力,支持用户与对话方式实现数据分析。
图表4:大模型及AI Agent产品矩阵
厂商评估:
实在智能在技术、工具、方案和方法论等方面,具有深厚沉淀。在技术方面,30多位大模型算法工程师构筑实在智能的“技术底气”。在工具方面,实在智能通过AI Agent调动各类自研工具来满足企业长尾需求。在方案方面,实在智能帮助企业建立流程知识库,助其算力、人力双节约。在方法论方面,实在智能打造立项与交付方法论,为企业提供“避坑指南”。
30多位大模型算法工程师,构筑实在智能的“技术底气”。大模型是AI Agent的基石,厂商不应只着眼于AI Agent,而需要对大模型等底层架构设计有充分理解。通过大模型定制化训练,为企业找到效果和成本的最佳平衡点。这对厂商技术实力而言是一项重大挑战。实在智能拥有一支由30多位专业算法工程师组成的团队,在大模型的定制化训练和AI工程化方面具备充足的底气。
调动各类自研工具,实在智能AI Agent满足企业长尾需求。当前,AI Agent更适合做一名“规划者”,而不是担任“执行者”的角色。执行环节需要调动各类工具,来满足企业的长尾需求。实在智能经历多年发展,在RPA、IDP(智能文档审阅)等方面自研大量成熟工具和组件,可供AI Agent调用。
RPA:实在智能以RPA起家,积累了大量组件,涵盖流程控制、基础命令、桌面软件、网页/浏览器、键盘鼠标等多种类别,并支持企业用户自定义编排复杂任务。实在RPA具备零代码开发更易用、融合AI能力更智能、全面适配信创更安全的优势,在产品更新迭代的过程中,实现了从“1.0拖拉拽”的专家模式,进化到"2.0点选用”的低门槛模式,再到目前结合了大模型所呈现的“3.0所说即所得”的零门槛模式,真正实现了人人可用。
IDP:实在智能通过OCR文字识别、文档处理、文件转换、数据采集和NLP语言处理,实现对各类文档、表单、卡证等文件进行理解和信息提取、内容比对和审核,可广泛应用于合同审核、报销单据审核、凭证与影像附件稽核等文字密集型业务场景。
Agent:实在Agent是实在智能全行业首发的可“一句话生成数字员工”的 AI Agent智能体产品,既是个人用户的AI助理,也是政企员工的办公助手,不仅可调用RPA、IDP等工具,还可调用常见软件。实在智能通过大量项目积累,已将旗下智能产品与1000+常见软件打通,包括IM、office等办公软件,电商、旅游购票等公共平台,财务、销售等业务软件,可以快速调动它们。
企业大脑:实在智能基于语言大模型、Agent智能体技术和RAG增强检索生成,打造数字员工的生产、管理应用和监控的一站式运营平台——企业大脑。通过利用大模型、RAG以及Agent的能力,实现对话式的流程执行、知识问答、数据分析以及内容生成任务,提升企业知识应用效率,基于知识库的智能问答和基于对话的流程自动执行是企业大脑的典型场景。
建立流程知识库,实在智能助力企业算力、人力双节约。大企业员工众多,存在需求相同的情况。如果用户与AI Agent交互生成的复杂流程可以沉淀到流程知识库中,那么后续用户可以进行复用。不仅可以节约算力,还可以加快人与AI Agent的交互效率,进而节约人力。流程知识库的实现路径是RAG(检索增强生成)方案,该方案对厂商而言将带来一系列技术挑战,包括搜索引擎、文档切分、向量化、知识图谱等。实在智能创始人为阿里资深算法专家,十余年数智领域深耕经验。同时,实在智能拥有大量NLP(自然语言处理)工程师,占比超过工程师总数的三分之二,足以克服RAG实现之路上的各类技术挑战。
打造立项与交付方法论,实在智能为企业提供“避坑指南”。AI Agent属于创新项目,企业CIO缺少相关经验,在项目全生命周期中将遇到诸多阻碍。实在智能在AI Agent领域已服务多家行业头部企业,包括招商银行、中国电信某子公司、上海某证券公司等,并打造出一套切实可行的理想与交付方法论,部分内容如下。
1) 不是所有企业都适合上马AI Agent项目。实在智能会根据企业过往IT系统与大数据建设情况对企业进行评估,快速判断其是否适合上马AI Agent项目。
2) 项目双方需要预留2倍的需求沟通时间。从提出需求到合作签约,常规IT项目一般需要3-6个月。根据实在智能的实际经验判断,同体量的AI Agent项目需要6-12个月的时间。如果缺乏对所需时间的充足准备,双方将难以顺利推进需求沟通工作。
3) 企业需要视自身情况改变内部沟通方式。对于重视技术创新并配备相关预算的企业,以大模型或AI Agent名义立项更容易通过立项审核。对于以解决业务问题为导向的企业,以大模型或AI Agent名义推进立项可能适得其反,因为CIO不但面临巨大的解释工作,还需迁就大模型的预算窗口期,导致立项工作受阻。
4) AI Agent在“需要人动态响应的场景”更容易落地。在这些场景,用AI Agent代替人工,不仅带来实际的业务价值,而且ROI容易衡量,容易在企业内部达成价值共识。
5) 预算管理是项目成功交付的重中之重。CIO、业务部门、企业高管普遍对于大模型和AI Agent抱有超出实际的期望,期望与现实之间的落差是阻碍项目成功的最大隐患。实在智能将通过合作经验、技术和工程化能力,进行良好的AI Agent项目预期管理,促进项目成功。
典型客户:
中国铁塔、钉钉、京东物流、菜鸟物流
免责声明:上述内容仅代表发帖人个人观点,不构成本平台的任何投资建议。