11月19日,2024年世界互联网大会领先科技奖在乌镇发布,腾讯Angel机器学习平台荣获本年度领先科技奖。
据介绍,腾讯Angel机器学习平台,突破了万亿级模型分布式训练和推理以及大规模应用部署等难题,率先实现大模型技术从底层硬件到关键软件技术的自主研发,在业务场景广泛应用,显著推动实体产业和数字经济发展,提升社会效率。
世界互联网大会领先科技奖由世界互联网大会主办,旨在奖励全球年度最具领先性的互联网科技成果,倡导互联网技术国际交流合作。本年度共有20个具有国际代表性的项目获奖,涵盖类脑计算、具身智能、6G、大数据、高性能芯片、AI机器学习平台等前沿领域。
腾讯公司副总裁蒋杰现场表示,在大模型时代,模型参数超过万亿,训练数据超过十万亿,如此庞大的规模,给模型训练和推理带来巨大挑战,腾讯全链路自研的Angel机器学习平台有效应对这些挑战,实现多个方面的性能效率提升。未来,腾讯也将继续投入底层技术自主研发,并通过开源共享,推动技术创新升级,让智能技术走入千行百业。
据悉,腾讯Angel机器学习平台针对万亿规模大模型分布式训练和推理、应用部署难的挑战,在网络互联、框架效率、平台规模三方面实现了突破。
其中,在通信方面,从网卡到交换机,再到路由协议,腾讯自研的RDMA网络实现了集群高速互联,单节点带宽达到3.2T,相比于同类领先产品,性能提升30%,成本降低70%。在规模方面,实现了单任务万卡的线性扩展,GPU集群加速比从50%提升到99%。
目前,基于腾讯Angel机器学习平台,腾讯混元大模型已经构建了从0.5B到70B不同尺寸的通用模型和领域模型,涵盖了语言模型、多模态理解模型和多模态生成模型等。这些模型已被应用在超过700个腾讯业务场景,展现了其强大的应用潜力和价值。对外,Angel平台通过腾讯云输出,广泛应用在大模型、广告、推荐、社交、金融等领域,服务30万行业客户,助力实体行业进行数智化升级。
(文章来源:经济参考网)
精彩评论