+关注
要咱命3000
暂无个人介绍
IP属地：浙江
28
关注
0
粉丝
0
主题
0
勋章
主贴
热门
要咱命3000
11-09
你可能不太了解，它家有自有流量；其实也不是以算法见长，而是聚合联盟对开发者公平友好（对比谷歌）
要咱命3000
2023-06-29
说说你对这篇新闻的看法...
字节的野心：做大模型时代的“军火商”
去老虎APP查看更多动态
{"i18n":{"language":"zh_CN"},"userPageInfo":{"id":"3436065511019743","uuid":"3436065511019743","gmtCreate":1476031563906,"gmtModify":1491835291287,"name":"要咱命3000","pinyin":"yzm3000yaozanming3000","introduction":"","introductionEn":"","signature":"","avatar":"https://static.laohu8.com/default-avatar.jpg","hat":null,"hatId":null,"hatName":null,"vip":1,"status":2,"fanSize":0,"headSize":28,"tweetSize":2,"questionSize":0,"limitLevel":900,"accountStatus":4,"level":{"id":1,"name":"萌萌虎","nameTw":"萌萌虎","represent":"呱呱坠地","factor":"评论帖子3次或发布1条主帖（非转发）","iconColor":"3C9E83","bgColor":"A2F1D9"},"themeCounts":0,"badgeCounts":0,"badges":[],"moderator":false,"superModerator":false,"manageSymbols":null,"badgeLevel":null,"boolIsFan":false,"boolIsHead":false,"favoriteSize":0,"symbols":null,"coverImage":null,"realNameVerified":null,"userBadges":[{"badgeId":"35ec162348d5460f88c959321e554969-2","templateUuid":"35ec162348d5460f88c959321e554969","name":"宗师交易员","description":"证券或期货账户累计交易次数达到100次","bigImgUrl":"https://static.tigerbbs.com/ad22cfbe2d05aa393b18e9226e4b0307","smallImgUrl":"https://static.tigerbbs.com/36702e6ff3ffe46acafee66cc85273ca","grayImgUrl":"https://static.tigerbbs.com/d52eb88fa385cf5abe2616ed63781765","redirectLinkEnabled":0,"redirectLink":null,"hasAllocated":1,"isWearing":0,"stamp":null,"stampPosition":0,"hasStamp":0,"allocationCount":1,"allocatedDate":"2024.03.03","exceedPercentage":"80.03%","individualDisplayEnabled":0,"backgroundColor":null,"fontColor":null,"individualDisplaySort":0,"categoryType":1100},{"badgeId":"228c86a078844d74991fff2b7ab2428d-2","templateUuid":"228c86a078844d74991fff2b7ab2428d","name":"投资总监虎","description":"证券账户累计交易金额达到30万美元","bigImgUrl":"https://static.tigerbbs.com/9d20b23f1b6335407f882bc5c2ad12c0","smallImgUrl":"https://static.tigerbbs.com/ada3b4533518ace8404a3f6dd192bd29","grayImgUrl":"https://static.tigerbbs.com/177f283ba21d1c077054dac07f88f3bd","redirectLinkEnabled":0,"redirectLink":null,"hasAllocated":1,"isWearing":0,"stamp":null,"stampPosition":0,"hasStamp":0,"allocationCount":1,"allocatedDate":"2023.07.14","exceedPercentage":"80.46%","individualDisplayEnabled":0,"backgroundColor":null,"fontColor":null,"individualDisplaySort":0,"categoryType":1101},{"badgeId":"e50ce593bb40487ebfb542ca54f6a561-4","templateUuid":"e50ce593bb40487ebfb542ca54f6a561","name":"明星虎友","description":"加入老虎社区2000天","bigImgUrl":"https://static.tigerbbs.com/dddf24b906c7011de2617d4fb3f76987","smallImgUrl":"https://static.tigerbbs.com/53d58ad32c97254c6f74db8b97e6ec49","grayImgUrl":"https://static.tigerbbs.com/6304700d92ad91c7a33e2e92ec32ecc1","redirectLinkEnabled":0,"redirectLink":null,"hasAllocated":1,"isWearing":0,"stamp":null,"stampPosition":0,"hasStamp":0,"allocationCount":1,"allocatedDate":"2022.04.02","exceedPercentage":null,"individualDisplayEnabled":0,"backgroundColor":null,"fontColor":null,"individualDisplaySort":0,"categoryType":1001},{"badgeId":"976c19eed35f4cd78f17501c2e99ef37-1","templateUuid":"976c19eed35f4cd78f17501c2e99ef37","name":"博闻投资者","description":"累计交易超过10只正股","bigImgUrl":"https://static.tigerbbs.com/e74cc24115c4fbae6154ec1b1041bf47","smallImgUrl":"https://static.tigerbbs.com/d48265cbfd97c57f9048db29f22227b0","grayImgUrl":"https://static.tigerbbs.com/76c6d6898b073c77e1c537ebe9ac1c57","redirectLinkEnabled":0,"redirectLink":null,"hasAllocated":1,"isWearing":0,"stamp":null,"stampPosition":0,"hasStamp":0,"allocationCount":1,"allocatedDate":"2021.12.21","exceedPercentage":null,"individualDisplayEnabled":0,"backgroundColor":null,"fontColor":null,"individualDisplaySort":0,"categoryType":1102},{"badgeId":"518b5610c3e8410da5cfad115e4b0f5a-1","templateUuid":"518b5610c3e8410da5cfad115e4b0f5a","name":"实盘交易者","description":"完成一笔实盘交易","bigImgUrl":"https://static.tigerbbs.com/2e08a1cc2087a1de93402c2c290fa65b","smallImgUrl":"https://static.tigerbbs.com/4504a6397ce1137932d56e5f4ce27166","grayImgUrl":"https://static.tigerbbs.com/4b22c79415b4cd6e3d8ebc4a0fa32604","redirectLinkEnabled":0,"redirectLink":null,"hasAllocated":1,"isWearing":0,"stamp":null,"stampPosition":0,"hasStamp":0,"allocationCount":1,"allocatedDate":"2021.12.21","exceedPercentage":null,"individualDisplayEnabled":0,"backgroundColor":null,"fontColor":null,"individualDisplaySort":0,"categoryType":1100}],"userBadgeCount":5,"currentWearingBadge":null,"individualDisplayBadges":null,"crmLevel":5,"crmLevelSwitch":0,"location":"浙江","starInvestorFollowerNum":0,"starInvestorFlag":false,"starInvestorOrderShareNum":0,"subscribeStarInvestorNum":3,"ror":null,"winRationPercentage":null,"showRor":false,"investmentPhilosophy":null,"starInvestorSubscribeFlag":false},"baikeInfo":{},"tab":"post","tweets":[{"id":368931871318032,"gmtCreate":1731108974463,"gmtModify":1731116342334,"author":{"id":"3436065511019743","authorId":"3436065511019743","name":"要咱命3000","avatar":"https://static.laohu8.com/default-avatar.jpg","crmLevel":5,"crmLevelSwitch":0,"followedFlag":false,"idStr":"3436065511019743","authorIdStr":"3436065511019743"},"themes":[],"htmlText":"你可能不太了解，它家有自有流量；其实也不是以算法见长，而是聚合联盟对开发者公平友好（对比谷歌）","listText":"你可能不太了解，它家有自有流量；其实也不是以算法见长，而是聚合联盟对开发者公平友好（对比谷歌）","text":"你可能不太了解，它家有自有流量；其实也不是以算法见长，而是聚合联盟对开发者公平友好（对比谷歌）","images":[],"top":1,"highlighted":1,"essential":1,"paper":1,"likeSize":1,"commentSize":0,"repostSize":0,"link":"https://laohu8.com/post/368931871318032","isVote":1,"tweetType":1,"viewCount":198,"authorTweetTopStatus":1,"verified":2,"comments":[],"imageCount":0,"langContent":"CN","totalScore":0},{"id":192376234615056,"gmtCreate":1687998649872,"gmtModify":1688002483181,"author":{"id":"3436065511019743","authorId":"3436065511019743","name":"要咱命3000","avatar":"https://static.laohu8.com/default-avatar.jpg","crmLevel":5,"crmLevelSwitch":0,"followedFlag":false,"idStr":"3436065511019743","authorIdStr":"3436065511019743"},"themes":[],"htmlText":"说说你对这篇新闻的看法...","listText":"说说你对这篇新闻的看法...","text":"说说你对这篇新闻的看法...","images":[],"top":1,"highlighted":1,"essential":1,"paper":1,"likeSize":0,"commentSize":0,"repostSize":0,"link":"https://laohu8.com/post/192376234615056","repostId":"2346784046","repostType":2,"repost":{"id":"2346784046","kind":"highlight","pubTimestamp":1687995526,"share":"https://www.laohu8.com/m/news/2346784046?lang=&edition=full","pubTime":"2023-06-29 07:38","market":"us","language":"zh","title":"字节的野心：做大模型时代的“军火商”","url":"https://stock-news.laohu8.com/highlight/detail?id=2346784046","media":"华尔街见闻","summary":"字节旗下的火山引擎没有发布自己的大模型，而是向大模型生产商提供构建、训练大模型基座所必须的算力和工具体系，并将这些生产商的大模型聚集到自己的MaaS平台，供应给企业使用。","content":"<html><head></head><body><blockquote>摘要：字节旗下的火山引擎没有发布自己的大模型，而是向大模型生产商提供构建、训练大模型基座所必须的算力和工具体系，并将这些生产商的大模型聚集到自己的MaaS平台，供应给企业使用。</blockquote><p>字节跳动谨慎迈出了跨入大模型赛道的第一步。</p><p>6 月 28 日下午，字节旗下的火山引擎召开发布会，首次正式公布在大模型领域的研发布局和合作进展，并发布大模型服务平台火山方舟，提供模型训练、推理、评测、精调等全方位功能与服务。</p><p>此前，<a href=\"https://laohu8.com/S/BIDU\">百度</a>、阿里、<a href=\"https://laohu8.com/S/00700\">腾讯</a>、商汤、360 等国内大厂已经相继宣布入局，大部分的做法都是发布一个通用大模型或者数个行业大模型底座，行业客户可以基于这些基础模型和自身拥有的行业数据精调，打造一个服务自身业务的 AI 应用。</p><p><strong>但字节的切入方式与其他大厂有明显的不同。</strong>火山没有发布自己的通用大模型或者行业大模型，火山方舟聚合了一批第三方生产商开发的大模型底座。</p><p>火山引擎向大模型生产商提供构建、训练大模型基座所必须的算力和工具体系，并将这些生产商的大模型聚集到自己的 MaaS 平台，供应给企业使用。这与<a href=\"https://laohu8.com/S/MSFT\">微软</a>投资算力供给 OpenAI，并基于后者开发的 GPT 模型向企业提供 Azure AI 云服务，有相似之处。</p><p><strong>因此，火山引擎介绍的合作案例也与其他大厂有所差异。</strong>这场发布会上登台的合作伙伴，包括<a href=\"https://laohu8.com/S/NVDA\">英伟达</a>这样的上游显卡供应商，以及智谱 AI、百川<a href=\"https://laohu8.com/S/5RE.SI\">智能</a>、IDEA 等当下国内第一梯队的大模型开发商。而其他大厂的发布会，介绍的往往主要是金融、文旅、企服等各行各业的合作伙伴。</p><p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/ca58bc54e5e8fc878df0f5741ab6278f\" tg-width=\"968\" tg-height=\"591\"/></p><p>火山引擎总裁 谭待</p><p>截至今年 5 月，国内已公开披露的大模型数量达到 79 个。按照火山引擎总裁谭待的说法，未来大模型市场一定不会是一家或者几个寡头垄断，而是一个百花齐放的多模型市场，会有少数几个超级大模型，多个通用大模型，和更多行业/垂直大模型。</p><p>企业使用大模型，未来也会呈现“1+N”的模式，除了通过自研或深度合作，形成 1 个主力模型；由于成本和场景复杂多元等原因，在这个主力模型之外，还会有 N 个模型同时应用。</p><p>大模型开启了新一轮行业变革，在这个淘金时代，OpenAI、<a href=\"https://laohu8.com/S/GOOG\">谷歌</a>、MiniMax、百川智能等大模型生产商是时代浪尖的淘金者。而火山引擎要做的，就是要在大模型时代“卖铲子”。</p><h2>01 火山引擎大模型 服务平台——火山方舟</h2><p>会上，火山引擎发布了自己的 MaaS 平台——火山方舟。</p><p>火山引擎总裁谭待在会后接受媒体采访时强调：火山方舟最终服务的是模型的应用方；火山引擎是跟大模型的生产方合作，一部分被精选的大模型厂商在火山方舟上部署，然后对外提供服务。</p><p><strong>想让企业用户和大模型生产商加入到火山方舟的生态体系，首先要解决的是数据安全的问题。</strong></p><p>火山引擎总裁谭待认为，企业使用大模型，最担心的是数据泄露；如果将大模型私有化部署，企业将承担更高的成本，模型生产方也会担心知识资产安全。“火山方舟”的首要任务，就是做好大模型使用者、提供者和云平台可以互相信任的安全保障。</p><p>据火山引擎智能算法负责人吴迪介绍，“火山方舟”已上线了基于安全沙箱的大模型安全互信计算方案，利用计算隔离、存储隔离、网络隔离、流量审计等方式，实现了模型的机密性、完整性和可用性保证，适用于对训练和推理延时要求较低的客户。</p><p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/ca3f149840130f50a50211a727db0834\" tg-width=\"1024\" tg-height=\"579\"/></p><p>安全沙箱示意图</p><p>此外，“火山方舟”还在探索基于 NVIDIA 新一代硬件支持的可信计算环境、基于联邦学习的数据资产分离等多种方式的安全互信计算方案，更全面地满足大模型在不同业务场景的数据安全要求。</p><p><strong>第二，想要让企业可以更高效地打造 AI 大模型应用。</strong>一方面要降低企业用户使用大模型打造应用的门槛，另一方面也要降低用户使用大模型服务的成本。</p><p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/cbbdbfaabb539cae34e9503cd58b0e43\" tg-width=\"1024\" tg-height=\"585\"/></p><p>上文提到，火山引擎认为未来企业使用大模型会呈现“1+N”的模式，也就是 1 个自研主力模型+N 个小模型同时应用。比如一个对话式的 AI 服务产品，对话功能的基础是源自企业自研的大模型，但提供文生图、文生视频、特定语种翻译，或者回答医疗、金融等专业领域的问题时，却可以调用其他的小模型。</p><p>这样做最大的好处是降低模型的推理成本。吴迪称，训练大模型很昂贵，但是从长期来看，模型的推理开销会超过训练开销。效果和成本的矛盾永远存在，降低推理成本会是大模型应用落地的重要因素，“一个经过良好精调的中小规格模型，在特定工作上的表现可能不亚于通用的、巨大的基座模型，而推理成本可以降低到原来的十分之一。”</p><p>举例来说，微软以医学文章数据精调了生物领域的 BioGPT-Large 模型，仅有 15 亿参数，其在 PubMedQA 基准测试中的准确率却优于有着上千亿乃至数千亿参数的大型通用语言模型。</p><p>但对企业来说，“1+N”模式的一大痛点就在于开发应用的过程中，需要调用各种不同的大模型。而火山方舟提供的第一个功能就是模型广场，不仅集成了大量的第三方大模型，企业自身开发的大模型也可以通过这个平台进行管理。</p><p>吴迪介绍，企业可以用统一的工作流对接多家大模型，对于复杂需求可设置高级参数、验证集、测试集等功能，再通过自动化和人工评估直观对比模型精调效果，在不同业务场景里还可灵活切换不同的模型，实现最具性价比的模型组合。这些自定义指标和评估数据的积累，将成为企业在大模型时代宝贵的数据资产。</p><p><strong>02火山引擎的大模型“朋友圈”</strong></p><p>火山引擎畅想的前景非常理想，但要做到有一个前提，就是大大小小的大模型开发商需要聚集到火山引擎。数据安全是他们愿意接入火山引擎的必要条件，但显然不会是充分条件。<strong>火山引擎吸引大模型开发商合作的基础，在于其掌握的算力资源，也就是过去囤积的大量 GPU。</strong></p><p>去年 ChatGPT 发布后，国内 AI 算力紧张已经算是行业半公开的秘密，而字节跳动拥有国内最丰富的算力资源。</p><p>据《晚点 LatePost》报道，字节今年向英伟达订购了超过 10 亿美元的 GPU（约合 70 亿元人民币），到货和没到货的 A100 与 H800 总计有 10 万块。而 2022 年全年，英伟达数据中心 GPU 在中国的销售总额大约为 100 亿元，也就是说，仅字节一家公司今年的订单可能已接近英伟达去年在中国销售的商用 GPU 总和。</p><p>大部分团队没有条件购买大量 GPU 训练大模型，从火山引擎采购算力也就不足为奇。而对火山引擎来说，大模型生产商发展越好，业务量越大，反过来就需要购买更多的算力。所以在这方面，大模型生产商和火山引擎有着相同的诉求。</p><p>今年 4 月，火山引擎宣布与国内 70% 的大模型生产商达成合作，原因也在于此。</p><p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/b5182de98f0658839c903a2d2fc0af7c\" tg-width=\"828\" tg-height=\"552\"/></p><p>“火山方舟”首批大模型合作伙伴</p><p>会上，火山引擎重点介绍了第一批加入火山方舟的大模型，包括百川智能、出门问问、复旦大学 MOSS、IDEA 研究院、澜舟科技、MiniMax、智谱等多家 AI 科技公司及科研院所的大模型，并已启动邀测。</p><p>而首批邀测的企业，则包括金融、汽车、消费等众多行业的客户。<a href=\"https://laohu8.com/S/601169\">北京银行</a> CIO 龚伟华表示，大模型与客户营销、办公协同、数据智能的结合，在金融应用场景有巨大潜力。北京银行将与“火山方舟”合作，在算力优化、模型精调等方面展开研究，共同推动金融风控、营销等模型应用落地。</p><p>除了第三方的客户，吴迪介绍，在火山方舟平台推向市场之前，已经利用众多的内部产品打磨和改进平台。<strong>字节跳动有 10 余个业务线正在探索接入和试用，在代码纠错等研发提效场景，文本分类、总结摘要等知识管理场景，以及数据标注、归因分析等方面探索，利用大模型能力促进降本增效。</strong></p><p>但是，对于这些内部尝试何时面向用户，吴迪向极客公园表示：还需要一些时间，把大模型应用好是一个需要长周期打磨的事。</p><p>火山引擎总裁谭待进一步补充：有一些应用对用户是无感知的，因为它是在已有的环境中去提升效率，而不是像 ChatGPT 这种大模型原生应用，用户能明显感知到是一个大模型来做这个事情。比如客服这个场景，回答时需要检索知识库，但现在通过大模型去给它一些提示，但跟你对话的还是那个对应的客服，只是它的效率高了。</p><h2>03 字节跳动的下一步</h2><p>目前来看，字节/火山布局大模型第一阶段的思路已经非常清晰。</p><p>从商业上看，火山引擎就是卖水卖铲子的思路。凭借火山引擎的技术体系，加上此前算力资源的积累，做管道和前期的底层服务应该是没有任何问题，所以在这个阶段把基础工具开放出来，帮助大家做好大模型，或者更直接说，从收益上的考量，这个阶段发布技术体系工具比发布大模型的收益值更高。</p><p>但有一个很重要的问题是：<strong>今天卖铲子的字节，未来会不会下场淘金？</strong></p><p><strong>答案是肯定的。</strong>谭待告诉极客公园，其内部也有团队在研发大模型。如果做好了，也会上到方舟平台对外提供。此前字节副总裁杨震原也曾向财新回应：字节跳动对大模型也在做一些学习和研究，现在还没有什么结果，也没有大模型产品落地时间表。</p><p>但这存在一个问题，就是如何平衡自家大模型和其他第三方的关系。对此，谭待表示，自家的模型只会是众多模型中的一个，其余的是客户自己的选择，不需要火山来平衡，一个企业未来一定会在多个场景用多个模型，因为每个模型在不同场景的性价比是不一样的，这会是一个开放的市场。</p><p>正式入局后，不少行业人士看好火山引擎在大模型领域的市场份额会在接下来一段时间快速飙升，原因主要有三个：</p><ol><li><p><strong>第一是因为基础需求。</strong>字节本身在云服务这个层面是国内用量排在前三的公司，就算火山引擎，最终只是为了服务字节这一个生意而建，它的收益和投入产出比都是相当可观的。</p></li><li><p><strong>第二是产品能力。</strong>字节这套体系迭代出来的产品工具向外传递，在云服务里的积累和产品化的能力会非常的强，从这个维度来说，对于很多中小开发者，甚至有体系的开发者是很有吸引力的。</p></li><li><p><strong>第三是因为生态系统成熟。</strong>字节本身在云服务这套体系并不是只做了火山引擎，字节在上下游的广告分发、基础设施建设，开发工具等维度都有完善和成熟的生态链，甚至早几年还收购了开发者社区。有着可靠的基础体系，完整的工作链条和生态社区。</p></li></ol><p>过去字节布局国内云服务市场的痛点，在于起步较晚，飞书要挑战已经成熟的钉钉、企业微信，而云服务的特点就是前期获客难，但获客后由于用户迁移成本太高，所以轻易不会更换。</p><p>今天的大模型是一条全新的赛道，所有云服务厂商又回到了同一起跑线，对于想要打开云服务市场的字节和火山而言，这也是十年难得一遇的机遇。</p></body></html>","source":"wallstreetcn_api","collect":0,"html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>字节的野心：做大模型时代的“军火商”</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\n字节的野心：做大模型时代的“军火商”\n</h2>\n\n<h4 class=\"meta\">\n\n\n2023-06-29 07:38 北京时间 <a href=https://wallstreetcn.com/articles/3692051><strong>华尔街见闻</strong></a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\n<p>摘要：字节旗下的火山引擎没有发布自己的大模型，而是向大模型生产商提供构建、训练大模型基座所必须的算力和工具体系，并将这些生产商的大模型聚集到自己的MaaS平台，供应给企业使用。字节跳动谨慎迈出了跨入大模型赛道的第一步。6 月 28 日下午，字节旗下的火山引擎召开发布会，首次正式公布在大模型领域的研发布局和合作进展，并发布大模型服务平台火山方舟，提供模型训练、推理、评测、精调等全方位功能与服务。此前...</p>\n\n<a href=\"https://wallstreetcn.com/articles/3692051\">Web Link</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","type":0,"thumbnail":"https://static.tigerbbs.com/884e327379e9dd1ba8d0bc8b7df80506","relate_stocks":{"LU0642271901.SGD":"Janus Henderson Horizon Global Technology Leaders A2 SGD-H","LU1435385759.SGD":"Natixis Loomis Sayles US Growth Equity RA SGD-H","BK4532":"文艺复兴科技持仓","BK4554":"元宇宙及AR概念","LU0079474960.USD":"联博美国增长基金A","GB00BDT5M118.USD":"天利环球扩展Alpha基金A Acc","LU1551013342.USD":"Allianz Income and Growth Cl AMg2 DIS USD","LU0719512351.SGD":"JPMorgan Funds - US Technology A (acc) SGD","LU1623119135.USD":"Natixis Mirova Global Sustainable Equity R-NPF/A USD","LU0056508442.USD":"贝莱德世界科技基金A2","LU0640476718.USD":"THREADNEEDLE (LUX) US CONTRARIAN CORE EQ \"AU\" (USD) ACC","BK4567":"ESG概念","LU1242518857.USD":"FULLERTON LUX FUNDS - ASIA ABSOLUTE ALPHA \"I\" (USD) ACC","BK4534":"瑞士信贷持仓","LU0353189680.USD":"富国美国全盘成长基金Cl A Acc","IE00BJJMRY28.SGD":"Janus Henderson Balanced A Inc SGD","BK4533":"AQR资本管理(全球第二大对冲基金)","LU1280957306.USD":"THREADNEEDLE (LUX) US CONTRARIAN CORE EQUITIES \"AUP\" (USD) INC","IE0004445239.USD":"JANUS HENDERSON US FORTY \"A2\" (USD) ACC","LU0820561909.HKD":"ALLIANZ INCOME AND GROWTH \"AM\" (HKD) INC","LU0109392836.USD":"富兰克林科技股A","LU1267930730.SGD":"富兰克林美国机遇基金AS Acc SGD (CPF)","IE0004445015.USD":"JANUS HENDERSON BALANCED \"A2\" (USD) ACC","NVDA":"英伟达","BK4543":"AI","LU1242518931.SGD":"Fullerton Lux Funds - Asia Absolute Alpha A Acc SGD","BK4527":"明星科技股","LU1429558221.USD":"Natixis Loomis Sayles US Growth Equity RA USD","BK4550":"红杉资本持仓","LU0097036916.USD":"贝莱德美国增长A2 USD","LU0689472784.USD":"安联收益及增长基金Cl AM AT Acc","LU0320765059.SGD":"FTIF - Franklin US Opportunities A Acc SGD","BK4551":"寇图资本持仓","IE00BD6J9T35.USD":"NEUBERGER BERMAN NEXT GENERATION MOBILITY \"A\" (USD) ACC","LU1548497426.USD":"安联环球人工智能AT Acc","LU0786609619.USD":"高盛全球千禧一代股票组合Acc","LU1064131342.USD":"Fullerton Lux Funds - Global Absolute Alpha A Acc USD","IE0034235188.USD":"PINEBRIDGE GLOBAL FOCUS EQUITY \"A\" (USD) ACC","LU0820561818.USD":"安联收益及增长平衡基金Cl AM DIS","BK4581":"高盛持仓","LU0127658192.USD":"EASTSPRING INVESTMENTS GLOBAL TECHNOLOGY \"A\" (USD) ACC","LU1551013425.SGD":"Allianz Income and Growth Cl AMg2 DIS H2-SGD","BK4549":"软银资本持仓","IE0009356076.USD":"JANUS HENDERSON GLOBAL TECHNOLOGY AND INNOVATION \"A2\" (USD) ACC","LU0256863811.USD":"ALLIANZ US EQUITY \"A\" INC","BK4548":"巴美列捷福持仓","LU1316542783.SGD":"Janus Henderson Horizon Global Technology Leaders A2 SGD","LU0943347566.SGD":"安联收益及增长平衡基金AM H2-SGD","LU0234570918.USD":"高盛全球核心股票组合Acc Close","IE00BJJMRX11.SGD":"Janus Henderson Balanced A Acc SGD"},"source_url":"https://wallstreetcn.com/articles/3692051","is_english":false,"share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","article_id":"2346784046","content_text":"摘要：字节旗下的火山引擎没有发布自己的大模型，而是向大模型生产商提供构建、训练大模型基座所必须的算力和工具体系，并将这些生产商的大模型聚集到自己的MaaS平台，供应给企业使用。字节跳动谨慎迈出了跨入大模型赛道的第一步。6 月 28 日下午，字节旗下的火山引擎召开发布会，首次正式公布在大模型领域的研发布局和合作进展，并发布大模型服务平台火山方舟，提供模型训练、推理、评测、精调等全方位功能与服务。此前，百度、阿里、腾讯、商汤、360 等国内大厂已经相继宣布入局，大部分的做法都是发布一个通用大模型或者数个行业大模型底座，行业客户可以基于这些基础模型和自身拥有的行业数据精调，打造一个服务自身业务的 AI 应用。但字节的切入方式与其他大厂有明显的不同。火山没有发布自己的通用大模型或者行业大模型，火山方舟聚合了一批第三方生产商开发的大模型底座。火山引擎向大模型生产商提供构建、训练大模型基座所必须的算力和工具体系，并将这些生产商的大模型聚集到自己的 MaaS 平台，供应给企业使用。这与微软投资算力供给 OpenAI，并基于后者开发的 GPT 模型向企业提供 Azure AI 云服务，有相似之处。因此，火山引擎介绍的合作案例也与其他大厂有所差异。这场发布会上登台的合作伙伴，包括英伟达这样的上游显卡供应商，以及智谱 AI、百川智能、IDEA 等当下国内第一梯队的大模型开发商。而其他大厂的发布会，介绍的往往主要是金融、文旅、企服等各行各业的合作伙伴。火山引擎总裁 谭待截至今年 5 月，国内已公开披露的大模型数量达到 79 个。按照火山引擎总裁谭待的说法，未来大模型市场一定不会是一家或者几个寡头垄断，而是一个百花齐放的多模型市场，会有少数几个超级大模型，多个通用大模型，和更多行业/垂直大模型。企业使用大模型，未来也会呈现“1+N”的模式，除了通过自研或深度合作，形成 1 个主力模型；由于成本和场景复杂多元等原因，在这个主力模型之外，还会有 N 个模型同时应用。大模型开启了新一轮行业变革，在这个淘金时代，OpenAI、谷歌、MiniMax、百川智能等大模型生产商是时代浪尖的淘金者。而火山引擎要做的，就是要在大模型时代“卖铲子”。01 火山引擎大模型 服务平台——火山方舟会上，火山引擎发布了自己的 MaaS 平台——火山方舟。火山引擎总裁谭待在会后接受媒体采访时强调：火山方舟最终服务的是模型的应用方；火山引擎是跟大模型的生产方合作，一部分被精选的大模型厂商在火山方舟上部署，然后对外提供服务。想让企业用户和大模型生产商加入到火山方舟的生态体系，首先要解决的是数据安全的问题。火山引擎总裁谭待认为，企业使用大模型，最担心的是数据泄露；如果将大模型私有化部署，企业将承担更高的成本，模型生产方也会担心知识资产安全。“火山方舟”的首要任务，就是做好大模型使用者、提供者和云平台可以互相信任的安全保障。据火山引擎智能算法负责人吴迪介绍，“火山方舟”已上线了基于安全沙箱的大模型安全互信计算方案，利用计算隔离、存储隔离、网络隔离、流量审计等方式，实现了模型的机密性、完整性和可用性保证，适用于对训练和推理延时要求较低的客户。安全沙箱示意图此外，“火山方舟”还在探索基于 NVIDIA 新一代硬件支持的可信计算环境、基于联邦学习的数据资产分离等多种方式的安全互信计算方案，更全面地满足大模型在不同业务场景的数据安全要求。第二，想要让企业可以更高效地打造 AI 大模型应用。一方面要降低企业用户使用大模型打造应用的门槛，另一方面也要降低用户使用大模型服务的成本。上文提到，火山引擎认为未来企业使用大模型会呈现“1+N”的模式，也就是 1 个自研主力模型+N 个小模型同时应用。比如一个对话式的 AI 服务产品，对话功能的基础是源自企业自研的大模型，但提供文生图、文生视频、特定语种翻译，或者回答医疗、金融等专业领域的问题时，却可以调用其他的小模型。这样做最大的好处是降低模型的推理成本。吴迪称，训练大模型很昂贵，但是从长期来看，模型的推理开销会超过训练开销。效果和成本的矛盾永远存在，降低推理成本会是大模型应用落地的重要因素，“一个经过良好精调的中小规格模型，在特定工作上的表现可能不亚于通用的、巨大的基座模型，而推理成本可以降低到原来的十分之一。”举例来说，微软以医学文章数据精调了生物领域的 BioGPT-Large 模型，仅有 15 亿参数，其在 PubMedQA 基准测试中的准确率却优于有着上千亿乃至数千亿参数的大型通用语言模型。但对企业来说，“1+N”模式的一大痛点就在于开发应用的过程中，需要调用各种不同的大模型。而火山方舟提供的第一个功能就是模型广场，不仅集成了大量的第三方大模型，企业自身开发的大模型也可以通过这个平台进行管理。吴迪介绍，企业可以用统一的工作流对接多家大模型，对于复杂需求可设置高级参数、验证集、测试集等功能，再通过自动化和人工评估直观对比模型精调效果，在不同业务场景里还可灵活切换不同的模型，实现最具性价比的模型组合。这些自定义指标和评估数据的积累，将成为企业在大模型时代宝贵的数据资产。02火山引擎的大模型“朋友圈”火山引擎畅想的前景非常理想，但要做到有一个前提，就是大大小小的大模型开发商需要聚集到火山引擎。数据安全是他们愿意接入火山引擎的必要条件，但显然不会是充分条件。火山引擎吸引大模型开发商合作的基础，在于其掌握的算力资源，也就是过去囤积的大量 GPU。去年 ChatGPT 发布后，国内 AI 算力紧张已经算是行业半公开的秘密，而字节跳动拥有国内最丰富的算力资源。据《晚点 LatePost》报道，字节今年向英伟达订购了超过 10 亿美元的 GPU（约合 70 亿元人民币），到货和没到货的 A100 与 H800 总计有 10 万块。而 2022 年全年，英伟达数据中心 GPU 在中国的销售总额大约为 100 亿元，也就是说，仅字节一家公司今年的订单可能已接近英伟达去年在中国销售的商用 GPU 总和。大部分团队没有条件购买大量 GPU 训练大模型，从火山引擎采购算力也就不足为奇。而对火山引擎来说，大模型生产商发展越好，业务量越大，反过来就需要购买更多的算力。所以在这方面，大模型生产商和火山引擎有着相同的诉求。今年 4 月，火山引擎宣布与国内 70% 的大模型生产商达成合作，原因也在于此。“火山方舟”首批大模型合作伙伴会上，火山引擎重点介绍了第一批加入火山方舟的大模型，包括百川智能、出门问问、复旦大学 MOSS、IDEA 研究院、澜舟科技、MiniMax、智谱等多家 AI 科技公司及科研院所的大模型，并已启动邀测。而首批邀测的企业，则包括金融、汽车、消费等众多行业的客户。北京银行 CIO 龚伟华表示，大模型与客户营销、办公协同、数据智能的结合，在金融应用场景有巨大潜力。北京银行将与“火山方舟”合作，在算力优化、模型精调等方面展开研究，共同推动金融风控、营销等模型应用落地。除了第三方的客户，吴迪介绍，在火山方舟平台推向市场之前，已经利用众多的内部产品打磨和改进平台。字节跳动有 10 余个业务线正在探索接入和试用，在代码纠错等研发提效场景，文本分类、总结摘要等知识管理场景，以及数据标注、归因分析等方面探索，利用大模型能力促进降本增效。但是，对于这些内部尝试何时面向用户，吴迪向极客公园表示：还需要一些时间，把大模型应用好是一个需要长周期打磨的事。火山引擎总裁谭待进一步补充：有一些应用对用户是无感知的，因为它是在已有的环境中去提升效率，而不是像 ChatGPT 这种大模型原生应用，用户能明显感知到是一个大模型来做这个事情。比如客服这个场景，回答时需要检索知识库，但现在通过大模型去给它一些提示，但跟你对话的还是那个对应的客服，只是它的效率高了。03 字节跳动的下一步目前来看，字节/火山布局大模型第一阶段的思路已经非常清晰。从商业上看，火山引擎就是卖水卖铲子的思路。凭借火山引擎的技术体系，加上此前算力资源的积累，做管道和前期的底层服务应该是没有任何问题，所以在这个阶段把基础工具开放出来，帮助大家做好大模型，或者更直接说，从收益上的考量，这个阶段发布技术体系工具比发布大模型的收益值更高。但有一个很重要的问题是：今天卖铲子的字节，未来会不会下场淘金？答案是肯定的。谭待告诉极客公园，其内部也有团队在研发大模型。如果做好了，也会上到方舟平台对外提供。此前字节副总裁杨震原也曾向财新回应：字节跳动对大模型也在做一些学习和研究，现在还没有什么结果，也没有大模型产品落地时间表。但这存在一个问题，就是如何平衡自家大模型和其他第三方的关系。对此，谭待表示，自家的模型只会是众多模型中的一个，其余的是客户自己的选择，不需要火山来平衡，一个企业未来一定会在多个场景用多个模型，因为每个模型在不同场景的性价比是不一样的，这会是一个开放的市场。正式入局后，不少行业人士看好火山引擎在大模型领域的市场份额会在接下来一段时间快速飙升，原因主要有三个：第一是因为基础需求。字节本身在云服务这个层面是国内用量排在前三的公司，就算火山引擎，最终只是为了服务字节这一个生意而建，它的收益和投入产出比都是相当可观的。第二是产品能力。字节这套体系迭代出来的产品工具向外传递，在云服务里的积累和产品化的能力会非常的强，从这个维度来说，对于很多中小开发者，甚至有体系的开发者是很有吸引力的。第三是因为生态系统成熟。字节本身在云服务这套体系并不是只做了火山引擎，字节在上下游的广告分发、基础设施建设，开发工具等维度都有完善和成熟的生态链，甚至早几年还收购了开发者社区。有着可靠的基础体系，完整的工作链条和生态社区。过去字节布局国内云服务市场的痛点，在于起步较晚，飞书要挑战已经成熟的钉钉、企业微信，而云服务的特点就是前期获客难，但获客后由于用户迁移成本太高，所以轻易不会更换。今天的大模型是一条全新的赛道，所有云服务厂商又回到了同一起跑线，对于想要打开云服务市场的字节和火山而言，这也是十年难得一遇的机遇。","news_type":1},"isVote":1,"tweetType":1,"viewCount":579,"authorTweetTopStatus":1,"verified":2,"comments":[],"imageCount":0,"langContent":"CN","totalScore":0}],"hots":[{"id":368931871318032,"gmtCreate":1731108974463,"gmtModify":1731116342334,"author":{"id":"3436065511019743","authorId":"3436065511019743","name":"要咱命3000","avatar":"https://static.laohu8.com/default-avatar.jpg","crmLevel":5,"crmLevelSwitch":0,"followedFlag":false,"idStr":"3436065511019743","authorIdStr":"3436065511019743"},"themes":[],"htmlText":"你可能不太了解，它家有自有流量；其实也不是以算法见长，而是聚合联盟对开发者公平友好（对比谷歌）","listText":"你可能不太了解，它家有自有流量；其实也不是以算法见长，而是聚合联盟对开发者公平友好（对比谷歌）","text":"你可能不太了解，它家有自有流量；其实也不是以算法见长，而是聚合联盟对开发者公平友好（对比谷歌）","images":[],"top":1,"highlighted":1,"essential":1,"paper":1,"likeSize":1,"commentSize":0,"repostSize":0,"link":"https://laohu8.com/post/368931871318032","isVote":1,"tweetType":1,"viewCount":198,"authorTweetTopStatus":1,"verified":2,"comments":[],"imageCount":0,"langContent":"CN","totalScore":0},{"id":192376234615056,"gmtCreate":1687998649872,"gmtModify":1688002483181,"author":{"id":"3436065511019743","authorId":"3436065511019743","name":"要咱命3000","avatar":"https://static.laohu8.com/default-avatar.jpg","crmLevel":5,"crmLevelSwitch":0,"followedFlag":false,"idStr":"3436065511019743","authorIdStr":"3436065511019743"},"themes":[],"htmlText":"说说你对这篇新闻的看法...","listText":"说说你对这篇新闻的看法...","text":"说说你对这篇新闻的看法...","images":[],"top":1,"highlighted":1,"essential":1,"paper":1,"likeSize":0,"commentSize":0,"repostSize":0,"link":"https://laohu8.com/post/192376234615056","repostId":"2346784046","repostType":2,"isVote":1,"tweetType":1,"viewCount":579,"authorTweetTopStatus":1,"verified":2,"comments":[],"imageCount":0,"langContent":"CN","totalScore":0}],"lives":[]}
