_老虎社区_美港股上老虎

KFY
03-27

Sora一旦推出，峰值算力需要75万张H100GPU

推理计算将占主导地位

Sora一旦推出，峰值算力需要75万张H100GPU

免责声明：上述内容仅代表发帖人个人观点，不构成本平台的任何投资建议。

推荐
最新

暂无评论

热议股票

关于我们·老虎社区守则·老虎社区账号管理规范·老虎社区服务协议·老虎社区隐私政策

公司名称：北京至简风宜信息技术有限公司

违法和不良信息投诉：010-5681-3562（工作时间9:30-18:30）

邮箱：service@laohu8.com

营业执照：91110105MA01A4U55R

ICP备：京ICP备18016422号

网安备：京公网安备11010502036490

关注我们

{"i18n":{"language":"zh_CN"},"data":{"magic":2,"id":288867452907648,"tweetId":"288867452907648","gmtCreate":1711548847924,"gmtModify":1711549998995,"author":{"id":3547007453313758,"idStr":"3547007453313758","authorId":3547007453313758,"authorIdStr":"3547007453313758","name":"KFY","avatar":"https://static.laohu8.com/default-avatar.jpg","vip":1,"userType":1,"introduction":"","boolIsFan":false,"boolIsHead":false,"crmLevel":1,"crmLevelSwitch":0,"individualDisplayBadges":[],"fanSize":0,"starInvestorFlag":false},"themes":[],"images":[],"coverImages":[],"html":"<html><head></head><body> </body></html>","htmlText":"<html><head></head><body> </body></html>","text":"","highlighted":1,"essential":1,"paper":1,"likeSize":0,"commentSize":0,"repostSize":0,"favoriteSize":0,"link":"https://laohu8.com/post/288867452907648","repostId":2422961069,"repostType":2,"repost":{"id":"2422961069","kind":"highlight","pubTimestamp":1711536353,"share":"https://www.laohu8.com/m/news/2422961069?lang=&edition=full","pubTime":"2024-03-27 18:45","market":"sg","language":"zh","title":"Sora一旦推出，峰值算力需要75万张H100GPU","url":"https://stock-news.laohu8.com/highlight/detail?id=2422961069","media":"未尽研究©","summary":"推理计算将占主导地位","content":"<html><body>Sora何时推出？大约在年底。它非常受欢迎，一旦投入使用，不仅会对影视行业造成冲击，而且会在视频网站、社交媒体、电商平台，以及教育等领域得到广泛应用。它的物理世界模拟器的作用，以及“世界模型”的潜力也非常巨大。问题来了，它需要多大算力？风险投资机构Factorial Funds的Matthias Plappert，最近对Sora模型进行了剖析。他们推算的主要依据，是论文Scalable Diffusion Models with Transformers 中的数据。Sora模型在一定程度上是基于论文中所提出的、基于Transformer的架构的DiT（Diffusion Transformers）。论文的第一作者William Peebles目前在OpenAI负责Sora研究团队。作者假设Sora推出后，将在Tiktok和Youtube上得到广泛的应用，推算出需要的算力相当于72万张<a href=\"https://laohu8.com/S/NVDA\">英伟达</a>H100 GPU。对比一下，目前Meta拥有的总算力，相当于65万张H100。<img src=\"https://static.tigerbbs.com/25f5f6123c9f4309be7efdd4d88bdd3a\"/>下面我们介绍下其中关于训练与推理的部分：从DiT到Sora训练计算量的外推<o:p label=\"大标题\"></o:p>关于Sora的细节信息非常少，但我们可以再次查看显然是Sora基础的DiT论文，并从中推断出相关的计算数字。最大的DiT模型DiT-XL有6.75亿个参数，总计算预算约为10^21次浮点运算。为了更容易理解这个数字，这相当于大约0.4个Nvidia H100 GPU运行一个月（或一个H100运行12天）。但是目前DiT仅对图像建模，而Sora是一个视频模型。Sora可以生成长达1分钟的视频。如果我们假设视频以24帧/秒编码，一个视频最多包含1440帧。Sora的像素到潜在映射似乎在空间和时间上都有压缩。如果我们假设与DiT论文中相同的压缩率（8倍），我们最终在潜在空间中得到180帧。因此，在直观地将DiT外推到视频时，我们得到了180倍的计算量倍增因子。我们进一步认为，Sora的参数量明显大于6.75亿个。我们估计200亿参数的模型是可行的，这使我们在计算量上比DiT再多出30倍。最后，我们认为Sora使用的训练数据集比DiT大得多。DiT在批量大小为256时经过300万步训练，即总计使用了7.68亿张图像（但要注意同一数据被重复使用了多次，因为ImageNet仅包含1400万张图像）。Sora似乎是在图像和视频的混合数据集上进行训练的，但除此之外我们几乎一无所知。因此，我们简单假设Sora的数据集中有50%是静止图像，50%是视频，并且数据集比DiT使用的大10到100倍。然而，DiT在相同的数据点上反复训练，如果有更大的数据集可用，这种做法可能是次优的。因此，我们认为4到10倍的计算量倍增因子是一个更合理的假设。将上述因素综合考虑，并分别计算额外数据集的低估计和高估计，我们得到以下计算结果:* 数据集低估计: 10^21次浮点运算 x 30 x 4 x (180/2) ≈ 1.1x10^25次浮点运算* 数据集高估计: 10^21次浮点运算 x 30 x 10 x (180/2) ≈ 2.7x10^25次浮点运算这相当于4211至10528个Nvidia H100 GPU运行1个月的计算量。推理计算与训练计算的比较<o:p label=\"大标题\"></o:p>另一个值得考虑的重要因素，是训练计算与推理计算之间的对比。训练计算量非常大，但这是一次性的成本。相比之下，推理计算量虽然小得多，但每一次生成都意味着一次推理计算。因此，推理计算量会随着用户数量的增加而扩大，并变得越来越重要，特别是当一个模型被广泛使用时。因此，观察“收支平衡点”是很有用的，即消耗在推理计算上的计算量，超过了训练期间消耗的计算量的时间点。<img src=\"https://static.tigerbbs.com/b23ed207843148adb589edc242485471\"/>(左图对比DiT的训练与推理计算，右图对比Sora的训练与推理计算。对于Sora部分，我们的数据基于上文估计，因此不是完全可靠。我们还展示了两种训练计算的估计:一种低估计(假设数据集大小的倍增因子为4倍)和一种高估计(假设为10倍)。)<o:p label=\"图片备注\"></o:p>在上述数字中，我们再次利用DiT来推算Sora。对于DiT，最大的模型（DiT-XL）每步使用524×10^9次浮点运算，DiT使用250步扩散生成单张图像，因此总计为131×10^12次浮点运算。我们可以看到，收支平衡点在生成760万张图像后达到，此后推理计算将占主导。作为参考，用户每天大约上传9500万张图像到Instagram。 对于Sora，我们将浮点运算次数外推为524×10^9次 × 30 × 180 ≈ 2.8×10^15次。如果我们仍然假设每段视频需250步扩散，那就是每段视频总计708×10^15次浮点运算。作为参考，这大约相当于每小时每个Nvidia H100生成5分钟视频。收支平衡点在生成1530万（低估计）到3810万（高估计）分钟视频后达到，之后推理计算将超过训练计算。作为参考，每天约有4300万分钟视频上传到YouTube。需要注意的是：对于推理来说，浮点运算次数并不是唯一重要的因素。内存带宽也是另一个重要因素。此外，现有研究正致力于减少所需的扩散步数，这可能导致推理计算量大幅降低，因此推理速度会更快。训练和推理阶段的浮点运算利用率也可能有所不同，在这种情况下，它们就变得很重要了。不同模型之间的推理计算量比较<o:p label=\"大标题\"></o:p>我们还观察了不同模态下不同模型的每单位输出推理计算量。这里的想法是，看看不同类型模型的推理计算量级别有多大差异，这对于规划和预测计算需求有直接影响。重要的是，我们要理解，由于不同模型工作于不同的模态，每个模型的输出单位也不尽相同：对于Sora，单个输出是一段1分钟长的视频；对于DiT，是一张512x512像素的图像；而对于Llama 2和GPT-4，我们将单个输出定义为一份长度为1000个token的文本文档。<img src=\"https://static.tigerbbs.com/51490aea83914e4a8d742e6039eabdbd\"/>(比较不同模型每单位输出的推理计算量，对于Sora是1分钟视频，对于GPT-4和LLama 2是1000个token的文本，对于DiT是单张512x512像素的图像。我们可以看到，我们对Sora推理的估计比其他模型昂贵，要高出数个数量级。)我们比较了Sora、DiT-XL、LLama 2 70B和GPT-4，并以对数刻度绘制了它们的浮点运算次数。对于Sora和DiT，我们使用上文的推理估计值。对于Llama 2和GPT-4，我们使用经验公式浮点运算次数=2×参数数量×生成的token数来估计。对于GPT-4，我们假设它是一个混合专家（MoE）模型，每个专家有220B参数，每次前向传递激活2个专家。需要注意的是，GPT-4的这些数字未得到OpenAI的确认，因此也需要谨慎对待。我们可以看到，基于扩散模型如DiT和Sora的推理算力需求要大得多：DiT-XL（6.75亿参数）的推理计算量，大约与LLama 2（700亿参数）相当。我们还可以看到，Sora的推理算力需求比GPT-4高出数个数量级。需要注意的是，上述许多数字都是估计值，并且依赖于简化的假设。例如，它们并未考虑GPU的实际浮点运算利用率、内存容量和带宽限制以及诸如推测解码等高级技术。如果类似Sora的模型占有重要市场份额时的推理计算量<o:p label=\"大标题\"></o:p>在这一部分，我们根据Sora的计算需求，推测如果AI生成视频在流行视频平台如TikTok和YouTube上占有重要市场份额，将需要多少英伟达H100 GPU来运行类似Sora的模型。<ul><li>我们假设每小时每个H100生成5分钟视频（详见上文），相当于每天每个H100生成120分钟视频。</li><li>TikTok：每天1700万分钟视频（3400万个视频x平均30秒长度），假设AI渗透率50%。</li><li>YouTube：每天4300万分钟视频，假设AI渗透率15%（主要是2分钟以下的短视频）。</li><li>AI每天总计生成视频：850万+650万=1070万分钟。</li><li>为支持TikTok和YouTube的创作者社区，需要89000张英伟达H100 GPU。</li></ul>由于以下因素，这一数字可能偏低：<ul><li>我们假设100%的浮点运算利用率，并未考虑内存和通信瓶颈。实际上50%的利用率更为现实，需要乘以2倍。</li><li>需求不会均匀分布在时间上，而是具有突发性。峰值需求尤其成问题，因为需要相应更多GPU来满足所有流量。我们认为，应考虑峰值需求再增加2倍，作为所需最大GPU数量。</li><li>创作者可能会生成多个候选视频，从中挑选最佳。我们保守地假设，平均每个上传视频要生成2个候选视频，再增加2倍。</li><li>总计在峰值时需要大约72万台英伟达H100 GPU。</li></ul>这说明了我们的观点：随着生成式AI模型变得越来越受欢迎和受到依赖，推理计算将占主导地位。对于基于扩散的模型如Sora，这种趋势会更加明显。另外需要注意，如果扩大模型规模，推理计算需求也会大幅增加。另一方面，更优化的推理技术和整个技术栈上的其他优化措施，可能会在一定程度上抵消这种影响。本文来自微信公众号：未尽研究 （ID：Weijin_Research），作者：Plappert</body></html>","source":"highlight_huxiu","collect":0,"html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>Sora一旦推出，峰值算力需要75万张H100GPU</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\nSora一旦推出，峰值算力需要75万张H100GPU\n</h2>\n\n<h4 class=\"meta\">\n\n\n2024-03-27 18:45 北京时间&nbsp;&nbsp;&nbsp;<a href=https://www.huxiu.com/article/2833943.html>未尽研究©</a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\nSora何时推出？大约在年底。它非常受欢迎，一旦投入使用，不仅会对影视行业造成冲击，而且会在视频网站、社交媒体、电商平台，以及教育等领域得到广泛应用。它的物理世界模拟器的作用，以及“世界模型”的潜力也非常巨大。问题来了，它需要多大算力？风险投资机构Factorial Funds的Matthias Plappert，最近对Sora模型进行了剖析。他们推算的主要依据，是论文Scalable ...\n\n<a href=\"https://www.huxiu.com/article/2833943.html\">Web Link</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","type":0,"thumbnail":"https://img.huxiucdn.com/article/cover/202403/27/182648041520.jpg?imageView2/1/w/720/h/405/|imageMogr2/strip/interlace/1/quality/85/format/jpg","relate_stocks":{"BK4529":"IDC概念","IE00BFSS7M15.SGD":"Janus Henderson Balanced A Acc SGD-H","LU0170899867.USD":"EASTSPRING INVESTMENTS WORLD VALUE EQUITY \"A\" (USD) ACC","LU0289739343.SGD":"SUSTAINABLE GLOBAL THEMATIC PORTFOLIO \"A\" (SGD) ACC","LU0238689110.USD":"贝莱德环球动力股票基金","LU0417517546.SGD":"Allianz US Equity Cl AT Acc SGD","BK4532":"文艺复兴科技持仓","BK4592":"伊斯兰概念","LU0072462426.USD":"贝莱德全球配置 A2","LU0056508442.USD":"贝莱德世界科技基金A2","BK4585":"ETF&股票定投概念","LU0640476718.USD":"THREADNEEDLE (LUX) US CONTRARIAN CORE EQ \"AU\" (USD) ACC","NVDA":"英伟达","IE00BJJMRY28.SGD":"Janus Henderson Balanced A Inc SGD","LU0308772762.SGD":"Blackrock Global Allocation A2 SGD-H","IE00BMPRXR70.SGD":"Neuberger Berman 5G Connectivity A Acc SGD-H","BK4587":"ChatGPT概念","IE00BMPRXN33.USD":"NEUBERGER BERMAN 5G CONNECTIVITY \"A\" (USD) ACC","LU0109392836.USD":"富兰克林科技股A","LU0353189763.USD":"ALLSPRING US ALL CAP GROWTH FUND \"I\" (USD) ACC","IE0004445015.USD":"JANUS HENDERSON BALANCED \"A2\" (USD) ACC","BK4543":"AI","BK4527":"明星科技股","BK4588":"碎股","LU0234572021.USD":"高盛美国核心股票组合Acc","BK4579":"人工智能","LU0061474705.USD":"THREADNEEDLE (LUX) GLOBAL DYNAMIC REAL RETURN \"AU\" (USD) ACC","BK4141":"半导体产品","IE00BWXC8680.SGD":"PINEBRIDGE US LARGE CAP RESEARCH ENHANCED \"A5\" (SGD) ACC","LU0511384066.AUD":"SUSTAINABLE GLOBAL THEMATIC PORTFOLIO \"A\" (AUDHDG) ACC","BK4503":"景林资产持仓","LU0097036916.USD":"贝莱德美国增长A2 USD","LU0466842654.USD":"HSBC ISLAMIC GLOBAL EQUITY INDEX \"A\" (USD) ACC","LU0320765059.SGD":"FTIF - Franklin US Opportunities A Acc SGD","BK4551":"寇图资本持仓","IE00B3M56506.USD":"NEUBERGER BERMAN EMERGING MARKETS EQUITY \"A\" (USD) ACC","IE00BD6J9T35.USD":"NEUBERGER BERMAN NEXT GENERATION MOBILITY \"A\" (USD) ACC","LU0080751232.USD":"富达环球多元动力基金A","LU0198837287.USD":"UBS (LUX) EQUITY SICAV - USA GROWTH \"P\" (USD) ACC","LU0444971666.USD":"天利全球科技基金","LU0289961442.SGD":"SUSTAINABLE GLOBAL THEMATIC PORTFOLIO \"AX\" (SGD) ACC","LU0276348264.USD":"THREADNEEDLE (LUX) GLOBAL DYNAMIC REAL RETURN\"AUP\" (USD) INC","LU0316494557.USD":"FRANKLIN GLOBAL FUNDAMENTAL STRATEGIES \"A\" ACC","IE00BFSS8Q28.SGD":"Janus Henderson Balanced A Inc SGD-H","BK4581":"高盛持仓","IE0034235188.USD":"PINEBRIDGE GLOBAL FOCUS EQUITY \"A\" (USD) ACC","BK4549":"软银资本持仓","LU0127658192.USD":"EASTSPRING INVESTMENTS GLOBAL TECHNOLOGY \"A\" (USD) ACC","LU0234570918.USD":"高盛全球核心股票组合Acc Close","IE00B7KXQ091.USD":"Janus Henderson Balanced A Inc USD"},"source_url":"https://www.huxiu.com/article/2833943.html","is_english":false,"share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","article_id":"2422961069","content_text":"Sora何时推出？大约在年底。它非常受欢迎，一旦投入使用，不仅会对影视行业造成冲击，而且会在视频网站、社交媒体、电商平台，以及教育等领域得到广泛应用。它的物理世界模拟器的作用，以及“世界模型”的潜力也非常巨大。问题来了，它需要多大算力？风险投资机构Factorial Funds的Matthias Plappert，最近对Sora模型进行了剖析。他们推算的主要依据，是论文Scalable Diffusion Models with Transformers 中的数据。Sora模型在一定程度上是基于论文中所提出的、基于Transformer的架构的DiT（Diffusion Transformers）。论文的第一作者William Peebles目前在OpenAI负责Sora研究团队。作者假设Sora推出后，将在Tiktok和Youtube上得到广泛的应用，推算出需要的算力相当于72万张英伟达H100 GPU。对比一下，目前Meta拥有的总算力，相当于65万张H100。下面我们介绍下其中关于训练与推理的部分：从DiT到Sora训练计算量的外推关于Sora的细节信息非常少，但我们可以再次查看显然是Sora基础的DiT论文，并从中推断出相关的计算数字。最大的DiT模型DiT-XL有6.75亿个参数，总计算预算约为10^21次浮点运算。为了更容易理解这个数字，这相当于大约0.4个Nvidia H100 GPU运行一个月（或一个H100运行12天）。但是目前DiT仅对图像建模，而Sora是一个视频模型。Sora可以生成长达1分钟的视频。如果我们假设视频以24帧/秒编码，一个视频最多包含1440帧。Sora的像素到潜在映射似乎在空间和时间上都有压缩。如果我们假设与DiT论文中相同的压缩率（8倍），我们最终在潜在空间中得到180帧。因此，在直观地将DiT外推到视频时，我们得到了180倍的计算量倍增因子。我们进一步认为，Sora的参数量明显大于6.75亿个。我们估计200亿参数的模型是可行的，这使我们在计算量上比DiT再多出30倍。最后，我们认为Sora使用的训练数据集比DiT大得多。DiT在批量大小为256时经过300万步训练，即总计使用了7.68亿张图像（但要注意同一数据被重复使用了多次，因为ImageNet仅包含1400万张图像）。Sora似乎是在图像和视频的混合数据集上进行训练的，但除此之外我们几乎一无所知。因此，我们简单假设Sora的数据集中有50%是静止图像，50%是视频，并且数据集比DiT使用的大10到100倍。然而，DiT在相同的数据点上反复训练，如果有更大的数据集可用，这种做法可能是次优的。因此，我们认为4到10倍的计算量倍增因子是一个更合理的假设。将上述因素综合考虑，并分别计算额外数据集的低估计和高估计，我们得到以下计算结果:* 数据集低估计: 10^21次浮点运算 x 30 x 4 x (180/2) ≈ 1.1x10^25次浮点运算* 数据集高估计: 10^21次浮点运算 x 30 x 10 x (180/2) ≈ 2.7x10^25次浮点运算这相当于4211至10528个Nvidia H100 GPU运行1个月的计算量。推理计算与训练计算的比较另一个值得考虑的重要因素，是训练计算与推理计算之间的对比。训练计算量非常大，但这是一次性的成本。相比之下，推理计算量虽然小得多，但每一次生成都意味着一次推理计算。因此，推理计算量会随着用户数量的增加而扩大，并变得越来越重要，特别是当一个模型被广泛使用时。因此，观察“收支平衡点”是很有用的，即消耗在推理计算上的计算量，超过了训练期间消耗的计算量的时间点。(左图对比DiT的训练与推理计算，右图对比Sora的训练与推理计算。对于Sora部分，我们的数据基于上文估计，因此不是完全可靠。我们还展示了两种训练计算的估计:一种低估计(假设数据集大小的倍增因子为4倍)和一种高估计(假设为10倍)。)在上述数字中，我们再次利用DiT来推算Sora。对于DiT，最大的模型（DiT-XL）每步使用524×10^9次浮点运算，DiT使用250步扩散生成单张图像，因此总计为131×10^12次浮点运算。我们可以看到，收支平衡点在生成760万张图像后达到，此后推理计算将占主导。作为参考，用户每天大约上传9500万张图像到Instagram。 对于Sora，我们将浮点运算次数外推为524×10^9次 × 30 × 180 ≈ 2.8×10^15次。如果我们仍然假设每段视频需250步扩散，那就是每段视频总计708×10^15次浮点运算。作为参考，这大约相当于每小时每个Nvidia H100生成5分钟视频。收支平衡点在生成1530万（低估计）到3810万（高估计）分钟视频后达到，之后推理计算将超过训练计算。作为参考，每天约有4300万分钟视频上传到YouTube。需要注意的是：对于推理来说，浮点运算次数并不是唯一重要的因素。内存带宽也是另一个重要因素。此外，现有研究正致力于减少所需的扩散步数，这可能导致推理计算量大幅降低，因此推理速度会更快。训练和推理阶段的浮点运算利用率也可能有所不同，在这种情况下，它们就变得很重要了。不同模型之间的推理计算量比较我们还观察了不同模态下不同模型的每单位输出推理计算量。这里的想法是，看看不同类型模型的推理计算量级别有多大差异，这对于规划和预测计算需求有直接影响。重要的是，我们要理解，由于不同模型工作于不同的模态，每个模型的输出单位也不尽相同：对于Sora，单个输出是一段1分钟长的视频；对于DiT，是一张512x512像素的图像；而对于Llama 2和GPT-4，我们将单个输出定义为一份长度为1000个token的文本文档。(比较不同模型每单位输出的推理计算量，对于Sora是1分钟视频，对于GPT-4和LLama 2是1000个token的文本，对于DiT是单张512x512像素的图像。我们可以看到，我们对Sora推理的估计比其他模型昂贵，要高出数个数量级。)我们比较了Sora、DiT-XL、LLama 2 70B和GPT-4，并以对数刻度绘制了它们的浮点运算次数。对于Sora和DiT，我们使用上文的推理估计值。对于Llama 2和GPT-4，我们使用经验公式浮点运算次数=2×参数数量×生成的token数来估计。对于GPT-4，我们假设它是一个混合专家（MoE）模型，每个专家有220B参数，每次前向传递激活2个专家。需要注意的是，GPT-4的这些数字未得到OpenAI的确认，因此也需要谨慎对待。我们可以看到，基于扩散模型如DiT和Sora的推理算力需求要大得多：DiT-XL（6.75亿参数）的推理计算量，大约与LLama 2（700亿参数）相当。我们还可以看到，Sora的推理算力需求比GPT-4高出数个数量级。需要注意的是，上述许多数字都是估计值，并且依赖于简化的假设。例如，它们并未考虑GPU的实际浮点运算利用率、内存容量和带宽限制以及诸如推测解码等高级技术。如果类似Sora的模型占有重要市场份额时的推理计算量在这一部分，我们根据Sora的计算需求，推测如果AI生成视频在流行视频平台如TikTok和YouTube上占有重要市场份额，将需要多少英伟达H100 GPU来运行类似Sora的模型。我们假设每小时每个H100生成5分钟视频（详见上文），相当于每天每个H100生成120分钟视频。TikTok：每天1700万分钟视频（3400万个视频x平均30秒长度），假设AI渗透率50%。YouTube：每天4300万分钟视频，假设AI渗透率15%（主要是2分钟以下的短视频）。AI每天总计生成视频：850万+650万=1070万分钟。为支持TikTok和YouTube的创作者社区，需要89000张英伟达H100 GPU。由于以下因素，这一数字可能偏低：我们假设100%的浮点运算利用率，并未考虑内存和通信瓶颈。实际上50%的利用率更为现实，需要乘以2倍。需求不会均匀分布在时间上，而是具有突发性。峰值需求尤其成问题，因为需要相应更多GPU来满足所有流量。我们认为，应考虑峰值需求再增加2倍，作为所需最大GPU数量。创作者可能会生成多个候选视频，从中挑选最佳。我们保守地假设，平均每个上传视频要生成2个候选视频，再增加2倍。总计在峰值时需要大约72万台英伟达H100 GPU。这说明了我们的观点：随着生成式AI模型变得越来越受欢迎和受到依赖，推理计算将占主导地位。对于基于扩散的模型如Sora，这种趋势会更加明显。另外需要注意，如果扩大模型规模，推理计算需求也会大幅增加。另一方面，更优化的推理技术和整个技术栈上的其他优化措施，可能会在一定程度上抵消这种影响。本文来自微信公众号：未尽研究 （ID：Weijin_Research），作者：Plappert","news_type":1},"isVote":1,"tweetType":1,"viewCount":203,"commentLimit":10,"likeStatus":false,"favoriteStatus":false,"reportStatus":false,"symbols":[],"verified":2,"subType":0,"readableState":1,"langContent":"EN","currentLanguage":"EN","warmUpFlag":false,"orderFlag":false,"shareable":true,"causeOfNotShareable":"","featuresForAnalytics":[],"commentAndTweetFlag":false,"andRepostAutoSelectedFlag":false,"upFlag":false,"length":0,"xxTargetLangEnum":"ORIG"},"commentList":[],"hasMoreComment":false,"orderType":2}