State of AI 2024中的芯片战事 | 笔记

资本实验室08:22

上周，英国风投机构AirStreet资本连续第7年发布了年度AI报告（State of AI 2024）。它火过一阵，但在ChatGPT发布近两年后，AI成为了全球最热的投资领域，科技巨头及其挑战者的进展，早已事无巨细地迅速展现在投资者面前，它又少了一点新鲜感。但它对AI论文发表及涉及相关芯片的数据，还有几分价值，能够印证今年以来大模型及AI行业的发展现状，并为判断未来趋势提供一点佐证。第一，开放...

网页链接

免责声明：本文观点仅代表作者个人观点，不构成本平台的投资建议，本平台不对文章信息准确性、完整性和及时性做出任何保证，亦不对因使用或信赖文章信息引发的任何损失承担责任。

精彩评论

我们需要你的真知灼见来填补这片空白

发表看法

{"i18n":{"language":"zh_CN"},"isChannel":false,"data":{"share":"https://www.laohu8.com/m/news/2485410612?lang=zh_CN&edition=full","thumbnail":"","is_english":false,"pubTime":"2024-11-23 08:22","share_image_url":"https://static.laohu8.com/9a95c1376e76363c1401fee7d3717173","id":"2485410612","market":"us","top_or_hot":-1,"title":"State of AI 2024中的芯片战事 | 笔记","media":"资本实验室","content":"<div>\n<p>上周，英国风投机构AirStreet资本连续第7年发布了年度AI报告（State of AI 2024）。它火过一阵，但在ChatGPT发布近两年后，AI成为了全球最热的投资领域，科技巨头及其挑战者的进展，早已事无巨细地迅速展现在投资者面前，它又少了一点新鲜感。但它对AI论文发表及涉及相关芯片的数据，还有几分价值，能够印证今年以来大模型及AI行业的发展现状，并为判断未来趋势提供一点佐证。第一，开放...</p>\n\n<a href=\"http://gu.qq.com/resources/shy/news/detail-v2/index.html#/?id=nesSN20241123083034abd883a6&s=b\">网页链接</a>\n\n</div>\n","source":"tencent","html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>State of AI 2024中的芯片战事 | 笔记</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\nState of AI 2024中的芯片战事 | 笔记\n</h2>\n\n<h4 class=\"meta\">\n\n\n2024-11-23 08:22 北京时间&nbsp;&nbsp;&nbsp;<a href=http://gu.qq.com/resources/shy/news/detail-v2/index.html#/?id=nesSN20241123083034abd883a6&s=b><strong>资本实验室</strong></a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\n<p>上周，英国风投机构AirStreet资本连续第7年发布了年度AI报告（State of AI 2024）。它火过一阵，但在ChatGPT发布近两年后，AI成为了全球最热的投资领域，科技巨头及其挑战者的进展，早已事无巨细地迅速展现在投资者面前，它又少了一点新鲜感。但它对AI论文发表及涉及相关芯片的数据，还有几分价值，能够印证今年以来大模型及AI行业的发展现状，并为判断未来趋势提供一点佐证。第一，开放...</p>\n\n<a href=\"http://gu.qq.com/resources/shy/news/detail-v2/index.html#/?id=nesSN20241123083034abd883a6&s=b\">网页链接</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","isBrief":false,"type":0,"news_type":1,"symbol":"LU0882574139.USD","symbol_name":"富达环球消费行业基金A ACC","start_time":0,"source_url":"http://gu.qq.com/resources/shy/news/detail-v2/index.html#/?id=nesSN20241123083034abd883a6&s=b","article_id":"2485410612","we_media_id":null,"thumbnails":[],"rights":{"source":"tencent","url":"http://gu.qq.com/resources/shy/news/detail-v2/index.html#/?id=nesSN20241123083034abd883a6&s=b","rn_cache_url":null,"customStyle":"body{padding-top:10px;}#news_title{font-weight:bold;#titleStyle#;}#news_description span{font-size:12px;#descriptionStyle#;}.footer-note{#statement#}","selectors":".mod-LoadTzbdNews, body","filters":".relate-stock, .hot-list, .recom-box, .wx-sou","directOrigin":true},"url":"https://stock-news.laohu8.com/highlight/detail?id=2485410612","pubTimestamp":1732321329,"sourceInfo":{"source_id":"tencent","name":"腾讯"},"weMediaInfo":null,"summary":"上周，英国风投机构AirStreet资本连续第7年发布了年度AI报告。英伟达芯片在AI论文中使用频率，从去年的比所有同行高出18倍，降低到今年的高出10倍。这让英伟达锁定了未来12个月的财务业绩。英伟达是目前台积电最大的客户，明年上半年规模量产GB200，下半年规模量产GB300，以及2026年的VR200。","collect":0,"end_time":0,"defaultTopTitle":"qq.com","property":[],"viewcount":null,"language":"zh","relate_stocks":{"LU0882574139.USD":"富达环球消费行业基金A ACC","IE00BJTD4N35.SGD":"Neuberger Berman US Long Short Equity A1  Acc SGD-H","3NVD.UK":"LS 3X NVIDIA","GOOGL":"谷歌A","LU1880398471.USD":"AMUNDI FUNDS GLOBAL EQUITY \"A2\" (USD) ACC","LU1917777945.USD":"安联专题基金Cl AT Acc","IE00BFSS7M15.SGD":"Janus Henderson Balanced A Acc SGD-H","NVDY":"YIELDMAX NVDA OPTION INCOME STRATEGY ETF","LU0417517546.SGD":"Allianz US Equity Cl AT Acc SGD","LU0158827948.USD":"ALLIANZ GLOBAL SUSTAINABILITY \"A\" (USD) INC","NVDX":"T-REX 2X LONG NVIDIA DAILY TARGET ETF","IE00BJTD4V19.USD":"NEUBERGER BERMAN US LONG SHORT EQUITY \"A1\" (USD) ACC","LU1989772840.SGD":"CPR Invest - Climate Action A2 Acc SGD-H","SNVD.UK":"LS -1X NVIDIA","LU0130517989.USD":"HARRIS ASSOCIATES US VALUE EQUITY \"R\" INC","LU0823414551.USD":"BNP PARIBAS ENERGY TRANSITION \"C\" (USD) INC","NVD2.UK":"2X NVIDIA ETP","NVDA":"英伟达","IE00BZ199S13.USD":"BNY MELLON MOBILITY INNOVATION \"B\" (USD) ACC","NVDU":"Direxion Daily NVDA Bull 2X Shares","2NVD.UK":"2X NVIDIA ETP","LU2023250504.SGD":"Allianz Thematica Cl AMg DIS H2-SGD","NVD3.UK":"LS 3X NVIDIA","LU0267386448.USD":"FIDELITY FIRST ALL COUNTRY WORLD \"A\" (USD) INC","NVDS":"Tradr 1.5X Short NVDA Daily ETF","LU1221951046.USD":"NORDEA 1 STABLE RETURN \"HM\" (USDHDG) INC","NVDS.UK":"LS -1X NVIDIA","LU0820561909.HKD":"ALLIANZ INCOME AND GROWTH \"AM\" (HKD) INC","LU0130518102.USD":"HARRIS ASSOCIATES GLOBAL EQUITY \"R\" INC","LU2506951792.HKD":"BNP PARIBAS ENERGY TRANSITION \"CRH\" (HKDHDG)       ACC","LU0310799852.SGD":"FTIF - Templeton Global Equity Income A MDIS SGD","HK0000306701.USD":"TAIKANG KAITAI CHINA NEW OPPORTUNITIES FUND \"A\" (USD) INC","LU2097344357.USD":"SCHRODER ISF SUSTAINABLE MULTI-ASSET INCOME \"A\" (USDHDG) ACC","IE00BFXG0V08.USD":"BNY MELLON GLOBAL LEADERS \"B\" (USD) ACC","IE00BK4W5L77.USD":"HSBC GLOBAL FUNDS ICAV US EQUITY INDEX \"HC\" (USD) ACC","LU0251142724.SGD":"Fidelity America A-SGD","LU2361044949.HKD":"WELLINGTON US QUALITY GROWTH \"A\" (HKD) ACC","LU2077746001.SGD":"Blackrock ESG Multi-Asset A2 SGD-H","BK4561":"索罗斯持仓","NVDD":"Direxion Daily NVDA Bear 1X Shares","NVD":"GraniteShares 2x Short NVDA Daily ETF","LU0320765059.SGD":"FTIF - Franklin US Opportunities A Acc SGD","LU2286300806.USD":"Allianz Cyber Security AT Acc USD","SG9999014914.USD":"UNITED GLOBAL QUALITY GROWTH (USDHDG) INC","IE00BFSS8Q28.SGD":"Janus Henderson Balanced A Inc SGD-H","LU1035773651.USD":"AB SICAV I - GLOBAL VALUE PORTFOLIO \"AD\" (USD) INC","LU2552382058.USD":"WELLINGTON US BRAND POWER \"A\" (USD) ACC","GOOG":"谷歌","SG9999014542.SGD":"United Income Focus Trust Acc SGD"},"translate_title":"Notes on the Chip War in State of AI 2024","themeId":null,"isJumpTheme":false,"ttsUrl":null,"symbols_score_info":{"GOOG":0.9,"GOOGL":0.9,"NVDA":0.9,"NVD3.UK":0.6,"NVD":0.6,"NVD2.UK":0.6,"NVDD":0.6,"NVDS":0.6,"NVDS.UK":0.6,"NVDU":0.6,"NVDX":0.6,"NVDY":0.6,"SNVD.UK":0.6,"3NVD.UK":0.6,"2NVD.UK":0.6},"content_text":"上周，英国风投机构AirStreet资本连续第7年发布了年度AI报告（State of AI 2024）。它火过一阵，但在ChatGPT发布近两年后，AI成为了全球最热的投资领域，科技巨头及其挑战者的进展，早已事无巨细地迅速展现在投资者面前，它又少了一点新鲜感。但它对AI论文发表及涉及相关芯片的数据，还有几分价值，能够印证今年以来大模型及AI行业的发展现状，并为判断未来趋势提供一点佐证。第一，开放权重模型正在进步，但开放精神已经倒退。随着对前沿大模型的竞争日趋激烈，Meta，微软、阿里巴巴、腾讯与谷歌拥有越来越多的最先进的算力芯片，但越来越对公开AI论文有所保留。甚至是拿出了最强大开源模型Llama3的Meta，论文发表水平较上一年降低了13%。相对的，学术界开始发力。AI论文发表水平年度变化已发表论文的披露细节，及向学界开放的态度，也让很多研究者不满。 蛋白结构预测模型AlphaFold3在今年5月刚发布时，就宣称没有开源计划，引发了学术界众怒，数百位学者联署公开信称，这种做法不符合科学进步的原则，科学进步依赖于社区评估、使用和建立现有工作的能力。几天后，DeepMind改口，称将开放代码和模型权重供学术使用。第二，英伟达地位牢不可破，至少在短期内没有挑战者。英伟达芯片在AI论文中使用频率，从去年的比所有同行高出18倍，降低到今年的高出10倍。谷歌、华为与苹果是有潜力的挑战者，在论文中出现的频率增长迅速，但仍与谷歌存在几个数量级的差距。不同芯片在AI论文中的引用情况使用谷歌TPU的论文比去年同期增长了5倍，使用华为升腾910的增长了4倍。今年，谷歌刚发布了第六代TPU芯片Trillium；连OpenAI都专门 从TPU团队挖人。9月底，媒体报道华为寄出了升级版的910C以供测试；此前，SemiAnalysis认为，它的算力性能可能会超过英伟达缩水版的B20。短期内，英伟达的身后不会出现挑战者。很大程度上，前沿模型在训练市场的继续突破，AI应用在推理市场的落地规模，以及ASML-台积电-英伟达这条不那么有弹性的供应链的安全，才是决定它上限的关键因素。巨头仍在加紧抢购英伟达最先进的Blackwell GPU。摩根士丹利称，英伟达B系列芯片明年的订单已经售罄。这让英伟达锁定了未来12个月的财务业绩。黄仁勋最近一直在谈论 o1模型，称其将推理推到了新的高度。新的大模型技术路线，也为英伟达带来新的增长空间，至少是新的AI叙事。“慢思考”有其固有推理模式的因素，也有当前算力制约因素的影响。10月，英伟达更新了自己的演示PPT（investor presentation），把o1象征的推理的“扩展定律”也加了进去。为了满足这些 算力增量的电力需求，继亚马逊、微软与甲骨文后，谷歌也正式采购了核电，与Kairos签订长期合作协议，目标是在2030年交付，2035年全面部署约500兆瓦（MW）“新的24×7无碳电力”。订单压力已经传递到台积电，后者加快了扩产步调，刚收购了群创光电的工厂，确保在2025年上半年就能释放足够的CoWoS先进封装产能。英伟达是目前台积电最大的客户，明年上半年规模量产GB200，下半年规模量产GB300，以及2026年的VR200（即Vera CPU+Rubin GPU)。第三，A100仍是科研主力芯片，H100正迅速用于学术界。随着H200成为商业订单主流，B200进入量产阶段，H100正在迅速成为过季产品，算力租赁市场价格大幅下降，引发“GPU泡沫“的质疑。但这主要是结构性的失衡。一方面是训练与推理的失衡。对前沿模型的训练竞争，很大程度上依赖于最先进芯片的超大规模数据中心的建设。上一代模型训练完成后，大量算力释放到推理市场，对于推理市场整体真实需求而言，它存在过剩。尤其是面向中小客户的零散的H100算力的租赁，会随着前沿模型竞赛向大玩家收敛而式微；如果它们的客户发展顺利，部分也会选择自建算力。在早期市场，芯片迭代越快，上一代芯片租赁价格打折就越快。另一方面是玩家间的失衡。OpenAI预计2024年的年收入将达到37亿美元，其中 27亿美元来自ChatGPT，10亿美元来自API开发者与企业服务。OpenAI仍然面临算力紧缺的局面，常常抱怨微软算力上线不及时，最近开始与甲骨文谈判合作。不同英伟达芯片在AI论文引用情况英伟达的芯片，遵循着价值从训练向推理再向科研逐步释放的路径。从发布到出现在AI论文中的频次的峰值，大概需要五到六年的时间跨度。上一代明星产品V100，在发布7年后，今年在AI论文中的出现频率，下降了20%。A100已经成为了新的科研用主力芯片，按照目前的趋势，它的峰值将比V100高得多。这也将是下一代H100的路径。更便宜的H100算力，也将在AI for Science或Science for AI等领域释放更高的价值。 诺贝尔奖认可这一逻辑。今年，尽管基数较低，H100出现在AI论文中的增幅明显提升，增长了近5倍，未来几年，随着更多H100进入学术界，能让AI创新探索更多元的进化方向。第四，芯片初创企业中，Cerebras与Groq正在拼杀出来。Cerebras的晶圆级的巨型芯片，在AI论文中出现的频次增长翻番，是挑战英伟达AI霸权的重要新兴力量。该公司已申请上市，近90%收入来自中东地区的G42。Groq在今年初露峥嵘，自研LPU，为计算密集型应用提供更快得推理能力。今年8月，该公司又融资了6.4亿美元，并拉拢了Meta首席人工智能科学家LeCun担任自己的技术顾问。该公司与阿美石油等中东客户关系密切。初创企业芯片在AI论文引用情况但是，如果美国政府真的限制英伟达与AMD的芯片进入中东，那么Cerebras与Groq该好好思考下，这于己意味着更大的地缘机遇，还是同样意味着地缘风险。","kind":null,"is_publish_news":true,"is_publish_highlight":false,"is_publish_live":false,"is_publish_wemedia":null,"editions":null,"column":"","sentiment":"0","news_tag":"","news_rank":0,"symbols":[],"gpt_button":0},"commentList":[],"isCommentEnd":true,"newsSizeData":{"likeSize":0,"commentSize":0,"repostSize":0,"favoriteSize":0,"likeStatus":false,"favoriteStatus":false},"APP":{"userAgent":"Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; ClaudeBot/1.0; +claudebot@anthropic.com)","isDev":false,"isTTM":false,"deviceId":"web-server-community-laohu8-v3","version":"4.29.2","shortVersion":"4.29.2","platform":"web","vendor":"web","appName":"laohu8","isIOS":false,"isAndroid":false,"isTiger":false,"isTHS":false,"isWeiXin":false,"isWeiXinMini":false,"isWeiBo":false,"isQQ":false,"isBaiduSwan":false,"isBaiduBox":false,"isDingTalk":false,"isToutiao":false,"isOnePlus":false,"isHuaWei":false,"isXiaomi":false,"isXiaomiWebView":false,"isOppo":false,"isVivo":false,"isSamsung":false,"isMobile":false},"href":"/m/news/2485410612"}