社区

企业和投资者已投入数十亿美元打造人工$智能(5RE.SI)$。我们目前使用的 LLM 模型（如 GPT-4o）的训练成本已达数亿美元，而下一代模型的开发也已在进行中，投资金额将高达 10 亿美元。然而，全球领先的$金融机构(FISI)$之一$高盛(GS)$正在质疑这些投资是否会带来回报。风险投资公司红杉资本 (Sequoia Capital) 最近研究了人工智能投资，并计算出整个行业每年需要赚取 6000 亿美元才能收回最初的支出。因此，在 Nvidia、$微软(MSFT)$和$亚马逊(AMZN)$等大型公司投入巨额资金在人工智能竞赛中占据优势之际，高盛采访了几位专家，询问对人工智能的投资是否真的会带来回报。目前高盛报告中的专家观点大致分为两派：一派对其持怀疑态度，认为人工智能给美国经济带来的回报有限，不会比现有技术更经济地解决复杂问题；另一派则认为，人工智能技术的资本支出周期看起来前景光明，与之前的技术经历的周期类似。麻省理工学院教授达隆·阿西莫格鲁估计，生成式人工智能对经济的影响有限，仅能使生产率提高约 0.5%，GDP 产出增加 1%。这与高盛经济学家的估计形成了鲜明对比，高盛经济学家认为，生产率将提高 9%，GDP 将增加 6.1%。他还表示，尽管人工智能技术最终会发展并降低成本，但他并不相信，目前向人工智能模型投入更多数据和计算能力的趋势会让我们更快地实现通用人工智能的愿

据悉，$苹果(AAPL)$的3D芯片堆叠技术SoIC将应用于2025年的MacBook（Pro）。简单来说，它是一种新型的IC封装技术，可以将多个芯片堆叠在一起，以更小的尺寸实现更高的集成度。对于消费者来说，这款革命性的 MacBook 将带来更多选择。随着 3D堆叠技术的发展，我们可以看到越来越多的电子产品将采用它，从手机、平板电脑到电视、机顶盒、汽车和其他$智能(5RE.SI)$家居智能设备。苹果将使用$台积电(TSM)$的3D Fabric技术三维集成电路 (3D-IC) 是一种用于半导体封装的芯片堆叠技术，可为半导体行业提供更高水平的效率、功率、性能和外形尺寸优势。3D-IC 是通过在单个封装上堆叠晶圆或芯片来构建的，这些封装使用硅通孔 (TSV) 进行互连。带有 TSV 的 3D-IC 预计将广泛影响网络、图形、移动通信和计算，尤其是对于需要小型、超轻、低功耗设备的应用。具体应用领域包括多核 CPU、GPU、数据包缓冲区/路由器、智能手机、平板电脑、上网本、相机、DVD 播放器和机顶盒。业界正迅速转向玻璃基板，以取代当今的 2.5D 和 3D 封装技术。表面上看，媒体普遍关注 AMD、$英特尔(INTC)$和$三星(SMSN.UK)$，它们在芯片玻璃基板供应方面处于领先地位，而对台积电的情况则几乎没有报道。一位消息人士指出，“行业分析师已经注意到台积电也有类似的解

伴随着Zen 5系列处理器的公布，AMD又成为了万众瞩目的半导体厂商。在中国台湾举行的 Computex 2024 展会上，AMD一口气发布了四款全新的 4nm Zen 5 架构的 Ryzen 9000 系列处理器，包括 Ryzen 9、Ryzen 7 和 Ryzen 5 家族。AMD 表示，新款 Zen 5 架构将在芯片上市时提供 16% 的IPC（每时钟周期指令）吞吐量提升，加上其他改进，新的旗舰型号 Ryzen 9 9950X 在游戏性能上比$英特尔(INTC)$的 Raptor Lake Refresh 旗舰产品平均高出 11%，在生产力工作负载上的性能提升达 21%。值得一提的是，自 2017 年首次推出 Zen 以来，AMD一直在稳步提高 Zen 的 IPC，而Zen 5 是 AMD 连续第五次实现两位数的 IPC 提升，提升幅度高达 16%，超过了从 Zen 3 到 Zen 4 的 13%。对比此前的推土机架构，Zen 5在 IPC上整整提高了 52%。如今的AMD，不仅在PC市场大展身手，所推出的EYPC也在服务器市场里牢牢占据了20%以上的份额，说是风光无限也不为过。很多人可能不会相信，10年前也就是2014年的AMD，还是一个处于破产边缘的公司。从悬崖坠落要谈论AMD，就必然绕不开执掌这家公司三十余年的杰里·桑德斯。同样是仙童半导体的“叛逆”，他的名气虽然远不如隔壁英特尔的罗伯特·诺伊斯和戈登·摩尔， 但先后做过摩托罗拉销售经理和仙童营销总监的他，有一股寻常人难以企及的韧性。凭着他的三寸不烂之舌和独到的眼光，创业初期的AMD成为了硅谷第一批强调质量高于一切的公司之一，所生产的芯片通过了美国军用半导体的认证，在高端市场打出了名号的它，很快就拉拢了一批计算机、电信和仪器行业的客户

在传出法国将对英伟达发起反垄断调查后不久，又有新的不好消息传出。据彭博社引述欧盟竞争事务负责人玛格丽特·维斯塔格 (Margrethe Vestager) 的警告称，英伟达公司的 AI 芯片供应存在“巨大瓶颈”，但表示监管机构仍在考虑如何解决这个问题。“我们一直在向他们询问问题，但这还只是初步问题，”她在新加坡之行中告诉彭博社。到目前为止，这“还不具备监管行动的条件”。自从英伟达成为人工智能支出热潮的最大受益者以来，监管机构就一直关注着它。它的图形处理单元（简称 GPU）因其能够处理开发 AI 模型所需的大量信息的能力而受到数据中心运营商的青睐。芯片已成为科技界最热门的商品之一，云计算提供商相互竞争以获取这些芯片。据估计，Nvidia 的 H100 处理器需求旺盛，已帮助他们获得 80% 以上的市场份额，领先于竞争对手英特尔公司和超微半导体公司。尽管供应紧张，但 Vestager 表示，人工智能芯片供应的二级市场可能有助于激发创新和公平竞争。但她表示，占主导地位的公司未来可能会面临某些行为限制。“如果你在市场上拥有这种主导地位，那么有些事情你不能做，而小公司可以做，”她说。“但除此之外，只要你做你的生意并尊重这一点，你就很好。”6000亿美元的“大难题”尽管高科技巨头在人工智能基础设施方面投入了大量资金，但人工智能带来的收入增长尚未实现，这表明生态系统的最终用户价值存在巨大差距。事实上， 红杉资本分析师戴维·卡恩（ David Cahn）认为，人工智能公司每年必须赚取约 6000 亿美元才能支付其人工智能基础设施（例如数据中心）的费用。去年，Nvidia 的数据中心硬件收入达到 475 亿美元（其中大部分硬件是用于 AI 和 HPC 应用的计算 GPU）。AWS、Google、Meta、Microsoft等公司在 2023 年为 OpenAI 的 ChatGPT 等应用在其

AMD CEO Lisa Su（苏姿丰）绝对称得上是芯片届的风云人物，尤其是进入了AI新时代，她的声望达到了十年来最高点。翻看其成长历史，苏姿丰在麻省理工学院获得电气工程博士学位后（在麻省理工学院学习八年半，获得三个电气工程学位），在德州仪器开始了她的职业生涯，她在开发绝缘体上硅晶体管技术方面发挥了重要作用。随后，苏姿丰在 IBM 工作了 12 年，领导了半导体铜互连的开发，领导开发了 PlayStation 3 中使用的 Cell 微处理器的团队，并担任了首席执行官 Lou Gerstner 的技术助理。在担任飞思卡尔半导体公司首席技术官一段时间后，苏姿丰于 2012 年加入 AMD，并于 2014 年升任首席执行官。在带领 AMD 的十年里， Lisa Su取得了非凡的成功——在数十年落后于英特尔之后，AMD 开发出了世界上最好的 x86 芯片，并且继续从英特尔手中夺取数据中心市场的重要份额。除了传统的 PC 业务和图形芯片业务外，AMD 还是游戏机游戏领域的主要参与者。随着 AMD 在数据中心 GPU 市场上与 Nvidia 展开竞争，GPU 业务现在越来越成为焦点。早前，苏姿丰接受了外媒 Stratechery 的采访，畅谈了她的职业道路，包括她在晋升过程中学到的经验教训，然后讨论了为什么 AMD 在她的任期内能够取得如此大的成就。在采访中，苏姿丰还分享了她对“ChatGPT”改变行业的看法，以及AMD 如何应对。以下为采访正文：一、从IBM学到的经验问：我知道你不想过多谈论自己，但我需要一些事实核查。我们刚刚聊过，你出生在台湾，很小的时候移民到美国，最后考上了麻省理工学院，据说当时你在计算机科学和电子工程之间犹豫不决，最后选择了电子工程，主要是因为它更难，这是真的吗？Lisa Su：确实如此。我一直都和数学和科学打交道，我的父母总是说：“你必须做这些困难的事情”。

在计算、网络和图形发展史上，Nvidia 有许多独特之处。但其中之一就是它目前手头有如此多的资金，而且由于其架构、工程和供应链，它在生成式人工智能市场处于领先地位，因此它可以随心所欲地实施它认为可能取得进展的任何路线图。到 21 世纪，Nvidia 已经是一个非常成功的创新者，它实际上没有必要扩展到数据中心计算领域。但 HPC 研究人员将 Nvidia 带入了加速计算领域，然后 AI 研究人员利用 GPU 计算创造了一个全新的市场，这个市场已经等待了四十年，希望以合理的价格实现大量计算，并与大量数据碰撞，真正让越来越像思考机器的东西成为现实。向 Danny Hillis、Marvin Minksy 和 Sheryl Handler 致敬，他们在 20 世纪 80 年代尝试制造这样的机器，当时他们创立了 Thinking Machines 来推动 AI 处理，而不是传统的 HPC 模拟和建模应用程序，以及 Yann LeCun，他当时在 AT&T 贝尔实验室创建了卷积神经网络。他们既没有数据，也没有计算能力来制造我们现在所知道的 AI。当时，Jensen Huang 是 LSI Logic 的董事，该公司生产存储芯片，后来成为 AMD 的 CPU 设计师。就在 Thinking Machines 在 20 世纪 90 年代初陷入困境（并最终破产）时，黄仁勋在圣何塞东侧的 Denny's 与 Chris Malachowsky 和Curtis Priem 会面，他们创立了 Nvidia。正是 Nvidia 看到了来自研究和超大规模社区的新兴人工智能机遇，并开始构建系统软件和底层大规模并行硬件，以实现自第一天起就一直是计算一部分的人工智能革命梦想。这一直是计算的最终状态，也是我们一直在走向的奇点——或者可能是两极。如果其他星球上有生命，那么生命总会进化到这样一个地步：那个

TSMC在芯片制造领域占据绝对领导地位，其市场占有率稳定在约60%，最大竞争对手$三星电子(SMSD.UK)$的市占率仅为11%。TSMC作为行业寡头，其核心竞争力主要包括商业模式、经营理念、技术积累、产能管理、生态建设、企业架构，对同业企业极具参考价值。本文针对TSMC核心竞争力逐一探析。商业模式：开创芯片领域垂直化分工的创新商业模式即使进入人工智能时代，张忠谋始终认为，最值钱的依旧是商业模式的创新。例如，美国的$eBay(EBAY)$、$谷歌(GOOG)$、$亚马逊(AMZN)$，大陆的$腾讯(00700)$、$阿里巴巴(BABA)$都是以互联网为基础的商业模式创新。即使是互联网不发达的七八十年代，$麦当劳(MCD)$、$星巴克(SBUX)$等企业也体现出商业模式创新的成效。TSMC设立之初，芯片生产市场为IDM模式，即从芯片设计、晶圆制造到封装测试全产业链“一手包办”的业务模式，IDM厂商为$英特尔(INTC)$、AMD等大厂。半导体行业发展遵循“摩尔定律

据最新报道，ASML 已批准任命 Christophe Fouquet 为公司新任首席执行官。周三，50 岁的 Fouquet 在荷兰 Veldhoven 举行的 ASML 年会上就任欧洲最大科技公司首席执行官。Fouquet 表示：“我很高兴……能够谱写 ASML 的新篇章，并继续为我们的股东创造巨大的价值。”Fouquet在 11 月被任命担任该职位，他是该公司 15 年的资深人士，此前曾负责其顶级“EUV”产品线。他接替了即将退休的首席执行官 Peter Wennink，后者自 2014 年以来一直领导该公司，在此期间，该公司的股价上涨了十倍以上，并成为欧洲最大的科技公司，市值超过 3000 亿欧元（3200 亿美元）。“过去几个月，人们一直告诉我，‘你将在公司鼎盛时期退休’，”Wennink说。“不。我们甚至还没到中间。”值得一提的是，在Wennink退休之际，ASML的首席技术官Martin van den Brink也同期退休。ASML表示，他们富有远见的领导指导了公司的成长和创新。关键的中国业务，温宁克临别前再发声法国人 Christophe Fouquet 周三接管了荷兰芯片巨头 ASML，他列出了一份艰巨的任务清单，其中首要任务将是在半导体成为地缘政治战场之际引导（steering）与中国的业务。ASML 在制造超薄微芯片机器方面的战略重要性为世界上许多先进技术提供动力，这使其发挥的作用远远超出了商业领域。由于以美国为首的西方列强禁止中国获得此类技术，Fouquet 将不得不在波涛汹涌的政治水域中航行。分析师预计 Fouquet 领导下的 ASML 不会发生根本性转变——在公司工作了 16 年之后，他是接替现任首席执行官 Peter Wennink 的连续候选人。“不要指望我会扭转局面。我认为我们多年来一直在努力的事情仍然是我们希望通过 ASML 实现的目

今天上午，$英特尔(INTC)$将开启其Vision 2024 会议的第二天，这是该公司的年度闭门业务和以客户为中心的聚会。虽然 Vision 通常不是英特尔发布新芯片的.场合（这更多的是秋季的创新活动），但今年展会的与会者不会空手而归。随着整个行业对人工智能的高度关注，英特尔利用今年的活动正式推出了 Gaudi 3 加速器，这是英特尔子公司 Habana Labs 的下一代 Gaudi 高性能人工智能加速器。Gaudi 的最新版本将于 2024 年第三季度推出，英特尔现已向客户提供样品。硬件本身在某些方面是一个大杂烩（稍后会详细介绍），但凭借 1835 TFLOPS 的 FP8 计算吞吐量，英特尔相信它足以在广阔的（且昂贵的）领域中分得一杯羹。）自己的人工智能市场。根据内部基准测试，该公司预计至少在一些关键的大型语言模型中能够击败 NVIDIA 的旗舰 Hx00 Hopper 架构加速器，这将为英特尔在人工智能加速器市场的关键时刻抢占更大份额打开大门。整个行业，以及一个根本没有足够的 NVIDIA 硬件可供使用的时刻。为数学而生的Gaudi芯片与其他包含矩阵数学单元和张量核心（一种特殊的矩阵数学单元）的 AI 加速器一样，最初的 Gaudi 1 加速器理论上可用于加速其他类型的工作负载，包括 HPC 模拟和建模甚至数据分析。只需为其创建软件堆栈即可。但在这种情况下，与其他混合精度人工智能加速器的情况一样，混合（重要的是低精度）浮点和整数数学的可用性最适合人工智能训练和推理。Habana Labs 整合的 Gaudi 1 加速器和软件堆栈迫使英特尔收购该公司，尽管英特尔此前曾于2016 年 8 月以 3.5 亿美元收购了人工智能加速器制造商 Nervana Systems。（英特尔直到 2019

在数据中心领域，$英伟达(NVDA)$除了能提供广为人知的AI芯片——GPU以外，他们在产品“百宝箱”中还能提供一系列其他的产品，为客户提供服务。例如DPU，就是其一极具竞争力的产品？所谓DPU，按照英伟达所说，是一种新型可编程处理器，集三个关键要素于一身。DPU 是一种SOC （ System On Chip ，系统单芯片），它结合了：1、行业标准的、高效能及软件可编程的多核CPU ，通常基于已应用广泛的Arm 架构，与其他的SOC 组件密切配合。2、高效能网络界面，能以线速或网络中的可用速度解析、处理数据，并有效率地将数据传输到GPU 和CPU 。3、各种灵活和可编程的加速引擎， 为AI 、机器学习、安全、电信和储存等应用作业负载，并提升其性能。所有这些DPU 功能对于实现安全的、裸机的、原生云端运算的下一代云端大规模运算至关重要。根据数据，2020年全球DPU产业市场规模达30.5亿美元，预计到2025年全球DPU产业市场规模将超过245.3亿美元，期间CAGR高达51.73%。正因为拥有如此效能和市场前景，除了英伟达以外，不少第三方芯片供应商正在进入这个市场。例如$英特尔(INTC)$、AMD、Marvell等知名芯片巨头。国内如云豹$智能(5RE.SI)$、中科驭数和云脉芯联等新兴厂商也跃跃欲试。但与此同时，那些云厂商也纷纷入局，$微软(MSFT)$就是最新的一个。微软，入局DPU据the information透露，微软正在开发一款新的网卡，可