社区

科技发展，日新月异，看到Google表示，他们新推出的TurboQuant方法能够通过压缩大语言模型推理过程中使用的键值缓存，并支持更高效的向量搜索，从而改善AI模型的运行效率，医药行业也特别的捧场，多篇新闻看到他们利用TurboQuant提高了多少效率。 Google正在解决当今AI系统中最令人头疼、讨论最少的问题之一：推理过程中的内存爆炸！他们通过在不影响输出质量的前提下更积极地压缩这些工作负载，TurboQuant可以让开发人员在现有硬件上运行更多推理任务，并减轻部署大型模型时的成本压力。 要理解Google的 TurboQuant，我们得先把 AI大脑的工作流程拆解开。市场之所以恐慌，是因为它触碰了AI硬件最昂贵的两个字：内存。咱们一层层剥开看： 1.什么是量化Quantization 简单说就是“降精度，省空间”，AI 模型原本用高清格式（如 FP16，每个数字占 16 位）存储。量化就像把 4K 电影压缩成 720P。虽然损失了一点细节，但体积小了数倍，运算速度也快了。 2。什么是 KV Cache？为什么它费内存。 这是理解 TurboQuant 的核心。模型权重（Weights）： 相当于大模型的“知识库”，是静态的。KV Cache相当于大模型的“草稿纸”。你在对话时，模型每吐出一个字，都要回看之前的对话。为了不重复计算，它把之前的中间结果存起来，这就是 KV Cache。 区别就在于，权重大小是固定的（比如 Llama-3-70B 就是 700 亿个参数）；但 KV Cache 会随着对话长度（上下文）的增加而无限膨胀。当你要处理超长文本（比如读一整本书）时，KV Cache 消耗的内存远超模型权重。 3.Google TurboQuant 到底干了什么，一个这么牛的进步，他们Google的股票，居然也没有大涨。 以往，KV Cache 很难在不严重损伤

威廉姆斯今天说风险平衡、按兵不动。IMF说今年降息空间极小。不是经济在崩所以不降——是经济没崩所以不需要降。这对等降息买科技的人来说是最坏的结果。 就业在给鲍威尔撑腰。ADP 3月+6.2万超预期（市场预期4万），2月上修到6.6万。失业率4.3%-4.5%稳了大半年，没有恶化的迹象。明天3月非农预期+5.7万，2月那个吓人的-9.2万里面大约3万是Kaiser罢工的临时影响，罢工3月结束这批人会回到工资单上，所以明天数字大概率不差。 3/11我写「滞胀叙事成形」，依据是2月非农-9.2万。但那里面有3万是罢工因素。剥掉罢工，就业端没有当时看起来那么吓人——这个判断偏差我得认。 但物价在亮红灯。ISM 3月Prices Index 78.3，两个月飙升19.3个百分点，2022年6月以来最高。18个行业里17个报告成本在涨。ISM主席说这个数字「非常非常令人担忧」。三个推手：钢铝涨价、进口关税、伊朗战争推高石油。64%企业反馈负面，20%归因关税，40%归因中东冲突。 同时Employment 48.7还在收缩，New Orders从57.1连降三个月到53.5。工厂在涨价，不敢招人，订单在变少。 这不是经典滞胀——经典滞胀是经济塌了物价还涨，美联储左右为难。现在更拧巴：经济没塌，物价在飞，美联储很明确地选择不动。威廉姆斯说PCE还在3%左右，离2%差整整一个百分点。降息等于放火。 今天特朗普又加码关税。金属25%、药品100%。成本只会更高。TSLA跌超5%，Q1交付35.8万miss预期，产量40.8万多出5万辆卖不掉。XLY -1.50%领跌全板块——可选消费最怕高利率常态化。现货Dated Brent 141创2008年新高。CNN恐慌指数15极度恐慌。 科技股反弹靠的是降息推动估值修复。降息不来，这条逻辑从第一环就断了。NVDA 37倍市销率，利率锁在3.5%以上

我两天前说情景B概率更高——威胁升级但不给退出时间表。19分钟验证了。 特朗普昨晚对全国讲话。CFR总结：四个旧论点零个新信息。“两到三周打回石器时代”——这话说了多少遍了。没有停火方案。海峡重开？让别人去管。道指早盘-668，纳指-2.2%。WTI盘中$113.93，收$111.54（+11.42%），2022年以来首次破$110。 讲话是空头的确认信号。没有退出时间表=没有油价拐点。 但尾盘翻了。原因不是特朗普——是伊朗和阿曼起草霍尔木兹共管协议。道指从-668回到-61，标普翻红+0.11%。市场33天不听华盛顿的。伊朗说了一句话就V型了。 定价权在德黑兰不在白宫。今天的反弹确认了这一点。 WTI反超布伦特——全球基准结构倒挂。期货$112 vs 现货$140+。实物供应已经极度紧张。有钱买不到货。 同一天需求端在崩。特斯拉Q1交付35.8万miss，库存堆积5万辆，能源储存-38%。TSLA -5.4%。XLY -1.5%领跌。药品关税100%、金属关税25%同日落地。油价推成本，特斯拉确认需求萎缩。滞胀不是假设了。 AI线没断。H100租赁涨40%，微软谷歌同日发新模型。但$112的油等于数据中心电费在飙。确定性在，利润率假设要改。 威廉姆斯说按兵不动。$112油价下按兵不动=美联储被困住了。CNN恐慌指数15。 明天休市。下周一只看一件事：伊朗-阿曼协议有没有下文。有→油价第一次真正的回调窗口。没有→$112是新地板。我不加仓。 $布油现金主连 2606(BZmain)$ $WTI原油主连 2605(CLmain)$ $