这篇文章不错，转发给_老虎社区_美港股上老虎 - 老虎社区

点赞
评论
收藏

趋势虎
02-27

这篇文章不错，转发给大家看看

横空出世！引领多模态产业革命！Sora技术深度解析

Sora引领多模态革命，技术与资源突显优势1.Sora横空出世，引领多模态产业革命美国时间2月15日，文生视频大模型Sora横空出世，能够根据文本指令或静态图像生成1分钟的视频。总体而言，不管是在视频的保真度、长度、稳定性、一致性、分辨率、文字理解等方面，Sora都做到了业内领先水平，引领多模态产业革命。与之对应，Sora训练了相应的解码器模型，将生成的潜在表示映射回像素空间。

横空出世！引领多模态产业革命！Sora技术深度解析

免责声明：上述内容仅代表发帖人个人观点，不构成本平台的任何投资建议。

点赞

举报

评论

推荐
最新

empty

暂无评论

热议股票

关于我们·老虎社区守则·老虎社区账号管理规范·老虎社区服务协议·老虎社区隐私政策

公司名称：北京至简风宜信息技术有限公司

违法和不良信息投诉：010-5681-3562（工作时间9:30-18:30）

邮箱：service@laohu8.com

老虎社区侵权投诉指引

中国互联网举报中心·北京互联网举报中心

网络谣言曝光台·扫黄打非举报中心

网络110报警服务

© 2018-2024 老虎社区版权所有

营业执照：91110105MA01A4U55R

ICP备：京ICP备18016422号

网安备：京公网安备11010502036490

qrcode

关注我们

{"i18n":{"language":"zh_CN"},"data":{"magic":2,"id":278371955437696,"tweetId":"278371955437696","gmtCreate":1708988004145,"gmtModify":1708988005579,"author":{"id":130733411959400,"idStr":"130733411959400","authorId":130733411959400,"authorIdStr":"130733411959400","name":"趋势虎","avatar":"https://static.tigerbbs.com/4fcdf8cbdfc95e7e218745ca3c6d0d56","vip":1,"userType":1,"introduction":"","boolIsFan":false,"boolIsHead":false,"crmLevel":5,"crmLevelSwitch":1,"currentWearingBadge":{"badgeId":"228c86a078844d74991fff2b7ab2428d-3","templateUuid":"228c86a078844d74991fff2b7ab2428d","name":"投资合伙人虎","description":"证券账户累计交易金额达到100万美元","bigImgUrl":"https://static.tigerbbs.com/fbeac6bb240db7da8b972e5183d050ba","smallImgUrl":"https://static.tigerbbs.com/436cdf80292b99f0a992e78750ac4e3a","grayImgUrl":"https://static.tigerbbs.com/506a259a7b456f037592c3b23c779599","redirectLinkEnabled":0,"hasAllocated":1,"isWearing":1,"stampPosition":0,"hasStamp":0,"allocationCount":1,"allocatedDate":"2021.12.28","exceedPercentage":"93.98%","individualDisplayEnabled":0},"individualDisplayBadges":[],"fanSize":15,"starInvestorFlag":false},"themes":[],"images":[],"coverImages":[],"html":"<html><head></head><body><p>这篇文章不错，转发给大家看看</p></body></html>","htmlText":"<html><head></head><body><p>这篇文章不错，转发给大家看看</p></body></html>","text":"这篇文章不错，转发给大家看看","highlighted":1,"essential":1,"paper":1,"likeSize":0,"commentSize":0,"repostSize":0,"favoriteSize":0,"link":"https://laohu8.com/post/278371955437696","repostId":2414102022,"repostType":2,"repost":{"id":"2414102022","kind":"news","pubTimestamp":1708927610,"share":"https://www.laohu8.com/m/news/2414102022?lang=&edition=full","pubTime":"2024-02-26 14:06","market":"hk","language":"zh","title":"横空出世！引领多模态产业革命！Sora技术深度解析","url":"https://stock-news.laohu8.com/highlight/detail?id=2414102022","media":"华尔街见闻","summary":"Sora引领多模态革命，技术与资源突显优势1.Sora横空出世，引领多模态产业革命美国时间2月15日，文生视频大模型Sora横空出世，能够根据文本指令或静态图像生成1分钟的视频。总体而言，不管是在视频的保真度、长度、稳定性、一致性、分辨率、文字理解等方面，Sora都做到了业内领先水平，引领多模态产业革命。与之对应，Sora训练了相应的解码器模型，将生成的潜在表示映射回像素空间。","content":"<html><head></head><body><p>要点：</p><blockquote><p><strong>Sora横空出世引领多模态产业革命。</strong>美国时间2月15日，文生视频大模型Sora横空出世，能够根据文本指令或静态图像生成1分钟的视频。其中，视频生成包含精细复杂的场景、生动的角色表情以及复杂的镜头运动，同时也接受现有视频扩展或填补缺失的帧。总体而言，不管是在视频的保真度、长度、稳定性、一致性、分辨率、文字理解等方面，Sora都做到了业内领先水平，引领多模态产业革命。此外，当Sora训练的数据量足够大时，它也展现出了一种类似于涌现的能力，从而使得视频生成模型具备了类似于物理世界通用模拟器的潜力。</p><p><strong>拆解视频生成过程，技术博采众长或奠定了Sora文生视频领军地位</strong>。从技术报告中，Sora视频生成过程大致由“视频编码+加噪降噪+视频解码”三个步骤组成，视频压缩网络、时空patches、transformer架构、视频数据集等技术与资源在其中发挥了重要作用。</p><p><strong>视频压缩网络：</strong>过往VAE应用于视频领域通常需插入时间层，Sora从头训练了能直接压缩视频的自编码器，可同时实现时间和空间的压缩，既节省算力资源，又最大程度上保留视频原始信息，或为Sora生成长视频的关键因素，并为后续处理奠定基础。</p><p><strong>时空patches：</strong>1）同时考虑视频中时间和空间关系，能够捕捉到视频中细微的动作和变化，在保证视频内容连贯性和长度的同时，创造出丰富多样的视觉效果；2）突破视频分辨率、长宽比等限制的同时显著提升模型性能，节约训练与推理算力成本。</p><p><strong>Transformer架构：</strong>1）相比于U-Net架构，transformer突显ScalingLaw下的“暴力美学”，即参数规模越大、训练时长越长、训练数据集越大，生成视频的效果更好；2）此外，在transformer大规模训练下，逐步显现出规模效应，迸发了模型的涌现能力。</p><p><strong>视频数据集：</strong>Sora或采用了更丰富的视频数据集，在原生视频的基础上，将DALL・E3的re-captioning技术应用于视频领域，同时利用GPT保障文字-视频数据集质量，使得模型具有强大的语言理解能力。</p></blockquote><h2 id=\"id_1793384387\">Sora引领多模态革命，技术与资源突显优势</h2><p><strong>1.Sora横空出世，引领多模态产业革命</strong></p><p><strong>美国时间2月15日，文生视频大模型Sora横空出世，能够根据文本指令或静态图像生成1分钟的视频。</strong>其中，视频生成包含精细复杂的场景、生动的角色表情以及复杂的镜头运动，同时也接受现有视频扩展或填补缺失的帧。</p><p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/451b9c7acae8c724e039e86dcaf46285\" tg-width=\"392\" tg-height=\"587\"/></p><p><strong>总体而言，不管是在视频的保真度、长度、稳定性、一致性、分辨率、文字理解等方面，Sora都做到了业内领先水平，引领多模态产业革命。</strong>此外，当Sora训练的数据量足够大时，它也展现出了一种类似于涌现的能力，从而使得视频生成模型具备了类似于物理世界通用模拟器的潜力。</p><p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/57a4d0b68695cf6bdb0099aa5e07ae8e\" tg-width=\"706\" tg-height=\"360\"/></p><p><strong>2.Sora视频生成过程：视频编码+加噪降噪+视频解码</strong></p><p>从技术报告中，Sora视频生成过程大致由以下三个步骤组成：</p><blockquote><p><strong>视频编码</strong>：VisualEncoder将原始视频压缩为低维潜在空间，再将视频分解为时空patches后拉平为系列视频token以供transformer处理。</p><p><strong>加噪降噪：</strong>在transfomer架构下的扩散模型中，时空patches融合文本条件化，先后经过加噪和去噪，以达到可解码状态。</p><p><strong>视频解码：</strong>将去噪后的低维潜在表示映射回像素空间。</p></blockquote><p>总体而言，我们认为Sora技术报告虽未能详尽阐述视频生成技术细节，但从参考技术文献中，可初步窥探出时空patches、视频压缩网络、Transformer技术架构、独特文本标注视频数据集等技术与资源优势，这些或为Sora占据业内领先地位的原因。</p><p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/a80792e825c3973495f5cfa0cc29b7a8\" tg-width=\"1024\" tg-height=\"308\"/></p><h2 id=\"id_3566240890\">博采众长，Sora技术开拓创新</h2><p><strong>3.视频压缩网络实现降维，或为长视频生成基础</strong></p><p>OpenAI训练了降低视觉数据维度的网络，该网络接受原始视频作为输入，并输出在时间和空间上都被压缩的潜在表示。Sora在这个压缩的潜在空间上进行训练，并随后生成视频。与之对应，Sora训练了相应的解码器模型，将生成的潜在表示映射回像素空间。</p><p><strong>压缩网络本质上是将高维数据映射至低维空间，低维空间中每个点通常对应原始高维数据的潜在表示，在复杂性降低和细节保留之间达到最优平衡点，实现提升视觉保真度的同时降低算力资源消耗的作用。</strong></p><p>VAE为图片生成领域的常见图片编码器，应用到视频领域则需要加入时间维度以形成视频框架。例如，2023年发布的VideoLDM通过将视频拆解为每一帧，之后插入时间对齐层，从而实现了视频生成。</p><p>Sora从头训练了能直接压缩视频的自编码器，既能实现空间压缩图像，又能在时间上压缩视频。<strong>我们认为，在时空维度上压缩视频，既节省了算力资源，又最大程度上保留视频原始信息，或为Sora生成60s长视频的关键因素，并为后续时空patches和transfomer架构处理奠定基础。</strong></p><p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/93b598d1ae51479f7beb652c965bc06f\" tg-width=\"1024\" tg-height=\"348\"/></p><p><strong>4.1时空patches统一视频分割，奠定处理和理解复杂视觉内容的基石</strong></p><p>Sora借鉴LLM中将文本信息转化为token的思路，针对视频训练视觉patch，实现视觉数据模型的统一表达，实现对多样化视频和图像内容的有效处理和生成，<strong>之后通过视频压缩网络分解为时空patches，允许模型在时间和空间范围内进行信息交换和操作。</strong></p><p>从Sora技术报告来看，时空patches或借鉴<a href=\"https://laohu8.com/S/GOOG\">谷歌</a>ViViT操作。</p><p>ViViT借鉴ViT在图片分割上的思路，把输入的视频划分成若干个tuplet，每个tuplet会变成一个token，经过spatialtemperalattention进行空间和时间建模获得有效的视频表征token。</p><p>传统方法可能将视频简单分解为一系列连续的帧，因而忽略了视频中的空间信息，也就是在每一帧中物体的位置和运动。<strong>我们认为，由于连续帧存在时空连续性，Sora的时空patches可同时考虑视频中时间和空间关系，能够更加精准生成视频，捕捉到视频中细微的动作和变化，在保证视频内容连贯性和长度的同时，创造出丰富多样的视觉效果，灵活满足用户的各种需求。</strong></p><p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/e5b2e702869c2eb6a3fab8e19a2b31f0\" tg-width=\"1024\" tg-height=\"313\"/></p><p><strong>4.2Sora时空patches突破视频长宽比、分辨率等限制</strong></p><p>OpenAI表示，过去的图像和视频生成方法通常会将视频调整大小、裁剪或修剪为标准尺寸，而这损耗了视频生成的质量。例如，ViT通常需要将图像调整为固定的分辨率与尺寸进行处理，并仅能分解为固定数量的patches，因而限制了灵活处理不同尺寸、分辨率视频的建模。</p><p><strong>Sora或借鉴谷歌NaViT中“Patchn’Pack”的方法，在训练效率、模型适应性和推理灵活性等方面具有显著优势。</strong></p><blockquote><p>1）允许从不同图像中提取多个patch打包在一个序列中，从而实现可变分辨率并保持宽高比。</p><p>2）NaViT相比ViT具有较高计算性能。例如，使用四倍少的计算量，NaViT到达顶级ViT的性能。此外，NaViT可以在训练和微调过程中处理多种分辨率的图像，从而在各种分辨率下都能表现出优秀的性能，在推理成本方面给NaViT带来了显著的优势。</p></blockquote><p><strong>我们认为，经过patch化之后，Sora无需对数据进行裁剪，就能够对不同分辨率、持续时间和长宽比的视频和图像的原始数据进行训练，既极大程度上利用原始信息保障生成高质量图片或视频，又显著提升模型性能，节约训练与推理算力成本。</strong></p><p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/4c17ae4976671c49858f1c8107b533c9\" tg-width=\"635\" tg-height=\"297\"/></p><p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/2b384253f6d24868d49e5f855e3ddeec\" tg-width=\"475\" tg-height=\"595\"/></p><p>根据技术报告，Sora在原视频训练有以下优势：</p><blockquote><p><strong>采样灵活性：</strong>Sora可以采样宽屏1920x1080p视频、竖屏1080x1920视频以及介于两者之间的所有格式。这使得Sora能够直接按照不同设备的原生宽高比创建内容。它还允许在使用同一模型生成全分辨率内容之前，快速原型化较小尺寸的内容。</p><p><strong>改进的构图和画面组成：</strong>将Sora与一个版本的模型进行了比较，该模型将所有训练视频裁剪成正方形。在正方形裁剪上训练的模型有时会生成主体只部分出现在视野中的视频。相比之下，来自Sora的视频具有改善的取景。</p><p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/3a76cdfe51bd22b690b700d4c893787f\" tg-width=\"1024\" tg-height=\"327\"/></p></blockquote><p><strong>4.3Transformer架构突显Scalling Law的“暴力美学”</strong></p><p>扩散模型定义了扩散步骤的马尔科夫链，先通过向真实数据添加随机噪声，后反向学习扩散过程，从噪声中构建所需数据的样本，逐步降噪输出图片或视频。<strong>其中，U-Net为扩散模型的重要架构之一，通过训练U-Net预测噪声，逐步去噪后输入结果。</strong></p><p><strong>U-Net为卷积神经网络模型（CNN），在视频生成领域存在需裁剪数据与额外引入时间层等缺陷。</strong></p><blockquote><p>1）卷积神经网络由于架构限制，存在分辨率与长宽比约束，输入与输出的结果均需调整至标准化大小，可能产生性能损失与效率低下等问题。</p><p>2）U-Net的去噪模型在处理视频数据时，需额外加入一些和时间维度有关的操作，比如时间维度上的卷积、自注意力。在该过程涉及到时间注意力块嵌入位置问题，因而或较难处理长视频较多帧数的时间嵌入。</p></blockquote><p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/9d0028821846dd1b341faf718b8b12c9\" tg-width=\"1024\" tg-height=\"317\"/></p><p>OpenAI在2020年首次提出了模型训练的秘诀——ScalingLaw。根据ScalingLaw，模型性能会在大算力、大参数、大数据的基础上像摩尔定律一样持续提升，不仅适用于语言模型，也适用于多模态模型。</p><p><strong>Sora替换U-Net为DiT的transformer作为模型架构，具有两大优势：</strong></p><p>1）transformer可将输入视频分解为3Dpatch，类似DiT将图片分解为图块，不仅突破了分辨率、尺寸等限制，而且能够同时处理时间和空间多维信息；</p><p>2）transformer延续了OpenAI的ScalingLaw，具有较强的可拓展性，即参数规模越大、训练时长越长、训练数据集越大，生成视频的效果更好。例如，Sora随着训练次数的增加，小狗在雪地里的视频质量显著提升。</p><p>U-Net为扩散模型主导架构，主要系Transformer中全注意力机制的内存需求会随输入序列长度而二次方增长，高分辨率图像处理能力不足。在处理视频这样的高维信号时，这样的增长模式会让计算成本变得非常高。然而，<strong>我们认为，OpenAI背靠<a href=\"https://laohu8.com/S/MSFT\">微软</a>云计算资源，具有较强的算力禀赋支持其再次打造“ChatGPT”时刻的Sora，此外通过视频网络空间降维技术可起到节约算力资源的作用，进一步促成Sora的成功与巩固OpenAI的龙头地位。</strong></p><p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/a9c2963b8ced5a82e0a576bcd4ada17d\" tg-width=\"1024\" tg-height=\"263\"/></p><p><strong>4.4Sora在Transformer大规模训练下涌现模拟能力</strong></p><p><strong>Sora在大规模训练的“暴力美学”下，未经过明确的3D、物体等归纳信息的训练，逐步显现出规模效应，迸发了模型的涌现能力：</strong></p><blockquote><p><strong>3D一致性：</strong>Sora能够生成具有动态相机运动的视频。随着相机的移动和旋转，人物和场景元素在三维空间中保持一致地移动。</p><p><strong>长距离连贯性和物体持久性：</strong>Sora通常能够有效地建模短距离和长距离依赖关系。例如，即使在人、动物和物体被遮挡或离开画面时，也能持续保持它们的存在；在单个样本中生成同一角色的多个镜头，并在整个视频中保持其外观。</p><p><strong>与世界互动：</strong>Sora有时可以模拟一些简单的动作来影响世界的状态。例如，画家可以在画布上留下随时间持续存在的新笔触，或者一个人可以吃一个汉堡并留下咬痕。</p><p><strong>模拟数字世界：</strong>Sora可以在同时控制《我的世界》中的玩家采用基本策略的同时，还能以高保真度渲染世界及其动态。</p></blockquote><p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/bbe421fd5e1198c177eb19e2f479b4ea\" tg-width=\"1024\" tg-height=\"353\"/></p><p><strong>4.5数据来源或更为丰富，视频重标注技术展示强大语言理解能力</strong></p><p><strong>缺乏丰富的视频数据集以及如何对视频标注文本为文生视频的主要难点之一。</strong>从流行的Gen-2、EmuVideo等应用来看，这些模型通常先利用CLIP技术训练生成文本-图像对，之后加入时间层对视频进行标注，因而或许面临视频数据质量保证问题。</p><p>Sora训练数据集具有如下特点：</p><blockquote><p>数据来源或更为丰富。Sora技术报告未披露训练数据的详细情况，而我们认为从其涌现能力表现来看，Sora在训练数据中或许容纳了众多电影、纪录片、甚至游戏引擎等合成数据。</p><p>原生视频处理。不对视频/图片进行裁剪等预处理，从而保证Sora生成的灵活性。</p><p>Sora建立在过去DALL・E3和GPT模型的研究基础之上，构建视频re-captioning，使得模型具有强大的语言理解能力。原始的文本可能并不能很好的描述视频，可以通过re-captioning的方式为视觉训练数据生成高度描述性的字幕。因此，该模型能够在生成的视频中更忠实地遵循用户的文字提示。</p></blockquote><p class=\"t-img-caption\"><img src=\"https://static.tigerbbs.com/10508b740d87a0aaab9466cfb33cd2d6\" tg-width=\"1024\" tg-height=\"231\"/></p><p></p></body></html>","source":"wallstreetcn_hot_news","collect":0,"html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>横空出世！引领多模态产业革命！Sora技术深度解析</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\n横空出世！引领多模态产业革命！Sora技术深度解析\n</h2>\n\n<h4 class=\"meta\">\n\n\n2024-02-26 14:06 北京时间&nbsp;&nbsp;&nbsp;<a href=https://wallstreetcn.com/articles/3709020><strong>华尔街见闻</strong></a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\n<p>要点：Sora横空出世引领多模态产业革命。美国时间2月15日，文生视频大模型Sora横空出世，能够根据文本指令或静态图像生成1分钟的视频。其中，视频生成包含精细复杂的场景、生动的角色表情以及复杂的镜头运动，同时也接受现有视频扩展或填补缺失的帧。总体而言，不管是在视频的保真度、长度、稳定性、一致性、分辨率、文字理解等方面，Sora都做到了业内领先水平，引领多模态产业革命。此外，当Sora训练的数据量...</p>\n\n<a href=\"https://wallstreetcn.com/articles/3709020\">Web Link</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","type":0,"thumbnail":"https://static.tigerbbs.com/389750ba89fdd4ee8fa704451c4b0368","relate_stocks":{},"source_url":"https://wallstreetcn.com/articles/3709020","is_english":false,"share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","article_id":"2414102022","content_text":"要点：Sora横空出世引领多模态产业革命。美国时间2月15日，文生视频大模型Sora横空出世，能够根据文本指令或静态图像生成1分钟的视频。其中，视频生成包含精细复杂的场景、生动的角色表情以及复杂的镜头运动，同时也接受现有视频扩展或填补缺失的帧。总体而言，不管是在视频的保真度、长度、稳定性、一致性、分辨率、文字理解等方面，Sora都做到了业内领先水平，引领多模态产业革命。此外，当Sora训练的数据量足够大时，它也展现出了一种类似于涌现的能力，从而使得视频生成模型具备了类似于物理世界通用模拟器的潜力。拆解视频生成过程，技术博采众长或奠定了Sora文生视频领军地位。从技术报告中，Sora视频生成过程大致由“视频编码+加噪降噪+视频解码”三个步骤组成，视频压缩网络、时空patches、transformer架构、视频数据集等技术与资源在其中发挥了重要作用。视频压缩网络：过往VAE应用于视频领域通常需插入时间层，Sora从头训练了能直接压缩视频的自编码器，可同时实现时间和空间的压缩，既节省算力资源，又最大程度上保留视频原始信息，或为Sora生成长视频的关键因素，并为后续处理奠定基础。时空patches：1）同时考虑视频中时间和空间关系，能够捕捉到视频中细微的动作和变化，在保证视频内容连贯性和长度的同时，创造出丰富多样的视觉效果；2）突破视频分辨率、长宽比等限制的同时显著提升模型性能，节约训练与推理算力成本。Transformer架构：1）相比于U-Net架构，transformer突显ScalingLaw下的“暴力美学”，即参数规模越大、训练时长越长、训练数据集越大，生成视频的效果更好；2）此外，在transformer大规模训练下，逐步显现出规模效应，迸发了模型的涌现能力。视频数据集：Sora或采用了更丰富的视频数据集，在原生视频的基础上，将DALL・E3的re-captioning技术应用于视频领域，同时利用GPT保障文字-视频数据集质量，使得模型具有强大的语言理解能力。Sora引领多模态革命，技术与资源突显优势1.Sora横空出世，引领多模态产业革命美国时间2月15日，文生视频大模型Sora横空出世，能够根据文本指令或静态图像生成1分钟的视频。其中，视频生成包含精细复杂的场景、生动的角色表情以及复杂的镜头运动，同时也接受现有视频扩展或填补缺失的帧。总体而言，不管是在视频的保真度、长度、稳定性、一致性、分辨率、文字理解等方面，Sora都做到了业内领先水平，引领多模态产业革命。此外，当Sora训练的数据量足够大时，它也展现出了一种类似于涌现的能力，从而使得视频生成模型具备了类似于物理世界通用模拟器的潜力。2.Sora视频生成过程：视频编码+加噪降噪+视频解码从技术报告中，Sora视频生成过程大致由以下三个步骤组成：视频编码：VisualEncoder将原始视频压缩为低维潜在空间，再将视频分解为时空patches后拉平为系列视频token以供transformer处理。加噪降噪：在transfomer架构下的扩散模型中，时空patches融合文本条件化，先后经过加噪和去噪，以达到可解码状态。视频解码：将去噪后的低维潜在表示映射回像素空间。总体而言，我们认为Sora技术报告虽未能详尽阐述视频生成技术细节，但从参考技术文献中，可初步窥探出时空patches、视频压缩网络、Transformer技术架构、独特文本标注视频数据集等技术与资源优势，这些或为Sora占据业内领先地位的原因。博采众长，Sora技术开拓创新3.视频压缩网络实现降维，或为长视频生成基础OpenAI训练了降低视觉数据维度的网络，该网络接受原始视频作为输入，并输出在时间和空间上都被压缩的潜在表示。Sora在这个压缩的潜在空间上进行训练，并随后生成视频。与之对应，Sora训练了相应的解码器模型，将生成的潜在表示映射回像素空间。压缩网络本质上是将高维数据映射至低维空间，低维空间中每个点通常对应原始高维数据的潜在表示，在复杂性降低和细节保留之间达到最优平衡点，实现提升视觉保真度的同时降低算力资源消耗的作用。VAE为图片生成领域的常见图片编码器，应用到视频领域则需要加入时间维度以形成视频框架。例如，2023年发布的VideoLDM通过将视频拆解为每一帧，之后插入时间对齐层，从而实现了视频生成。Sora从头训练了能直接压缩视频的自编码器，既能实现空间压缩图像，又能在时间上压缩视频。我们认为，在时空维度上压缩视频，既节省了算力资源，又最大程度上保留视频原始信息，或为Sora生成60s长视频的关键因素，并为后续时空patches和transfomer架构处理奠定基础。4.1时空patches统一视频分割，奠定处理和理解复杂视觉内容的基石Sora借鉴LLM中将文本信息转化为token的思路，针对视频训练视觉patch，实现视觉数据模型的统一表达，实现对多样化视频和图像内容的有效处理和生成，之后通过视频压缩网络分解为时空patches，允许模型在时间和空间范围内进行信息交换和操作。从Sora技术报告来看，时空patches或借鉴谷歌ViViT操作。ViViT借鉴ViT在图片分割上的思路，把输入的视频划分成若干个tuplet，每个tuplet会变成一个token，经过spatialtemperalattention进行空间和时间建模获得有效的视频表征token。传统方法可能将视频简单分解为一系列连续的帧，因而忽略了视频中的空间信息，也就是在每一帧中物体的位置和运动。我们认为，由于连续帧存在时空连续性，Sora的时空patches可同时考虑视频中时间和空间关系，能够更加精准生成视频，捕捉到视频中细微的动作和变化，在保证视频内容连贯性和长度的同时，创造出丰富多样的视觉效果，灵活满足用户的各种需求。4.2Sora时空patches突破视频长宽比、分辨率等限制OpenAI表示，过去的图像和视频生成方法通常会将视频调整大小、裁剪或修剪为标准尺寸，而这损耗了视频生成的质量。例如，ViT通常需要将图像调整为固定的分辨率与尺寸进行处理，并仅能分解为固定数量的patches，因而限制了灵活处理不同尺寸、分辨率视频的建模。Sora或借鉴谷歌NaViT中“Patchn’Pack”的方法，在训练效率、模型适应性和推理灵活性等方面具有显著优势。1）允许从不同图像中提取多个patch打包在一个序列中，从而实现可变分辨率并保持宽高比。2）NaViT相比ViT具有较高计算性能。例如，使用四倍少的计算量，NaViT到达顶级ViT的性能。此外，NaViT可以在训练和微调过程中处理多种分辨率的图像，从而在各种分辨率下都能表现出优秀的性能，在推理成本方面给NaViT带来了显著的优势。我们认为，经过patch化之后，Sora无需对数据进行裁剪，就能够对不同分辨率、持续时间和长宽比的视频和图像的原始数据进行训练，既极大程度上利用原始信息保障生成高质量图片或视频，又显著提升模型性能，节约训练与推理算力成本。根据技术报告，Sora在原视频训练有以下优势：采样灵活性：Sora可以采样宽屏1920x1080p视频、竖屏1080x1920视频以及介于两者之间的所有格式。这使得Sora能够直接按照不同设备的原生宽高比创建内容。它还允许在使用同一模型生成全分辨率内容之前，快速原型化较小尺寸的内容。改进的构图和画面组成：将Sora与一个版本的模型进行了比较，该模型将所有训练视频裁剪成正方形。在正方形裁剪上训练的模型有时会生成主体只部分出现在视野中的视频。相比之下，来自Sora的视频具有改善的取景。4.3Transformer架构突显Scalling Law的“暴力美学”扩散模型定义了扩散步骤的马尔科夫链，先通过向真实数据添加随机噪声，后反向学习扩散过程，从噪声中构建所需数据的样本，逐步降噪输出图片或视频。其中，U-Net为扩散模型的重要架构之一，通过训练U-Net预测噪声，逐步去噪后输入结果。U-Net为卷积神经网络模型（CNN），在视频生成领域存在需裁剪数据与额外引入时间层等缺陷。1）卷积神经网络由于架构限制，存在分辨率与长宽比约束，输入与输出的结果均需调整至标准化大小，可能产生性能损失与效率低下等问题。2）U-Net的去噪模型在处理视频数据时，需额外加入一些和时间维度有关的操作，比如时间维度上的卷积、自注意力。在该过程涉及到时间注意力块嵌入位置问题，因而或较难处理长视频较多帧数的时间嵌入。OpenAI在2020年首次提出了模型训练的秘诀——ScalingLaw。根据ScalingLaw，模型性能会在大算力、大参数、大数据的基础上像摩尔定律一样持续提升，不仅适用于语言模型，也适用于多模态模型。Sora替换U-Net为DiT的transformer作为模型架构，具有两大优势：1）transformer可将输入视频分解为3Dpatch，类似DiT将图片分解为图块，不仅突破了分辨率、尺寸等限制，而且能够同时处理时间和空间多维信息；2）transformer延续了OpenAI的ScalingLaw，具有较强的可拓展性，即参数规模越大、训练时长越长、训练数据集越大，生成视频的效果更好。例如，Sora随着训练次数的增加，小狗在雪地里的视频质量显著提升。U-Net为扩散模型主导架构，主要系Transformer中全注意力机制的内存需求会随输入序列长度而二次方增长，高分辨率图像处理能力不足。在处理视频这样的高维信号时，这样的增长模式会让计算成本变得非常高。然而，我们认为，OpenAI背靠微软云计算资源，具有较强的算力禀赋支持其再次打造“ChatGPT”时刻的Sora，此外通过视频网络空间降维技术可起到节约算力资源的作用，进一步促成Sora的成功与巩固OpenAI的龙头地位。4.4Sora在Transformer大规模训练下涌现模拟能力Sora在大规模训练的“暴力美学”下，未经过明确的3D、物体等归纳信息的训练，逐步显现出规模效应，迸发了模型的涌现能力：3D一致性：Sora能够生成具有动态相机运动的视频。随着相机的移动和旋转，人物和场景元素在三维空间中保持一致地移动。长距离连贯性和物体持久性：Sora通常能够有效地建模短距离和长距离依赖关系。例如，即使在人、动物和物体被遮挡或离开画面时，也能持续保持它们的存在；在单个样本中生成同一角色的多个镜头，并在整个视频中保持其外观。与世界互动：Sora有时可以模拟一些简单的动作来影响世界的状态。例如，画家可以在画布上留下随时间持续存在的新笔触，或者一个人可以吃一个汉堡并留下咬痕。模拟数字世界：Sora可以在同时控制《我的世界》中的玩家采用基本策略的同时，还能以高保真度渲染世界及其动态。4.5数据来源或更为丰富，视频重标注技术展示强大语言理解能力缺乏丰富的视频数据集以及如何对视频标注文本为文生视频的主要难点之一。从流行的Gen-2、EmuVideo等应用来看，这些模型通常先利用CLIP技术训练生成文本-图像对，之后加入时间层对视频进行标注，因而或许面临视频数据质量保证问题。Sora训练数据集具有如下特点：数据来源或更为丰富。Sora技术报告未披露训练数据的详细情况，而我们认为从其涌现能力表现来看，Sora在训练数据中或许容纳了众多电影、纪录片、甚至游戏引擎等合成数据。原生视频处理。不对视频/图片进行裁剪等预处理，从而保证Sora生成的灵活性。Sora建立在过去DALL・E3和GPT模型的研究基础之上，构建视频re-captioning，使得模型具有强大的语言理解能力。原始的文本可能并不能很好的描述视频，可以通过re-captioning的方式为视觉训练数据生成高度描述性的字幕。因此，该模型能够在生成的视频中更忠实地遵循用户的文字提示。","news_type":1},"isVote":1,"tweetType":1,"viewCount":1282,"commentLimit":10,"likeStatus":false,"favoriteStatus":false,"reportStatus":false,"symbols":[],"verified":2,"subType":0,"readableState":1,"langContent":"CN","currentLanguage":"CN","warmUpFlag":false,"orderFlag":false,"shareable":true,"causeOfNotShareable":"","featuresForAnalytics":[],"commentAndTweetFlag":false,"andRepostAutoSelectedFlag":false,"upFlag":false,"length":27,"xxTargetLangEnum":"ZH_CN"},"commentList":[],"hasMoreComment":false,"orderType":2}