打入AI底层！NUS尤洋团队用扩散模型构建神经网络参数，LeCun点赞

量子位02-25

扩散模型，迎来了一项重大新应用——像Sora生成视频一样，给神经网络生成参数，直接打入了AI的底层！这就是新加坡国立大学尤洋教授团队联合UCB、Meta AI实验室等机构最新开源的研究成果。具体来说，研究团队提出了一种用于生成神经网络参数的扩散模型p(arameter)-diff。用它来生成网络参数，速度比直接训练最多提高44倍，而且表现毫不逊色。这一模型一经发布，就迅速在AI社区引发强烈讨论，...

网页链接

免责声明：本文观点仅代表作者个人观点，不构成本平台的投资建议，本平台不对文章信息准确性、完整性和及时性做出任何保证，亦不对因使用或信赖文章信息引发的任何损失承担责任。

精彩评论

我们需要你的真知灼见来填补这片空白

发表看法

{"i18n":{"language":"zh_CN"},"isChannel":false,"data":{"share":"https://www.laohu8.com/m/news/2414531120?lang=zh_CN&edition=full","thumbnail":"","is_english":false,"pubTime":"2024-02-25 13:10","share_image_url":"https://static.laohu8.com/e9f99090a1c2ed51c021029395664489","id":"2414531120","market":"hk","top_or_hot":-1,"title":"打入AI底层！NUS尤洋团队用扩散模型构建神经网络参数，LeCun点赞","media":"量子位","content":"<div>\n<p>扩散模型，迎来了一项重大新应用——像Sora生成视频一样，给神经网络生成参数，直接打入了AI的底层！这就是新加坡国立大学尤洋教授团队联合UCB、Meta AI实验室等机构最新开源的研究成果。具体来说，研究团队提出了一种用于生成神经网络参数的扩散模型p(arameter)-diff。用它来生成网络参数，速度比直接训练最多提高44倍，而且表现毫不逊色。这一模型一经发布，就迅速在AI社区引发强烈讨论，...</p>\n\n<a href=\"https://tech.ifeng.com/c/8XSfps64G6E\">网页链接</a>\n\n</div>\n","source":"ifeng_tech","html":"<!DOCTYPE html>\n<html>\n<head>\n<meta http-equiv=\"Content-Type\" content=\"text/html; charset=utf-8\" />\n<meta name=\"viewport\" content=\"width=device-width,initial-scale=1.0,minimum-scale=1.0,maximum-scale=1.0,user-scalable=no\"/>\n<meta name=\"format-detection\" content=\"telephone=no,email=no,address=no\" />\n<title>打入AI底层！NUS尤洋团队用扩散模型构建神经网络参数，LeCun点赞</title>\n<style type=\"text/css\">\na,abbr,acronym,address,applet,article,aside,audio,b,big,blockquote,body,canvas,caption,center,cite,code,dd,del,details,dfn,div,dl,dt,\nem,embed,fieldset,figcaption,figure,footer,form,h1,h2,h3,h4,h5,h6,header,hgroup,html,i,iframe,img,ins,kbd,label,legend,li,mark,menu,nav,\nobject,ol,output,p,pre,q,ruby,s,samp,section,small,span,strike,strong,sub,summary,sup,table,tbody,td,tfoot,th,thead,time,tr,tt,u,ul,var,video{ font:inherit;margin:0;padding:0;vertical-align:baseline;border:0 }\nbody{ font-size:16px; line-height:1.5; color:#999; background:transparent; }\n.wrapper{ overflow:hidden;word-break:break-all;padding:10px; }\nh1,h2{ font-weight:normal; line-height:1.35; margin-bottom:.6em; }\nh3,h4,h5,h6{ line-height:1.35; margin-bottom:1em; }\nh1{ font-size:24px; }\nh2{ font-size:20px; }\nh3{ font-size:18px; }\nh4{ font-size:16px; }\nh5{ font-size:14px; }\nh6{ font-size:12px; }\np,ul,ol,blockquote,dl,table{ margin:1.2em 0; }\nul,ol{ margin-left:2em; }\nul{ list-style:disc; }\nol{ list-style:decimal; }\nli,li p{ margin:10px 0;}\nimg{ max-width:100%;display:block;margin:0 auto 1em; }\nblockquote{ color:#B5B2B1; border-left:3px solid #aaa; padding:1em; }\nstrong,b{font-weight:bold;}\nem,i{font-style:italic;}\ntable{ width:100%;border-collapse:collapse;border-spacing:1px;margin:1em 0;font-size:.9em; }\nth,td{ padding:5px;text-align:left;border:1px solid #aaa; }\nth{ font-weight:bold;background:#5d5d5d; }\n.symbol-link{font-weight:bold;}\n/* header{ border-bottom:1px solid #494756; } */\n.title{ margin:0 0 8px;line-height:1.3;color:#ddd; }\n.meta {color:#5e5c6d;font-size:13px;margin:0 0 .5em; }\na{text-decoration:none; color:#2a4b87;}\n.meta .head { display: inline-block; overflow: hidden}\n.head .h-thumb { width: 30px; height: 30px; margin: 0; padding: 0; border-radius: 50%; float: left;}\n.head .h-content { margin: 0; padding: 0 0 0 9px; float: left;}\n.head .h-name {font-size: 13px; color: #eee; margin: 0;}\n.head .h-time {font-size: 11px; color: #7E829C; margin: 0;line-height: 11px;}\n.small {font-size: 12.5px; display: inline-block; transform: scale(0.9); -webkit-transform: scale(0.9); transform-origin: left; -webkit-transform-origin: left;}\n.smaller {font-size: 12.5px; display: inline-block; transform: scale(0.8); -webkit-transform: scale(0.8); transform-origin: left; -webkit-transform-origin: left;}\n.bt-text {font-size: 12px;margin: 1.5em 0 0 0}\n.bt-text p {margin: 0}\n</style>\n</head>\n<body>\n<div class=\"wrapper\">\n<header>\n<h2 class=\"title\">\n打入AI底层！NUS尤洋团队用扩散模型构建神经网络参数，LeCun点赞\n</h2>\n\n<h4 class=\"meta\">\n\n\n2024-02-25 13:10 北京时间&nbsp;&nbsp;&nbsp;<a href=https://tech.ifeng.com/c/8XSfps64G6E><strong>量子位</strong></a>\n\n\n</h4>\n\n</header>\n<article>\n<div>\n<p>扩散模型，迎来了一项重大新应用——像Sora生成视频一样，给神经网络生成参数，直接打入了AI的底层！这就是新加坡国立大学尤洋教授团队联合UCB、Meta AI实验室等机构最新开源的研究成果。具体来说，研究团队提出了一种用于生成神经网络参数的扩散模型p(arameter)-diff。用它来生成网络参数，速度比直接训练最多提高44倍，而且表现毫不逊色。这一模型一经发布，就迅速在AI社区引发强烈讨论，...</p>\n\n<a href=\"https://tech.ifeng.com/c/8XSfps64G6E\">网页链接</a>\n\n</div>\n\n\n</article>\n</div>\n</body>\n</html>\n","isBrief":false,"type":0,"news_type":1,"symbol":"BK4183","symbol_name":"个人用品","start_time":0,"source_url":"https://tech.ifeng.com/c/8XSfps64G6E","article_id":"2414531120","we_media_id":null,"thumbnails":[],"rights":null,"url":"https://stock-news.laohu8.com/highlight/detail?id=2414531120","pubTimestamp":1708837842,"sourceInfo":{"source_id":"ifeng_tech","name":"凤凰网财经"},"weMediaInfo":null,"summary":"扩散模型，迎来了一项重大新应用——像Sora生成视频一样，给神经网络生成参数，直接打入了AI的底层！具体来说，研究团队提出了一种用于生成神经网络参数的扩散模型p-diff。这一模型一经发布，就迅速在AI社区引发强烈讨论，圈内人士对此的惊叹，毫不亚于普通人看到Sora时的反应。就连AI巨头LeCun看了之后，也点赞了这一成果，表示这真的是个cute idea。将自编码器与扩散模型结合要弄清这个问题，首先要了解一下扩散模型和神经网络各自的工作特点。","collect":0,"end_time":0,"defaultTopTitle":"ifeng.com","property":[],"viewcount":null,"language":"zh","relate_stocks":{"BK4183":"个人用品","BK4532":"文艺复兴科技持仓","NUS":"如新集团","BK4585":"ETF&股票定投概念"},"translate_title":"Into the bottom of AI! NUS Youyang team used diffusion model to build neural network parameters, and LeCun praised it","themeId":null,"isJumpTheme":false,"ttsUrl":null,"symbols_score_info":{"NUS":1},"content_text":"扩散模型，迎来了一项重大新应用——像Sora生成视频一样，给神经网络生成参数，直接打入了AI的底层！这就是新加坡国立大学尤洋教授团队联合UCB、Meta AI实验室等机构最新开源的研究成果。具体来说，研究团队提出了一种用于生成神经网络参数的扩散模型p(arameter)-diff。用它来生成网络参数，速度比直接训练最多提高44倍，而且表现毫不逊色。这一模型一经发布，就迅速在AI社区引发强烈讨论，圈内人士对此的惊叹，毫不亚于普通人看到Sora时的反应。甚至有人直接惊呼，这基本上相当于AI在创造新的AI了。就连AI巨头LeCun看了之后，也点赞了这一成果，表示这真的是个cute idea。而实质上，p-diff也确实具有和Sora一样重大的意义，对此同实验室的Fuzhao Xue（薛复昭）博士进行了详细解释：Sora生成高维数据，即视频，这使得Sora成为世界模拟器（从一个维度接近AGI）。而这项工作，神经网络扩散，可以生成模型中的参数，具有成为元世界级学习器/优化器的潜力，从另一个新的重要维度向AGI迈进。言归正传，p-diff到底是如何生成神经网络参数的呢？将自编码器与扩散模型结合要弄清这个问题，首先要了解一下扩散模型和神经网络各自的工作特点。扩散生成过程，是从随机分布到高度特定分布的转变，通过复合噪声添加，将视觉信息降级为简单噪声分布。而神经网络训练，同样遵循这样的转变过程，也同样可以通过添加噪声的方式来降级，研究人员正是在这一特点的启发之下提出p-diff方法的。从结构上看，p-diff是研究团队在标准潜扩散模型的基础之上，结合自编码器设计的。研究者首先从训练完成、表现较好的网络参数中选取一部分，并展开为一维向量形式。然后用自编码器从一维向量中提取潜在表示，作为扩散模型的训练数据，这样做可以捕捉到原有参数的关键特征。训练过程中，研究人员让p-diff通过正向和反向过程来学习参数的分布，完成后，扩散模型像生成视觉信息的过程一样，从随机噪声中合成这些潜在表示。最后，新生成的潜在表示再被与编码器对应的解码器还原成网络参数，并用于构建新模型。下图是通过p-diff、使用3个随机种子从头开始训练的ResNet-18模型的参数分布，展示了不同层之间以及同一层不同参数之间的分布模式。为了评估p-diff所生成参数的质量，研究人员利用3种类型、每种两个规模的神经网络，在8个数据集上对其进行了测试。下表中，每组的三个数字依次表示原始模型、集成模型和用p-diff生成的模型的测评成绩。结果可以看到，用p-diff生成的模型表现基本都接近甚至超过了人工训练的原始模型。效率上，在不损失准确度的情况下，p-diff生成ResNet-18网络的速度是传统训练的15倍，生成Vit-Base的速度更是达到了44倍。额外的测试结果证明，p-diff生成的模型与训练数据有显著差异。从下图（a）可以看到，p-diff生成的模型之间的相似度低于各原始模型之间的相似度，以及p-diff与原始模型的相似度。而从（b）和（c）中可知，与微调、噪声添加方式相比，p-diff的相似度同样更低。这些结果说明，p-diff是真正生成了新的模型，而非仅仅记忆训练样本，同时也表明其具有良好的泛化能力，能够生成与训练数据不同的新模型。目前，p-diff的代码已经开源，感兴趣的话可以到GitHub中查看。","kind":null,"is_publish_news":true,"is_publish_highlight":false,"is_publish_live":null,"is_publish_wemedia":null,"editions":null,"column":"","sentiment":"0","news_tag":"","news_rank":0,"symbols":[],"gpt_button":1},"commentList":[],"isCommentEnd":true,"newsSizeData":{"likeSize":0,"commentSize":0,"repostSize":0,"favoriteSize":0,"likeStatus":false,"favoriteStatus":false},"APP":{"userAgent":"Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko; compatible; ClaudeBot/1.0; +claudebot@anthropic.com)","isDev":false,"isTTM":false,"deviceId":"web-server-community-laohu8-v3","version":"4.25.1","shortVersion":"4.25.1","platform":"web","vendor":"web","appName":"laohu8","isIOS":false,"isAndroid":false,"isTiger":false,"isTHS":false,"isWeiXin":false,"isWeiXinMini":false,"isWeiBo":false,"isQQ":false,"isBaiduSwan":false,"isBaiduBox":false,"isDingTalk":false,"isToutiao":false,"isOnePlus":false,"isHuaWei":false,"isXiaomi":false,"isXiaomiWebView":false,"isOppo":false,"isVivo":false,"isSamsung":false,"isMobile":false},"href":"/m/news/2414531120"}