(全球TMT2024年12月12日讯)近日,IBM发布了其在光学技术方面的突破性研究成果,有望显著提高数据中心训练和运行生成式AI模型的效率。IBM研究人员开发的新一代光电共封装(co-packaged optics,CPO)工艺,通过光学技术实现数据中心内部的光速连接,为现有的短距离光缆提供了有力补充。通过设计和组装首个宣布成功的聚合物光波导(PWG),IBM研究人员展示了光电共封装技术将如何重新定义计算行业在芯片、电路板和服务器之间的高带宽数据传输。
IBM展示的其全球首发、可实现高速光学连接的光电共封装原型,可大幅提高数据中心的通信带宽,最大限度地减少GPU停机时间,同时大幅加快AI工作速度。与中距电气互连装置相比,该技术能耗降低5倍以上,同时将数据中心互连电缆的长度从1米延长至数百米。使用光电共封装技术训练大型语言模型的速度比传统电线快近五倍,从而将标准大语言模型的训练时间大幅缩短。此外,在最新光电共封装技术的加持下,每训练一个AI模型所节省的电量,相当于5000个美国家庭的年耗电量总和。该项目的设计、建模和模拟工作在美国纽约州奥尔巴尼完成,其原型组装和模块测试则由位于加拿大魁北克省布罗蒙的IBM实验室承接。
海量资讯、精准解读,尽在新浪财经APP
精彩评论