IBM在光學(xué)技術(shù)方面獲得新進(jìn)展,有望提升數(shù)據(jù)中心訓(xùn)練和運(yùn)行生成式AI模型的效率。
據(jù)報(bào)道,IBM推出了新一代光電共封裝(CPO)工藝。該技術(shù)利用光學(xué)連接,實(shí)現(xiàn)了數(shù)據(jù)中心內(nèi)部的光速數(shù)據(jù)傳輸,大大補(bǔ)充了現(xiàn)有的短距離光纜系統(tǒng),有望重新定義計(jì)算行業(yè)在芯片、電路板和服務(wù)器之間的高帶寬數(shù)據(jù)傳輸,以及最大限度地減少GPU停機(jī)時(shí)間,同時(shí)大幅加快AI工作速度。
據(jù)悉,這一新技術(shù)具有顯著優(yōu)勢(shì)。首先,極大地降低了規(guī)?;瘧?yīng)用生成式AI的成本。與中距離電氣互連裝置相比,光電共封裝技術(shù)的能耗降低了五倍以上。其次,該技術(shù)顯著提高了AI模型的訓(xùn)練速度。與傳統(tǒng)的電線相比,使用光電共封裝技術(shù)訓(xùn)練大型語言模型的速度幾乎提升了五倍。此外,光電共封裝技術(shù)還可顯著提升了數(shù)據(jù)中心的能效。