字節(jié)跳動自主研發(fā)AI GPU,旨在減少對英偉達依賴快訊
這將有助于字節(jié)跳動降低對英偉達的依賴,字節(jié)跳動期望在2026年實現(xiàn)這些GPU的大規(guī)模生產(chǎn)及部署,盡管字節(jié)跳動的新GPU可能會受到美國出口管制的限制。
【TechWeb】據(jù)媒體報道,字節(jié)跳動正在開發(fā)兩款專門用于人工智能領(lǐng)域的GPU,并計劃到2026年實現(xiàn)大規(guī)模量產(chǎn)。據(jù)悉,這兩款A(yù)I GPU將由臺積電負責(zé)制造,這將有助于字節(jié)跳動降低對英偉達的依賴,并且符合美國的出口管控法規(guī)。
目前,這兩款GPU正處于設(shè)計階段,一款專為AI訓(xùn)練設(shè)計,另一款則用于AI推理。預(yù)計它們將采用臺積電的先進制程技術(shù)N4或N5生產(chǎn),與英偉達的Blackwell系列制程技術(shù)相似。字節(jié)跳動期望在2026年實現(xiàn)這些GPU的大規(guī)模生產(chǎn)及部署。
今年,字節(jié)跳動已經(jīng)投入超過20億美元購買超過20萬臺英偉達H20 GPU,單價約為10000美元,其中許多訂單尚未交付。由于市場上英偉達GPU供不應(yīng)求且價格高昂,字節(jié)跳動決定開發(fā)自家的人工智能硬件。
英偉達為了應(yīng)對去年美國實施的出口管控政策,為中國市場特別設(shè)計了DGX H20等產(chǎn)品。盡管HGX H20的性能相比英偉達的高端H100有所削減,但它仍然配備了96GB的HBM3內(nèi)存、最高4TB/s的內(nèi)存帶寬和8路GPU互聯(lián)能力,因此在實際應(yīng)用中仍然受到企業(yè)客戶的青睞。盡管字節(jié)跳動的新GPU可能會受到美國出口管制的限制,無法在性能上超越HGX H20,但其成本將大幅降低。
字節(jié)跳動在自主開發(fā)AI GPU方面面臨的最大挑戰(zhàn)是,公司目前依賴英偉達的CUDA及相應(yīng)軟件棧進行AI訓(xùn)練和推理。如果轉(zhuǎn)向自家GPU,字節(jié)跳動將需要開發(fā)新的軟件平臺,并確保軟件與硬件的兼容性。
1.TMT觀察網(wǎng)遵循行業(yè)規(guī)范,任何轉(zhuǎn)載的稿件都會明確標注作者和來源;
2.TMT觀察網(wǎng)的原創(chuàng)文章,請轉(zhuǎn)載時務(wù)必注明文章作者和"來源:TMT觀察網(wǎng)",不尊重原創(chuàng)的行為TMT觀察網(wǎng)或?qū)⒆肪控?zé)任;
3.作者投稿可能會經(jīng)TMT觀察網(wǎng)編輯修改或補充。