Meta發(fā)力AI:官宣訓(xùn)練和推理芯片項(xiàng)目,首款定制AI芯片超低功耗-環(huán)球快看
繼利用人工智能(AI)提升廣告效果后,Meta又在芯片上發(fā)力。
美東時(shí)間5月18日Meta披露了旗下數(shù)據(jù)中心項(xiàng)目支持AI工作的細(xì)節(jié),提到已經(jīng)打造一款定制芯片,簡稱MTIA,用于加快生成式AI模型的訓(xùn)練。這是Meta首次推出AI定制芯片。Meta稱,MTIA是加快AI訓(xùn)練和推理工作負(fù)載的芯片“家族”的一分子。
(資料圖)
MTIA全稱為Meta訓(xùn)練和推理加速器。所謂推理是指運(yùn)行經(jīng)過訓(xùn)練的模型。MTIA是一種ASIC,也就是將不同電路集成在一塊板上的芯片,可以將它進(jìn)行編程,執(zhí)行一項(xiàng)或多項(xiàng)任務(wù)。
Meta介紹,MTIA采用開源芯片架構(gòu)RISC-V,它的功耗僅有25瓦,遠(yuǎn)低于英偉達(dá)等主流芯片廠商的產(chǎn)品功耗。
Meta稱,2020年設(shè)計(jì)了第一代MTIA芯片,采用7納米工藝,那是同名MTIA項(xiàng)目的部分工作。打造第一代芯片的目的是提高推薦模型的效率,那些模型服務(wù)于廣告和其他新聞推送內(nèi)容。一代MTIA可以將內(nèi)部128MB的內(nèi)存擴(kuò)展到高達(dá)128GB。在Meta設(shè)計(jì)的基準(zhǔn)測試中,它處理了低等和中等復(fù)雜度的AI模型,效率比GPU高。
Meta的軟件工程師Joel Cohurn介紹新芯片時(shí)稱,Meta最初用圖形處理單元(GPU)執(zhí)行推理任務(wù),發(fā)現(xiàn)GPU不太適合這種工作。用GPU固然可以大幅優(yōu)化軟件,但對真實(shí)模型的效率很低,現(xiàn)實(shí)配置時(shí)難度大、成本高。所以Meta需要MTIA。
Meta承認(rèn),MTIA芯片在處理高復(fù)雜度AI模型時(shí)遇到了問題,但指出,它比競品芯片能更有效地處理中低復(fù)雜度的模型。
Meta表示,芯片在內(nèi)存和網(wǎng)絡(luò)領(lǐng)域的工作還未完成,隨著AI模型發(fā)展,這些工作會出現(xiàn)瓶頸。目前,MTIA 的重點(diǎn)放在Meta應(yīng)用家族的推理,而不是訓(xùn)練。不過Meta 強(qiáng)調(diào),MTIA“大大”提高了單位瓦特的推薦負(fù)載運(yùn)行效率,讓公司能運(yùn)行加強(qiáng)版的、更尖端的AI工作負(fù)載。
Meta本周四并未披露配置新芯片的時(shí)間表,也未說明具體有什么計(jì)劃開發(fā)可能訓(xùn)練模型的芯片。
Meta同時(shí)介紹,計(jì)劃針對以AI為核心的網(wǎng)絡(luò)和冷卻系統(tǒng),重新設(shè)計(jì)其數(shù)據(jù)中心,今年內(nèi),首個(gè)相關(guān)數(shù)據(jù)中心的設(shè)施將破土動工。Meta的員工演示時(shí)稱,新設(shè)計(jì)的成本將降低31%,而且建造速度是公司目前數(shù)據(jù)中心的兩倍。
Meta還介紹了旗下的一種AI驅(qū)動系統(tǒng),它可幫助Meta的工程師編寫電腦代碼。Meta的AI助力代碼工具名為CodeCompose,目前沒有對外公開。公司團(tuán)隊(duì)內(nèi)部用它獲取Python 和其他語言的代碼建議。
今年ChatGPT掀起AI的熱潮后,Meta正在努力追趕其他硅谷巨頭加速開發(fā)AI功能的腳步。
2月Meta推出針對研究社區(qū)的大型語言模型LLaMA ,不同于ChatGPT和必應(yīng)這類聊天機(jī)器人,它是開源的“研究工具”,可以在非商業(yè)許可下提供給政府、社區(qū)和學(xué)術(shù)界的研究人員和實(shí)體工作者。當(dāng)月有報(bào)道稱,Meta將AI率先用于廣告功能,推出名為Advantage+的廣告產(chǎn)品,針對不同的用戶,讓AI根據(jù)算法自動生成廣告。
上月初傳出Meta年底前推出AI廣告工具的消息。Meta首席技術(shù)官Andrew Bosworth當(dāng)時(shí)說,Meta將推出生成廣告圖像的AI工具,幫助公司針對不同的受眾制作不同的圖像。
上月末Meta公布了優(yōu)于預(yù)期的一季度業(yè)績,并承諾要對火爆的AI領(lǐng)域加大押注。Meta的CEO扎克伯格評價(jià)一季度業(yè)績時(shí)稱,AI推動App和業(yè)務(wù)取得良好成果,還在業(yè)績電話會上說,對AI和元宇宙要兩手抓。
在Meta本周四官宣之前,其他科技巨頭已有定制AI芯片的動作。
谷歌用簡稱TPU的處理器訓(xùn)練PaLM-2等旗下大型生成式AI系統(tǒng)。亞馬遜為云服務(wù)AWS的客戶提供訓(xùn)練和推理的專屬芯片。上月媒體稱,微軟在與AMD合作開發(fā)名為Athena的自有AI芯片。
風(fēng)險(xiǎn)提示及免責(zé)條款 市場有風(fēng)險(xiǎn),投資需謹(jǐn)慎。本文不構(gòu)成個(gè)人投資建議,也未考慮到個(gè)別用戶特殊的投資目標(biāo)、財(cái)務(wù)狀況或需要。用戶應(yīng)考慮本文中的任何意見、觀點(diǎn)或結(jié)論是否符合其特定狀況。據(jù)此投資,責(zé)任自負(fù)。關(guān)鍵詞: