憑借發(fā)布的新品，AMD正式向英偉達的AI芯片王者地位發(fā)起挑戰(zhàn)。

美東時間6月13日周二，AMD舉行了新品發(fā)布會，其中最重磅的新品當屬性用于訓(xùn)練大模型的ADM最先進GPU Instinct MI300。

(資料圖)

AMD CEO蘇姿豐介紹，生成式AI和大語言模型（LLM）需要電腦的算力和內(nèi)存大幅提高。她預(yù)計，今年，數(shù)據(jù)中心AI 加速器的市場將達到300億美元左右，到2027 年將超過1500 億美元，復(fù)合年增長率超過 50%。

蘇姿豐演示介紹，AMD的Instinct MI300A號稱全球首款針對AI和高性能計算（HPC）的加速處理器（APU）加速器。在13個小芯片中遍布1460億個晶體管。

它采用CDNA 3 GPU架構(gòu)和24個Zen 4 CPU內(nèi)核，配置128GB的HBM3內(nèi)存。相比前代MI250，MI300的性能提高八倍，效率提高五倍。AMD在發(fā)布會稍早介紹，新的Zen 4c內(nèi)核比標準的Zen 4內(nèi)核密度更高，比標準Zen 4的內(nèi)核小35%，同時保持100%的軟件兼容性。

AMD推出一款GPU專用的MI300，即MI300X，該芯片是針對LLM的優(yōu)化版，擁有192GB的HBM3內(nèi)存、5.2TB/秒的帶寬和 896GB/秒的Infinity Fabric 帶寬。AMD將1530億個晶體管集成在共12個5納米的小芯片中。

AMD稱，MI300X提供的HBM密度最高是英偉達AI芯片H100的2.4倍，其HBM帶寬最高是H100的1.6倍。這意味著，AMD的芯片可以運行比英偉達芯片更大的模型。

蘇姿豐介紹，MI300X可以支持400億個參數(shù)的Hugging Face AI 模型運行，并演示了讓這個LLM寫一首關(guān)于舊金山的詩。這是全球首次在單個GPU上運行這么大的模型。單個MI300X可以運行一個參數(shù)多達800億的模型。

LLM需要的GPU更少，給開發(fā)者帶來的直接好處就是，可以節(jié)約成本。

AMD還發(fā)布了AMD Instinct 平臺，它擁有八個MI300X，采用行業(yè)標準OCP設(shè)計，提供總計1.5TB 的HBM3 內(nèi)存。

蘇姿豐稱，適用于CPU和GPU的版本MI300A現(xiàn)在就已出樣，MI300X和八個GPU的Instinct 平臺將在今年第三季度出樣，第四季度正式推出。

亞馬遜、微軟、Meta已經(jīng)或?qū)⒁\用AMD新品

除了AI芯片，AMD此次發(fā)布會還介紹了第四代EPYC（霄龍）處理器，特別是在全球可用的云實例方面的進展。

AMD第四代EPYC（霄龍）在云工作負載的性能是英特爾競品處理器的1.8倍，在企業(yè)工作負載中的處理速度是英特爾競品的1.9倍。

AMD稱，第四代EPYC（霄龍）啟用新的Zen 4c內(nèi)核，比英特爾Xeon 8490H的效率高1.9倍。由于絕大多數(shù)AI在CPU上運行，AMD在CPU AI領(lǐng)域具有絕對的領(lǐng)先優(yōu)勢。

亞馬遜周二宣布，在用AWS Nitro和第四代EPYC 處理器打造新的實例。亞馬遜云的EC2 M7a實例現(xiàn)已提供預(yù)覽版，性能比M6a實例高50%。

AMD也將在內(nèi)部工作中運用EC2 M7a實例，包括芯片設(shè)計的EDA軟件。AMD還宣布，今年7月，甲骨文將推出Genoa E5實例。

AMD發(fā)布的EPYC Bergamo處理器是業(yè)界首款x86原生CPU，有128個內(nèi)核，每個插槽256個線程。這意味著一個普通的2U 4 節(jié)點平臺將有 2048 個線程。

Bergamo比前代Milan的性能高2.5倍，現(xiàn)在就可以向AMD的云客戶發(fā)貨。

Meta的公司代表介紹，Meta在基礎(chǔ)設(shè)施中使用EPYC處理器。Meta也對基于AMD的處理器設(shè)計開源。Meta方面稱，計劃為其基礎(chǔ)設(shè)施使用云處理器Bergamo，還要將Bergamo用于其存儲平臺。

AMD同時推出本周二上市的CPU Genoa-X。它將增加超過1GB 的96核L3緩存。它共有四個SKU，16到 96 個內(nèi)核。因為SP5插槽兼容，所以它可以與現(xiàn)有的EPYC 平臺一起使用。

微軟的公司代表和AMD一道展示了微軟云Azure HPC的性能，在EPYC處理器的幫助下，Azure四年內(nèi)的性能提升四倍。

Azure宣布，搭載Genoa-X的HBv4和HX系列實例、以及新的HBv3實例全面上市。Azure還稱，性能最高可較市面基準提升5.7倍。

AMD此前通過收購Pensando獲得DPU技術(shù)。此次AMD稱，其P4 DPU架構(gòu)是世界上最智能的DPU，它能減少數(shù)據(jù)中心的網(wǎng)絡(luò)開銷，并提高了服務(wù)器的可管理性。AMD的Pensando SmartNICs是這種新數(shù)據(jù)中心架構(gòu)不可或缺的組成部分。

AMD還提到有自己的AI芯片軟件，名為ROCm。AMD總裁Victor Peng稱，在構(gòu)建強大的軟件堆棧方面，AMD取得了真正的巨大進步，ROCm軟件?？膳c模型、庫、框架和工具的開放生態(tài)系統(tǒng)配合使用。

風(fēng)險提示及免責條款 市場有風(fēng)險，投資需謹慎。本文不構(gòu)成個人投資建議，也未考慮到個別用戶特殊的投資目標、財務(wù)狀況或需要。用戶應(yīng)考慮本文中的任何意見、觀點或結(jié)論是否符合其特定狀況。據(jù)此投資，責任自負。

關(guān)鍵詞：