在人工智能（AI）領(lǐng)域，芯片的性能直接關(guān)系到訓(xùn)練和推理的速度與效率。近年來，英偉達(dá)憑借其強(qiáng)大的GPU技術(shù)在數(shù)據(jù)中心和AI市場中占據(jù)了主導(dǎo)地位。然而，AMD作為另一家芯片巨頭，也在不斷推出高性能的AI芯片，試圖撼動英偉達(dá)的市場地位。2024年10月10日，AMD在舊金山舉行的…
在人工智能（AI）領(lǐng)域，芯片的性能直接關(guān)系到訓(xùn)練和推理的速度與效率。近年來，英偉達(dá)憑借其強(qiáng)大的GPU技術(shù)在數(shù)據(jù)中心和AI市場中占據(jù)了主導(dǎo)地位。然而，AMD作為另一家芯片巨頭，也在不斷推出高性能的AI芯片，試圖撼動英偉達(dá)的市場地位。2024年10月10日，AMD在舊金山舉行的Advancing AI 2024大會上發(fā)布了一系列AI新品，其中旗艦AI芯片MI325X尤為引人注目。據(jù)AMD介紹，MI325X在多項(xiàng)性能指標(biāo)上超越了英偉達(dá)的H200芯片，這無疑是AMD在AI芯片領(lǐng)域的一次重大突破。
AMD MI325X AI芯片介紹
AMD Instinct MI325X是一款專為AI訓(xùn)練和推理設(shè)計(jì)的GPU加速器。它采用了AMD最新的CDNA 3 GPU架構(gòu)，內(nèi)置1530億個晶體管，配備256GB的HBM3e（第五代）高帶寬內(nèi)存，內(nèi)存帶寬達(dá)到6TB/s。在浮點(diǎn)運(yùn)算方面，MI325X在8位浮點(diǎn)數(shù)（FP8）和16位浮點(diǎn)數(shù)（FP16）精度下的峰值理論運(yùn)算性能分別為2.6 PFLOPs（每秒2.6千萬億次浮點(diǎn)運(yùn)算）和1.3 PFLOPs，比英偉達(dá)H200高出約30%。
在發(fā)布會上，AMD CEO蘇姿豐（Lisa Su）展示了MI325X在Meta Llama模型上的訓(xùn)練和推理性能數(shù)據(jù)。由8張MI325X組成的服務(wù)器平臺，在Llama-3.1 405B模型上的推理性能比英偉達(dá)H200 HGX平臺高出40%；在AI訓(xùn)練上，單張MI325X訓(xùn)練Llama-2 7B的性能為H200的1.1倍，8張MI325X訓(xùn)練Llama-2 70B的性能與H200持平。這些數(shù)據(jù)充分展示了MI325X在AI訓(xùn)練和推理方面的強(qiáng)大性能。
AMD與英偉達(dá)的市場競爭
AMD和英偉達(dá)在AI芯片市場的競爭日益激烈。英偉達(dá)在2023年11月發(fā)布了新一代AI芯片H200，該芯片集成了141GB的內(nèi)存，更加擅長進(jìn)行“推理”。H200在用于推理或生成問題答案時，性能較上一代H100提高60%至90%。然而，AMD MI325X的推出，使得英偉達(dá)在AI芯片市場的領(lǐng)先地位受到了挑戰(zhàn)。
AMD一直致力于提供全套CPU、GPU和網(wǎng)絡(luò)解決方案來滿足現(xiàn)代數(shù)據(jù)中心的所有需求。MI325X的發(fā)布不僅提升了AMD在AI芯片市場的競爭力，還進(jìn)一步鞏固了其在數(shù)據(jù)中心市場的地位。據(jù)AMD介紹，MI325X有望于2024年第四季度投產(chǎn)，并從2025年第一季度開始供貨給戴爾、惠普、聯(lián)想等合作廠商。
電話咨詢：86-755-83294757
企業(yè)QQ：1668527835/ 2850151598/?2850151584/ 2850151585
服務(wù)時間：9:00-18:00
聯(lián)系郵箱：chen13410018555@163.com/sales@hkmjd.com
公司地址：廣東省深圳市福田區(qū)振中路新亞洲國利大廈1239-1241室
CopyRight?2022 版權(quán)歸明佳達(dá)電子公司所有 粵ICP備05062024號-12
官方二維碼
友情鏈接:
最新資訊
![供應(yīng) [Broadcom] 以太網(wǎng) PHY，供應(yīng)單/多端口以太網(wǎng) PHY，工業(yè)/汽車 PHY](/upload/202506/19/202506191527019210.jpg)
