NVIDIA rakibinden yüzde 60 hızlı! İşte AMD MI300X

AMD, bir süredir merakla beklenen MI300X'in resmi tanıtımını yaptı. TSMC'nin gelişmiş üretim hattından çıkan AMD MI300X GPU, NVIDIA'nın H100'ünden yüzde 60 daha yüksek performans sunmayı başarıyor. İşte detaylar…

AMD MI300X neler sunuyor?

AMD, eğitim performansında MI300X'in H100 ile benzer seviyede olduğunu ve inferans iş yüklerinde üstün performans sergilediğini belirtiyor. Şirketin açıklamalarına göre MI300X, genel özelliklerde şu avantajları sağlıyor:

2.4 kat daha yüksek bellek kapasitesi

1.6 kat daha yüksek bellek bant genişliği

1.3 kat FP8 TFLOPS

1.3 kat FP16 TFLOPS

Llama 2 70B, birebir kıyaslamada yüzde 20'ye kadar daha hızlı

FlashAttention 2, birebir kıyaslamada yüzde 20'ye kadar daha hızlı

Llama 2 70B, 8v8 sunucuda yüzde 40'a kadar daha hızlı

FlashAttention 2, 8v8 sunucuda yüzde 60'a kadar daha hızlı

MI300X'in arkasındaki yazılım, ROCm 6.0, çeşitli yapay zeka iş yüklerini destekleyen yeni özellikler içeriyor. Zira bu yazılım, en yeni hesaplama formatlarını destekleyerek performansı artırıyor. MI300X, NVIDIA'nın Hopper ve Intel'in Gaudi yapay zeka hızlandırıcılarına karşı rekabeti artıracak. CDNA 3 mimarisine dayanan MI300X, toplamda 153 milyar transistöre sahip. Ayrıca MI300X'in bellek kapasitesi 192 GB (HBM3). Yani selefi MI250X'e göre yüzde 50 daha fazla.

AMD, Ryzen 8040 serisini tanıttı! Yapay zeka ile sınırları zorluyor

AMD MI300X, güç tüketimi tarafında 750W TDP ile karşımıza çıkıyor. Ek olarak AMD, bu çipi destekleyen sistemleri sergilerken, 8 MI300X GPU hızlandırıcısı ve iki AMD EPYC 9004 CPU içeren bir konfigürasyonu paylaştı.

Son olarak, AMD'nin Instinct MI300 AI çiplerini destekleyeceğini açıklayan şirketler arasında Oracle, Dell, META ve OpenAI gibi büyük isimler bulunuyor. Şirketin yapay zeka alanında sadece bir alternatif olmak değil, lider olma hedefi olduğu için NVIDIA ve Intel gibi rakipleri için de ciddi bir rekabet ortamı yaratıyor.