AMD MI355X, Nvidia B300'ü Kimi K3 ile Geride Bıraktı

AMD'nin Instinct MI355X GPU'su, Moonshot AI'nin 2.8 trilyon parametreli Kimi K3 modelini çalıştırarak Nvidia'nın B300 GPU'sunun saatlik bulut kiralama maliyetinin yarısından daha az bir maliyetle sonuçlar elde etti. MI355X, bulut sağlayıcıları tarafından saatlik yaklaşık 2.50 dolardan sunulurken, B300 yaklaşık 6 dolara kiralanıyor. Bu durum, AMD'nin daha düşük maliyetle token üretmesine olanak tanıyor.

Kimi K3, 288 GB yüksek bant genişliğine sahip bellek gereksinimi ile daha yeni platformlarda çalıştırılabiliyor. AMD'nin daha düşük inference maliyetleri, bulut sağlayıcıları ve büyük veri merkezi operatörleri için alternatif bir seçenek sunabilir. Nvidia, işlem hızı açısından avantajını korusa da, AMD'nin maliyet avantajı dikkat çekiyor.