Yapay zekâ modellerinin hızla yaygınlaşması, özellikle çıkarım süreçlerinde daha yüksek performans sunan donanımlara olan ihtiyacı artırırken AMD ve Cerebras bu alandaki rekabete yeni bir çözümle katıldı. Şirketlerin geliştirdiği ortak platform, yapay zekâ çıkarım performansı için grafik işlemcileri ile SRAM tabanlı hızlandırıcıları aynı mimaride bir araya getirerek daha düşük gecikme ve daha yüksek verim sunmayı hedefliyor. Yeni sistemin yıl sonuna doğru kullanıma açılmasıyla birlikte Nvidia’nın bu alandaki üstünlüğüne karşı önemli bir alternatif oluşturması bekleniyor.

İki Farklı Donanım Mimarisi Tek Platformda Birleşiyor

AMD, Advancing AI etkinliğinde duyurduğu iş birliği kapsamında Instinct GPU ailesini Cerebras’ın Wafer Scale Engine (WSE) hızlandırıcılarıyla entegre ediyor. Yeni mimaride yüksek hesaplama gücü gerektiren istem işleme (prompt processing) görevleri GPU’lar tarafından yürütülürken yoğun bellek erişimi gerektiren token üretimi ise Cerebras’ın özel hızlandırıcılarına aktarılıyor.

Bu görev paylaşımı, özellikle büyük dil modelleri ve yapay zekâ ajanları gibi sürekli çıkarım yapan sistemlerde gecikmeyi azaltmayı amaçlıyor. Şirketler, böylece kullanıcıların daha hızlı yanıt alırken aynı zamanda enerji tüketiminin de düşeceğini ifade ediyor. AMD CEO’su Lisa Su, açık ekosistem yaklaşımı doğrultusunda farklı hızlandırma teknolojilerine sahip şirketlerle çalışmaya devam edeceklerini belirtirken, Cerebras teknolojisinin Helios altyapısıyla başarılı şekilde entegre olduğunu söyledi.

Geleneksel GPU mimarileri büyük ölçüde yüksek bant genişlikli HBM belleklere dayanırken Cerebras farklı bir yaklaşım benimsiyor. Şirket, doğrudan çip üzerinde yer alan SRAM belleği kullandığı için veri erişim sürelerini önemli ölçüde azaltabiliyor. Bu mimari sayesinde Cerebras, saniyede 2.000’in üzerinde token üretebilen en hızlı yapay zekâ çıkarım sağlayıcılarından biri olarak öne çıkıyor. Özellikle kullanıcıyla sürekli etkileşim kuran sohbet botları, kod üretim araçları ve yapay zekâ ajanlarında düşük gecikme büyük önem taşıyor.

Şirketler, yeni platformun watt başına üretilen token sayısını mevcut çözümlere kıyasla beş kata kadar artırabileceğini öngörüyor. Henüz resmi performans testleri paylaşılmasa da hedeflenen verimlilik, büyük ölçekli veri merkezi işletmecileri açısından dikkat çekici bir avantaj sunabilir.

Yeni platformun çalışma mantığı, Nvidia’nın Groq teknolojisiyle oluşturduğu mimariye benzerlik gösteriyor. Ancak Cerebras, aynı büyüklükteki modelleri çalıştırırken çok daha az sayıda hızlandırıcı kullanabileceğini savunuyor. Şirkete göre trilyon parametre seviyesindeki büyük yapay zekâ modellerinde ihtiyaç duyulan donanım miktarı önemli ölçüde azaltılabiliyor.

Bu yaklaşım yalnızca donanım maliyetini düşürmekle kalmıyor, aynı zamanda veri merkezlerinde enerji tüketimi ve fiziksel alan ihtiyacını da azaltabilecek bir seçenek sunuyor. Yapay zekâ altyapılarında en büyük gider kalemlerinden biri olan enerji maliyetleri düşünüldüğünde, bu avantajın kurumsal müşteriler açısından belirleyici olması bekleniyor.

AMD, bu ortaklığın tek seferlik bir proje olmadığını ve iş yüküne özel hızlandırma çözümleri geliştiren farklı şirketlerle de çalışmayı planladığını açıkladı. Şirket, gelecekte farklı yapay zekâ senaryoları için hesaplama ve bellek görevlerini birbirinden ayıran yeni mimariler geliştirmeyi sürdüreceğini belirtiyor.

Yapay zekâ modellerinin parametre sayısı büyümeye devam ettikçe yalnızca daha güçlü GPU’lar geliştirmek yeterli olmayabilir. Yapay zekâ çıkarım performansı alanında geliştirilen hibrit donanım mimarileri, önümüzdeki yıllarda veri merkezlerinin tasarımını ve büyük dil modellerinin çalışma biçimini önemli ölçüde değiştirebilir.