Güney Kore’den Nvidia’ya rakip: FuriosaAI geliyor

Yapay zeka donanım pazarında Nvidia’ya alternatif arayışları sürat kazanırken, Güney Kore’den sürpriz bir gelişme paylaşıldı. FuriosaAI, özellikle çıkarım (inference) odaklı iş yükleri için geliştirdiği RNGD isimli NPU’sunu bu ay prestijiyle seri üretime geçmeyi planlıyor. Nvidia A100 ve H100’e rakip olacak.

Güney Kore’den Nvidia’ya alternatif

Kaçıranlar için FuriosaAI CEO’su June Paik, çipi birinci defa 2024’te Stanford Üniversitesi’nde düzenlenen Hot Chips konferansında sergilemişti. Paik, RNGD’nin Meta’nın aktüel Llama modellerini, Nvidia’nın üst düzey tahlillerine kıyasla yaklaşık iki kat daha yüksek güç verimliliğiyle çalıştırabildiğini öne sürüyor. 

RNGD, klasik GPU’lardan farklı olarak grafik sürece yerine direkt yapay zeka hesaplamalarına odaklanan bir sinirsel süreç ünitesi (NPU) mimarisi kullanıyor. Bu yapı, matris hesaplamaları ve paralel süreçler üzere derin öğrenmenin temel gereksinimlerinde daha düşük güç tüketimiyle çalışmayı mümkün kılıyor. FuriosaAI’nin amacı ise, Nvidia A100 ve H100 düzeyinde çıkarım performansını, daha düşük elektrik maliyetiyle sunmak.

Daha düşük güç tüketimi, yüksek AI performansı

2017 yılında Samsung Electronics’ten ayrılan June Paik tarafından kurulan FuriosaAI, bugüne kadar güçlü bir finansman sürecinden geçti. Şirket, birinci yıllarda kaynak kasveti yaşasa da bugün yaklaşık 700 milyon dolar değerlemeye ulaştı. Geçtiğimiz yıl Meta’nın satın alma teşebbüsünü reddeden FuriosaAI, OpenAI ve LG üzere şirketlerin de dikkatini çekmiş durumda.

RNGD’ye gelirsek, NPU için detaylı bilgiler şimdi paylaşılmadı. Ancak OpenAI, Seul’deki bir tanıtım etkinliğinde şirketin çipini kullandı ve LG’nin yapay zeka araştırma kısmı, işlemcinin “mükemmel gerçek dünya performansı” sunduğunu söylüyor. 

Kaynak : Donanimhaber