Yapay zeka data merkezleri yerine lokal tahliller mümkün mü?

Yapay zeka data merkezleri, son yıllarda teknolojik ilerlemenin görünmez motoru olarak konumlanıyor. Büyük lisan modellerinden görsel üretim araçlarına kadar pek çok sistem, devasa sunucu çiftliklerinde çalışan altyapılara dayanıyor. Fakat bu yapı, yüksek güç tüketimi, su kullanımı, karbon ayak izi ve bilgi egemenliği üzere önemli meseleleri da beraberinde getiriyor. İsviçre’de geliştirilen yeni bir yazılım yaklaşımı ise yapay zeka bilgi merkezlerine olan bu mecburî bağımlılığı sorgulamaya açıyor.

İlk bakışta yapay zeka data merkezleri vazgeçilmez üzere görünüyor. Zira bugün kullanılan üretken yapay zeka sistemlerinin büyük kısmı, çıkarım olarak isimlendirilen ve modelin kestirim üretmesini sağlayan süreç yükünü uzaktaki sunuculara gönderiyor. Bu süreç, global ölçekte yapay zeka hesaplama gücünün yaklaşık yüzde 80–90’ını tüketiyor. Sonuç olarak hem maliyetler artıyor hem de bilgiler kullanıcıların denetimi dışına çıkıyor.

EPFL ve Anyway Systems, yapay zeka istikrarlarını nasıl değiştiriyor?

İsviçre’nin önde gelen araştırma kurumlarından École Polytechnique Fédérale de Lausanne (EPFL), bu tabloya farklı bir yaklaşım getiriyor. EPFL Bilgisayar ve Bağlantı Bilimleri Okulu’ndan araştırmacılar tarafından geliştirilen Anyway Systems isimli yazılım, yapay zekanın uzaktaki bilgi merkezleri yerine yerel ağlar üzerinde çalışmasını mümkün kılıyor.

Anyway Systems’in temel farkı, ChatGPT üzere açık kaynaklı büyük lisan modellerinin kısa müddette indirilebilmesi ve sorguların mahallî donanımda işlenebilmesi. Kullanıcılar, global bir modele erişmeye devam ederken bilgilerini uzak sunuculara göndermek zorunda kalmıyor. Süreçler masaüstü bilgisayarlar ortasında dağıtılıyor ve sistem, mevcut donanımı en verimli halde kullanacak biçimde kendini dengeliyor. Örneğin yüz milyarlarca parametreye sahip bir model, sadece birkaç GPU’nun yer aldığı küçük bir mahallî ağda çalıştırılabiliyor.

Elbette bu yaklaşımın birtakım teknik sınırlamaları da var. Mahallî ve dağıtık süreç, karşılık müddetlerinde merkezi bilgi merkezlerine kıyasla bir ölçü yavaşlığa neden olabiliyor. Lakin geliştiriciler, elde edilen sonuçların doğruluk açısından muadil olduğunu belirtiyor. Ayrıyeten suram müddetinin yaklaşık 30 dakika üzere kısa bir vakit alması, sistemin pratik kullanımını destekliyor.

Büyük ve güçlü yapay zeka modellerinin, birden fazla kullanıcı tarafından paylaşılan dağıtık bir yapı içinde çalıştırılması hala değerli bir teknik mahzur. Ayrıyeten yapay zeka data merkezleri büsbütün ortadan kalkacak mı sorusunun ise net bir cevabı şimdi yok. Lakin Anyway Systems örneği, merkezi yapılara güçlü bir alternatifin mümkün olduğunu gösteriyor. Donanım kapasitelerinin artması ve maliyetlerin düşmesiyle birlikte, mahallî yapay zeka tahlillerinin daha geniş kitlelere ulaşması bekleniyor.

Kaynak : Donanimhaber