Papa, yapay zekâ tehlikesine karşı uyardı: Teknoloji şirketlerinin inisiyatifine bırakılamaz

OpenAI, Google, Anthropic üzere şirketlerin geliştirdiği yapay zekâ modelleri her geçen gün daha güçlü hâle gelirken, bu teknolojilerin sosyoekonomik nizam üzerindeki tesiri de giderek büyüyor. Bir yandan süratle büyüyen işsizlik krizi, başka yandan AI sistemlerinin savaş meydanlarında kullanılması derken, yapay zekâ dünyamızı adım adım değiştiriyor. Bu dönüşüme birkaç teknoloji işvereninin taraf vermesi ise giderek daha büyük bir tasa kaynağına dönüşüyor. Gerçekten son periyotta bu duruma karşı reaksiyon gösterenlerin sayısı giderek artıyor. Yapay zekânın denetimsiz büyümesine karşı ses çıkaran bu isimlere artık Papa XIV. Leo’yu da katabiliriz.

Papa, Katolik Kilisesi’nin en kıymetli metinlerinden biri olan birinci enciklik mektubunda, hükümetlere yapay zekâyı daha sıkı biçimde düzenleme daveti yaptı. “Magnifica Humanitas” (Muhteşem İnsanlık) ismini taşıyan evrakta Papa, yapay zekânın insanlığa değerli yararlar sağlayabilecek güçlü bir araç olduğunu kabul etmekle birlikte, bu teknolojinin güç, kâr ve denetim arayışının hizmetine girmesi hâlinde önemli sonuçlar doğurabileceği konusunda uyardı.

Papa’ya nazaran yapay zekâ, birileri üzerinde tahakküm kurmak, birilerini dışlamak ya da birilerini öldürmek için mutlaka kullanılmaması gereken bir araç. Bu nedenle hükümetlerin ve düzenleyici kurumların bu alandaki ilerlemeyi toplumun ortak faydasını gözeterek denetlemesi gerekiyor. Papa’ya nazaran asıl gaye teknolojiyi ortadan kaldırmak değil, insan hayatı üzerindeki denetimini sınırlamak.

Papa: Yapay Zekâ Savaşları Daha Kolay Hâle Getiriyor

Papa’nın en sert tenkitlerinden biri yapay zekânın askeri alandaki kullanımına yönelik oldu. Son yıllarda savunma endüstrisinde AI takviyeli sistemlerin giderek daha fazla kullanılmaya başlanması, otonom silah teknolojileri hakkındaki tartışmaları da beraberinde getirdi. Birçok ülke gaye tespiti, istihbarat tahlili ve savaş alanı uyumu üzere vazifelerde yapay zekâdan yararlanmaya başladı. Fakat direkt ölümcül kararların da büsbütün algoritmalara bırakılması artık an sıkıntısı üzere görünüyor. Hatta bunun şimdiden başladığına inananlar da var. Hatta İran’a yönelik atakların daha birinci gününde bir ilkokulun vurulmasının ardında da yanlış tahlil yapan bir AI olabileceği argüman ediliyordu. Bu tezler doğulanmamış olsa da yapay zekânın ölümcül bir silaha dönüşmeye başladığı artık yadsınamaz bir gerçek.

Nitekim Papa XIV. Leo da buna dikkat çekiyor. Enciklikte yer alan tabirlerde, yapay zekâ dayanaklı otonom silah sistemlerinin savaşları daha uygulanabilir ve erişilebilir hâle getirdiği belirtiliyor. Papa’ya nazaran savaş ortamlarında kullanılan tüm yapay zekâ sistemleri son derece katı etik kurallara tabi olmalı. Bilhassa ölümcül güç kullanımına ait kararların yapay zekâ sistemlerine bırakılmasının kabul edilemez olduğu vurgulanıyor.

“Yapay Zekâ Sırf Şirketlerin Kararlarına Bırakılmamalı”

Papa ayrıyeten yapay zekânın sırf savaş alanlarında değil, bilgi akışı üzerinde de büyük tesire sahip olduğuna dikkat çekiyor. Ona nazaran günümüzde çok küçük lakin son derece tesirli kümeler, yapay zekâ sistemleri sayesinde insanların tüketim alışkanlıklarını şekillendirebiliyor, hangi bilgilere erişeceğini belirleyebiliyor ve hatta demokratik süreçleri etkileyebiliyor. Özellikle büyük teknoloji şirketlerinin elinde toplanan data ve hesaplama gücü, toplum üzerinde gibisi görülmemiş bir tesir oluşturuyor. Bu nedenle Papa XIV. Leo, bağımsız kontrol düzeneklerinin oluşturulması, kullanıcıların bilinçlendirilmesi ve siyasi otoritelerin sorumluluklarını teknoloji şirketlerine devretmemesi gerektiğini belirtiyor. Papa’ya nazaran yapay zekânın geleceği sadece şirketlerin kararlarına bırakılmamalı; toplumun farklı kısımlarının katıldığı daha geniş bir tartışma yürütülmeli.

Papa’nın bu manifesto üzere mektubu paylaştığı etkinliğe yapay zekâ dünyasından kıymetli isimler de katıldı. Bunlar ortasında, yapay zeka şirketi Anthropic’in kurucu ortaklarından Chris Olah da yer aldı. Olah, yapay zekâ şirketlerinin faaliyetlerini birçok vakit ticari baskılar ve teşvikler altında sürdürdüğünü kabul ederek, bu durumun her vakit hakikat olanı yapmakla örtüşmeyebileceğini söyledi. Bu nedenle Katolik Kilisesi üzere dış aktörlerin sürece katkı sunmasının teknoloji kesimini daha olumlu bir istikamete yönlendirebileceğini söz etti.

Kaynak : Donanimhaber