Yapay Zekâ Türk mü? ChatGPT ve Öbür Yapay Zekâlar Neden Hiç “Bilmiyorum” Demiyor?

Yapay zekâların neden asla “Bilmiyorum” demediğini düşünmüş müydünüz? OpenAI araştırmacılarının yeni çalışmasına nazaran ChatGPT üzere modellerin “halüsinasyon” (yani uydurma bilgi üretme) eğilimi, aslında dürüst olmamaları için tasarlanmış olmalarından kaynaklanıyor. Modeller, yanlışsız karşılığı bilmediklerinde bile bir varsayımda bulunmak üzere eğitiliyor. Temelinde bu tıpkı, lise devrinde çoktan seçmeli bir imtihanda boş bırakmak yerine rastgele işaretleme yaptığımız periyotlara benziyor.

Araştırmacılar, bu durumun yapay zekânın eğitim sistemindeki yanlış “teşviklerden” kaynaklandığını söylüyor. Mevcut kıymetlendirme metotları, modellerin belirsizliklerini dürüstçe söz etmesi yerine kesin bir karşılık üretmesini istiyor. Bu da bilhassa tıp yahut hukuk üzere hassas alanlarda önemli sorun. Uzmanlara nazaran tahlil, yapay zekâların “emin olmadığı” durumlarda cezalandırılmaması ve kusurlu özgüven yerine belirsizlik belirtmelerinin teşvik edilmesi istikametinde.

Her yanıtta “tahmin” yürütmek zorundalar

Yapay zekâ modelleri, metinlerdeki söz örüntülerini iddia ederek öğreniyor lakin datalar her vakit tertipli yahut emniyetli değil. Yani data seti ne kadar geniş olursa olsun kimi durumlarda bilgi eksikliği ve belirsizlik hâkim oluyor. Bu noktada modeller, “stratejik tahminler” yaparak karşılık üretmeye devam ediyor. Vakitle daha gerçek sonuçlar üretseler bile birçok vakit halüsinasyon görüyorlar, bu da o yanlışlı ve saçma karşılıkların temel sebebi.

Araştırmacılar, kıymetlendirme sistemlerinin doğruluk odaklı olmaktan çıkıp belirsizliğe de alan tanıması gerektiği konusunda hemfikirler. Böylelikle yapay zekâlar, “her şeyi bilen” tutumlarından sıyrılıp daha dürüst bir bağlantı biçimine evrilecekler. Kim bilir, AGI dediğimiz o nokta tahminen de bunu muvaffakiyetle yapabildikleri noktadır… Bunu artık vakit gösterecek.

Webtekno