OpenAI Yeni Unsurlarını Açıkladı: 6 Yılda Neler Değişti, Neler Tıpkı Kaldı?

OpenAI, yapay zekânın geleceğini şekillendirecek yeni yol haritasını resmen paylaştı. Sam Altman’ın kaleme aldığı yeni “İlkelerimiz” isimli yazı, şirketin yalnızca teknoloji geliştirmediğini; birebir vakitte bu teknolojinin dünyayı nasıl etkileyeceğine dair önemli bir vizyon ortaya koyduğunu gösteriyor.

İçerikten Görseller

×

+ −

‹ ›

Ama işin enteresan tarafı şu: Bu yeni prensipler, OpenAI’ın yıllar evvel açıkladığı Charter’a nazaran hayli farklı bir ton taşıyor. Yani ortada yalnızca bir güncelleme değil, tıpkı vakitte stratejik bir istikamet değişimi de var diyebiliriz.

İçerikten Görseller

×

+ −

‹ ›

Yapay zekâ herkesin mi olacak, yoksa birkaç şirketin mi?

OpenAI’ın yeni metninde en çok dikkat çeken bahis, yapay zekânın demokratikleşmesi. Şirket açık açık, bu gücün birkaç dev şirketin elinde toplanmasının âlâ bir senaryo olmadığını söylüyor.

Bunun yerine gaye, yapay zekâyı mümkün olduğunca fazla insanın kullanımına sunmak. Hatta yalnızca erişim değil, karar alma süreçlerinin bile daha demokratik olması gerektiği vurgulanıyor. Bu, teknoloji dünyasında pek sık görmediğimiz kadar net bir duruş.

AGI artık tek odak noktası değil

Eskiden OpenAI denince akla birinci gelen şeylerden biri AGI (yapay genel zekâ) gayesiydi. 2018’deki Charter’da bu kavram neredeyse her şeyin merkezindeydi.

Yeni prensiplerde ise AGI büsbütün kaybolmuş değil fakat eskiye kıyasla çok daha art planda. Bunun yerine şirket, bugünün yapay zekâ sistemlerine, eserlerine ve gerçek dünyadaki tesirlerine daha fazla odaklanıyor. Yani “gelecek”ten çok “şimdi”ye oynayan bir OpenAI var karşımızda.

Rekabet konusunda daha gerçekçi bir OpenAI var

OpenAI’ın eski metinlerinde hayli idealist bir yaklaşım vardı. Hatta gerekirse rakip bir şirket AGI’ye daha yakınsa dayanak olunabileceği bile söyleniyordu.

Yeni prensiplerde ise bu biçim net bir “geri çekilme” iletisi yok. Bu da bize şunu gösteriyor: OpenAI artık daha rekabetçi, daha gerçekçi ve piyasanın dinamiklerini daha fazla dikkate alan bir noktada.

Dev yatırımların ardındaki gerçek neden ortaya çıktı

Şirketin son periyotta neden bu kadar büyük bilgi merkezi yatırımları yaptığı da bu metinle birlikte daha net anlaşılıyor. OpenAI’a nazaran evrensel refah gayesi için yapay zekânın ucuzlaması ve herkes tarafından erişilebilir olması koşul.

Bunun yolu da daha fazla süreç gücü, daha fazla altyapı ve dünya geneline yayılmış data merkezlerinden geçiyor. Yani bu dev yatırımlar aslında yalnızca teknoloji yarışı değil, birebir vakitte uzun vadeli bir stratejinin modülü.

OpenAI: “Her şeyi hakikat yapamayabiliriz”

Belki de en dikkat cazip kısım, OpenAI’ın kendi hudutlarını kabul etmesi. Şirket, geleceğin çok meçhul olduğunu ve her kararı gerçek veremeyebileceklerini açıkça söylüyor.

Bu yüzden de yeni prensiplerin en değerli unsurlarından biri uyum sağlama. Yani OpenAI, gerektiğinde kendi kurallarını bile değiştirebileceğini kabul ediyor. Bu da teknoloji dünyasında ender görülen bir şeffaflık örneği.

OpenAI’ın “Prensiplerimiz” isimli metninin tamamını aşağıdan okuyabilirsiniz:

Yapay zeka, toplumun pek çok istikametini kıymetli ölçüde güzelleştirme potansiyeline sahiptir.

Bu teknoloji, kendisinden evvelkiler üzere, insanlara daha fazla yetenek ve imkan sağlayacaktır; insanların yapay zeka ile yapabilecekleri, buharlı makineler yahut elektrikle yapabildiklerini gölgede bırakacaktır. Şu anda hayal etmesi güç bir seviyede yaygın bir refahın karar sürdüğü; kişisel potansiyelin, iradenin ve tatminin değerli ölçüde arttığı bir dünya tasavvur ediyoruz. Bilim kurgu sinemalarında yalnızca hayalini kurduğumuz pek çok şey gerçeğe dönüşebilir ve birçok insan bugünkünden çok daha manalı hayatlar yaşayabilir.

Ancak bu sonuç garanti değildir. Gelecekteki güç, ya üstün zekayı kullanan ve denetim eden küçük bir küme şirketin elinde toplanacak ya da merkezi olmayan bir biçimde halkın elinde olacaktır. Biz ikincisinin çok daha âlâ olduğuna inanıyoruz ve emelimiz gerçek manada genel yapay zekayı mümkün olduğunca çok insanın kullanımına sunmaktır. Bugün olduğu üzere gelecek de büsbütün makûs ya da büsbütün düzgün olmayacaktır; lakin şu an alacağımız kararlar düzgünlüğü maksimize etmeye yardımcı olabilir.

Misyonumuz, YGP’nin (Yapay Genel Zeka) tüm insanlığa yarar sağlamasını temin etmektir. İşte çalışmalarımıza rehberlik eden prensipler:

1. Demokratikleşme

Bu teknolojinin gücü az sayıda kişinin elinde toplama potansiyeline karşı direneceğiz. Bu, herkese yapay zekaya erişim sağlamanın yanı sıra, yapay zeka hakkındaki temel kararların yalnızca yapay zeka laboratuvarları tarafından değil, demokratik süreçlerle ve eşitlikçi unsurlarla alınmasını sağlamamız gerektiği manasına gelir.

2. Güçlendirme

Yapay zekanın herkesi maksatlarına ulaşma, daha fazla öğrenme, daha keyifli ve tatmin olmuş hissetme ve hayallerinin peşinden gitme bahislerinde güçlendirebileceğine; toplumun bir bütün olarak bundan faydalanacağına inanıyoruz. Buna ulaşmak, insanların önümüzdeki devasa potansiyeli keşfetmelerine müsaade vermeyi gerektirir ve bunu mümkün kılan eserler geliştirmeliyiz. Kullanıcılar, hizmetlerimizle giderek daha pahalı misyonları sağlam bir halde yerine getirebilmelidir.

Dünya çeşitliliklerle doludur ve insanların farklı muhtaçlıkları vardır. Kullanıcılarımıza muhtaçlık duydukları özerkliği vermek ve makul ölçüde elimizden gelen en geniş alanı tanımak istiyoruz. Kullanıcılarımıza hizmetlerimizi nasıl kullanacakları konusunda geniş bir hürlük tanımak istesek ve yapay zekanın genel olarak büyük yarar sağlayacağına yürekten inansak da, bunu ziyanları minimize edecek biçimde inşa etme ve sunma sorumluluğumuz var. Bu, elbette felaket seviyesindeki ziyanları önlemeyi, birebir vakitte lokal ziyanları en aza indirmeyi ve potansiyel aşındırıcı toplumsal tesirlerden kaçınmayı içerir. Bu durum, belirsizlik karşısında temkinli davranmayı ve daha fazla delil elde edildikçe kısıtlamaları esnetmeyi gerektirecektir.

3. Kozmik Refah

Herkesin harika bir yaşama sahip olabileceği bir gelecek istiyoruz. Büyük süreç gücüne sahip, kullanımı kolay yapay zeka sistemlerini herkesin eline vererek, insanların kıymet yaratmanın yeni yollarını bulacağına ve bilhassa yeni bilimsel keşiflerle herkes için hayat kalitesini devasa oranda artıracağına inanıyoruz. Refahın tam olarak gerçekleşmesi ve geniş çapta paylaşılması için şunlara inanıyoruz:

1. Hükümetlerimizin, herkesin önümüzdeki paha yaratma sürecine katılabilmesini sağlamak için yeni ekonomik modelleri değerlendirmesi gerekebilir.
2. Devasa ölçüde yapay zeka altyapısı inşa etmeli ve bu altyapının maliyetlerini önemli oranda düşürecek yeni teknolojiler geliştirmeliyiz.

Tuhaf görünen pek çok adımımız (gelirimiz nispeten düşükken devasa ölçüde süreç gücü satın almamız, maliyetleri düşürmek ve teknolojimizi kolaylaştırmak için dikey entegrasyona gitmemiz, dünyanın dört bir yanında bilgi merkezleri inşa etmek için bastırmamız ve çok daha fazlası) kozmik refah dolu bir geleceğe olan temel inancımızdan kaynaklanmaktadır.

4. Dayanıklılık

Yapay zeka yeni riskler getirecektir ve biz bunları çözmek için başka şirketler, ekosistemler, hükümetler ve toplumla birlikte çalışacağız. Bu çalışmaları desteklemek için Vakfımızın kaynaklarından değerli ölçüde yararlanacağız. Hiçbir yapay zeka laboratuvarı uygun bir geleceği tek başına garanti edemez. Örneğin, yeni bir patojen oluşturmayı kolaylaştırabilecek son derece yetenekli modeller olabilir ve buna karşı patojenden bağımsız karşı tedbirler geliştirmek için toplum çapında bir yaklaşıma muhtaçlığımız var. Bir diğer örnek olarak, modellerin siber güvenlik yetenekleri arttıkça, bu modelleri açık kaynaklı yazılımları ve kritik altyapıları teminat altına almak için süratle kullanmalı, tıpkı vakitte modelleri herkesin daha inançlı yazılımlar oluşturmasına yardımcı olacak halde eğitmeliyiz.

Bu, uzun müddettir uyguladığımız kademeli yaygınlaştırma stratejimizin bir genişlemesidir; toplumun her bir yeni yapay zeka yetenek düzeyiyle çaba etmesi, onu anlaması, entegre etmesi ve birlikte en güzel yolu bulması gerektiğine inanıyoruz. Bu bir vakumda yapılamaz; toplum ve teknoloji birlikte evrilir ve bu vakit gerektirir. Bunu tek güvenlik stratejimiz olarak görmüyoruz; birebir vakitte inançlı sistemler yapmaya ve teknik hizalama (alignment) konusundaki kusursuz çalışmalarımıza devam etmeye muhtaçlığımız var. Çalışmalarımızda daha fazla ilerlemeden evvel; önemli hizalama, güvenlik yahut toplumsal meseleleri gereğince çözdüğümüzden emin olmak için hükümetler, milletlerarası kuruluşlar ve öteki YGP projeleriyle iş birliği yapmamız gereken periyotlar olacağını öngörüyoruz.

5. Uyarlanabilirlik

Çok öngörülemez bir geleceğin zorluklarıyla başa çıkmanın tek yolunun, daha fazlasını öğrendikçe pozisyonlarımızı güncellemeye hazır olmak olduğuna inanmaya devam ediyoruz. Ayrıyeten OpenAI’ın birkaç yıl öncesine nazaran dünyada çok daha büyük bir güç olduğunu kabul ediyoruz ve faaliyet prensiplerimiz değiştiğinde bunun ne vakit, nasıl ve neden olduğu konusunda şeffaf olacağız. Somut bir örnek olarak; üniversal refahın nitekim kıymetli kalacağından hayli emin olsak da, gelecekte daha fazla dayanıklılık için bir ölçü güçlendirmeden (empowerment) ödün vermemiz gereken devirler hayal edebiliyoruz.

Yapay zeka gelişimi pek çok sürprizi beraberinde getirdi ve daha fazlası da yolda. Teknoloji ilerledikçe, ortaya çıkan (emergent) davranışlarını iddia etmek giderek zorlaşacaktır. Yetenekleri dikkatli bir biçimde ilerleterek, sistemleri kademeli olarak sunarak ve dünyayla olan etkileşimlerinden ders çıkararak bu meçhullüğü kucaklıyoruz. Çok uzun vakit evvel değil, toplum üzerindeki tesirlerinden emin olamadığımız için GPT-2’nin yüklerini (weights) paylaşma konusunda telaşlıydık. Geriye dönüp baktığımızda bunun yersiz bir telaş olduğu açık, lakin bu bizi en kıymetli buluşlarımızdan biri olan kademeli yaygınlaştırma stratejisini keşfetmeye yöneltti.

Teknoloji gelişmeye devam ederken çok tesirli bir etaba giriyoruz. Her kararımızda bizi eleştirmek son derece adildir; yaptığımız işin yükü göz önüne alındığında çok büyük ölçüde kontrolü hak ediyoruz. Her şeyi yanlışsız yapamayacağız lakin süratle öğrenecek ve rotamızı düzelteceğiz.

Geleceği geçmişten daha yeterli hale getirmek için üzerimize düşeni yapmaya kararlıyız; böylesine değerli bir işi üstlendiğimiz için kendimizi şanslı hissediyoruz.

Kaynak : Webtekno