Anthropic’in korkutan yapay zekası Mythos’u ABD kurumları kullanacak

Beyaz Saray’ın, Anthropic tarafından geliştirilen ileri seviye yapay zeka modeli Mythos’un federal kurumlar için denetimli bir versiyonunu erişime açmayı planladığı bildirildi. Aktarılanlara nazaran kelam konusu adım, bilhassa siber güvenlik risklerinin artabileceğine yönelik tasalar nedeniyle dikkatli bir formda bedellendiriliyor.

Planlanan uygulama, Anthropic’in “Project Glasswing” ismi verilen denetimli programı kapsamında geliştirilen ve şimdi kamuya sunulmamış Claude Mythos Preview modeline dayanıyor. Bu teşebbüs çerçevesinde, seçilmiş kuruluşlara modelin siber savunma gayeli kullanımına müsaade veriliyor.

Beyaz Saray’dan Gregory Barbaccia’nın kabine seviyesindeki kurumlara gönderdiği e-postada, Mythos kullanımına yönelik müdafaa düzeneklerinin oluşturulduğu tabir edildi. Barbaccia bildirisinde, model sağlayıcıları ve bölüm ortaklarıyla birlikte çalışılarak uygun güvenlik bariyerleri ve muhafaza tedbirlerinin devreye alınmasının hedeflendiğini belirtti. Kelam konusu e-postanın “Mythos Model Access” başlığını taşıdığı da bildirildi. Anthropic’in kurucu ortaklarından Jack Clark, şirketin Mythos modeline ait olarak ABD idaresiyle görüşmeler yürüttüğünü doğrulamıştı.

“Mythos” güvenlik açıklarını tespit edebiliyor

Rapora nazaran Mythos, bugüne kadar işletim sistemleri, web tarayıcıları ve çeşitli yazılımlar içinde binlerce kritik güvenlik açığını tespit etti. Modelin gelişmiş kod üretme kapasitesi, onu sırf açıkları bulmakta değil tıpkı vakitte potansiyel akın senaryoları geliştirebilme açısından da son derece güçlü bir araç haline getiriyor.

Uzmanlar, bu düzeydeki yeteneklerin siber güvenlik alanında benzeri görülmemiş bir açık tespit kapasitesi sunduğunu lakin birebir vakitte berbata kullanım risklerini de artırabileceğini belirtiyor.

Bir Beyaz Saray yetkilisi, federal kurumların kritik yazılımlardaki güvenlik açıklarını tespit etmesine yardımcı olacak teknolojiler üzerinde yapay zeka laboratuvarlarıyla birlikte çalışıldığını söz etti. Birebir yetkili, her yeni teknolojinin doğruluk ve güvenlik açısından kıymetlendirme sürecinden geçirilmesi gerektiğini belirtti.

Kaynak : Donanimhaber