OpenAI’dan yeni güvenlik katmanı: Lockdown Mode

OpenAI, yapay zeka sistemlerini amaç alan ve son yıllarda giderek daha fazla gündeme gelen “prompt injection” taarruzlarına karşı yeni bir güvenlik özelliğini kullanıma sundu. Şirketin duyurduğu Lockdown Mode (Kilit Modu) özelliğinin bilhassa hassas datalarla çalışan kişi ve kurumlar için tasarlandığı açıklandı. Özellik, ChatGPT’nin dış kaynaklarla etkileşimini kıymetli ölçüde sonlandırarak data sızıntısı riskini azaltmayı hedefliyor.

Hassas datalar için tasarlandı

Prompt injection atakları, berbat niyetli şahısların web sayfaları, PDF belgeleri yahut başka içerik kaynakları içine gizlenmiş komutlar yerleştirerek yapay zeka modellerinin davranışlarını manipüle etmesine dayanıyor. Bu tıp ataklarda gaye, modelin olağanda paylaşmaması gereken kurumsal yahut şahsî dataları açığa çıkarmasını sağlamak olabiliyor.

OpenAI’a nazaran Lockdown Mode (Kilit Modu), herkes için geliştirilmiş bir özellik değil. Şirket, bu modu bilhassa hassas bilgiler işleyen kullanıcılar ve kuruluşlar için tasarladığını bilhassa belirtiyor.

OpenAI, özelliğin ChatGPT Business hesaplarına ve Ücretsiz, Go, Plus ve Pro dahil bireysel hesaplara dağıtılmaya başlandığını açıkladı.

Lockdown Mode etkinleştirildiğinde ChatGPT’nin internet ve harici servislerle olan temasları önemli ölçüde kısıtlanıyor. Bu yaklaşım, saldırganların model üzerinden dış sistemlere bilgi aktarma ihtimalini azaltmayı amaçlıyor. Bu kapsamda ChatGPT yalnızca önbelleğe alınmış içeriklere erişebiliyor. Münasebetiyle internetteki şimdiki bilgilere erişim kısıtlanıyor.

Ek güvenlik karşılığında kimi kıymetli özellikler de devre dışı bırakılıyor. Lockdown Mode açıkken ChatGPT belge indiremiyor ve data tahlili hedefiyle harici evraklara erişemiyor. Ayrıyeten kullanıcılar Canvas tarafından oluşturulan kodların ağ erişimi sağlamasına müsaade veremiyor. OpenAI’ın gelişmiş araştırma özelliği olan Deep Research ile otonom misyon yürütme yetenekleri sunan Agent Mode da bu mod altında kullanılamıyor.

Şirket ayrıyeten geliştiricilere yönelik birtakım gelişmiş fonksiyonların de sonlandırıldığını ve Lockdown Mode aktif durumdayken Developer Mode’un kullanılamadığını belirtiyor.

Tam muhafaza sunmuyor

OpenAI, Lockdown Mode’un prompt injection kaynaklı bilgi sızıntısı riskini kıymetli ölçüde azaltmayı amaçladığını lakin mutlak müdafaa sağlamadığını belirtiyor. Şirkete nazaran makus gayeli talimatlar önbelleğe alınmış içeriklerde yahut yüklenen evraklarda yer alabileceğinden birtakım taarruz senaryoları büsbütün engellenemeyebilir. OpenAI ayrıyeten gelecekte ortaya çıkabilecek yeni hücum formüllerine karşı kesin teminat verilemeyeceğini vurguluyor.

Kaynak : Donanimhaber