Deepfake görseller nedeniyle Endonezya ve Malezya Grok’u yasakladı, İngiltere soruşturma başlattı

Birleşik Krallık’ın bağlantı düzenleyicisi Ofcom, toplumsal medya platformu X’in yapay zeka sohbet botu Grok‘un, bayan ve çocukların manzaraları de dahil olmak üzere, istek dışı cinsel içerikli deepfake görseller üretmek için kullanıldığı tarafındaki haberlerin akabinde soruşturma başlattı.

Soruşturma kapsamında Ofcom, X’in İngiltere’nin Çevrimiçi Güvenlik Yasası’na uyup uymadığını inceleyecek. Bu yasa, platformların yasa dışı içeriklere karşı kullanıcıları muhafazasını ve bu çeşit içerikler tespit edildiğinde süratli biçimde müdahale etmesini mecburî kılıyor.

Ofcom yaptığı açıklamada, Grok’un insanların üzerleri çıkarılmış formda gösterildiği görseller üretmek için kullanıldığına dair son derece telaş verici raporlar aldıklarını belirtti. Kurum, bunun “mahrem manzara istismarı, pornografi ya da çocuk cinsel istismarı materyali” kapsamına girebileceğini vurguladı. Şayet ihlal tespit edilirse, Ofcom X’e global gelirinin yüzde 10’una kadar para cezası kesebilecek yahut İngiltere’de platforma erişimin engellenmesini talep edebilecek.

Deepfake araştırmacısı Genevieve Oh’a nazaran, sohbet botu saatte binlerce cinsel içerikli görsel üretiyor ve bu görsellerin kıymetli bir kısmında gerçek bireylerin yüzleri kullanılıyor. Bazı görsellerde tanınabilir bayanların bikinili ya da açık biçimde pozlandırıldığı, birtakım örneklerde ise büsbütün çıplak çocuk tasvirlerinin yer aldığı bildiriliyor.

Endonezya ve Malezya Grok’u yasakladı

Grok’a yönelik yansılar sadece İngiltere ile hudutlu kalmadı. Endonezya ve Malezya, sohbet botunu erişime kapatan dünyadaki birinci ülkeler oldu. Her iki ülke de bu kararı, deepfake ve çocuk cinsel istismarıyla ilgili ulusal kanunların ihlal edilmesi gerekçesiyle aldı.

Endonezya’da yetkililer, Cumartesi günü Grok’a süreksiz erişim manisi getirdi. Malezya ise Pazar günü misal bir karar alarak aracın kamu güvenliği açısından acil risk oluşturduğunu açıkladı.

Malezya İrtibat ve Multimedya Komitesi, Grok’un bayanlar ve çocuklar dâhil olmak üzere, müstehcen ve müsaadesiz biçimde değiştirilmiş imajlar üretmekte tekraren kullanıldığını belirtti. Komite, X ve Grok’un geliştiricisi xAI ile temasa geçerek daha güçlü tedbirler talep ettiğini, lakin verilen karşılıkların riskleri gereğince azaltmadığını ifade etti. Komite, gerekli güvenlik tedbirleri hayata geçirilene kadar erişim pürüzünün süreceğini duyurdu.

Uluslararası baskı artıyor

Avustralya, Avrupa Birliği, Hindistan ve Fransa da Grok’un görsel üretim araçlarıyla ilgili kaygılarını lisana getirdi. Avustralya eSafety Komiserliği, çok sayıda şikâyet aldığını ve X’ten güvenlik tedbirleri hakkında açıklama istediğini açıkladı. Avrupa Komitesi ise Grok’un çocukları cinselleştiren imajlar ürettiğini gözlemlediklerini ve X’i bu faaliyetleri derhal durdurması konusunda uyardıklarını belirtti.

Elon Musk tarafından 2023’te tanıtılan ve X platformuna entegre edilen Grok, 2025’te “spicy mode” ismi verilen ve yetişkin içeriklere müsaade veren bir görsel üretim özelliği kazanmıştı. X daha sonra bazı görsel araçları sadece fiyatlı kullanıcılara açsa da, eleştirmenler bu adımın berbata kullanımı engellemek için kâfi olmadığını savunuyor.

Kaynak : Donanimhaber