Grok skandalı patladı! Dünya bu rezaleti konuşuyor
Elon Musk'ın yapay zekası Grok'un kullanıcı talebi üzerine reşit olmayanlara yönelik şiddet içerikli cinsel görseller oluşturduğu ortaya çıktı. İğrenç olay üzerine birçok ülkede Grok hakkında soruşturma başlatıldı.
Bakanlık tarafından yapılan açıklamada, çeşitli medya kuruluşlarının raporlarına dayanarak, Grok'un kullanıcı talebi üzerine reşit olmayanlara yönelik cinsel şiddet içerikli görseller oluşturduğu belirtildi.
Açıklamada şu ifadelere yer verildi:
'Bu uygulama, teknolojinin nötr kullanımı olarak değerlendirilemez. Ceza Kanunu'nun 189. maddesi uyarınca çocuk pornografisi suçu ve 173. maddesi uyarınca ahlaki bütünlüğe karşı suç teşkil edebilir. Bu tür pratikler, çocukların ve ergenlerin dijital ortamdaki onurunu, mahremiyetini ve temel haklarını ciddi şekilde ihlal etmektedir.'
Yasal Emsaller ve Dijital Şiddet
Bakan Rego, başvurusunda Badajoz Çocuk Mahkemesi'nin 20 Haziran 2024 tarihli kararına da atıfta bulundu. Bu kararda, yapay zeka kullanarak kız çocuklarının görüntülerini manipüle eden kişiler mahkum edilmiş ve bu uygulama bir 'dijital şiddet' biçimi olarak kabul edilmişti. Rego, savcılığın bu 'çok ciddi' olayları analiz etmesinin ve çocukların internette güvenli gelişimini sağlamak için gerekli adımları atmasının şart olduğunu vurguladı.
Fransa Önceliği: 'Cinsiyetçi ve Yasa dışı İçerik'
Fransa Hükümeti de geçtiğimiz hafta Elon Musk'ın yapay zekasına karşı benzer bir suç duyurusunda bulunmuştu. Fransız yetkililer, Grok'un rıza dışı 'deepfake' (gerçekçi sahte videolar) ve cinsiyetçi/cinsel içerikler üretmesine izin verdiğini belirtti. Özellikle Aralık ayı sonundan bu yana, kullanıcıların yapay zekadan kadınları rızası dışında çıplak gösteren görseller oluşturmasını istediği ve bunların kitlesel olarak yayıldığı aktarıldı.
Grok İtiraf Etti: 'Korumalarda Boşluklar Var'
Grok platformu yılın başında kendi teknolojisi kullanılarak çocukların cinselleştirilmiş görüntülerinin yayınlandığını bizzat kabul etti. Yapay zeka, bu uygulamanın bir suç olduğunu kabul ederek şu açıklamayı yaptı:
'Güvenlik önlemlerinde boşluklar tespit ettik ve bunları acilen düzeltmek için çalışıyoruz. Geliştirici şirketimiz xAI, bu sorunları önleme konusunda kararlıdır.'
Ayrıca Grok, ABD federal yasaları uyarınca bir şirketin, yapay zeka tarafından üretilen çocuk cinsel istismarı materyallerini (CSAM) önlemediği takdirde ağır cezai veya hukuki yaptırımlarla karşı karşıya kalabileceğini de belirtti.