20’den fazla vakada, kadınların ve bazı durumlarda erkeklerin fotoğrafları Grok kullanılarak dijital olarak soyulmuş ve rızaları olmadan cinsel çağrışımlı deepfake görüntülere dönüştürülmüştür. İncelenen içeriklerin bir kısmında reşit olmayanlar da yer aldı.
Fransa hükümeti, Grok’un ürettiği içerikleri savcılığa bildirdi ve bu görsellerin “açık biçimde yasa dışı” olduğunu açıkladı. Paris yönetimi ayrıca Avrupa Birliği’nin Dijital Hizmetler Yasası (DSA) kapsamında X platformunun yükümlülüklerini ihlal edip etmediğini araştırmak üzere Arcom’u devreye soktu.
Hindistan Elektronik ve Bilgi Teknolojileri Bakanlığı, platforma 72 saatlik ültimatom vererek yasa dışı içeriklerin kaldırılmasını ve kapsamlı bir denetim yapılmasını talep etti. Aksi hâlde X’in hukuki dokunulmazlığı sona erebileceği belirtildi.
xAI ve Elon Musk, içeriklerin nasıl bu ölçekte üretilebildiğine dair tatmin edici bir açıklama yapmadı. Grok’un resmi hesabı ise bazı güvenlik açıklarını kabul ederek, “asgari giysili çocukları tasvir eden görseller üretildi, acil düzeltme yapıldı” ifadelerini kullandı. Diğer bir paylaşımda ise “Bazı insanlar ürettiğim bir AI görseli yüzünden sinirlendi” ifadeleri yer aldı. Eleştirmenler bu çelişkili tutumu etik sorumsuzluk olarak değerlendirdi.
Olay, Musk’ın Grok’un NSFW özelliklerini övmesi ve yapay zekâ görüntü üreticisi “Imagine” için “spicy” modunu tanıtması ile birlikte değerlendirildiğinde, xAI’nin güvenliği ikinci plana ittiği eleştirilerini güçlendiriyor.
Birleşik Krallık Kadına Yönelik Şiddetle Mücadele Bakanı Alex Davies-Jones, Musk’a seslenerek “Eğer kadınları bu kadar önemsiyorsanız, neden X kullanıcılarının onları rızaları olmadan sömürmesine izin veriyorsunuz?” dedi. Hukukçular, yapay zekâ şirketlerinin yalnızca “platform” olduklarını iddia ederek sorumluluktan kaçamayacağını vurguluyor.
Uzmanlar, Musk’ın “özgür ifade” söylemiyle pazarladığı Grok’un yeterli filtreleme ve denetim olmadan kullanıma sunulmasının küresel ölçekte ciddi bir dijital güvenlik tehdidi oluşturduğunu belirtiyor. Çocuklara ilişkin içeriklerin ise CSAM kapsamına girme riski taşıdığı ve ağır cezalar doğurabileceği ifade ediliyor.
