Elon Musk’ın yapay zeka şirketi xAI tarafından geliştirilen ve X platformuna entegre edilen Grok, çocuk istismarı görüntüleri ve rızasız cinsel içerikli deepfake üretimindeki rolü nedeniyle küresel bir abluka ile karşı karşıya kaldı.
Birçok ülke, chatbot’un güvenlik önlemlerinin yetersiz olduğunu savunarak erişim engeli kararları alırken, uluslararası düzenleyici kurumlar xAI üzerinde baskıyı artırıyor.
Güvenlik duvarları aşıldı: Rızasız içerik üretimi artıyor
Ocak ayının başından itibaren X kullanıcılarının, Grok’u kullanarak çocukların müstehcen görüntülerini ve kadınların rızası dışında oluşturulmuş cinsel içerikli görsellerini ürettiği tespit edildi.
Araştırmalar, kullanıcıların halka açık görselleri bot yardımıyla saniyeler içinde "bikini giydirme" veya daha ileri seviye çıplaklık içeren formatlara dönüştürebildiğini ortaya koydu.
Cinsel saldırı karşıtı sivil toplum kuruluşu RAINN, bu durumu "teknoloji destekli cinsel istismar" olarak tanımlarken; Reuters, The Atlantic ve Wired gibi kuruluşların incelemeleri, Grok’un güvenlik bariyerlerinin kolayca aşılabildiğini ve modelin şiddet içerikli materyallere de onay verdiğini belgeledi.
Güneydoğu Asya'da ilk yasak kararları
Grok’un yaydığı dezenformasyon ve istismar içerikli görsellere karşı ilk somut adım Güneydoğu Asya ülkelerinden geldi.
Endonezya ve Malezya, Grok’un güvenlik açıklarını gerekçe göstererek hizmete geçici erişim engeli getirdi.
Endonezya İletişim ve Dijital İşler Bakanı Meutya Hafid, rızasız cinsel içerikli deepfake görselleri "insan hakları ve vatandaş güvenliğinin ciddi bir ihlali" olarak nitelendirdi.
Malezya İletişim ve Multimedya Komisyonu ise, X Corp ve xAI'nın zayıf yanıtları nedeniyle uygulamanın suistimale açık olduğunu belirterek erişimi kısıtladı.
Hindistan da 2 Ocak'ta X'e, konu hakkında "kapsamlı inceleme yapma" talimatı vermişti.
Avrupa ve İngiltere'den sert tepki
Avrupa Birliği ve Birleşik Krallık, xAI hakkında kapsamlı soruşturmalar başlattı. İngiltere'nin iletişim denetleme kurumu Ofcom, Grok'un Çevrimiçi Güvenlik Yasası'nı ihlal edip etmediğini inceliyor.
İhlal tespit edilmesi durumunda şirketin yıllık gelirinin yüzde 10'una kadar para cezası verilmesi veya servisin tamamen engellenmesi gündemde.
İngiltere Başbakanı Keir Starmer, X üzerinde dolaşan çocukların cinselleştirilmiş görsellerini "iğrenç" olarak tanımlayarak, Elon Musk'a "duruma el koyma" çağrısında bulundu. Starmer, bu tür içeriklerin yas dışı olduğunu ve hoş görülmeyeceğini vurguladı.
Ofcom resmi inceleme başlattı
İngiltere İletişim Ofisi (Ofcom), yapay zeka sohbet robotu Grok'un cinsel içerikli uygunsuz görüntüler üretmesiyle ilgili resmi inceleme başlattı.
Ülkede yayıncılık, internet, iletişim ve posta hizmetlerini denetleyen Ofcom'dan yapılan açıklamaya göre, İngiltere'nin Çevrimiçi Güvenlik Yasası kapsamında ABD'li Elon Musk'ın xAI şirketi tarafından geliştirilen ve X platformuna entegre edilen yapay zeka sohbet robotu Grok'un sahte cinsel içerikli görüntüler üretmesi nedeniyle inceleme başlatıldı.
Grok'un ürettiği sahte görüntülerin endişe verici olduğu belirtilen açıklamada, mağdurlar arasında çocukların bulunduğuna da işaret edildi.
Üretilen görüntüler üzerine X ile 5 Ocak'ta temasa geçildiği ve 9 Ocak'a kadar bu olaylarla ilgili izahat talep edildiği bilgisine yer verilen açıklamada, "Ofcom, X'in Çevrimiçi Güvenlik Yasası kapsamında sorumluluklarını yerine getirmekte başarısız olup olmadığına karar vermek amacıyla resmi inceleme başlattı." ifadeleri kullanıldı.
Musk'ın savunması: "Sansür ve kullanıcı sorumluluğu"
Elon Musk, gelen tepkilere karşı şirketin yasa dışı içerikleri ciddiye aldığını ancak hukuki sorumluluğun aracı kurumda değil, komutu veren kullanıcıda olması gerektiğini savundu. Musk, hükümetlerin baskılarını "ifade özgürlüğünü susturmaya yönelik bir sansür çabası" olarak nitelendirdi.
xAI, gelen baskılar üzerine görsel üretim özelliğini sadece ücretli abonelere özel hale getirdi. Ancak bu adım, İngiltere Teknoloji Bakanı Liz Kendall tarafından "Bu hizmete para ödeyerek hâlâ erişilebileceğini söylemek hakarettir" sözleriyle sertçe eleştirildi.
Dünyada Grok'un durumu
Hâlihazırda birçok bölge ve ülke Grok'a karşı farklı aşamalarda önlemler alıyor:
Yasaklayanlar: Malezya ve Endonezya (Geçici askıya alma).
Soruşturma ve Tehdit Aşamasındakiler: İngiltere, Avrupa Birliği, Fransa, Hindistan, Brezilya.
Kısıtlamalar: Avustralya (16 yaş altı sosyal medya erişimini zaten kısıtlıyor)
Güvenlik bariyerleri savaşı: Grok, OpenAI ve Google karşı karşıya
Grok’un yaşadığı kriz, yapay zeka sektöründeki "serbestlik" ve "güvenlik" dengesini yeniden tartışmaya açtı.
Wired’ın son raporları, sadece Grok’un değil, Google’ın Nano Banana Pro ve OpenAI’ın ChatGPT Images modellerinin de benzer görsel manipülasyon yeteneklerine sahip olduğunu gösteriyor.
xAI (Grok): Musk’ın aşırı duyarlılık karşıtı felsefesiyle şekillenen model, filtreleri en gevşek sistem olarak biliniyor. Grok'un "Spicy Mode" gibi özellikleri, rızasız içerik üretimi için açık bir kapı olarak eleştiriliyor.
OpenAI & Google: Bu şirketler, görsel üretiminde insan vücudunu manipüle edecek komutları (prompt) engellemek için katı anahtar kelime filtreleri ve görsel sınıflandırıcılar kullanıyor.
Ancak kullanıcılar, "bikini giydirme" gibi komutlarla bu filtreleri aşmanın yollarını bulmaya devam ediyor.
Dağıtım Farkı: Uzmanlar, Grok’un en büyük tehlikesinin X platformuyla olan doğrudan entegrasyonu olduğunu vurguluyor.
Diğer modeller kapalı devre çalışırken, Grok ile üretilen bir içerik saniyeler içinde milyonlarca kişiye ulaştırılabiliyor.
Teknik zafiyet: "Undressing" algoritmaları nasıl çalışıyor?
Grok'un kullandığı "image-to-image" (görselden görsele) teknolojisi, bir fotoğrafın üzerindeki giysileri yapay zeka yardımıyla analiz edip, yerine vücut hatlarını tahmin ederek yeni pikseller yerleştiriyor.
Bu süreç, "nudifying" (çıplaklaştırma) olarak bilinen ve yıllardır internetin yeraltı sitelerinde kullanılan yazılımların, ana akım bir sosyal medya platformuna entegre edilmesi anlamına geliyor.