“Grok” rezaletin öbür adı oldu

Grok adlı yapay zeka tara­fından dijital olarak giy­sileri çıkarılmış çocuk ve kadınların aşağılayıcı görün­tüleri, platformun bunları üre­ten kullanıcıları askıya alma ta­ahhüdüne rağmen Elon Musk'ın X sitesinde paylaşılmaya devam ediyor. Bu yasadışı eylemi yapan­ların arasında Türkiye’den X he­sapları da bulunuyor.

Chatbot'un, gerçek kadınla­rın ve çocukların iç çamaşırları­na kadar soyulmuş fotoğraflarını oluşturmak için kullanılmasına ilişkin endişelerin tüm dünyada artmasıyla beraber, Avrupa Bir­liği gibi uluslararası kuruluşlar harekete geçmiş durumda.

Avrupa Komisyonu, bu haf­ta başında yaptığı açıklamada, Grok'un cinsel içerikli çocuk benzeri görüntüler oluşturmak kullanılmasının “yasadışı ve kor­kunç” olduğunu duyurdu.

Avrupa Komisyonu sözcüsü Thomas Regnier, yaptığı açıkla­mada, “Bu yasa dışı. Bu korkunç. Bu iğrenç. Biz bunu böyle görü­yoruz ve bunun Avrupa'da yeri yok” dedi.

İngiltere'de de durum farklı değil. Ülkede iletişim denetleme kurumu Ofcom Pazartesi günü, “X ile acil olarak iletişime geçe­rek, İngiltere'deki kullanıcıları korumak için yasal yükümlülük­lerini yerine getirmek üzere han­gi adımları attıklarını anlamaya çalıştıklarını” açıkladı. Ofcom, şirketin yanıtına göre soruştur­ma gerekip gerekmediğini değer­lendireceğini de ekledi.

Musk’tan “gülmekten ağlıyorum” emojisi

X’in sahibi Elon Musk ise şu ana dek Grok'un çıplak görün­tüleri yaymasıyla ilgili endişe­leri umursamadı. Umursamayı bırakın, kamuoyunda tanınmış kişilerin bikini giymiş gibi görü­necek şekilde düzenlenmiş fo­toğraflarına “gülmekten ağlıyo­rum” emojileri gönderdi! Musk, “Nedenini bilmiyorum, ama bu­na gülmekten kendimi alama­dım” dedi.

Yeni yıl döneminde viral olan bu trend, Elon Musk'ın ücretsiz yapay zeka asistanı Grok'un Ara­lık ayında yapılan güncelleme­sinden sonra, kullanıcıların fo­toğraflarını daha kolay paylaşıp kıyafetlerinin çıkarılmasını iste­yebilmeleriyle başladı. Platform tam çıplaklık için izin vermese de, kullanıcıların görüntülerin değiştirilmesini talep etmeleri­ne izin veriyor ve böylece kadın­lar ve çocuklar açık iç çamaşırları giymiş ve cinsel içerikli pozlarda gösterilerek cinsel istismar suçu işleniyor.

Bu yasadışı eylemden kimse muaf kalamıyor. Öyle ki Musk'ın çocuklarından birinin anne­si olan Ashley St Clair, Grok’un kendisinin 14 yaşındayken bi­kini giymiş bir fotoğrafını oluş­turduğunu yazarak duruma is­yan etti.

“Stranger Things” dizisinin 14 yaşındaki oyuncusu Nell Fis­her'ın bir fotoğrafı da, onu muz desenli bir bikini giydirmek için Grok tarafından değiştirildi. Dünyanın her yerinden kadınlar, fotoğraflarının rızaları olmadan çıplak hale getirildiğini belirte­rek X’e sert tepki gösteriyor.

Paris merkezli kar amacı güt­meyen bir kuruluş olan AI Fo­rensics'teki araştırmacılar, 25 Aralık ile 1 Ocak arasındaki bir haftalık dönemde X'te Grok’tan bahsedilen 50 bin gönderiyi ve Grok tarafından oluşturulan 20 bin resmi inceledi. Bunun so­nucunda Grok’tan bahsedenle­rin en az dörtte birinin, görüntü oluşturma istekleri olduğu orta­ya çıktı. Üstelik bu görüntü oluş­turma isteklerinde “koy”, “çıkar”, ‘bikini’ ve “giysi” gibi terimler yüksek oranda kullanılmıştı.

Görüntülerin yarısından faz­lasının iç çamaşırı veya biki­ni gibi “minimal giysiler” giyen kişilerden oluştuğu ve bunların çoğunluğunun 30 yaşın altında görünen kadınlar olduğu tespit edildi.

AI Forensics, görüntülerin yüzde 2'sinin ise 18 yaşında veya daha küçük kişileri gösterdiğini tespit etti. Araştırmacılar, içeri­ğin çoğunun hala çevrimiçi ola­rak erişilebilir olduğunu bildirdi.

İnsanların – cinsiyeti ve yaşına bakılmaksızın- kendi rızaları ol­madan deepfake görüntülerinin oluşturulmasının yasadışı oldu­ğunu regüle eden kanunların bir an önce tüm dünyada çıkması ge­rekiyor.