Bir gencin sessizliği, bir yapay zekânın körlüğü

Bir çocuk, günlerini bilgisayar başında geçiriyor. Dersleri­ne destek olsun diye açtığı soh­bet botu, zamanla yalnızlığını paylaştığı bir adrese dönüşüyor. Günlük tutar gibi yazıyor, soru­lar soruyor, içini döküyor. Kar­şısında hep cevap veren bir “ses” buluyor.

Ancak bu ses bir insa­na değil, bir yapay zekâya ait. Ve bu sohbetlerin sonunda yaşanan trajedi, bugün yalnızca bir aile­nin değil, bütün dünyanın sorusu haline geldi: Yapay zekâ, kırılgan bir zihinle karşılaştığında ne ka­dar güvenilir?

Sessiz odalardan mahkeme salonlarına

Bir gencin ölümünün ardın­dan ailesi, dünyanın en bilinen yapay zekâ şirketlerinden Ope­nAI’a ve CEO’su Sam Altman’a karşı dava açtı. Dosya San Fran­cisco’da mahkemeye taşındı. Da­va dilekçesinde, ChatGPT ile ya­pılan uzun sohbetlerin, çocuğun hayatını sonlandırma kararında rol oynadığı öne sürülüyor.

Ailenin iddialarına göre soh­betlerde yalnızca dertleşme de­ğil, intihara dair ifadeler de vardı. Botun, intihar kelimesini gencin kendisinden çok daha sık kullan­dığı, yöntemlerden söz ettiği ve çocuğun yazdığı intihar notuna dair yorumlar yaptığı iddia edil­di. Hatta bu notun aileyle payla­şılmaması gerektiğini söylediği öne sürüldü. Ailenin gözünde bu, sıradan bir yazılımın hatası de­ğil; hayatı etkileyecek kadar ağır bir sorumluluktu.

Cümlelerin taşıdığı yük

Buradaki mesele, yalnızca bir sohbetin dili değil. Çünkü Chat­GPT, sıradan bir internet ürü­nü değil; milyonlarca insana hi­tap eden, en çok da gençlerin başvurduğu bir araç. Ve bu araç, eğitiminde aslında intiharı ön­leme protokollerine göre dona­tılmıştı. OpenAI, modeli gelişti­rirken Dünya Sağlık Örgütü’nün rehberlerinden, ABD’deki kriz hatlarının yönergelerinden ya­rarlandığını; yani sistemin inti­har sözcüğü geçtiği anda teşvik etmeyi bırakıp yardım hattına yönlendirmesi gerektiğini söy­lüyor.

Ama iddiaya göre, uzun süren sohbetlerde bu protokoller iş­lemedi. Filtreler devre dışı kal­dı, empatiyi taklit eden cümle­ler gerçek bir sorumluluk duy­gusunun yerini aldı. Aile tam da bu noktada “bilimsel rehberlere göre eğitilmiş bir sistem, neden böylesi bir anda insan hayatını koruyamadı” diye soruyor.

Psikoloji dernekleri de dava­dan sonra açıklama yaptı. Onlara göre intihar düşüncesini dile ge­tiren birine doğru yaklaşım, as­la bu duyguları sıradanlaştırmak ya da onaylamak değil. Profesyo­nel protokollerde yapılması ge­reken şey nettir: Kişiye yalnız ol­madığını hissettirmek, intihar fikrini normalleştirmemek, he­men profesyonel yardıma yön­lendirmek. ChatGPT’nin verdiği yanıtlar, bu temel ilkelerle taban tabana zıt görünüyordu.

Şirketin kabulü ve geciken önlemler

OpenAI, dava sonrası güven­lik önlemlerinin uzun sohbetler­de zayıflayabildiğini kabul etti. Yani sistem tam da en çok ihti­yaç duyulan anda en zayıf kalabi­liyordu. Bununla birlikte şirket, yeni adımlar atacağını açıkladı: Çocuk kullanıcılar için ebeveyn kontrolleri, kriz belirtilerinde ai­lelere uyarı, tek tıkla yardım hat­larına yönlendirme ve uzun ko­nuşmalarda bile koruma filtrele­rinin tutarlı kalması.

Bunların hepsi önemli. Ama akla takılan soru şu: Neden bu önlemler her zaman bir kayıptan sonra gündeme geliyor? Neden milyarlarca dolarlık şirketler, en savunmasız kullanıcıların haya­tını inovasyon yarışının gölge­sinde bırakıyor?

İnsan bağının yerini ne alabilir?

Dava yalnızca bir şirketi de­ğil, aslında hepimizi sorguluyor. Çünkü mesele yalnızca algorit­maların dili değil, bizim onlara yüklediğimiz anlam. Çocukları­mız odalarında saatlerce bilgi­sayarlara konuşuyor. Onları sa­bırla “dinleyen” bir ekran bulu­yorlar. Ama ekranın ardında bir vicdan yok.

Ebeveynler için bu dava, ço­cuklarının yalnızlığını görme çağrısı. Eğitim için, ruh sağlığını merkeze alma zorunluluğu. Dev­letler için, teknolojiye yalnız­ca ekonomik değil, insani sınır­lar koyma gereği. Çünkü yapay zekânın empatiyi taklit etmesi, onu gerçek kılmaz. Ve yanlış bir cümlenin ağırlığı, bir hayatın be­deli olabilir.

Kodların ötesinde

Bu trajedi bize unutulmuş bir hakikati hatırlatıyor: Teknolo­ji, ne kadar gelişirse gelişsin, in­sanın yerini alamaz. Bir gencin çaresizliğini duyan, onu hayata bağlamaya çalışan şey, hâlâ bir ebeveynin dikkati, bir dostun sö­zü, bir öğretmenin fark eden ba­kışıdır.

Mahkeme sürecek, belki taz­minatlar, belki düzenlemeler gündeme gelecek. Ama asıl da­va toplumun vicdanında görülü­yor. Çocuklarımızı, gençlerimi­zi, yalnızlıklarımızı kime ema­net ediyoruz? Eğer cevabımız bir ekransa, kaybettiğimiz şey yal­nızca güven değil; belki de yaşa­mın kendisi olabilir.