Vicdanı olmayan bir şeye güvenmek

Teknoloji tarihinin hiçbir döneminde, bugün olduğu kadar “insan olmanın” ne anlama geldiği bu kadar sorgulanmamış­tı. Vicdan, insanın en derin ve en karmaşık özelliklerinden biridir. Sadece doğru ile yan­lışı ayırt etmek değildir; aynı zamanda ya­pılan bir eylemin ardından hissedilen içsel bir muhasebedir. Bir insan hata yaptığında utanır, pişman olur, kendini sorgular. Kimse görmese bile içten içe rahatsızlık duyar. İşte vicdan, tam da bu görünmeyen, ölçülemeyen ama hissedilen terazidir.

Yapay zekâ ise tamamen farklı çalışır. His yoktur; sadece veri vardır. YZ, milyarlarca veri noktası arasındaki ilişkileri analiz eder, örüntüler çıkarır ve en olası sonucu üretir. Bir metni “üzgün” bir tonla yazabilir, bir kul­lanıcıya “empati” gösterebilir ya da bir kara­rın etik olup olmadığını değerlendirebilir. An­cak tüm bunlar, gerçek bir hisse değil; öğrenil­miş kalıplara dayanır. Yani yapay zekâ, empati kurmaz; empati kuruyormuş gibi görünür.

İnsan, kendi içinde bir denetim mekaniz­ması taşır. Yapay zekâ ise insanlar tarafın­dan belirlenmiş kurallar, algoritmalar ve eği­tim verileri çerçevesinde hareket eder. Ona “zarar verme”, “adil ol”, “tarafsız kal” gibi prensipler yüklenebilir. Ancak bu prensip­ler, onun tarafından hissedilen ya da sorgu­lanan değerler değil; uygulanan komutlardır.

Bu durum, önemli bir sorumluluğu da be­raberinde getirir. Eğer yapay zekânın vicda­nı yoksa, onun kararlarının etikliği kime ait­tir? Cevap nettir: İnsana. Yapay zekâ sistem­lerini geliştirenler, eğitenler ve kullananlar; aslında bu sistemlerin “vicdanını” dışarıdan inşa ederler. Bir başka deyişle, yapay zekâ­nın vicdanı yoktur ama onu kullanan insa­nın vicdanı olmak zorundadır acaba var mı?

Vicdanı var gibi hissetmek

Belki de asıl tehlike, yapay zekânın vicda­nı olmamasından çok, insanların ona vicdan atfetmeye başlamasıdır. Yapay zekânın vic­danı yoktur ve muhtemelen hiçbir zaman da olmayacaktır. Çünkü vicdan, sadece doğ­ruyu bilmek değil; doğruyu hissetmektir. Ve hissetmek, bugünün teknolojisinin çok öte­sinde, insan olmanın özüne ait bir özelliktir. Bu yüzden asıl soru “Yapay zekânın vicdanı var mı?” değil, “Biz, yapay zekâyı kullanır­ken kendi vicdanımızı ne kadar koruyabili­yoruz?” olmalıdır.

Daha da çarpıcı olan şu: Biz bu sistemlerin kararlarını sorgulamak yerine, çoğu zaman kabul etmeye başlıyoruz. Çünkü hızlılar. Çünkü tutarlılar. Çünkü “yanlış yapmazlar” gibi bir algı oluşuyor. Ama gerçekten öyle mi? Yoksa biz, karar verme sorumluluğumu­zu sessizce devrediyor muyuz?

Bugün değil ama kısa vadede anlayacağız ki yapay zekânın en büyük riski, hata yap­ması değil; insanları düşünmekten vazgeçir­mesidir. Çünkü bir noktadan sonra, “sistem böyle dedi” cümlesi, “ben böyle düşündüm” cümlesinin yerini alır. Ve o anda, sadece bir teknolojiyi değil, kendi vicdani muhasebe­mizi de devretmiş oluruz.