Yapay zekâ çağında gözetleyeni kim gözetleyecek?

Yapay zekâ çağında ‘gözetleyeni gözetlemek’, tek bir aktöre bırakılamaz. Konuya teknolojik ilerleme, demokrasi ve etik arasında sürekli yeniden kurulması gereken bir denge içinden bakmak gerekiyor.

Toplumu korumak ve düze­ni sağlamakla görevli olan­ların bu görevlerini kötüye kul­lanmaları durumunda onları kim ve nasıl denetleyecek? Bu kadim sorunun cevabı bugün hukukun üstünlüğü, kuvvetler ayrılığı, ba­ğımsız yargı, düzenleyici ve de­netleyici kurumlar, özgür basın, ifade özgürlüğü gibi kavramlar­la veriliyor olsa da bu cevap her zaman tatminkar olmuyor. Ya­pay zekâ (YZ) döneminde bu so­ruyu yeniden ele almak gereki­yor. Çünkü YZ başka teknolojile­re benzemiyor.

Görünür hale gelen riskler

Son aylarda hem YZ model­lerinde çok hızlı gelişmeler var hem de bu modellerin ekonomik, toplumsal, siyasi, kültürel, ente­lektüel ve hatta küresel düzlem­de yol açabileceği kırılmalar daha görülür hale geliyor.

Bu açıdan Anthropic'in yeni modeli Mythos çok dikkat çekici. İşletim sistemleri ve tarayıcılar­daki açıkları tespit etme kabili­yeti olduğu ileri sürülen bu model genel kullanıma açılmak yerine sadece sınırlı sayıda iş ortağının kullanımına sunuldu.

Şu sorulara cevap vermek ge­rekiyor:

●Toplumların yaşamında va­him etkiler yaratabilecek tekno­lojilerin kontrolünü şirketler mi devletler mi yapacak?

● Bu modelleri geliştiren bü­yük teknoloji şirketlerini kim de­netleyecek?

● Bu YZ modellerini kullanan devletleri kim denetleyecek?

Bu sorulara sadece dış denetim diye cevap vermek yeterli değil. İlginç bir cevap büyük teknoloji şirketlerinde çalışan teknisyen­lerden geliyor. Bu şirketlerde ça­lışan araştırmacılar, mühendis­ler ve güvenlik ekipleri, geliştir­dikleri sistemlerin risklerinin en çok farkında olan kişiler. Bu sis­temleri inşa edenlerin artık ses­siz kalamadıklarını görüyoruz.

Google’ın Pentagon ile YZ an­laşması yapacak olması 560'tan fazla Google çalışanı tarafından protesto edildi. Çalışanlar şirket CEO’suna yazdıkları açık mek­tupta ABD hükümetinin Goog­le'ın

 YZ teknolojisini gizli askeri operasyonlar için kullanmasına izin verilmemesi çağrısı yaptılar. "Yapay zekânın insanlık dışı veya son derece zararlı şekillerde kul­lanılmasını değil, insanlığa fayda sağlamasını istiyoruz” diyen Go­ogle çalışanları “Bu teknolojiye olan yakınlığımızın, onun etik dışı ve tehlikeli kullanımlarını vurgu­lama ve önleme sorumluluğu do­ğurduğunu düşünüyoruz” uyarı­sı yaptılar. Başka şirketlerden de benzeri itirazlar var. Şubat sonun­da OpenAI’ın Pentagon ile anlaş­ma yapması kendi şirket çalışan­larının tepkisiyle karşılaşmıştı.

Anthropic'in CEO'su Amodei de şirketinin YZ modellerinin ölümcül otonom silahlar ve kitle gözetimi için kullanılmasına izin vermeyecekleri çıkışını yapmıştı.

Uluslararası kurumlardan da YZ yeteneklerinin yönetişim hı­zından daha hızlı geliştiği uyarı­ları geldi. AB, BM, OECD, Dün­ya Bankası, WEF gibi kurumlar YZ’nin güvenlik risklerine, eşit­sizlikleri derinleştirme ihtimali­ne ve temel hakları ve demokrasi­yi koruyacak yönetişim kuralları geliştirilme gerekliliğine dikkat çeken raporlar yayımladı.

Etik ilkelere bağlı kalma fikri güzel de kapitalist sistem altında bu nasıl mümkün olacak? Kapi­talist şirketin kâr güdüsü ile ka­pitalist devletin dünyaya hakim olma hırsının bir araya geldiğinin görüldüğü Palantir’in manifesto­su bu soruyu sorduruyor.

Nihayetinde YZ şirketleri de piyasa ekonomisi kuralına tabi: Yüksek kâr hedeflemek zorunda­lar. En büyük müşterileri kapita­list devlet ile de uyum içinde ça­lışmak zorundalar.

Yapay zekâ ve demokrasi açmazı

Anthropic'in CEO'su Amodei bir noktayı daha vurguluyor: YZ otoriter devletlerin elinde kor­kunç bir araca dönüşebilir. Bu ne­denle YZ teknolojilerinde demok­ratik devletler, otoriter devletlerin mutlaka ilerisinde olmalı. Ancak demokratik ülkelerin otoriterlik­le mücadele için geliştirilecek YZ modellerini kullanması bu ülke­leri otoriter gözetim toplumlarına dönüştürme riskini barındırıyor.

Bu da bizi yeniden baştaki so­runa getiriyor. Ortada çözümü hiç kolay olmayan bir kolektif ey­lem problemi var.

Etik ve güvenlik standartları­na uymayan şirketler ve ülkeler, YZ teknolojilerini kullanarak bu standartlara uyanları devre dışı bırakabileceklerse etkili bir gö­zetimi kim, nasıl sağlamalı?

Cevabı, teknolojik gelişmenin sınırlandırılmasında değil, geliş­menin hangi kurumsal ve jeopo­litik çerçeve içinde sağlanacağın­da aramak gerekiyor. Yapay zekâ çağında ‘gözetleyeni gözetlemek’, tek bir aktöre bırakılamaz. Konu­ya teknolojik ilerleme, demokra­si ve etik arasında sürekli yeni­den kurulması gereken bir denge içinden bakmak gerekiyor.

Bu dengeyi kuracak mekaniz­manın parçaları da ortaya çık­maya başladı. YZ şirketlerin­deki araştırmacıların itirazları, AB'nin YZ Yasası gibi düzenleyici girişimler ve Atom Enerjisi Ajan­sı benzeri uluslararası denetim sistemi önerileri bunların işa­retleri. Hiçbiri tek başına yeter­li değil ama hepsi birlikte bir yö­nü gösteriyor: bu gözetim, tek bir aktörden değil, birbirini denge­leyen çok sayıda aktörden — tek­nisyenler, sivil toplum, demokra­tik kurumlar ve uluslararası an­laşmalar — oluşan bir ekosistem ile yapılmalı.