Yapay zekânızı nasıl alırsınız?

Bu yazdan beri yapay zekâ (YZ) kapasitesi çok hızla artarken YZ’nin yol açabileceği güvenlik riskleri ve düzenlen­me ihtiyacı konusundaki tartış­ma da giderek güçlendi. Bunun bir nedeni neredeyse hafta geç­miyor ki YZ’yle ilgili yeni bir va­him siber güvenlik ihlali haberi gelmesin.

OpenAI, Anthropic, Meta ve Google gibi önce gelen YZ şirketleri bir süredir YZ mo­dellerinin kontrolden çıktığını, insanların yönlendirmediği ba­zı adımları atarak güvenlik sı­nırlarını ihlal ettiği, farklı ülke­lerden aralarında hükümetlere ait olanların da bulunduğu web sitelerine sızdıkları bilgilerini raporluyorlar.

YZ’nin düzenlenmesi tartış­malarının bir ayağında da özel­likle de Çin ve ABD arasındaki rekabetin giderek kızışması yer alıyor.

Geçen hafta yapılan BM top­lantılarında dikkat çeken baş­lıklardan birisi de Anthropic’in CEO’su Dario Amodei ve Ope­nAI’ın CEO’su Sam Altman’ın BM güvenlik konseyinde yap­tıkları konuşmalardı. Amode­i’nin terörist grupların biyolo­jik silah üretmek için YZ’yi kul­lanmaya kalkıştığını söylemesi ve YZ’nin bu hızla gelişmeye de­vam etmesi halinde insanlığın YZ üzerinde denetiminin kal­mayabileceği uyarısı çok dikkat çekti.

YZ insanlığı yok eder mi?

YZ’nin yol açabileceği riskler­le ilgili senaryoları üç başlıkta toplayabiliriz:

YZ insan soyunun sonunu getirebilir. Buna artık sadece bir bilimkurgu distopyası ola­rak bakılmıyor. Buna yüzde 10’dan az olmayan bir ihtimal atfedenler arasında yapay si­nir ağları ve makine öğrenimi alanındaki çalışmalarıyla 2024 Nobel Fizik Ödülü'nü alan Ge­offrey Hinton ve Anthropic'ten kıdemli yapay zekâ güvenliği araştırmacıları var.

İnsan soyunun sonu gelir mi? İnsanın dünya üzerinde değişen fiziksel koşullara adaptasyon yeteneği en güçlü canlı türleri arasında olmadığı aşikar. Ama insanın biyolojik zekâsını da ya­bana atmamak gerek. Bu nokta­ya varılmadan önce tehlikenin anlaşılmasını, bu konuda ortak bir tavır alınıp önlem alınması­nı temenni edelim. YZ’nin insan soyunun sonunu getirmesi kor­kusunu 1950’lerin atom bomba­sı korkusuna benzetmek müm­kün. Nükleer silah deneyimi bi­ze rakip devletlerin birbirine güvenmediği bir ortamda ulus­lararası kurallar oluşturmanın zor olsa da ne kadar önemli ol­duğunu öğretti.

İkinci ihtimal YZ’nin sadece insanın kapasitesini, verimlili­ğini artıran bir araç olmaktan öteye bir etkisinin olmaması. Bu da olasılığı düşük bir senar­yo. Tarihe bakınca daha önceki teknolojik devrimlerin toplum­sal yapıda köklü değişiklikler yarattığını görüyoruz.

Bence asıl önemli olan üçün­cü senaryo… YZ'nin insanın ça­lışma, üretme ve tüketme bi­çimini, sınıfsal ilişkileri ve küresel güç dengelerini değiş­tirmesi.

Bu da bizi YZ’nin nasıl yöneti­leceği konusuna getiriyor. Çün­kü sonuç olarak YZ’nin olası et­kisi insana ve insanın oluştur­duğu sosyal düzene bağlı.

YZ konusunda ülkeler arası işbirliği

YZ konusunda kıran kırana bir rekabet içinde olan şirket­lerin CEO’larının yavaşlama ihtiyacına dikkat çekmesi, bu­nun için de düzenleme çağrısın­da bulunmasının arka planın­da ticari çıkarlar olabilir pekâlâ. Ama nükleerden ilaca birçok sektörde düzenleme varken, YZ’nin dışarda tutulmasının bir mantığı yok.

YZ modellerinin yetenekle­ri, özellikle de kendi kendileri­ni eğitebilme yeteneği geliştir­dikçe, yol açabileceği güvenlik risklerini değerlendirmek ve standartları belirlemek için ül­keler arasında ortak bir anlayış gerekiyor. Oysa ABD’nin, Çin’in ve AB’nin YZ’ye yaklaşımında­ki farklılıklar ortak bir noktaya varmayı zorlaştırıyor.

Ülkeler arası işbirliği çok ge­rekli ama bir o kadar da zor. Li­beral küresel düzenin çatırda­dığı bir ortamda YZ tam da je­opolitik rekabetin merkezinde yer alıyor. Dolayısıyla ortaya klasik bir kolektif eylem proble­mi çıkıyor: Herkesin aynı anda yavaşlaması güvenliği artırabi­lir ama herkes yavaşlarken bu­na uymayan ülkeler diğerlerine fark atar.

Nitekim Amerikalı YZ pat­ronlarının uyarılarına ve ulus­lararası standartlar ve ortak güvenlik mekanizmaları geliş­tirilmesi çağrılarına, YZ konu­sunda kazananın yarışı da kaza­nacağını düşünen Trump me­safeli yaklaşıyor. BM toplantısı çerçevesinde yapılan Trump-Xi görüşmesinden YZ konusunda ortak bir düzenleme ya da ge­liştirme hızını sınırlayacak bir mekanizma çıkmadı.

Bir de tabii YZ’yi geliştiren ülkelerin yanında Türkiye gi­bi teknolojiyi büyük ölçüde dı­şarıdan alan ve kullanan ülke­ler de var. Aslında, kuralları ve standartları ABD mi Çin mi yoksa AB mi belirleyecek diye süren tartışma yanlış bir tartış­ma. Eğer, esas mesele, YZ’nin yol açabileceği felaketleri önle­mek ve bu teknolojiyi insanlı­ğın yararına kullanılmasını sağ­lamaksa bu ancak tüm ülkeleri dahil eden bir küresel yönetişim mimarisiyle olabilir.