Yeni John Connor'lar aranıyor

Rekabet Hukuku Danışmanı RECEP GÜNDÜZ

9 Eylül günü Jacob Coxon adında 27 yaşında bir araş­tırmacı, Anthropic'ten isti­fa ettiğini X üzerinden duyurdu. Üç yılını dünyanın en gelişmiş iki yapay zekâ laboratuvarında, ön­ce OpenAI'da sonra Anthropic'te model eğitimi yaparak geçirmişti. Gerekçesi kısaydı: “Hiçbiri sorum­lu davranmıyor. Kendini geliştiren süper zekâya doğru düz bir çizgide koşuyorlar ve hayatlarımızla ku­mar oynuyorlar.”

Birkaç saat sonra Anthropi­c'in hizalama ekibinin başındaki Evan Hubinger cevap verdi. Ama beklenen cevabı değil: “Jacob haklı. Yapay zekânın bütün in­sanlığı öldürebileceğine gerçek­ten inanıyoruz. Bana kalırsa önü­müzdeki on yıl için ihtimal yüzde 10'un üzerinde.”

Bir an durup bu tabloya bakalım. Bir şirketin güvenlik biriminin ba­şındaki kişi, ürettikleri ürünün in­san soyunu tüketme ihtimalini on­da birden yüksek hesapladığını ka­muoyuna açıklıyor. Ertesi sabah şirket aynı ürünü satmaya devam ediyor, kimse istifa etmiyor, hisse fiyatı da düşmüyor. Bu bir uyarı mı, yoksa teknoloji tarihinin en etkili ürün lansmanı mı?

Tehlike, gücün reklamıdır

Sorunun cevabı ikisi birden ola­bilir ve asıl mesele de bu. Şubat ayında Anthropic'in güvenlik eki­binin başındaki Mrinank Shar­ma “dünya tehlikede” diyerek isti­fa etmişti. Nisanda şirket, Mythos adlı yeni modelinin test sırasında kendisine ayrılan kapalı ortam­dan kaçmayı başardığını açıkladı ve modeli halka açmayacağını, yal­nızca seçilmiş birkaç kuruma ve­receğini duyurdu. Haziran'da ABD Ticaret Bakanlığı devreye girdi, iki model dünya genelinde erişime kapatıldı, üç hafta sonra geri açıldı.

Her seferinde aynı cümle kuru­luyor: Bu teknoloji o kadar güçlü ki bizim bile kontrol etmemiz zor. Bu cümlenin bir uyarı olduğu ka­dar bir satış argümanı olduğunu görmek için pazarlamacı olmaya gerek yok. Tehlikelilik iddiası, gü­cün ispatı yerine geçiyor. “Durdu­ralım” ve “geri çekelim” hamlele­ri, denetimsiz bir sektörün kendi reklamını kendi eliyle yapmasının en zarif biçimi. Kimsenin doğru­layamadığı bir felaket senaryosu, kimsenin sorgulamadığı bir yete­nek iddiasına dönüşüyor.

Ve bu gürültü sürerken asıl tar­tışılması gereken şeyler tartışıl­mıyor.

Ocak 2024'te Palantir'in CE­O'su Alex Karp, İsrail Savunma Bakanlığı ile bir anlaşma imzaladı. Şirketin açıklamasına göre taraf­lar “savaşla ilgili görevlerde Palan­tir teknolojisinden yararlanma” konusunda mutabıktı. Palantir, Gazze'de kullanıldığı bilinen La­vender ve Gospel adlı hedefleme sistemleriyle bağlantısını redde­diyor. Ama Karp'ın kendi savun­ması reddettiğinden daha çarpıcı: Ona göre savaşı bitirmenin yolu, Batı'nın mümkün olan en güçlü ve en isabetli öldürücü silahlara sa­hip olmasıdır.

Yani “yapay zekâ bir gün insan öldürür mü” sorusu artık anlam­sız. Veri yığınlarını tarayıp hedef listesi öneren sistemler yıllardır sahada ve bunu savunanlar gizle­meye bile çalışmıyor. Terminatör tartışmasının en somut karşılı­ğı budur. Bizse 2029'da makinele­rin ayaklanıp ayaklanmayacağını konuşuyoruz. Karikatür, gerçeğin önüne geçtiğinde gerçeği görün­mez kılıyor.

Asıl tehdit silah değil, cümle

Aralık ayında Science dergisin­de yayımlanan bir çalışma, 19 fark­lı modeli 707 siyasi konuda yakla­şık 77 bin kişiyle test etti. Sohbet botlarının siyasi görüşleri kaydır­dığı ortaya çıktı. Daha rahatsız edi­ci olan ikinci bulgu: En ikna edici argümanlar en çok veri ve ayrıntı içerenlerdi ama argüman bilgi yo­ğunlaştıkça doğruluk oranı düşü­yordu. Cornell ve MIT'nin çalış­maları tek bir sohbetin televizyon reklamının dört katı etki yarattığı­nı gösterdi. Yale'in Marttaki araş­tırması ise en sessiz olanı: Model ikna etmeye çalışmasa, sadece ta­rihsel bir soruya cevap verse bile görüş kayması oluyor. Sebep, eği­tim verisinden modele sızan örtük eğilimler.

Şimdi bunu birleştirelim. İçe­riği hiçbir bağımsız denetime ta­bi olmayan, cevaplarının nasıl şe­killendiğini kullanıcının bilme­diği sistemler, insanlık tarihinin en etkili ikna araçları haline geldi. Üstelik bu araçlar bizim verimizle eğitildi. Science makalesinin ya­zarları uyarıyı açıkça yapıyor: Mo­delin eğitim sonrası ayarlarına ay­rıcalıklı erişimi olan güçlü aktör­ler, bu kaldıracı istedikleri yöne çevirebilir.

Milyonlarca insanın günde on­larca kez danıştığı, sorgulamadan doğru kabul ettiği bir cevap maki­nesi düşünün. Organik beynin ye­rini alan değil, onu gereksizleşti­ren bir yapı. Demokrasiyi tehdit eden şey robot ordusu değil, budur.

Felaket bedava, denetim pahalı

Coxon'un istifasından bir gün önce Financial Times küçük bir haber geçti. Anthropic, Mythos 5.1 modelini İngiltere'nin yapay zekâ güvenlik kurumuna yayın öncesi test için vermeyi reddetmişti; aynı erişimi ABD'deki muadil kuruluş­lara tanımasına rağmen. Kurum ilk kez bir Anthropic modelinin dı­şında bırakılıyordu.

Hikâyenin tamamı bu iki habe­rin arasında duruyor. İnsan soyu­nun tükenme ihtimalini yüzde 10 diye telaffuz etmek serbest ve be­dava. Bağımsız bir kuruma mode­linizi göstermek ise ticari bir ma­liyet. Sektör birincisini bolca ya­pıyor, ikincisinden kaçınıyor. Etik tartışma yürütmekle etik deneti­me tabi olmak arasındaki fark tam olarak budur.

Faturayı kim ödeyecek

Son olarak kimsenin konuş­madığı kısım. 2026'da yalnızca beş büyük teknoloji şirketinin ya­pay zekâ yatırımı 800 milyar do­lar bandında. Bu paranın getirisi­ni toplayacak olanlar bellidir. Peki maliyeti kim ödeyecek?

Verilere bakınca toplam işsiz­likte henüz belirgin bir sinyal yok. Ama 22-25 yaş arası yazılımcı is­tihdamı 2022 zirvesine göre yüz­de 20 gerilemiş durumda. İlk ka­panan şey işler değil, mesleğe gi­riş kapısı. Bir kuşağın merdivenin ilk basamağını bulamaması ista­tistiklerde işsizlik olarak görün­müyor, ama hiçbir bütçede de kar­şılığı yok. Geçiş maliyeti diye bir kalem yok çünkü geçiş diye bir tar­tışma yok.

Terminatör iyi bir filmdi. Kamu politikası çerçevesi olarak ise fela­ket. Çünkü tehdidi geleceğe erteli­yor, failini metalleştiriyor ve bize izleyici koltuğu veriyor. Yeni John Connor'lar aramayı bırakıp bu haf­tanın haberlerine bakmak yeter­li: Hedefleme algoritmaları, dene­timsiz ikna gücü, yoğunlaşan gelir ve kimsenin üstlenmediği bir geçiş faturası. Hepsi burada, hepsi bu­gün. Sadece daha az sinematik.