Panoptikondan dijital otoriterliğe: Algoritmaların gölgesinde demokrasi

Yapay zekâ yalnızca teknik bir mesele değil, aynı zamanda de­mokrasi, insan hakla­rı ve toplumsal eşitlik açısından da bir sınav. Eğer bu teknolojileri yalnızca hız, verimli­lik ve kâr mantığıyla ele alırsak, otoriter dalgayı hızlandırabiliriz. Şef­faflık, hesap verebilir­lik ve norm üretimiyle demok­rasiyi güçlendirecek alternatif yollar da mümkün.

Birkaç haftaya böldüğüm bu yazı dizisinde yapa zekanın ekonomik değil, aynı zamanda siyasal ve normatif boyutları­nı da sunmayı amaçlıyorum. Çünkü geleceğin demokrasisi, hepimizin hem ülkemizde hem de dünyada bir süredir tecrü­be ettiği gibi yalnızca sandıkta ve sandıkla tecelli etmeyecek. Cambridge Analytica benzeri birçok örnekte olduğu gibi in­san davranışını etkileyen ya­pay zeka çözümleri toplumun geleceğine de yön verecek. Pe­ki, yapay zekâ çağında özgürlü­ğü korumanın yolu ne olacak?

Gözetim kapitalizminden dijital otoriterliğe

İnternetin ve sosyal medya­nın ilk yıllarında hakim olan umut, bilgiye erişimin demok­ratikleşeceği; bireylerin ka­musal hayata daha aktif katı­lacağı yönündeydi. Ancak bu umut yerini karmaşık bir ger­çeğe bıraktı: bugün aynı tek­nolojiler, özgürlükleri kısıtla­yan, siyaseti şekillendiren ve otoriter rejimleri güçlendiren araçlar hâline geldi.

Shoshana Zuboff ‘un gözetim kapitalizmi (surveillance capitalism) adı­nı vererek dile getirdiği bu kav­ram FAMGA (Facebook, Ama­zon, Microsoft, Google, Apple) başta olmak üzere dijital plat­formların kullanıcılardan top­ladığı verileri yine kullanıcıla­rın davranışlarını öngörme ve yönlendirme maksatlı işledi­ğini, böylece kullanıcılara hem ekonomik hem politik müda­hale kapasitesi kazandığını id­dia eder.

Bu yaklaşımda veri artık yal­nızca şirketlerin gelir kaynak­larından biri değil; insan dav­ranışlarını haritalayan, tah­min eden ve şekillendiren bir etki unsurudur Verinin bu yö­nü, reklam modelinden poli­tika modeline geçişi mümkün kılar: bir bireyin tercihleri yal­nızca ne alacağına dair ipucu vermez; aynı zamanda politik algılarını, duyarlılıklarını ve tepkilerini de tahmin etmeye elverişli hale gelir.

FAMGA tekeli ve girişimcilik üzerindeki baskı

Dijital ve küresel beşli çe­teden bahsederken bu şirket­lerin getirdikleri riskleri sa­dece gözetim kapitalizmi çer­çevesinde ele almak yeterli değil. Bu şirketler, sadece di­jital altyapıyı sağlamakla kal­mayıp platform sahipliği, veri erişimi ve içerik kontrolüyle inovasyonun merkezi aktörle­ri haline geldikleri için bütün zinciri kontrol eden tekelci bir yapı oluşturuyorlar.

Örneğin yeni bir dijital girişim düşü­nün: mobil uygulamanız Goog­le Play ya da Apple App Store’a kabul edilmeli; veri tabanı alt­yapınız büyük ölçüde Amazon Web Services ya da Microsoft Azure üzerinden sağlanmalı; sosyal medya varlığınız Face­book ve Instagram üzerinden yürütülmeli. Bu bağlamda bir fikri “FAMGA’sız” hayata ge­çirmek ve onlara bağlı kalma­dan büyütmek neredeyse im­kânsız hale geliyor.

Şimdi anlatacağım örnek de Türkiye’den. Çevrimiçi pazar­yeri alanında ülkenin en ön­de gelen şirketlerinden birinin çok iyi iş yapan küçük üretici­leri tespit ettikten sonra bun­ları ele geçirmek ya da ken­dilerine daha da bağımlı hale getirmek için stratejiler geliş­tirdiğini bizzat sektörün için­deki bir yöneticiden itiraf şek­linde dinlemiştim.

Yeniden siyaset alanına geri dönersek, yukarıda bahsetti­ğim bu yapı yalnızca ekonomik değil, siyasal sonuçlar da doğu­ruyor. Çünkü platformlar, han­gi içeriğin görünür olacağını, hangi sesin bastırılacağını ve hangi bilginin dolaşıma girece­ğini fiilen düzenleyebiliyor. Bu konuyu daha detaylı okumak için William Janeway’in Pro­ject Syndicate platformunda­ki “Big Tech Is Watching — and Being Watched” adlı yazısını tavsiye ederim.

Gözetimden otoriterliğe: Devletin veriye dayalı iktidarı

Tabii ki gözetim kapitaliz­mini ve dijital platformlarda­ki oligopolistik yapıyı sadece FAMGA özelinde ele almak ek­sik olur. Gözetim kapitalizmi­nin pratikte otoriter rejimlerin elinde evrim geçiren bir baskı aracına dönüşmesini başta Çin olmak üzere otoriter ülkelerde görebiliyoruz. Şu anda bütün dünyada en fazla yatırım des­teği alan uygulamalar arasında yüz tanıma sistemleri, sosyal kredi sistemi ve geniş kame­ra ağlarının olması bu dönüşü­mün en güçlü örnekleridir.

Peki bu dönüşüm korkutucu mu? İşte burada da çelişkili bir durum ortaya çıkıyor. Bir yan­dan bu sistemler bireyin mah­remiyet alanını ortadan kaldı­rarak, özel yaşamın sınırlarını devletin denetimine açıyor ve kişisel özgürlük, adeta kamu­sal gözetim karşısında savun­masız kalıyor. Diğer yandan ise, suçun önlenmesi, kamu düzeni­nin sağlanması ya da “toplum­sal ahlâkın” korunması gibi ge­rekçelerle bu gözetim biçimle­ri toplumun geniş kesimlerince meşru görülüyor.

Bu ikili yapı aslında kültürel ve etik bir boş­luğun sonucu. Eğer bir toplum­da bireyin özdenetimi, kamusal alana duyduğu saygı ve ortak ya­şam kültürü zayıfsa, bu boşluğu dijital gözetim mekanizmaları dolduruyor. Otorite, ahlâkın ye­rini alıyor; algoritmalar, vicda­nın yerine geçiyor. Böylece gö­zetim kapitalizminin araçları, yalnızca davranışları değil, de­ğer yargılarını da şekillendir­meye başlıyor.

Bu dönüşüm yalnızca altyapı değil, devlet–şirket işbirliğiy­le destekleniyor. Çin’de kamu güvenliği kurumları, özel tek­noloji firmalarına gözetim ya­zılımları sipariş ediyor, bu fir­malar da geniş veri erişimi, öl­çek avantajı ve iç pazar desteği elde ediyor. Bu “home-mar­ket effect” sayesinde şirketler iç piyasadaki devlet talepleri­ni küresel rekabet avantajına dönüştürebiliyor. Güncel ça­lışmalar, bu işbirliğinin otori­ter rejimlerin gözetim kapasi­tesini astronomik biçimde ar­tırdığını ortaya koyuyor. Daha detaylı bir analiz için Albert Cevallos’un Journal of Democ­racy’de yayımlanan “How Au­tocrats Weaponize AI — and How to Fight Back” makalesi­ne bakmanızı tavsiye ederim.

Gözetim ve iktidarın dönüşümü

Yukarıda çizmeye çalıştığım çerçeve Michel Foucault’nun modern toplumlarda gözeti­min iktidarın merkezine yer­leştiğini anlatan “panoptikon” kavramı ile de benzerlikler ta­şıyor. Jeremy Bentham’ın tasarladığı hapishane mo­deli Foucault için yalnızca mimari bir yapı değil, aynı zamanda modern iktidar bi­çimlerinin bir metaforudur. Panoptik düzende birey, sü­rekli gözetim altında oldu­ğunu bildiği için dışsal bir zorlamaya gerek kalmadan kendi davranışlarını disipli­ne eder. Bu mekanizma, gö­zetimin sürekliliği değil, olası­lığı üzerinden işler: birey her an izlenebileceğini varsayarak itaat eder.

Dijital çağ, panoptik gözeti­mi yeni bir boyuta taşıdı. Artık gözetim, kuledeki gardiyanın gözünden değil, her bireyin ce­bindeki cihazdan yürütülüyor. Sosyal medya etkileşimleri, ko­num verileri, dijital ödemeler, arama geçmişleri ve biyomet­rik bilgiler; modern toplumun “veri vatandaşını” inşa ediyor. Bu yeni panoptik düzende bi­reyler yalnızca gözetlenmekle kalmıyor, aynı zamanda kendi verilerini gönüllü biçimde pay­laşarak gözetimin sürekliliğini sağlıyor. “Beğeniler” ve “görü­nürlük” arzusu, klasik disiplin toplumunun yerini “özdene­tim ve teşhir toplumuna” bıra­kıyor.

Burada önemli bir noktayı vurgulamak gerekiyor. Dijital otoriterlik, klasik otoriterliğin kaba sansür yöntemlerinden farklı olarak, davranışsal yön­lendirme ve veri manipülasyo­nu yoluyla işliyor. Burada ikti­dar, bilgiyi yasaklamak yerine bilgi akışını yönlendiriyor. Ör­neğin Çin’in sosyal kredi sis­temini ele alalım. Dijital otori­terliğin en görünür biçimi olan bu sistemde yurttaşın ekono­mik, sosyal ve politik davra­nışları tekil bir puan sistemine dönüştürülüyor ve vatandaşın verisini kullanarak vatandaşı yönlendiriyor.

Üstelik dijital otoriterlik yal­nızca otoriter rejimlerle de sı­nırlı kalmıyor. Demokratik sis­temlerde de algoritmik otori­terlik biçimleri ortaya çıkıyor. Sosyal medya platformlarının kullanıcı davranışlarını mani­püle eden algoritmaları, dev­letin değil, piyasanın gözetim gücünü temsil ediyor. Böylece gözetim ile yönlendirme ara­sındaki çizgi bulanıklaşıyor; vatandaşlar yalnızca izlenmi­yor, aynı zamanda hangi bilgiye ulaşabilecekleri, neye tepki ve­recekleri önceden tasarlanıyor.

Sonuç olarak, dijital çağın en çarpıcı özelliği, gözetimin ar­tık zor yoluyla değil, rıza üre­timiyle meşrulaştırılmasıdır. İnsanlar, daha fazla güven­lik, kolaylık ya da sosyal gö­rünürlük uğruna özel verile­rini gönüllü biçimde paylaşır. Bu gönüllü gözetim, Fouca­ult’nun öngördüğü disiplin toplumundan farklı olarak, ne­oliberal öznenin kendi davra­nışlarını optimize etme arzu­suyla birleşiyor. Sonuç olarak da görünmez ama derin bir oto­riter yapı ortaya çıkıyor. Birey, özgür olduğunu zannederken sistemin algoritmik sınırları içinde hareket etmeye başlıyor.

Sonuç: Teknoloji, demokrasi ve geleceğin sınırları

Gözetim kapitalizmi modeli­nin otoriter rejimlerde yeniden biçimlenmiş hâli, sadece tekno­loji değil; iktidar paradigmasını da dönüştürmektedir. FAMGA beşlisinin inovasyonun hem kaynak ve platform sağlayıcısı hem de içerik düzenleyicisi ha­line gelmesi, demokrasi açısın­dan yeni bir “kapı bekçisi” ris­kini doğurmaktadır.

Bugün artık şu soru kaçınıl­mazdır: Yapay zekâ çağında öz­gürlüğü ve demokratik yöne­timleri korumanın yolu nedir? Bu soru, sadece teknolojik dü­zenlemeleri değil; normların, uluslararası işbirliğinin ve top­lumsal farkındalığın yeniden kurulmasını gerektirmektedir.