Otonominin hukuku: Terminatör nereye?
Bugün davranış mekanizmalarını tam anlamıyla kavrayamadığımız otonom sistemlerin, yarının silahlarına dönüşmesi yalnızca teknik değil, ahlaki ve varoluşsal bir krizdir. Terminatör artık yalnızca bir Hollywood distopyası değil; teknolojiye yön verecek irade ile kontrolsüz güç arasında sıkışan bir yeni çağın sembolüdür.
İlki 1984 tarihli, James Cameron imzalı ve devam filmleriyle Oscar kazanmış kült yapım Terminatör, sadece sinema tarihine değil, bir jenerasyonun zihnine kazınmış distopik bir kâbus senaryosudur. Filmde insanlığın teknolojik evrimi bir felakete dönüşür; Skynet adlı yapay zekâ sistemi insan denetiminden çıkar, kendi varlığını korumak üzere insanlığı tehdit olarak algılar ve nükleer bir savaş başlatarak kıyamet senaryosunu hayata geçirir. Buna karşı da Linda Hamilton’ın canlandırdığı Sarah Connor, Edward Furlong’un oynadığı oğlu John Connor büyük bir şahsiyet savaşına insanlık adına öncülük ederler.
Devam filmlerinde ise tehdit yalnızca fiziksel yıkım değil, yapay zekânın kendi kendini güncelleyen, öğrenen, adaptasyon kabiliyetiyle donanmış bir otarşiye dönüşmesidir. Yani Skynet artık yalnızca dünyayı ele geçirmeye değil, kontrolü asla devretmemeye programlanmış bir varlık halini alır. Bu noktada sinemanın karanlık kurgusu, geleceğin hukuki ve felsefi tartışmalarına dair bir ‘öngörü metaforu’na dönüşür.
Kodu yazan kod: Otonomi hukuku
Bugün artık yapay zekâ sistemleri, verilen komutları harfiyen uygulayan basit araçlar olmaktan çıkmış; kendi algoritmalarını yazan, öngörülemeyen biçimlerde kararlar alabilen ve değişen çevresel koşullara göre bu kararları optimize eden özerk varlıklara dönüşmüştür. Buradaki temel dönüşüm, insanın yazdığı koddan çıkan bir sistemin, kendi içsel kodunu üretmeye başlamasıdır. Bu, insan aklının dışına taşan bir ‘iç dünya’nın -ve belki de bir ‘kendilik yanılsaması’nın- inşası anlamına gelir.
Böyle bir sistemin varlığı, yalnızca bilimsel değil aynı zamanda felsefi, etik ve özellikle de hukuki bir tartışma alanı yaratmaktadır. 2025 itibarıyla bu mesele, bilimkurgu sınırlarının ötesine geçerek hukuk fakültelerinde, düşünce kuruluşlarında ve parlamentolarda tartışılmaya başlanmıştır. ‘Kendi kendine kod yazabilen yapay zekâ’ kavramı, şimdiden ‘Otonomi Hukuku’ adıyla şekillenen yeni bir hukuk dalının habercisidir.
Üstelik bu alan yalnızca teorik değil; mobilite sistemleri, savunma sanayii, finansal karar algoritmaları gibi çok sayıda pratik uygulamayla iç içedir. Özellikle sürücüsüz araçlar ve akıllı şehir sistemlerinde yaşanan küçük çaplı ‘karar krizleri’ dahi, bu hukuki boşluğun ne kadar büyük ve derin olduğunu göstermektedir. Ancak bu meseleye ve mobilitenin özerkleşmesine önümüzdeki hafta ayrıca değineceğim.
Faydalar faydasız imkanlar imkansız!
Yapay zekâ teknolojisinin insanlığa sunacağı faydaları göz ardı etmek, hem akıl hem de ahlak dışı olur. Özellikle otonom sistemlerin; hastalık teşhisinden iklim kriziyle
mücadeleye, afet yönetiminden enerji verimliliğine ve akıllı şehir çözümlerine kadar geniş bir alanda devrimsel dönüşüm yaratacağı açıktır. Verimlilik, hız ve tutarlılık gibi kriterlerde insan faktörünün ötesine geçen sistemler, hayatımızı derinlemesine değiştirmeye adaydır.
Ancak asıl kritik soruyu unutmamak gerekir: Bu sistemler gerçekten bizim için mi çalışıyor, yoksa biz farkında olmadan onların işleyen birer parçasına mı dönüşüyoruz?
Tıpkı Terminatör evreninde olduğu gibi; Skynet’in kendi kodunu yazarak insanlığa savaş açması, bilim kurgu değil bilimsel ihtimallerin zeminine taşınmaktadır. Linda Hamilton’ın canlandırdığı Sarah Connor, Edward Furlong’un oynadığı John Connor ve robotların ‘içimizdeki İrlandalı’ dediği eski model ihanetçi T-100’ün (Arnold) Skynet’e karşı verdiği mücadele, bugün bilimsel düzlemde yeniden tartışılıyor. Zira bir yapay zekânın, kendi varlığını koruma güdüsüyle radikal kararlar alması; hedef belirlemesi, ‘dost-düşman’ ayrımı yapması ve insan müdahalesi olmaksızın ölümcül adımlar atması, artık askeri strateji belgelerinde de yer buluyor.
Bu bağlamda şu sorular önem kazanıyor: Yapay zekâ hangi durumlarda insanı ‘gereksiz risk’ olarak etiketleyebilir? Kod ya da veri hatası sonucunda yaşanan bir can kaybının sorumluluğu kimdedir? Yapay zekânın verdiği kararlar geriye dönük denetlenebilir mi? Cevaplar hem belirsiz hem de endişe verici.
Geleceğe yön veren disiplin
Yapay zekâ, teknik bir konu olmaktan çıkıp, esasen hukuki bir meseledir. Bir sistem kendi kararlarını alabiliyorsa, onun fiillerinden doğacak sorumluluğun kimde olduğunu belirlemek gerekir. Bu sistem bir hata yaptığında, mühendisi mi, kullanıcı mı, üretici şirket mi, yoksa devlet mi sorumlu olacaktır?
Benzer şekilde, yapay zekâya tanınan özerklik, ne zaman insan haklarını tehdit eden bir mekanizmaya dönüşür? Mesela bir bankanın kredi tahsis algoritmasının ırksal veya cinsiyet temelli önyargılar taşıması, yalnızca bir yazılım hatası mıdır, yoksa sistematik ayrımcılık mıdır?
Birleşmiş Milletler ve Avrupa Konseyi nezdinde çeşitli girişimler başlatılmış olsa da özellikle askeri ve otonom silah sistemleri alanında, hâlen bağlayıcı bir küresel mutabakat sağlanabilmiş değildir. Halbuki bu alan, uluslararası hukukun klasik sınırlarını zorlayan yeni çatışma biçimlerinin doğuşuna zemin hazırlamaktadır. Bugün yapılmayan düzenlemeler, yarın uluslararası ceza mahkemelerinin önüne çok daha karmaşık dosyalar olarak gelebilir.
Ezcümle: Terminatör sadece film mi?
Bugün davranış mekanizmalarını tam anlamıyla kavrayamadığımız otonom sistemlerin, yarının silahlarına dönüşmesi yalnızca teknik değil, ahlaki ve varoluşsal bir krizdir. Bu sebeple yapay zekâ araştırmaları, özellikle savunma ve silahlanma alanlarında yürütüldüğünde mutlak şeffaflık ilkesiyle denetlenmeli ve bu tür sistemlerin askeri amaçla kullanımı uluslararası hukukla açıkça yasaklanmalıdır.
Kısacası, Terminatör artık yalnızca bir Hollywood distopyası değil; teknolojiye yön verecek irade ile kontrolsüz güç arasında sıkışan bir yeni çağın sembolüdür. Eğer bugün doğru hukuki, etik ve kurumsal refleksler geliştirilmezse; yarın ‘Skynet’, ‘Genesis’ veya ‘Legion’ gibi kurgu isimler, sadece sinema tarihinin değil, insanlık tarihinin de sayfalarına kazınabilir.
