Yanlış bile değil!

İlk yazım. Başlığın il­gi çekici ve okuyu­cuyu ana sayfadan bu sayfaya getirmesi la­zım, yetmez, bir de sü­rükleyici bir yazı oldu­ğuna dair ipucu verme­si lazım. Editörlerin ilk olarak yönlendirme­si buydu. Teknolojinin hep kodlayan gelişti­ren tarafında oldum, şimdi ger­çek dünyaya etkilerini anlatmak için bu köşeden sizlere seslene­ceğim, umarım anlaşılır ve dü­şündürücü olur.

Yeni teknolojileri daima ya­kından takip etme, hatta çoğu zaman ilk geliştiricileri arasın­da yer alma ayrıcalığına sahip ol­dum. 25 yılı aşkın süredir yazı­lım sektöründe, özellikle finan­sal teknoloji alanında, ulusal ve uluslararası ölçekte pek çok pro­jede aktif rol aldım. Yeni trend­leri en erken aşamada deneyim­lemenin en değerli yanı ise doğ­ruları ve yanlışları daha yolun başındayken görebilme imkâ­nım olmuştur. Şimdiye kadar bu­nu teknik açıdan etrafımda an­latmaya çalıştım, artık sizlere de anlatmaya gayret edeceğim.

Başlıktaki Wolfgang Pauli’ye atfedilen bu ifade (that’s not ri­ght, it isn’t even wrong), bir id­dianın ya da cevabın “öylesine başarısız” olduğunu ima eder ki, yanlış olma düzeyine bile ula­şamaz. Bu yazıda sizlere “Yapay Zekâ”ya farklı bir açıdan yakla­şıp, her gün duymaya alıştığınız ama diğer yandan yanlış bile ola­mayacak bazı kavramları açıkla­maya çalışacağım.

YZ, özellikle son dönemde si­hirli bir değnek gibi pazarlanıyor. Sanki bir yazılım projesine “ya­pay zekâ destekli” etiketi yapış­tırdığınız anda o proje anında da­ha sofistike, daha güvenilir, daha kârlı hale geliyor.

Oysa çoğu zaman bu iddialar, teknik olarak yapay zekâ tanımı­nın yanına bile yaklaşmıyor. Hat­ta bazı çözümler için “yanlış bile değil” diyebiliriz. Çünkü yanlış olabilmesi için ortada en azından yapay zekâya dair bir girişim, bir deneme olması gerekir.

YZ’nın gerçekte ne olduğunu, finansta nasıl kullanıldığını ve neden bu kadar kolay suistimal edildiğini sade ama derinlemesi­ne anlatmak istiyorum.

Yapay Zekâ (Artificial Intelli­gence, AI), bilgisayar sistemle­rinin insan zekâsını andıran gö­revleri yerine getirmesini he­defleyen bilim dalıdır. Demek ki, “yapay“ olanı anlamadan önce ”gerçek/doğal” olan insan zekâsı­nı ve görevlerini biraz irdeleme­miz ve söz edilen “yapay”ın han­gi sınırlara ne kadar yaklaştığını anlamamız gerekiyor.

“Zekâ”sı nereden geliyor ve neden “yapay”?

Hepimizin ezbere bildiği insa­nın yaşam döngüsünü düşünün; “doğar – büyür – gelişir – ölür”. Büyüdüğü ve geliştiği ortamın, kültürün, onu geliştiren kişile­rin kendi tutumundan öğretile­rine kadar birçok kriter bu ”geli­şim” sürecini farklılaştırır. Fel­sefesine baktığınızda detayı çok karışık bir konu. Basitten alalım, kısa cevap; “zekâsı, unutmaması ve sürekli öğrenmesinden kay­naklıdır”. İşinizi gördüğünde ra­hatlatıcı, ama karşınızda olur­sa da inanılmaz huzursuz yapan bir güç.

“Öğrenen” tanımı neyi ifade ediyor?

Ana okuluna başlayana kadar çocuğuna çikolata yedirmemek için çaba gösteren velilerdendim. Hatırlarım, ilkokulda kola yerine çay içirip çocuğun “canı çekerse” algısını etkilemeye çalışan ar­kadaşlarım da oldu. Ama tüm bu korumacı tavırlar, çocuğu okula gönderdiğiniz an yıkılan bir kale duvarı gibidir, zira okuldaki ar­kadaşından görür, özenir, belki de deneyimler. İşte o zaman tüm velilerin aklından geçeni düşü­nürsünüz; “ortamı” değil “çocu­ğu” hazırlamak gerekir.

YZ’nın “kötü” niyetli olabil­me ihtimalini belki bu şekilde daha yalın anlatabilirim. Her ne kadar siz kendi kontrolünüzde bir öğrenme modelini çalıştırsa­nız da, hizmet vermek istediği­niz kitlenin YZ’yı hangi tarz veri ile beslediğini ve YZ’yı öğrenme konusunda nasıl yönlendirdiği­ni kontrol altında tutmanız ge­rekir. Ama bu kolay değildir. İş­te bu yüzden bazen haberlerde “YZ kendisini kapatmak isteyen sistemlere karşı önlem aldı” gibi haberleri duyuyoruz. Ama bir an düşünün, gerçek hayatta da ay­nı durum olsa insanoğlu “doğal” zekâsıyla nasıl davranırdı?

YZ’nın kendi sınırlarını aşa­bilen “öğrenme” yeteneği kendi­sine sunulan verilerin ve sonuç­ların skorlarıyla kendini eğitir, geliştirir. Karşımızdaki “zekâ” unutmuyor, hep “karşılaştıran, ölçen, skorlamaya” dayanan “ve­ri – bilgi – öğrenim – kabul edi­nim – örüntü – yaygınlaştırma - kanıksama” silsilesinde devam eden bir döngü içinde yaşıyor. Öğrenmesinin ana kaynağı onu besleyen “veri” ve “sonuçları”. Siz veriyi nasıl yüklerseniz, dü­şünme algoritması o verinin so­nuçlarına göre “öğrenir”, bu dön­günün sürekliliği de “gelişimini” destekler. Bu durumda YZ nasıl “kötü niyetli olabilir“ veya nasıl “yalan söyleyebiliyor” soruların yanıtını vermiş oluyoruz, “onu eğitenin belirlediği rotaya göre gelişiyor.” Eğitmen katı kurallar çerçevesinde, “kötü” niyeti ken­dine göre tanımlayarak öğrenme sürecini kısıtlayabilir veya çok demokratik davranması gerekti­ğini düşünerek kuralsız bir mo­del belirleyebilir.

Peki “kötü niyeti” nasıl engel­leriz? Örneğin ChatGPT’nin yö­neticilerini düşünün, kendinizi onların yerinde hayal edin, ço­cuğunu kötü düşüncelerden ko­rumaya çalışan bir veli gibi. Mil­yonlarca kişinin soru sorup, cevap aldığı bir sistem kuruyor­sunuz ve bu sistem “kötü niyet­li” olmasın diyorsunuz. Elbette ki sağlanır ama o kadar büyük bir veri havuzundan bahsediyoruz ki, ucu açık kalan kapılar mutla­ka kalacaktır.

“Yanlış” bile olmayan YZ uygulamalarını nasıl anlarız?

Öncelikle kendini “YZ” olarak tanımlayan uygulama sahiple­ri hemen savunmaya geçmesin. Bu uygulamalar akılsız veya işe yaramaz demiyorum, YZ tespiti için bazı kavramları daha görü­nür hale getirmemizin önemini belirtiyorum. YZ olması için ne lazım, olmayanlar hangileridir, çok itiraz edilemeyecek somut tespitlerle anlatmak istiyorum;

1 Kurallara Dayalı Otomasyon­lar (Rule-Based Automations): Sabit kurallar uygular. Ne öğrenir ne tahmin eder, YZ değildir.

2 Basit İstatistiksel Modeller (Basic Statistical Models): İstatistik değerlidir ama maki­ne öğrenmesine geçmeden yapay zekâ sayılmaz.

3 Görselleştirme Tabanlı Ra­porlama (Decorative Dashbo­ards): Grafiklerle süslenmiş ra­porlar yapay zekâ gibi sunulur.

Bir sistemin gerçekten yapay zekâ içerip içermediğini anla­mak için bazı soruları sormamız lazım yanıtlarına

* Öğreniyor mu? (Learning)

* Örüntü keşfi yapıyor mu? (Pattern Discovery)

* Tahmin kabiliyeti var mı? (Prediction)

* Sonuçları açıklayabiliyor mu? (Explainability)

Bu özellikler yoksa sistem oto­masyondur.

Bu nedenle de abartı olmaz, “Yanlış bile değildir”