AGI nedir ve kim yönetecek? BM’ye son çağrı!...

Yapay Genel Zekâ (AGI – Artificial Ge­neral Intelligence), yapay zekânın bi­lişsel yetiler dâhil insanın tüm becerile­rini geçtiği seviye. Bugün, yapay zekâyı geliştirenler başta olmak üzere insanlı­ğın en çok konuştuğu ve kaygıyla izlediği eşik… Yapay zekâ denince, “ya şu alanı, bu­nu, ötekini insandan daha iyi yaparsa ve den­ge bozulursa?” diye başlayan argümanlar hız­la yükseliyor. Kaygı yersiz değil. Artık soru “Bir gün olur mu?” değil; “Ne zaman ve kimin kontrolünde olacak?” noktasına geldi. Böyle­si bir ortamda herkes “YZ’ya nasıl adapte olu­ruz, işi ve yetenekleri nasıl rekabetçi kılarız?” diye düşünürken, AGI eşiğinin yönetimi üze­rine en sistematik çalışan kurumlardan biri, benim de Türkiye Temsilcisi olduğum The Millennium Project (MP) ve onun CEO’su Je­rome C. Glenn. Glenn, MP’in aynı zamanda kurucusu. 20’cisi yayınlanan, benim de daha önce duyurduğum “State of the Future 20.0 - Gelecek Durum Raporu’nun” eş-yazarı, “15 Küresel Meydan Okuma” çerçevesinin mi­marı ve gelecek analizinde kullanılan Future Wheel (Gelecek Çarkı) tekniğinin geliştirici­si. BM, AB ve birçok hükümete teknoloji-yö­netişim, etik ve AGI senaryoları üzerine da­nışmanlık veriyor.

Odağı net: AGI’nin insan yararına, denetlenebilir, hesap verebilir ve çok taraflı yönetişimle ilerlemesi.

Kısa bir süre önce J. Glenn, AGI odak­lı “Beneficial Artificial General Intelligence Summit 2025 – İstanbul (BGI 2025) konuş­ması için buradaydı. Kendisinden imzalı al­mak şansına sahip olduğum yeni kitabı “Ya­pay Genel Zekaya Geçişin Küresel Yöneti­şimi: Sorunlar ve Gereksinimler- Global Governance of the Transition to Artifici­al General Intelligence: Issues and Requ­irements” üzerinde sohbet etme fırsatı da yakaladım. 55 uzmanla yürütülen 22 soru­luk çalışmanın bulgularını, 40 kritik alanın ve 5 yönetişim modelinin değerlendirme­siyle bir araya getiren kitapta Elon Musk, Sam Altman, Bill Gates gibi isimlerin ya­nıtları; 47 ülkeden diplomat, uluslararası hukukçu, filozof, bilim insanı ve fütüristler­den oluşan geniş bir kurulun incelemesiyle doğrulanan bilgiler yer alıyor. Kitap, politi­ka yapıcılar ve kamuoyu için sade, uygula­nabilir bir referans metni olarak tasarlan­mış. O kadar ki BM 77. Dönem Genel Kurul Başkanı Csaba Körösi çalışmayı “tarihin ye­ni bir bölümü” olarak nitelendiriyor. Ama­zon’dan alabilirsiniz. Glenn’in son BM Ge­nel Kurulu’na yaptığı dört maddede özetle­nebilecek eylem çağrısı ve BGI sunumunda, kitabında odağa aldığı AGI konuları şunlar;

Küresel AGI Gözlemevi kurulmalı. iler­lemeyi izleyecek, güvenlik için erken uyarı üretecek.

En İyi Uygulamalar ve Sertifikasyon Sistemi oluşturulmalı. Güvenli ve güvenilir AGI geliştirme/kullanımını bağımsızca doğrulayacak.

AGI için BM Çerçeve Sözleşmesi yapıl­malı. Ortak amaçlar ve esnek protokollerle riskleri yönetecek.

BM AGI Ajansı Fizibilitesi gelişti­rilmeli. “Nükleerden daha karmaşık” bir alanı yönetebilecek kurumsal kapasiteyi tasarlayacak.

ANI vs. AGI – kitabın ana mesajı

Bugünün ANI’si (Artificial Narrow Intelli­gence – Dar YZ) hastalık teşhisi koymak ya da araç kullanmak gibi sınırlı amaçlara odakla­nıyor. AGI ise iyi yönetilirse tıp, eğitim, uzun ömür, iklimin iyileştirilmesi, bilimsel atılım­lar ve daha barışçıl bir dünya için büyük iler­lemeler getirebilir; kontrolsüz bırakılırsa in­san uygarlığı için varoluşsal risk yaratabilir. Kitap, AGI’nin yaratılması, lisanslanması, kullanımı, uygulanması ve yönetişimi konu­sunda bugünün durumunu özetliyor ve ileri­ye dönük somuti uygulanabilir, devletler üs­tü düzenleme önerileri sunuyor.

Şimdi ne yapılmalı?

Glenn, üç yıllık net bir hedef koyuyor: 1- Devlet başkanı veya dışişleri bakanına BM’de özel bir AGI Genel Kurulu çağrısı için mektup yazın. 2- Ulusal ölçekte AGI lisansla­ma sistemleri için parlamento liderlerini ha­rekete geçirin. 3- Gözlemevi ve Sertifikasyon ağlarına katılın.

Ve bunların tamamında, Geoffrey Hinton’ın sözü planın etik omurgası: “İmkânsız görünebilir… Ama denemek zorundayız!”