BM’den yapay zekâ için varoluşsal risk uyarısı

Yapay zekânın küresel ekonomide ve günlük yaşamda hızla yayılmasıyla birlikte güvenlik tartışmaları da sertleşiyor. Birleşmiş Milletler’den gelen son uyarıda gelişmiş yapay zekâ sistemlerinin yalnızca iş gücü, mahremiyet veya dezenformasyon açısından değil, insanlığın geleceği açısından da ciddi risk oluşturabileceği vurgulandı.

Varoluşsal risk uyarısını Konsey’de yaptı

BM İnsan Hakları Yüksek Komiseri Volker Türk, Cenevre’de başlayan BM İnsan Hakları Konseyi’nin 63’üncü oturumunda yaptığı konuşmada yapay zekâ konusunda bugüne kadarki en sert açıklamalarından birini yaptı. Türk, gelişmiş yapay zekânın insanlık için varoluşsal risk yaratabileceği yönündeki sektör içi kaygıları paylaştığını söyledi.

Türk, yapay zekâ sistemlerinin daha güçlü hale gelmesiyle risklerin de büyüdüğüne dikkat çekerek güvenlik önlemlerinin teknoloji kritik bir eşiği aşmadan önce oluşturulması gerektiğini belirtti. BM yetkilisi, yapay zekânın güvenliği ve emniyeti konusunda güçlü garantiler oluşturulması için kapsamlı bir çaba çağrısında bulundu.

Kırmızı çizgiler için ülkeleri masaya çağırdı

Türk’ün çağrısının merkezinde yapay zekâ geliştiren veya küresel tedarik zincirlerinde kritik rol oynayan ülkelerin ortak hareket etmesi bulunuyor. BM yetkilisine göre bu ülkelerin en azından hangi yapay zekâ uygulamalarının kabul edilemez olduğuna ilişkin ortak kırmızı çizgiler üzerinde anlaşması gerekiyor.

Bu yaklaşım, farklı ülkelerin birbirinden tamamen kopuk düzenlemeler geliştirmesinin önüne geçmeyi amaçlıyor. Yapay zekâ şirketlerinin modellerini birden fazla ülkede geliştirmesi, veri merkezlerinin farklı coğrafyalarda bulunması ve gelişmiş çiplerin küresel tedarik zincirine bağlı olması, tek ülkenin uyguladığı kuralların etkisini sınırlayabiliyor.

Yapay zekâ gücü birkaç elde toplanıyor

Türk’ün dikkat çektiği bir diğer konu ise yapay zekâ üzerindeki ekonomik ve teknolojik gücün son derece sınırlı sayıda kişinin ve şirketin elinde toplanması oldu. BM İnsan Hakları Yüksek Komiseri, yalnızca birkaç kişinin yapay zekâ üzerinde neredeyse sınırsız güç sahibi hale gelmesinden duyduğu endişeyi dile getirdi.

Küresel yapay zekâ yarışının merkezinde büyük teknoloji şirketleri bulunuyor. Modellerin geliştirilmesi için gereken milyarlarca dolarlık yatırım, ileri seviye çipler, büyük veri merkezleri ve devasa hesaplama kapasitesi nedeniyle yeni nesil yapay zekâ geliştirme gücü giderek daha büyük sermayeye sahip şirketlerde yoğunlaşıyor.

Bu yapı aynı zamanda düzenleme tartışmasını ekonomik rekabet sorununa dönüştürüyor. Devletler bir taraftan yapay zekâdaki güvenlik risklerini sınırlamak isterken diğer taraftan teknoloji yarışında rakip ülkelerin gerisine düşmemeye çalışıyor.

Şirketlerle doğrudan görüşecek

Türk, açıklamasında yalnızca devletlere çağrı yapmakla kalmadı. BM İnsan Hakları Yüksek Komiseri, önümüzdeki günlerde şirketlere de risklerin azaltılması yönünde doğrudan çağrıda bulunacağını açıkladı.

Bu yaklaşım yapay zekâ güvenliğinin yalnızca hükümet düzenlemelerine bırakılamayacağı görüşünü yansıtıyor. Yeni modellerin geliştirilme hızının mevzuat süreçlerinden çok daha yüksek olması nedeniyle teknoloji şirketlerinin model testleri, güvenlik kontrolleri ve risk değerlendirmeleri konusunda daha fazla sorumluluk üstlenmesi isteniyor.

Yapay zekâ sektöründeki bazı üst düzey yöneticiler de daha önce kontrol kaybı ve insanlığın geleceğini tehdit edebilecek senaryolar konusunda uyarılarda bulunmuştu. Bu nedenle tartışma artık yalnızca teknolojiye mesafeli çevrelerin değil, sistemi geliştiren sektörün içinden isimlerin de gündeminde bulunuyor.

BM küresel kuralları uyumlaştırmak istiyor

Birleşmiş Milletler, yapay zekâ için ülkeler arasında uyumlu kurallar oluşturulmasını uzun süredir gündemde tutuyor. Temmuz ayında gerçekleştirilen ilk küresel yapay zekâ yönetişimi toplantısı da bu çabanın uluslararası bir düzenleyici yapıya dönüştürülmesi açısından önemli adımlardan biri oldu.

Ancak ortak sistem oluşturmanın önündeki en büyük sorunlardan biri ülkeler arasındaki teknoloji rekabeti. Yapay zekâ ekonomik büyüme, savunma, siber güvenlik ve bilimsel araştırmalar açısından stratejik bir teknolojiye dönüştüğü için devletler ağır düzenlemelerin kendi şirketlerini rakiplerine karşı zayıflatmasından endişe ediyor.

Türk’ün son açıklaması ise güvenlik tartışmasının rekabet kaygılarının önüne geçirilmesi gerektiğini ortaya koyuyor. BM’nin çağrısına göre hedef, yapay zekânın gelişimini durdurmak değil; teknolojinin insan kontrolünden çıkabilecek veya büyük ölçekli zarar yaratabilecek kullanım alanları için ülkelerin önceden ortak sınırlar belirlemesi.