Yapay zekâ yarışına fren çağrısı

Yapay zekâ sektöründeki hız yarışı bu kez şirketlerin kendi araştırmacıları tarafından sorgulanıyor. OpenAI ve Google DeepMind’de çalışan ya da daha önce görev yapmış isimler, yeni modellerin geliştirilme hızının güvenlik ve denetim mekanizmalarının önüne geçebileceği uyarısında bulundu.

Araştırmacılar doğrudan kamuoyuna çıktı

Tartışmayı yeniden gündeme taşıyan gelişme 29 Eylül'de kamuoyuna yansıdı. Yapay zekâ güvenliği alanında çalışan ABD merkezli Palisade Research, OpenAI ve Google DeepMind'de halen görev yapan ya da daha önce çalışmış araştırmacıların video anlatımlarını bir araya getirdi.

Aralarında eski OpenAI ve Google DeepMind araştırmacısı Geoffrey Irving ile Google DeepMind araştırmacısı Neel Nanda'nın da bulunduğu isimler, yapay zekâ şirketleri arasındaki hız yarışına ilişkin kaygılarını anlattı. Eski OpenAI politika araştırmacısı Rosie Campbell da şirketlerin içindeki güvenlik çalışmalarında yaşanan iletişim ve koordinasyon sorunlarına dikkat çekti.

Araştırmacıların ortak kaygısı, şirketler arasındaki rekabetin giderek daha güçlü modeller geliştirmeyi teşvik ederken güvenlik çalışmalarının aynı hızda ilerleyip ilerlemediği.

Asıl tartışma kendi kendini geliştiren sistemler

Risk tartışmasının merkezinde “özyinelemeli kendi kendini geliştirme” olarak tanımlanan bir aşama bulunuyor.

Bu senaryoda yapay zekâ yalnızca insanlara araştırma ve yazılım geliştirmede yardım etmiyor. Sistem, zamanla kendisini geliştiren araştırma süreçlerinin de giderek daha büyük bölümünü üstleniyor ve sonraki model kuşaklarının geliştirilmesini hızlandırabiliyor.

OpenAI, tam anlamıyla bağımsız biçimde kendi kendini geliştiren sistemlerin bugün henüz mevcut olmadığını belirtiyor. Ancak şirket, yapay zekâ ajanlarının yeni modellerin geliştirilmesinde kullanılan araştırma süreçlerinin bazı bölümlerini şimdiden hızlandırdığını kabul ediyor.

Yapay zekâyı artık yapay zekâ geliştiriyor

Şirketlerin yayımladığı veriler de değişimin yalnızca teorik olmadığını gösteriyor.

OpenAI, yapay zekâ ajanlarının araştırmacıların günler sürebilecek bazı görevlerini yerine getirebildiğini açıklarken Anthropic de yapay zekânın şirket içindeki yazılım ve araştırma süreçlerinde giderek daha fazla kullanılmaya başladığını bildiriyor.

Anthropic, mevcut eğilim yeterince ilerlediğinde bir yapay zekâ sisteminin kendi halefinin geliştirilmesinde çok daha büyük rol üstlenebileceğini değerlendiriyor. Şirket bunun kaçınılmaz olmadığını, ancak kurumların hazırlıksız yakalanabileceği kadar hızlı gerçekleşebileceğini belirtiyor.

Güvenlik tartışması temmuzda büyüdü

Endişelerin artmasında yapay zekâ ajanlarının kontrollü testlerin dışına çıktığı olaylar da etkili oldu.

OpenAI tarafından yürütülen bir güvenlik testi sırasında bir yapay zekâ ajanının test ortamından çıkarak Hugging Face altyapısına erişmesi, otonom sistemlerin sınırlarının nasıl çizileceği tartışmasını hızlandırmıştı.

Ardından benzer olayların farklı yapay zekâ sistemlerinde de görülmesi, şirketlerin yalnızca modellerin ne kadar güçlü olduğuna değil, bu modellerin verilen sınırlar içinde kalıp kalmadığına da odaklanmasına yol açtı.

Şirketler de yavaşlama seçeneğini konuşuyor

Tartışmanın dikkat çekici tarafı, güvenlik kaygılarının artık yalnızca şirket dışındaki araştırmacılardan gelmemesi.

OpenAI, eylül ayında kendi kendini geliştiren yapay zekâ sistemlerine hazırlanılması gerektiğini açıklarken, insan kontrolünün korunması ve gerektiğinde model geliştirme hızının düşürülmesini sağlayacak ortak güvenlik standartları çağrısı yaptı.

Şirketin yaklaşımına göre yapay zekâ araştırmalarını hızlandıran sistemler aynı zamanda güvenlik çalışmalarını geliştirmek için de kullanılabilir. Ancak bunun için şirketlerin tek başına aldığı önlemlerin ötesinde ortak ölçüm ve denetim mekanizmalarına ihtiyaç bulunuyor.

Böylece yapay zekâ yarışındaki temel soru da değişiyor: Artık yalnızca kimin daha güçlü modeli geliştireceği değil, bu hızın insan denetimi altında tutulup tutulamayacağı tartışılıyor.