Yapay zeka dünyasını karıştıran istifa: 10 yıl içinde insanlığı öldürebilir
Yapay zeka sektörünün içinden gelen istifa açıklaması teknoloji dünyasında tartışma yarattı. OpenAI ve Anthropic'te üç yıl araştırmacı olarak çalışan Jacob Coxon, şirketlerin süper zekaya ulaşmak için tehlikeli bir yarış yürüttüğünü, sistemleri geliştiren çalışanların önümüzdeki 10 yılda yaşanabilecekler konusunda ciddi endişe taşıdığını idda etti.
Yapay zekanın geleceğine ilişkin güvenlik tartışmaları, Anthropic araştırmacısı Jacob Coxon'un istifasıyla yeniden gündeme geldi. Son üç yılda OpenAI ve Anthropic'te araştırmacı olarak çalıştığını belirten Coxon, her iki şirketin de yapay zeka konusunda yeterince sorumlu hareket etmediğini savunarak Anthropic'teki görevinden ayrıldığını açıkladı.
Sosyal medyada milyonlarca kez görüntülenen açıklamasında Coxon, şirketlerin kendi kendini geliştirebilen "süper zeka"ya ilk ulaşan olmak için kontrolsüz bir yarış içinde olduğunu ileri sürdü.
"Bu teknolojinin gücünü hafife almayın"
Coxon'a göre mevcut yapay zeka sistemlerinin yeteneklerindeki hızlı gelişim, gelecekte çok daha güçlü sistemlerin ortaya çıkmasının önünü açıyor.
"Bu teknolojinin gücünü hafife almayın" diyen Coxon, gelecekteki sistemlerin siber saldırılardan bilimsel ve teknolojik gelişmelere kadar birçok alanda insanüstü yeteneklere ulaşabileceğini, hatta gerçek dünyada güç ve kaynak elde edebilecek hale gelebileceğini savundu. Ancak açıklamasında en fazla dikkat çeken bölüm, sektörün kendi içindeki risk algısına ilişkin iddiası oldu.
"İçeride ciddi bir korku var"
Coxon, gelişmiş yapay zeka modelleri üzerinde çalışan bazı sektör çalışanlarının bu sistemlerin 10 yıl içinde insanlığın varlığını tehdit edebilecek sonuçlar doğurabileceğine ciddi biçimde inandığını öne sürdü. Şirket yöneticilerinin kamuoyuna daha ölçülü mesajlar verdiğini savunan Coxon, şirketlerin kendi içinde ise çok daha ağır risk senaryolarının tartışıldığını iddia etti.
Coxon ayrıca Anthropic yönetiminin riskleri kabul etmesine rağmen süper zekaya rakiplerinden önce ulaşılması gerektiği düşüncesiyle hareket ettiğini öne sürdü.
İstifa açıklaması sosyal medyayı karıştırdı
Coxon'un açıklamaları kısa sürede milyonlarca görüntülenmeye ulaşırken yapay zeka güvenliğine ilişkin tartışmalar da yeniden alevlendi. Milyarder yatırımcı Bill Ackman açıklamayı "endişe verici" olarak değerlendirirken, bazı kullanıcılar gelişmiş yapay zeka sistemleri için daha güçlü küresel denetim mekanizmaları kurulması çağrısında bulundu.
