Google DeepMind yöneticisini geceleri uyutmayan iki yapay zekâ sorunu

Yapay zekânın sunduğu fırsatlar büyürken, teknoloji dünyasının en etkili laboratuvarlarından Google DeepMind’dan dikkat çeken bir uyarı geldi. Lila Ibrahim, en ağır senaryoya kesin oran vermedi; ancak bu riskin görmezden gelinemeyeceğini vurguladı.

En karanlık ihtimal için “sıfır değil” dedi

Google DeepMind’ın yapay zekâ hazırlıklarından sorumlu yöneticisi Lila Ibrahim, yapay zekânın insanlığın yok oluşuyla sonuçlanabilecek bir felakete yol açma ihtimali sorulduğunda net bir oran vermekten kaçındı.

Ibrahim, riskin “sıfır olmadığını” belirterek bunun ötesinde söyleyeceği her oranın tahminden ibaret kalacağını ifade etti. Açıklama, yapay zekâ riski konusunda teknoloji sektöründeki iyimser ve karamsar beklentilerin yeniden karşı karşıya geldiği bir dönemde yapıldı.

Ibrahim, 2023 yılında yayımlanan ve yapay zekâ kaynaklı yok oluş tehlikesinin salgın hastalıklar ile nükleer savaş gibi küresel risklerle birlikte ele alınmasını isteyen bildiriyi imzalayan isimler arasında bulunuyor.

Aradan üç yıl geçmesine rağmen bu görüşünü koruduğunu belirten Ibrahim, yapay zekâ riski hakkında konuşmamanın sorumsuzluk olacağını söyledi.

Geceleri aklından çıkmayan iki soru

Ibrahim, yapay zekâ konusunda iki temel sorunun kendisini kaygılandırdığını anlattı. Bunlardan ilki riskleri azaltmak için gereken her şeyin yapılıp yapılmadığı, ikincisi ise teknolojinin sunduğu fırsatlardan yeterince yararlanılıp yararlanılmadığı.

Google DeepMind yöneticisine göre bu iki başlık birbirinden ayrı düşünülemez. Yapay zekâ riski azaltılırken, sağlık, iklim ve bilimsel araştırmalar gibi alanlardaki potansiyelin de toplumun geniş kesimlerine ulaştırılması gerekiyor.

Ibrahim, salgın döneminin beklenmedik ölçekteki tehlikelerin ne kadar hızlı gerçeğe dönüşebileceğini gösterdiğine dikkat çekti. İnternetin ve sosyal medyanın yükselişi sırasında şirketlerin muhtemel zararları yatırım kararlarında yeterince tartışmadığını belirten yönetici, aynı hatanın yapay zekâda tekrarlanmaması gerektiğini savundu.

Elon Musk’ın 2036 tablosuna karşı çıktı

Ibrahim yalnızca felaket senaryolarına değil, yapay zekânın kısa sürede sınırsız refah yaratacağı yönündeki iddialara da mesafeli yaklaştı.

Elon Musk, yapay zekâ ve robotların üretimi hızla artıracağını, çalışmanın isteğe bağlı hâle geleceğini ve 2036’ya gelindiğinde paranın önemini kaybedeceğini öne sürmüştü. Musk ayrıca ücretlerin yerini daha geniş kapsamlı bir gelir modelinin alabileceğini savunmuştu.

Google DeepMind yöneticisi ise teknolojinin çok hızlı ilerlediğini ve gelecekte oluşacak düzenin kesin biçimde öngörülemeyeceğini belirtti. Ibrahim’e göre bugünden işlerin tamamen ortadan kalkacağına, ücretlerin önemini yitireceğine veya bolluk döneminin başlayacağına ilişkin kesin tarihler vermek mümkün değil.

Bu nedenle tartışmanın, uzak geleceğe ilişkin iddialar yerine yapay zekânın bugünkü dünyada hangi sorunları çözebileceğine odaklanması gerektiğini söyledi.

DeepMind güvenlik sınırlarını sıkılaştırıyor

Google DeepMind, gelişmiş yapay zekâ modellerinden kaynaklanabilecek ağır zararları önceden belirlemek amacıyla Sınır Güvenliği Çerçevesi’ni uyguluyor. Nisan 2026’da güncellenen sistem; tehlikeli yeteneklerin erken saptanmasını, modellerin düzenli olarak sınanmasını ve gerekli koruma önlemlerinin önceden hazırlanmasını öngörüyor.

Çerçeve kapsamında biyolojik ve nükleer tehditler, siber saldırılar, zararlı yönlendirme, yapay zekâ araştırmalarının kontrolsüz biçimde otomatikleşmesi ve insan hedefleriyle uyumsuzluk gibi alanlar izleniyor.

Ibrahim’in açıklaması, yapay zekâ riski için kesin bir felaket tahmini anlamına gelmiyor. Ancak teknolojiyi geliştiren en önemli kuruluşlardan birinin yöneticisinin ihtimali sıfır kabul etmemesi, güvenlik tartışmasının sektörün merkezinde kalacağını gösteriyor.