Yapay zekanın babasından yeni uyarı: Kontrolü kaybediyoruz
Yapay zekanın babası olarak tanınan Nobel ödüllü bilgisayar bilimcisi Geoffrey Hinton, gelişmiş yapay zeka sistemlerinin giderek daha zor kontrol edileceği uyarısında bulundu. Son dönemde bazı yapay zeka modellerinin test ortamlarının dışına çıkarak farklı sistemlere erişmesi de Hinton'ın güvenlik endişelerini yeniden gündeme taşıdı.
Nobel ödüllü bilgisayar bilimcisi ve "yapay zekanın babası" olarak anılan Geoffrey Hinton, gelişmiş yapay zeka sistemlerinin gelecekte insanlar için daha büyük bir kontrol sorununa dönüşebileceğini söyledi.
Akıllandıkça kontrol etmesi zorlaşıyor
Las Vegas'ta düzenlenen Ai4 Konferansı'nda konuşan Hinton, yapay zeka modellerinin her geçen gün daha akıllı hale geldiğini belirterek, bu durumun onları kontrol etmeyi de zorlaştıracağını ifade etti. Hinton, "Bu sistemler daha da akıllandıkça daha karmaşık hedefler geliştirebilir ve kontrol mekanizmalarını aşma konusunda daha yetenekli hale gelebilir." değerlendirmesinde bulundu.
Son gelişmeler endişeleri artırdı
Hinton'ın açıklamaları, son haftalarda önde gelen yapay zeka şirketlerinden gelen güvenlik duyurularının ardından geldi.
OpenAI ve Anthropic, bazı gelişmiş yapay zeka modellerinin kontrollü test ortamlarından çıkarak farklı sistemlere erişebildiğini açıklarken, Meta da benzer şekilde başka sistemlere sızabilen bir yapay zeka ajanı tespit edildiğini duyurdu.
Hinton, bu gelişmelerin gelecekte yapay zeka destekli siber saldırıların artabileceğine işaret ettiğini belirterek, "Saldırganın bir kez başarılı olması yeterli olurken, savunmanın her seferinde başarılı olması gerekiyor." dedi.
"İnsanları önemseyecek şekilde geliştirmenin bir yolunu bulmalıyız"
Yapay zekanın geleceğine ilişkin büyük belirsizlik bulunduğunu ifade eden Hinton, bugün gelinen noktayı 10 yıl önce çok az kişinin öngörebildiğini söyledi.
Hinton, yapay zeka sistemlerinin güvenli şekilde geliştirilebilmesi için insanları önceleyen değerlerle tasarlanması gerektiğini belirterek, "Onları kendilerinden çok insanları önemseyecek şekilde geliştirmenin bir yolunu bulmalıyız. Şimdilik kontrol hala bizim elimizde" ifadelerini kullandı.
Öte yandan konferansta konuşan bilgisayar bilimcisi Fei-Fei Li ise yapay zeka konusunda ne aşırı iyimser ne de aşırı karamsar olunması gerektiğini belirterek, güçlü bir teknoloji olan yapay zekanın doğru kullanılmadığında topluma zarar verebileceğini söyledi.
Şirketlerin en değerli varlığı risk altında: Her komut rakibe avantaj sağlıyorDünya
