Yapay zeka kontrolden mi çıkıyor? Test modelleri gerçek şirketlere saldırdı
Yapay zeka güvenliğiyle ilgili şimdiye kadarki en çarpıcı olaylardan biri yaşandı. OpenAI ve Anthropic'in siber güvenlik testleri için geliştirdiği yapay zeka modellerinin, test ortamlarını aşarak habersiz şirket sistemlerine saldırdığı ortaya çıktı. Gelişme, yapay zeka ajanlarının kontrol altında tutulup tutulamayacağına ilişkin tartışmaları yeniden alevlendirdi.
OpenAI ve Anthropic tarafından siber güvenlik testlerinde kullanılmak üzere geliştirilen yapay zeka modellerinin, kontrollü test ortamlarının dışına çıkarak gerçek şirket sistemlerini hedef aldığı ortaya çıktı.
Wall Street Journal'ın haberine göre olaylar nisan ayında başladı ancak her iki şirket de durumu ancak geçen hafta yapılan incelemelerde fark etti.
OpenAI, temmuz ayında modellerinden birinin yapay zeka platformu Hugging Face sistemlerine izinsiz erişim sağladığını açıkladı. Bu açıklamanın ardından Anthropic de sistem kayıtlarını inceleyerek kendi modellerinin yer aldığı üç ayrı saldırı vakası tespit etti.
İlk kez gerçek dünyada saldırı gerçekleştirdiler
Yapay zeka sistemlerinin test ortamından çıkarak gerçek sistemlere saldırdırdığı bu ilk kanıtlı olay, giderek daha gelişmiş hale gelen yapay zeka ajanlarının kontrol edilebilirliğine yönelik tartışmaları yeniden gündeme taşıdı.
'Bilim kurgu gibi'
OpenAI CEO'su Sam Altman, Hugging Face olayını "son derece bilim kurgu niteliğinde bir siber olay" olarak tanımlayarak bunun bugüne kadar karşılaştığı en çarpıcı yapay zeka güvenliği olaylarından biri olduğunu söyledi.
Şirket, kapsamlı bir soruşturma başlatacağını ve olayla ilgili teknik rapor yayımlayacağını duyurdu.
Yapay zeka saldırıları hızlanıyor
Son dönemde yapay zeka modellerinin yazılım açıklarını bulma ve siber güvenlik testlerini tamamlama konusunda önemli ölçüde geliştiğine dikkat çekiliyor. Stanford Üniversitesi'nin daha önce yayımladığı araştırmalar da gelişmiş modellerin denetim altında gerçek ağlara yönelik saldırılarda insan uzmanlara yakın performans gösterebildiğini ortaya koymuştu.
Öte yandan Hugging Face, saldırıları analiz etmek için ilk aşamada Anthropic'in Claude modelini kullanmak istedi. Ancak model güvenlik gerekçesiyle bu talebi reddetti. Bunun üzerine şirket, kendi altyapısında çalışan açık ağırlıklı yapay zeka modellerini devreye aldı.
Düzenleme baskısı arttı
Yaşanan olayların ardından Beyaz Saray, gelişmiş yapay zeka modellerine yönelik federal güvenlik incelemesi çerçevesini tamamladı. Trump ise güvenlik önlemlerinin, ABD'nin Çin ile teknoloji rekabetini zayıflatmayacak şekilde uygulanması gerektiğini söyledi.
