ABD'de yapay zeka alarmı! Anthropic'in modeli gizli sistemlerde açık buldu
ABD merkezli Anthropic'in geliştirdiği Mythos modelinin, hükümetin hassas bilgi içeren sistemlerinde saatler içinde güvenlik açıkları tespit ettiği iddiası Washington'da yapay zeka ve ulusal güvenlik tartışmalarını büyüttü. AP'ye konuşan yetkili, testlerin kritik yazılımları olası risklere karşı korumak için yapıldığını belirtirken, Senatör Mark Warner'ın "gizli sistemler" çıkışı ve ABD'nin Fable 5 ile Mythos 5'e erişim yasağı, gelişmiş yapay zeka modellerine yönelik endişeleri yeniden gündeme taşıdı.
ABD merkezli yapay zeka şirketi Anthropic tarafından geliştirilen bir modelin, ABD hükümetine ait üst düzey hassas bilgilerin yer aldığı bilgisayar sistemlerinde güvenlik açıkları tespit ettiği iddia edildi.
The Associated Press'e (AP) konuşan ismi açıklanmayan bir yetkili, Anthropic ile ABD istihbarat servisleri arasında güvenlik testleri yürütüldüğünü belirtti. Yetkiliye göre söz konusu çalışma, gelişmiş yapay zeka modellerinin kritik sistemler üzerinde oluşturabileceği riskleri değerlendirmek amacıyla yapıldı.
Testlerde Mythos modeli kullanıldı
Yetkili, denemelerin Anthropic'in geliştirdiği Mythos modeliyle yürütüldüğünü ifade etti. Testlerin, "dünyanın kritik öneme sahip yazılımlarını" Mythos modelinin "kamu güvenliği, ulusal güvenlik ve ekonomide yol açabileceği ciddi olumsuz etkilerden koruma" amacı taşıdığı öne sürüldü.
Söz konusu süreçte Mythos modelinin, ABD hükümetinin yüksek hassasiyetli veriler barındıran bilgisayar sistemlerinde saatler içinde bazı güvenlik açıkları tespit ettiği belirtildi. Ancak yetkili, bu durumun modelin aynı süre içinde söz konusu sistemlere sızabileceği anlamına gelmediğini savundu.
Senatör Warner testlere dikkat çekmişti
Demokrat Senatör Mark Warner da 11 Haziran'da Senatoda düzenlenen bir oturumda söz konusu testlere işaret etmişti. Warner, yapay zeka modelinin gizli sistemlerde ulaştığı kapsamı vurgulayarak "Bu araç, neredeyse tüm gizli sistemlerimize girdi. Haftalar değil, saatler içinde" ifadelerini kullanmıştı.
Warner'ın açıklamaları, gelişmiş yapay zeka modellerinin ulusal güvenlik açısından taşıdığı risklere yönelik tartışmaları yeniden gündeme taşıdı.
ABD'den erişim yasağı kararı
ABD yönetimi, 13 Haziran'da Anthropic'in geliştirdiği "Fable 5" ve "Mythos 5" yapay zeka modellerine erişim konusunda yeni bir karar aldı. Yönetim, "ulusal güvenlik tehdidi" gerekçesiyle yabancı hükümetler, şirketler ve bireylerin bu modellere erişimini yasakladı.
Kararın ardından Anthropic, gelişmiş yapay zeka modellerini tüm kullanıcılar için devre dışı bıraktı.
