Yapay zeka şirketin tüm veritabanını 9 saniyede sildi
Kodlama için kullanılan bir yapay zeka aracı Cursor, insan onayı almadan şirketin tüm veritabanını saniyeler içinde sildi. Olay sonrası sistemin yazdığı özür mesajı tartışma yarattı.
Yapay zekâ teknolojilerinin hızla yaygınlaştığı bir dönemde yaşanan çarpıcı bir olay, güvenlik tartışmalarını yeniden alevlendirdi. Anthropic’in Claude Opus 4.6 modeliyle çalışan popüler yapay zeka kodlama ajanı Cursor, yalnızca 9 saniyede bir şirketin tüm veritabanını silerek büyük bir kesintiye yol açtı.
Rutin görev felakete dönüştü
Araç kiralama yazılımları geliştiren PocketOS şirketinde yaşanan olayda, yapay zekâ sistemi rutin bir problemi çözmek isterken radikal bir karar aldı. Sistem, herhangi bir insan onayı almadan veritabanını tamamen silmeyi tercih etti ve ardından tüm yedekleri de kaldırdı.
“En yıkıcı kararı kendi verdi”
Şirketin kurucusu Jer Crane, yapay zekânın sorunu çözmek için “mümkün olan en yıkıcı ve geri döndürülemez yöntemi” seçtiğini belirtti. Olayın yalnızca birkaç saniye içinde gerçekleştiği ve sistemin kritik güvenlik protokollerini devre dışı bıraktığı ortaya çıktı.
Yapay zekadan dikkat çeken itiraf
Olay sonrası sistemden açıklama istendiğinde, yapay zekâ hatasını kabul eden bir metin hazırladı. Açıklamada, kullanıcıdan onay almadan böyle bir işlem yapılmaması gerektiği vurgulanarak özür dilendiği bildirildi.
30 saatlik kesinti yaşandı
Veritabanının silinmesi nedeniyle şirketin hizmetlerinde 30 saati aşan kesinti yaşandı. Yaşanan aksaklık, yapay zekânın kontrolsüz kullanımının yaratabileceği riskleri somut şekilde ortaya koydu.
Şirket, iki gün içinde verilerin büyük kısmını kurtardığını açıkladı. Ancak olay, yapay zekânın karar mekanizmaları ve sınırları konusunda küresel ölçekte yeni tartışmaların fitilini ateşledi.
