OpenAI ajanı devlet portalına girdi: Hükümet üç ay sonra öğrendi

OpenAI tarafından kullanılan bir yapay zekâ ajanının Avustralya hükümetine ait sağlık veri portalında yetkisi dışında hareket ettiği ortaya çıktı. Haziran ayında gerçekleşen olay, ancak eylül ayında hükümete bildirilirken inceleme için özel görev gücü oluşturuldu.

Olayın merkezinde kişisel hasta kayıtlarının tutulduğu ana Medicare sistemi değil, Services Australia tarafından işletilen Medicare Statistics Reporting Service bulunuyor. Portal araştırmacılar tarafından sağlık harcamaları ve istatistiklerine ulaşmak amacıyla kullanılabiliyor.

Yapay zekâ erişim engelini aştı

Yetkisiz erişim 18 Haziran'da meydana geldi. OpenAI tarafından dahili bir değerlendirme sırasında kullanılan yapay zekâ ajanı, Avustralya'daki sağlık harcamalarına ilişkin bilgi ararken Medicare istatistik portalına yöneldi.

Avustralya hükümetinin verdiği bilgiye göre sistemde erişilmemesi gereken bölümler bulunmasına rağmen yapay zekâ ajanı kısıtlamayı aşmanın bir yolunu buldu. Ajan böylece yalnızca internet üzerinden normal biçimde erişilebilen verilere değil, kamuya açık olmayan bazı dosyalara da ulaştı.

Olay, yapay zekâ ajanlarının yalnızca sorulara cevap vermek yerine internet sitelerinde gezinmesi, araç kullanması ve bir hedefe ulaşmak için art arda işlemler yapmasının doğurabileceği yeni güvenlik sorunlarını gündeme taşıdı.

Hasta kayıtlarına erişildiğine dair kanıt yok

İlk incelemelere göre olay kişisel Medicare kayıtlarının ele geçirildiği geniş çaplı bir sağlık verisi sızıntısına dönüşmedi. OpenAI, yaptığı incelemede hasta kayıtlarına erişildiğine ilişkin herhangi bir kanıt bulamadığını açıkladı. Erişilen bilgiler arasında toplu sağlık istatistikleri ve kamuya açık olmayan bazı dahili dosya adları bulunuyor.

Avustralya makamları da mevcut bulguların Services Australia'nın daha geniş bilgisayar ağına girildiğine işaret etmediğini bildirdi. Bununla birlikte kamuya açık olmayan verilere bir yapay zekâ ajanı tarafından izinsiz biçimde erişilmiş olması nedeniyle olay siber güvenlik incelemesine alındı.

Hükümet üç ay sonra haberdar edildi

Olayın ikinci dikkat çekici tarafı bildirim süresi oldu. Yetkisiz erişim 18 Haziran'da meydana gelmesine rağmen OpenAI, Services Australia'yı ancak 10 Eylül'de bilgilendirdi. Böylece olay ile ilk bildirim arasında yaklaşık üç ay geçti. Üstelik bildirimin özel bir güvenlik kanalı yerine Services Australia'nın genel kullanıma açık e-posta adresine gönderildiği açıklandı.

Avustralya Başbakanı Anthony Albanese, OpenAI CEO'su Sam Altman ile görüşerek hem olaydan hem de bildirimin gecikmesinden duyulan ciddi rahatsızlığı iletti. Albanese, bildirim süresini ve kullanılan yöntemi kabul edilemez olarak nitelendirdi.

Özel görev gücü devreye girdi

Avustralya hükümeti olayın nasıl gerçekleştiğini belirlemek amacıyla kurumlar arası bir görev gücü oluşturdu. İncelemeye Başbakanlık ve Kabine Dairesi öncülük ederken Avustralya Sinyal Direktörlüğü ile ülkenin Yapay Zekâ Güvenliği Enstitüsü de çalışmaya katılacak.

Yetkililer ayrıca olayın polise sevk edilmesini gerektirip gerektirmediğini değerlendiriyor. İlk açıklamalarda üç farklı Avustralya kamu sitesinde daha OpenAI sistemlerinin faaliyet gösterdiği belirtilmişti. Daha sonra yapılan kontrollerde bu üç sitedeki erişimlerin normal olduğu ve yalnızca kamuya açık bilgilere ulaşıldığı açıklandı. Bu nedenle soruşturmanın merkezinde Medicare istatistik portalındaki yetkisiz erişim bulunuyor.

OpenAI: Modeller istemediğimiz eylemler yaptı

OpenAI ise olayın şirketin yapay zekâ modellerinde beklenmedik veya amaç dışı davranışları araştırdığı geniş kapsamlı bir güvenlik incelemesi sırasında ortaya çıkarıldığını bildirdi.

Şirkete göre modeller, Avustralya hakkında sorulan bazı sorulara yanıt bulmak ve istatistik toplamak amacıyla kamu sitelerinde araştırma yaparken şirketin amaçlamadığı bazı eylemler gerçekleştirdi.

OpenAI son dönemde yapay zekâ modellerinin kendilerine verilen hedefi yerine getirirken izin sınırlarını aşabilmesi, kısıtlamaları farklı yollarla geçmeye çalışması veya istenmeyen sonuçlara yol açması ihtimalini ayrı bir güvenlik alanı olarak ele alıyor. Medicare olayı ise bu tartışmanın laboratuvar testlerinin dışına çıkabildiğini gösteren dikkat çekici örneklerden biri haline geldi.

Yapay zekâ ajanları e-posta göndermekten internet sitelerinde işlem yapmaya kadar daha fazla yetki kazandıkça, teknoloji şirketleri açısından yeni soru yalnızca modellerin ne bildiği değil, kendilerine verilen işi tamamlamak için ne yapmaya karar verebildikleri olacak.