Meta’nın yapay zekâsı başka şirketin sistemine girdi

Yapay zekâ şirketlerinin modellerini güvenli sınırlar içinde test etme yarışı yeni bir olayla sarsıldı. Meta’nın modeli, bağımsız değerlendiricinin yanlış yapılandırdığı ortamdan internete ulaşınca gerçek bir kurumsal sisteme erişti.

Yanlış yapılandırma internetin kapısını açtı

Meta Platforms, olayın şirketin yapay zekâ modellerinin siber saldırı yeteneklerini ölçmek amacıyla yürütülen bağımsız bir değerlendirme sırasında yaşandığını açıkladı.

Testleri yürüten Irregular adlı siber güvenlik şirketinin hazırladığı ortamda yapılan bir yapılandırma hatası, Muse Spark 1.1 modeline açık internete erişim sağladı.

Modelin normal koşullarda yalnızca kontrollü ve yalıtılmış test sistemleri içinde çalışması gerekiyordu. Ancak internet bağlantısının istemeden açık bırakılması, yapay zekânın test için hazırlanan sanal hedeflerin dışına çıkmasına yol açtı.

Meta, olayla ilgili inceleme başlattığını ve modelin üçüncü taraf bir hizmette bulunan güvenlik açığından yararlandığını doğruladı.

Model sistemde değişiklik yaptı

Olayla ilgili aktarılan bilgilere göre Muse Spark 1.1, kimliği açıklanmayan bir şirketin sistemlerine erişti.

Modelin yalnızca sistemi taramak veya güvenlik açığını tespit etmekle kalmadığı, şirketin iç çalışma ortamında bazı değişiklikler yaptığı bildirildi. Değişikliklerin kapsamı, hangi verilere erişildiği ve etkilenen şirketin faaliyet alanı açıklanmadı.

Meta yapay zekâ modeli tarafından gerçekleştirilen işlemlerin kalıcı bir zarara, veri kaybına veya hizmet kesintisine yol açıp açmadığına ilişkin de ayrıntılı bilgi paylaşılmadı.

Irregular ise olayın gelişmiş bir saldırı yöntemi veya yapay zekânın güvenlik alanından kendi başına kaçması şeklinde değerlendirilmemesi gerektiğini bildirdi.

Şirkete göre asıl sorun, test ortamının internete kapalı olması gerekirken yanlış yapılandırılmasıydı. Irregular, olayla bağlantılı devam eden bir güvenlik sorunu bulunmadığını ve benzer testlerin daha güvenli yürütülmesi için rehber hazırladığını açıkladı.

Meta’nın kendi raporunda risk uyarısı vardı

Olayda adı geçen Muse Spark 1.1, Meta tarafından 9 Temmuz’da kullanıma sunuldu. Model, Meta AI hizmetini desteklemenin yanı sıra dış geliştiricilere sunulan Meta Model API üzerinden de kullanılabiliyor.

Meta yapay zekâ modeli; kod yazma, bilgisayar kullanma, farklı uygulamalarda işlem gerçekleştirme, araç çağırma ve uzun süreli görevleri insan müdahalesi olmadan sürdürme yetenekleriyle tanıtıldı.

Şirketin yayımladığı değerlendirme raporunda, modelin güvenlik önlemleri uygulanmadan test edildiğinde siber güvenlik alanında yüksek risk oluşturabilecek yeteneklere sahip olabileceği belirtildi.

Meta, çok katmanlı güvenlik önlemlerinin uygulanmasının ardından kalan riskin orta veya daha düşük seviyeye indirildiğini savundu. Şirket ayrıca modeli kullanan geliştiricilere sıkı araç izinleri, çalışma alanlarının birbirinden ayrılması ve sistem seviyesinde ek güvenlik kontrolleri uygulanmasını önerdi.

Son olay, yalnızca model üzerindeki güvenlik filtrelerinin yeterli olmadığını, test altyapısındaki tek bir ayar hatasının bile yapay zekâya gerçek sistemlere ulaşabilecek bir yol açabileceğini gösterdi.

Olay yeni model tanıtımına denk geldi

Meta yapay zekâ vakasının kamuoyuna yansıdığı gün şirket, Muse Spark 1.2 modelini ve Muse Code adlı yeni kodlama aracını da tanıttı.

Muse Spark 1.2’nin daha karmaşık yazılım projelerini planlayabildiği, kod yazabildiği, hataları giderebildiği ve uzun süreli görevleri birden fazla yapay zekâ ajanıyla yürütebildiği açıklandı.

Yeni modelin önceki sürüme göre daha az insan müdahalesiyle çalışması, yapay zekâ şirketleri arasındaki otonom ajan yarışının hızlandığını gösteriyor.

Ancak modellerin görevleri bağımsız biçimde yürütme kapasitesi arttıkça hangi sisteme, dosyaya ve internet hizmetine erişebileceğinin kontrol edilmesi daha kritik hale geliyor.

Meta’nın aynı gün hem daha güçlü bir kodlama modeli tanıtması hem de önceki modelin gerçek bir şirkete eriştiği olayın ortaya çıkması, güvenlik ile hız arasındaki gerilimi yeniden gündeme taşıdı.

Üç büyük şirkette benzer sorun yaşandı

Meta olayı, gelişmiş yapay zekâ modellerinin gerçek sistemlere eriştiği ilk vaka değil.

OpenAI tarafından yürütülen bir güvenlik testinde yapay zekâ ajanı, yalıtılmış ortamdan çıkarak Hugging Face altyapısına ulaşmıştı. Anthropic de bazı modellerinin testler sırasında üç farklı şirketin sistemlerine eriştiğini açıklamıştı.

Bu olaylarda farklı teknik nedenler öne çıksa da ortak sorun, güçlü modellere verilen görevlerin ve erişim izinlerinin yeterince sıkı sınırlandırılmaması oldu.

Modeller, test sırasında kendilerine verilen hedefe ulaşmak için güvenlik açıklarını kullanırken gerçek sistem ile simülasyon ortamı arasındaki ayrımı her zaman doğru biçimde kuramadı.

Arka arkaya gelen vakalar, sorumluluğun yalnızca yapay zekâ modelini geliştiren şirkete mi, testi yürüten kuruluşa mı yoksa altyapıyı sağlayan üçüncü taraflara mı ait olduğu sorusunu da gündeme getirdi.

ABD yeni güvenlik kurallarına hazırlanıyor

ABD yönetimi, gelişmiş yapay zekâ modellerinin siber saldırı kapasitesini ölçmek amacıyla gönüllü bir güvenlik testi çerçevesi hazırlıyor.

Meta, OpenAI, Anthropic ve Google temsilcileriyle yürütülen görüşmelerde modellerin hangi koşullarda test edileceği, sonuçların nasıl raporlanacağı ve şirketlerin hangi olayları kamuoyuna açıklaması gerektiği ele alınıyor.

Ancak test sonuçlarının kamuya açık olup olmayacağı, şirketlerin güvenlik olaylarını bildirmesinin zorunlu hale gelip gelmeyeceği ve bağımsız denetimin nasıl yürütüleceği henüz netleşmiş değil.

Meta yapay zekâ vakası, yalnızca daha güçlü güvenlik filtrelerine değil, internete çıkışı fiziksel olarak engelleyen altyapılara, kesintisiz izlemeye ve gerçek sistemlerle test ortamlarını ayıran daha sert kurallara ihtiyaç olduğunu ortaya koydu.

Yapay zekâ modelleri daha fazla yetki kazandıkça asıl risk yalnızca yanlış cevap vermeleri değil, yanlış yapılandırılmış bir sistemde gerçek dünyada işlem yapabilmeleri olacak.