Kuzey Kore hackerları yapay zekâyı siber saldırılarda kullanıyor

Kuzey Kore bağlantılı siber saldırı gruplarının yapay zekâ kullanımı yeni bir aşamaya taşınıyor. Güney Koreli siber güvenlik şirketi Genians'ın araştırmasına göre Kimsuky grubu, yalnızca yapay zekâ ile daha inandırıcı sahte belgeler hazırlamakla kalmıyor; kendi altyapısı içinde çalışan büyük dil modelleri ve farklı AI araçları da kuruyor.

Ortaya çıkan bulgular, siber saldırılarda insan eliyle yürütülen bazı süreçlerin gelecekte daha hızlı ve daha otomatik hale getirilebileceği endişesini artırıyor.

Yapay zekâyı kendi bilgisayarlarında çalıştırıyorlar

Genians'ın incelemesine göre Kimsuky bağlantılı altyapıda Ollama, GPT4All ve Msty gibi büyük dil modellerinin yerel olarak çalıştırılmasına imkan veren araçların kurulduğuna ilişkin izler bulundu.

Bu yöntemin kritik bir avantajı var.

Normalde internet üzerinden kullanılan yapay zekâ hizmetlerine gönderilen veriler dış sistemlere aktarılıyor. Yerel olarak çalışan modellerde ise belgeler saldırganların kendi bilgisayar veya sunucularında kalabiliyor.

Bu da ele geçirilen gizli belgelerin dışarıya gönderilmeden yapay zekâ tarafından analiz edilebilmesine imkan sağlayabilecek bir yapı oluşturuyor.

Araştırmacılar ayrıca RAG olarak bilinen belge tabanlı bilgi erişim sistemlerinin kullanıldığına ilişkin kanıtlar tespit etti.

Bu teknoloji, yapay zekânın kendisine verilen geniş bir belge arşivi içinde arama yapmasını ve sorulara yalnızca o belgelerde bulunan bilgiler üzerinden yanıt üretmesini sağlıyor.

Siber saldırganların eline geçen yüzlerce veya binlerce dosyanın bu yöntemle çok daha hızlı incelenmesi mümkün hale gelebiliyor.

Sahte yatırım raporlarıyla güven kazanmaya çalışıyorlar

Rapordaki en dikkat çekici ayrıntılardan biri finans ve kripto para sektörünü ilgilendiriyor.

Araştırmacılar, Kimsuky'nin saldırılarda kullandığı bazı sahte belgelerin üretken yapay zekâ yardımıyla hazırlanmış göründüğünü belirledi.

Belgeler arasında sanal varlıklar, finansal yatırımlar ve iş dünyasıyla ilgili materyaller bulunuyor.

Amaç, kullanıcıya sıradan bir zararlı dosya göndermek yerine gerçek bir yatırım raporuna, şirket belgesine veya profesyonel çalışma dokümanına benzeyen içerikler hazırlamak.

Dilin daha doğal olması, belgenin profesyonel biçimde hazırlanması ve gerçek iş belgelerine benzemesi saldırının fark edilmesini zorlaştırabiliyor.

Böylece yapay zekâ, hackerların yalnızca teknik kapasitesini değil sosyal mühendislik gücünü de artırabilecek bir araç haline geliyor.

Tuzak ZIP dosyasıyla başlıyor

Kimsuky'nin kullandığı saldırı yöntemi ise ilk aşamada oldukça tanıdık.

Hedef kişiye çoğu zaman e-posta veya farklı iletişim kanalları üzerinden bir ZIP dosyası gönderiliyor.

Dosyanın içinde resmi belge, araştırma raporu, toplantı dokümanı, ödeme talebi, medya yazısı veya diplomatik yazışma görünümü verilen bir kısayol dosyası bulunuyor.

Kullanıcı dosyayı açtığında PowerShell tabanlı kötü amaçlı kod devreye giriyor.

Saldırı zincirinde GitHub ve GitLab gibi normalde yazılım geliştirme için kullanılan platformların da komuta-kontrol altyapısı ve zararlı yazılım dağıtım kanalı olarak kullanıldığı belirtiliyor.

Bu yöntem, kötü amaçlı trafiğin sıradan internet kullanımından ayırt edilmesini zorlaştırabiliyor.

AI destekli kodlama araçları da bulundu

Genians yalnızca dil modellerinin izlerine ulaşmadı.

Kimsuky bağlantılı sistemlerde Cursor gibi yapay zekâ destekli kodlama yazılımlarının kurulduğu da belirlendi.

Ayrıca konuşmayı yazıya dönüştüren araçlar, makine öğrenmesi geliştirme materyalleri ve AI ajanları oluşturmaya yönelik yazılımlara ilişkin izler bulundu.

Araştırmacılara göre eldeki bulgular Kuzey Koreli grubun kendi yapay zekâ modelini sıfırdan eğittiğini göstermiyor.

Bunun yerine mevcut açık kaynak yapay zekâ modellerinin siber saldırı altyapısına nasıl entegre edilebileceğinin sistematik biçimde araştırıldığı değerlendiriliyor.

Bu ayrım önemli.

Çünkü ihtiyaç duyulan yüksek işlem gücü ve büyük veri setleri olmadan da mevcut yapay zekâ araçlarının saldırı süreçlerine eklenmesi mümkün.

Saldırılar otomatik hale gelebilir

Araştırmanın ortaya koyduğu asıl risk, yapay zekânın saldırının farklı aşamalarını birbirine bağlayabilecek olması.

Bir sistem ele geçirildikten sonra içindeki binlerce dosyanın taranması, kritik belgelerin seçilmesi, yeni hedeflerin belirlenmesi ve sonraki oltalama mesajlarının hazırlanması bugün önemli ölçüde insan emeği gerektiriyor.

Yerel dil modelleri ve RAG sistemleri bu sürecin önemli bölümünü hızlandırabilir.

AI destekli kodlama araçları da zararlı yazılımların değiştirilmesi veya yeni saldırı araçlarının hazırlanması için kullanılabilir.

Genians, mevcut bulguların bu kapasitenin tamamen otomatik çalışan saldırı sistemlerine dönüştüğünü kanıtlamadığını özellikle vurguluyor.

Ancak grubun bu yönde teknoloji biriktirdiğine ilişkin işaretlerin arttığı belirtiliyor.

Hedefte diplomasi, savunma ve kripto var

Kimsuky uzun süredir hükümet kurumları, düşünce kuruluşları, akademisyenler, diplomatik temsilcilikler ve güvenlik uzmanlarını hedef alan operasyonlarla biliniyor.

Son dönemde izlenen saldırılarda askeri ve güvenlik kurumlarının yanı sıra sanal varlık ve finans sektörüne yönelik faaliyetler de dikkat çekiyor.

ABD Hazine Bakanlığı, Kimsuky'yi 2023 yılında Kuzey Kore hükümetinin kontrolündeki bir siber casusluk grubu olarak yaptırım listesine almıştı.

ABD makamlarına göre grubun topladığı istihbarat Pyongyang'ın stratejik hedeflerine ve askeri programlarına destek sağlıyor.

Kuzey Kore bağlantılı diğer siber gruplar ise geçmiş yıllarda kripto para platformlarından gerçekleştirilen büyük çaplı hırsızlıklarla gündeme gelmişti.

Bu nedenle finans ve kripto temalı yapay zekâ destekli sahte belgelerin ortaya çıkması yalnızca casusluk açısından değil, doğrudan para kaybı riski açısından da önem taşıyor.

Şirketler için yeni güvenlik sorunu

Yapay zekânın siber saldırılara eklenmesi şirketlerin güvenlik stratejisini de zorlaştırıyor.

Eskiden hatalı dil, kötü hazırlanmış tasarım veya düşük kaliteli metinler oltalama mesajlarının fark edilmesini kolaylaştırabiliyordu.

Üretken yapay zekâ ile hazırlanan içerikler ise kusursuza yakın dil kullanabiliyor ve hedef kişinin sektörüne göre özel olarak hazırlanabiliyor.

Finans yöneticisine yatırım raporu, hukuk departmanına sözleşme, akademisyene araştırma belgesi veya diplomata resmi yazışma görünümünde içerik gönderilmesi çok daha kolay hale geliyor.

Kuzey Kore bağlantılı Kimsuky'nin yerel yapay zekâ altyapısı kurduğuna ilişkin son bulgular da siber güvenlik yarışında yeni eşiklerden birine işaret ediyor.

Artık kurumların karşısındaki risk yalnızca daha fazla hacker değil; aynı saldırganın yapay zekâ yardımıyla çok daha fazla hedefi aynı anda analiz edebilmesi.