Çinli yapay zekâ şirketi kendi modeline fren koydu

Çinli yapay zekâ şirketi Moonshot AI, teknoloji sektöründe alışılmışın dışında bir karara imza attı. Şirket, yeni modeli Kimi K3.1 Pro'nun yazılım açıklarını bulma ve bunlardan yararlanma kabiliyetini, geliştirme sürecinde bilinçli olarak azalttığını duyurdu. Pek çok teknoloji şirketi yapay zekâ modellerinin performansını artırmak için yarışırken Moonshot, siber saldırılarda kullanılabilecek yeteneklerde belirli bir sınırın aşılmasını istemediğini açıkladı.

24 Ekim'de duyurulan kararın arkasında, gelişmiş yapay zekâ sistemlerinin siber saldırıların maliyetini düşürmesi ve daha fazla kişinin karmaşık saldırılar gerçekleştirmesini kolaylaştırması endişesi bulunuyor. Üstelik Kimi K3.1 Pro'nun model ağırlıklarının 4 Kasım'da yayımlanması planlanıyor. Bu dosyaların kullanıcıların kendi sistemlerinde çalıştırılmasına olanak vermesi, modelin piyasaya sürüldükten sonra ne ölçüde kontrol edilebileceği sorusunu daha önemli hale getiriyor.

Siber saldırı testinde 9,5 puanlık düşüş

Moonshot AI, yeni modelini eğitirken siber saldırılarla bağlantılı verilerin bir bölümünü eğitim içeriğinden ve pekiştirmeli öğrenme ortamlarından çıkardı. Amaç, modelin genel yazılım geliştirme becerilerini korurken güvenlik açıklarının kötüye kullanılmasına yönelik kabiliyetlerini sınırlandırmaktı. Şirket daha sonra bu müdahalenin sonuçlarını kendi geliştirdiği bir testle ölçtü.

Yazılım açıklarını bulma ve bunlardan yararlanma görevlerinin kontrollü bir ortamda değerlendirildiği testte, kısıtlama uygulanmamış model yüzde 90,5 başarı sağladı. Siber güvenlik verilerinin çıkarıldığı Kimi K3.1 Pro ise aynı değerlendirmede yüzde 81 puan aldı. Böylece iki sürüm arasında 9,5 puanlık fark oluştu.

Ancak bu sonuç, modelin siber saldırı gerçekleştirme yeteneğinin tamamen ortadan kaldırıldığı anlamına gelmiyor. Yüzde 81'lik skor, kullanılan testte hâlâ yüksek bir performansa işaret ederken Moonshot yeni modelin önceki Kimi sürümünden daha başarılı olduğunu belirtiyor. Ayrıca rakamlar şirketin kendi değerlendirmesine dayanıyor ve henüz bağımsız araştırmacılar tarafından doğrulanmış değil.

Genel yazılım geliştirme gücü korunmaya çalışıldı

Moonshot'ın tercih ettiği yöntemin önemli bir özelliği, bütün yazılım geliştirme yeteneklerini sınırlamak yerine belirli riskli kullanım alanlarına odaklanması oldu. Şirket, siber saldırılarla bağlantılı eğitim içeriğini ayıklarken modelin kod yazma, yazılımları düzenleme ve uzun görevleri tamamlama becerilerini korumaya çalıştı. Böylece güvenlik önlemlerinin modelin ticari kullanım değerini mümkün olduğunca az etkilemesi hedeflendi.

Bu yaklaşım, yapay zekâ şirketlerinin karşı karşıya kaldığı temel ikilemlerden birini ortaya koyuyor. Bir yazılımdaki güvenlik açığını tespit edebilen sistem, aynı bilgiyi açığın giderilmesi için de kötüye kullanılması için de değerlendirebilir. Şirketler bu nedenle güvenlik araştırmacılarının ihtiyaç duyduğu teknik yetenekleri korurken saldırı amaçlı kullanımı sınırlayacak yöntemler geliştirmek zorunda kalıyor.

Moonshot'ın yöntemi, kullanıcının tehlikeli bir soru sorması halinde yanıtın engellenmesinden de farklılaşıyor. Şirket, belirli türdeki bilgileri modelin eğitiminden çıkararak riskli yetenekleri daha başlangıçta sınırlandırmaya çalışıyor. Bunun gerçek kullanım koşullarında ne kadar etkili olacağı ise bağımsız testlerle daha açık biçimde anlaşılabilecek.

Kritik tarih 4 Kasım: Model dosyaları yayımlanacak

Kimi K3.1 Pro, yaklaşık 3 trilyon parametre ölçeğindeki yapay zekâ modelleri sınıfında yer alıyor. Şirket, modeli Kimi uygulamalarında ve yazılım geliştiricilere yönelik hizmetlerinde kullanıma açarken model ağırlıklarını 4 Kasım 2026'da yayımlamayı planlıyor. Model ağırlıkları, yapay zekânın eğitim sırasında oluşturduğu ve çalışma biçimini belirleyen temel sayısal dosyalardan oluşuyor.

Bu dosyaların erişime açılması, geliştiricilerin modeli kendi bilgisayar altyapılarında çalıştırmasına ve uygun izinler çerçevesinde değiştirmesine imkân tanıyabiliyor. Bu durum, şirketlerin yapay zekâyı kendi sistemlerine uyarlaması ve üçüncü taraf hizmetlere bağımlılığı azaltması açısından avantaj sağlıyor. Ancak aynı özellik, modelin dağıtılmasının ardından üretici şirketin kullanım üzerindeki denetimini de zorlaştırıyor.

Merkezi bir hizmet üzerinden sunulan modellerde geliştirici şirket, erişimi sınırlandırabiliyor, kullanım hareketlerini izleyebiliyor ve güvenlik önlemlerini güncelleyebiliyor. Model ağırlıkları çok sayıda kullanıcıya dağıtıldığında ise aynı kontrollerin uygulanması daha güç hale geliyor. Moonshot'ın modeli yayımlamadan önce sınırlama kararı alması, bu farkla doğrudan bağlantılı.

Çin'den yapay zekâ saldırılarına ihracat freni

Şirketin adımı, Çin'de yapay zekâ destekli siber saldırı teknolojilerine yönelik yeni düzenlemelerin tartışıldığı bir döneme denk geldi. Pekin yönetimi, zararlı yazılımların yapay zekâ kullanılarak geliştirilmesi ve değiştirilmesine yönelik bazı teknolojilerin ihracatını yasaklamayı öngören taslak düzenlemeler hazırladı. Yapay zekâ yardımıyla yazılım açıklarının belirlenmesini sağlayan araçların ihracatına da kısıtlamalar getirilmesi gündemde bulunuyor.

Henüz kesinleşmeyen düzenleme taslağında kritik altyapıların, savunma sanayisinin ve kamu sistemlerinin korunmasına yönelik güvenlik kaygıları öne çıkıyor. Yapay zekânın saldırı hazırlıklarını hızlandırması ve güvenlik önlemlerinin aşılmasını kolaylaştırması, hükümetlerin bu alandaki denetim arayışını güçlendiriyor. Dolayısıyla Moonshot'ın kararı, yalnızca bir ürünün teknik özelliklerine değil, hızla gelişen düzenleyici ortama da karşılık veriyor.

Bununla birlikte şirketin açıkladığı sınırlandırmanın Çin hükümetinin yeni düzenlemeleri nedeniyle zorunlu olarak uygulandığına ilişkin bir açıklama bulunmuyor. İki gelişme aynı güvenlik tartışmasının parçaları olsa da şirket kararının doğrudan bir resmî talimatın sonucu olduğu söylenemiyor.

Bir milyon birimlik bağlam kapasitesi sunuyor

Kimi K3.1 Pro'nun güvenlik sınırlamaları dışında dikkat çeken özelliklerinden biri, bir milyon tokenlik bağlam penceresi sunması. Bu kapasite, modelin tek işlem sürecinde çok uzun metinleri, büyük yazılım projelerini ve kapsamlı belgeleri değerlendirebilmesini sağlıyor. Şirket, yeni sürümde uzun süreli görev yürütme, yazılım geliştirme ve karmaşık işlemleri tamamlama performansının artırıldığını belirtiyor.

Moonshot ayrıca K3.1 Pro Highspeed adıyla daha hızlı bir sürüm de kullanıma sundu. Şirketin açıklamasına göre bu sürüm, standart modele kıyasla yaklaşık iki ila üç kat daha hızlı çalışabiliyor. İki sürümün temel model yetenekleri aynı olsa da hız ve hizmet koşulları bakımından farklı seçenekler sunuluyor.

Bu özellikler, yeni modelin yalnızca bireysel kullanıcılara yönelik bir sohbet uygulaması olarak tasarlanmadığını gösteriyor. Yazılım geliştiren şirketler, büyük belge arşivleriyle çalışan kurumlar ve kendi sistemlerinde yapay zekâ kullanmak isteyen işletmeler de hedef kitle arasında bulunuyor. Siber güvenlik yeteneklerine getirilen sınırın ticari performansı ne ölçüde etkileyeceği ise bu kullanıcıların deneyimleriyle daha iyi anlaşılacak.

Yapay zekâ yarışında güvenlik yeni rekabet alanı

Moonshot'ın kararı, yapay zekâ sektöründe performans yarışının artık yalnızca daha yüksek test sonuçları üzerinden yürütülmediğini gösteriyor. Özellikle güçlü modellerin geniş erişime açılması, üreticileri geliştirdikleri teknolojilerin kötüye kullanımından kaynaklanabilecek riskleri de hesaba katmaya yöneltiyor. Şirketler açısından yeni sorun, en gelişmiş ürünü sunarken onun güvenli kullanımını ne ölçüde sağlayabilecekleri.

Bu tercih aynı zamanda açık model geliştirme yaklaşımının geleceği açısından da önem taşıyor. Model dosyalarının yayımlanması daha fazla şirketin ve araştırmacının gelişmiş yapay zekâya erişimini sağlayabilirken güvenlik önlemlerinin sonradan değiştirilmesini zorlaştırabiliyor. Moonshot, saldırı amaçlı kullanım becerilerini sınırlandırarak bu iki hedef arasında bir denge kurmayı deniyor.

Ancak açıklanan yüzde 81'lik test sonucu, güvenlik risklerinin ortadan kalkmadığını ortaya koyuyor. 4 Kasım'da model ağırlıklarının yayımlanmasıyla birlikte bağımsız araştırmacıların değerlendirmeleri daha fazla önem kazanacak. Yeni modelin gerçek başarısı, yalnızca hangi görevleri daha hızlı tamamladığıyla değil, sınırlandırılması hedeflenen riskli yetenekleri ne ölçüde kontrol altında tuttuğuyla da ölçülecek.