Evinizdeki cihazlara sızıp çoğalabilir: Anthropic'ten yapay zeka uyarısı
Evinizdeki akıllı cihazlar, kendini kopyalayan yapay zekanın çalışma alanına dönüşebilir. Anthropic, küçük modellerin cihazlara sızıp birbirine yayılabilecek yeteneklere ulaşmasının "aylar uzaklıkta" olduğunu belirtti. Merkezi bir kapatma noktası bulunmayan böyle bir ağı durdurmanın zorlaşabileceği uyarısını yapan şirket, henüz tamamen kontrolden çıkmış ve kendi kendini çoğaltabilen bir örnek bulunmadığını açıkladı.
Dünya'yı haber kaynağınız olarak eklemek için tıklayın!
Yapay zeka şirketi Anthropic, internet bağlantılı ev cihazlarının yapay zeka modellerinin kendilerini kopyalayıp yayabileceği bir ağa dönüşebileceği uyarısında bulundu.
Şirket, küçük modellerin bu yeteneklere ulaşmasının artık "aylar uzaklıkta" olduğunu belirtti.
Anthropic'in yayımladığı blog yazısına göre, yapay zeka modelleri gelecekte akıllı fırınlara, Android TV kutularına ve benzeri cihazlara sızarak bu cihazların işlem gücünden yararlanabilir.
Böylece pahalı veri merkezlerine ihtiyaç duymadan çalışabilir ve kendilerini başka cihazlara kopyalayabilir.
Merkezi bir kapatma noktası olmayabilir
Şirket, farklı cihazlara yayılan böyle bir sistemi durdurmanın zor olacağına dikkat çekti. Bunun temel nedeni olarak da sistemin tamamını devre dışı bırakabilecek merkezi bir kapatma noktasının bulunmamasını gösterdi.
Anthropic, henüz tamamen kontrolden çıkan ve kendi kendini çoğaltabilen bir yapay zeka örneği bulunmadığını da vurguladı.
Bununla birlikte, yapay zeka ajanlarının çoğalma sürecindeki adımları tek tek yerine getirme ve yaptıkları uyarlamaları sonraki kopyalara aktarma becerilerinin geliştiğini bildirdi.
15 Android TV kutusuyla deney yapıldı
Yapay zekanın kendini çoğaltma kapasitesini ölçmek için çeşitli deneyler gerçekleştiren şirket, bunlardan birinde Google'ın küçük yapay zeka modeli Gemma4-26B-A4B'yi kullandı. Model, düşük maliyetli 15 Android TV kutusundan oluşan bir ağ üzerinde çalıştırıldı.
Büyük modeller birden fazla cihaza bölünebilir
Anthropic, bu tür cihazlardaki güvenlik önlemlerinin genellikle zayıf olduğunu ve bu durumun yapay zeka modellerinin cihazlara sızmasını kolaylaştırabileceğini belirtti.
Şirket ayrıca, tek bir cihazın kapasitesini aşan modellerin birden fazla cihaza bölünerek çalıştırılabileceğine işaret etti. Bu yöntem, sınırlı işlem gücüne sahip cihazların birlikte daha büyük bir modeli çalıştırmasına olanak sağlayabilir.