Google’ın eski güvenlik şefi: Yapay zekâ çocuklar için sosyal medyadan daha riskli

Google’ın eski güven ve güvenlik yöneticisi Tom Siegel, yapay zekânın çocuklar üzerindeki etkisinin sosyal medyada yaşanan sorunlardan daha ağır sonuçlar doğurabileceği uyarısında bulundu. Siegel’e göre teknoloji şirketlerinin kendi ürünlerini kendi kurallarıyla denetlemesi artık yeterli değil.

Siegel’in uyarısının merkezinde teknoloji sektörünün sosyal medya dönemindeki yaklaşımı bulunuyor.

Sosyal ağların milyarlarca kullanıcıya ulaştığı ilk yıllarda çocukların ruh sağlığı, bağımlılık ve zararlı içeriklere maruz kalması gibi sorunların yeterince erken ele alınmadığını belirten Siegel, yapay zekâ sektöründe benzer bir sürecin çok daha hızlı yaşandığını savunuyor.

Fark ise yapay zekânın kullanıcıyla yalnızca içerik paylaşmaması. Sohbet sistemleri çocukların sorularına cevap verebiliyor, tavsiyelerde bulunabiliyor ve uzun süreli bire bir iletişim kurabiliyor.

Bu nedenle yanlış veya uygun olmayan bir yanıtın etkisi sıradan bir sosyal medya gönderisinden farklı olabiliyor.

Siegel özellikle çocukların kriz anlarında yapay zekâya yönelmesi, sistemlere duygusal olarak bağlanması ve teknolojiyi kendi düşünme süreçlerinin yerine koyması risklerine dikkat çekiyor.

Google’da güvenlik sistemini kurdu

Siegel’in uyarısını dikkat çekici hale getiren unsurlardan biri teknoloji sektöründeki geçmişi.

2004 yılında Google’a katılan Siegel, şirketin güven ve güvenlik yapılanmasını sıfırdan kuran ekipte yer aldı ve bu alanı yönetti. Yaklaşık 15 yıl içinde yapı, Google ve iş ortaklarında binlerce kişinin görev yaptığı küresel bir operasyon haline geldi.

Siegel daha sonra teknoloji şirketlerinin yalnızca kendi iç denetimleriyle kontrol edilmesinin yeterli olmadığı görüşüyle bağımsız güvenlik ölçümleri üzerine çalışan TrustLab’in kurucuları arasında yer aldı.

Şimdi ise Common Sense Media bünyesinde kurulan Youth AI Safety Institute’un ilk icra direktörü olarak görev yapacak.

Enstitünün amacı, çocukların kullandığı yapay zekâ ürünlerini şirketlerden bağımsız biçimde test etmek ve güvenlik standartları oluşturmak.

Çocukların yüzde 86’sı yapay zekâ kullanıyor

Endişenin arkasında çocukların yapay zekâyla ne kadar hızlı tanıştığını gösteren veriler bulunuyor.

Common Sense Media tarafından ABD’de 9-17 yaşları arasındaki 1.204 çocukla yapılan araştırmada katılımcıların yüzde 86’sı yapay zekâ kullandığını söyledi. Yaklaşık dört çocuktan biri bunu her gün yapıyor.

Kullanım yalnızca okul ödevleri veya eğlenceyle de sınırlı değil.

Yapay zekâ kullanan çocukların yarısından fazlasının sağlık veya vücutlarıyla ilgili konularda bu sistemlere başvurduğu, üçte birden fazlasının ise duyguları veya kişisel sorunları hakkında yapay zekâyla konuştuğu belirlendi.

Duygusal veya kişisel sorunlarını yapay zekâyla paylaşan çocukların yaklaşık dörtte biri, sistemin kendilerini çoğu insandan daha iyi anladığını düşündüğünü söyledi.

Her beş yapay zekâ kullanıcısı çocuktan biri de bu araçları bir ay boyunca kullanmamanın kendisi için zor olacağını belirtti.

Uygunsuz içerikle karşılaşanlar da var

Araştırma yapay zekâ kullanımının bir başka riskini de ortaya koydu.

Sohbet robotlarını kullanan çocukların yaklaşık altıda biri uygunsuz içerikle karşılaştığını bildirdi. Buna rağmen bu çocukların yalnızca yaklaşık üçte biri yaşadığı durumu güvendiği bir yetişkine anlattı.

Bilgi güvenilirliği konusunda da önemli bir açık bulunuyor.

Araştırmaya katılan çocukların yalnızca yaklaşık üçte biri, yapay zekânın doğru bilgi ile yanlış bilgiyi her zaman güvenilir biçimde ayıramayacağını biliyor.

Bu tablo, çocukların sistemlere gerçekte sahip olduklarından daha yüksek bir doğruluk ve güvenilirlik atfedebilmesi riskini gündeme getiriyor.

Yapay zekâya “çarpışma testi” geliyor

Yeni enstitü bu nedenle otomobil güvenliğindeki bağımsız çarpışma testlerine benzeyen bir sistem oluşturmayı hedefliyor.

Yapay zekâ ürünleri çocuklara özgü gerçek kullanım senaryolarında test edilecek. Sistemlerin kriz durumlarına nasıl yanıt verdiği, zararlı tavsiyeler üretip üretmediği, duygusal bağımlılığı teşvik edip etmediği ve yaşa uygun davranıp davranmadığı incelenecek.

Sonuçların kamuya açık biçimde yayımlanması ve şirketlerin karşılaması gereken ölçülebilir güvenlik standartlarının oluşturulması planlanıyor.

Enstitü daha önce Google’ın yapay zekâ destekli arama özelliklerini ve Perplexity’nin yapay zekâ arama sistemini çocuklar açısından kabul edilemez risk kategorisinde değerlendirdi.

Kuruluşun finansman sağlayıcıları arasında Anthropic ve OpenAI Foundation da bulunuyor. Ancak enstitü, test sonuçları ve güvenlik değerlendirmeleri üzerinde finansman sağlayan şirketlerin söz sahibi olmadığını ve editoryal bağımsızlığını koruduğunu belirtiyor.

Siegel’in savunduğu temel yaklaşım ise teknoloji şirketlerinin kendi sistemlerinin güvenli olup olmadığına tek başına karar vermemesi. Yapay zekânın çocukların günlük yaşamına sosyal medyadan çok daha hızlı girmesi, bağımsız denetimin önemini artırıyor.