Google Earth’te bir günlük yapay zekâ krizi

Dünyanın herhangi bir noktasını seçip yalnızca birkaç kelimeyle değiştirmek mümkün hâle gelmişti. Ancak Google Earth’e eklenen yapay zekâ özelliği, yaratıcı kullanım örneklerinden önce sahte kriz ve saldırı görüntüleriyle gündeme geldi.

Google, 30 Temmuz’da dünya genelinde kullanıma açtığı görüntü oluşturma aracını ertesi gün durdurdu. Kararın arkasında, gerçek konum ve uydu görüntülerinden üretilen sahnelerin yanlış bilgi yaymak için kullanılabileceğine yönelik büyüyen tepki vardı.

Bir cümleyle dünya değişiyordu

Nano Banana 2 modeliyle çalışan özellik, Google Earth’ün internet sürümüne eklenmişti. Kullanıcılar haritada istedikleri konuma yaklaşıyor, “görüntü oluştur” seçeneğine dokunuyor ve görmek istedikleri sahneyi metinle tarif ediyordu.

Yapay zekâ, komutu boş bir görsel alanında değil, seçilen bölgenin gerçek uydu, hava ve üç boyutlu görüntüleri üzerinde uyguluyordu. Böylece uydurma yapılar ve olaylar; gerçek arazi, sokak, bina ve coğrafi koordinatlarla aynı görüntüde birleşiyordu.

Google, özelliği tarihî alanların geçmişini canlandırmak, boş arazilere yönelik mimari projeleri göstermek, şehir planlaması yapmak ve geleceğe ilişkin tasarımlar üretmek amacıyla tanıtmıştı.

Ancak araca erişim için özel başvuru veya bekleme listesi gerekmemesi, özelliğin çok kısa sürede farklı amaçlarla denenmesine yol açtı.

Sahte kriz sahneleri üretildi

Araştırmacılar, basit metin komutlarıyla gerçek yerlerin üzerine gerçekte yaşanmamış olaylar ekleyebildiklerini gösterdi. Meksika sınırı yakınında sahte bir mülteci kampı, İran’da gerçekte bulunmayan bir nükleer tesis ve Amsterdam’da yaşanmamış bir trafik kazası oluşturuldu.

Gazze’de bir hastanenin yanına bomba krateri eklenmesi de aracın savaş ve kriz bölgelerinde nasıl kullanılabileceğine ilişkin kaygıları büyüttü. Görüntüler, gerçek Google Earth verilerinin ışık, açı ve coğrafi ayrıntılarını taşıdığı için ilk bakışta inandırıcı görünebiliyordu.

Sorunun merkezinde yalnızca sahte bir görüntü üretilmesi bulunmuyordu. Üretilen sahnenin gerçek bir koordinata, gerçek bir araziye ve insanların güvenilir kabul ettiği bir harita hizmetine bağlanması, yanlış bilginin ikna gücünü artırıyordu.

Bu risk özellikle askerî saldırılar, doğal afetler, sınır hareketleri, protestolar ve enerji tesisleri gibi uydu görüntüsüyle doğrulanan gelişmeler açısından önem taşıyor.

Google bir gün dayanabildi

Google, özelliğin kullanıma açılmasından bir gün sonra yaptığı güncellemeyle geri adım attı. Şirket, coğrafi veri uzmanlarının aracı yararlı amaçlarla kullandığını ancak politikalara aykırı görünen yapay zekâ görüntülerinin ekran görüntülerinin paylaşılmaya başladığını bildirdi.

Şirket, daha güçlü güvenlik önlemleri hazırlanırken özelliğin Google Earth’ten geri çekileceğini açıkladı. Aracın yeniden kullanıma açılacağı tarihe veya yeni sınırlamaların kapsamına ilişkin takvim paylaşılmadı.

Karar, teknoloji şirketlerinin yeni yapay zekâ araçlarını hızla piyasaya sürerken içerik güvenliği konusunda karşılaştığı sorunu yeniden gündeme taşıdı. Bir özelliğin teknik olarak mümkün olması, kötüye kullanım risklerinin ürün yayına alınmadan önce yeterince sınırlandırıldığı anlamına gelmiyor.

Google’ın lansman metnini ertesi gün geri çekilme açıklamasıyla güncellemesi de şirketin ürüne yönelik ilk beklentisiyle ortaya çıkan gerçek kullanım arasındaki farkı gösterdi.

Dijital filigran yeterli olmadı

Google, oluşturulan her görüntüye yapay zekâ ürünü olduğunu belirten SynthID dijital filigranının eklendiğini açıkladı. Şirket ayrıca bu görüntülerin diğer kullanıcıların gördüğü ana Google Earth haritasına yerleştirilmediğini vurguladı.

Üretilen sahneler yalnızca görüntüyü oluşturan kullanıcının çalışma alanında bulunuyordu. Buna karşın ekran görüntüsü alınması, görüntünün kırpılması veya sosyal medyada yeniden paylaşılması, içeriğin ana platformdan koparak dolaşıma girmesine imkân veriyordu.

Eleştiriler, dijital filigranın varlığından çok sıradan kullanıcının bu kontrolü yapıp yapmayacağı üzerinde yoğunlaştı. Sahte bir görüntü çok hızlı yayılırken doğrulama işlemi çoğu zaman daha geç gerçekleşiyor.

Araştırmacılar ayrıca ekran kaydı, yeniden kodlama ve ekran görüntüsü gibi işlemlerin harici yapay zekâ tespit araçlarının işini zorlaştırabileceğini belirtiyor.

Haritalara duyulan güven sınavda

Google Earth yalnızca şehirleri gezmek veya evlerin çevresine bakmak için kullanılmıyor. Gazeteciler, açık kaynak araştırmacıları, afet ekipleri, şehir plancıları ve güvenlik uzmanları da uydu görüntülerini olayları doğrulamak için kullanıyor.

Bir bölgedeki binanın yıkılıp yıkılmadığı, yeni bir askerî tesis kurulup kurulmadığı veya doğal afetin ne kadar alanı etkilediği geçmiş ve güncel uydu görüntüleri karşılaştırılarak anlaşılabiliyor.

Üretken yapay zekânın doğrudan bu güvenilir referans alanına girmesi, gerçek görüntü ile olasılık tasarımı arasındaki sınırı bulanıklaştırıyor. Gerçek harita verileri üzerine kurulan sahte görüntülerin çoğalması, doğru uydu görüntülerine yönelik kuşkuyu da artırabilir.

Böylece risk yalnızca sahte görüntüye inanılmasıyla sınırlı kalmıyor. Gerçek bir saldırı, afet veya çevre felaketine ait görüntünün de “yapay zekâyla yapılmış olabilir” denilerek reddedilmesi kolaylaşabilir.