Veriyi alan düdüğü çalar

Ussal ŞAHBAZ
Ussal ŞAHBAZ Global İşler Ussal@me.com

2020 yılı soğuk bir kış sabahı, ABD’de Detroit’te yaşayan 40 yaşındaki siyahi oto tamircisi Julian Williams’ın kapısına polis dayandı. Adamı kelepçeleyip karakola götürdüler. Karısı ve kızı suçu ne diye sorduğunda, “Merkezde öğrenir” diye eklediler. Williams, saat mağazasından saat çalmakla suçlanıyordu. 30 saat nezarette kaldıktan sonra, tutuklanması için alarm veren yüz tanıma sistemindeki yapay zekanın yanıldığı ortaya çıktı. Adam komşularına ve iş yerine rezil olduğuyla kaldı.

Williams’ın tutuklanması yüz tanımada kullanılan yapay zekâ sistemlerinin ilk yanılgısı değil. 2015’te Google’ın fotoğraf uygulamasında kullanılan yüz tanıma sistemi birkaç siyahiyi “maymun” diye etiketlemişti. Günümüzde en yaygın kullanılan yapay zekâ tekniği olan makine öğrenmesi, ne veri ile beslerseniz ona göre öğrenip sonuç veriyor. Beyaz erkeklerin yüzlerine dair veri daha çoksa, yapay zekâ beyaz erkekleri daha iyi tanıyor. İngilizce yazılı veya sesli içerik bol olduğu için İngilizce’yi daha iyi öğreniyor; mesela Türkçe’yi o kadar iyi öğrenemiyor. Hal böyle olunca, yapay zekâ uygulamaları toplumda az temsil edilen gruplarla ilgili tuhaf ve olumsuz sonuçlar çıkarabiliyor. Bu yaz Çeşme’de bazı plajların önceden rezervasyon alıp, Instagram profiline göre müşteri seçtikleri konuşulmuştu. Bu “doğal zekâ” uygulamasının yapay zekâ versiyonu sosyal medya profilinize göre kredi başvurunuzun değerlendirilmesi olabilir. Yakında bir gün sosyal medya kullanmadığınız için kredi başvurunuz yapay zekâ tarafından reddedilirse şaşırmayın.

Dünyada yapay zekâ geliştirmeye yönelik araştırmalar artık büyük ölçüde dijital kodamanlar Google, Facebook, Amazon, Microsoft ve Apple tarafından yapılıyor. Bunun iki nedeni var: Birincisi, para bu şirketlerde. ABD’nin en değerli beş şirketinden bahsediyoruz. İkincisi, veri bu şirketlerde. Dolayısıyla yapay zekâ hocaları her gün üniversiteden ayrılıp hem daha çok para, hem de daha çok veri (yani araştırma imkanı) olan bu şirketlere transfer oluyor. Dijital kodamanlar sadece yapay zekâyı kullanarak tekelleşmiyor, aynı zamanda yapay zekânın hangi alanlarda geliştirileceğine de karar veriyor. Yapılan araştırmalar gittikçe dar ticari menfaatlerin olduğu alanlara sıkışırken, ticari açıdan önemli ama siyahilerin, kadınların veya yapay zekâyı geliştiren dar zümrenin dışında kalan diğer grup veya uluslara zarar verecek modellerin sayısı artıyor.

Timnit Gebru, geçen seneye kadar Google’ın “etik yapay zekâ” ekibinin başındaydı. Gebru, Stanford Üniversitesi mezunu siyahi ve kadın bir araştırmacı olarak erkek egemen dünyada cam tavanı kırdığını düşünüyordu. Ta ki izinli olduğu bir gün ekibindeki çalışanlardan biri işten ayrıldığı için ne kadar üzüldüğünü söylemek için arayana kadar. Duyuruyu Google e-posta ile yapmış ama Gebru’nun şirket hesabı çoktan kapatıldığı için haberi bile olmamıştı. Gebru’nun, Google’ın kullandığı yüz tanıma yapay zekâsının, siyahilerin ve kadınların aleyhine çalıştığına dair araştırmalarını akademik konferanslara sunması şirket yönetiminin hoşuna gitmemişti.

Parayı veren düdüğü çalar. Yapay zekâ önümüzdeki on yılları şekillendiren teknoloji olacaksa, düdüğü Google ve diğer dijital kodamanlar çalacak gibi görünüyor. Eskiden emperyalist devletler vardı. Şimdi emperyalist şirketler var. Mesela İngiltere Süveyş Kanalı’nı, ABD Panama Kanalı’nı ürün ve hammadde ticaretini kontrol etmek için ele geçirmişti. Google da yapay zekânın ham maddesi olan hepimizin verisini ele geçiriyor. Biri sanayi çağının biri dijital çağın kontrol aracı. Yapay zekâ bu teknolojiyi geliştiren şirketlerin menfaatlerine göre mi şekillenecek yoksa bizim gibi gelişen ülkelerin de sesi duyulacak mı? Bugün siyahilerin veya kadınların karşısına çıkan sorunlar yakında Türklerin de karşısına çıkmayacak mı? Bu hafta New York’taki Birleşmiş Milletler Genel Kurulu’nu izlerken, gelecekte daha adil bir dünya mümkün olsun diye önce Google ile mücadele etmemiz gerektiğini düşündüm.

Yazara Ait Diğer Yazılar Tüm Yazılar
Alibaba ve Kırk Haramiler 20 Ağustos 2021