Yapay zeka da ırkçıymış

Yapay zekayla ilgili birçok endişe ve hatta insanlığı ele geçireceğine dair korkular var. Ancak bir araştırma yapay zeka hakkından başka endişe verici gelişmeler olduğunu ortaya koydu. Yapay zeka da ırkçı olabiliyor. Siyahi sanatçılar, yapay zeka algoritmalarının önyargılı olduğunu ve ayrımcılığı sürdürmeye vesile olabileceklerini söylüyor.

Sanatçı Stephanie Dinkins de bu isimlerden biri. Dinkins, cinsiyet, ırk ve eşitsizlikler üzerine çalışan bir dijital medya sanatçısı. Uzun yıllardır bu alanda çalışmalar yapıyor, eserler üretiyor. Ayrıca son yedi yıldır, yapay zekanın siyahi kadınları gerçekçi bir şekilde tasvir etme yeteneğiyle ilgili deneyler yapıyor. Sanatçı çeşitli kelimeleri kullanarak yapay zekanın gülen ve ağlayan siyahi kadınları nasıl tasvir ettiğini inceliyor. Çalışmanın ilk sonuçlarında yapay zekanın siyahi kadın tasviri üretmesi istendiğinde siyah pelerinli bir örtüye sarılı insan yüzünü andıran yaratıklar ürettiği görüldü. Zaman içinde tasvir için kullandığı kelimeleri değiştirip geliştirse de sonuçların ayrımcı ve ırkçı olduğunu gözlemlemeye devam etti. Yapay zeka, siyahi kadın tasviri yaratması istendiğinde yüz hatları bozuk ya da yamuk görseller üretiyordu.

‘Bu önyargılar içselleşmiş halde’

Kendisi de siyahi bir sanatçı olan Dinkins, NY Times’a “Bu önyargılar bu sistemlere derinden yerleşmiş durumda, bu yüzden bunlar otomatik ve içselleşmiş hale geliyor. Algoritmik ekosistemler kullanan bir sistemde çalışıyorsam, bu sistem içinde siyahi insanların nasıl olduğunu bilmesini istiyorum” diyerek çalışmalarının amacını anlatıyor.

 

Bu gönderiyi Instagram’da gör

 

Stephanie Dinkins (@stephanie.dinkins)’in paylaştığı bir gönderi

‘Siyahlar olarak görünmemeye, görüldüğümüzde ise yanlış temsil edilmeye alışkınız’

Dinkins yalnız değil. Siyahi başka sanatçılar da yapay zekanın ayrımcı ve ırkçı olduğunu savunuyor. Senegalli sanatçı Linda Dounia Rebeiz de ‘In/Visible’ (İngilizce ‘görünmez’ sözcüğüne gönderme) başlıklı sergisinin girişine “Siyahlar olarak görünmemeye, görüldüğümüzde ise yanlış temsil edilmeye alışkınız” yazmıştı. Haklıydı da. Sanatçı, OpenAI’nin görüntü üreticisi DALL-E 2 adlı programdan memleketi Dakar’daki binaları hayal etmesini istedi. Algoritma, Senegal başkentindeki sahil evlerine hiç benzemeyen kurak çöl manzaraları ve yıkık binalar üretti. Sanatçı bu durumun moralini bozduğunu söylüyor. Ona göre yapay zekanın bu çıktıları, Batı’nın Afrika hakkında yarattığı kültürel imaj.

Son yıllarda yapay zeka ile ilgili tartışmalar artarak devam ediyor. Yapılan çalışmalar, yüz tanıma teknolojilerinin ve yapay zekanın beyaz olmayan insanların görüntülerini ve konuşma modellerini tanıma konusunda sorun yaşadığını gösteriyor. Tabii hatırlatmak lazım, yapay zeka kendiliğinden ırkçı seçimler ya da yaratım yapmıyor. İnternette var olan örneklere dayanarak çıktı veren bir çalışma mantığı var. Yani önyargıları veya ayrımcı tutumları içeren veya yansıtan örnekler verildiğinde bu ifadelere uygun çıktılar veriyor. 

Bankacılıkta yapay zeka krizi: Irk ayrımcılığı yapıyor