Bir “Çoğulcu Cehalet” vakası olarak Scarlett Johansson ses skandalı

Yıllar önce bir reklam cıngılı için çalışıyoruz. Son dakika yaratıcılığına güvendiğimizden yine son anlara bırakmışız. Sunumdan önceki gece bir “evreka” anı yaşıyor ve çok bilinen bir türkünün nakaratında geçen ismin marka ismimizle çok uyumlu olduğunu fark ediyorum. 

Hızlı bir Google taramasıyla türkünün anonim olduğunu öğreniyorum. Bu da reklam cıngılına uyarladığımızda telif ödemeyeceğimiz anlamına geliyor. Kaymaklı ekmek kadayıfı bir durum. 

Ajanstakilere fikri anlattığımda herkesin çok hoşuna gidiyor. Ertesi gün müşteriye sunuyor ve müziğin telifsiz olmasının da etkisiyle güle oynaya satıyoruz. 

Müziğin yapım aşamasına geldiğimizde, yaptığım hızlı Google taramasının hatalı olduğu ve türkünün telifli olduğu ortaya çıkıyor. Üstelik çok popüler bir sanatçıya ait. 

Müşteriye telifsiz diye sattığımız için Yusuf Yusuf makamı bir huzursuzluk hasıl oluyor tabii. Belki iyi bir fiyat alır da müşteriye hissettirmeden hallederiz diye panikle türkünün sahibini arıyoruz. Hayatı ve kariyeri boyunca o anı beklediği anlaşılan telif sahibi astronomik bir fiyat söylüyor. Yıkılıyoruz. 

Müşteriye utana sıkıla durumu açıklıyor, başka bir cıngıl üzerine çalışmak zorunda olduğumuzu belirtiyoruz. Bu iş bilmezliğimizle müşteriyi kaybetme riskimiz de oluşuyor haliyle. 

Nihayetinde toyluk yıllarımda Dunning-Kruger etkisi altında yaptığım bir hata ajans içinde bir ‘çoğulcu cehalet’ vakasına dönüşerek rezil olmamıza yol açıyor. 

Bu olay telif sahibinin ikinci görüşmede yaptığı inanılmaz indirimle tatlıya bağlansa da tüm meslek hayatım boyunca hiç unutmayacağım bir ders olarak heybeme ekleniyor. 

Scarlett Johansson’un reddettiği teklif

Peki birkaç nota değiştirip bir risk alarak cıngılı yine telifsiz kotarabilir miydik? Belki evet ama o kadar da değildi yani. Tamam sunduğumuz müziğin telifini iyi araştırmayarak bir hata yapmıştık ama üzerine daha büyük bir hata yapacak kadar da aptal değildik. 

Peki bütün dünyanın gözü önündeki lider bir yapay zekâ şirketinin böyle ikinci bir hata yapmasına ne dersiniz? OpenAI’nin geçen hafta gürültüyle duyurduğu ChatGPT4o üretken yapay zekâ ürünü de böyle göz göre göre yapılan bir hatayla gündemde. 

Karşılıklı sesli sohbet edebildiğiniz bu modelin sesi için meğer Scarlett Johansson’a teklif götürmüşler. Bu da tabii tesadüfi bir seçim değil. Bir insanın bir yapay zekâ karaktere âşık olduğu Hollywood filmi Her’de, Samantha isimli yapay zekâ karakterini seslendiren kişi Scarlett Johansson. 

Ne var ki Johansson sesinin kopyalanmasıyla ilgili bu teklifi reddetmiş. Ama yayınlanan ürünün demo seslerinden Sky’ın sesi Scarlett Johansson’unkine çok çok benziyor. Ürün lansmanı ardından Scarlett Johansson da bunu fark ediyor ve tepki gösteriyor. 

OpenAI tarafı buna karşılık ses tonu Johansson’a çok benzeyen bir sanatçıyla çalıştıklarını iddia ediyor. O kişinin gizlilik haklarına saygılı oldukları için de bu sesin asıl sahibini açıklayamayacaklarını belirtiyorlar. Kamuoyu tepkisi de kaçınılmaz oluyor haliyle. 

Bunun üzerine özür dileyerek Sky isimli sesi geri çekmek zorunda kalıyorlar. Scarlett Johansson yapay zekâya karşı oluşan Hollywood rüzgarını da ardına alıp sembolleşecek bir dava açacaktır. 

‘Çoğulcu cehalet’ etkisinde zincirleme hatalar

Burada Sam Altman ve ekibinin yaptığı zincirleme hatalara yakından bakalım. Birincisi Her filmine takıntılı olmak. 

Açıkçası Her filmini gerçekten izlediklerinden bile emin olamıyorum. Çünkü bu film nihayetinde ütopya değil distopyaydı. Yani bir insan ile bir yapay zekâ modelinin aşkı filmde olumlanan bir durum değildi. Bilakis modern dünyada insanın çaresizliği üzerine bir hikâyeydi. 

Hadi filmin popülerliğini tanıtım aracı olarak kullanmak istediler ve bu nedenle Scarlett Johansson’a teklif yaptılar diyelim. Teklif reddedildikten sonra ona çok benzer bir ses oluşturup (veya iddia ettikleri gibi bulup) bu konuda ısrar etmek niye? 

Israr ettiler ve böyle bir risk aldılar diyelim, lansmandan önce Sam Altman’ın Her filmine gönderme yapan tweet atıp bunun altını çizmesini nasıl açıklayacağız? İşte tüm bunları açıklayabilecek bir kavram var, o da ‘pluralistic ignorance’ yani Türkçesi çoğulcu cehalet. 

Kaptan Ahab’ın yanılgısı

Abilene paradoksu diye de bilinen çoğulcu cehalet aslında grup üyelerinin çoğunun bir konuda şüpheleri olması ama diğerlerinin kendisi gibi düşünmediği sanısına kapılarak baskın fikri onaylamasına deniyor. 

Hani bazı olaylarda “hadi biri böyle aptalca bir hata yaptı da diğerleri niye uyarmadı” diye şaşırarak sorarız ya, işte tam o durum. Aslında grubun diğer üyeleri az çok durumun farkında, ama diğerlerinin hemfikir olduğunu düşünerek kendi fikrini söylemekten kaçınıyor ve nihayetinde de işte böyle toplu bir akıl tutulması oluşuyor. 

Jonny Thomson bu durumu anlatmak için Herman Melville’in klasikleşmiş Moby Dick romanından yola çıkıyor. Bilenler bilir bu romanın kahramanı gözü dönmüş bir şekilde beyaz balinadan intikam alma hırsına kapılan, bu uğurda tüm gemiyi ve mürettebatı riske atan Kaptan Ahab’tır. 

Aslında gemideki herkesin şüpheleri var, aralarında fısıldaşıyorlar ama bu şüpheler grup kararına dönüşemiyor. İkinci kaptan, kahve sever Starbuck karakteri hariç. O kaptanı da mürettebatı da uyarmaya çalışıyor ama bu çoğulcu cehaletin kalıplarını kıramıyor. 

İkinci kaptan Starbuck grubu cehaletten uyandırıp felaketi önleyemese bile, adıyla ünlü bir kahve zincirine ilham oluyor ve böylece ölümsüzleşiyor. Her roman kişisine nasip olmaz bu.

Bu yazının konusu olmasa da ilginç bir tesadüf var: OpenAI’nin Starbuck’ı olarak görebileceğimiz Baş Bilim İnsanı Ilya Sutskever ChatGPT4o lansmanıyla eş zamanlı olarak şirketten ayrıldı. 

Sutskever sorumlu bir yapay zekâ geliştirilmesi için daha güvenilir bir imaja sahipti. Sam Altman’ın hırsları ve üzerindeki diğer şüpheler düşünüldüğünde bu ayrılık iyice manidar oluyor. Üstelik ortada bir de taze Scarlett Johansson’la cisimleşen etik sorumsuzluk vakası var. 

Bunları yapay zekâ üzerine bir yazı da tartışırız. Benim bu yazıda asıl tartışmak istediğim, hem ülke yönetiminde yani siyasette, hem de çalıştığımız kurumlarda “çoğulcu cehalete” karşı tetikte olma gerekliliği. 

Eğer bir ekibin üyesiysek grubun diğer üyelerinin hâkim görüş konusunda bizden farklı olarak hemfikir olduğundan gerçekten emin miyiz? Herkes bizim gibi istemeyerek onaylıyor olabilir mi? 

Eğer bir ekibin lideriysek ekibimizi tek tek fikirlerini söylemeleri konusunda cesaretlendiriyor muyuz? Bunun için de insanların soru sorarken kendilerini rahat hissedecekleri bir ortam yaratmak gerekiyor haliyle. 

Bence asıl tehlike çanları gruptaki en akıllı kişinin kendimiz olduğu ve bu yüzden son sözü hep bizim söylememize izin verildiğini düşündüğümüz anda çalmaya başlıyor. 

“Odadaki en zeki kişi sizseniz başınız belada demektir” diye boşuna dememişler. 

OpenAI’da “Scarlett’e çok benzeyen bir ses bulduk deriz olur biter, nasıl kanıtlayacak ki” diyen aşırı zeki kişi kim, onu da merak ediyorum açıkçası?