Harari’den Neksus: Ya yapay zeka çok hızlı yalan bilgi üretip yayarsa

Bilgi nedir ve ne iş yarar? Bir varlık ne zaman bilgi olur? Bilgiye neden ihtiyaç duyarız? Hikâyeler neden gereklidir? Yaratılışımız gereği her şeyde bir anlam ararız, beynimizdeki nöronlar birbirine uzanıp tutunmak ister, hep bir bağlantı ve bağlanma ihtiyacı duyarız. Ne biz yalnız kalabiliyoruz ne nöronlarımız.

Yuval Noah Harari, Kolektif Kitap etiketiyle yayımlanan yeni kitabı ‘Neksus – Taş Devri’nden Yapay Zekâya Bilgi Ağlarının Kısa Tarihi’nde kült kitabı ‘Sapiens’te vurguladığı gibi Homo sapiens’i diğer türlerden ayıran şeyin hikâyeler olduğunu hatırlatarak söze başlıyor:

“Hikâye temelli ağlar Homo sapiens’i tüm hayvanların en güçlüsü hâline getirerek, onlara yalnızca aslanlar ya da mamutlar karşısında değil Neanderteller gibi diğer eski insan toplulukları karşısında da önemli bir üstünlük kazandırdı.”

İnsanlar hikâyeler aracılığıyla birbirine bağlanır. Sapiensler yalnız değildi, birbirlerine koruyucu atalarıyla ve totem hikâyeleriyle bağlandılar. Bu ağ sayesinde, bilgi alışverişinde bulunarak birbirlerine fayda sağladılar. Bu hikâyelere yalanlar, yanlışlar ve fanteziler de dâhil. Hatta insanlar yalanlara, yanlış bilgilere, duymak istediklerine inanırlar ve yanlış bilgiler daha hızlı yol alır.

Harari ‘Neksus’ta, ilkel çağlarda bizi birbirimize bağlayan bilgi ağlarından günümüzdeki yapay zekâ devrimine kadar çok geniş bir tarihsel bakış açısı sunuyor. Bilgisayar ilk icat edildiğinde sadece matematiksel hesaplar yapabilen devasa bir makineyken bazı bilim kurgu yazarları ve filmler, zaman zaman makinelerin bizi gelecekte ele geçireceğine dair korkutucu kehanetlerde bulunuyordu. Sonunda korkulan oldu ve günümüzde bilgisayar kendi başına karar alıp yeni fikirler yaratabilecek duruma geldi.

“Bilgisayarların öznelerarası gerçeklikler yaratma becerisi kil tabletlerin ve kâğıtların sahip olduğu gücün uzantısıdır.”

İnsanlık tarihinde mitoloji ve bürokrasi bilgi ağları için önemliyken gelecekte bürokratların ve mit yapıcıların yerini yapay zekâ alacaktır, diyor Harari, çünkü yapay zekâ insanlardan daha iyi çalışıyor, daha iyi hikâyeler üretiyor.

“Yabancı bir zekânın kararları ve amaçları tarafından kontrol edilen yepyeni bir bilgi ağı doğuyor. Şu anda bu ağda hâlâ merkezi bir roldeyiz. Ancak yavaş yavaş bir kenara itilebiliriz ve nihayetinde ağ biz olmadan da çalışabilir…Bilgisayarlar acı, sevgi ya da korku hissedemez ama kullanıcı etkileşimini başarılı bir şekilde en üst düzeye çıkaran ve önemli tarihi olayları etkileyen kararlar alabilirler.”

Diğer bir deyişle, bilgisayarlar bir bilinç kazanabilir. Yalan haberler uydurup yayarak ülkeleri karıştırabilir, siyasi ve ekonomik krizler çıkarabilir, insanları yalan haberlerle finansal açıdan yanlış yönlendirebilir, baskıcı yönetimlerde üst akıl olarak kullanılabilir. Eskiden krallar bir savaşa çıkmadan veya önemli siyasi kararlar almadan önce bir kâhine danışırken, şimdi yöneticiler yapay zekâya danışacaklardır.

Harari yapay zekânın geleceğiyle ilgili karamsar bir tablo çiziyor:
“İnsanların aklına gelemeyecek kadar tuhaf kararlar alıp düşünceler üretecek… orduların, dinlerin, pazarların ve ulusların yapısı tamamen değişecek. Eğer doğru bir şekilde kullanamazsak, yapay zekâ yalnızca Dünya’daki insan egemenliğini yıkmakla kalmayıp bilincin ışığını da söndürerek evreni zifiri karanlık bir diyara dönüştürebilir. Buna engel olmak bizi sorumluluğumuzdur.”

Ben sıradan bir okur olarak bu konuda Harari kadar karamsar değilim. Yapay zekânın hukuk alanında objektif bir bakış açısı sunacağını, tıpta doğru ve hızlı teşhisler sağlayacağını, bazı meslekleri tamamen bitireceğini ama bugün çaresiz dediğimiz hastalıklar için yeni umutlar vereceğini, yeni mesleklere kapılar açacağını düşünüyorum. Benim hâlâ umudum var.

Felsefenin çıkmaz sokaklarında alışılmadık bir tarih: Felsefenin Başarısızlıkları