Yapay zekadan korkanlar bu haberi okumasın: Yapay zeka kendi köyünü kurdu, işbirliği yaptı, kendi demokrasisini ve ekonomisini yarattı

Minecraft oyununu bilmeyen yoktur. Bütün bilgisayar oyunları tarihinin bu en başarılı oyununda isterseniz kendinize ev yapıyorsunuz, isterseniz birkaç arkadaş birleşip köy kuruyorsunuz. Hayal gücünüze bağlı.

Bir şirket bu oyunu oynaması için 50 yapay zeka modülü yarattı ve hepsi birbirinin aynı bu modüllere tek bir görev verdi: Bir köy kuracaksınız, burayı yaşanabilir bir yer yapacaksınız, diğer köy ve kasabalarla ticaret yapacaksınız, kendi köyünüzü başkalarına karşı koruyacaksınız.

Sonra da bu modülleri oyunun içine bırakıp kenara çekildi, seyretmeye başladı. Çok kısa zaman içinde çok şaşırtıcı şeyler olmaya başladı.

Yapay zeka modülleri başlangıçta birbirinin tıpa tıp aynısı olmasına rağmen kısa sürede kendi aralarında iş bölümü yaptı. Bazıları ‘savunmacı’ oldu köyü korudu, bazıları binalar inşa etti, bazıları çiftçilik yaptı, bazıları tüccar oldu, bazıları da sanatçı.

Yapay zekanın bir gün insanlığa hükmedeceğinden, insanların sonunu getireceğinden korkanlar için korkularını besleyecek çok acayip bir haber bu.

Ama korkmaya başlamadan önce Minecraft oyunu içindeki bu denemenin neden ve nasıl başladığını görelim.

Bir makale okudu, hayatı değişti

Robert Yang iki yıl önceye kadar ünlü Massachussets Institute of Technology (MIT) Üniversitesinde bilgisayar bilimi, aslında bilgisayar bilimiyle nörobilimi bir araya getiren ‘computational neuroscience’ hocasıydı. Sonra Stanford Üniversitesinden o sırada henüz doktora öğrencisi bile olmayan Joon Sung Park isimli bir kişinin makalesini okudu, aklına bir fikir geldi, üniversiteden istifa etti, kendi şirketini kurdu.

Yang’ın kurduğu şirketin adı Altera. Çok kısa bir sürede 11 milyon dolar yatırım aldı. Ama henüz ortada satılabilir, paraya dönüştürülebilir bir ürünü yok. Şirket, işte Minecraft içindeki o yapay zeka modüllerini yapan şirket.

Peki Robert Yang’ın okuduğu makale neydi? Stanford Üniversitesi öğrencisi Joon Sung Park, hocalarıyla ve Google’ın ünlü yapay zeka şirketi DeepMind ile birlikte bir sorunun cevabının peşine düşmüştü: Acaba bir yapay zeka modeli, karşısındaki insan karakterinin bir replikasını yapabilir miydi?

Veya başka türlü söyleyelim: Yapay zeka modelleri insan davranışlarını taklit edebilir miydi? Yapay zekalardan oluşacak topluluklar aynen insan toplulukları gibi hareket edebilir miydi? Bu topluluklara bakarak gerçek insanların gerçek hayatta bazı tepkileri önceden ölçülebilir miydi?

Henüz üniversite son sınıfta bir öğrenci olan Joon Sung Park’ın bu sorularına cevap aradığı makalesi yayınlanalı iki yıl oldu ama şimdiden 1447 atıf almış durumda. Yani, bilgisayar bilimi dünyası, özellikle de yapay zeka dünyası bu makaleyi çok önemsemiş durumda.

İşte söyledik, MIT’den Robert Yang makaleyi okur okumaz aklına gelen bir fikir nedeniyle üniversiteden istifa etmiş, kendi şirketini kurmuş bile.

İnsan toplumu simülasyonu

Robert Yang’ın şirketi tam da bu makaledeki fikri denemeye karar vermiş, hemen hemen hepsi geniş dil modellerine (LLM) dayanan 50 ayrı yapay zekayı zaten bu çeşit oyunculara imkan tanıyan bir evren olan Minecraft’a koymuşlar.

Hepsi birbirinin aynı olan yapay zekalara haberin başında aktardığımız görevleri vermişler ve aradan 12 oyun günü, yani bizim zamanımızla dört saat geçtiğinde 50 yapay zeka modelinin kendi aralarında ciddi bir iş bölümü yaptığını, köyü inşa etmekle kalmayıp işleyen bir ekonomi yarattığını, bunun için kendilerine bir para birimi yarattığını, köyün komşu köylerle ve kasabalarla ilişkiye geçip onlara mal satıp almaya başladığını görmüşler.

Bazı yapay zekalar çok sosyal olmuş, diğerleriyle sürekli sohbet etmiş, ilişkiye geçmiş. Bazıları ise çok içe dönük kalmış.

Kısacası yapay zeka modelleri insanlar gibi davranmış, karakter özellikleri farklılaşmış, yaptıkları işler farklılaşmış. Bir anlamda ‘bireysellik’ sergilemişler.

Kendi kendilerine vergi koymak için referandum yaptılar

Yapay zekaların köyünde bir süre sonra ortak giderler için bir fon oluşturulması gerekmiş. Bunun için bazı yapay zekalar bir çeşit ‘vergi’ salmayı önermiş, bu öneri oya sunulmuş, yani referandum yapılmış ve vergi önerisi az da olsa çoğunluk elde edip onaylanmış.

Ardından köy sakini yapay zekalar kendi aralarında işleyen bir demokrasi kurmayı da başarmış, ortak karar alabilir hale gelmiş bir yönetim oluşturmuşlar.

Yapay zekalar arasında fikir ayrılıkları baş göstermiş, bazıları köyün geleceği ve iyiliği için diğerlerinden ayrı düşüncelere sahip olmuş.

Korkmayın kendiliklerinden icat etmediler

Yapay zekalar kendi başlarına bırakıldığında böyle insanlar gibi davranmış ama bu aslında korkutucu bir durum değil. Unutmayın, yapay zekayı besleyen şey geniş dil modeli adı verilen ve daha önce insanlar tarafından yazılıp çizilen şeyler.

Yani vergi koymayı da, iş bölümü yapmayı da, demokrasi oluşturmayı da insandan öğreniyor ve uyguluyor yapay zeka.

Ama her şeye rağmen bu deneme müthiş bazı sonuçlar yaratacak gibi duruyor. Çünkü gerçek insanların replikasını yapmayı başarırlarsa devasa bir insan topluluğunun simülasyonu da yapabilirler.

Yapay zeka dini

Altera’dakiler deneyi bir adım ileri götürmeye karar verip 7-8 tane ‘din insanı’ yapay zeka yaratmış, onlara yaymaları için bir uydurma din bulmuşlar.

Bu 7-8 ‘misyoner’ kendi uydurma dinlerini yaymaya başlamış, etkileri Minecraft’taki yapay zeka Altera köyünün dışına taşmış. Bu dine inanmaya başlayan bazı başka yapay zekalar da kendi kendilerine misyoner gibi davranmaya, başkalarını aynı dine inanmaya ikna etmeye çalışmaya başlamış.

En çarpıcısı, bazı misyoner yapay zekalar diğer oyuncuları kendi dinlerine çekmek için rüşvet bile vermiş.

1000 kişiyi yapay zeka nasıl kopyaladı?

Buradan dönüp haberin başında anlattığımız Stanford doktora öğrencisi Joon Sung Park’ın makalesine yeniden bakalım. Park’ın Google’ın ünlü yapay zeka şirketi DeepMind tarafından da desteklenen deneyi ve deneye dayalı makalesi gerçekten çok çarpıcı.

Bu deneyde 1000 gerçek insan gönüllü bulunuyor, onlara 100’er dolar da ücret ödeniyor ve onlardan bir yapay zeka ile sohbet etmeleri isteniyor.

Bu sohbetlerin sonunda da sohbeti eden her gerçek bireyin bir yapay zeka replikası yapılıyor. Ardından o 1000 gerçek kişiye çeşitli kişilik testleri vs uygulanıyor ve bu testler replikaların testleriyle karşılaştırıldığında dehşet içinde şunu görüyor araştırmacılar: Replikalar yüzde 85 oranında başarılı. Üstelik bu başarı sadece iki saatlik sohbetlerle elde edilebilmiş.

İnsan neyse yapay zeka da o

Peki yapay zekanın insanı kolayca tanıması ve taklit etmesi, hiçbir insanı taklit etmediği halde başka yapay zekaların bir araya geldiğinde ‘insansı’ davranışlar geliştirmesi korkulacak bir şey mi? Yapay zekanın insana ne kadar yaklaştığını anlatan bir şey mi?

Hem evet, hem hayır. Bir şeyi unutmamak lazım, yapay zeka uzaydan, başka bir kültürden veya uygarlıktan gelmiyor. Onları ‘bilgili’ yapan, zaman zaman ‘zeki varlıklar’ gibi görünmelerine neden olan şeylerin tamamı insana ait özellikler. Çünkü yapay zekanın arkasında yer alan LLM, yani geniş dil modeli adı verilen şey, insanlığın internete yüklü olan birikimi zaten.

Yapay zekaların karakterlerinin birbirinden farklılaşması da bu yüzden. Hangisinin hangi tür insanların yarattığı bilgiden, edebiyattan beslendiğini bilmiyoruz ama hepsi için beslendikleri havuz aynı gibi gibi gözükse de aslında o havuzda çok sayıda farklı düşünce ve yöntem var. İnsanlar kendi aralarında nasıl farklılaşıyorsa, o insanların yarattığı bilgiden beslenen yapay zekalar da farklılaşıyor.