Yapay zeka endüstrisinin de bir dini var: Peygamberi, kitabı ve tapınağı olan bir yeni din

ABD’de San Francisco yakınlarındaki Berkeley şehir merkezinde, eski bir otel, yapay zekâ arayışına ve insanlığın geleceğine adanmış bir mabede dönüştü. Adı Lighthaven.

Bir şehir bloğunun büyük bir bölümünü kaplayan bu kapalı kompleks, beş bina ve gül çalılıkları, taş çeşmeler ve neoklasik heykellerle bezeli küçük bir parktan oluşuyor. En yüksek binanın en üst katında, 18. yüzyıl matematikçi ve filozofu Bayes’in adını taşıyan Bayes Evi’nde, vitray pencereler parıldıyor.

The New York Times’da yayımlanan ayrıntılı bir habere göre, Lighthaven, kendisini Rasyonalistler olarak adlandıran bir grubun fiili merkezi konumunda. Bu grup matematik, genetik ve felsefe ile yakından ilgili. En önemli inançlarından biri, yapay zekanın (eğer daha önce insanlığı yok etmezse) bütün insanlığa daha iyi bir yaşam sağlayabileceği. Bu nedenle Rasyonalistler, yapay zekayı geliştirenlerin, bunun daha büyük bir iyilik için bir güç olmasını sağlamakla yükümlü olduğuna inanıyor.

Rasyonalistler, yapay zekayı ana akıma taşıyan ve Silikon Vadisi’ni alt üst eden OpenAI’nin ChatGPT’yi yaratmasından yıllar önce yapay zeka riskleri hakkında konuşuyorlardı. Etkileri, Google gibi sektör devlerinden OpenAI ve Anthropic gibi yapay zeka öncülerine kadar birçok teknoloji şirketine sessizce yayıldı.

Yapay zeka dünyasının en büyük isimlerinden birçoğu – Google’ın DeepMind’ının kurucu ortağı Shane Legg; Anthropic’in CEO’su Dario Amodei; ve şu anda ABD Yapay Zeka Standartları ve İnovasyon Merkezi’nde güvenlik çalışmalarını yürüten eski OpenAI araştırmacısı Paul Christiano da dahil olmak üzere – rasyonalist felsefeden etkilendi. Kendi yapay zeka şirketini yöneten Elon Musk, topluluğun fikirlerinin çoğunun kendi fikirleriyle örtüştüğünü söylüyor.

Musk, eski kız arkadaşı ve bir çocuğunun annesi pop yıldızı Grimes ile, ikisi de “Roko’nun Basilisk”i adlı rasyonalist bir inanca aynı esprili göndermeyi yaptıktan sonra tanıştı. Bu ayrıntılı düşünce deneyi, her şeye gücü yeten bir yapay zekânın ortaya çıktığında, onu var etmek için elinden gelen her şeyi yapmayan herkesi cezalandıracağını savunuyor.

Ancak bu teknoloji liderleri kendilerini Rasyonalist olarak adlandırmaktan genellikle kaçınıyorlar; çünkü bu etiket yıllar içinde alay konusu da oldu.

Rasyonalist topluluk, her bağıştan kaç kişinin fayda göreceğini hesaplayarak hayırseverliği yeniden şekillendirmeyi amaçlayan Etkin Fedakarlık (Efektif Alturizm) hareketiyle yakından iç içe. Bu faydacılık biçimi, yalnızca bugün yaşayan insanlara değil, gelecekte yaşayacak tüm insanlara fayda sağlamayı hedefliyor. Birçok Etkin Fedakar, insanlığa fayda sağlamanın en iyi yolunun onu yapay zekânın yıkımından korumak olduğuna karar vermiş durumda.

Rasyonalistler genellikle Etkin Fedakarlık (EA) savunucuları olarak kendilerini tanımlıyorlar. Ve EA savunucuları da genellikle rasyonalist felsefeleri benimseyen insanlar. Bu iki hareket birlikte, yapay zekâ geliştirmeyi ve güvenliğini sağlamayı amaçlayan şirketlere, araştırma laboratuvarlarına ve düşünce kuruluşlarına yüz milyonlarca dolar yatırım yaptı. En büyük fon sağlayıcılar arasında, internet üzerinden arama hizmeti Skype’ın yaratıcısı Jaan Tallinn ve Facebook’un kurucu ortağı Dustin Moskovitz gibi zengin teknoloji devleri yer alıyor.

Rasyonalistlerin ve Etkin Fedakarlık’ın yükselişini inceleyen antropolog Mollie Gleiberman, “İdeolojilerini yaymak, güçlendirmek ve doğrulamak için geniş, iyi finanse edilmiş bir ekosistem kurdular” dedi.

Yapay zekâ hakkındaki neredeyse dini kaygılarında haklı mı haksız mı oldukları tartışılabilir, ancak teknoloji endüstrisi onların inançlarıyla neredeyse her gün yüzleşiyor.

2023’ün sonlarında, OpenAI’nin CEO’su Sam Altman, rasyonalist ve EA ile bağlantılı yönetim kurulu üyeleri nedeniyle kısa süreliğine görevinden alındı. Bazı hareketler, insanlığın yararına olacak yapay zekâ geliştirmesi konusunda ona güvenemeyeceklerini söylediler.

Lighthaven, bu fikirlerin Silikon Vadisi ve San Francisco Körfez Bölgesi’ne ne kadar nüfuz ettiğinin fiziksel bir tezahürü; modern bir tapınak gibi.

İsrailli oyun teorisyeni Robert Aumann’ın adını taşıyan Aumann Hall adlı ana bina, yedi yatak odası ve partiler ile hafta sonu konferansları için çok sayıda ortak alan sunuyor. Esoterik bir matematiksel kavramdan adını alan Eigenspace, bir spor salonu ve 40 kişiye yetecek büyüklükte başka bir ortak alan içeriyor. İki yüz kişi, sentetik çim kaplı parka yayılabilir.

“Burası tesadüflerin yaşanabileceği bir yer. Bazıları burayı bir üniversite kampüsüne veya Massachusetts Teknoloji Enstitüsü’ndeki tasarım laboratuvarı olan MIT Medya Laboratuvarı’na benzetiyor,” diyor topluluğun uzun süredir üyesi olan Alex K. Chen.

Her bahar, Lighthaven, Rasyonelci web sitelerinden blog yazarlarının ve yorumcuların şahsen buluştuğu LessOnline konferansına ev sahipliği yapıyor. Her salı akşamı saat 18:30’da, neredeyse bir İncil çalışması gibi, insanlar hareketin doğmasına yol açan temel metin olan “Diziler”i okumak ve tartışmak için bir araya geliyorlar.

Villanova Üniversitesi’nde teoloji profesörü ve Fransisken rahibesi olan Ilia Delio, “Din temel olarak bir metin, hikaye ve ritüeldir,” diyor. “Bunların hepsi burada da geçerli.”

Rasyonalist hareket, bir fikirler kümesinden çok bir yaşam tarzı. Taraftarları, yapay zekâya odaklanmalarını, hayatınızı nasıl yaşayacağınız ve kariyerinizi nasıl yöneteceğiniz konusunda tavsiyelerle harmanlamışlar. Topluluk, çok eşlilik ve zekânın genetiği gibi alışılmadık fikirlerin yanı sıra, aynı zamanda bir yaşam tarzı olan Etkili Fedakarlığı da benimsiyor. Ve yapay zekâ geliştiricisi olmak isteyenler için, Rasyonalist etkinlikler vazgeçilmez ağ oluşturma fırsatları haline gelmiş durumda.

Montreal’deki McGill Üniversitesi ve teknoloji devi Meta’da yapay zekâ araştırmacısı olan Sonia Joseph, her yaz Lighthaven’da düzenlenen Makine Öğrenimi Uyum ve Teori Bursiyerleri programı (MATS) gibi toplantıların, yapay zekâ güvenliği alanına girmenin akademiden daha önemli bir yolu olduğunu söyledi.

Rasyonalistler, 2000’lerin sonlarında, Eliezer Yudkowsky adlı bir çevrimiçi filozofun, insanlara dünyayı soğuk ve dikkatli düşünceyle yeniden incelemeyi öğreten bir deneme koleksiyonu olan “The Sequences-Diziler”i yazmasıyla ortaya çıktı. İnsan karar verme süreçlerinin istatistik ve olasılıktan yararlanmayı içermesi gerektiğini söyleyen metinlerdi bunlar. Kısmen öğretici, kısmen eğlence, kısmen mistik bir yolculuk olan Yudkowsky’nin denemeleri, Rasyonalist topluluk için bir kılavuz haline geldi.

2010 yılında Yudkowsky, DeepMind adlı bir İngiliz yapay zeka şirketinin kurucularını girişim sermayecisi Peter Thiel ile tanıştırdı ve şirketlerinin kurulmasına yardımcı oldu. Dört yıldan kısa bir süre sonra DeepMind, Google tarafından 650 milyon dolara satın alındı. Şimdi teknolojisi ve yöneticileri, teknoloji devinin yapay zeka çalışmalarına öncülük ediyor.

Yudkowsky ayrıca Berkeley’de Yapay Zeka Güvenliği Araştırma Enstitüsü adlı kar amacı gütmeyen bir kuruluşu da yönetti. Hareket yavaş yavaş küreselleşti. New York ve Boston gibi şehirlerde rasyonalist grup evleri ortaya çıktı. İngiltere, Hollanda ve Avustralya’da toplantılar düzenlendi.

İlk uluslararası Etkin Fedakarlık zirvesi, 2013 yılında, rasyonalist toplulukla derin bağları olan bir girişim olan Leverage Research’ün yerleşik genel merkezi olarak hizmet veren Oakland, Kaliforniya’daki bir grup evinde düzenlendi. Yudkowsky ve Tallinn gibi rasyonalist topluluğun önde gelen isimleri, Etkin Fedakarlık hareketine rehberlik etmeye yardımcı oldu. Yapay zekâ hakkındaki ortak endişelerine doğru bir hareketlenme söz konusu.

Rasyonalist ve E.A. Hareketlerine yönelik eleştiriler sık ​​sık dile getirildi; bunlar arasında grup evlerinde cinsel taciz iddiaları ve topluluğun öjenik ve ırkçılığa olan ilgisine dair şikayetler yer alıyor. Topluluğun itibarı, iki hareketin başlıca finansal destekçilerinden biri olan kripto para borsası FTX’in kurucusu Sam Bankman-Fried’in 2023 yılında dolandırıcılıktan mahkum edilmesiyle zedelendi. Ancak hareket gelişmeye devam ediyor.

Bankman-Fried, E.A. düşüncesinin önemli isimlerinden biriydi, yapay zekanın güvenliğinin sağlanması mücadelesine de destekçiydi. Sonunda, müşterilerinden 8 milyar dolar çalmaktan suçlu bulundu.

“Milyarlarca doların söz konusu olduğunu ve bu grubun eksantrik vizyonu nedeniyle dünya çapındaki yaşamların radikal bir şekilde dönüştürüldüğünü düşündüğünüzde, bunun bir tarikat olması için daha ne kadar tarikatvari olması gerekiyor? Çok fazla değil,” dedi Harvard’da son on yılda rasyonalist ve E.A. topluluklarının yükselişine tanık olan ve teknolojiyi yeni bir din olarak ele alan “Teknoloji Agnostik” kitabının yazarı olan papaz Greg M. Epstein.

“Tarikatvari ve köktenci dinler genellikle ne yapar?” diye sordu Epstein. “İnsanların dikkatlerini fantastik bir geleceğe odaklamak için, şu anki sorunlar hakkındaki sağduyularını görmezden gelmelerini sağlarlar.”

Her Aralık ayında, Oakland’daki Chabot planetaryumu ve Berkeley şehir merkezindeki Freight and Salvage müzik salonu gibi yerlerde, topluluktan yüzlerce kişi bir araya gelerek geleneksel bir bayram kutlaması yapıyor. Yılın en uzun gecesi olan Kış Gündönümünü şarkılar, hikayeler, mizah ve dünyanın kaderiyle ilgili sorularla kutluyorlar.

En son kutlama, insanlık tarihi boyunca teknolojinin gücünü öven “Uplift” adlı bir şarkıyla başladı. Gitar, keman ve klavye eşliğinde, iki şarkıcı Taş Devri’nde başlayıp gelecekte biten şarkılarını söyledi. “Yelkenleri itmek için ışık, verileri oku, şehirler parlıyor! Eller tuşlara basıyor, fareye tıklıyor, yola koyuluyoruz!” diye şarkı söylediler. “Seslerimiz dünyayı ve uzayı dolaşıyor! Bizi başka bir yeri kolonileştirmeye gönderin!”

Ancak o gece törenin sunuculuğunu yapan, uzun zamandır Körfez Bölgesi rasyonalistlerinden olan Ozy Brennan, önümüzdeki kara bulutlar konusunda uyarıda bulundu. “Atalarımızın hayal bile edemeyeceği bir dizi tehditle karşı karşıyayız: nükleer savaş, biyomühendislik ürünü pandemiler, yapay zekâ,” dedi. “Eğer başarısız olursak –ki başarısız olma ihtimalimiz çok yüksek– çocukların %100’ü ve herkes ölecek.”

Lighthaven’ın ana binası, 1905 yılında inşa edilmiş pembe ve beyaz cepheli Tudor tarzı bir ev. 1970’lerde Rose Garden Inn adında bir pansiyon haline geldi ve kısa süre sonra Berkeley’nin tarihi yerler listesine eklendi.

Tapu kayıtlarına göre, yaklaşık üç yıl önce mülk, Lightcone Rose Garden adlı bir şirket tarafından 16,5 milyon dolara satın alındı. Şirket, Rasyonalistlerin ana çevrimiçi platformu olan LessWrong’u işleten Lightcone Infrastructure’a aitti. “Lightcone – Işık konisi”, Rasyonalistler ve E.A.’cıların mevcut zaman noktasından etkileyebilecekleri gelecekteki olayların hacmini tanımlamak için sıklıkla kullandıkları bir fizik terimidir.

Şimdi, Lightcone, Lighthaven’ı da yönetiyor. Mülkü denetleyen personel arasında, ilk Seküler Kış Gündönümü’nü organize eden Ray Arnold da bulunuyor. Hukuki bir şikayete göre, mülk, topluluğun en büyük iki fon sağlayıcısından, Tallinn ve Bankman-Fried’den gelen parayla satın alındı. Bankman-Fried’den gelen ve depozito olarak kullanılan fonlar, daha sonra bir mahkeme anlaşmasının parçası olarak iade edildi.

Geçen yıl, McGill ve Meta araştırmacısı Joseph, MATS programına kabul edildikten sonra yazını Lighthaven’da geçirdi. Şimdi neredeyse 30 yaşında olan Joseph, 14 yaşındayken Yudkowsky tarafından yazılan “Harry Potter and the Methods of Rationality – Harry Potter ve Akılcılığın Yöntemleri” adlı romanı okumaya başladığında Rasyonalist topluluğu keşfetti. Seri romanda Harry Potter, körü körüne inançla büyücülük dünyasını kabul etmeyi reddediyor ve bunun yerine felsefe, bilim ve rasyonel düşüncenin yasalarına dayanıyor. Bu da topluluğa yüzlerce insanı çekti.

Joseph, “Dışarıdan gelenleri çekiyor,” dedi. “Eğer Kansas’ta yerleşik dinden hiçbir destek almayan eşcinsel bir çocuksanız, ‘Harry Potter ve Akılcılığın Yöntemleri’ni keşfedebilir ve gerçekten kabul edici bir topluluk bulabilirsiniz.”

LessWrong gibi, MATS de yapay zeka şirketlerinde iş bulmanın bir yolu olabilir. Programa başvuranlar genellikle en iyi yapay zeka şirketleri tarafından seçiliyor. Anthropic gibi şirketlerde araştırmacılar çalışıyor. Ancak Joseph ve diğerleri için bu program, sadece bir kariyer hamlesinden daha fazlası.

Lighthaven’deki yaz tatilini geriye dönüp düşündüğünde, vitray pencereli üç katlı bir binaya giden yolu süsleyen gülleri ve taş melek heykellerini hatırladı. Merdivenlerin dibindeki, “Harry Potter ve Akılcılığın Yöntemleri”ni anımsatan parıldayan aynayı hatırladı. Kilitli bir kapının üzerindeki “Eliezer Yudkowsky’nin Ofisi” yazan tabelayı hatırladı.

“Bütün bunlar efsanevi geliyor” dedi. “Rasyonalist olmayan bilim insanları bile bunu ilgi çekici buluyor; tıpkı Manhattan Projesi’nin ilgi çekici olduğu gibi. Efsanevi bir şey üzerinde çalışmak istiyoruz.”