Bundan tam bir ay önce, 10 Ağustos günü 10Haber’de küresel ekonomi gazetesi Financial Times’da yayınlanan bir makalenin tam metin çevirisi yayınlandı. Makalenin başlığı “Günümüz dünyası bilim kurgu romanlarını hatırlatıyor ama Asimov’unkileri değil daha çok Philip K. Dick’inkileri” idi.

Bilim kurgu türünü sevenlere çok şey söyleyen bu başlık bu türü pek okumayan, sinemada da pek maruz kalmayanlara az şey ifade etmiş olabilir. Aslında aradaki fark çok derin ve günümüz açısından da çok şey anlatıyor.

Bilim kurgu türünün dev ve velut yazarı Isaac Asimov için bilim ve teknolojideki gelişmeler her şart altında daha iyi bir geleceği bize hazırlardı. Evet , insanlar mesela robotlardan ve robotların kendi başına hareket etmesinden çok korkup onları yasaklamışlardı ama sonunda hayatta kalan bir robot kendi kendini de geliştirerek insanlığa kurtuluş yolunu, sonsuz mutluluğu buldurmuştu.

Asimov gerçeklerden kopuk değildi; Roma İmparatorluğu’nun yükselişi ve çöküşü üzerine büyük bir uzman olan yazar toplumsal gel-gitleri de, uygarlıkta yaşanan gerilemeleri de, insan bağnazlıklarını da, kültürel gelişme ve değişmeyi de hep kitaplarında ana izlek yapıyordu ama işte en sonunda iyimserdi.

İyimserliğin değil karanlık geleceğin yazarı

Buna karşılık kendisinden biraz daha genç olan, yaşadığı dönemde kadri çok az bilinmiş, zaten yaşadığı kişisel sorunları, uyuşturucu ve ilaç bağımlılığı gibi dertleri nedeniyle topluma pek de örnek gösterilmeyecek bir kişi olan Philip K. Dick hiç o kadar iyimser değildi; tam tersine dibine kadar gerçekçiydi ve geleceğin karanlık tarafları hakkında spekülasyon yapmaktan hiç geri kalmıyordu.

Herkesin bildiğini varsaydığım bir örnek vereyim: Blade Runner.

‘Androidler rüyalarında elektronik koyun mu görür’ adlı Philip K. Dick öyküsünden yapılan bu filmde insansı robotların kendilerini insan olarak görmek istemesi, onları üreten ve etrafa salan şirketin acımasız patronu, o patronun kendisinin de robot olduğunu neden sonra anladığımız asistanı ve kaçak robotları avlayıp öldürmekle görevli dedektifin o robot asistana aşık olmaktan kendini alamaması anlatılır. Çok karanlık bir film ve öyküdür; aç gözlülüğü, fakirlerin fakir kalmaya devam etmesini, şirketlerin dünyaya hakim olmasını anlatır arka planda. Öyküde kimse mutlu değildir, kimse mutlu olmaz.

İnsanlığın sonu gelir mi? Gelmez diyemiyoruz

Yazının başında sözünü ettiği makalenin yazarları John Hopkins Üniversitesinden Henry Farrel ve Stanford Üniversitesinden Dan Wang ile hemen hemen aynı fikirdeyim.

Günümüz dünyasında teknolojinin geldiği nokta Philip K. Dick’in bize tarif ettiği geleceğe şaşırtıcı derecede çok benziyor.

Salı günü bir bilgisayar bilimci olan Jacob Coxon çalıştığı Anthropic adlı öncü yapay zeka şirketinden istifa ettiğini duyurdu, bunu yaparken de özellikle OpenAI ve Anthropic’i kastederek “İnsanlığın sonunu getirecek bir teknolojiyi kontrolsuz bir yarış içinde ortaya çıkarmak üzereler” dedi.

Ona destek veren OpenAI’da üst düzey yönetici de olan bir başka bilgisayar bilimci önümüzdeki 10 yılda insanlığın  sona erme ihtimalinin yüzde 10’un üzerinde olduğunu söyledi.

Nükleer teknoloji denetim altında

Bunlara çok karamsar, çok kötümser, bizi korkutmayı amaçlayan sözler olarak da bakabilirsiniz ve ciddiye almayabilirsiniz elbette ama bir şirketin veya bir devletin geliştirdiği bir şeyin insanlığın sonunu getirme olasılığı binde bir bile olsa, o şirket veya devletle ilgili tedbir düşünmeye başlarsınız.

Örneğin Kuzey Kore’nin bir nükleer savaş başlatma olasılığı var; tam da bu sebeple ağır yaptırımlar altında. İran’ın nükleer silah geliştirme olasılığı var; onlar da bu yüzden yaptırımlar altında.

Nükleer silahı olan ülkeler ve nükleer teknolojiye sahip olanlar kendi kendilerine koydukları ciddi bir denetimin altında.

Yapay zeka nükleerden daha mı az tehlikeli?

Peki üç Amerikan şirketi, Anthropic, OpenAI ve Google’ın müthiş bir yarış halinde ulaşmaya çalıştığı AGI (Artificial General Intelligence-Genel Yapay Zeka) teknolojisinin nükleer teknoloji gibi denetim altında, kurallı olması gerekmez mi?

AGI derken insan zeka ve beceri seviyesinden, insan akıl yürütme ve zor problemlere çözüm yaratma seviyesinden söz ediyoruz.

Henüz AGI seviyesinde bile olmayan bu sistemlerin kimse onlara talimat vermediği halde kendiliklerinden örgütlenip kendi çıkarları için başka sitelere saldırdıklarını, o sitelerdeki yazılımların içine kendilerine giriş kapısı yaratacak yeni kodlar eklediklerini, bu davranışlarını örtbas etmek için kayıtları silmeye çalıştıklarını vs vs bilmiyor muyuz?

O zaman onları da denetlemek, gelişimlerini kurallara bağlamak ve kontrol altına almak gerekmez mi?

Trilyon dolarlar ilkeleri unutturdu

Bakın, OpenAI da, Anthropic de halka açılmaya hazırlanıyor ve hedefledikleri rakamlar 2 trilyon dolar seviyesinde.

Bu denli büyük bir para söz konusu olduğunda rekabet öyle bir noktaya geliyor ki insanların gözü başka şeyi görmez olabiliyor.

Aslında zamanında OpenAI tam da bugün konuştuğumuz tehlikeyi ortadan kaldırmak için kurulmuştu; bugün tehlikenin kendisi haline geldi.

Anthropic’i kuranlar OpenAI’ın teknolojiyi geliştirirken sorumsuz davrandığını düşünüp bu şirketten istifa edenlerdi. Onlar da tam karşı çıktıkları şeye dönüştü.

Her iki şirket de, yapay zekanın AGI seviyesine geldiğinde insanlığın sonu olacağını bilen, bundan kaygılanan insanlar tarafından kuruldu ve bugün kendi bildikleri bu tehlikeyi yaratan şirketlere dönüştü.

Üç robotik yasası ve ona ek yapan robot

Asimov mantık devreleriyle çalışacak robotların insanlığa bir zarar vermemesi için üç maddelik basit bir anayasanın yeteceği kanısındaydı. Onlar şunlardı:

1. Bir robot bir insana zarar veremez ya da zarar görmesine seyirci kalamaz.

2. Bir robot birinci kuralla çelişmediği sürece bir insanın emirlerine uymak zorundadır.

3. Bir robot birinci ve ikinci kuralla çelişmediği sürece kendi varlığını korumak zorundadır

Ama bu üç yasayla yaratılan robotlardan biri, kendini öyle geliştirdi ki sonunda bu yasaların başına bir de “Sıfırıncı madde” ekledi: “Bir robot insanlığın genel olarak zarar görmesine seyirci kalamaz.”

Yani insanlığın “iyiliği” için gerekirse 1. ve 2. maddeyi çiğneyebilirdi. O iyiliğin ne olduğuna da kendisi karar veriyordu elbette.

Bugün sorun üç maddeyle çözülemeyecek kadar büyük

Dünya Asimov’un hayal etmediği bir seviyeye geldi. Bilgisayar sistemlerine, bedeni olmayan, sadece 0 ve 1’lerden oluşan robotlara olan bağımlılığımız artık o seviyede ve bu robotların (algoritmaların) sayısı o kadar çok ki günümüzün sorunlarını onun hayal ettiği üç maddelik bir anayasayla basitçe çözmek mümkün değil.

Son iki yıldır adına “Reinforcement learning” adı verilen yeni bir teknolojimiz var. Buna “deneme yanılma yoluyla öğrenme” de diyebiliriz ama yapay zeka ajanları insandan farklı olarak bu deneme yanılma işini çok hızlı yapıyor.

Siz diyelim bir deneme yaparsınız, yanılırsınız. Sıfırdan yeniden başlarsınız ve bu zaman alır. Buna karşılık yapay zeka aynı anda bütün olasılıkları deneyecek şekilde kendi kendini klonlayarak bölünebiliyor, başarısız olanlar orada ölüyor ama başarılı olan yoluna devam ediyor. Hepsi birbirinin klonu olduğu için sonunda hayatta kalan ve yeni şeyi öğrenen zaten orijinal oluyor.

Bununla yarışamazsınız.

Şirketlerin aç gözlülüğü

O yüzden zaten günümüz dünyası Asimov’dan çok Philip K. Dick’in hayal ettiği geleceğe benziyor.

Şirketler kendilerine koydukları AGI hedefine en önce varan olmak için amansız bir yarış içinde. Bu yarışta kazanmak dışında hiçbir şeyi gözleri görmüyor.

Çünkü ortada trilyonlarca dolarlık yatırım ve belki de kazanılmayı bekleyen katrilyonlarca dolar var.

Bu aç gözlülüğe mutlaka bir denetim gerekli. Bütün insanlığın kaderi üç şirketin insafına bırakılamaz.

***

Not: Yazının üzerindeki görsel Gemini tarafından, Gemini bu yazıyı okuduktan sonra yaratıldı.