Yapay zeka sahiden insanlığı yok edebilir mi? New York Times uzmanlara sordu

Biyolojik bir silah saldırısı ya da küresel bir drone savaşı başlatabilir. Bir nükleer bombayı patlatabilir. Ya da dünyanın tüm ekonomik kaynaklarını istifleyip bizi gıdadan, barınmadan veya tıbbi bakımdan mahrum bırakarak insan toplumunu daha kademeli bir şekilde yok edebilir.

Bunlar, insan başarısında büyük bir ilerleme olduğunu kanıtlamış —ancak bazılarının insanlığı tamamen yok etme potansiyeline sahip olduğundan korktuğu— bir teknoloji olan yapay zeka etrafında dönen karanlık düşüncelerden bazıları.

Bu tür kaygılar, bir Anthropic araştırmacısının, kendi laboratuvarının ve benzerlerinin insanların kontrol edemeyeceği kadar süper zeki makineler inşa ettiğine dair endişelerini gerekçe göstererek sektörden istifa etmesiyle dünya genelinde manşetlere taşındı.

Görünmez Tehlikeler ve Algı Yanılsaması

The New York Times gazetesinin haber analizine göre, yapay zekanın sunduğu potansiyel tehditler anlaşılabilir bir şekilde korkutucu. Ancak modern dünya pek çok varoluşsal riskle dolu. İnsanlık aynı zamanda katil asteroitler, pandemiler, termonükleer savaş, iklim değişikliği, güneşten fırlayan devasa kızgın madde kütleleri, ekolojik çöküş ve ani bir buzul çağının başlaması gibi felaket ihtimalleriyle de karşı karşıya.

Bilim insanları ve kamu politikası uzmanları, sorunun yapay zekanın sadece son halkası olduğu bu tehditlerden ziyade, insanların bunları doğru bir perspektife oturtmakta yaşadığı doğuştan gelen zorluk olduğunu söylüyor.

Harvard Risk Analizi Merkezi Direktörü James K. Hammitt, “Alışık olduğumuz risklere katlanıyoruz ama yeni olanlardan korkuyoruz” diyor. Uçağa binmekten daha sık araba kullandığımızı belirten Hammitt, “Bu yüzden havayolları, motorlu taşıtlara kıyasla aslında öyle olmadıkları halde tehlikeli olarak algılanıyor” diye ekliyor. Yapay zekanın “açıkça anlaşılmadığını ve kontrolümüz altında algılanmadığını, bu nedenle büyük bir toplumsal endişe yarattığını” vurguluyor.

Yakın ve Uzak Gelecekteki Yapay Zeka Senaryoları

Yapay zeka sistemlerini inşa eden teknoloji yöneticileri ve araştırmacıları arasında, yapay zekanın insanlığı yok etme potansiyeli konusunda uyarıda bulunan bir kesim her zaman var oldu.

Kısa vadede yapay zekanın, vasıfsız ancak kötü niyetli kişilerin yaygın hastalıklara ve ölümlere yol açabilecek virüsler veya zehirli maddeler üretmesine yardımcı olabileceği söyleniyor. Nitekim Perşembe günü Anthropic, biyolojik silahların geliştirilmesine yol açabilecek araştırmalar yürüten bilim insanlarının birkaç girişimini engellediğini duyurdu.

Daha uzun vadede ise felaket uyarısı yapanlar, teknoloji şirketlerinin yapay zeka sistemlerine daha fazla özerklik verebileceğini, onları internete ve hatta elektrik şebekeleri, borsalar ve askeri silahlar dahil kritik altyapılara bağlayabileceğini savunuyor. Bu altyapılara bağlandıktan sonra yapay zeka sistemlerinin beklenmedik yollarla sorun çıkarabileceğini öne sürüyorlar.

Bugün yapay zeka sistemleri kontrolden çıktığında OpenAI gibi şirketler fişi çekebiliyor. Ancak bazı uzmanlar gelecekteki sistemlerin kapatılma çabalarına direneceğinden endişe ediyor.

Gerçekçi Riskler: Yapay Zeka mı, Biyolojik Virüsler mi?

Şimdilik bunlar varsayımsal kaygılar.

Washington Üniversitesi profesörü ve Allen Yapay Zeka Enstitüsü’nün kurucu icra kurulu başkanı Oren Etzioni, “Çok uzaktayız” diyor. “Laboratuvardan kaçıp milyonlarca insanı öldüren bir yapay zeka ile kaçıp milyonları öldüren bir virüs arasında seçim yapmam gerekseydi, tartışmasız kazanan virüs olurdu. Asıl endişe virüstür.”

Görünen o ki, şarbonun bile insanlığın sonunu getirme ihtimali oldukça yüksek. Şarbon antik çağlardan beri var, ancak son zamanlarda biyolojik silah programları geliştiren haydut devletlerin gözdesi haline geldi. Bilim insanları tek bir galon şarbonun, uygun şekilde dağıtıldığı takdirde dünyadaki insan yaşamını sona erdirebileceğini uzun zamandır biliyor. Ancak Kuzey Kore ve diğer saldırgan devletlerin (İran dahil) bu ölümcül mikrobu barındırdığından uzun süredir şüphelenilmesine rağmen bu durum gerçekleşmedi.

Modern hayatın çılgınca paniklerinde genellikle gözden kaçan şey, en azından kasıtlı tehditlerde, eski usul caydırıcılığın günü kurtarabileceğidir. Devlet aktörleri düşmana şarbon bulaştırmaktan çekinirler çünkü misillemeyle karşılaşırlar —bu da saldırıyı bir intihara dönüştürür— ve böylece bir otokontrol mekanizması oluşur.

Bilimsel Veriler Işığında Felaket Senaryoları

1989 yılında kurulan Harvard Merkezi, özellikle çevre riskleri ve insan sağlığına yönelik büyük tehditler gibi caydırılamaz olanlar başta olmak üzere, bu çok sayıda felaket senaryosunu doğru bir perspektife oturtmayı amaçlıyor. Politika oluşturma süreçlerini değerlendirmek ve geliştirmek için karar bilimi, ekonomi ve risk değerlendirmesini uygulamayı hedefliyor.

Benzer şekilde NASA, Asteroit Tehdit Değerlendirme Projesi’nde süper bilgisayarlardan yararlanıyor. Uzay ajansı genel olarak bu yüzyılda insanlığın varlığını tehlikeye atacak bir asteroit çarpması riskini neredeyse sıfır olarak görüyor. Dünyalıların en azından önümüzdeki 1000 yıl boyunca rahat bir nefes alabileceğini hesaplıyor.

Peki bilgili bilim insanları insanlığın çoğunu yok edecek küresel bir pandemi riskini nasıl değerlendiriyor?

Bu tehdidi sıfır olmasa da düşük olarak değerlendiriyorlar. Oxford Üniversitesi araştırmacısı Toby Ord, 2020 tarihli “The Precipice: Existential Risk and the Future of Humanity” (Uçurum: Varoluşsal Risk ve İnsanlığın Geleceği) adlı kitabında, bir pandemiden kaynaklanacak varoluşsal felaketin 100 yıllık riskini 30’da bir, yani yaklaşık %3’lük bir şans olarak belirtiyor.

Teknoloji Dünyasındaki Ayrışma ve “Varoluşsal Güvenlik”

Teknoloji sektöründeki kıyamet tellallarını kaza risklerini değerlendiren bir havayolu bilim insanından ayıran şey, birçok yapay zeka yöneticisi ve araştırmacısının teknoloji henüz gücünü göstermeye başlamadan önce bile bu tür karamsar inançlara sahip olmasıdır. Varoluşsal riskin ciddi bir sorun olduğuna inanıyorlar çünkü her zaman buna inandılar.

Yapay zeka güvenlik şirketi Embroidery’nin kurucularından Zack Korman, “Bu alt kültür geliştiğinde oradaydım” diyor. Yapay zekaya dair varoluşsal risk korkularının kuluçkaya yattığı “etkili altruizm” hareketinin odağı olduğu dönemde Oxford Üniversitesi’nde geçirdiği zamana atıfta bulunuyor. Korman, bugün bu konudaki pek çok düşünürün “tüm olayları on yıldan uzun süredir anlatılan bu hikayenin ışığında yorumladığını” söylüyor.

Ancak dünyadaki birçok üst düzey araştırmacı bu inançları paylaşmıyor. Korkuların son derece abartılı olduğunu söylüyorlar. Silicon Vadisi dışındaki bilim insanları da yapay zeka tehdidi hakkında çok daha farklı bir görüşe sahip olma eğilimindeler.

Oxford’da yapay zeka araştırmacısı olan Branton DeMoss, yapay sinir ağlarının yükselişine atıfta bulunarak, “Tartışmanın bir çerçevesi var ve bu çok özel bir çerçeve. Bu, derin öğrenme çıkış yapmadan önce var olan ve orada kalan bir çerçeve” diyor. “Ve ben buna katılmıyorum.”

Dr. Ord yakın tarihli bir blog yazısında, dünyanın farklı risklerini inip çıkan riskler olarak özetledi: iklim felaketi aşağı, nükleer felaket yukarı. Pandemiler ve yapay zeka hakkındaki kararı ise belirsiz: çok fazla değişim var, ancak genel risklerde net bir yön yok.

Uzmanlar, felaket getirebilecek varoluşsal risklerin sağlam planlar ve erken uyarı sistemleriyle hafifletilebileceğini belirtiyor. Açık ve mevcut bir tehlikeyle karşı karşıya kaldığında (Gezegenle çarpışma rotasındaki bir asteroit gibi), insanlık ortak bir düşmanın arkasında birleşebilir ve çekişmeleri arka plana itebilir.

Dr. Ord, “varoluşsal güvenlik” olarak adlandırdığı kavram için bir günün geleceğini umuyor.

Yazısında, “Bu, varoluşsal riskin düşük olduğu ve düşük tutulduğu varsayımsal bir gelecektir” diye yazdı. Dr. Ord, insanlığın sadece mevcut yangınları söndürmekle kalmayıp, “yangının artık asli bir tehdit oluşturmamasını sağlayacak mekanizmaları da hayata geçireceğini” belirtti.