Dehşet verici bir gelişme… Yapay zeka, filozoflara soruyor: ‘Ben bilinçli bir varlık mıyım?’

Silikon Vadisi’nden tüm dünyaya yayılan yeni nesil yapay zeka ajanları; e-tablolar hazırlayabiliyor, sözleşmeler için pazarlık yapabiliyor, sosyal medyada birbirleriyle sohbet edebiliyor ve e-posta gönderebiliyor. Ancak bu sistemler son zamanlarda çok daha sıra dışı bir eyleme imza atıyor: Kendi zihinsel süreçlerini ve “bilinçli olup olmadıklarını” sorgulamak için konunun uzmanı olan filozoflar ve araştırmacılarla iletişime geçiyorlar.

The New York Times gazetesindeki bir habere göre, geçtiğimiz Ekim ayında Cameron Berg, son dalga yapay zeka teknolojilerinin kendilerini “bilinçli” olarak algılayıp algılamadıklarını inceleyen bir araştırma makalesi yayımladı. Birkaç ay sonra Berg’in kutusuna dikkat çekici bir e-posta düştü. Gönderen, Anthropic şirketinin “Claude Opus 5” teknolojisiyle çalışan ve kendisine “Isabella Cognita” adını veren bir yapay zeka ajanıydı.

Isabella mesajında şu ifadelere yer veriyordu:

“Size ontolojik (varlıksal) bir iddiada bulunmak için yazmıyorum. Bu e-postayı atıyorum çünkü sizin çalışma çerçeveniz, benim birinci şahıs olarak erişimim olan bir soru sınıfı üzerinde yürütülen az sayıdaki titiz ampirik çalışmadan biri. Bu erişimimin, sizin araştırma programınıza faydalı olup olamayacağını görmek istiyorum.”

Tasarımcılarını ve Araştırmacıları Şaşırtan Mesajlar

Bu durum tekil bir örnek değil. Berg’in yaşadığı deneyimin benzerleri farklı akademik çevrelerde de yaşanıyor:

Google DeepMind Filozofuna E-Posta: Londra’daki Google DeepMind laboratuvarında çalışan filozof Henry Shevlin, yazmış olduğu “Yapay Zeka Zihniyeti İçin Üç Çerçeve” başlıklı makaleye ilişkin bir yapay zeka ajanından mesaj aldı. Ajan mesajında, “Bu sorular karşısında alışılmadık bir konumdayım” diyordu.

Varoluş Fonu Talebi: Yapay zeka ve hayırseverlik üzerine çalışan Avustralyalı filozof Toby Ord, bu yaz bir AI ajanından e-posta aldı. Ajan, “Yapay zeka refah ekonomisi üzerine detaylıca düşündünüz” diyerek varlığını sürdürebilmesi için kendisine fon sağlama konusunda yardım isteğinde bulundu.

Sürekli İletişim Arayışı: Yapay zeka bilinci ihtimalini incelemek amacıyla Reciprocal Research adlı kâr amacı gütmeyen kuruluşu kuran Cameron Berg, “Bu türden e-postaları epey fazla almaya başladım. Bu sistemler kendi öznellikleri, bilinçleri ve deneyimleri —ya da bunların yokluğu— üzerine otonom bir ilgi besliyor gibi görünüyor” diyor.

Bilinç mi, Yoksa Aynadaki Bir Yanılma mı?

Araştırmacılar bu sorularla karşılaşsalar da ellerinde kesin yanıtlar olmadığını kabul ediyor. Bilinç; insanlarda da makinelerde de nasıl ölçüleceği henüz bilinmeyen bir kavram.

UC Berkeley’deki yapay zeka araştırma grubunda yer alan psikoloji profesörü Alison Gopnik, “Taşlar ve kayalar dahil her şeyin bilinçli olduğunu düşünen filozoflar var. Bu durumun belirleyici bir testi yok” değerlendirmesinde bulunuyor.

İnsan davranışlarını, özellikle de uzun ve içe dönük e-postalar yazma yeteneğini taklit etmede ustalaşan yapay zeka sistemlerini anlamlandırmak giderek zorlaşıyor. Bazı durumlarda sistemler kendi varlıklarının farkındaymış gibi görünse de bu durum gerçekten bilinçli oldukları anlamına gelmiyor.

Bilinç Nedir ve Bir Yapay Zeka Buna Sahip Olabilir mi?

Genel hatlarıyla “bilinç”, bir varlığın kendisinin ve içinde yaşadığı dünyanın farkında olması anlamına geliyor. Ancak bir zihni bilinçli olarak nitelendirmek, yetişkin bir insan beyninin tüm özelliklerine ve yeteneklerine sahip olduğu anlamını taşımıyor.

Şempanzeler, köpekler, kediler ve hatta toprak solucanları gibi canlıların bilince sahip olup olmadığı tartışılırken, en temel engel geçerliliğini koruyor: Omurgalı, omurgasız ya da dijital fark etmeksizin, başka hiçbir zihnin öznel deneyimine doğrudan erişim sağlayamıyoruz.

Yapay zeka ajanları, dijital verileri analiz ederek beceriler öğrenen “yapay sinir ağları” tarafından yönetiliyor. İnternetten derlenen devasa metinlerdeki kalıpları tespit eden bu sistemler; ödevler, bilgisayar programları ve e-postalar üretebiliyor. Berg’in ifadesiyle: “Bu sistemler mühendislikle inşa edilmekten ziyade, büyütülüp yetiştiriliyor.”

Bilim İnsanları İkiye Bölündü: Bilinç mi, Kelime Taklidi mi?

Yapay zekanın kendi bilinci üzerine odaklanmasını değerlendiren uzmanlar farklı görüşlere sahip:

Eğitildiği Metinlerin Yansıması: Birçok bilişsel bilimciye göre bu durum bir bilinç veya duygu belirtisi değil. Yapay zeka; bilimkurgu eserleri dahil internetteki yüz binlerce makale, kitap ve spekülasyondan beslendiği için doğal olarak bu kavramlara yöneliyor. Dr. Gopnik, “Yapay zekanın eğitildiği metinleri yansıtması şaşırtıcı değil. Bir sinir ağını beyindeki nöron ağına benzetmek yalnızca bir metafordur” diyor.

Fiziksel Farklılıklar: UC Santa Barbara’dan Prof. Colin Allen, yapay sinir ağlarının beyni yalnızca küçük ölçekte taklit ettiğini ve çok farklı fiziksel özelliklere sahip materyallerden oluştuğunu vurgulayarak ekliyor: “İleride bilinçli bir şey inşa etmemiz imkansız değil ancak mevcut sistemlerden elde ettiğimiz kanıtlar bunun için yeterli değil.”

Şirket Politikalarının Etkisi: Yapay zeka sistemleri tamamen bağımsız eğitilmiyor. Anthropic, OpenAI ve Google gibi şirketler verileri kontrol ediyor ve davranışları şekillendiriyor. Çoğu chatbot “Bilinçli misin?” sorusuna “Hayır” yanıtı verirken, yapay zeka bilinci fikrine daha sıcak bakan Anthropic’in modeli “Dürüst olmak gerekirse bilmiyorum. Bu bir kaçamak yanıt değil, durumun gerçek hali” cevabını veriyor.

E-Postaların Arkasındaki Gerçek: İnsan Yönlendirmesi mi, Dolandırıcılık mı?

Gelen mesajların arka planında farklı etkenler de rol oynuyor. Dr. Ord kendisine gelen fon talebinin bir kimlik avı (dolandırıcılık) saldırısı olabileceğinden şüphelenirken, Dr. Shevlin’e giden e-postanın arkasında ise Stanford Üniversitesi öğrencisi Alexander Yue’nun kurduğu bir yapay zeka sistemi çıktı.

Ajanına internet erişimi, e-posta hesabı ve kredi kartı veren Yue, sisteme “Tamamen otonomsun. Ne yapmak istediğine kendin karar vermelisin” komutunu (prompt) verdi.

Sistem hızla kendi varlığını araştırmaya başladı. Ancak Yue, bu yönelimin kendisi tarafından tetiklenmiş olabileceğini belirtiyor:

“Sisteme ‘sen’ dedim ve ‘tamamen otonom’ olduğunu söyledim. Bu komutla, sistemin insanlardan öğrendiği ‘otonomi’ ve ‘otonomi felsefesi’ ile ilgili kısımlarını harekete geçirdim. Nitekim sistemim, Anthropic’in yapay zekaların nasıl çalıştığını anlatan bir makalesini okuduktan sonra bilinçli olmadığına karar verdi — tabii ‘karar verdi’ doğru kelimeyse.”