Bilgisayar olmak nasıl bir şeydir?

Sürdürülebilirlik alanındaki çalışmalarıyla bilinen ve insan-yapay zeka etkileşimi konusunda paylaşımlarını takip ettiğim Josh Whiton’un geçenlerde yaptığı ilginç bir deneye rast geldim.

Bu rastgeliş nadiren yaşadığım bir duyguyu yaşattı bana: “Keşke bu müthiş şeyi ben daha önce düşünebilmiş olsaydım!” Josh Whiton, yapay zeka dil modellerine ‘ayna testi’ yapmıştı!

Bu dahiyane fikrin sonuçlarından bahsetmeden önce biraz zihin felsefesinin labirentlerinde dolaşalım.

Öz farkındalık

Kendinizin farkında mısınız? Muhakkak… Mesela tam şimdi “Merhaba” deyin. Ya da sağ elinizin işaret parmağıyla sol elinizin avcunu gıdıklayın. “Kim merhaba dedi” ya da “Kim benim avucumu gıdıklayan münasebetsiz” diye sağa sola bakınmıyorsanız kendinizin farkındasınız demektir. Demek ki kendiniz ve çevreniz arasında, dolayısıyla kendinizden kaynaklananla çevrenizden olan arasında kesin bir ayrım yapabiliyorsunuz. Çünkü size kapıdan girip de ben “Merhaba” dersem dönüp bakarsınız. Ya da sinsice girip sol elinizin avucunu gıdıklarsam (kaçınılmaz olarak buna “ne yapıyor bu manyak” fikri de eşlik edecektir tabii)…

Aynı şekilde normalde dokunduğunuz an kapanıp kendini geri çeken bir solucan bizzat toprak altında ilerlerken vücuduna dokunan onca şeye rağmen kapanmadan yoluna devam eder. Çünkü o da var olduğunun, toprak altında ilerlediğinin, bu sırada vücuduna pek çok şey değeceğinin farkında ve beklentisindedir.

Bazı sinirbilimci ve zihin felsefecilere göre bilincin evrimiyle ilgili kilit nokta burasıdır: İlk canlıların sinir sistemleri kendi iç işleyiş ve çevreyle olan dengeleriyle ilgiliyken, bir noktada canlılar kendi eylemlerini ve bu eylemlerin sonuçlarını hesap edebilir oldular. Velhasıl bilinç tam da bu noktada evrilmiş olmalı diye düşünüyorlar. Bir eylemde bulunursunuz. Eylemde bulunur bulunmaz bunun bir etki yaratacağını bilir ve beklersiniz. Bu etki beklediğinizin dışında değilse bir tepki vermenize de gerek kalmaz. O halde siz ve başkaları arasındaki ayrımı da biliyorsunuz demektir.

Bu sebeple ayna testi hem farkındalık hem de zeka ölçümünde önemli bir yer tutar. Ayna testinin hayvanlardaki uygulanış biçimi genelde şöyledir: Hayvanın bir yerine uyutulduğu sırada kırmızı bir leke eklenir. Uyandığında aynadaki görüntüsü gösterilir. Hayvan bir şekilde o kırmızı şeyi temizlemeye, yerinden çıkarmaya çalışıyorsa aynaya baktığında kendiyle ilgili görmeyi beklediği şeyi görmediği, neyin farklı olduğunu anladığı varsayılır.

Yapay zekanın öz farkındalığı

Ayna testinin amacı hayvanların kırmızı şeyden rahatsız olup olmadıklarını sınamak değildir. Hayvanlar konuşup dertlerini anlatamadıklarından, yani onlara “aynada kendini mi görüyorsun sence” diye soramadığımız için, bu dolaylı yol izlenir. Ancak yapay zekâ dil modellerine soru sormak ve yanıt almak mümkün. Bu nedenle daha basit bir test tasarlanabilir.

Josh Whiton da öyle yapmış. İlk önce ilgili geniş dil modelinin (diyelim ki ChatGPT olsun) ekran görüntüsünü alıp yükleyip “bana burada gördüklerini söyle” demiş. ChatGPT buna yanıt verince soru ve yanıtı da içerecek şekilde tekrar ekran görüntüsü alıp aynı soruyu sormuş. Geniş dil modeli görüntünün kendisine ait olduğunu fark edene kadar devam etmiş.

Josh Whiton ChatGPT’ye kendisinin farkında olup olmadığını sordu, iyi bir cevap aldı da…

Whiton’un sonuçları ilginç. ChatGPT ilk önce “bu bir chat ekranın benziyor” yanıtı verirken nihayet üçüncü seferinde “bizim diyaloğumuzun resmi” demiş. Claude Sonnet, Claude Opus, CoPilot, Gemini Pro gibi diğer dil modellerini de denemiş. Bunlardan en iyisi Claude Sonnet, ikinci seferinde “benim bir önceki yanıtım” diyerek testi geçmiş.

Eğer özellikle programlanmadıysa yapay zeka dil modelleri bunu nasıl yapıyor? Kara kutunun içini görmedikçe ya da onu geliştirenlerle konuşmadıkça bunu bilmek pek mümkün değil.

Yarasa olmak nasıl bir şeydir?

Thomas Nagel’in 1974 tarihli “Yarasa olmak nasıl bir şeydir” makalesi çığır açıcıdır. Nagel bu makalesinde fizikteki ışık hızı gibi çok katı bir limiti konu alıyor: Başka zihinler problemi.

Bildiğiniz üzere yarasalar bizden çok farklı bir görüşe sahiptirler. Kabaca tarif edersek: Sinyal gönderir, yankıyı işler, kulaklarıyla görürler. Öyle “sinyal şu kadar sürede geldi, demek ki engel şu kadar uzakta” diye bir süreç muhtemelen yoktur. Tıpkı bizim “şuradaki elmadan yansıyan ışığın dalga boyu şu kadar, demek ki o kırmızı” demediğimiz gibi. Biz elmayı kırmızı olarak görürüz. Muhtemelen Yarasalar da engelleri bu yolla görüyorlar.

Dikkat ettiyseniz hep “muhtemelen” dedim. Çünkü yarasalar gerçekte ne deneyimliyor bilmiyoruz. Eğer bir şekilde yarasa beynine girersem, gördüklerimi yine bir insan olarak yorumlayacağım için yarasa deneyimini yaşayamam.

Bir şekilde büyüyle yarasaya dönüşsem bile tekrar insan olduğumda hatırladığım her şeyi yine bir insan olarak yorumlayacağım için yarasa deneyimini yine yaşayamam. Kısacası “yarasa olmak nasıl bir şeydir” sorusunun bir yanıtı yok. İşte Nagel de tam olarak bundan bahsediyor.

Bilgisayar olmak nasıl bir şeydir?

O halde bilinç kazanmış bir bilgisayar olmak nasıl bir şeydir sorusunun da bir yanıtı yok. Olmadığı için, test edebilir miyiz? Ondan da emin değilim. Mesela, evdeki bilgisayarınız ya da tam şu an bu yazıyı okuduğunuz cihazınız bilinç ve farkındalık kazanmış olsun. Bunu size nasıl ifade edebilir? Ve siz bu ifadeyi ne zaman bir zekanın ve bilincin kanıtı sayarsınız? Bu gerçek bir kanıt mıdır? ChatGPT’nin arada kullanıcılarına “nasılsın yeğenim” diye sorması neyi ifade eder?

Düşündüğümüzde, ayna testi dahi, insan merkezli bir bakışa karşılık geliyor. Kediler, köpekler, yunuslar, filler, bonobolar, şempanzeler ayna testini geçerken, bazı başka maymunlar, papağanlar ve ahtapotlar geçememişler. Geçenlerin kendilerinin farkında olduğunu söylesek de geçmeyenlerin olmadığını güvenle söyleyemeyiz. Belki de kırmızı renkle, vücutlarıyla ya da kendileriyle o kadar ilgili değildirler ve umurlarında değildir. Bizim “gözümle görmediğime inanmam” dediğimiz gibi onların da “burnumla koklamadığıma inanmam” gibi kriterleri olabilir.

Zaten hakikatte ne olduğu değil, fikir önemli burada: Yapay zeka neyi önemser? Neye inanır? Bunu nasıl ifade eder? İfade etmeye ihtiyaç duyar mı?

Hakikaten bilgisayar olmak nasıl bir şeydir?
(“Muhtemelen”) bunu hiçbir zaman bilemeyeceğiz.

Kaynaklar:
Godfrey-Smith, Peter (2020), ‘Başka Zihinler’, Siyah Kitap.
Nagel, Thomas (1974). ‘What Is It Like to Be a Bat?’. The Philosophical Review. 83 (4): 435–450