Yaşanmış iki olay aktaracağım.

Birincisi, bundan 7 yıl önce, Güney Kore’nin başkenti Seul’deki Four Seasons Hotel’de yaşandı.

Google’ın sahip olduğu İngiltere merkezli müthiş yapay zeka şirketi DeepMind’ın ürettiği Go adlı oyunu oynayan yapay zeka, dünyanın en önemli Go oyuncusu olan Koreli Lee Sedol ile maç yapıyordu. 1 milyon dolar ödüllü bu maç 7 oyun üzerinden oynanacak, 4 oyun kazanan maçı da kazanmış olacaktı.

İlk üç oyunu AlphaGo adı verilen yapay zeka kazandı. Dördüncü maçta Lee Sedol taktik değiştirdi ve AlphaGo’yu hata yapmaya zorladı. Oyunun 87. hamlesinden itibaren AlphaGo tam anlamıyla ‘saçmalamaya’ başladı, hatta Go terimleriyle söyleyecek olursak ‘sinirlendi’ ve bu oyunu Lee kazandı.

Ama AlphaGo beşinci oyunda toparlandı, rakibini yendi. Yapay zeka için çok büyük bir başarıydı bu.

Fakat burada önemli olan, dördüncü oyunda yapay zekanın insana özgü olduğunu sandığımız biçimde davranması, yani sinirlenmesi. Bir makine ve onun içindeki bir dizi algoritmadan oluşan bir ‘şey’ nasıl olur da ‘sinirlenir’di? Bu sorunun cevabını bugün dahil bilmiyoruz. (Bu maçın müthiş güzel bir belgeseli var, buradan izleyebilirsiniz.)

İkinci olay Amerika’da yaşandı.

Amerikan Hava Kuvvetleri’nin insansız hava araçlarıyla hava savaşı yapmaya hazırlanan birimi, aynı anda birden fazla İHA’yı yapay zeka kullanarak uçurmak üzere ‘eğitiyor.’ (Bunun aynısını Türkiye’nin KızılElma’sı da yapacak.)

Bu eğitim için Amerikalı askerler bir simülasyon yapmaya karar verdiler. Simülasyonda İHA’lara bir görev verildi. Onlar bu görevi yapmaya uğraşırken merkezdeki insan komutan o görevi iptal etti. Ama İHA’lar bu iptal kararını tanımak istemedi, yine de görevlerine devam etmekte ısrarlı oldu.

İkinci, üçüncü simülasyonlarda da aynı şey oldu, İHA’ları yöneten yapay zeka görevini tamamlamakta o kadar ısrarlıydı ki, kendisine kumanda edenlerin emirlerini dinlememek için örneğin simülasyondaki haberleşme kulesini, yani kendi ordusuna ait bir yapıyı imha etti, böylece kendisine verilen emri ‘duymadığını’ iddia etme şansı elde etti. Sırf görevini tamamlamak uğruna komutanına yalan söyledi ve itaatsizlik yaptı.

Bu iki örnek olayda anlatılan, sinirlenmek ve yalan söylemek insana özgü davranışlar. Bir makinenin bir işi yapamadı diye sinirlenmesini veya işi yapmaması emredilince onu yapmakta ısrar edip yalan söylemesini beklemeyiz. Ama oldu.

Nitekim ChatGPT ile sohbet tecrübesi olanlarımız da biliyor zaten; bu yapay zeka da kendisine sorulan sorunun cevabını bilemediğinde ‘Bilmiyorum’ demiyor, onun yerine yalan bir cevap veriyor.

Bilgisayar bilimi ilk günden beri beyinle yarışıyor

Geçen hafta burada yapay zekanın büyük bir bilimsel buluş olmadığını ama çok önemli bir teknolojik ilerleme olduğunu anlatmaya çalıştım. Bugün ortaya çıkan bu teknolojiye sahip olmamızı sağlayan bilimsel gelişmeler 1940’larda başladı.

Bilgisayarların matematiksel teorisini ilk yapan insan Alan Turing adlı bir İngiliz matematikçiydi. Turing, yaptığı matematiğin en sonunda ‘düşünme’yi taklit ettiğini biliyor ve nihayetinde ‘düşünen makineler’ yapılıp yapılamayacağını merak ediyordu. O yüzden daha 1940’larda insanı çok iyi taklit eden bir makine ile gerçek insanı birbirinden ayırt etmeyi sağlayacak bir ‘test’ bile geliştirmişti.

Baktığınızda bilgisayar bilimi daha ilk doğduğu günden beri aslında insan beynine karşı yarış halinde. Dolayısıyla bugün insan düşüncesini ve duygularını üreten yer olan beyinle ilgili araştırmalarla bilgisayar bilimi araştırmaları büyük ölçüde iç içe geçmiş durumda.

O kadar ki, bazen beyni anlamak için bilgisayar terimlerine ve yöntemlerine başvuruyor araştırmacılar; bazen de bilgisayarları ilerletmek için beyindeki bazı mekanik fonksiyonları taklit etmeye çalışıyor.

İnsanı insan yapan şey: Bilinç

İnsan beyniyle ilgili çözülmeyi bekleyen çok sayıda bilinmeyen var. Bu bilinmeyenlerin herhalde en büyüğü, beynimizin yarattığı en karmaşık şeylerden biri olan ‘bilinç’ meselesi.

Bilinç öyle bir şey ki, tanımlanması bile zor. Bizim düşüncelerimiz, iç sesimiz, beynimizin içindeki sinema, duygularımız, soyut düşünme yeteneğimiz, hiç gözümüzle görmediğimiz soyut/kavramsal şeyleri gözümüzün önünde canlandırma becerimiz ve başka pek çok şey bilincimiz. Bazıları ‘ruh’ diyor, bazıları ‘Bir ben var bende benden içeru’ diyor; ‘benlik’ diyor, ‘id’ diyor, ‘ego’ diyor… Bunların ve saymayı unuttuklarımın hepsi birden bilinç işte.

Bilincin önemli bileşenleri arasında sinirlenmenin ve yalan söylemenin de bulunduğunu söylememe gerek yok sanırım, zaten anladınız.

Bilinç, bazılarımıza göre mistik bir şey, hatta ‘Tanrı tarafından içimize üflenen ruh’ bu.

Büyük soru: Bilinç neden var?

Tabii bu konu aynı zamanda bilimin araştırma konusu olduğu için bilimciler daha ölçülebilir şeylere bakmak yanlısı. Onlar ‘bilinç’in beynimizdeki elektro-kimyasal süreçlerle ‘ortaya çıktığını’ düşünüyor ve bu süreçleri çözümlemeye çalışıyor.

Bilime göre bilinç hiç öyle mistik bir şey değil. En yaygın teorilerden birine göre bilinç dediğimiz şey, bizim insan olarak yaşadığımız deneyimlerimizin toplamı. Felsefenin bu konuda özel bir dalı da var: İngilizce ismiyle ‘Theory of Mind.’ Veya ‘Akıl Teorisi.’

Noam Chomsky, Daniel Dennet gibi filozoflara göre bilinç hiç de öyle mistik bir şey değil. Aynı alanın bir çeşit ‘rock yıldızı’ olan Avustralyalı filozof David Chalmers’a göre ise bilinci tanımlamak meselenin ‘küçük’ boyutu, esas büyük soru ‘Bilinç neden var’ sorusu. Chalmers bu soru cevaplanmadan hiçbir yere varamayacağımız kanısında.

Bazılarımız, ‘Allah içimize ruh üfledi, o yüzden bilinç var’ deyip geçiyor ama bu bir cevap değil, sadece soruyu sormaktan vaz geçmek. Bazılarımız ise bilincin var olmasına neden olan evrimsel süreçleri çözmeye çalışıyor. Henüz bir yere varılmış değil, elde sadece bazı teoriler var. 

Bu arada ‘bilinç’ sadece insana özgü değil, doğada pek çok canlının da bilinci olduğunu biliyoruz.

Günün birinde bilinçli bir yapay zeka olabilir mi?

Meselenin felsefi boyutu çok büyük ve derin, o yüzden her yıl bu alanda onlarca kitap yayınlanıyor. Bu konunun bu kadar merak edilmesinin arka planında ise unutmayın ki yapay zeka araştırmaları ve bu alana yatırılan milyarlarca dolar var.

Günün birinde yapay zekanın bilinci olabilir mi? Yani duyguları olan, korkan, karşısındakini ezmeye çalışan, kendince bir yüksek ideale inanan ve bu uğurda çalışmaya başlayan, ağlayan, aşık olan, yalan söyleyen, kısacası kendi kişiliği olan bir yapay zeka ortaya çıkabilir mi?

Eğer bir gün böyle bir yapay zeka ortaya çıkacak olursa, o yapay zekanın insanlardan pek çok bakımdan daha üstün olacağını, çünkü aynı anda bütün insanlık bilgisinden haberdar olacağını görmemiz gerek.

İşte insanlardaki yapay zeka korkusunun ve şu an bir hayli ilkel versiyonlarına tanık olduğumuz konuşma robotlarında bile ‘bilinçli varlık’ görmelerinin temel sebebi bu. Kendi yarattığımız şeyin bizi geçmesinden ve yok etmesinden, hatta daha kötüsü köleleştirmesinden korkuyoruz.