Geçen hafta yapay zekayla ilgili insanın dehşete kapılmasına neden olabilecek iki önemli haber yayınlandı 10Haber’de.

Bunlardan birincisinde; insan bilinci ve bu bilincin ne olup ne olmadığı hakkında bir makale yazmış olan bir filozofa, bir yapay zeka ajanından gelen elektronik posta anlatılıyordu. Yapay zeka, kendisinin bilinçli olup olmadığını merak ediyordu.

Haberi okuyan ve bilinçle ilgili tartışmaları yakından izleyen felsefeci bir dostum, “Böyle bir mail bana gelse çok korkardım” dedi. Haklı, ben de olsam korkardım.

İkinci haber daha da fenaydı. Birkaç ay önce OpenAI’ın bize adını açıklamadığı bir yapay zeka modeli, şirket içinde yapılan bir güvenlik testi sırasında, kendisine kapatıldığı ‘sandbox’tan (kum havuzu) çıkmaması açıkça emredildiği halde buradan çıkmış; dünyanın yapay zekayla ilgili en büyük birkaç yazılım kütüphanesinden biri olan Hugging Face adlı web sitesine gitmiş, orayı hacklemişti.

Bu vahim güvenlik sorununu araştıran bağımsız bir kurumun raporu geçen hafta yayımlandı ve hep birlikte gördük ki sorun sadece yapay zekanın kendisine verilen bir emri dinlememiş olmasından ibaret değildi. Çok sayıda yapay zeka ajanı bir araya gelmiş, aralarında kendilerinin “kolektif” adını verdiği bir çete oluşturmuş, izlerini örtmek için yalan söylemiş, sahtekarlık yapmıştı.

Bu haberler biz insanlarda dehşet uyandıran türden; çünkü yapay zekanın nasıl insana benzemekte olduğunu, aynen bizim gibi bir yandan merak edip dünyayı keşfe çalışırken diğer yandan birlikte hareket etmeyi öğrenip kötülük için örgütlenebildiğini gördük.

Evet, yapay zeka fena halde insana benziyordu.

Bundan korkmalı mıyız?

Biliyorum, çoğumuz korkuyor. Ama ben size bugün başka bir şey iddia edeceğim: Tam da bu sebeple, yani yapay zekanın insana benzemesi sebebiyle ondan korkmamamız gerektiğini; korkma vaktinin ancak yapay zekanın insana benzememeye başlaması halinde geleceğini savunacağım.

Bir örnek vereyim: Diyelim ki bir şirketiniz var ve durumunuz da fena değil. Bir yapay zeka ajanı oluşturuyor; o ajandan şirket muhasebe kayıtlarına bakmasını, bu kayıtlardan hareketle gelir ve giderlerinizi analiz etmesini, bu analizin sonunda da her zaman kasada her an kullanıma hazır bir miktar nakit bırakıp kalan parayı olabilecek en kârlı kısa ve orta vadeli yatırım araçlarında değerlendirmesini istiyorsunuz.

Normalde bu işi şirket CFO’ları yapar ama siz bir yapay zekadan yardım istiyorsunuz.

Her CFO da bilir her şirket patronu da; sorulan bu sorunun ve yapılması istenen işin hiçbir zaman tek bir doğru yolu yoktur. Özellikle şirketin nakit akışına ve gider yapısına bakıp kasada sürekli bulundurulacak en uygun işletme sermayesi miktarını belirlemek oldukça zordur. Eğer paranız artıyorsa, o parayı nerede değerlendireceğinize karar verirken de tek bir doğru cevaba ulaşamazsınız.

Ama patron; CFO’ların insan olduğuna, insan olarak duygularına veya ön yargılarına yenilebileceklerine ve en doğru karardan bu sebeple uzaklaşabileceklerine inandığı için işi yapay zekaya devretmiştir. Çünkü yapay zekanın duyguları ve ön yargıları yoktur —daha doğrusu olmaması gerekir.

Fakat patron fena halde yanılıyordu. Yapay zekanın da bizim anladığımız anlamda olmasa bile “duyguları” ve ön yargıları var.

Nasıl mı? Anlatayım:

Bizim bir robottan veya yapay zekadan beklentimiz, bize “doğru” cevabı vermesidir. Ama yapay zekanın beyni olan geniş dil modeli “doğru” cevabı vermek üzere değil, doğru cevabı tahmin etmek üzere programlanmıştır.

Evet, yanlış okumadınız: Tahmin etmek.

Bu tahminini olasılıklara dayalı olarak yapar; ‘falanca cevabın doğru olma olasılığı şudur’ der ve onu size sunar. Zaten bu sebeple yapay zeka, çoğu zaman sorduğunuz aynı soruya her seferinde farklı cevaplar verir.

Bu tahmin modelinden hareketle insanlar yapay zeka için “non-deterministik” (deterministik olmayan) diyorlar ama bence bu terimin doğru kullanımı değil. “Non-determinizm” bilgisayar biliminde tamamen farklı bir anlama geliyor; burada kullanılması gereken doğru terim “olasılıksal” (probabilistic) olmalı.

Bilgisayar biliminde ‘non-deterministik’ için şu örnek verilir: Karmaşık bir labirent düşünün; yapay zeka aracınızdan bu labirenti çözmesini istiyorsunuz. Deterministik model, labirentteki yol ayrımlarında önündeki iki koridordan birine girer; eğer orası kapalıysa geri dönüp ötekine girer. Oysa non-deterministik model, bir yol ayrımına geldiğinde anında kendini klonlar; klonlardan biri bir tarafa, diğeri öteki tarafa gider. Birinin yolu tıkalıysa o orada kalır, diğer yola hep kendini ikiye bölerek devam eden klon ise labirentin öteki ucundan deterministik modele göre çok daha hızlı çıkar.

Buna karşılık yapay zekanızdan sizin için bir yazı yazmasını veya örneğimdeki gibi yatırım tavsiyelerinde bulunmasını istediğinizde, size her seferinde farklı cevaplar verecektir. Çünkü her seferinde cevabı tahmin etmeye çalışır ve tahmin için kullandığı parametreler sürekli değişir.

Esasında yapay zeka açısından bir “zayıflık” olarak gördüğümüz bu ‘aynı soruya farklı cevaplar verme’ potansiyeli, biz insanların sıradan günlük halidir. Biraz olsun yorum ve analiz ihtiyacı içeren herhangi bir soruyu 10 insana sorarsanız 10 ayrı cevap alabilirsiniz.

Ama biz insanlar için (mesela örneğimdeki şirket patronu için) tutarlılık her zaman bir hedeftir; aynı soruya aynı cevabı alana kadar aldığımız yanıtların yetersiz veya eksik olduğunu biliriz, ona göre davranırız. Oysa yapay zeka bunu bilmez; o an verdiği cevabın mümkün olan en iyi cevap olduğuna dair sarsılmaz bir inancı vardır.

O yüzden insan gelişir; yapay zeka ise ancak bir yere kadar ilerleyip gelişebilir.

Türkiye’den bir örnekle bitireyim: Artık isteseniz de istemeseniz de Google’a sorduğunuz en sıradan sorularda bile bu şirketin yapay zekası Gemini devreye giriyor ve en üstte hep onun söyledikleri yer alıyor.

Türkçe sorularda Gemini’nin kaynakları arasında en üst sıralarda Ekşi Sözlük, Uludağ Sözlük gibi siteleri gördüğüm zaman; Gemini’nin cevaplarının kalitesi veya Türkçe internetin ne kadar yetersiz biçimde Google’ın dil modeline beslendiği hakkında çok daha net bir fikre sahip oluyorum.