Entropiye devam: Bilgi arttıkça entropi neden artar? Çünkü bilgi ile gerçek aynı anlama gelmez
Haftalardır burada entropi kavramının çeşitli yönlerini anlatmaya çalışıyorum.
Hatırlayalım, fizikte entropi “iş”e dönüşemeyen enerji demekti.
Evrende enerji kullanıldıkça bir kısım enerji “iş”e dönüşemediği için evrende entropi miktarı, yani düzensizlik veya kaos hali sürekli artıyordu.
Geçen hafta dünyanın en pahalı otomobilinden hareketle, insanların bilgiyi kullanarak atomları bir araya getirdiğini ve bu yolla düzensiz yerel evreni kendilerince düzenli yaptıklarını anlattım.
Yani insan “bilgi” sayesinde entropiyle mücadele ediyordu. Geçen hafta bu çabanın da beyhudeliğini yazmaya çalıştım: Bu mücadele sırasında ister istemez enerji kullanıldığı için bir tarafı düzenli hale getirmenin bedeli olarak başka tarafta düzensizlik artıyordu.
Ama bunlar fizik bilimindeki tanımlar.
Entropi kavramı o kadar önemli ve güzel bir kavram ki fizik dışı bilim alanlarında da sık sık kullanılıyor.
Örneğin Türkiye’de pek az bilinse ve hakkında pek az konuşulsa da, günümüz dünyası açısından son derece önemli bir teori var. Buna “Enformasyon Teorisi” diyoruz. 40’lı yıllarda Claude Shannon tarafından ortaya atılan bu teori doğaya çok farklı bir bakış açısı sunuyor ve bu bakış açısı bugün “kuantum enformasyon teorisi” adı verilen teoriyle çok daha genişlemiş durumda.
Shannon’un enformasyon veya “bilgi” teorisi adı üstünde bilgiyi ölçülebilir, sayılabilir kılar ve dolayısıyla matematiği yapılabilir bir nicelik haline getirir.
Bu teoride entropinin nasıl tanımlandığını bir örnekle anlatmalıyım:
Diyelim birimiz yazı-tura atıyoruz, diğerimiz zar.
Yazı-tura atışının içerdiği bilgi miktarı ve dolayısıyla entropi düşüktür. Buna karşılık zar attığımızda ortaya altı olası durumdan biri çıkacağı için hem zar atmanın içerdiği bilgi miktarı daha çoktur hem de entropi miktarı.
Shannon’un tanımından hareketle enformasyon teorisindeki entropi için belki şöyle diyebiliriz: Enformasyon teorisinde entropi her hangi bir olayda olası bütün sonuçları göz önüne aldığımızda ilettiğimiz ortalama bilgi miktarıdır.
Bu tanımı mefhumu muhalifinden, yani tersinden yapmaya kalktığımızda şöyle diyebiliriz: İlettiğimiz bilginin çoğu entropidir, bir anlamda “iş”e yaramaz bilgidir.
Yapay zekanın bilgisi
Biliyorsunuz heyecanı biraz dinmiş de olsa genel bir yapay zeka korkusu var dünyada.
Bugünkü muazzam yapay zekayı ortaya çıkaran bilimsel atılımı yapan üç isim var. Geoffrey Hinton, Yoshua Bengio ve Yan LeCun.
Elbette yapay zekanın başka kurucu babaları da var ama bu saydığım üç isim bugün sahip olduğumuz öğrenen algoritmaları mümkün kılan matematiği yapan insanlar.
Bu üç isimden ikisi yapay zekanın insan zekasını geçeceğini ve bunun da insanlık için büyük bir tehlike oluşturacağını, ‘Terminator’ filmindeki gibi yapay zekanın insanlığın sonunu getirebileceğini, insanları köle yapabileceğini söylüyor ve en azından son üç yıldır yapay zekaya sınırlayıcı kurallar getirilmesini istiyor, bu konuda kampanyalar yürütüyorlar.
Buna karşılık üçüncü isim olan Yan LeCun hiç de aynı fikirde değil. LeCun yıllardır Facebook’un (Meta) yapay zeka ArGe’sini yönetiyor ve çalışmalarını ilerletmek için uğraşıyor. Herkes gibi onun da hedefi “genel yapay zeka” (GAI) adı verilen, insan seviyesinde yapay zekaya ulaşmak.
Yapay zeka bugün bazı spesifik konularda insandan daha iyi. Örneğin yapay zeka röntgen filmine bakıp kimlerin zatürree olduğunu teşhis etmekte çok daha başarılı sonuçlar alıyor insan doktorlara göre. Satrancı, Go oyununu vs insandan daha iyi oynuyor.
Ama ne zaman sıra farklı farklı dallardan bilgiyi bir araya getirip yepyeni bir senteze ulaşmaya gelse, yapay zeka orada insanın gerisine düşüyor. Yapay zeka analiz ve dili kullanma becerisi artsa bile daha önce başka kimsenin aklına gelmemiş bir çözüm çıkarma konusunda geri kalıyor.
Yan LeCun bunun sebebini çok meşhur bir videosunda anlatırken enformasyon teorisine ve bu teorinin enformasyonu ölçülebilir hale getirmesine başvuruyor. LeCun’a göre internet üzerinde yapay zekanın eğitilmesi için kullanılabilir durumda olan “enformasyon”la herhangi bir bebeğin doğduktan dört yaşına gelene kadar duyu organları aracılığıyla edindiği “enformasyon” eşit. Dolayısıyla ona göre insanların yaratıp internete koyduğu bilgilerle eğitilecek bir yapay zeka en çok dört yaşında bir çocukla kıyaslanabilir.
Videoyu buraya da koydum. Bu hesap benim çok hoşuma gidiyor; çünkü hepimiz için geçerli bir durumu ortaya koyuyor: Sahip olduğumuz bilginin ezici çoğunluğunu online değil off-line tutuyoruz. Yani beynimizde saklıyoruz.
Farkında olalım olmayalım, bütün yetişme sürecimiz, hatta bütün hayatımız boyunca edindiğimiz en önemli bilgi veya beceri, önümüze yığın olarak gelen ve enformasyon teorisine göre çoğunluğu entropiden oluşan bilginin içinden gerçeği, işe yarar olanı süzme becerimiz.
Önce basit, sonra karmaşık gözüken bir örnek vereyim:
Az önce evimizin balkonundaydım ve balkondaki çiçek ve ağaçların yapraklarına baktım. Gözümden içeri beynime bir sürü “enformasyon” girdi ve hemen tamamı girdiği gibi çıktı, beynim aynı tecrübeyi daha önce defalarca yaşadığı için bu “çöp bilgi”yi neredeyse anında unuttu bile.
Bu akşam Fenerbahçe basketbol takımı Monaco ile Avrupa Ligi Şampiyonluğu maçına çıkacak, ben de seyredeceğim. Yaklaşık iki saat ekrana bakarken gözümden içeri trilyonlarca bitlik enformasyon girecek ama ben o enformasyonu elbette süzgeçten geçireceğim, pek azını yarın sabah size anlatabilir olacağım.
Buna karşılık yapay zeka olsaydım ne az önce gördüğüm yaprakları ne de akşamki maçı unutabilecektim. Hepsine eşit ölçüde “enformasyon” muamelesi yapacaktım.
Böyle baktığınızda yapay zekanın daha şu an bile dünyaya maliyetinin gigawatt olarak, yani enerji birimi olarak hesaplanması son derece normal. O enformasyon büyüdükçe içerdiği entropi miktarı da büyüyeceği için o enformasyonu depolamaya, o depolardaki enformasyonu işlemeye ne dünyanın enerjisi yetecek ne de kapasitesi.
Sorun “bilgi” veya “enformasyon”la “gerçek”i aynı şey sanmaktan kaynaklanıyor, oysa enformasyon entropisi bize bu ikisinin aynı şey olmadığını zaten söylüyor. İnternette yer alan “bilgi”nin ezici çoğunluğunun “gerçek” olmadığını söylemek gerek.
Dolayısıyla bugün çok korkulan yapay zekanın insan seviyesine gelmesine en büyük engel esasen entropi kavramının kendisi. Ve entropiyi yok etmeye çalışmak beyhude bir çaba.
