Dr. Geofrey Hinton, on yıldan uzun bir süredir çalıştığı ve bu alanda en saygın isimlerden biri haline geldiği Google’daki işinden, yapay zekanın riskleri üzerine özgürce konuşabilmek için ayrıldığını söylüyor.
Hinton’ın yapay zekanın çığır açıcısıyken felaket tellalı haline gelmesi yolculuğu, teknoloji endüstrisinin belki de son yıllardaki en önemli dönüm noktasının yaşadığı dikkate değer bir ana işaret ediyor. Sektörün önde gelenleri yapay zeka sistemlerinin, zamanında web tarayıcısının piyasaya sürülmesi kadar önemli olabileceğine ve ilaç araştırmalarından eğitime kadar çeşitli alanlarda yeni atılımlar yaratacağına inanıyor.
Ancak sektördeki birçok kişinin içini tehlikeli bir şeyi doğaya saldıkları korkusu kemiriyor. Yapay zeka, yanlış bilgilendirme için kullanılabilir. Meslekleri bitme noktasına getirebilir. Teknoloji sektörünün endişeli kesimi, bunun gelecekte insanlık için sadece bir tehlike haline gelebileceğini düşünüyor. Hinton bu endişeleri, “Kötü insanların bunu kötü işler için kullanmasını nasıl engelleyeceğinizi öngörmek zor” diyerek dile getiriyor.
Teknoloji sektörünün önde gelenleri imza topluyor
OpenAI’ın geçen ay ChatGPT’nin yeni sürümünü piyasaya sürmesinin ardından 1,000’den fazla teknoloji lideri ve araştırmacı, yapay zeka teknolojilerinin ‘toplum ve insanlık için derin bir risk’ oluşturduğunu söyleyerek, yeni yapay zeka sistemlerinin geliştirilmesine altı aylığına ara verilmesi çağrısında bulundukları bir açık mektup imzaladı.
Birkaç gün sonra da 40 yıllık akademik topluluk olan Association for the Advancement of Artificial Intellifence’ın 19 yeni ve eski lideri, yapay zekanın riskleri konusunda uyarıda bulundukları ayrı bir mektup yayımladı. Bu gruba OpenAI’ın yapay zeka konusunda destekçisi olan Microsoft’un baş bilim sorumlusu Eric Horvitz de katıldı.
Hinton’ın yapay zeka yolculuğu
‘Yapay zekanın babası’ olarak anılan Hinton, bu mektupların hiçbirini imzalamadı. Google’daki işinden ayrılana kadar da yapay zeka alanında çalışmalar yapan hiçbir şirketi kamuoyu önünde eleştirmek istemediğini söyledi. Hinton geçen ay şirkete istifasını verdi.
75 yaşındaki Hinton, kariyeri boyunca yapay zekanın geliştirilmesi ve kullanılması için adımlar attı. 1972’de öğrencilik yıllarında sinir ağı verilen bir fikri benimsedi. O zamanlar çok az araştırmacının inandığı bir fikir olan sinir ağı, verileri analiz ederek beceri kazanan matematiksel bir sistem.
‘Robot askerler’ fikrine karşı olan Hinton, 1980’lerde sırf bu yüzden Pentagon’dan fon almak istemeyerek üniversiteden ayrıldı. Hinton ve iki öğrencisi Ilya Sutskevet ve Aleks Krişevski 2012 yılında binlerce fotoğrafı analiz edebilen ve çiçek, masa gibi yaygın nesneleri tanımlayabilen bir sinir ağı üretti.
Google, Hinton ve öğrencilerinin kurduğu şirketi satın almak için 44 milyon dolar harcadı. Ürettikleri bu sistem, ChatGPT ve Google Bard gibi sohbet robotlarının da dahil olduğu daha güçlü teknolojilerin yaratılmasına yol açtı. Hinton ve öğrencileri sinir ağları üzerine çalışmalarından dolayı bilgisayar sektörünün ‘Nobel Ödülü’ olarak tanımlanan Turing Ödülü’nü de alacaktı.
Hinton’ı korkutan çok fazla konu var
Google, OpenAI gibi şirketlerin dijital metinlerden öğrenen sinir ağları oluşturmasını başta tehlikesiz bulan Hinton’ın fikri, daha çok veri kullanan sistemler geliştirildikçe değişti. Sistemlerin bazı açılardan insan beyninden daha aşağı olduğunu düşünmeye devam eden Hinton, bu sistemlerin insan zekasını gölgede bıraktıklarını da düşünüyor.
“Belki de bu sistemlerde olup bitenler, beynin içinde olup bitenlerden çok daha iyidir” diyen Hinton, “Bir beş yıl öncesine bakın bir de şimdiye. Bu korkutucu” diyor. Geçen yıla kadar Google, yapay zeka teknolojisine karşı sorumlu bir şekilde hareket ettiğini ve insanlığa zararlı bir şeyi piyasaya sürmeyeceklerini söylüyordu. Ancak Microsoft’un Bing arama motorunu sohbet robotuyla güçlendirmesinin ardından işler değişti. Google şu anda aynı teknolojiyi yakalamaya çabalıyor. Hinton, teknoloji devlerinin durdurulması imkansız bir rekabete kilitlendiğini söylüyor.
Hinton’un başlıca endişesi, internetin sahte fotoğraflar, videolar ve metinlerle dolup taşması ve sıradan bir insanın artık neyin gerçek neyin sahte olduğunu anlayamayacak hale gelmesi. Hinton ayrıca yapay zeka teknolojilerinin meslek gruplarını da alt üst edeceğinden endişeleniyor. Bugün ChatGPT gibi sohbet robotları insanların eksiğini tamamlıyor. Ancak avukatların, asistanların, çevirmenlerin ve tekdüze işleri yapan kişilerin yerini alabilir.
Yapay zekanın babası bu teknolojinin gelecekteki versiyonlarının insanlık için tehdit oluşturmasından da endişe ediyor. Çünkü bu teknolojiler analiz ettikleri büyük miktarda veriden genellikle beklenmedik davranışlar öğreniyor. Bireyler yapay zekanın bilgisayar kodlarını üretmekle kalmayıp bunları çalıştırmasına da izin verdikçe bunun bir sorun haline geleceğini söyleyen Hinton, ‘katil robotların’ gerçeğe dönüşeceği fikrinden de korkuyor.
“Bu şeylerin insanlardan daha akıllı olabileceği fikrine birkaç kişi inanıyordu” diyen Hinton, “Ama çoğu insan, bunun çok uzak bir zamanda olacağını düşünüyordu. Ben de o kişilerdendim. Bunun 30 ila 50 yıl sonra gerçekleşeceğine inanıyordum. Açıkçası artık fikrim değişti” diye ifade etti.
