Yapay zekada ‘Hızlandırıcılar’ ile ‘Kıyametçiler’in kavgası ilk kellesini aldı
Cumartesi sabahı uyandığımda haberi kucağımda buldum: Hepimizin ChatGPT ve DALL-E adlı yapay zeka yazılımlarından tanıdığımız OpenAI, sürpriz biçimde ve hayli tuhaf bir toplantıyla genel müdürü Sam Altman’ı işten atmıştı.
Dün sabah ne olduğu belirsizdi, aslında bu sabah da belirsiz olmaya, Sam Altman’ın tam neden ötürü kovulduğu bilinmemeye devam ediyor ama artık elimizde bazı teorilerimiz var.
Bu teorilerden en ciddisi, yapay zeka araştırmalarının geleceğini ilgilendiren en önemli tartışmanın etrafında gelişen bir kavga.
Bu kavgayı anlatmazdan önce size OpenAI’yı anlatmalıyım.
‘Kâr amacı gütmeyen şirket’ de ne demek?
OpenAI, söylemesi bile tuhaf geliyor insana ama kâr amacı gütmeyen bir şirket.
Yanlış anlamayın, bu cümle şirketin hiç kâr etmeyeceği anlamına gelmiyor. Sadece hissedarların bu kârdan faydalanmayacağı anlamına geliyor. Yani şirket para kazanırsa bu para araştırmaya harcanıyor, hissedarlara dağıtılmıyor.
Normal bir şirkette iki temel amaç vardır: Kâr etmek ve şirketin değerini arttırmak. OpenAI’ın kendi iç yönergesinde açıkça şu yazılı: ‘Şirket yöneticilerinin amacı şirketin değerini arttırmak değil ürünlerinin güvenli olmasını sağlamaktır.’
Yani, ‘Önce güvenlik’ şiarıyla kurulmuş OpenAI.
Kurucularının çoğu bilimci
2015’te OpenAI’yı kuranların bir bölümü Sam Altman, Elon Musk gibi girişimciler. Ama esas ağırlık işin bilim tarafında. Kurucuların çoğunluğu bilim kökenli, yapay zeka araştırmacısı isimler.
OpenAI, özellikle Google ve Facebook gibi şirketlere bir tepki olarak ve neredeyse bir ‘siyasi hareket’ gibi kurulmuş bir şirket.
İddiası, Google ve Facebook’un yapay zekayı güvenliği ikinci plana atarak salt ticari kazanç amacıyla geliştirmeye çalışması. Kendileri bunu yapmayacaklarını, insanlığı tehlikeye atacak teknolojiden kaçınacaklarını söylüyorlar. O yüzden şirket 2015’te toplam 1 milyar dolarlık bir bağış vaadiyle kurulmuş.
İnsanın 100 yıllık yapay zeka ve robot korkusu
Nedir peki yapay zekanın beraberinde getireceği en büyük tehlike?
İnsanlar, 100 yılı aşkın zamandan beri (Henry Ford, ‘Ford Zinciri’ adı verilen üretim yöntemini bulduğundan beri), robotlardan korkuyor. ‘Robot’ kelimesi de zaten bu makinalaşma korkusu üzerine yazılmış Çekçe bir tiyatro oyunuyla meşhur olmuş yine Çek dilinde bir kelime. (Nazım Hikmet’in Makinalaşmak İstiyorum şiiri de aynı dönemin ürünüdür.)
Baktığınızda robot korkusu, yani robotların insanların yerini alacağı ve sonra da kontroldan çıkıp insanlığı sona erdireceği korkusu, 40’lı yıllarda yazılmaya başlayan Asimov romanlarında da var, daha sonraki yılların bilim kurgu edebiyatında da.
Ama bu korkuyu en iyi anlatan eserlerden biri, Stanley Kubrick’in ünlü ‘2001: Uzay Macerası’ filmi. Burada astronotlara yardımcı olması için uzay gemisine yerleştirilen HAL adlı yapay zekanın kıskançlığa kapılarak astronotları öldürmesi öyküsü var.
Sonra BattleStar Galactica, yapay zekanın insanlığı yok etmesini ve insanın mücadelesini konu alan bir dizi olarak kült bir klasik oldu. Bir de tabii Terminator filmleri serisi var; yapay zekanın insanlığı yok etmeye çalışmasını anlatan.
Yapay zeka tarihi ile bilgisayar tarihi paralel
Bilgisayarları var eden matematik teorisini ilk yazan insan Alan Turing.
O, teorisinin ‘düşünen makineler’ yaratması potansiyelini matematiksel olarak görüyordu. O yüzden daha 1940’lı yıllarda, bir ‘düşünen makine’ ile ‘insan’ı ayırt etmenin yolunu göstereceğini düşündüğü çok meşhur ‘Turing Testi’ni geliştirmişti.
Hatırlamaya yaşı yetenler bilecek, biz ‘Bilgisayar’ demezden önce bu makinalara ‘Elektronik beyin’ derdik.
Sonradan daha az korkutucu olması için İngilizcedeki ‘computer’, Fransızca’daki ‘Ordinator’ kelimelerine karşılık gelen güzel bir kelime icat ettik: Bilgisayar.
Dediğim gibi yapay zeka arayışı ile bilgisayar tarihi birbirine paralel. Bu paralellik içinde bir önemli konu daha var: İnsan beynini taklit eden, beynimizdeki nöronların birbirleriyle bağlanıp daha hızlı ve verimli çalışmasını taklit eden bir matematik yaratmaya çalışan bir dal var: Nöral ağ veya ingilizcesiyle ‘Neural Network’ matematiği.
Bu konunun teorik geçmişi 1900’lerin başına kadar gidiyor ve bu ‘nöral ağ’lar konusunda 40’lı yıllardan itibaren çok önemli gelişmeler sağlanmış ama 90’larda bu konuda gerçek bir patlama yaşandı.
Nöral ağ bize ‘makine öğrenmesi’ni verdi
Nöral ağlar teorisi, 90’lı yılların başında büyük bir ilerleme sağladı. Bu da, birden bire bilgisayarlarımızın hız ve paralel işlem yapma kapasitesinde bir patlamayı beraberinde getirdi.
Ama nöral ağların getirdiği tek şey bilgisayarların işlem yapma hızının artması değildi, ‘makine öğrenmesi’ de onunla birlikte geldi.
Ve böylece yapay zeka konusu bir teori ile son derece ilkel düzeydeki yazılımların konusu olmaktan çıktı, gerçek bir ihtimal olarak karşımızda belirdi.
Robotlar oyunu öğrendi, dil de öğrenebilecek mi?
Yapay zekanın gerçek bir ihtimal olarak karşımıza çıkması, beraberinde örneğin Google’ın satın aldığı meşhur DeepMind adlı şirketi çıkardı. İngiltere merkezli bu şirket önce satranç, sonra Go oyununda ‘makine öğrenmesi’ ile eğittiği bilgisayarıyla dünya şampiyonlarını yendi.
Tamam bunlar olağanüstü büyük başarılardı ve makine öğrenmesinin neler başarabileceğini gösteriyordu. Hayatını satranca adamış olan Garry Kasparov, satrancı daha iki gün önce ‘öğrenmiş’ olan bir bilgisayara yenilmişti.
Peki ama makineler başka neleri öğrenebilirdi? Gündelik hayatımızda da görüyoruz, pek çok şeyi, örneğin bizim alışveriş tercihlerimizi, film veya dizi beğenilerimizi vs vs çok şeyi öğrenebiliyorlar.
İnsanı insan yapan kabiliyetleri de öğrenebilir miydi makinalar? Bu kabiliyetlerden biri, biliyorsunuz dil öğrenme ve dilimizi kullanarak düşünce üretme becerimiz. Acaba dil öğrenebilir miydi makine?
2010 yılına geldiğimizde makinelerin dil öğrenebileceği teorik olarak kanıtlanmıştı. Mesele onu pratik yapmaktaydı.
OpenAI işte bundan kuruldu
İnsanı insan yapan ve bugünkü uygarlığımızı oluşturan becerilerimizin hemen hemen tamamı beynimizden kaynaklanıyor, pek azı fiziki görünümümüzle ve kapasitemizle ilgili.
Bu bilişsel becerilerimiz içinde dil yaratma, kullanma ve bu dil aracılığıyla düşünme becerisi çok özel bir yer tutuyor.
Dilin makine tarafından öğrenilebilmesi ve makinenin bu öğrenmeyi tamamladıktan sonra o dilde taklit olmayan yeni bir şey yaratabilmesi bugün adına ‘Genel Yapay Zeka’ (AGI) denen yolda çok büyük bir aşama olacaktı. Ve insanlık bir kez AGI’ya ulaşınca, artık oradan dönüş olmayacaktı. Bizim kadar ‘zeki’ ve hiç kuşku yok bizden daha bilgili makinalar ortaya çıkacaktı. İnsan o makinaların ‘kölesi’ olabilirdi sahiden.
İşte OpenAI bu endişelerle ortaya çıktı. Çünkü başta da söyledim, bazı öncü bilim insanları Google ve Facebook gibi yapay zekaya inanılmaz kaynaklar ayıran şirketlerin insanlığın geleceğiyle değil parayla ilgilendiğini düşünüyordu. Oysa insanın köle olmamasını, ne kadar zeki olurlarsa olsunlar makinaları nihai anlamda kontrol edebilmesini istiyorlardı.
OpenAI’ın yönetim kadrosu. Bugün bu fotoğraftaki iki isim şirketten ayrılmış durumda.
Ama dil öğrenen yapay zeka için çok paraya ihtiyaç vardı
OpenAI bu iyi amaçlarla ve niyetlerle kuruldu ama kuruluşundan sonra pek az şey yapabildi.
OpenAI’ın kuruculuğuna son derece başarılı bir girişim olan Y Combinator’un CEO’luğundan gelen Sam Altman, problemi açıkça görüyordu: OpenAI sadece bağışla yürüyemezdi, kâr güdüsü olmayınca yatırımcı gelmiyor, yatırım gelmeyince de araştırma yapılamıyordu.
Bu konuda önce Elon Musk ile çatıştı. Musk 2018’de kurucusu olduğu OpenAI’dan, ‘Biz Tesla’da da yapay zeka çalışıyoruz, buradaki varlığım çıkar çatışması yaratabilir’ diyerek ayrıldı.
Derken Sam Altman, OpenAI kurucularını, yatırımcılardan para almak için sınırlı da olsa kâr amacı güden bir alt şirket kurmaya ikna etti. Kafa karıştırıcı gelebilir ama bu alt şirketin adı da OpenAI idi; çoğunluk hissesi kâr amacı gütmeyen OpenAI’ya aitti ama yatırımcılarına da kâr vaadediyordu. Ancak bu kârın her zaman bir üst sınırı olacaktı, şirket bundan daha fazla para kazanırsa kazanılan para her şart altında kâr amacı gütmeyen OpenAI’ya gidecekti.
İlk para ve yatırım Microsoft’tan geldi: 1 milyar dolar
ChatGPT’ye giden yol
OpenAI’ya Microsoft sadece para vermedi. Esas daha önemlisi, o zamanlar adı ‘Geniş dil modelleri’ olan yapay zeka türü için inanılmaz bir bilgisayar gücü de gerekiyordu. Microsoft bunu sağladı.
Ve böylece OpenAI’ın adını DALL-E koyduğu fotoğraf ve video işleyen yapay zeka ile ChatGPT ortaya çıktı. Ancak biz, ChatGPT’nin ancak 3. versiyonu yaratıldığında bundan haberdar olduk.
GPT-3 geçen yılın Kasım ayında kamuya açıldığında herkesin şapkası uçtu. Çünkü bu robot sahiden ‘konuşuyor’du. Siz ona soru soruyordunuz o da cevap veriyordu.
Bugün elimizde GPT-4 var artık ama yine de hala tam olarak emin değiliz: ChatGPT sorduğumuz soruların cevaplarını internetin orasından burasından kopya mı çekiyor, yoksa bazılarını kendisi mi yazıyor?
Biz ne kadar özgünüz ki?
Ama unutmayın, hepimiz düşünürken veya yazarken hafızamıza başvururuz. O yüzden ChatGPT’nin de interneti hafızası olarak kullanması yadırgatıcı değil.
Biz de yazarken farkında olarak veya olmayarak daha önce yazılmış bazı cümleleri aynen yazabiliriz. Chat GPT’nin bunu yapması da yadırgatıcı değil.
Ama önemli olan bizim cümlelerimizi nasıl bir araya getirdiğimiz, dili kullanma becerimiz, kelime hazinemizin genişliği ve elbette yazarkenki dürüstlüğümüz.
Acaba ChatGPT ne kadar dürüst yazarken? Çünkü özgünlük bu dürüstlükle ilgili.
Bu konuda, yani ChatGPT’nin dürüstlüğü konusunda kimse tam olarak emin değil.
Savaş sanatını da ‘öğrenirse’
Düşünün, elinizde ne öğretmek isteseniz sunduğunuz kaynağa göre öğrenebilen makineleriniz var. Üstelik bu makineler sizinle sizin konuştuğunuz dilde iletişim de kuruyor. Benim tanıdığım meraklı ortaokul öğrencileri var, ChatGPT’nin herkese açık modülüne türlü çeşitli şeyler öğreten ve sonra da ondan cevap alan.
Peki aynı makineyi bir savaş uçağı veya üzerinde yüzlerce füze taşıyan bir gemi olarak hayal edin. Savaş sanatını öğretiyorsunuz ona ve sonra salıveriyorsunuz. Ya o insanlara sormadan onları öldürmeye başlarsa?
Daha da büyük bir tehlike var: Ya bu ölümcül güçleri de taşıyan makineler bir biçimde birbirleriyle tecrübe paylaşmaya, yani birbirlerinden de öğrenmeye başlarsa? (Unutmayın, insanlar bunu tarih boyunca yaptıkları için, düşmanlarından bile öğrendikleri için bugünkü uygarlık kuruldu.)
Ya günün birinde makineler kendi başlarına kendi kodlarını yazıp tehdit öncelikleri arasına insanları da yazarsa? Buyrun geldik Terminator’e ve BattleStar Galactica’ya…
‘Kıyametçiler’ ile ‘Hızlandırıcılar’
Yapay zekada ‘güvenlik’ dendiğinde işte bu tehlikeden söz ediliyor. Yapay zekanın insana ve insanlığa zarar vermemesinden yani.
Onun zarar verme ihtimalini göz önüne alanlara ‘Kıyametçiler’ (Doomers) adı takılmış. Bir de ‘Güvenlik arkadan gelir, korkacak bir şey yok, bilimsel gelişmeyi hızlandıralım’ diyenler var, onlara da ‘Hızlandırıcı’ deniyor. (Accelerationists).
Güncel OpenAI tartışmasına geri dönecek olursak, orada ‘Kıyatmeçi’ kanattan olduğu söylenen 4 yönetim kurulu üyesinden en az ikisinin, Tasha McCauley ve Helen Toner’ın ‘Effective Altruism’ adı verilen hareketle bağları olduğu biliniyor. Bu hareket, yapay zekanın güvenliği konusunda endişelere sahip bir felsefi inanç.
Öte yandan ‘Hızlandırıcılar’ ise yapay zekanın ortaya koyduğu tehditin abartıldığını, bu abartının da bilinçli biçimde büyük yapay zeka şirketleri tarafından pompalandığını ve yapay zekaya sınırlama getiren yasal düzenlemeler istendiğini öne sürüyor. Onlara göre bu çeşit düzenlemeler gelince küçük şirketlerin bu pazara girmesi zorlaşacak, büyük şirketler pastayı kimseyle paylaşmak zorunda kalmayacak.
OpenAI’da Sam Altman’ın koltuğuna Arnavutluk doğumlu 34 yaşındaki Mira Murati getirildi. Murati, sektörün çok önemli bir ismi.
Mesele Sam Altman’ın kovulmasından ibaret değil
Görüyosunuz, artık yapay zeka sektörünün çok büyük oyuncularından biri olan OpenAI’daki iç kavga, sadece bir yöneticinin işten atılması kavgası değil. Doktriner bir tartışma neredeyse.
Cuma günü Sam Altman sürpriz biçimde kovulduğundan beri çok önemli ve hızlı gelişmeler yaşandı. Altman’la birlikte şirketin yönetim kurulu başkanı Sam Brockman (ki o da bilim kökenli) istifa etti. Ardından şirketten bir grup ayrıldı.
Sam Altman hemen yeni bir şirket kurmaktan söz etmeye başladı. Bu sabah gelen bir haberde onun ve ayrılanların OpenAI’ye geri dönmesi için görüşmeler başladığı da söyleniyordu.
OpenAI’ın en büyük yatırımcısı Microsoft’un bu şirkette 13 milyar doları var. Şirket son olarak 80 milyar dolar üzerinden değerlendiydi ama henüz halka açılmadığı için bu parayı tam kestiremiyoruz.
Microsoft açıkça Sam Altman’ın işten atılmasından hiç hoşlanmadıklarını duyurdu bile. Dehşet paraların havada uçuştuğu bu kavga bir yanıyla çok şaşırtıcı bir şirket içi kavga ama bir yanıyla da o şirketi aşıp bütün insanlığı ilgilendiren bir şey.
(Not: Bu yazı için çok sayıda kaynaktan yararlanıldı. Meraklısına The New York Times’dan müthiş güzel kulis ve arka plan bilgisi içeren şu yazıyı ve Wired dergisinden yapay zeka sektörünün geleceğini merak eden şu yazıyı tavsiye ederim. OpenAI’a geçici CEO olarak atanan Mira Murati’yi merak edenler şu linke bakabilir.)
