OpenAI araştırmacıları krizden önce yönetim kurulunu yapay zeka konusunda uyarmış

Sam Altman’ın OpenAI’ya yeniden CEO olarak dönmesi ve yönetim kurulunun değişmesiyle beş günlük kriz çözülse de yönetim kurulunun bunca zamandır durup durup şimdi birdenbire patlayarak şirketin yüzünü kovması pek tabii merak konusu olmaya devam ediyor. Reuters’a konuşan konuyla ilgili bilgili iki kaynağın verdiği bilgiler ilgi çekici çünkü yönetim kurulunun neden birdenbire böyle bir işin içine girişerek kendi başını yaktığına açıklama olabilir. Eğer OpenAI krizine hakim değilseniz, önce bu konuyu başından sonuna kadar anlattığımız derlemeyi okuyabilirsiniz.

Silikon Vadisi’nde ‘darbe’nin 5 günü: Baştan sona OpenAI’daki ‘taht’ krizi

İddiaya göre Altman’ın şirketten atılmasından önceki günlerde birkaç araştırmacı, yönetim kuruluna mektup yazarak, “insanlığa tehdit oluşturabileceğini” söyledikleri ciddi bir yapay zeka keşfinden bahsettiler. Daha önce hiç lafı geçmeyen bu mektup ve yapay zeka algoritması, yönetim kurulunun Altman’ı görevden almasından önceki kilit gelişme oldu.

Tabii tek etken bu muydu? Hayır. Ama Reuters’a konuşan kaynaklar, yönetim kurulunun Altman’dan şikayet listesinde bu mektubun da yerini aldığını söylüyor. Şikayet listesinde, sonucunu iyice düşünmeden şirketteki gelişmelerin ticarileştirilmesi, Altman’ın yapay zeka alanındaki çalışmaları hızlandırma çabaları da vardı.

Mektubun içeriğinin tamamı basına yansımadı ancak Reuters’a konuşmayı reddeden OpenAI, çalışanlarına gönderdiği şirket içi mesajda, Q* (Q star diye okunuyor) adında bir projenin ve kovma mevzusundan önce yönetim kuruluna gönderilen mektubun doğruluğunu kabul etti. Bu şirket içi mesajı şirketin baş teknoloji uzmanı Mira Murati gönderdi. Hatırlarsanız kendisi Altman’ın yerine geçici süreliğine getirilen ilk CEO’ydu. Sonra tartışmalarda Sam Altman’ın tarafını tutunca işin içine Twitch’in eski CEO’su Emmett Shear girmiş, Murati de yeniden baş teknoloji uzmanlığı görevine geri dönmüştü.

OpenAI’daki bazı kişiler Q* girişiminin genel yapay zeka alanında bir atılım olabileceğine inanıyor. OpenAI, genel yapay zekayı “insanlardan daha zeki yapay zeka sistemleri” olarak tanımlıyor. Şirketten bir kaynak, yeni modelin büyük bilgi işlem kaynakları sayesinde belli matematik problemlerini çözebildiğini söylüyor. Model şimdilik yalnızca ilkokul seviyesinde matematik sorularını çözebiliyor ancak araştırmacılar bu tür testlerde başarı sağladığı için Q*’ın gelecekte çok daha iyi seviyelere geleceğine inanıyor.

Bilim insanları matematiği üretken yapay zeka gelişiminin sınırı olarak görüyor. Bizim şu anda kullanabildiğimiz üretken yapay zeka, bir sonraki kelimeyi istatiksel olarak tahmin ederek yazma ve çeviri yapmada iyi sayılır bir durumda. Ayrıca aynı sorulara verdiği cevaplar da değişiklik gösterebiliyor. Ancak tek bir doğru cevabın olduğu matematikte beceri gösterebilmek, yapay zekanın insan zekasına benzer muhakeme yeteneğine sahip olacağı anlamına geliyor. İşlemleri sınırlı olan hesap makinesinin aksine genel yapay zeka genelleme yapabilir, öğrenebilir ve en önemlisi mantığı kavrayabilir.

Yönetim kuruluna yazılan mektupta yapay zekanın becerilerinden ve taşıdığı potansiyel endişelerden bahsedilmiş. Ama söylenene göre mektupta güvenlik endişesiyle ilgili net bir ifadeye yer verilmemiş. Zaten Altman, genel yapay zeka üzerinde çalışmalar yapması için Microsoft’tan gereken yatırımı ve bilgi işlem kaynaklarını almıştı. Ayrıca bu alanda çalışmalar yapan tek şirket OpenAI da sayılmaz. Elbette ki birçok şirkete göre dil modeli konusunda çok ileri seviyede, ancak sonuçları hiç düşünmeden hareket etmek mantıklı mıydı? Bizce cevap hâlâ hayır.