OpenAI’da yaprak dökümü: Sutskever gitti, süper yapay zeka risk ekibi bitti

OpenAI yaratıcısını alt edebilecek kadar akıllı yapay zekanın ortaya çıkışına hazırlanmak için geçen yıl temmuz ayında yeni bir araştırma ekibi kurmuştu. Bu ekibin eş başkanlarından biri şirketin hem kurucu ortağı hem de baş bilim insanı olan Ilya Sutskever idi. OpenAI ekibin bilgi işlem gücünün yüzde 20’sine sahip olacağını açıklamıştı. Ancak şimdi Sutskever şirketi terk etti ve bu alanda çalışacak ekip de dağıtıldı.

Şirket OpenAI’ın “süper yapay zeka ekibinin” artık olmadığını teyit etti. WIRED’de yer alan habere göre Sutskever’in şirketi terk etmesinin ardından hem ekibin diğer eş başkanı hem de ekipteki diğer araştırmacılar istifalarını verdi. Ama ekibin şimdiye kadar yürüttüğü çalışmalar çöp olmayacak, OpenAI’ın diğer araştırma girişimlerine dahil edilecek.

Sutskever’in ayrılması manşetlere taşınacak kadar önemliydi. Çünkü geçen yıl kasım ayında şirketin CEO’su Sam Altman’ın darbeyle tahtından indirilmesinde rol oynayan dört yönetim kurulu üyesinden biriydi. Ama sonra hem şirket çalışanlarının Altman’ın dönmesi için bastırması hem de Sutskever’in fikir değiştirmesi CEO’nun yeniden koltuğuna dönmesini kolaylaştırdı.

Ekip birer birer dağıldı

Sutskever ayrıldığını söyledikten sonra süper yapay zeka ekibinin diğer lideri ve aynı zamanda eski DeepMind araştırmacısı olan Jan Leike X’ten yaptığı açıklamada istifasını duyurdu. Sutskever istifasının gerekçesini açıklamamakla birlikte ” Şirketin gidişatı olağanüstü ve mevcut yönetimin hem güvenli hem de insanlık için faydalı bir AGI inşa edeceğinden eminim” yorumuyla şirketi desteklemeye devam ettiğini gösterdi.

Bununla birlikte Leike şirketin öncelikleri ve ekibine tahsis edilen kaynaklar konusunda yaşanan anlaşmazlıklardan dolayı ayrıldığını açıkladı. Leike “Bir süredir OpenAI yönetimiyle şirketin öncelikleri konusunda anlaşmazlık yaşıyordum ve sonunda kırılma noktasına geldik. Son birkaç aydır ekibim rüzgara karşı yelken açmış bir şekilde ilerliyordu. Zaman zaman bilgi işlem gücü sebebiyle zorluk yaşıyorduk. Bu kritik araştırmayı yapabilmek gittikçe zorlaşıyordu” diye anlattı.

10’ca bilim arasından’ı okuyanlar ya da OpenAI magazinini iyi takip edenler zaten biliyor. Önceki haftalarda The Information, OpenAI’ın Leopold Aschenbrenner ve Pavel Izmailov adındaki çalışanlarını işten çıkardığını açıklamıştı. Her iki isim de süper yapay zeka ekibindeydi. Ekibin diğer üyesi William Saunders ise şubat ayında OpenAI’dan ayrılmıştı.

Yapay zeka politikası ve yönetişimi üzerine çalışan iki OpenAI araştırmacısının daha yakın zamanda işten ayrıldığı görülüyor. LinkedIn’de yer alan bilgilere göre yapay zeka politikası üzerine çalışan Cullen O’Keefe nisan ayında işinden ayrıldı. Yetenekli yapay zeka modellerinin tehlikeleri üzerine yazılan makalelerden bazılarının ortak yazarı olan Daniel Kokotajlo da “OpenAI’ın yapay genel zeka çağında sorumluluk sahibi bir şekilde davranacağına inancını yitirdiği için” şirketten ayrılma kararı aldı.

Yapay genel zeka ve süper yapay zeka ne?

Kokotajlo’nun inancını kaybettiği noktadan alalım. OpenAI yapay zeka araştırmalarını tekelleştirmeye doğru giden Google’a tepki olarak bilim insanları tarafından kurulan “kâr amacı gütmeyen” bir kuruluştu. Şirket süreç içerisinde geliştirdiği ürünleri kamuoyuyla paylaşmaya başladı. Beğenildikçe devamı da geldi. Bu sırada Microsoft ile bir anlaşma da yapıldı ki bu anlaşma şirketin kâr amacı gütmeyen tavrından uzaklaşma olarak yorumlanıyor. Ayrıca tekelleşmeye karşıtlığıyla yola çıkan bir şirketin bugüne kadar kodlarını bağımsız yazılımcılarla paylaşmaması da ayrı bir endişe yaratıyor. Meta kaynak kodunu paylaşıyor, Google bile Gemini’ninki olmasa da kaynak kod paylaşmaya başladı. OpenAI ise “Ben çevreye güvenmiyorum” tavrıyla şeffaflığı yok saymaya devam ediyor.

Şimdi bir de yapay genel zekadan bahsedelim. Üretken yapay zekada istatistikler üzerinden konuşuyoruz, çok büyük veri setleriyle beslenen yapay zeka kendisine soru sorulduğunda seçtiği kelimenin yanına hangi olası kelimenin geleceğini istatistiklere dayanarak seçiyor. Ama örneğin şiir, kitap ya da nota yazması istenen yapay zekadan aslında yaratıcı yani üretken olması isteniyor. Mevcut yapay zekaların en büyük eksikliği, yanıtları tek ve kesin olan, analiz yeteneği gerektiren matematik ve geometri gibi konularda o kadar başarılı olamaması. Yapay genel zeka ise tam da bunu vaat ediyor. Altman çok daha basit özetlemiş: “İşe alabileceğiniz ortalama insanın eşdeğeri.” Yapay genel zeka insan emeğinin büyük kısmının otomatikleşmesi ve geliştiricilerin çok para kazanmasını sağlayacak değerli bir kaynak olacak. Ama faydaları olduğu kadar riskleri de var bu teknolojinin. İnsanları alt edebilir ya da manipülatif, insani değerlerle uyumsuz hale gelebilir.

Süper yapay zeka ise yapay genel zekanın da ötesinde. Bilimsel yaratıcılık, genel konularda bilgi sahibi olma ve sosyal kabiliyetler açısından diğer tüm yapay zekaları geride bırakacak bir buluş. Hatta süper yapay zekanın insan zekasının da ötesinde olduğunu söyleyebiliriz. Süper akıllı bir sistem, daha fazla bilgiyi dikkate alan ve geleceğe dair daha fazla öngörüye sahip yüksek kaliteli kararlar verebilen bir insandan daha yeteneklidir.

Bundan sonra ne olacak?

OpenAI süper yapay zeka ekibinin dağılmasının şirketin bu teknolojinin riskleri konusundaki çalışmalarını nasıl etkileyeceğine dair yorum yapmıyor. Daha akıllı modellerin yarattığı riskler üzerine yapılan araştırmaları artık teknolojinin eğitiminden sorumlu ekibin başındaki John Schulman ilgilenecek.

Süper yapay zeka ekibi teknolojinin nasıl kontrol altında tutulacağı sorusuna kafa patlatan tek ekip değildi ama bu sorunun en can alıcı kısmıyla ilgileniyordu. Zira geçen yaz süper yapay zeka ekibinin duyurulduğu blog yazısında bilim insanlarının böyle bir teknolojiyi kontrol altına alabilecek herhangi bir çözümlerinin olmadığı belirtilmişti.

GPT-4o sonrası masadan bir kişi eksildi: Baş bilim insanı Ilya Sutskever OpenAI’dan ayrılıyor