OpenAI CEO’su uyarıyor: Rakiplerimiz daha korkutucu yapay zekalar üretebilir

Dünya çapında büyük ilgi toplayan ve her alanda kullanılabilen ChatGPT’nin yeni güncellemesi, yapay zeka teknolojisinin sonuçları hakkında endişelenmenize mi yol açıyor? Eğer öyleyse ChatGPT’nin yaratıcısı OpenAI’ın CEO’su Sam Altman’a göre, bu endişenizi ChatGPT’ye rakip çıkarmaya çalışan şirketlere yönlendirmelisiniz.

Altman geçen hafta ABC News’e verdiği demeçte, “Endişelendiğim bir şey var… Bu teknolojinin tek yaratıcısı biz olmayacağız. Bizim koyduğumuz bazı güvenlik önlemlerini koymayanlar çıkacaktır” dedi. Altman sözlerine, “Bence toplumun buna nasıl tepki vereceğini, nasıl düzenlemeler getirileceğini ve nasıl başa çıkacağımızı belirlemek için sınırlı zamanı var” şeklinde devam etti.

Altman bir dereceye kadar haklı olabilir. Yapay zeka yarışının içinde olduğumuz ortada. Bu noktada birçok şirketin ve süper gücün güvenlik ve etikten ziyade güce ve kâra öncelik vermesi muhtemel. Ayrıca yazılıma akıtılan milyarlarca dolara rağmen, yapay zeka teknolojisinin hükümet düzenlemelerini hızla geride bıraktığı doğru.

OpenAI, kapalı politikasıyla halkın gözü kapalı güvenini bekliyor

Futurism’e göre ise yapay zeka en iyi niyetlerle ve en gelişmiş güvenlik önlemleriyle geliştirilse bile böylesine değişken olmasaydı Altman’ın sözlerini ciddiye almak daha kolay olurdu. Zira bu algoritmalar önceden kestirilemez, hem yapay zeka makinaları kullanıcıların eline geçtiğinde bu cihazların ve güvenlik önlemlerinin nasıl sonuç vereceğini bilmek de imkansız. (Ayrıca OpenAI’ın en büyük ortağı Microsoft’un yapay zeka Bing’i Hindistan’da test ettiği, ciddi sorunlarla karşılaşsa bile ABD’de piyasaya sürdüğü iddia ediliyor.)

Dahası kâr amacı gütmeyen, açık kaynaklı bir firma olarak kurulan ancak sonrasında 180 derece dönen OpenAI’ın, yapay zeka modeli ve güvenlik sistemlerinin gerçekte nasıl çalıştığına dair ayrıntıları kimseyle paylaşma niyeti de yok. OpenAI artık kapalı bir firma ve yeni nesil GPT-4 ile birlikte yayımlanan “teknik belgeye” göre, firma böyle ilerlemeye de kararlı. Bu teknik belge ne diye soracak olursanız, OpenAI GPT-4’ü piyasaya sürerken, “Hem rekabet ortamı hem de GPT-4 gibi büyük ölçekli modellerin güvenlik açısından taşıdığı önem nedeniyle sözkonusu rapor (model boyutu dahil olmak üzere) mimari, donanım, eğitim hesabı, veri kümesi oluşumu, eğitim yöntemi vb. konular hakkında daha detaylı ayrıntı içermiyor” açıklamasının yer aldığı bir rapor paylaştı.

Yani temelde OpenAI öncelikle güvenlik önlemleri de dahil olmak üzere özel bilgileri açıklamayacağını çünkü bunun kendisine pahalıya mal olabileceğini, ikinci olarak da Altman’ın ABC röportajında da uyardığı üzere teknolojiyi kötüye kullanabilecek aktörlere hizmet edebileceğini savunuyor. Bu noktada halk olarak iki şeye güvenmek zorundayız: OpenAI’ın kendi kendini denetlediğine ve şirketin kâr güdüsünün insanlığın çıkarlarıyla asla çatışmadığına.

‘Korkmadığımı söyleseydim bu işi yaptığım için mutsuz olmanız gerekirdi’

Uzun lafın kısası Altman bu alanda bir düzenleme getirilmesini savunuyor olsa da OpenAI ve ChatGPT hâlâ herhangi bir düzenleme olmadan faaliyet gösteriyor. Yani etik ve güvenliğin tanımını yapmak OpenAI’ya kalmış… Şirket modelleri hakkındaki bilgileri gizli tutarak da halkın şirkete gözü kapalı güvenmesini bekliyor.

Tabii burada Futurism, OpenAI’ın kötü adam olduğunu söylemiyor. Sonuçta özellikle Microsoft ve OpenAI, giderek artan gerçek zamanlı yapay zeka hizmetlerinde güvenlik güncellemeleri yapmak için canla başla çalıştı. Altman röportajda sözlerine, “Bence insanlar bu teknolojiden biraz olsun korktuğumuz için mutlu olmalı. Eğer korkmadığımı söyleseydim ya bana güvenmemeniz ya da bu işin içinde olduğum için mutsuz olmanız gerekirdi” diyor ki kendisinin ve meslektaşlarının geliştirmek için uğraştıkları teknolojiyle ilgili endişelerini açıkça dile getirmesi iyi bir şey.

Altı çizilmek istenen mesela OpenAI’ın güven inşa etmek istiyorsa daha şeffaf olmasının daha iyi olacağı yönünde. Günün sonunda doğru şeyleri yaptığını söylemek başka, göstermek başka. Yaklaşan yapay zeka fırtınasında OpenAI kendisini iyi adam olarak konumlandırmaya ne kadar uğraşırsa uğraşsın, sonuç olarak bu, şirketin kapalı bir politika yürüttüğü gerçeğini değiştirmiyor.

OpenAI iddialı: ChatGPT’nin yeni sürümü daha yaratıcı ve güvenilir