Meta’nın duyurduğu ve 6 dilde konuşma üretebilen Voicebox adı verilen sistemle ilgili yapılan açıklamada, yapay zekâ sisteminin suistimal gibi riskler nedeniyle henüz piyasaya sürülmeyeceği ifade edildi. Meta’nın kararı bu karar kritik bir sistemle ilgili kararın kendi inisiyatiflerinde olmasıyla da insanları endişeye sürükleyebilecek bir durumu ortaya koyuyor. Karar ‘şimdilik’ alındı. Yani bu sistemi günün birinde tekrar piyasaya sürebilirler.
İngilizce, Fransızca, İspanyolca, Almanca, Lehçe ve Portekizce dillerinde 50 bin saatlik kayıtlarla eğitilen Voicebox, konuşmadaki boşluğu bağlamdan çıkarım yaparak doldurabiliyor. Sistem ayrıca, ham ses ve transkripsiyondan farklı stillerde ses üretebiliyor. Sadece iki saniyelik bir konuşmadan dahi gerçekçi bir ses oluşturabilen Voicebox, iki dil arasında stili koruyarak çeviri yapıyor ve iletişime yardımcı oluyor.
Meta, konuşma üreten yapay zekâ modellerinin heyecan verici olduğunu ancak potansiyel riskler nedeniyle Voicebox’ın veya sistemin kodunun paylaşılmadığını belirtti. Çok sayıda rapor, yapay zekanın insanların seslerini rızaları olmadan kopyalayabileceğini ve söz konusu kayıtların dolandırıcılık faaliyetlerinde ya da sahte video oluşturmada kullanılabileceğini belirtiyor.
