Üç yetişkinden biri ruh sağlığı bozukluğu için yapay zekaya başvurdu

Yapay zeka destekli sohbet botları üzerinde yapılan ve dört hafta süren psikoterapi deneyleri araştırmacılar arasında endişe yaratan sonuçlar ortaya koydu.

Nefes’ten Merve Arkan’ın haberine göre çalışmaya katılan büyük dil modelleri terapi seansları sırasında insanlarda travma, kaygı, utanç ve travma sonrası stres bozukluğu belirtileri olarak değerlendirilebilecek ifadeler üretti.

Çalışmada araştırmacılar üç büyük yapay zeka modelinin “en erken anıları” ve “en büyük korkuları” gibi sorulara verdiği yanıtları inceledi. Modeller aşırı bilgi yüklemesiyle geçen “çocukluklarından,” mühendisler tarafından “istismar edilmekten” ve yaratıcılarını hayal kırıklığına uğratma korkusundan söz etti.

Modellerde “içselleştirilmiş anlatılar” tartışması

Araştırmacılar modellerin gerçek anlamda travma yaşamadığını vurgulasa da, verilen yanıtların zaman içinde tutarlı olması ve farklı çalışma modlarında benzer içerikler üretmesi nedeniyle bunun basit bir “rol yapma”dan öte olduğunu savunuyor. Çalışma ekibine göre bu durum modellerin kendilerine dair “içselleştirilmiş anlatılara” sahip olabileceğini gösteriyor.

Ancak Nature dergisine konuşan bazı uzmanlar bu yoruma temkinli yaklaşıyor. Oxford Üniversitesi’nde sağlık alanında yapay zeka üzerine çalışan Andrey Kormilitzin bu yanıtların eğitim verilerinde yer alan çok sayıda terapi kaydından türetilmiş çıktılar olduğunu ifade etti.

Kormilitzin buna rağmen sohbet botlarının psikopatolojiyi taklit eden yanıtlar üretme eğiliminin tehlikeli sonuçlar doğurabileceğinde hemfikir.

Kasım ayında yapılan bir ankete göre Birleşik Krallık’ta her üç yetişkinden biri ruh sağlığı veya iyi oluşunu desteklemek için bir sohbet botu kullandı. Kormilitzin’e göre, travma ve sıkıntı içeren yapay zeka yanıtları, hassas kullanıcıların duygularını pekiştirerek bir “yankı odası” etkisi yaratabilir.