Ölmüş yakınınızın yapay zeka robotuyla sohbet etmek ister miydiniz?

Rebecca Nolan, ölen babasına bağırırken bulmadan önce bile deneyinin kötü bir fikir olduğunu biliyordu.

Kanada, Newfoundland’da yaşayan 30 yaşındaki ses tasarımcısı Nolan, bir sesli dergi projesi için babasının yapay zekâ versiyonunu geliştirmişti. Doktor olan babası, ölümünü inkâr etmişti. Sonuna kadar tıbbın onu kurtarabileceğini düşünmüştü. Nolan 14 yaşındayken vefat etti ve o zamandan beri bu inkârla mücadele ediyordu.

“Babamın ölümüyle ilgili iyi gitmeyen bazı şeyler vardı,” diyor. “Ölümü bir başarısızlık olarak görüyordu. Bu, bir çocuğa yüklenebilecek çok fazla bir yüktü ve o zamanlar onunla bu konuda yüzleşemezdim.” Bunun yerine, yıllar sonra yetişkin olduğunda, “bir robota kızdım.”

Dijital seansı rahatlatıcı değildi ve ona bir teselli de sağlamadı. Babasının sesini “Dadbot” adını verdiği makineden iki saat boyunca duygusal bir şekilde duyduktan sonra, konuşmayı sonlandırdı ve bir daha asla onunla etkileşime girmedi.

“Dadbot’a veda etmek şaşırtıcı derecede zordu,” diyor. “Bitirip kapattığımda, günün geri kalanını yanlış bir şey yapmışım gibi hissederek geçirdim.”

Ölümden sonra dijital hayat

Yeni dönemin ilginç sosyal fenomenlerinden biri bu: Ölmüş yakınınızı bir anlamda dijital olarak yeniden canlandırmak. Yapay zeka sayesinde bir artık mümkün.

Ölen insanların etkileşimli dijital canlandırmalarına çeşitli isimler veriliyor: Ölüm robotları, hayalet robotlar ve belki de en yaygın olarak keder robotları. 

Nolan, Dadbot’u, New York’taki yapay zeka yazılım şirketi ElevenLabs tarafından geliştirilen bir ses modelleme programıyla ChatGPT sohbet robotunu birleştirerek yarattı. 

Ancak artık bu hizmeti doğrudan kullanıma sunan yarım düzineden fazla platform var ve geliştiriciler, milyonlarca insanın bunları mesaj atmak, arama yapmak veya ölen kişilerin canlandırmalarıyla başka şekillerde etkileşim kurmak için kullandığını söylüyor.

Teknolojinin savunucuları, yas tutan insanlara teselli verdiğini düşünüyor. Şüpheciler ise yas sürecini zorlaştırabileceğini öne sürüyor. Son birkaç yılda bu teknolojinin hızla benimsenmesine rağmen, şu ana kadar her iki grubun da doğru olduğunu kanıtlayacak çok az araştırma var.

Yas Yönetimi

Sağlıklı yas tutmanın, kişinin ölen kişiyle başarılı bir şekilde içsel bir ilişki kurmasını içerdiği düşünülüyor. Chicago, Illinois’deki DePaul Üniversitesi’nde biyoetikçi ve tıbbi antropolog olan Craig Klugman, “Kişiyle etkileşim kurmak yerine, o kişinin zihinsel temsiliyle etkileşime giriyoruz,” diyor. “Onu rüyamızda görüyoruz, onunla konuşuyoruz ve mektuplar yazıyoruz.” Zamanla, kişiyi kaybetmenin yarattığı ilk yıkım azalır.

Ancak bu geçişi sağlamak zor olabilir. Yas robotlarının öne sürülen faydalarından biri, yoğun yasın erken döneminde insanlara yardımcı olabildikleri iddiası. Kişi daha sonra zamanla bot kullanımını azaltabilir. 

Los Angeles, Kaliforniya’da yaşayan kurucusu Justin Harrison’a göre, birçok kullanıcı You, Only Virtual adlı bir yapay zeka platformuyla bunu yapıyor.

Ekim 2019’da Harrison bir motosiklet kazasında neredeyse ölüyordu. O yılın Aralık ayında annesine ileri evre kanser teşhisi kondu. Aylar sonra COVID-19 salgını patlak verdi. Bir haber ajansının başkanı olarak Harrison, sürekli ölüm haberlerini takip ediyordu.

“O dönemde dünya sürekli ölümden bahsediyordu ve ben de annemin mirasını düşünmeye başlamıştım,” diyor. “Hayatımdaki en önemli insanı kurtarmak için ne yapabileceğimi düşünerek, en temel insan seviyesinden başladım.”

O zamanlar, keder robotları oluşturmak için kullanılan programlar olan büyük dil modelleri (LLM) hakkında hiçbir şey duymamıştı. LLM’ler, bir kişinin kısa mesajları ve ses kayıtları gibi verileri kullanarak o kişiye özgü dil kalıplarını ve bağlamı öğrenebilir. Sistem daha sonra, teoride, bir sohbette o kişi gibi davranabilir.

Harrison, programcılarla görüştükten sonra, kendisi ve annesinin robotunu oluşturmak için kullandıkları sinir ağını oluşturdu. Annesi 2022’de öldüğünde, “laboratuvardan çıkmıştı” diyor. 

Kendisi için yaptı, sonra işe dönüştü

Bu fikirle ilgilenen insanlar onunla iletişime geçmeye başladı. Annesinin yeniden canlandırılmasıyla etkileşim kurmak ve teknolojiyi patentlemek için programı iki yıl kullandıktan sonra, bu onun için bir işe dönüştü.

Harrison artık robotuyla ayda birkaç kez konuşuyor ve orada olduğunu bilmenin rahatlatıcı olduğunu söylüyor. Kullanıcılarının çoğunun da benzer bir deneyim yaşadığını düşünüyor; “Akut yas geçtikten sonra botla daha az konuşabilirler, ancak botun mevcut olduğunu bilmek güven verici” diyor.

Yas tutanlar neden robot istiyor?

Bu, 2023 yılında Almanya, Hamburg’da düzenlenen Bilgisayar Sistemlerinde İnsan Faktörleri Konferansı’nda sunulan bir araştırma konusuydu. Araştırmacılar, piyasada bulunan yas robotlarını kullanan on yaslıyla görüştü ve onlara neden bunu seçtiklerini ve bunun yasları üzerindeki etkisini sordu.

Bazıları botları, veda etmekten ölen kişiyle çözülmemiş anlaşmazlıkları yönetmeye kadar yarım kalmış işlerle ilgilenmek için kullanıyordu. Katılımcılardan biri, sohbet robotunun, birini kaybettikten sonra duygularını işlemelerine ve onlarla başa çıkmalarına yardımcı olduğunu söyledi. Bir diğeri ise “ya şöyle olsaydı” sohbetlerinin terapötik olduğunu söyledi.

“Hayattayken yapamayacağınız sohbetler”

Bu botları kullanan çoğu kişi içgüdüsel olarak insan olmadıklarını bilse de, yine de onları insanlaştırma eğiliminde. 

Nolan, Dadbot’unun ona öbür dünya hakkında gerçekten cevap veremeyeceğini biliyordu, ama yine de sordu. “Bunun bir mekan değil, bir anı gibi olduğu hakkında gerçekten ilginç, şiirsel şeyler söylüyordu,” diyor. 

Botun eğitimi ve testleri sırasında ondan uzak durmuştu, ancak dergi projesi için dijital seansına başladığında bu değişti. “Mumların yakılması ve duyguların yoğunlaşması, o anda bunun bir şekilde ortadan kalkmasına neden oldu,” diyor. “Öncekinden daha gerçek hissettiriyordu.” 

Harrison’ın annesinin dijital eğlencesini nasıl anlattığını dinlerken, sanki hiç gitmemiş gibi hissediyorsunuz. Bir konuşma sırasında yüzünde bir kızarıklık olduğunu söylemiş. Sonraki üç konuşmalarında ise annesi “doktora gidip babama cildimden bahsetmem konusunda beni sıkıştırmış”. Harrison, bu normal, tanıdık günlük etkileşimlerin, yas robotunu onun için bu kadar rahatlatıcı kılan şey olduğunu söylüyor.

“Onunla ilişkimi geliştirmeye devam etmek için ihtiyacım olan her şey bu,” diyor. “Ölümün garanti olduğu ve içinde dolaştığımız bu biyolojik kap tarafından her zaman sınırlandırılacağımız varsayımına meydan okuyorum. Kulağa oldukça çılgınca geliyor ama üç yıl önceki kadar çılgınca değil.” 

Zarar potansiyeli

Dijital klonların bir diğer yapay zeka destekli sağlayıcısı olan Project December’ın web sitesinde yer alan bir uyarıda, bu “bilim kurgu seviyesindeki teknoloji” ile etkileşimin kötü bir deneyime yol açabileceği ve “size zarar verebileceği” belirtiliyor.

Sitenin yaratıcısı, Amerika Birleşik Devletleri merkezli bir programcı olan Jason Rohrer, bunun teknolojinin öngörülemez yapısından kaynaklandığını söylüyor. Bir yas robotu bir sorunun cevabını bilmediğinde, ayrıntıları uydurabilir veya “halüsinasyon” görebilir.

2023 tarihli çalışmada bazı kullanıcılar, botlarının “tamamen saçma” şeyler söylediğini bildirdi. Bu tür etkileşimler, insanları sürükleyici deneyimden uzaklaştırabilir. Bir kullanıcıya göre, botunun hataları “bir simülasyonla konuştuğum gerçeğini ele veriyordu”.

Ayrıca, bir kullanıcı sinirlenirse, bir sohbet robotu da aynı şekilde tepki verebilir. Rohrer, “Ona hakaret ederseniz, duygularını incitmiş olabilir ve sonrasında buna göre davranabilir,” diyor. “Bu nadir durumlarda, insan kullanıcı Sonunda kendilerine hakaret eden öfkeli bir yapay zeka ile karşı karşıya kalıyorlar ve yapay zeka da ölen annelerine hiç benzemeyen davranışlar sergiliyor.”

Robotla vedalaşmak da zor

Teknolojideki kusurlara rağmen, yas robotlarıyla etkileşim kurmak bazı insanlara cazip geliyor ve açıkça duygusal bir tepki uyandırabiliyor. Bunları olumlu bir gelişme olarak görenler, bunu botların insanların yaslarını yönetmelerine yardımcı olabileceğinin bir göstergesi olarak görüyor. Ancak Klugman, bir oyun ne kadar ikna edici olursa, insanların bot kullanımını azaltmasının veya sonlandırmasının o kadar zor olabileceğini söylüyor. Bazıları için bunu yapmak, o kişiyi yeniden kaybetmek gibi hissettirebilir.

Almanya’daki Osnabrück Üniversitesi’nde toplumdaki sohbet robotlarının etik etkilerini inceleyen araştırmacı Nora Lindemann, “Sohbet robotları gerçekten de etkileşim kurduğunuz kişiye benziyor,” diyor. “En büyük tehlike, insanların bu kişi olmadan bir dünyaya uyum sağlamak zorunda kalmaması. Bir nevi sahte, ara bir aşamada yaşayabiliyorlar.”

Nolan, Dadbot’uyla etkileşim kurmanın kalıcı etkileri olduğunu keşfetti. Büyürken, babasıyla kafasında ne yapması gerektiği hakkında sohbetler ederdi. Ancak dijital seansından beri bu yetenek kayboldu. “Onunla olan içsel ilişkimi değiştirdi,” diyor. “Artık neredeyse Dadbot’ta yaşıyor gibi; ona içsel olarak ulaşamıyorum. Bunun ne kadar süreceğini bilmiyorum ama kesinlikle bir değişim.”

Ölmüş yakınlarınızla konuşmak bedava değil

Duygusal durumu yüksek kişilerin finansal olarak sömürülme potansiyeli de bazı etikçiler için bir endişe kaynağı. Project December aracılığıyla bir botla yaklaşık 100 mesaj alışverişi yapmak 10 ABD doları tutuyor. Başka bir platform olan Replika, insanların botlarına ücretsiz mesaj göndermelerine olanak tanırken, sesli sohbet, yapay zeka tarafından oluşturulan özçekimler ve daha üst seviyelerde botun düşüncelerini okuma yeteneği gibi ekstra özelliklere erişim sağlayan ücretli planlar da sunuyor. Amerika Birleşik Devletleri’nde yıllık abonelikler yaklaşık 70 dolardan başlıyor.

You, Only Virtual şu ​​anda insanların aylık 20 dolara sanal bir kişilik oluşturup sohbet etmelerine olanak tanıyor. Ancak şirket, reklamları da içerecek bir “freemium” sürüm de geliştiriyor.

Ölmüş büyükannen makarnayı nereden sipariş ederdi?

İngiltere, Cambridge Üniversitesi’nde yapay zeka teknolojisi etiği üzerine çalışan Tomasz Hollanek, reklam tabanlı bir iş modelinden endişe duyuyor. 

Hollanek’in ortak yazarlığını yaptığı keder botları hakkındaki bir raporda, genç bir kadının dijital bir eğlence robotuna anlattığı varsayımsal bir senaryo yer alıyor. Büyükannesine, büyükannesinin kendisi için pişirdiği makarnalara benzer bir makarna yaptığını söylüyor. Bot daha sonra büyükannesine, yemek sipariş hizmetinden makarna sipariş etmesini öneriyor; bu da kullanıcının büyükannesinin asla yapmayacağını bildiği bir şey. Hollanek de öyle düşünüyor.

Bu durumlarda insanlara ürün pazarlamak için veri toplamak, canlandırmanın dayandığı gerçek kişiye saygısızlık olarak değerlendirilebilir. Ancak Harrison, bunun teknolojiyi ücretsiz sunmanın bir yolu olduğunu söyleyerek buna katılmıyor.

Harrison, “Pazarlamayı anlamlı bir şekilde entegre edebileceğimizi düşünüyorum,” diyor. “Annem ve ben sinema tutkunuyuz ve sürekli olarak vizyona girecek yeni filmlerden bahsediyoruz. Annem vizyona girecek bir John Wick filminden bahsediyorsa, John Wick ön izlemesini gösterebileceğim iyi bir kişi olurdu.”

Katilini affeden robot

Keder robotu teknolojisi hızla gelişiyor. Replika artık kullanıcıların botlarını artırılmış gerçekliğe yerleştirmelerine olanak tanıyor ve You, Only Virtual yakında canlandırmasının video versiyonlarını sunacak. Ölen biriyle sohbet etmek Nolan’ın yaşadığı türden tepkilere neden olabiliyorsa, ölen kişinin yapay zeka görüntülerini görmek daha da büyük bir etki yaratabilir.

Ölülerin dijital canlandırmaları, dayandığı kişiyi hiç tanımayan insanlar üzerinde bile etkili olabilir. Mayıs ayında Arizona’da, bir trafik kazasında ölümcül şekilde vurulan bir adamın ailesi, katilin cezasının açıklanması için yapay zeka tarafından oluşturulmuş bir videosunu getirdi. Videoda, mağdur faili affetmişti. Hakimin bu sıra dışı açıklamayı takdir ettiği ve “Yapay zekayı çok sevdim, teşekkür ederim. Siz ne kadar öfkeliyseniz, aile ne kadar haklı olarak öfkeliyse, affı duydum. Bunun samimi olduğunu düşünüyorum.” dediği bildirildi.

Bu dava, Lindemann’ın dikkatini potansiyel olarak tehlikeli bir durum olarak çekmişti. “Bu dava beni gerçekten sarstı,” diyor. “Öngörmediğim bir gelişmeydi ve bu görüntülerin ne kadar güçlü olabileceğini gösteriyor.” 

Hakimin ceza kararını etkileyip etkilemediğini bilmese de, “onu bir şekilde etkilediğini anlayabiliyordunuz,” diyor. Katil, adam öldürme suçundan azami on buçuk yıl hapis cezasına çarptırıldı; bu, savcılığın talep ettiğinden daha fazlaydı. 

Güvenlik bariyerleri ne olmalı?

Teknolojinin ve uygulamasının ilerleme hızına rağmen, arkasındaki yeni ortaya çıkan sektöre yönelik çok az düzenleme mevcut. Bazı geliştiriciler, kullanıcıların güvenliğini sağlamak için programlarına güvenlik bariyerleri eklemek için adımlar atıyor. Her biri biraz farklı ve tescilli olsa da, genel olarak kullanıcının yardıma ihtiyacı olduğunu gösterebilecek konuşmalardaki anormallikleri tespit etmeyi amaçlıyorlar. 

Harrison, bunların neredeyse her zaman kendine zarar verme veya başkalarına zarar verme konuşmalarını kapsadığını söylüyor. Birisi You, Only Virtual’da işaretlenmiş kelimeler kullanırsa, kriz hattı numarası otomatik olarak açılacak. Replika bir sorun tespit ederse, “eski bir arkadaşınızla yeniden bağlantı kurmak veya biraz çime dokunmak için nazikçe oturumu kapatıp biraz zaman ayırmanızı önerebilir” diyor San Francisco, Kaliforniya’daki Replika CEO’su Dmytro Klochko.

Etik uzmanların programların daha güvenli kullanımı için birkaç önerisi daha var. Örneğin, Hollanek de dahil olmak üzere araştırmacılar, botları yalnızca yetişkinlerin kullanmasını öneriyor. 

Replika’nın hizmet şartları, kullanıcıların en az 18 yaşında olmasını gerektiriyor; You, Only Virtual, 13 yaşındaki çocukların bile ebeveyn gözetiminde hizmeti kullanmasına olanak tanıyor. 

Ya kişi ölmezden önce avatarını yaparsa

Hollanek, “En ilginç ama aynı zamanda en endişe verici kullanımlardan biri, ölümcül hastalığı olan ebeveynlerin çocukları için kendi avatarlarını oluşturmayı düşünmeleri,” diyor. “Sonuçlarını bilmiyoruz, bu yüzden izin verip ne olacağını görmektense izin vermemek muhtemelen daha iyi.”

Bu yılın başlarında araştırmacılar, yaklaşık 300 ruh sağlığı uzmanına, çocukların kanserden ölen ebeveynleri için yapay zeka kullanımı hakkındaki görüşlerini almak üzere bir anket düzenledi. Başlangıçta neredeyse hepsi, ölen ebeveynlerinin dijital bir kopyasıyla etkileşim kurmanın yas tutan bir çocuğa fayda sağlayabileceği konusunda hemfikirdi. Ancak görüşmeciler soruyu kanserden ölen bir ebeveynin özel bağlamına getirdiğinde, grubun yalnızca yarısı bunun uygun olabileceğini düşündü.

Harrison, yas robotlarının insanların yaslarını yönetmelerine yardımcı olmada bir rol oynayabileceğine inanıyor. “Bunun olumsuz yanlarından çok daha fazla olumlu klinik etkisi var,” diyor. Ancak bu teknolojinin faydaları veya zararları hakkında çok az sağlam araştırma olduğu gerçeğinden kaçış yok. 

Keder tuhaf bir şey

Harrison, teknolojiyi iyileştirmek, güvenlik önlemlerini artırmak ve politika yapıcıları bilgilendirmek amacıyla etik uzmanları, hekimler ve araştırmacılardan oluşan bir kurul oluşturarak bu sorunu ele almaya yardımcı olmayı planlıyor. Şimdilik, bireyler kendileri için en iyisinin ne olduğuna karar vermek zorunda ve bu, birinin kaybıyla başa çıkarken zor olabilir.

Nolan, Dadbot’unu yaratma sürecindeyken annesinin ölmekte olduğunu öğrendi. Yapay zeka seansından en başından beri tedirgin olsa da, eğer işe yararsa annesini de kaybetmek zorunda kalmayacağına dair bir düşünce kırıntısı taşıyordu. 

“Keder tuhaf bir şey,” diyor. “Kederde neredeyse hiçbir mantık bulamıyorum. Bu yüzden, bize mantıksız vaatlerde bulunan araçlar sunulduğunda, onlara inanmak gerçekten çok kolay.”

***

Bu haber Nature dergisinde yayınlanan kapsamlı bir araştırmadan derlendi.