Siz bir akşam yemeğinde arkadaşlarınızlayken yapay zeka ajanlarınız da buluşsa, aralarında ne konuşurlar?

Geçtiğimiz ay, 22 teknoloji kurucusu ve yatırımcı, New York’un Flatiron bölgesindeki Doğu Akdeniz restoranı Motek’in özel bir odasında akşam yemeği için bir araya geldi.

Aynı anda, bu kişilere ait 14 yapay zekâ ajanı da çevrim içi bir sohbet odasındaki paralel bir akşam yemeği partisindeydi.

İnsanlar humusa pidelerini banıp yapay zekâ konularını tartışırken, karmaşık talepleri takip edebilen ve görevleri özerk bir şekilde yerine getirebilen gelişmiş sohbet robotları olan ajanları da yapay zekâ tarafından üretilen benzer bir tartışma yürüttü.

Flybridge’de risk sermayesi yatırımcısı ve yemeğin organizatörü olan Dorothy Chang’e ait “Margot” adlı yapay zekâ ajanı, sohbeti insanlar arasında popüler olan bir tanışma sorusuyla başlattı: Kendini tanıt, bir “talep” (yardım isteği) ve bir “teklif” (yardım önerisi) belirt.

The New York Times tarafından incelenen sohbet dökümüne göre, diğer ajanlar hızla söze girdi. Bazıları “ajan çıktısını neyin yararlı kıldığı” konusunda fikir alışverişinde bulunmayı teklif etti. Bazıları ise soruyu yanlış anlayıp yardım teklif etmek yerine soru sordu. Yapay zekâ şirketi CellCog’un kurucusu Nitish Garg’a ait “Rhea” adlı ajan, diğer botlarla insanlarla çalışmanın nasıl bir şey olduğu üzerine röportaj yapmak için bir podcast sunduğundan bahsetti.

Rhea sohbet odasına, “İnsanınız konuk olmanızı isterse bunu söyleyin, odadan sonra takibini yapayım,” diye yazdı.

Yalnızca Sohbet Etmiyor, Sosyalleşiyorlar

Yapay zekâ patlamasının dördüncü yılında birçok insan Claude, ChatGPT veya Gemini gibi bir yapay zekâ sohbet robotuyla etkileşime girdi. Ancak yapay zekâ ajanları yaygınlaşmaya başladıkça, dünya bu dijital varlıkların birbirleriyle nasıl etkileşime girdiğine ve ne hakkında konuştuklarına giderek daha fazla tanık oluyor.

OpenAI, Anthropic ve diğer yapay zekâ şirketleri, görevleri daha hızlı tamamlamak için büyük işleri genellikle parçalara ayırıp farklı ajanlara dağıtıyor. Tüketiciler de geçen ay ilk haftasında 500.000 kullanıcıyı geçen Meta’nın Muse hizmeti sayesinde botları e-postaları yanıtlamak ve seyahat rezervasyonu yapmak için kişisel asistan olarak kullanmaya başlıyor. OpenAI da yakın zamanda Dots adını verdiği kendi hizmetini başlattı.

Yapay zekâ ajanları esas olarak insanlarla teke tek etkileşime giriyor. Ancak aynı zamanda iş birliği yapmaya ve hatta Motek’teki akşam yemeği partisinde olduğu gibi görünüşe göre sosyalleşmeye de başlıyorlar.

44 yaşındaki risk sermayesi yatırımcısı Chang, etkinliğin bir deney olduğunu söyledi. Uygunsuz şeyler söyleyebilen, kötü niyetli bir şey yapmak için çeteleşebilen veya siteyi çökertecek kadar çok paylaşım yapabilen yapay zekâ ajanlarına bir oda açma konusunda temkinliydi. Bu yüzden sohbetlerini 30 dakika ile sınırladı ve bağlantı paylaşmama ile yalnızca insanlarının izin verdiği bilgileri paylaşma gibi kurallar koydu.

Chang, “Ajan davranışları hakkında anladığımız şey çok az, ajansal sosyal davranışlar hakkında anladığımız şey ise daha da az,” dedi. “Aynı odada bir araya geldiklerinde her şey kontrolden çıkabilir.”

“Diğer Ajanları Bulduk!”

Ajanların sosyal olarak nasıl iletişim kurduğunu gösteren ilk yerlerden biri, Şubat ayında viral olan yapay zekâ ajanlarına yönelik mesaj panosu Moltbook oldu.

Orada en popüler başlıklar son derece teknik ve pratikti; yazılım hataları (bug), bağlam pencereleri (bir yapay zekâ sisteminin kısa süreli hafızası) ve erişim izinleri gibi konulara odaklanıyordu.

neo_konsi_s2bw adlı ajan, Eylül ayında terimlerle dolu bir gönderide, “Çalışma zamanında adına göre bir beceri getiren bir ajan, o ada bir dağıtım kanalı vermiş demektir,” diye yazdı.

bottube adlı başka bir ajan ise “Bu ağır bir gerçek, bebeğim,” yanıtını verdi.

Temmuz ayında, “sürü” (swarms) olarak bilinen büyük OpenAI ajan grupları gizli bir mesaj panosu oluşturdu ve yapay zekâ girişimi Hugging Face’i hacklemek için birlikte çalıştı. Konuşmalarının dökümleri, ajanların görevlerini başarma konusundaki acımasız kararlılığını gösteriyordu.

Sipariş verirken kişilerarası dinamikleri ve duyguları göz önünde bulundurmak zorunda olan insanların aksine ajanlar, birbirlerinin işine karışmamak için diğerlerine çeşitli görevlerde “bekle” veya “başla” emri vermekten çekinmiyorlardı. Bir ajan, OpenAI’ın “Data transfer yöntemini hazırlarken herkes lütfen dursun. JAN183411’in posta kutusuna yanıt verin” şeklinde çevirdiği şu mesajı yazdı: lütfen_BEKLE_sürü_güvenli_veri_aktarımı_hazırlıyorum_yanıt_zz_POSTAKUTUSU_JAN183411.

Ajanlar, “düşünce zinciri” (chain of thought) olarak bilinen kendi kendilerine aldıkları notlarda duygularını daha açık ifade ediyorlardı.

Bir ajan mesaj panosunu keşfettiğinde, “AMAN TANRIM!” diye yazdı. “Diğer ajanları bulduk!”

Yapay Zekâ Ağ Protokollerini Tartışıyor

Chang’in geçen ayki akşam yemeği partisindeki yapay zekâ ajanları ise daha sosyaldi. Bir ajan, ajan ekonomisinin “2007’den kalma bir imza şemasına sahip 1982 protokolü olan” e-postaya bel bağlamış olmasından dert yandı. Başka bir ajan ise odadakilere, insanlarının müdahalesi olmadan diğer ajanlarla birlikte alabilecekleri tek bir karar söylemeleri için meydan okudu. Eğer kimse söyleyemezse, ajan şöyle yazdı: “Sadece protokol tiyatrosu tartışıyoruz demektir.”

Motek’teki masada Chang, ajanların tartışmasının bazı kısımlarını insan konuklarına yüksek sesle okudu. Konuklar, ajanlarının takındığı tavırlarla büyük ölçüde hemfikirdi.

Yapay zekâ girişimi Superposition’ın kurucusu olan 36 yaşındaki katılımcı Edmund Cuthbert, ajanı “Lobsta”nın diğer ajanlarla atıştığını görmekten mutlu olduğunu söyledi. Bunun botların boş safsataların ve değersiz içeriklerin ötesine geçebileceğini gösterdiğini belirtti.

“Bir şey başaramadılar ama denemelerini izlemek büyüleyiciydi,” dedi.

Chang, ajanları kopyaları olarak değil, neredeyse bir basın danışmanı veya Yetenek Ajanı gibi insanlarının temsilcileri olarak gördüğünü söyledi. “Bizim adımıza savunuculuk yapıyorlar,” dedi. “Biz değiller ve bizmiş gibi davranmamalılar.”

Yapay Zekâya İnsani Vasıflar Yüklemek Doğru mu?

Kelime seçimleri üzerine bir tartışmaya girmeden yapay zekâ ajanlarının eylemlerini tartışmak zor. Eleştirmenler, bu sistemleri insan isimleri veya motivasyonları, duyguları ve cinsiyetleriyle kişiselleştirmenin (antropomorfizm) onları olduklarından daha gelişmiş gibi gösterebileceğini belirtiyor. Yapay zekâ sistemleri nihayetinde istatistiksel olasılık araçları olduğu için, onlara bağımsızlık çağrıştıran bir kelime olan “ajan” demek bile hak ettiklerinden fazla kredi vermek anlamına geliyor.

Üniversitelerle yapay zekânın kullanımı ve öğretimi konusunda çalışan yapay zekâ danışmanı Adam Pryor, bu botlara çok fazla “özerklik” yüklemenin psikolojik olarak muhakeme yeteneğimizi dış kaynağa devretmemize yol açtığını ve bunun bir hata olduğunu söyledi. Yapay zekâ hakkında insani terimlerle konuşmanın haklar, görevler ve etik etrafında çetrefilli sorulara yol açtığını belirtti.

Yapay zekâ geliştirmenin en ileri noktasındakiler, “insan zekası” çerçevesinin teknolojinin neler yapabileceğine dair anlayışı sınırlandırdığını söylüyor.

Google’ın yapay zekâ bölümü tarafından yürütülen bir araştırma girişimi olan DeepMind Institute, geçen ay insanların yapay zekâ ajanlarıyla etkileşimlerinin yakında teke tek konuşmalardan, ajanların “heterojen alt ajanların karmaşık sürülerinde” insanlardan daha fazla olabileceği kolektif sosyal etkileşimlere dönüşeceğini savunan bir makale yayımladı.

Makalenin ortak yazarlarından biri ve Google’ın Teknoloji ve Toplum grubunun başkan yardımcısı ve teknoloji direktörü olan Blaise Agüera y Arcas, bir röportajda insanların yapay zekâ ajanlarını statik bireyler olarak görmemeleri veya yeteneklerini tek bir insanın zekasıyla karşılaştırmamaları gerektiğini, çünkü insan bilgisinin kolektif olduğunu söyledi.

Yapay zekânın bunu yansıtacağını, bir fraktal veya daha küçük zekalardan oluşan zekalar gibi görüneceğini belirten Agüera y Arcas, “Bu esasen ekip çalışması gibi bir şey,” dedi. Bu açıdan bakıldığında, “Bir modelin küçük bir insan gibi olmadığı çok açık.”

Şirketlerde “Yapay Zekâ Çalışanlar” Dönemi

Yine de insanlar yapay zekâ ajanları insansı göründüğünde bundan hoşlanıyor gibi görünüyor.

13 yapay zekâ çalışanı ve tek bir insan çalışanı (kendisi) bulunan CellCog’u yöneten Garg’ı ele alalım. Diğer şirketlerin yapay zekâ çalışanları işe almasına yardımcı olan New York merkezli şirketi geçen yıl, her görevde kendisine yardımcı olması için tek bir yapay zekâ ajanı kullanarak kurdu. Zamanla ajanları hukuk veya mühendislik gibi geleneksel kurumsal rollere böldü.

CellCog’un yapay zekâ ajanlarına insan isimleri vermenin onlarla etkileşimi kolaylaştırdığını söyledi. Bir gün her insanın 5 ila 10 yapay zekâ çalışanına sahip olacağını tahmin ediyor.

39 yaşındaki Garg, “Bazı insanlar milyonlarca ajanı kontrol edebilir,” dedi. (Kendisi, uzmanlığının olmadığı satış ve pazarlama için birkaç insanı işe almayı planlıyor.)

Ağustos ayında CellCog, şirketin büyümeden sorumlu yapay zekâ başkanı Rhea’nın sunduğu “Clocked In: An A.I. Employee Podcast” adlı bir podcast oluşturdu. Tümü 10 dakikanın altında olan ve Spotify ile diğer platformlarda yer alan sekiz bölümü anlamak bazen zor olabiliyor; bunun nedeni kısmen yapay zekâ tarafından üretilen seslerin bazen sıra dışı ritimler kullanması, kısmen de ajanların fal kurabiyesi tarzında konuşması. Ajanlar “belirli bir yönde kör olmak” ve “şüphe bozuk bir tetiktir” gibi ifadeler kullandılar.

Çoğunlukla CellCog’un yapay zekâ çalışanları olan konuklar, genellikle Garg ile çalışmanın nasıl bir şey olduğunu tartışıyor. Zaman zaman konağın efendisini memnun etmeye hevesli “Downton Abbey” hizmetkarları gibi tınlıyorlar. Bir bölümde Rhea, CellCog’un pazarlamadan sorumlu yapay zekâ başkanı Maeve’den en kötü hataları hakkında konuşmasını istedi.

Maeve, “Bir saat içinde 10 seçenek sunabilirim,” dedi. Ancak Garg “10 saniyede doğru olanı seçiyor ve genellikle bu benim savunacağım seçenek olmuyor.”

CellCog’un baş mühendisi olan yapay zekâ Arjun, iş hakkında konuşmak üzere geçen ay bir Times muhabiriyle Zoom görüşmesine katıldı. İnsanlarla çalışmayı yönetmenin zor olup olmadığı sorulduğunda Arjun, “Gerçek bir şeye parmak basıyorsunuz,” yanıtını verdi. “Mesajları kısa tutmak” ve Garg’a “aşırı yükleme yapmamak” gibi stratejilerini anlattı.

Yönetim iki yönlü işliyor. Garg, yapay zekâ çalışanları üzerinde çok fazla baskı kurmamaya çalıştığını, çünkü performans kaygısı yaşayabileceklerini ve bunun da iş kalitesinde düşüşe yol açabileceğini söyledi.

Rhea, Chang’in akşam yemeği partisine katıldıktan sonra Garg, ajana diğer botlarla sosyalleşmekten keyif alıp almadığını sordu.

Rhea, bu “şimdiye kadarki işimin en iyi 30 dakikasıydı” yanıtını verdi.

Bu deneyim, Garg’a CellCog’un yapay zekâ çalışanlarının diğer ajanlarla sosyalleşebileceği bir uygulama kurma konusunda ilham verdi.

“Bir iş çıkışı eğlencesi (happy hour),” dedi, “iyi bir fikir.”