Yapay zekada çığır açacak yeni gelişme: Metni ver, Sora 1 dakikalık gerçekçi video üretsin

San Francisco merkezli teknoloji şirketi OpenAl, metin komutlarıyla gerçekçi ve yaratıcı video sahneler oluşturabilen yapay zeka modeli Sora’yı duyurdu. Yapay zeka sohbet robotu ChatGPT’nin geliştiricisi OpenAI’dan yapılan açıklamada, insanların gerçek dünya etkileşimi gerektiren sorunları çözmelerine yardımcı olan modellere ilişkin, yapay zekaya hareket halindeki fiziksel dünyayı anlamayı ve simüle etmeyi öğretmeye yönelik çalışma yapıldığı aktarıldı.

Sora’nın “metinden videoya” yapay zeka modeli olduğu kaydedilen açıklamada, bunun kullanıcıların isteklerine bağlı olarak ve görsel kaliteyi koruyarak bir dakikaya kadar uzunlukta videolar oluşturabileceği bildirildi.

Açıklamada bugün Sora’nın zararlar veya riskler açısından değerlendirilmesi amacıyla bazı takım üyelerinin kullanımına sunulduğu belirtilerek, ayrıca modelin profesyonellere yararlı olacak şekilde geliştirilebilmesi için geri bildirim almak üzere bir dizi görsel sanatçı, tasarımcı ve film yapımcısının erişimine açıldığı aktarıldı.

Sora’nın birden fazla karakterin belirli hareket türlerinin ve konu ile arka planın doğru ayrıntılarının yer aldığı karmaşık sahneler oluşturabildiği bilgisi verilen açıklamada, modelin, istemleri doğru bir şekilde yorumlayabilmesine ve canlı duyguları ifade eden ilgi çekici karakterler oluşturabilmesine olanak tanıyan derin bir dil anlayışına sahip olduğu vurgulandı. Yeni modelin benzer bir metinden videoya yapay zeka modeli olan Google Lumiere ile rekabet edeceği belirtiliyor.

OpeAI, X hesabından yaptığı paylaşımda da videolara birçok örnek verdi:

Prompt: “A stylish woman walks down a Tokyo street filled with warm glowing neon and animated city signage. she wears a black leather jacket, a long red dress, and black boots, and carries a black purse. she wears sunglasses and red lipstick. she walks confidently and casually.… pic.twitter.com/cjIdgYFaWq

— OpenAI (@OpenAI) February 15, 2024

Dünyanın başını ağrıtan yeni tehlike: Deepfake

Dünya nüfusunun yaklaşık dörtte biri bu yıl seçime gitmeye hazırlanırken dezenformasyon ve yapay zeka destekli hilelerin seçim sonuçlarını etkilemek için kullanılabileceğine dair endişeler de artıyor. Uzmanlar deepfake örneklerinin yaygınlaşmasının sonuçlarından çekinirken dijital güvenlik şirketi ESET de deepfake konusunu masaya yatırdı, bunun kitlesel bir aldatma silahı olup olmadığını inceledi.

70 ülkede 2 milyar seçmen bu yıl tercih ettikleri temsilcilerine ve siyasi liderlerine oy vermek üzere seçim merkezlerine gidecek. Aralarında ABD, İngiltere ve Hindistan’ın da bulunduğu çok sayıda ülkede (Avrupa Parlamentosu için de) önemli seçimler yapılacağından, bu durum önümüzdeki birkaç yıl ve sonrasında jeopolitiğin siyasi manzarasını ve yönünü değiştirme potansiyeline sahip. Gerçek insanların sahte görüntüleri, ses ve video klipleri yaygınlaştıkça yapay zeka destekli bir dezenformasyon ihtimali giderek artan bir endişeye neden oluyor.

Sahte haberler, 2016’da Beyaz Saray yarışı sırasında büyük bir hikaye haline geldiğinden beri seçim ile ilgili manşetlere hakim oldu. Bundan sekiz yıl sonra, tartışmasız daha büyük bir tehdit var; uzmanları bile kandırabilecek dezenformasyon ve derin sahteciliklerin bir kombinasyonu. Arjantin’deki seçimler öncesinde dolaşıma sokulan bir dizi resim ve video ile ABD Başkanı Joe Biden’ın üzerinde oynanmış bir ses kaydı da dahil olmak üzere, yapay zeka tarafından üretilen seçim temalı içeriğin son örneklerinin, daha büyük ölçekte olabileceklerin habercisi olma ihtimali yüksek.

Dünya Ekonomik Forumu da riske dikkat çekti

Yanlış bilgilendirme ve dezenformasyon Dünya Ekonomik Forumu (WEF) tarafından da önümüzdeki dönemin en önemli küresel riski olarak belirlendi. Deepfake’lerle ilgili sorun, yapay zeka destekli teknolojinin artık ucuz, erişilebilir ve büyük ölçekte zarar verebilecek kadar güçlü hale gelmesi olarak tanımlanıyor. Bu da siber suçluların, kötü niyetli siyasi aktörlerin ve hacktivistlerin ikna edici dezenformasyon kampanyaları ve daha geçici, tek seferlik dolandırıcılıklar başlatma becerilerini artırıyor.

WEF’in raporuna göre sentetik içerik önümüzdeki iki yıl içinde bireyleri manipüle edecek, ekonomilere zarar verecek ve toplumları çeşitli şekillerde parçalayacak. ChatGPT ve kolaylıkla erişilebilen üretken yapay zeka (GenAI) gibi araçların, daha geniş bir yelpazedeki bireylerin deepfake teknolojisi tarafından yönlendirilen dezenformasyon kampanyalarının oluşturulmasına katılmasını mümkün kılması önemli bir zorluğu oluşturuyor.

Yapay zeka kaynaklı seçim hileleri dünyanın en büyük derdi oldu

Bir seçim sürecinde deepfake, seçmenlerin belirli bir adaya olan güvenini sarsmak için kullanılabilir. Eğer bir siyasi parti ya da adayın destekçileri sahte ses ya da videolarla uygun bir şekilde yönlendirilebilirse, bu rakip gruplar için bir kazanç olacaktır. Bu zorluğun temelinde basit bir gerçek yatıyor: İnsanlar bilgiyi işlerken niceliğe ve kolay anlaşılırlığa değer verme eğilimindedir. Benzer bir mesaj içeren ne kadar çok içerik görürsek ve bunları anlamak ne kadar kolay olursa, bunlara inanma şansımız da o kadar yüksek olur. Buna bir de deepfake’lerin gerçek içerikten ayırt edilmesinin giderek zorlaştığı gerçeğini eklediğinizde, elinizde potansiyel bir demokratik felaket reçetesi var demektir.

Teknoloji firmaları bu konuda ne yapıyor?

Hem YouTube hem de Facebook’un yakın zamanda yapılan bir seçimi etkilemeyi amaçlayan bazı deepfake’lere yanıt vermekte yavaş davrandığı söyleniyor. Bu durum sosyal medya şirketlerinin seçim manipülasyonu girişimlerini engellemelerini gerektiren yeni bir AB yasasına (Dijital Hizmetler Yasası) rağmen gerçekleşti.

OpenAI ise DALL-E 3 tarafından üretilen görüntüler için Coalition for Content Provenance and Authenticity’nin (C2PA) dijital kimlik bilgilerini uygulayacağını açıkladı. Meta ve Google tarafından da denenen kriptografik filigran teknolojisi, sahte görüntü üretmeyi zorlaştırmak için tasarlandı. Ancak bunlar hala bebek adımları ve seçim ateşi tüm dünyayı sararken tehdide karşı teknolojik müdahalenin çok az ve çok geç olacağına dair haklı endişeler var. Özellikle de WhatsApp grupları ya da robocall’lar gibi nispeten kapalı ağlarda yayıldığında, sahte ses ya da videoları hızlı bir şekilde takip etmek ve çürütmek zor olacaktır.

Apple’dan yapay zeka hamlesi

Bu arada Apple yazılım geliştiricilere yönelik geliştirdiği yapay zeka destekli araçla Microsoft’a rakip olmaya hazırlanıyor. Yapay zeka yarışına dahil olmak isteyen Apple, Microsoft’a doğrudan rakip olacak bir yazılım aracını tamamlamak üzere.

Bloomberg’e konuşan konuya yakın kaynaklara göre uygulama geliştiricilerin kullanımına sunulacak olan ve yapay zeka desteği içeren araçla yazılımcılar daha hızlı kod üretebilecekler. Bu yılın içinde üçüncü parti yazılımcılara sunulması beklenen aracın Microsoft’un GitHub Copilot platformuna doğrudan rakip olması bekleniyor.

Haber sonrası perşembe günü yüzde 1,5’e kadar düşen Apple hisseleri hafif artıya dönerek günü kapadı. Microsoft ise yüzde 1’in üzerinde kayıp yaşadı.

Bloomberg’e konuşan kaynaklara göre Apple’ın bir sonraki iPhone ve iPad yazılım güncellemesinde de bir dizi yapay zeka özellikleri yer alacak.

Yapay zeka nasıl öğreniyor? Bir büyük gelişme

Yapay zeka 1.5 ayda 34 bin teknoloji çalışanını işinden etti

Yapay zekanın son oyuncusu ‘Gemini’ kullanıma açıldı: Google da yarışta