Avrupa’nın dünyada bir ilk olan kapsamlı yapay zeka düzenlemesi bize ne anlatıyor?

Teknolojinin ışığında ilerleyen bir dünyada Avrupa Birliği (AB) yapay zekanın geleceğini belirlemek üzere önemli bir adım attı. AB karmaşık ve evrensel bir çerçeve sunan yeni yapay zeka yasasını kabul ederek dijital çağda etik, güvenilirlik ve adaletin temellerini sağlamlaştırmayı hedefliyor. Bu devrim niteliğindeki yasa sadece teknoloji devlerini değil bireylerin ve toplumların yapay zeka kullanımı karşısındaki haklarını da koruma altına alıyor. Detaylara geçmeden önce bu önemli adımın neden tarihi bir dönemeç olduğunu anlamak için yapay zekaya daha yakından bakalım.

Yukarıdaki paragrafı ben değil OpenAI’ın yapay zeka sohbet robotu ChatGPT’nin 3.5 sürümü yazdı. Benim dil modelinden isteğim, AB’nin yapay zeka konusunda dünyanın ilk kapsamlı yapay zeka yasasını kabul etmesi üzerine yazacağım haberin ilginç giriş cümlesini yazmasıydı. O da böyle bir paragraf önerdi. Yapay zeka, üstünde yıllardır çalışmalar yapılsa da son bir yılda hayatımıza daha çok entegre oldu. Sadece ChatGPT değil makine öğrenme ve derin öğrenme bilim insanlarının işlerini epey kolaylaştıran, bu sayede yeni bilimsel buluşların önünü açan kritik bir araç haline geldi. Mesela daha bir hafta önce 30 yılı aşkın süreden sonra ilk kez yapay zekanın yardımıyla yeni bir antibiyotik keşfedildi. 

Ancak yapay zekanın iyi yanları olduğu gibi endişe yaratan tarafları da var. NYT’den Jeremy White 22 Aralık’taki yazısında Indiana Üniversitesi’nden doktora adayı Rui Zhu’dan mail aldığını anlatıyor. Zhu White’ın mailine GPT 3.5 Turbo sayesinde ulaştığını yazmış. Elbette ki birinin mailine ulaşmak hele medya çalışanıysa çok zor değil. Ayrıca yapay zeka beslendiği veri kümesinde rastlamasa bu bilgiye hiç sahip olamayacaktı. Ancak bu bize kişilerin belli bir ortamda yalnızca belli kişilerle paylaştığı bilgilerin ileride doğru talimatlar verildiğinde üçüncü tarafların eline ulaşabileceğini de gösteriyor.

İran yaz aylarında sokaklara yerleştirdiği güvenlik kameralarında yapay zekadan faydalanacağını duyurmuştu. Bu, yüz tanıma amaçlı veri tabanı oluşturularak başörtüsü takmayanların anında tespit edilebileceği anlamına geliyor. İran’ın pek tabii bu kadar fazla veriyi yönetebilmek için güçlü bir veri işleme sistemi oluşturması gerekiyor ki bu da güçlü ve yüksek kapasiteli bir altyapı gerektiriyor. Ama yapılması imkansız değil.

Teknoloji özelinde bir düzenlemeye nadir rastlanıyor

Avrupa Komisyonu herkesin çeşitli endişeler yaşadığı yapay zeka konusunda ilk adımı atan taraf oldu. Yapay zeka düzenlemeleri üzerine araştırmalar yapan Avukat Can Şimşek 10Haber’e bir teknoloji ya da nesne özelinde bir düzenlemenin “nadiren” yapıldığını söyleyerek “Hukuk disiplini kendi içinde ceza hukuku, idare hukuku, milletlerarası özel hukuk gibi müstakil alanlara sahiptir. Örneğin ‘araba düzenlemesi’ diye bir düzenleme arabalara dair tüm konuları regüle etmez. Ölümle sonuçlanan araba kazası söz konusuysa ceza hukuku, hatalı park söz konusuysa idare hukuku ve araba kişiye yabancı ülkedeki ailesinden miras kaldıysa milletlerarası özel hukuk devreye girer” diye anlatıyor.

“Bu yapay zeka düzenlemesi de aslında AB’nin ürün güvenliği direktifinden yola çıkarak hazırlanmış bir düzenlemedir” diyen Şimşek amacın yapay zeka kullanımının çeşitli risklerini azaltmak olduğunu belirtiyor. Avrupa Komisyonu yapay zeka konusundaki ilk düzenleyici çerçeveyi Nisan 2021’de önerdi. Bu çerçeveye göre yapay zeka sistemleri analiz edilecek ve bunlar kullanıcılar için oluşturdukları riske göre sınıflandırılacaktı. Risk seviyeleri yükseldikçe düzenleme sayısı da artacaktı. Aralık ayı başlarında komisyon, Avrupa Parlamentosu ve üye ülkelerin anlaşmaya vardığı düzenleme dört risk kategorisinden oluşuyor.

Düzenlemede istismara açık maddeler var mı?

Mesela içerik önerisi sunan sistemler ve spam filtreleme gibi sınırlı risk (limited risk) teşkil eden sistemlerin uymaları gereken kurallar yapay zeka tarafından desteklendiklerini belirtmek gibi görece daha hafif kalırken işin ucunda insan sağlığının olduğu tıbbi cihazlarda kullanılan yapay zeka modellerinin yüksek kaliteli veri kullanmak ve kullanıcılara net bilgi sağlanması gibi yükümlülükleri olacak.

İnsanların nasıl davranması gerektiğine müdahale eden, bireylerin ve devlet kurumlarının her hareketinin izlendiği sosyal kredi sistemleri ise tamamen yasaklanıyor. “Şu an böyle bir şey var mı ki” demeyin, İran örneğinde kadınların giyimlerine müdahale var, Çin de sosyal kredi sistemini geliştiren ülkeler arasında. AB benzer uygulamaların Avrupa içinde olmaması için böyle bir önlem almış ancak kararda bir istisna mevcut: Adam kaçırma ya da terörizm gibi ciddi suçlar söz konusu olduğunda polis halka açık yerlerde insanların yüzlerini yapay zeka destekli “biyometrik tanımlama” sistemleriyle tarayabilecek.

Özellikle bu istisna insan hakları kuruluşları ve sivil toplum örgütleri tarafından epey eleştirildi. Düzenleme için tartışmalar devam ederken 70 STK ve 34 bilirkişi konsey, parlamento ve komisyona acil mektup göndererek Avrupa vatandaşlarının haklarını göz ardı etmemeleri çağrısı yapmıştı. Atlantic Council’in Avrupa Merkezi’nde araştırmacılık yapan ve Brüksel’deki Avrupa Birliği’nin ABD Misyonu’nda zamanında hukuk danışmanlığı yapan Kenneth Propp “Bir yanda Avrupa Parlamentosu’nun sivil özgürlükçüleri modern panoptikon ortaya çıkar diye bu teknolojinin kolluk kuvvetleri tarafından geniş çaplı kullanımından kaçınmakta kararlıydı. Öte yanda konseyi oluşturan üye devletler güvenlik güçlerinin Paris’te düzenlenecek 2024 Yaz Olimpiyatları gibi yüksek profilli ve sorunların yaşanabileceği kamu etkinliklerinde biyometrik tanımlama sistemlerinin kullanılmasını istiyordu. Dolayısıyla AB kurumları arasındaki bu üçlü müzakere maratonunda çözülmesi gereken son iki konudan biri olan ‘yapay zekanın güvenlik güçleri tarafından kullanımı” konusunda uzlaşmaya varılması şaşırtmadı. Sonuca baktığımızda klasik bir AB yasama uzlaşması görüyoruz” diyor. 

Şimşek mevcut düzenlemenin istismar edilmesinin olası olduğunu “Bireylerin bilgisayar yazılımı misali yasaları takip etmesini beklemek gerçekçi olmaz” diye anlatıyor. Avrupa yasalar konusunda diğer kıtalardaki ülkelere göre daha katı olduğundan birey bazında istismar olasılığı daha az olsa da ülkeler bazında kötüye kullanım ihtimali geçerliliğini koruyor. Yapay zeka düzenlemesinin ulusal güvenlik söz konusu olduğunda devre dışı kaldığını göz önünde bulundurursak Şimşek “Mevcut durumda devletler görüntüde hukuk dışına çıkmadan da insan haklarını ihlal edici uygulamalarda bulunabilirler. Bu konularda da olabildiğince şeffaflık talep edilmesini mühim buluyorum” vurgusu yapıyor.

Telifler yapay zeka geliştiricilerine mi modelin beslendiği verilerin sahiplerine mi verilmeli?

Başlıktaki soru uzun zamandır kafamı kurcalıyor. Yapay zeka modelleri bizim İnternet ortamında halka açık bir şekilde paylaştığımız verilerle besleniyor. Dall-E gibi talimatlar vererek ürettiğimiz yeni resimler bile tamamen orijinal sayılmaz. İnsan sanatçıların eserleriyle beslenen bir yapay zeka modelinin ortaya çıkardığı bir resim söz konusu sonuçta. Bu noktada Avrupa’nın telif hakkı konusunda ne yapacağı da merak konusu. Şimşek, düzenlemeyle ilgili basına yansıyan son bilgilerde makine öğreniminde kullanılan ve telif hakkı söz konusu olan eğitme verilerinin şeffaf bir şekilde belirtilmesi kuralının öngörüldüğünü söylüyor ve “AB’de telif hakkı hususunda başka düzenlemeler de mevcut ve bu şekilde telif hakkı sahipleri yapay zeka geliştiricilerden maddi taleplerde bulunabilecekler gibi gözüküyor” diye ekliyor.

Avukat Şimşek ABD’de son dönemlerdeki davalarda yapay zeka geliştiricilerinden ziyade kullanıcıların telif hakkı taleplerine rastlandığını söylüyor ve bunun tartışılması gereken uzun bir konu olduğunu belirterek “Bu konuda nasıl bir sistemin oturacağını zaman gösterecek diyebilirim” diyor. Mevcut durumda gazetelerin kendi verilerinin kullanılmasıyla ilgili biz şunu söyleyebiliriz: New York Times, CNN, Bloomberg gibi gazete ve haber kuruluşları haberlerinin ChatGPT tarafından kullanılmasını yasakladı. Politico ve Business Insider’ın haberleri ise yapılan telif anlaşması kapsamında ChatGPT tarafından kullanılabilecek. 

Düzenleme teknolojinin hızına yetişebilecek mi?

Şimşek de düzenlemenin “mükemmel” olmadığını düşündüğünü belirterek “Yapay zekanın nasıl tanımlandığı düzenleme yürürlüğe girdikten sonra da tartışılmaya devam edecektir. Çünkü yapay zeka tabiri üzerinde evrensel bir uzlaşmaya varmış değiliz” diyor. Ayrıca yapay zeka teknolojisi çok hızlı bir gelişimin içerisinde. Biz üretken yapay zekaya hayretler içinde bakarken bilim insanları genel yapay zeka üzerinde çalışmalarını hızlandırdı bile. Üretken yapay zekada sohbet robotlarının yaratıcı cevaplar vermesinden bahsediyoruz.

Örneğin bir dil modelinin yazdığı şiir, hikaye, müzik sonsuz olasılıklar içinden bize sunduğu şeylerken genel yapay zekada matematik gibi net ve tek cevapları olan bir alanda yapay zekanın doğru cevap vermesinden bahsediyoruz. OpenAI’da yönetim kuruluyla CEO Sam Altman’ı birbirine düşüren sebeplerden biri şirketin son zamanlarda Q* adındaki bir projede yapay zekayı ilkokul seviyesinde matematik yapacak kadar eğitmiş olmasıydı. Benzer şekilde Google’ın ay başında alt sürümlerini piyasaya sürdüğü Gemini’nin Ultra versiyonunun lise seviyesinde matematik yapabildiği söyleniyor. Yapay zekanın matematiği bir insan zihni kadar iyi yapabilmesi insan zekasına daha çok yaklaştığı anlamına geliyor.

Şimşek düzenlemenin teknolojinin hızına yetişip yetişemeyeceğini sorduğumuzda bize bir örnekle yanıt verdi: “Düzenlemede sona yaklaşırken İngilizce ‘large language models’ tabir edilen alanda sıçrayış yaşandı. Chat GPT gibi sohbet botlarının çok amaçlı kullanımını mümkün kılan bu teknolojik ilerleme Yapay Zeka Düzenlemesi taslağına son anda eklemeler yapılması ihtiyacını doğurdu. Yani düzenleme henüz çıkmadan neredeyse teknolojik ilerlemenin gerisinde kalıyordu diyebiliriz.”

“Hukuk kuralları her zaman teknolojiye adapte olmanın bir yolunu bulmak durumunda. Kurallar konulduktan sonra onların nasıl yorumlandığı ve çağın ihtiyaçlarına nasıl cevap verdiği hukukçuların becerisine kalan bir konu” diye belirten Şimşek “Öte yandan zamanın eleği bir yasanın gözden geçirilmesini veya yeni yasalar yapılmasını gerektiriyorsa yasa koyucuların da bunu anlayabilecek nitelikte olması çok önemli. AB Komisyonunun bu konuya genel yaklaşımı bu tarz yasaların periyodik olarak gözden geçirilmesi” diyor ve toplumun bu alandaki çalışmaları iyi izlemesinin önemine vurgu yapıyor.

AB, ABD ve Çin’in girişimleri arasında ne gibi farklar var?

Yapay zeka alanında önde gelen çalışmaları yapan OpenAI, Google ve Microsoft gibi şirketler hep ABD merkezli. Çin de yapay zeka alanında ABD ile yarışmak için canla başla çalışıyor ama ilk kapsamlı düzenleme AB’den geldi. Avukat Şimşek’ten bu ülkelerin düzenlemeye yaklaşımlarını karşılaştırmasını istedik ve bize maddeler halinde sunabileceğimiz şu açıklamaları yaptı:

📌Her üç taraf da birbirinden kopya çekerek ilerliyor. Ama temel amaçları birbirinden farklılık gösteriyor.

📌AB, Çin ve ABD’den ayrıştığını ve daha insan merkezli bir yaklaşıma sahip olduğunu iddia ediyor. Şimşek burada “Gerçekten de AB yapay zeka regülasyonu veya genel olarak teknoloji yönetimi tartışmalarında ABD’nin ticaret odaklı yaklaşımı ve Çin’in paternalistik yaklaşımına kıyasen kişi hak ve hürriyetlerini daha fazla gündeminde tutuyor” yorumu yapıyor.

Şimşek teknoloji piyasasının küreselliği nedeniyle her üç ülkenin de birbirlerinin düzenlemelerine zaman içinde ayak uydurmayı öğrenmesi gerekeceğini söylüyor. Son yıllarda Avrupa Adalet Divanı AB vatandaşlarının kişisel verilerinin ABD’ye transfer edilmemesi yönünde kararlar aldı, AB’deki idari makamlar ABD şirketlerine idari cezalar verdi. “AB marketi ABD için de vazgeçilebilir bir market değil” vurgusu yapan Şimşek bu sebeple “ABD’nin kişisel verilerin gerek ticaret, gerek inovasyon, gerekse gözetim ve güvenlik amacıyla toplanması ve işlenmesi konusundaki aşırı serbestiyeti kısıtlamaya başlayabileceğini” söylüyor. Benzer durumun Çin için de geçerli olduğunu belirten Şimşek “Her ne kadar ulusal egemenliğine öncelik verse de, Çin, ekonomik olarak batıdan tamamen izole olmak istemiyorsa birtakım benzer düzenlemeler yapmaya başlayabilir” diyor.

Peki ya bunun tam tersi bir durum söz konusu olabilir mi? Şimşek “İlişkilerin koptuğu ölçüde tüm cepheler yapay zekayı bir silah olarak düşünmeye ve değerlendirmeye çalışacaktır. Çatışma yaratan siyasi dinamikler bahsettiğim süreci tersine çevirip tüm ülkelerde insan haklarının aleyhine bir durum yaratabilir. Bu senaryoda tam-otonom silah sistemleri gibi insancıl hukukla bağdaşmayan yapay zeka teknolojilerinin kullanıma sokulduğunu da görebiliriz” diyor.

Türkiye’nin yapay zekaya bakışı ne?

Şimşek’in cevabı: Temkinli. Türkiye’nin yapay zeka konusundaki gelişmeleri Avrupa Konseyi ve Ekonomik Kalkınma ve İş Birliği Örgütü (OECD) Konseyi kapsamında takip ettiğini söyleyen Şimşek Türkiye ekonomisinin AB ekonomisiyle oldukça iç içe olduğunu belirterek Türkiye’nin çıkarlarıyla çatışmadığı müddetçe bu tarz konularda AB’ye uyumlu yasalara sahip olma görüşünün Türkiye’de hâlâ geçerli olduğunu söylüyor.

Türkiye’nin 2021-2025 yılları arasında izleyeceği ulusal yapay zeka stratejisinde öne çıkan hedefler şu şekilde:

📌İstihdam en az 50 bin kişiye çıkarılacak.

📌Milli gelire katkısı yüzde 5’e yükseltilecek.

📌Merkezi ve yerel yönetim kamu kurum ve kuruluşlarında yapay zeka alanındaki istihdam en az bin kişi olacak.

📌Lisansüstü düzeyde mezun sayısı en az 10 bin kişiye ulaşacak. (Boğaziçi Üniversitesi bünyesinde Veri Bilimi ve Yapay Zeka Enstitüsü kuruldu. YÖK Başkanlığı ile Cumhurbaşkanlığı Dijital Dönüşüm Ofisi’nin ortaklaşa yürüttüğü proje kapsamında 4 üniversitede açılan siber güvenlik meslek yüksekokullarına ilk defa öğrenci alınmaya başladı.)

📌Uluslararası yapay zeka endekslerindeki sıralamalarda Türkiye ilk 20 ülke arasında yer alacak (ABD’li teknoloji medyası Tortoise’nin haziran ayındaki endeksine göre Türkiye 62 ülke içinde 39’uncu sırada).

Şimşek son olarak “Yalnızca kurallar koyan değil, inovasyon da yapan konumda olabilmek için bilimsel eğitime ve bilimsel iş birliklerine son derece önem verilmeli. Bütünlüklü bir yaklaşımla sağlıklı bir yapay zeka ekosistemi oluşturmak adına yazılımcılar için yapay zeka etiği ve hukuku üzerine zorunlu dersler konulmasını da gerekli buluyorum. Henüz insanlık olarak yapay zeka serüveninin başındayız ve hukuk açısından da atılacak çok adım var” diyor.

Neymiş bu Anayasal Yapay Zekâ? Bilmesek ne kaybederiz mesela?

Yapay zeka insanların işini elinden alacak mı? Patronlar pek öyle düşünmüyor