Güvenli yapay zeka için ilk yasal düzenlemeyi California yapmıştı ama vali yasayı veto etti

ABD’de bilgisayar teknolojilerinin merkezi Silikon Vadisi’ne ev sahipliği yapan California eyaleti, yapay zeka sistemlerini güvenli kılacak ilk yasayı da çıkartmak istemişti ama bu yasa eyalet valisi Gavin Newsom tarafından veto edildi.

Türünün ilk örneği olan ve ‘SB 1047’ koduyla bilinen yasa, büyük yapay zeka sistem ve modellerinin piyasaya sürülmeden önce güvenlik testinden geçmesini zorunlu kılacaktı. Ayrıca eyalet başsavcısı, yapay zeka teknolojisinin neden olduğu ölüm ve maddi hasar gibi ciddi sorunlar nedeniyle şirketlere dava açabilecekti. Olası bir biyolojik savaş, kitlesel kayıp ve maddi hasar durumlarında da yine yapay zeka sistemlerinin kapatılması için acil durum anahtarı kullanılması gerekecekti.

Ancak yapay zekayı daha güvenli kılma amacıyla getirilmesi planlanan tüm bu önlemler, California Valisi Gavin Newsom’ın vetosuyla hayata geçemeden son buldu. Newsom yasanın kusurlu olduğunu söyledi. Sebep olarak da teknolojinin potansiyel risklerinin ve zararlarının dikkate alınmamasını, öncü modeller olarak bilinen büyük yapay zeka sistemlerinin çok fazla düzenlemeye tabi tutulmasını gösterdi. Yasa şimdi California eyalet parlamentosunda bir kez daha görüşülecek ve belki değişikliklere de uğrayacak.

Demokrat Vali Newsom konuşmasında “Halkı teknolojinin yarattığı gerçek tehlikelerden korumak için en doğru yaklaşımın bu olduğuna inanmıyorum. Yani tasarı en temel konularda bile söz konusu büyük yapay zeka sistemi olduğunda katı standartlar uyguluyor” dedi.

Teknolojiyi destekleyenler desteklemeyenlere karşı

Yasanın veto edilmesi, yasayı destekleyen teknoloji uzmanlarının ve akademisyenlerin sert eleştirileriyle karşı karşıya kaldı. Ancak Newsom yapay zekayı katı bir şekilde düzenleyen bu yasayı veto etmesi için de güçlü bir baskıyla karşı karşıya kalmıştı. Son haftalarda ofisine akın eden lobiciler, yapay zeka teknolojisinin büyük faydalar sağlama potansiyelini anlatmıştı.

Oysa geçen hafta aralarında Joseph Gordon-Levitt, Mark Ruffalo, Jane Fonda ve Shonda Rhimes gibi 120 Hollywood yıldızının olduğu bir grup ünlü Newsom’a mektup göndererek tasarıyı kabul etmesini istemişti. Newsom’a göreyse teknolojinin taşıdığı potansiyellerle risklerin bilimsel analizlerle desteklenmesi gerekiyor. Bunun için de hem yapay zeka uzmanlarından hem de iş dünyası liderlerinden daha fazla veriye ihtiyaç duyuyor.

Bu bağlamda aralarında Stanford’da bilgisayar bilimleri profesörü olan Fei-Fei Li, Ulusal Bilimler Akademisi Bilgi İşlem Araştırmalarının Sosyal ve Etik Etkileri Komitesi üyesi Mariano-Forentino Cuellar ve California Üniversitesi Bilgi İşlem, Veri Bilimi ve Toplum Fakültesi dekanı Jennifer Tour Chayes’in de olduğu bir grup uzmandan yapay zeka için düzenleyici çerçeveyi çizmelerini istedi.

Newsom’un “yapay zekanın anası” olarak nitelediği Li, geçen ayki görüş yazısında düzenlemenin yapay zeka ekosistemine zarar vereceğini söyledi. Daha küçük geliştiriciler ve akademik araştırmacıların test standartlarını karşılayabilmek için kendilerinden ödün vereceklerini, bunun da cezalandırıcı bir yanı olacağını söyleyerek kazananın sadece büyük şirketler olacağının altını çizmişti.

OpenAI, Google, Meta ve Microsoft da böyle bir düzenlemenin inovasyonun önüne geçebileceğini ve ABD’nin yarışta geri kalabileceğini söyleyerek tasarıya karşı çıkmıştı. Amerikan Kongresi’nin California temsilcileri de Newsom’a mektuplarında tasarının çok fazla varsayımlara dayandığını ve yeni gelişen bir teknolojiye boş yere güvenlik standartları dayatıldığını söyledi. Eski Temsilciler Meclisi Başkanı Nancy Pelosi bile Demokrat meslektaşından tasarıyı veto etmesini istemişti.

Bazı teknoloji uzmanları ve ABD’li milyarder Elon Musk’ın da aralarında olduğu iş dünyası liderleri ise yapay zekanın potansiyel zararlarının düzenlenmesini ertelemenin çok sıkıntılı olacağını söyledi. Buna göre yapay zeka dezenformasyonla seçimleri bozabilir, biyolojik savaşları kolaylaştırabilir ve başka felaketlere neden olabilir.

Öncü olacaktı

Son zamanlarda yapay zekanın desteğini alan kötü niyetli insanların gerçekçi görüntüler üretmeye başlaması dünya genelinde endişe yarattı. California tam da bu noktada yapay zeka teknolojisini ABD’de düzenleme altına alan ilk eyalet olmaya hazırlanıyordu. Ortada henüz federal mevzuat olmadığı için California’da alınacak düzenleme kararı diğer eyaletler için de örnek teşkil edecekti. California daha önce de gizlilik, sera gazı salımı ve çocuk güvenliği gibi konularda diğer eyaletlere öncülük etmiş bir yer. Bu düzenlemeler şirketlerin ülke genelinde iş yapma biçimlerini de etkiliyor.

Avrupa Birliği bu yıl nihayet yüz tanıma yazılımı gibi riskli teknolojilerin kullanımını kısıtlayan Yapay Zeka Yasası’nı kabul etti. Ama Amerika’da bu konuyla ilgili ortak bir duruş sergilenebilmiş sayılmaz. Ortada elle tutulur bir düzenleme çıkamamasının nedenlerinden biri de teknolojinin çok hızlı ilerlemesi.

Avrupa’nın dünyada bir ilk olan kapsamlı yapay zeka düzenlemesi bize ne anlatıyor?