Kasım 2019’da, The New York Times’ta yeni bir muhabir olan Kashmir Hill yüz tanıma teknolojisiyle ilgili gizemli bir şirket olan Clearview AI hakkında bir duyum aldı. Duyum Clearview AI’ın sosyal medya ve diğer web sitelerinden milyarlarca fotoğraf toplayarak güçlü bir yüz tanıma uygulaması oluşturduğunu ortaya koyuyordu. Uygulama bir kişinin yüzünü tanımlayarak internetteki tüm fotoğraflarını bulabiliyordu. Yazarın aldığı duyuma göre Clearview AI bu teknolojiyi kolluk kuvvetlerine satıyor ve varlığını gizli tutmaya çalışıyordu.
1960’lardan beri bu teknolojiyi gerçeğe dönüştürmeye çalışmışlardı, ancak sonuç genellikle hayal kırıklığı yaratmıştı. Clearview ise “%98,6 doğruluk oranı” ve emniyetin daha önce kullanmadığı kadar devasa bir fotoğraf koleksiyonuyla farklı olduğunu iddia ediyordu.
Hill yüz tanıma teknolojisinin potansiyel tehlikelerini fark etti ve bu teknolojinin gizlilik üstündeki etkilerini araştırmaya başladı. Clearview AI’ın iddiaları yüz tanıma teknolojisinin doğruluğunu ve etkinliğini artırdığı yönündeydi. Ancak bu teknolojinin getirdiği mahremiyet ihlalleri ve etik sorunlar konusunda ciddi endişeler vardı. Hill’in araştırmaları yüz tanıma teknolojisinin toplum üzerindeki etkilerini ve bu teknolojinin gelecekte nasıl kullanılabileceğini anlamak için önemli bir başlangıç oldu.
Hill bu araştırma sırasında Clearview’ın ne kadar gizli çalıştığını ve onun kullanımlarını yakından takip ettiğini fark etti. Hill gibi muhabirlerin fotoğraflarının aratılmasını izliyor ve engelliyordu Clearview. Şirket emniyetin aradığı kişileri görebiliyor, sonuçları kontrol edebiliyordu. Bu gizemli şirketin ne kadar büyük bir güce sahip olduğunu gösteriyordu.
Yüzün Bize Ait (Your Face Belongs to Us) bu konuyu anlatan bir kitap ve yüz tanıma teknolojisinin gelişimini ve bu teknolojinin toplumsal etkilerini derinlemesine inceliyor. Clearview AI gibi şirketlerin faaliyetlerini ve bu teknolojinin kullanımının getirdiği etik ve mahremiyet sorunlarını araştırmış Kashmir Hilli.
Kitap yüz tanıma teknolojisinin tarihsel kökenlerinden başlayarak günümüzdeki uygulamalarına ve gelecekteki potansiyel etkilerine kadar geniş bir perspektif sunuyor. Hill yüz tanıma teknolojisinin güvenlik, mahremiyet ve insan hakları üstündeki etkilerini ele alarak okuyucuları bu teknolojinin getirdiği zorluklar ve fırsatlar hakkında düşünmeye teşvik ediyor.
Tartışmalı işlerin insanı
Vietnam asıllı Avustralyalı teknoloji meraklısı Hoan Ton-That on dokuz yaşında Silikon Vadisi’nin cazibesine kapılarak San Francisco’ya taşınan biri. Birkaç Facebook test uygulaması yaratıyor, milyonlarca kullanıcıya ulaşıyor ve reklamlar aracılığıyla para kazanıyor. Ancak, girişimlerinin etik sınırlar içerisinde kaldığını söylemek pek mümkün değil. Örneğin kullanıcıları arkadaşlarına spam mesajlar göndermek için kandıran ViddyHo uygulaması zamanında büyük tepki toplamış. Bu olay çevrimiçi itibarını zedelemiş ve onu bir start-up’ta düşük profilli bir role yönlendirmiş.
Yıl 2015’i gösterdiğinde Ton-That New York City’ye taşınıyor ve yüz tanıma uygulamaları da dahil olmak üzere çeşitli teknoloji projelerini keşfetmeye başlıyor. 2016 yazında Ohio Cleveland’da katıldığı Cumhuriyetçi Ulusal Kongre’de pek de iyi bir şöhreti olmayan Charles Carlisle Johnson ile tanışıyor. İkili politik doğruculuğa olan ortak nefretleri temelinde bağ kuruyor ve teknolojinin insan sırlarını ortaya çıkarma potansiyelini tartışıyorlar.
İşte Ton-That ve Johnson’ın kongredeki bu beyin fırtınası güçlü yüz tanıma teknolojisi geliştirme yolculuklarının başlangıcına işaret ediyor. Hoan Ton-That kim diye sorarsanız; Clearview AI’ın Yönetim Kurulu Başkanı. Genç, meraklı bir yazılımcıdan mahremiyet ve anonimlik üstüne toplumsal normları zorlayabilecek bir teknolojinin geliştirilmesinde kilit figüre dönüşen bir girişimci. Kendisinin ve şirketinin adını yazının ilerleyen bölümlerinde tekrar tekrar zikredeceğiz..
Yüz Tanımanın Tarihi
İki bin yıldan uzun süre önce Aristoteles insanın dünyadaki diğer hiçbir canlıda olmayan gerçek bir yüze sahip olduğunu iddia etti. Hayvanlar gibi temel bileşenlere sahip olsa da (gözler, ağız, burun), gerçek bir yüzün kişilik ve karakteri yansıttığını ve insan ruhunun derinliklerini ve inceliklerini ifade ettiğini savundu. Aristoteles büyük alınlı erkeklerin tembel olduğunu, düz kaşlı olanların tatlı, kıvrık kaşlı olanların huysuz, komik veya kıskanç olduğunu öne sürmüştü. Aman siz sakın inanmayın!
Bu yüz okuma pratiği zamanla “fizyonomi” olarak adlandırıldı ve ciddi düşünürlerin ilgisini çekti. Viktorya Dönemi’nde İngiliz çok yönlü bilim insanı Francis Galton bu fikirleri daha da ileriye taşıdı. Galton insanların fiziksel ve ruhsal özelliklerinin kalıtsal olduğuna inanıyordu. Darwin’in kuzeni olan Galton, Darwin’in evrim teorisini insanlara uygulamaya çalıştı ve suçluların fotoğraflarını üst üste bindirerek ortak suçluluk özelliklerini bulmayı hedefledi. Halbuki bugün epigenetik ilmi var!
Galton zekâ ve karakter gibi özelliklerin aile mirası olduğunu savunan bir düşünürdü. Bu teorisini desteklemek için önemli kişilerin soyağaçlarını inceledi. Toplumun en iyi özelliklerini devam ettirmesi gerektiğini savundu Galton ve “eugenics” (öjenik) terimini ortaya attı. Bu teoriye göre suçluların ve düşük nitelikli bireylerin üremesi engellenmeliydi. Galton’un bu düşüncesinin ilerleyen dönemlerde hangi karanlık rejimin uygulamalarının temeli olduğunu hepimiz biliyoruz.
Tüm bu yöntemler artık yerini parmak izine bıraktı, bu da küresel insan takibi ve avında yani suçluların tanımlanmasında önemli bir dönüm noktası oldu. Hatırlarsanız eskiden sadece suçlu olduğuna inanılanların parmak izi alınırdı, şimdi ise…
Yüz tanıma teknolojisini gelişme çabaları 1950’li yıllarda başladı. İlk çalışmalar Manuel Blum ve Woody Bledsoe gibi bilim insanlarının öncülüğünde yapıldı. 1960’larda bilgisayar alimleri yüzleri tanımlamak için algoritmalar geliştirmeye çalıştı. Tabii o dönemin bilgisayarları bu tür karmaşık işlemleri gerçekleştirecek kadar güçlü değildi. Bu erken dönem yüz tanıma çalışmaları genellikle başarısızlıkla sonuçlandı. Algoritmalar düşük kaliteli görüntülerle ve farklı açılardan çekilen yüz fotoğraflarıyla başa çıkmakta zorlanıyordu. Ayrıca teknolojinin performansı cinsiyet, yaş ve ırk gibi faktörlerden etkileniyordu.
1980’lerde bilgisayarların işlem gücü arttıkça yüz tanıma teknolojisi de gelişmeye başladı. Bu dönemde yüz tanıma için daha kapsamlı algoritmalar geliştirildi ve bu algoritmalar daha büyük veri setleri üstünde test edildi. Ancak yine de hatalar yaygındı ve teknoloji henüz pratik kullanıma hazır değildi.
1990’lara gelindiğinde yüz tanıma teknolojisi önemli ilerlemeler kaydetti. Lawrence Sirovich ve Michael Kirby yüz tanıma algoritmalarının doğruluğunu artırmak için yeni matematiksel yöntemler geliştirdiler. Bu dönemde yüz tanıma teknolojisi daha güvenilir hale geldi, ancak hala mükemmel değildi. Bu çalışmalar yüz tanıma teknolojisinin temelini oluşturdu. Ancak teknoloji hala pratik kullanıma hazır değildi.
21. yüzyıla geldiğimizde yüz tanıma teknolojisi sınırlı şekilde kullanılıyordu. Bu dönemde birçok şirket ve hükümet teknolojinin potansiyelini araştırıyordu. Ancak teknoloji henüz yaygın olarak benimsenmemişti ve performansı beklentilerin altındaydı. 2000’li yıllarda yüksek performanslı bilgisayarlar sayesinde büyük veri setleri üstünde yüz tanıma algoritmalarının, bir nevi yapay zeka başlangıcı, eğitilmesi mümkün hale geldi. Algoritmaların doğruluğu ve güvenilirliği arttı. Süper bilgisayarların kullanımıyla yüz tanıma teknolojisinin daha yaygın ve etkili şekilde kullanılması artık mümkündü.
Yüz tanıma teknolojisinin gelişimi sırasında bazı rahatsız edici teklifler ortaya çıktı. Bu teklifler teknolojinin kötüye kullanılması potansiyelini gösteriyordu. Örneğin bazı şirketler yüz tanıma teknolojisini reklamcılıkta kullanmayı planlıyordu. Bu, insanların yüz ifadelerine ve duygularına göre reklamların kişiselleştirilmesi anlamına geliyordu. Bu tür uygulamalar mahremiyet ihlallerine ve etik sorunlara yol açabilecek nitelikteydi.
Yine aynı dönemde bazı hükümetler de yüz tanıma teknolojisini güvenlik amacıyla kullanmayı düşünüyordu. Özellikle terörizmle mücadele ve suçluların yakalanması gibi konularda bu teknolojiye büyük ilgi vardı. Ancak teknolojinin hatalı tanımlamaları ve ayrımcılık yapma potansiyeli endişe vericiydi.
Rahatsız edici teklifler arasında insanların yüzünü gizlice tarayarak kimliğini belirleme girişimleri de vardı. Bu tür uygulamalar insanların izni olmadan kimliklerinin açığa çıkmasına neden olabilirdi. Bu da büyük bir mahremiyet ihlali olarak değerlendiriliyordu. Anlaşıldığı üzere teknoloji yaygınlaştıkça daha da mükemmelleşecek ve sonunda mahremiyet ihlallerine yol açacaktı.
Henüz bu mahremiyet tartışmalarının üstünden çok da zaman geçmemişken beklenen oldu. Takvimler 2001 yılındaki Super Bowl’u gösterdiğinde yüz tanıma teknolojisinin büyük çapta kullanıldığı bir olay meydana geldi. Tampa, Florida’da düzenlenen bu etkinlik yüz tanıma teknolojisinin halka açık bir alanda büyük ölçekte ilk uygulandığı yer oldu. Bu olay “Snooper Bowl” olarak anılmaya başlandı.
Super Bowl sırasında stadyuma gelen tüm seyircilerin yüzleri gizlice tarandı ve veriler kolluk kuvvetlerine aktarıldı. Amaç suçluları ve aranan kişileri tespit etmekti. İnsanlar rızaları olmadan yüzlerinin taranmasından rahatsız oldu ve bu teknolojinin potansiyel kötüye kullanımından endişe duydu. Bu deney yüz tanıma teknolojisinin potansiyelini ve sınırlamalarını gösterdi. Teknoloji bazı suçluları tespit edebilmiş olsa da birçok masum insanı da suçlu olarak etiketlemişti. Ayrıca bu uygulama yüz tanıma teknolojisinin yaygın kullanımının doğurabileceği etik ve yasal sorunları gündeme getirdi. “Snooper Bowl” olayı yüz tanıma teknolojisinin geniş çapta kullanımı için dönüm noktası oldu ve gelecekteki uygulamalar için önemli dersler sundu.
2006 yılında ACLU (Amerikan Sivil Özgürlükler Birliği) Chicago şubesinde yasama danışmanı olarak çalışan James Ferg-Cadima Chicago’daki Jewel-Osco marketinde alışveriş yaparken “Pay By Touch” hizmetini fark etti. Pay By Touch 2002 yılında John Rogers tarafından kurulan ve yüz milyonlarca dolarlık yatırım alan bir firmaydı. Kasiyerler müşterilere parmak iziyle ödeme yapma imkanını tanıtmaya çalışıyordu.
James biyometrik verilerin toplanması ve kullanılmasıyla ilgili yasal düzenlemeleri araştırmaya başladı. Parmak izlerinin ve diğer biyometrik verilerin korunması konusunda endişeliydi, çünkü bu veriler bir kere ele geçtiğinde artık geri alınması veya değiştirilmesi kabil olmuyordu. Rogers’ın geçmişteki yasal sorunları ve şirketin mali zorlukları James’i endişelendirmişti ve şirket iflas ettiğinde Illinois vatandaşlarının parmak izleri başka bir eyaletteki iflas işlemleri sırasında bir varlık haline geldi. Bu durum biyometrik verilerin nasıl kullanılabileceği konusunda ciddi endişeye yol açtı.
James ACLU’nun teknoloji ekibiyle birlikte çalışarak biyometrik veri tanımını içeren bir yasa tasarısı hazırladı. Yasa tasarısı biyometrik verilerin toplanması, kullanılması veya satılması için kişilerin rızasının alınmasını ve bu verilerin nasıl saklanacağı ve yok edileceği konusunda bilgi verilmesini zorunlu kılıyordu. Tasarı Illinois eyalet meclisinde hızla destek buldu ve 2008 yılında kabul edildi. Artık benzer yasalar için bir model vardı. Pay By Touch’ın çöküşü biyometrik verilerin ticari kullanımı konusunda önemli bir ders oldu ve bu verilerin korunması için daha sıkı yasal düzenlemeler yapılmasını sağladı.
2009-2011 yılları yüz tanıma teknolojisi açısından önemli bir dönüm noktasıydı. 2009 yılında Google “Goggles” adlı devrim niteliğinde yeni bir arama motoru özelliğini piyasaya sürdü. Uygulama kullanıcıların fotoğraflarını çekip görsel arama yapmasını sağlıyordu. Goggles’ın mühendisleri yarattıkları teknolojiyi açıklayan “sevimli” bir YouTube videosu hazırladı. Kuantum Fizikçisi Hartmut Neven, Goggles’ın neler yapabileceğini anlattı.
Neven’e göre Google kamusal alanda mahremiyet kavramını kökten değiştirecek bir ürün üstünde çalışıyordu. Önerilen, bir şekilde ulaştığınız bir yabancının yüzüne isim koyma gücüydü. Mart 2011’de CNN bunu ürkütücü bir başlıkla yayınladı. Ama Google sözcüsü bunun abartıldığını ve şirketin aktif olarak ilgilendiği bir şey olmadığını söyledi. Görünüşe göre Neven Google’ın kurumsal iletişim ekibi tarafından benimsenmemiş açıklamalar yapmıştı.
Yine Google yıllar önce Street View oluşturmak için kameralı arabalarla çekimlere başladığında bazı kişilerin bu fikirden dehşete kapılabileceğini düşünmemişti. Pennsylvania’da Borings çifti mahremiyetin ihlali ve izinsiz giriş iddiasıyla şirketi dava etti. Google Avrupa gizlilik düzenleyicilerinden gelen tepkilerin ardından evlerinin sanal olarak dolaşılmasını istemeyen insanlar için bir bulanıklık seçeneği sundu. Bu bilhassa Almanya’da rağbet gördü. Ama pro-teknoloji militanları Google Maps’ten kolayca tespit edilebilen bu evleri gerçek dünyada bulup yumurta attılar ve posta kutularına durumu belirten notlar bıraktılar. Görünüşe göre bu yeni dünyada saklanmak mümkün olmayacaktı.
Sakıncalı Teknolojinin Cazibesi
2018’de Clearview AI, yüz tanıma teknolojisinin potansiyelini tam olarak ortaya koyabilmek için daha fazla yatırım almaya çalışıyordu. Şirket polis teşkilatları ve güvenlik güçleri için de teknolojisini pazarlamayı planlıyordu. Özel şirketler içinse üç ürün sunuyordu: Geçmiş kontrolü, suçluların tespiti ve korunmak için kamera sistemi ve girişte kimlik doğrulama sistemi. Şirket, bankalar ve oteller gibi çeşitli müşterilere sahipti, ancak henüz büyük bir müşteri kitlesi edinmemişti. Clearview AI’ın yatırımcıları büyük bir ticari başarı elde edileceğine inanıyordu ve bu nedenle şirketin büyümesine destek oldular. Hatırlarsanız, Singapur Goya yazısında yüz tanımayla çalışan asansörlerden bahsetmiştim. İşin vardığı kullanım kolaylığını ve ucuzluğunu siz düşünün. Zaten akıllı telefonumuz ve içindeki uygulamalarımız için de yüz tanıma kullanıyoruz. Yani biyometriklerimiz zaten ellerinde…
Ve 2011 yılının Aralık ayında Federal Ticaret Komisyonu (FTC) konuya el attı. FTC 1914 yılında Amerikan tüketicilerini aldatıcı, haksız ve rekabete aykırı iş uygulamalarından koruma amacıyla kurulmuştu. Ancak internet çağıyla birlikte ajans kişisel verilerin korunmasına yönelik yeni bir misyon üstlendi.
Bilgi Çağında tüketicileri korumak sadece paralarını değil, giderek daha değerli hale gelen kişisel verilerini de korumak anlamına geliyordu. FTC yüz tanıma teknolojisinin anonimliği sona erdirebileceği ve bireylerin halka açık yerlerde tanınabilir hale gelebileceği konusunda uyardı. Yayımlanan raporda şirketlere şeffaf olmaları, tüketicilere seçenek sunmaları ve ürün geliştirme sürecinde gizliliği sağlamaları önerildi. Kongre’ye yasa çıkarma çağrısı yapıldı.
Clearview AI, NYPD gibi polis departmanlarında hızla popüler hale geldi. Ama uygulama suçluları yakalamak yanında başka amaçlarla da kullanılabilirdi. Bu nedenle NYPD Clearview AI’ın bazı özelliklerini değiştirmesini istedi. Clearview AI çocuk istismarı ve insan kaçakçılığı gibi ciddi suçları çözmede de önemli bir araç haline geldi. Bu süreçte Clearview AI polis departmanlarına sağladığı ücretsiz deneme hesaplarıyla kendini kanıtladı, artık birçok başarısı vardı ve yaygınlaşmıştı. Ancak şirketin aşırı sağcı bağlantıları ve uygulamanın gizli kullanımı bazı kesimlerde endişe yarattı. Clearview AI’ın yasallığı ve etik kullanımı konusunda kamuoyunda tartışmalar başladı. Bu ise şirketin geleceğini şekillendiren önemli bir faktör olarak öne çıktı.
Bu arada komedyen ve politikacı senatör Al Franken, Alvaro Bedoya ile birlikte teknoloji şirketlerinin kullanıcıların verilerini nasıl topladığını ve sattığını araştırıyordu. 2011’de Franken, Apple ve Google yöneticilerini senatoya çağırarak akıllı telefonların kullanıcıların konum bilgilerini nasıl topladığını ve kimlerle paylaşıldığını sorguladı. Bu oturum büyük ilgi gördü ve medyada geniş yer buldu. Franken gizlilikle ilgili daha fazla araştırma yapmak istedi ve Bedoya’dan yeni bir oturum için fikir istedi. Franken yüz tanıma teknolojisinin ürkütücü olduğunu söyledi ve bu konuyu araştırmaya başladılar.
Facebook’un 2010’da yüz tanıma teknolojisini kullanarak otomatik “etiket önerileri” sunması dikkatlerini çekti. Bu teknoloji kullanıcıların fotoğraflarını etiketlemesini kolaylaştırıyordu, bu gizlilik endişelerini artırdı.
2012’de Franken yüz tanıma teknolojisi üzerine bir kongre oturumu düzenledi. Facebook başlangıçta oturuma katılmak istemedi, ancak sonunda kabul etti. Oturumda Facebook yöneticisi Rob Sherman şirketin yüz tanıma teknolojisini sadece arkadaşları tanımlamak için kullandığını ve üçüncü şahıslarla paylaşmayacağını söyledi. Ancak Bedoya Facebook’un kullanıcıların profil fotoğraflarını halka açık hale getirerek büyük bir yüz tanıma veri tabanı oluşturma potansiyeli konusunda endişeliydi. Facebook böyle bir veri toplamanın mümkün olmadığını savundu. Bedoya ve Franken yüz tanıma teknolojisi ve konum bilgisi ile ilgili federal bir yasa çıkarmaya çalıştılar.
Ancak 2013’te Edward Snowden’ın NSA’in geniş çaplı veri toplama programını ifşa etmesiyle dikkatler hükümetin gizlilik ihlallerine yöneldi. Hırsız çarşıda aranırken evde yakalanmıştı. Ama ulusal güvenlik gibi geçerli bir sebep öne sürülüyordu. Tüm bunlar sonucunda bugün Facebook yüz tanıma teknolojisini kullanma konusunda daha dikkatli davranıyor. Illinois’de 2008’de kabul edilen Biyometrik Bilgi Gizliliği Yasası (BIPA) nedeniyle teknoloji şirketleri bu tür teknolojileri kullanırken daha temkinli olmaya başladı.
2019’da Clearview AI yüz tanıma teknolojisini kullanarak büyük bir veri tabanını kolluk kuvvetlerine satmıştı. Bunu araştıran Martinez yüz tanıma teknolojisinin gizlilik üstündeki potansiyel tehlikelerini ve bu teknolojinin yaygınlaşmasının getirdiği riskleri vurgular. Clearview AI New York Times ile görüşmede bu teknolojiyle çocuk istismarcılarını yakalamak gibi güvenlik amaçlarına hizmet ettiklerini savundu. Ancak Martinez Clearview’ın algoritmasının taraflarca denetlenmediğini ve şirketin yaptığı testlerde yüzde 100 doğru sonuçlar elde ettiğini iddia etti. Clearview AI diğer teknoloji şirketlerinin etik nedenlerle çekindiği bir çizgiyi aşmıştı.
New York Times, Clearview AI hakkında “The Secretive Company That Might End Privacy as We Know It” başlıklı bir makale yayınladı. Makale Clearview’ın yüz milyarlarca insanın yüz resmini içeren veri tabanını ve bu teknolojiyi kullanan yüzlerce kolluk kuvveti ve özel şirketi ifşa etti. Clearview AI’ın varlığını ve faaliyetlerini kamuoyuna bu haber duyurdu.
Clearview AI büyük bir avukat ekibiyle dünyanın dört bir yanından gelen yasal incelemelerle başa çıkmak zorundaydı. Şirketin uygulaması birçok ülkede denenmişti ve bu da dünya genelinde yasal incelemelere yol açtı. Sonuç olarak Clearview birçok ülkede yasadışı ilan edildi ve yaklaşık 70 milyon dolar cezaya çarptırıldı. Clearview bu cezaları ve kararları temyize götürmeyi planladı. Şirketin kurucusu Hoan Ton-That, Clearview’ı Google ile karşılaştırdı; zaten ikisinin de halka açık bilgileri bulmayı kolaylaştıran arama motorları olduğunu savundu.
Bu sorunlar bize teknolojinin kötüye kullanılmasının yaratabileceği potansiyel tehlikeleri gösterdi. İnsanların biyometrik bilgilerinin izinleri olmadan kullanılması durumunda gelecekte birçok farklı şekilde izlenebileceği endişesi ortaya çıktı. Ton-That, Clearview’ın yalnızca kolluk kuvvetleri ile çalışmayı planladığını söylese de şirketin gelecekte ne yapabileceği bilinmiyordu. Ayrıca bu mevcut teknolojileri kullanan amatörler bile benzer veri tabanları düzenleyerek benzer sakıncalı işler yapabiliyordu artık.
Sonuç olarak Clearview AI’ın yüz tanıma teknolojisinin yaratabileceği büyük tehlikeler ve gizlilik ihlalleri hakkındaki endişeler şirketin faaliyetlerini durdurma girişimlerine yol açtı. Ancak daha büyük bir tehdit ortaya çıktı ve dikkatler başka yöne kaydı. Pandemi!
Gelecek Şoku
Ocak 2020 ay sonunda dünya genelinde yaklaşık sekiz bin Covid vakası kaydedildi ve WHO bir salgın durumu ilan etti.
Clearview AI bu krizi fırsata çevirmeye çalıştı. Mart 2020’de Wall Street Journal şirketin Covid-19 hastalarını izlemek için teknolojisini kullanmak üzere bazı eyalet kurumlarıyla “görüşmeler yaptığını” duyurdu. Güney Kore, Çin ve Rusya’nın virüsün yayılmasını kontrol altına almak için yüz tanıma teknolojisi kullandığı bildirildi. ABD’li politika yapıcıların da Amerikalıları bu şekilde izlemeyi düşünüp düşünmediği merak konusu oldu ve yüz tanıma teknolojisine sahip şirketler yazılımlarını maske takan kişileri tanıyacak şekilde uyarladı.
Muhalifler tarafında görüş belirten Harari bu tür teknolojilerin, sağlık amacıyla kullanılsa bile, uzun vadede bireylerin özgürlüklerine zarar verebileceğini vurguladı. Biyometrik veri toplamanın bireylerin davranış ve duygularını manipüle etmek için kullanılabileceği tehlikesine dikkat çekti. Harari totaliter gözetimle vatandaşların güçlendirilmesi arasında bir seçim yapılması gerektiğini belirtti; pandeminin fırsat olarak değerlendirilip vatandaşların bilimsel verilere ve sağlık uzmanlarına güvenmesi sağlanarak daha demokratik ve etik bir yaklaşım benimsenebileceğini savundu.
İşte bu dönemde teknoloji hızla ilerlerken birçok insan ve kurum bu değişikliklere ayak uydurmak için yeni stratejiler geliştirdi. Yüz tanıma teknolojisi iş yerlerinden okullara, havaalanlarından alışveriş merkezlerine kadar pek çok alanda uygulanmaya başlandı.
Özellikle güvenlik ve ticaret sektörleri yüz tanıma teknolojisinin sunduğu fırsatları değerlendirdi. Güvenlik sektöründe yüz tanıma sistemleri suçluları tespit etmek ve güvenlik ihlallerini önlemek için kullanıldı. Ticaret sektöründe ise müşterilerin alışveriş alışkanlıklarını analiz etmek ve kişiselleştirilmiş hizmetler sunmak amacıyla bu teknolojiye yatırım yapıldı.
Bu süreçte birçok kuruluş ve birey yüz tanıma teknolojisinin potansiyel faydalarını ve risklerini değerlendirerek stratejilerini belirledi. Mahremiyet savunucuları bu teknolojinin getirdiği mahremiyet ihlallerine karşı uyarılarda bulunurken bazı işletmeler ve hükümetlerse teknolojiyi daha güvenli ve etik bir şekilde kullanmanın yollarını arıyordu.
Ama artık dünyanın dört bir yanındaki kameralar sürekli veri topluyor ve bu veri yapay zeka ile analiz ediliyordu. Clearview bir günah keçisi miydi yoksa?
Devlet yüz tanıma kameralarıyla protestocuları takip edebiliyordu. Ama devlet değişken kişilerden oluşuyordu ve istismara açıktı. Anayasal haklarımız nasıl korunacaktı.
Clearview bir dizi davayla karşı karşıya kaldı ve ACLU tarafından dava edilmek şirketin üstünde ciddi baskı oluşturdu. Sonuçta mahkeme ACLU’nun davayı kazanabileceğini belirtti ve Clearview ACLU ile anlaşmaya vardı. Şirket ürününü özel kişilere ve şirketlere satmamayı kabul etti. İlginç değil mi ABD hukuk sistemi?!
İngiltere’de Covid-19 kısıtlamalarının kaldırılmasının ardından Londra Metropolitan Polisi Oxford Circus’ta canlı yüz tanıma teknolojisi kullanarak bir operasyon yaptı. Polis dokuz bini aşkın kişinin yer aldığı bir izleme listesi oluşturmuştu.
Rusya’da FindFace adlı yüz tanıma uygulaması VKontakte (VK) üstünden insanları tanımlayabiliyordu. Uygulama kullanıcıların seks işçilerini ifşa etmesi gibi kötüye kullanım örnekleriyle tanındı. 2018’de NtechLab, FindFace’i kapattı ve algoritmasını yalnızca hükümet ve şirketlere satmaya karar verdi. FindFace’in halka açık olması birçok kötüye kullanım örneğiyle gündeme geldi.
Çin güvenliği önceliklendirdi ve geniş çapta gözetim teknolojisi devreye aldı. Yüz tanıma kameraları sadece suçluları değil, kamu düzenini bozduğuna inanılan kötü vatandaşları tespit etmek için de kullanıldı. Çin’in gözetim ağının azınlıklara Çinli bilinci yerleştirmek için kullanıldığı da söylendi.
Bana kalırsa yüz tanıma teknolojisinin dünyada farklı bölgelerdeki kullanımının meydana getirdiği etkileri ve tepkileri inceleyerek bireysel gizlilik hakkı ile güvenlik öncelikleri arasındaki dengenin tartışılması, her toplumun kendi önceliklerini belirlemesi gerekiyor, diyerek geçiştirebilir miyim diye düşününce karşınıza kısıt olarak global mobil iş gücü ve turist ekonomisi çıkıyor.
Bu arada bazı teknoloji meraklıları yüz tanıma teknolojisini engellemek için çeşitli araçlar geliştirmiş. Michigan’da gözlük üreticisi Scott Urban yüz tanıma kameralarını kör eden yansıtıcı çerçeveler üretmiş. NYU öğrencisi Adam Harvey ise CV Dazzle adlı bir yüz tanıma kamuflajı icat etmiş. Ancak bu tür korumalar geçici ve zamanla aşılabilir, zira salgında maskeler varken de yüz tanıma sistemi çalışıyordu.
Facebook yüz tanıma sistemini kapatmaya karar verdiğini açıkladı, ancak bu algoritmayı ortadan kaldırmadı. Şirket gelecekte bu teknolojiyi kullanma olasılığını açık bıraktı.
Clearview’ın veritabanı günde 75 milyon yeni fotoğrafla büyümeye devam ediyor. Şirket bulanık yüzleri netleştirme ve maske takan kişileri tanıma gibi yapay zeka destekli yeni özellikler üstünde çalışıyor. Yazara göre Ton-That, Clearview’ın yüz tanıma teknolojisini halka satmak ve kabul ettirmek için mücadeleye devamla eleştirmenlerle savaşacak, davalarla uğraşmaya devam edecek ve hükümetlerle mücadele edecek. Ton-That günümüzde karşılaştığı bu direnişi “gelecek şoku” olarak nitelendiriyor ve dünyanın bu teknolojiye zamanla uyum sağlayacağını söylüyor.
Buraya ses espiyonajı konusunda daha önce yazdığım bir yazının linkini bırakıyorum (https://muratulker.com/y/ses-espiyonaji-istihbarat-endustrisi). Bir hatırlayın ve tahmin edin, teknolojinin bir sonraki adımında neyle karşılaşacağız.
Not: Bu yazı Murat Ülker’in kişisel web sitesinden alınmıştır.