Irkçı, cinsiyetçi ön yargılarla kurgulanmış algoritmalar insanın geçmişine bakıp geleceği hakkında karar verirken “yüz tanıma” programları da gözetleyerek bütün hayatınızı kayıt altına alıyor
“…Duvara asılı bir poster üstünde koca bir suratla izliyordu, Hareket ettiğinde seni izliyormuş gibi görünmek üzere tasarlanmıştı. Altında ‘Büyük Birader seni izliyor’ yazıyordu…”
George Orwell, “1984” adlı romanında yer alan kurgusal karakterlerden biri olan Big Brother’ı (Büyük Birader) böyle anlatıyor. Big Brother totaliter rejimle yönetilen, iktidar partisinin halk üzerinde büyük baskı kurduğu hayali bir ülkenin gizemli diktatörü. Orwell’in betimlediği toplumda her bir birey, tele-ekranlar aracılığıyla yetkililerin sürekli göz hapsi altındadır. Gözetim altında oldukları da “Büyük Birader seni izliyor” sloganıyla anımsatılmaktadır.
Yapay zekânın özgürlüklerimiz üzerindeki hükmünün arttığı bir toplumda yaşamak nasıl bir şey? Yapay zekânın insan hayatına etkisi nedir? sorularına yanıt arayan “Coded Bias” adlı belgesele göre “Büyük Birader seni izliyor” bugün gerçek oldu.
Çin, Amerika ve İngiltere “izleme” konusunda başı çekiyor. İngiltere’de caddelerdeki yüz tanıma araçlarına karşı bazı sivil oluşumlar “Biz de bizi izleyenleri izliyoruz” diyerek tepki gösteriyor.
Çin açıkça gözetliyor!
Çin’in vatandaşlarının yaşamlarını izlemek ve çeşitli hizmetlere erişimlerini kontrol eden puanlar oluşturmak için yüz taramalarını kullanacak bir “sosyal kredi” programı oluşturma çabaları ise ayrıca detaylandırıyor. Ve her bir vatandaşına günlük yaşama dair sosyal kredi notu veriyor. Belgesele göre; Çin açıkça vatandaşlarına “seni takip ediyorum” diyor. Mesela “Hükümet hakkında söyledikleriniz, yaptıklarınız sadece sizin değil, ailenizin dostlarınızın da notunu etkileyecek” diyor. Bir nevi vatandaşları üzerinde algoritmik itaat düzeni sağlıyor. Güvenilirliğini kaybeden vatandaşa kısıtlamalar getiriyor. Fakat durumdan memnun olan Çinliler de var. Çinli genç bir kadın, erkek arkadaşını seçerken vakit harcamadığını, sosyal kredi puanının bu seçimde etkili rol oynadığını belirtiyor. Ama Hong Kong’da, polis yüz tanıma sistemlerini kullandığında göstericiler ya lazerlerle yüz tanıma teknolojisini etkisiz hale getiriyor ya da kamera lenslerini siyaha boyayarak eylemlerine devam ediyor.
Amerika yalan söylüyor
Yeni icatlara önce zenginler sonra fakirler ulaşıyor sanıyorduk, ama belgesele göre gerçek tam tersi. 2000’li yılların başında Amerikalıların başarısızlığı üzerine bir yatırım yapıldı. Belli profiller “başarısız” olmak üzere seçilip ellerindeki projeye uygun hale getirildi. Bu insanlara yüksek faizli ev kredisi verilecekti, ama daha sonra ödeyemeyeceklerini umarak bu insanların ipotekli malı ve tüm varlıkları ellerinden alınacaktı. Bu Wall Street’ten çıkan algoritmik bir oyundu ve başarılı da oldu. 2008 ekonomik krizinde bu yolla 4 milyon Amerikalı kredi borcunu ödeyemediği için evinden oldu. Mortgage krizi esnasında Amerika tarihinin en büyük siyahi mal varlığı kaybı yaşandı.
Belgesel aslında Amerika’nın Çin’den pek farklı olmadığı konusunda uyarıyor. Amerika sadece bunu açıkça yapmıyor. Amerika Birleşik Devletleri de sosyal medya şirketlerinin, diğer şirketlerin ve kanun uygulayıcı kurumların üzerinden insanları gözetliyor, ancak bunu gizli yapıyor.
Algoritmalar ceza adaleti, eğitim, finans ve daha fazlasında giderek artan bir rol oynadıkça, dünya medyası teknoloji danışma kurulları ve akademik programlarla gerçekte neyin, amaçlandığı konusunda daha akıllı olmak zorunda.
