Kad pričamo o inovacijama, teško je izbjeći priču i o onima distopijskima, koje se oduvijek javljaju, čak i uz najpozitivnije napore. Ovog puta, istražili smo do kuda je došlo skeniranje i prepoznavanje lica, gdje se koristi i zašto je već neko vrijeme trebao goriti alarm za uzbunu?

Svi znamo priču o dinamitu koji je osmišljen kako bi olakšao posao radnicima u rudniku, o 3D printeru koji može printati medicinske implantate, no, pitali su se neki – zašto ne bi i pištolje? Ili možda biranje dronova kao strojeva za ubijanje, dok se s druge strane mogu koristiti u zaštiti divljih životinja, kao što ih koristi WWF u Africi protiv krivolovaca. I ne, ovo nije priča o Elonu Musku, nego o nečemu što je već neko vrijeme u uporabi dokazujući zašto su se najveći umovi današnjice libili postati dio toga prije kvalitetne legislative. 

Svi smo se navikli na to da naši mobiteli i laptopi prepoznaju naše lice, riješivši nas onog, dozlaboga napornog upisivanja odabranog PIN-a (nadamo se da se osjeti sarkazam). Također nam je potpuno normalno već gotovo 15 godina uploadati svoje fotografije i fotografije naših najbližih na internet, kao i to da ih odnedavno Google poimence selektira. Znate ono, kako su nas svi upozoravali, da to može imati svoje posljedice zbog nereguliranosti, ili bolje rečeno, jako jednostavne zlouporabe naših fotografija od strane trećih strana? E pa dobro došli u tu distopijsku budućnost! Ako ste gledali seriju “Black Mirror”, ovo sve činit će vam se kao déjà vu. 

Digitalizacija stalkera 

Krenimo od “nabenignijeg” korištenja kombinacije softvera za prepoznavanje lica i društvenih mreža: aplikacija Find Face. Još prije četiri godine, vlasnici ruske kompanije NTechLabs obznanili su da imaju dokazano najjači softver za prepoznavanje lica na tržištu, a primjenu su vidjeli kroz divne namjene poput praćenja kupaca u dućanima kako bi znali tko se vratio, a tko nije; pomoći državi u hvatanju zločinaca, ili “skeniranja osobe na ulici kojoj se bojite prići, pa je na ovaj način možete potražiti na društvenim mrežama”. Nevjerojatno, ali potonje nije nešto što je ostalo u ropotarnici “bolje ne” ideja. Štoviše, ta aplikacija dostupna je svim korisnicima ruskog Facebooka – VK. Jer nema ništa romantičnije od toga da nakon povratka s placa dobijete u inbox poruke ljudi koji su vas poskrivećki snimali, kako bi vam mogli poslati poruku skriveni iza monitora. Mda.

Skynet, ali na dobar način

Naravno, tu su i državni organi. l to ne samo Kina koja se sustavno proziva kršiteljem ljudskih prava i sloboda sa svojih 200 milijuna kamera, i sustavom poetski nazvanim Skynet prema vojnoj mreži umjetne inteligencije iz filma “Terminator” koja želi uništiti ljudsku rasu. Za sve dušebrižnike, iz kompanije poručuju da “brige nema”, jer ovo je “Skynet na dobar način”. Ne znamo kako vama, ali nama su oči završile u duplji od okretanja. Tu je i Engleska, točnije London, koji je nakon terorističkih napada proglasio snimanje građana potrebnim odstupanja od sloboda kako bi se spriječili daljnji napadi; zatim Ujedinjeni Arapski Emirati koji su korak od spajanja prepoznavanja lica i umjetne inteligencije, to jest softvera koji će se koristiti na ulazu u zemlju, koji bi koristili policajci pri patroliranju… U Japanu se takvi softveri koriste u dućanima za sprječavanje krađa, ali i u McDonalds’u kako bi upozorili zaposlenike na “optimalnu količinu osmijeha” koji trebaju uputiti potrošačima. I to je samo dio njih, kao i dio onoga što je dospjelo u javnost. 

Tehnologija ruskog ruleta

Od zemalja članica Europske unije, prema posljednjim dostupnim podacima, samo je Belgija eksplicitno zabranila korištenje softvera za prepoznavanje lica, dok je s druge strane, Turska, kandidatkinja za članstvo u Europskoj uniji, nedavno kupila 30 dronova koji imaju tehnologiju prepoznavanja lica. Australija ulaže u sustav Capability u kojem želi prikupiti i okupiti biometrijske podatke s putovnica, vozačkih dozvola i drugih identifikacijskih isprava kako bi imala “bazu podataka u borbi protiv kriminala”.

Ako ste među onima koji misle da je to nebitno jer niste ništa skrivili, i ne zanimaju vas prava poput slobode kretanja i privatnosti, možda bi vam nešto značila informacija kako dosad niti jedan od tih sustava ne radi sto posto učinkovito, štoviše, spomenuti Find my Face app ima 70-postotnu učinkovitost, a onaj u Velikoj Britaniji provjereno pogađa svega osam od 42 upita.

Amazonov Rekognition, prema istraživanju profesorice s MIT-a, Joy Buolamwini, imao je učinkovitost kod lica muškaraca bijele rase, dok je lice tamnoputih žena u nekim slučajevima čak i zamijenio za muškarce. Štoviše, na jednom testu nije prepoznao lice Oprah Winfrey! U globalu, većina tih sustava teško je prolazila detekciju lica Afromerikanaca i Azijata, pa je generalna statistika bila da oni imaju 100 puta veću šansu za krivo identificiranje od muškarca bijele rase.

No možda najbolji primjer problematike ovih sustava jest slučaj Amare Majeed, studentice na Sveučilištu Brown, koju je policija Šri Lanke, zajedno s umreženim naporima drugih obavještajnih i policijskih organa iz cijelog svijeta, pogrešno identificirala i optužila kao jednu od napadača iza stravičnih Uskršnjih napada – dok je s druge strane svijeta mirno spavala na kampusu nakon duge noći učenja za završne ispite. Ujedno, ta tehnologija koristila se, makar zasad u povojima, i na nedavnim prosvjedima u Americi. Pokušalo se povezati osobu s prosvjeda s njihovim društvenim profilima i potencijalnim policijskim dosjeom.

A pobjednik u natjecanju za potencijalnog zlikovca 21. stoljeća je…
No, ako ste mislili da ne može dalje od ovog, prevarili ste se. Cijela Silicijska dolina, poznata po mnogim krivim potezima i ponekad dubioznim tehnološkim rješenjima te potezima zbog koje joj svjedočenja u Kongresu nisu strana, puno puta izjavljivala je da su posebno oprezni oko jedne tehnologije – softvera za prepoznavanje lica – jer se može koristiti na “puno krivih načina”. Štoviše, nedavno su najveće od njih, nakon višemjesečnog upozoravanja da su softveri za prepoznavanje lica “plutonij AI”, poput IBM-a i Amazona koje su pristale isto razviti za državne agencije, priznale da je ta tehnologija iznimno toksična i problematična te da je neće isporučiti dok se ne uredi legislativa iza toga koja neće dopustiti zlouporabu! No, to je kao svoju priliku vidio Hoan Ton-That, koji je pokrenuo kompaniju Clearview.ai, koja je još zlokobnija od navedenih jer za razliku od njih koji koriste službene dokumente poput putovnica i vozačkih dozvola, koristi bazu svih fotografija dostupnih s interneta i društvenih mreža. Zato trenutačno ima najveću bazu od svih na svijetu – čak tri milijarde fotografija. Ono što je najgore od svega, više od 600 organa za provedbu zakona počelo je već koristiti njegov sustav. Naravno, Clearview je već primio takozvane cease-and-dease naloge od strane Twittera, Facebooka i YouTubea – dokumente koji se šalju pojedincu ili tvrtki kako bi zaustavio navodno nezakonitu aktivnost i više je nikad ne pokrenuo. Hoan je to odbio pozivajući se na prvi amandman da ima pravo prikupljati informacije s društvenih medija, što, naravno, nema nikakvog smisla te su zato počele pljuštati tužbe, a posljednja, četvrta po redu, podignuta je u lipnju. Vjeruje se da su druge tek u pripremi. Sve je nevjerojatnije kuda će nas odvesti ova 2020. godina. 

 

Ovaj tekst objavljen je u tiskanom izdanju časopisa Grazia no.244.