Kako nas pametni hladnjaci, AR naočale, AI ogrlice i kućni roboti guraju prema granici između tehnološke utopije i distopije
Hladnjaci su nam počeli prikazivati reklame, pogledom kroz naočale prenose se snimke uživo, ogrlica koju nosimo oko vrata želi s nama razgovarati i postati nam prijateljica, a roboti nam donose cvijeće i dočekuju goste. Ovo nisu scene iz romana spekulativne fikcije, nego konkretni proizvodi i usluge koje ljudi već koriste. Samsung smart hladnjak, Meta naočale, Friend AI ogrlica i NEO Home Robot pokrenuli su niz diskusija o opasnostima te tehnologije, kao i o (ne)moralnim motivima njihovog stvaranja i korištenja. Bojazni su opravdane jer javnost je već više puta bila oštećena nizom skandala koji su otkriveni iza hvaljenih tehnoloških inovacija. Otkad je tehnologije, postoji i bojazan da će nas ona na neki način uništiti. Da će uništiti strukturu društva u kojem živimo, sigurnost, naše vrijednosti, način života. S druge strane, postoji vjera da će nas tehnologija spasiti. Ona je utemeljena na povijesnim činjenicama jer je niz izuma promijenilo i olakšalo ljudske živote. I zato stalno balansiramo, kad god se pojave neke nove inovacije, između distopije i utopije. Hoće li se to isto dogoditi i s ovim proizvodima?
Hladnjak kao kućni billboard
Samsung je počeo proizvoditi hladnjake luksuzne kategorije, po cijenama od nekoliko tisuća dolara, koji prikazuju reklame. Navodno se te reklame može isključiti – pronašla sam online nekoliko savjeta kako – ali za takvo nešto, naravno, treba biti tehnološki pismen. To je posebno nepravedno prema starijim ljudima poput moje bake na primjer, koja ne koristi niti smartphone . Kako bi onda ona sa 87 godina trebala znati rekonfigurirati postavke za reklame na smart hladnjaku kad ja sama ponekad imam problema s mijenjanjem postavki na društvenim mrežama koje dnevno koristim? Uz to, Lynn Spigel u svom znanstvenom radu “Dizajniranje pametne kuće: Posthumano domaćinstvo i upadna produkcija” upozorava na to da smart proizvodi ne olakšavaju ženski rad u domaćinstvu, kako je reklamirano, nego ga prebacuju s fizičkog na upravljački. Za očekivati je da se obrazac brige za dom u smart domaćinstvu prenese na vrijeme za upoznavanje s tehnologijama različitih smart uređaja te baratanje istima, prilagođavanjem funkcija i prebacivanjem s jednog načina rada na drugi.
Samsung je izjavio da će reklame na aparatima biti prilagođene korisnicima, ali to dovodi do pitanja koliko će to trajati. S obzirom na količinu smart uređaja za kućanstvo na tržištu, koliko će njih ostati unutar okvira tehnologije s kojom je uređaj kupljen, a koliki će početi izdavati updatese softvera koje zbog funkcionalnosti nećemo moći odbiti i morat ćemo ih prihvatiti protiv naše volje zato da zadržimo funkcionalan proizvod? Tko nam jamči da oni neće uključivati reklame, eventualno korištenje naših podataka i tko zna čega se još neće sjetiti? Na primjer, medijske sadržaje poput filmova, serija i glazbe kupovali smo jednokratno, na mediju poput VHS-a, DVD-a ili Blu-raya, isto kao što sad jednokratno kupujemo bijelu tehniku. U međuvremenu, postalo je uobičajeno da ne posjedujemo sadržaj koji konzumiramo na određenom mediju, nego da za njega plaćamo pretplatu streaming servisima jer inače nemamo pristup ili moramo istrpjeti puno reklama. Zar je teško zamisliti da nas Samsung jednog dana počne tražiti plaćanje pretplate da bi nam se na hladnjaku prikazivale reklame, kao, recimo, na YouTubeu iako smo hladnjak već platili? A sve zato da bismo mogli doma održati hranu svježom.
Oči i uši koje nas gledaju i kad ne želimo
Ray-Ban Meta naočale od svog izlaska na tržište podijelile su javnost između oduševljenja i straha. Oni koji su oduševljeni, obožavaju praktičnost spajanja stvarnog s virtualnim svijetom putem stylish modnog dodatka koji im omogućuje fotografiranje i snimanje videa izravno iz svoje jedinstvene perspektive. Oni uplašeni groze se transhumanističkog stapanja čovjeka s tehnologijom, što je dosta dramatično viđenje tog proizvoda iako postoje činjenice koje ukazuju na to da treba biti i oprezan i zabrinut. Kao prvo, naočale je napravila Meta , koju je obilježilo povijest tužbi i istraga oko kršenja privatnosti, od kojih je najpoznatiji slučaj prikupljanja podataka za konzultantsku tvrtku Facebook-Cambridge Analytica bez informiranog pristanka.
Uz to, urbana legenda o ginekolozima koji nose upravo Ray- Ban Meta naočale dok rade pregled tvrdeći da je kamera isključena. Uz sve načine na koje se tehnologija koristi kako bi se žene seksualno zlostavljalo, od osvetničke pornografije preko AI generirane pornografije pa do kamerica skrivenih u svakodnevnim predmetima koje perverznjaci i pedofili nose na nudističke plaže, takav slučaj ne bi nikoga iznenadio. Ipak, naočale imaju LED svjetlo koje se pali dok kamera radi, što bi trebalo služiti kao određena vrsta obavijesti iako su institucije europskih zemalja upozorile na to kako je to svjetlo premaleno. Meta je izdala korisničke upute kojima cilja usmjeriti korisnike prema etičnoj uporabi naočala, ali pitanje informiranog pristanka onih koji su snimljeni njima ostaje visiti u zraku. Teško je očekivati da netko neće zloupotrebljavati taj alat zato što im Meta to ne savjetuje. S druge strane, već živimo u svijetu gdje smo pod nadzorom niza kamera uz izliku sigurnosti, a koje su zapravo u vlasništvu privatnih tvrtki, od kojih država po potrebi nabavlja snimke tako da ne znamo tko nas gleda i snima kad idemo u dućan.
Ray-Ban Meta u tom pogledu, nažalost, nije ništa novo. Friend AI ogrlica uzrujala je javnost iz sličnog razloga kao i Ray-Ban Meta. Ovaj AI asistent osmišljen je sa svrhom da osobi služi kao virtualni prijatelj dok visi oko vrata i sluša sve što priča. To znači da aktivno snima zvukove, koji uključuju i razgovore ljudi, potencijalno potpunih neznanaca, u okolini, i bez njihovog informiranog pristanka. S obzirom na to, milijunska kampanja za proizvod osmišljena je kroz koncept koji je uzrokovao malu pobunu: njujorški metro oblijepljen je reklamama za proizvod koje su građani prebrisali buntovnim grafitima, pozivajući ljude na to da prestanu ludovati i nađu nove prijatelje, uz tvrdnje da se radi o nadzoru. Cijela marketinška ekipa pokazala je veliku neosjetljivost postavljajući reklame na jedan od najprometnijih sustava na svijetu, s dnevnom cirkulacijom od oko 3-4 milijuna ljudi. Kampanja ih je podsjetila na to da su okruženi potpunim neznancima koji ih protiv njihove volje mogu prisluškivati, čime su se borili poluemocionalnim, poluedukativnim protuporukama. Koje druge mogućnosti nam preostaju kad ne znamo izvor nadzora?
Robovlasništvo, privilegija ili još nadzora?
Krajem listopada na tržište je izašao NEO humanoidni kućni robot koji obećava baviti se svim kućanskim poslovima umjesto vas za cijenu od otprilike 20.000 američkih dolara. Bilo mi je malo smiješno što sam za njega, umjesto iz medijskih izvora, saznala preko raznih meme profila koje pratim, koji su ismijavali cijeli taj koncept i privilegiju potencijalnih vlasnika. Takva brza cirkulacija i komična obrada vijesti o NEO robotu pokazuje koliko je jaka emocionalna reakcija na takav proizvod, koji javnost vidi kao igračku neozbiljnih bogataša. Reakcija je očekivana jer se radi o svojevrsnoj preslici robovlasništva, pri čemu se lik nalik ljudskom jednokratno kupi kako bi obavljao poslove kojima se vlasnici ne žele prljati i zamarati.
Memeri zapravo ismijavaju snove moćnika da imaju roba kojeg mogu iskorištavati i dehumanizirati jer NEO nudi i simulaciju ljudskosti budući da je humanoidan. Zabavno je zato gledati promotivni video u kojem NEO jednoj od svojih vlasnica donese buket cvijeća – teški šarmer kojem nimalo ne smeta što cijeli dan kuha, pere i čisti – za razliku od pravih ljudskih bića. Naravno, kao i svi ostali distopijski gadgeti , NEO predstavlja potencijalnu opasnost za privatnost korisnika. Da bi optimalno funkcionirao, mora biti u detalje upoznat s najmanjim stavkama u našem najintimnijem prostoru – našem domu. Uz to, da bi NEO naučio obavljati zadatke, angažira se stručnjak iz tvrtke koji će ga voditi kroz učenje. To ujedno znači i kako se u dom preko robota pušta neka nepoznata osoba da gleda i kupi vaše prljavo rublje – doslovno i metaforički. Poveznica je slučaj curenja fotografija iz 2022. godine, kad je popularan robotski usisivač Roomba na Facebooku objavio, među ostalim, i fotografiju jedne korisnice na toaletu.
View this post on Instagram
Sladoled kao simbol distopije
Osobno sam nedavno išla kupovati sebi neke kućne aparate i bilo mi je teško pronaći one jednostavne na gumbe i struju, koji nisu smart i/ili ne funkcioniraju uz pomoć umjetne inteligencije. Očekujem da će se njihov broj samo smanjivati dok se povećavaju načini eksploatacije kupaca kroz tehnološku manipulaciju. Ispada da s novom tehnologijom nigdje nismo sigurni, ni na otvorenom ni u vlastitom domu. Nadzor, kršenje privatnosti, krađa podataka, a i reklame redom koloniziraju naš osobni autoritet, i fizički i mentalni. Ne čudi da se “pobuna” protiv Friend AI kampanje odvijala u obliku grafiterskih izjava – nasilno zauzimanje prostora mislima koje se protiv distopije bore drukčijim rješenjima i perspektivama. Distopijski strahovi proizlaze iz bojazni za slobodu misli. Prave prijetnje gotovo ne prepoznajemo. Tko zapravo čita uvjete korištenja i novih updatesa ? Radi se o stupanju u pravni odnos koji uključuje i nas, a da bismo sudjelovali u svakodnevici koja je prošarana tehnologijom, automatski i bez preispitivanja pristajemo. U tim naizgled malim akcijama, a ne u drami da će roboti i umjetna inteligencija pokoriti i uništiti svijet kao u “Terminatoru”, krije se prava opasnost. Uvjetovani smo odreći se svoje privatnosti u korist tehnologije zato da bismo mogli hodati gradom, biti među ljudima i jesti sladoled. To zapravo nije dogovor nego ucjena – nemamo izbora, a to je glavna karakteristika distopije.
Foto: Ray-Ban, Pexels, NEO, Friend, IMDb, Instagram/@nitegore
