Biometrija: Normalizacija nenormalnega se nadaljuje

Tehnologije obraznega prepoznavanja in drugih biometričnih značilk vedno bolj iz sveta detektivskih TV serij prehajajo v repertoar dejanskih državnih policij, njihovi učinki pa so vprašljivi in v skrajnih primerih celo škodljivi. Navkljub opozorilom stroke in dela javnosti zakonodajalec in politični predstavniki javnosti v državnem zboru problemov pri uvajanju zaenkrat ne vidijo, družba nadzora postaja vedno bolj razširjena.

Težava ni samo v ignoriranju stroke in dela javnosti, ki vedno glasneje opozarja na problem biometričnega nadzora in kombiniranja različnih oblik nadzora s tehnologijami pametnih mest in v boju proti pandemiji covid-19. Gre namreč tudi za izredno zahtevno področje, ki zaradi svoje razpršenosti razvoja in uporabe različnih rešitev družbe nadzora otežuje spremljanje praks in njihovo potencialno protipravnost.

Policija in “black box”

V Sloveniji že več let opažamo širjenje in poskuse širjenja pooblastil Policije na tem področju, opozoril stroke in nadzornikov odločevalci praviloma ne slišijo. Začnimo z decembrom 2019 in poročilom avstrijske nevladne organizacije AlgorithmWatch, ki je spremljala porast biometričnih metod nadzora pri državnih policijah znotraj mej Evropske unije.

V poročilu je bila namreč omenjena tudi Slovenija in plod domače pameti FaceTrace, s katerim slovenska policija primerja terenske fotografije s fotografijami “starih znancev policije”. Poročilo je domačo javnost presenetilo, čeprav je policija orodje ob začetku uporabe predstavila javno in so mediji pisali o novih tehnoloških pridobitvah, ki so bile sofinancirane z denarjem evropskih razpisov.

Nato se je v začetku leta 2020 zgodila globalna afera ClearView AI, ko so v javnost prišle informacije o ameriškemu podjetju in njihovi algoritemski obdelavi fotografij ter povezovanju navidez podobnih fotografij na spletu. Javno dostopne fotografije družabnega spleta tako postanejo del ekonomije nadzora, kjer uporabniki sami ponujajo material, ki tudi organom pregona služi za identifikacijo. V poročilih o aferi je bila februarja 2020 omenjena tudi Slovenija.

Slovensko policijo je na podlagi člankov in kampanj zavoda Državljan D, ki so opozarjali na potencialno problematično uporabo biometričnih metod nadzora uvedel inšpekcijski postopek in v sredini aprila 2021 ugotovil, da zaenkrat ni opaziti zlorab tehnologije, da pa ločeni inšpekcijski postopki še tečejo. Policija je v inšpekcijskem postopku tudi zanikala uporabo sistema ClearView AI, inšpektor Informacijskega pooblaščenca ni našel dokazov za nasprotovanje tej trditvi.

Nato je Buzzfeed objavil nov članek in v njemu spet opozoril tudi na uporabo ClearView AI storitve pri slovenski policiji ter dodal uradno izjavo slovenske policije, da sistema ne uporabljajo. Urad informacijskega pooblaščenca se je na naše poizvedovanje o skladnosti izjav z dejanskim stanjem že odzval in pojasnil, da bo uvedel nov inšpekcijski postopek.

Spomnimo: Urad informacijskega pooblaščenca trenutno preiskuje še dva primera domnevne zlorabe policijskega biometričnega nadzora iz marca 2021, kjer je policija s pomočjo biometričnega nadzora “lovila” protestnike in jih na podlagi prepoznave kaznovala.

Normalizacija biometrije

Tudi poročila o uvajanju kvazi-biometričnih sistemov v zasebni sektor (Luka Koper in tovorna železniška postaja Koper) zaenkrat potekajo v skladu z zakonodajo oziroma nadzorni organ pri uvajanju ni prepoznal kršitev.

Na podlagi naše prijave je namreč Urad informacijskega pooblaščenca v sredini avgusta 2021 zaključil dva inšpekcijska postopka, pri katerih ni opazil nepravilnosti, se je pa strinjal z ugotovitvami, da bi uporaba sistema “Appearance search” podjetja Avigilon spadala med biometrične nadzorne sisteme.

V času pandemije je opaziti vedno večje število slovenskih bank odloča za uporabo biometričnih podatkov za potrjevanje plačil, kar vodi v novo normalizacijo biometričnih metod identifikacije, prav tako je pandemija na široko odprla vrata biometričnim metodam identifikacije in zbiranja biometričnih podatkov brez pravih razlogov in z dvomljivimi učinki.

Ni pa zasebni sektor edini navdušeni uporabnik. Poleg že omenjene funkcije policijskega nadzora je tukaj še vrsta aplikacij v javnem sektorju, od preverjanja upravičenosti do prejemanja državne pomoči do večih različnih državnih agencij, ki odpirajo nova vprašanja o varovanju zasebnosti, preprečevanju zlorab in popravljanju napak algoritemskega nadzora.

Družba nadzora: Iz vojnih žarišč v demokracije

Tukaj je še nedavna zgodba o izvažanju biometričnih modelov nadzora iz vojnih žarišč v demokratična okolja, kjer Afganistan ponuja še eno svarilno zgodbo o zlorabah biometričnih baz podatkov ter pomanjkljivemu varovanju.

Poleg zlorab biometričnih podatkovnih zbirk gre namreč še za problematično predajanje vojaške opreme oddelkom policije, ki odpira nova vprašanja problematičnih metod nadzora domačega prebivalstva in ki tudi od zahodnih demokracij zahteva opredelitev do tega vprašanja.

Zavedati se je namreč treba politične vloge tehnodeterministične informacijske družbe, ki v kombinaciji z avtokratskim prevzemanjem demokratičnih režimov in nameščanju problematičnih vodilnih kadrov v kombinaciji s problematičnim uvajanjem biometričnega nadzora.

Kot svarijo kritiki, bodo tehnologije nadzora “delovale” predvsem v funkciji avtokratskih režimov in oligarhov, ki bodo pod pretvezo zagotavljanja varnosti vdirali v zasebnost in kaznovali politične nasprotnike. Nekaj podobnega je zapisal tudi Informacijski pooblaščenec, ki ob novih mokrih sanjah policije vidi “nevarno tlakovanje poti v družbo popolnega nadzora”.

Slovenija se obrača stran od EU

Hkrati se biometričen nadzor normalizira tako v zasebnem kot tudi v javnem sektorju. Zakonodajni predlogi navdušeno omenjajo možnosti uporabe biometričnih podatkov v različnih industrijah, od bank do zavarovalnic in drugih industrij, v dokumentih se nad rabo navdušujejo tudi nadzorni organi. S pandemijo Covid-19 je biometrija postala privlačna tudi za reševanje zdravstvenih izzivov na delovnih in javnih mestih, kar je še dodatno pospešilo hitenje z uvedbo.

Zakonodajni predlogi sledijo navdušenju biometrične industrije. Krepi se zakonodajna praksa, kjer vlada na vse mogoče zakonodajne načine skuša uzakoniti uporabo biometričnih značilk za različne funkcije družbe nadzora. Maja 2021 so tako v predlog Zakona o varstvu osebnih podatkov (ZVOP–2) na hitro in zelo na široko odprli vrata do uporabe biometričnih tehnologij v zasebnem sektorju brez varovalk zasebnosti, na podoben način so septembra 2021 vrata nadzoru odprli tudi biometričnemu nadzoru v Policiji.

Vse to so predlogi, ki grejo v nasprotje s praksami Evropske unije, ki na več načinov omejuje in prepoveduje preširoko rabo biometričnih nadzornih tehnologij. Opozarjajo na premalo transparentnosti uporabe, nedelujočih sistemov, ki vnaprej kriminalizirajo celotno populacijo, ne najdejo pa dejanskih krivcev, zlorabo sistemov za druge namene in težave pri reševanju sistemskih napak.

Zgodovina svari pred katastrofo

Glede na specifičnost predloga zakona o delovanju policije, ki na večih mestih zelo na široko popisuje načine in tehnologije zbiranja podatkov o splošni javnosti, se odpira še eno vprašanje in sicer: “Ali skuša Policija za nazaj legitimizirati tehnologije in storitve, ki jih že ima?”

Spomnimo se poročil področja obraznega prepoznavanja, kjer so omenjeni tudi lovilci IMSI iz leta 2006 in že takratnih opozoril načina delovanja slovenske policije, ki najprej kupi tehnologijo in programsko opremo, nato pa jo skuša čimprej uzakoniti. Glede na dosedanje komentarje predlogov zakonodaje in ugotovitev o uporabi sistema ClearView AI bi bilo tako čisto mogoče sklepati, da Policija še naprej uporablja staro taktiko izsiljevanja zakonodajalca, s katero skuša dobiti kar največ nekoristnih igračk.

A spet smo že skoraj zamudili čas za razpravo o učinkovitosti in smotrnosti nabave takih tehnologij. Medtem, ko se celotna Evropska unija obrača proti biometričnim tehnologijam, medtem, ko so vedno glasnejša opozorila o nesmotrni rabi in zahtevah po sodnih nalogih za uporabo biometričnih tehnologijah nadzora, v Sloveniji javne razprave na to temo skorajda ni.

Še vedno se o sistemski napaki pogovarjamo predvsem takrat, ko se katastrofa že zgodi in za nazaj analiziramo škodljive posledice nepremišljene uvedbe tehnokratske rešitve družbe nadzora, ki za sabo pušča vedno večji kup neuspešnih in škodljivih implementacij.

Poziv k široki javni razpravi

Spet je opaziti molk na strani predstavnikov slovenske javnosti v domačem in evropskem parlamentu, ki še kar ne vidijo težave v vedno večji normalizaciji biometričnih metod nadzora ter vseh problemov, ki jih ta nadzor prinaša. Na žalost je politične volje zato vedno manj, prav tako se razprave v javnosti praviloma odvijajo predvsem kot komentar zakonodajnih predlogov, če sploh.

Ostale lovke družbe nadzora se relativno neovirano širijo po vseh družbenih porah, mantra tehnodeterminističnega napredka brez problematizacije negativnega vpliva na človekove pravice pa ostaja zapostavljeno. Še več – družba nadzora ima tudi geopolitično komponento, kjer bo Balkan očitno spet odigral odločilno vlogo, z odpiranjem vrat biometričnim oblikam nadzora pa se tudi pri nas vedno bolj konkretizira vprašanje podatkovne neodvisnosti.

Tako bi se morali vsi zavedati globalnega in lokalnega problema biometričnega nadzora in od zakonodajalca zahtevati močne varovalke zasebnosti, ki bi preprečevale zlorabe tehnologij. Hkrati bi morali jasno zahtevati dokazila o učinkoviti in transparentni rabi nadzornih tehnologij za pregon kriminala, saj vse prevečkrat dejansko zasebnost žrtvujemo za občutek varnosti. Ki je ni.

Se ti zdi to pomembno?

Projekt Eticen.it nastaja v sklopu zavoda Državljan D. Zavod se ne financira z državnim denarjem, temveč denar za delovanje pridobiva tudi z donacijami aktivne javnosti. Če ti je tematika nadzora in krčenja državljanskih pravic pomembna, razmisli o podpori.

Naše delovanje pokriva več različnih področij, od digitalnih pravic, medijske pismenosti in aktivnega državljanstva. Več o naših aktivnostih izveš na spletišču zavoda Državljan D.