Ponoči je na tovorni železniški postaji Koper vse mirno. Tovor iz luke Koper čaka na prevoz v notranjost države, na več kot kilometru dolgem odseku postaje ni opaziti ljudi. Nenadoma se dvigne zapornica, ki omejuje dostop do vagonskih cistern in na varovano območje se pripelje tovornjaček. Temne sence iz cisterne v rezervoar na kolesih pretočijo več tisoč litrov goriva in izginejo v noč.
Za Slovenske železnice kraje goriva in ostalega tovora predstavljajo velik problem, zato so se pred leti odločili za varovalne ukrepe. V spletni izdaji interne revije »Prava proga« Slovenskih železnic lahko v prispevku pod naslovom »Tehnično varovanje z umetno inteligenco na Slovenskih železnicah«, ki je bil objavljen februarja 2020, preberemo nekaj podrobnosti o delovanju sistema.
»Podatki se samodejno zbirajo in urejajo v nadzornem centru. V podatkovni bazi je že več kot dvesto petdeset tisoč vzorce ljudi in vozil. Ob tem se sistem nenehno uči in samodejno nadgrajuje. Odkrivanju oseb ali vozil pomaga napredna analitika, ki iz vzorcev in določenih značilnosti vedenja na terenu samodejno odzove,« pišejo avtorji in pojasnjujejo, da gre za sistem francoskega podjetja Avigilon.
Po dosedaj zbranih podatkih je sistem trenutno aktiven na koprskem železniškemu terminalu, izvajalec pa je podjetje Mobicom. Na spletu je mogoče najti posnetek predstavitve sistema na varnostni konferenci Adria Security Summit 2019, v katerem direktor podjetja Mobicom Rok Bajec predstavi varnostni problem in rešitve zanj.
“Ljudje so najšibkejši člen”
Tako lahko v petnajstminutni predstavitvi sistema izvemo, da so se Slovenske železnice zanj odločile zaradi preprečevanja kriminala (kraje goriva in podobno), optimizacije poslovanja (kar si lahko razlagamo kot zmanjšanje zaposlenih v oddelku za varovanje) in spremljanje »dogodkov, ki se ne bi smeli zgoditi«.
Po besedah Roka Bajca je bila vzpostavitev sistema izziv predvsem zaradi velikosti območja, saj gre za več kot kilometer veliko območje, za katerega je bilo treba zagotoviti sistem nadzora. Hkrati so želeli »izločiti človeški faktor«, Bajec pa omeni primer koprskega zapora, kjer so »pazniki igrali karte, medtem ko so zaporniki pobegnili iz zapora.«
Zato »se nismo želeli zanašati na ljudi, saj je to preveč tvegano,« pojasni Rok Bajec in doda, da »pri velikih krajah goriva skoraj zagotovo sodelujejo zaposleni na Slovenskih železnicah, saj tri tisoč litrov goriva ni mogoče ukrasti brez pomoči od znotraj.«
Nezaupanje v lastne delavce in močan sum na sodelovanje s tatovi na Slovenskih železnicah v Kopru je bil tako velik, da so po Bajčevih besedah zaradi tega nadzorni sistem preselili v Ljubljano ter ga s Koprom povezali prek spleta. O redni praksi tatvin, ki jih izvajajo tudi zaposleni in pogodbeni sodelavci Slovenskih železnic so večkrat poročale tudi Primorske novice in drugi mediji (poročilo 1, poročilo 2, poročilo 3).
Sistem po Bajčevih besedah deluje na kombinaciji termalnih in videokamer, kjer termalne kamere zaznajo dogodek, ta alarm pa na lokacijo usmeri druge kamere visoke ločljivosti. Sistem temelji na umetni inteligenci, ki zmanjšuje vlogo človeškega nadzornika in se na podlagi primerov uči spremljati dogajanje, zaposlenin adzornik pa tako spremlja obvestila o dogodkih in jih potrjuje oziroma zavrača. »Človeški faktor je vedno najšibkejši člen teh sistemov,« poudarja Bajec.
Projekt nadzornega sistema je financiralo tudi ministrstvo za promet (torej iz denarja slovenskih davkoplačevalcev) in z denarjem evropske unije, na sejemski predstavitvi pa se je v zaključku pohvalil, da so z njim uspešno zajezili problem kriminala.
Ekskluzivno za Eticen.it je Rok Bajec pojasnil, da s sistemom na tovorni postaji Koper postavljen »prepoznavanje obraza s termično ali hitro-vrtljivo kamero ni možno, funkcijo pa omogočajo fiksne kamere. Tako da ta funkcija na tovorni postaji Koper gotovo ne deluje.« Hkrati je pojasnil, da gre pri bazi podatkov, ki jo omenja promocijski video Slovenskih železnic, za nabor silhuet, na podlagi katerih nato sistem sklepa, kdaj se v vidnem polju kamere pojavi človek oziroma drug objekt.
Predstavniki Slovenskih železnic se do objave članka niso odzvali na naša vprašanja glede delovanja sistema ter števila primerov, ko so z nadzorom dejansko zaznali in preprečili kriminalno dejanje.
Luka Koper: Dobra praksa družbe nadzora
A Tovorna železniška postaja Koper ni edina lokacija v obalni regiji, ki uporablja tehnologijo podjetja Avigilon za biometričen nadzor.
Na portalu javnih razpisov smo našli javni razpis za nadgradnjo sistema nadzora v Luki Koper (ki je povezana s Slovenskimi železnicami), v katerem je naročnik v razpisu pogoje zastavil tako, da drugega ponudnika niti ni bilo mogoče izbrati, na pritožbe konkurence pa odgovarjal, da je tak način poslovanja upravičen.
Sistem so v Luki začeli uporabljati prej kot na Železnicah, našli smo namreč poročilo s konference Adria Security Summit 2017, v katerem je primer Luke Koper in implementacije sistema Avigilon omenjen kot dobra praksa.
Med drugim lahko v kratki predstavitvi zasledimo tudi stavek »Sophisticated forensic tool can locate a specific person of interest across entire secured site«, ki bi lahko pomenil, da se v Luki Koper nahaja baza podatkov vseh obiskovalcev na področju Luke Koper, to bazo pa sistem uporablja za identifikacijo na podlagi biometričnih podatkov.
Tiskovni predstavniki Luke Koper so na naša vprašanja o podrobnostih delovanja sistema najprej odgovorili, da sistema ne uporabljajo. Ko smo jim poslali brošuro konference, kjer je bil sistem v Luki Koper izpostavljen kot dobra praksa, so se popravili in pojasnili, da biometričnega nadzora v Luki ne uporabljajo, so pa »pred časom« testirali avigilonov modul »Appearance Search, ki pomaga pri prepoznavi na podlagi barve obleke, pokrivala, ipd.«
Naši viri v Luki so nam dodatno pojasnili, da gre za sistem biometričnega nadzora, s katerim Luka nadzira svoje zaposlene na podlagi kartic za dostop. Zaposleni v Luki namreč uporabljajo sistem identifikacijskih kartic, s katerimi se gibljejo po področju Luke, s programsko rešitvijo Avigilon Control System pa spremljajo njihovo gibanje.
Ni nam uspelo ugotoviti, katero različico Avigilon Control System uporabljajo v Luki, ima pa najnovejša (sedma) v kombinaciji s tehnično dovršenimi kamerami tudi možnost biometričnega nadzora. Glede na dejstvo, da je Luka Koper javno naročilo, v katerem je eksplicitno preferirala proizvajalca Avigilon za nadgradnjo sistema oddala konec leta 2019, Avigilon pa je začel najnovejšo različico sistema ponujati v drugem kvartalu istega leta, lahko sklepamo, da najnovejšo različico uporabljajo tudi v Luki.
To potrjuje tudi izjava tiskovnega predstavnika Luke, ki omenja preizkus Appearance Search funkcije, za katero so, sodeč po gradivu proizvajalca, potrebovali tako specifično tehnično kot tudi programsko opremo.
V obeh primerih smo se obrnili na Informacijskega pooblaščenca, ki je na podlagi naših vprašanj o skladnosti teh sistemov z ZVOP-1 v obeh primerih uvedel začetek inšpekcijskega nadzora. Slovenska zakonodaja namreč biometrični nadzor dovoljuje samo v določenih primerih in samo nad lastnimi uslužbenci.
Industrija nadzora se krepi
Družba nadzora se krepi tako na vzhodu kot na zahodu. Čeprav smo državljanke in državljani Evropske unije praviloma bolj občutljivi na zgodbe iz Kitajske, ki s tehnologijami obraznega prepoznavanja preganjajo tudi verske manjšine, pa se tehnologije nadzora pojavljajo tudi v Evropski uniji in Združenih državah Amerike, kot zadnji »modni trend« na tem področju pa se omenja boj proti beguncem.
Slovenija v tem smislu ni izjema, saj lahko na več področjih že dalj časa spremljamo nakupe nadzorne opreme (droni, senzorji…), ki jih Slovenija upravičuje z željo po preprečevanju nelegalnih prestopov državne meje oziroma zagotavljanja varnosti.
Na globalnem trgu trg nadzornih tehnologij beleži zdravo rast, poleg obrambnega sektorja pa je eden od največjih trgov prav infrastrukturni trg oziroma trg poslovnih uporabnikov. Tudi na tem področju Slovenija ne zaostaja za drugimi državami, kot bomo videli v nadaljevanju.
Hkrati z širitvijo poslovnih praks lahko vidimo tudi negativen odziv državljank in državljanov ter regulatorjev. Biometrija je tako v Evropskem kot tudi v slovenskem pravnem okviru izredno regulirana, prav tako pravne definicije skušajo dohitevati preigravanja industrije, ki skuša s preimenovanjem tehnologij vplivati na njihovo neovirano širjenje.
Eno glavnih podjetij na tem področju je kanadsko podjetja Avigilon, ki deluje v okviru Motorole. Že leta 2014 so predstavniki tega podjetja v reviji Wired objavljali komentarje o prednostih t.i. »intelligent video analytics«, ki naj bi uparila umetno inteligenco in nadzor ter zagotavljanje varnosti, podjetje je danes eno redkih zahodnih podjetji, ki na področju nadzornih tehnologij zagotavlja tako strojno kot tudi programsko opremo. Tudi v Sloveniji.
Avigilon: Ne recite temu biometrični nadzor!
V članku »New surveillance AI can tell schools where students are and where they’ve been« na spletišču Vox lahko beremo o Avigilon rešitvah biometričnega nadzora v ameriških šolah, ki pa niso označene kot biometrični nadzor.
Avigilon namreč uporablja pojem »Appearance search« (iskalnik po videzu), ki za zaznavanje oseb in predmetov uporablja podatkovno bazo in nato ocenjuje verjetnost medsebojnega ujemanja objekta. To pomeni, da sistem kamer hrani posnetke posameznih objektov/oseb in jih nato primerja med seboj – če se podrobnosti s posnetkov ujemajo med seboj, lahko sistem zaključi, da gre za isto osebo ali objekt. V praksi to pomeni, da sistem hrani več tisoč fotografij in posnetkov objektov in jih nato vključuje v svojo analizo.
Avtorji članka opozarja, da je Avigilon pri svojih praksah ugotavljanja povezav in hrambe podatkov izredno netranspareten in na vprašanja o zasebnostnih izzivih na tem področju ni hotel odgovarjati. Tej kritiki se pridružuje tudi ameriški EFF, ki v svojem članku »Video Analytics User Manuals Are a Guide to Dystopia« opozarja na netransparentnost delovanja, fleksibilnost ustvarjanja podatkovnih zbirk z biometričnimi podatki in slabe obete za prihodnost.
Problematičen je tudi algoritemski del enačbe. Washinton Post namreč v članku »Parkland school turns to experimental surveillance software that can flag students as threats« opozarja, da se Avigilonov sistem lahko uporablja za nadzor specifičnih ljudi, čeprav mogoče res ne gre za biometrični nadzor. »But in some ways, Avigilon is more powerful, because its “appearance search” capability allows people to be tracked as long as their body is visible to the camera — no facial identification required,« piše in nadaljuje, »The artificial-intelligence software has been trained on millions of images to comprehend the basic look and movement of people, and its builders say it can now recognize students from afar by their appearance — taking into account the shape of their body, their hairstyle, their facial attributes and the look and color of their clothes.«
Sodišča: To je biometrični nadzor!
Primer iz italijanskega mesta Turin kaže, da se Avigilon v svoji interpretaciji zakonodaje moti vsaj v okviru Evropske unije, kjer je način zbiranja metapodatkov in uporaba podatkov iz videoposnetkov v realnem času za identifikacijo oseb interpretiran kot biometrični nadzor.
“Article 9 applies if the controller stores biometric data (most commonly through templates that are created by the extraction of key features from the raw form of biometric data (e.g. facial measurements from an image)) in order to uniquely identify a person. If a controller wishes to detect a data subject re-entering the area or entering another area (for example in order to project continued customized advertisement), the purpose would then be to uniquely identify a natural person, meaning that the operation would from the start fall under Article 9.”
Ker se na tem področju znotraj Evropske unije vzpostavlja tudi pravna praksa, se ponudniki biometričnega nadzora igrajo z redefinicijami pojmov in skušajo na tak način še naprej razvijati in ponujati biometrične načine nadzora, ki bi bili v skladu z zakonodajo. A po mnenju zagovornikov zasebnosti in pravnikov jim tega ne bi smeli dopustiti.
»Despite not identifying people by name like a standard facial recognition tool does, Leong says, “it does do a very similar thing in being able to access a very particular person across time, location, and the environment, and make conclusions about them in equally concerning ways.”«
Evropska komisija posluša javnost
Evropska komisija je v začetku leta 2020 objavila smernice glede razvoja in implementacije umetne inteligence ter tehnologij prepoznavanja obrazov ter kot odziv prejela veliko komentarjev nevladnih organizacij ter civilne družbe, ki zahteva prepoved uporabe te tehnologije na javnih mestih.
Hkrati smo zabeležili več primerov, ko so v državah članicah sistemi kvazi-biometričnega nadzora in obraznega prepoznavanja nastajali tudi s pomočjo sredstev evropske unije in njenih podpornih mehanizmov. Poročali smo že o razvoju sistema biometričnega nadzora na slovenski policiji, kjer je informacijski pooblaščenec v zaključni fazi priprave poročila o opravljenemu pregledu, in ki so ga financirali tudi s pomočjo denarja evropske komisije. Podobno smo pri projektu slovenskih železnic, ki ga sedaj preverja tudi informacijski pooblaščenec, ugotovili potencialno uporabo biometričnih podatkov za namen nadzora.
Obrnili smo se na predstavništvo Evropske komisije v Sloveniji in jih povprašali, kako gleda na regulacijo biometričnega nadzora Evropska komisija. Trenutna evropska zakonodaja po besedah Evropske komisije načeloma že prepoveduje uporabo biometričnega nadzora, s katerim je mogoče določiti edinstveno osebo – tak nadzor je mogoče izvajati samo v primeru, da je nadzor usklajen z nacionalno zakonodajo, da zato obstaja povečan javni interes in če je primerno zaščiten pred zlorabami. Trenutno Evropska komisija izvaja javne konzultacije, kjer zbira mnenja zainteresirane javnosti o tej temi, na podlagi katere bo lahko izoblikovala dodatna regulatorna pravila in varovalke.
Tehnologija ali prodajanje megle?
Na koncu se dotaknimo še domnevne učinkovitosti takega sistema biometričnega nadzora za reševanje dejanskih izzivov in težav, s katerimi se Slovenske železnice v praksi srečujejo na terenu.
Na primeru implementacije tehnologije »Apperance search« v ameriških šolah lahko preberemo, da gre za nezaneslijv sistem, ki ga pestijo številne napake.
»Avigilon’s technology is not a perfect panacea. Its “appearance search,” a two-year-old feature that would allow a school official to find or highlight people based on what they’re wearing, has an accuracy rate that varies widely depending on factors like lighting and time of year, said Mahesh Saptharishi, the chief technology officer at Motorola Solutions. The system would be less accurate, for instance, in wintertime, when students are going to school in heavy coats.«
Tudi ameriški EFF v svoji analizi napovedne analitike opozarja na problem prevelikega zanašanja na avtomatizirano tehnologijo in hkrati poudarja, da gre v velikemu številu primerov za prodajanje megle ter da je učinkovitost takega nadzora brez pomoči ljudi izredno vprašljiva.
V predstavitvi sistema v internem glasilu Slovenskih železnic teh dvomov ni zaznati. Še več – promocijski video večkrat omeni delovanje v težkih pogojih in pri nični vidljivosti. A zasebnostni in tehnični strokovnjaki že dalj časa opozarjajo, da je pri vsaki uporabi umetne inteligence nujno vključiti tudi človeka, ki preveri in potrdi dognanja tehnologije, saj je možnost napake enostavno prevelika.
Avtokratska prihodnost v imenu učinkovitosti
Biometrični nadzor je v času pandemije postal vedno bolj zanimiv tudi za vlagatelje. Motorola, ki je leta 2018 kupila podjetje Avigilon postaja eden glavnih igralcev na trgu biometričnega nadzora, na drugi strani se vrstijo pritiski na politične odločevalce, ki naj tak način nadzora na javnih mestih prepovejo.
Omenili smo že problematično Avigilonovo integracijo nadzornih kamer s tehnologijami prepoznavanja obrazov in napovedne analitike (prediction analytics) v ameriških izobraževalnih ustanovah. Tudi v državah Evropske unije na več mestih zasebnostni strokovnjaki opozarjajo na problematičnost brezglavega uvajanja takega nadzora, kjer je še vedno precej neznank.
Konec 2019 je tako španski El Pais objavil poročilo iz mesta Marbella na jugu Španije, ki je v boju proti kriminalu začelo uporabljati Avigilonov sistem »Appearance search« ter se kmalu znašlo pred vprašanjem zasebnosti na račun varnosti. Na podoben način so se v glavnem mestu Velike Britanije soočili s protesti javnosti, ki je nasprotovala inštalaciji Avigilonovih kamer z možnostjo obraznega prepoznavanja na železniški postaji King’s Cross.
Tudi algoritemsko in avtomatizirano nadziranje in preganjanje kriminala več mednarodnih nevladnihi organizacij problematizira kot zelo tvegano početje brez jasno dokazanih prednosti, v primeru uvajanja v Luki Koper ter na Slovenskih železnicah pa naj bi bilo ravno to ena od glavnih prednosti uvedbe.
Poslovno okolje je eden od ključnih elementov normalizacije družbe nadzora, saj so zaposleni dobesedno prisiljeni v soglasje s (kvazi)biometričnimi tehnologijami nadzora, ker v nasprotnem primeru lahko izgubijo zaposlitev oziroma ne morejo kvalitetno opravljati svojih nalog. Hkrati se proizvajalci nadzornih rešitev zavedajo vedno večjega pritiska regulatorja in negativnega predznaka, ki jih tehnologije obraznega prepoznavanja nosijo v javnosti in poskušajo z preimenovanjem tehnologij vplivati na njihovo sprejemljivost v družbi.
Prihodnost bo regulirana ali pa nas ne bo
Zaskrbljujoč trend algoritmizacije področja nadzora in varnosti pa ni edino področje, kjer lahko spremljamo vedno večjo avtomatizacijo in algoritmizacijo v imenu varnosti, hitrosti in enostavnosti. Industrijski tehnodeterministični nagovor je namreč identičen tistemu, ki ga lahko že dalj časa spremljamo na področju pametnih mest.
Nagovor o izboljšanju življenja, optimizaciji poslovanja in odstranjevanju človeškega faktorja na prvi pogled mogoče zveni logično, a hitro naletimo na probleme dejanskega uvajanja tehnologij, normalizacije tehnologij nadzora in njihovo posledično vseprisotnost.
Četudi gre pri Luki Koper in Slovenskih železnicah za legitimen interes varovanja in zagotavljanja varnosti, prisotnost globalnih velikanov biometričnega nadzora v Sloveniji pomeni odpiranje novih vrat zlorabam zasebnosti in nove poskuse normalizacije družbe nadzora.
Ko bodo namreč zasebna in javna podjetja ugotovila, da so take tehnologije družbeno sprejemljive, da za problematična uvajanja ni nobenih sankcij in da je zakonodaja dovolj ohlapna, da se pod njeno okrilje lahko skrijejo tudi tehnologije, ki biometrijo uvajajo na prikrit način, bo že prepozno.
Se ti zdi to pomembno?
Projekt Eticen.it nastaja v sklopu zavoda Državljan D. Zavod se ne financira z državnim denarjem, temveč denar za delovanje pridobiva tudi z donacijami aktivne javnosti. Če ti je tematika nadzora in krčenja državljanskih pravic pomembna, razmisli o podpori.
Naše delovanje pokriva več različnih področij, od digitalnih pravic, medijske pismenosti in aktivnega državljanstva. Več o naših aktivnostih izveš na spletišču zavoda Državljan D.
Leave A Comment