Tragična nesreča v Teksasu, v kateri je ugasnilo življenje 76-letne ženske, ni le še ena črna pika v prometni statistiki. Je zlovešč opomin na nevarne slepe pege sodobne avtomobilske industrije. Ko je Tesla Model 3 pri visoki hitrosti treščila v stanovanjsko hišo, se v ruševinah ni znašla le nesrečna žrtev, temveč tudi naša kolektivna iluzija o varni, povsem avtonomni prihodnosti.

Voznik, ki je ob nesreči uporabljal sistem “popolnoma samodejne vožnje” (FSD), trdi, da je za volanom izgubil zavest. Kljub temu se zdaj sooča z obtožnico za uboj iz malomarnosti. Ta primer pred sodišče in družbo postavlja mračno, a nujno vprašanje: komu bomo v resnici sodili, ko v usodnih sekundah odločitve sprejema programska koda?

Iskanje odgovora hitro trči ob neprebojen zid. V teksaškem primeru smo priča klasičnemu konfliktu: voznik se sklicuje na odpoved sistema, medtem ko Tesla vztraja, da je algoritem deloval brezhibno in da je človek sam pospešil na 115 kilometrov na uro.

Vendar preiskovalci teh trditev ne morejo neodvisno preveriti. Izvorna koda je zaprta, korporacija pa ima izključen monopol nad telemetričnimi podatki iz vozila. Sodišča in policija so tako prepuščeni zgolj interpretaciji proizvajalca. Algoritmi niso več le tehnološki pripomoček, temveč postajajo neprebojen pravni ščit za korporativne interese.

To netransparentnost poglablja razkorak med bombastičnim trženjem in surovo realnostjo na cestah. Proizvajalci kupce privabljajo z zvenečimi imeni, kot sta Avtopilot in Popolnoma samodejna vožnja, kar v ljudeh ustvarja nevarno lažno zaupanje v zmogljivosti stroja. Podjetja kujejo astronomske dobičke na obljubah o avtonomni prihodnosti, ob tragičnem spodrsljaju pa se vsa odgovornost preloži na uporabnika. V drobnem tisku se namreč te iste korporacije zavarujejo z zahtevo po neprestani, stoodstotni pozornosti človeka za volanom.

Če želimo preprečiti, da bi se tovrstne tragedije ponavljale, je nujen takojšen sistemski rez:

  • Neodvisne črne skrinjice: Avtomobili morajo dobiti standardizirane snemalnike (podobno kot v letalstvu). Regulatorji morajo imeti neposreden dostop do podatkov, mimo filtrov proizvajalcev.

  • Deljena odgovornost: Če algoritem strojno omogoči in izvede smrtonosen pospešek v stanovanjski coni, proizvajalec ne more ostati nedotakljiv.

  • Prepoved zavajanja: Zakonodaja mora prepovedati oglaševanje delno asistenčnih sistemov z izrazi, ki namigujejo na popolno avtonomijo.

Umetna inteligenca ne sme ostati zgolj piarovska iluzija, temveč mora prevzeti tudi svoj delež odgovornosti za krvave posledice na naših cestah.

Se ti zdi to pomembno?

Projekt Eticen.it nastaja v sklopu zavoda Državljan D. Zavod se ne financira z državnim denarjem, temveč denar za delovanje pridobiva tudi z donacijami aktivne javnosti. Če ti je tematika nadzora in krčenja državljanskih pravic pomembna, razmisli o podpori.

Naše delovanje pokriva več različnih področij, od digitalnih pravic, medijske pismenosti in aktivnega državljanstva. Več o naših aktivnostih izveš na spletišču zavoda Državljan D.