Politiforum
16.02.2024
EUs KI-forordning vil få stor betydning for norsk politi. Den gir få direkte forbud, men vi må forvente omfattende dokumentasjonskrav - også for teknologi som allerede er i bruk i politiet. Men forordningen trenger ikke bli en hindring for å i større grad ta i bruk KI i norsk politi.
Hva sto på spill for politiet i forhandlingene om KI-forordningen?
Like før jul i fjor ble EU-kommisjonen, Rådet og EU-parlamentet enige om bestemmelsene i EUs forordning om kunstig intelligens (KI), kjent som «the AI Act». Den endelige teksten er i skrivende stund ikke offisielt publisert, men et utkast datert 21. januar ble lekket til offentligheten allerede dagen etter. Forhandlingene gjaldt blant annet hvilke begrensninger som skal gjelde for politiets bruk av KI.
Parlamentet krevde absolutt forbud mot (1) å bruke biometrisk identifisering (les: ansiktsgjenkjenning) i sanntid på offentlig sted, og (2) bruk av KI i personrettet predictive policing, eller (3) for å avlese en persons følelser, for eksempel i form av en KI-basert løgndetektor.
EU-kommisjonen og Rådet mente at EU-parlamentets holdning var for streng.
MULIGHET OG HØYRISIKO
Den lekkede teksten tyder på at forordningen gir politiet gode muligheter for bruk av KI. Den inneholder fremdeles noen forbud, og en del bruksområder anses som høyrisiko. Omfattende vilkår må være oppfylt for at høyrisiko-KI skal være lovlig, blant annet om teknologiens kvalitet, den menneskelige kontroll og kompetanse, tiltak mot avvik, og dokumentasjon av etterlevelse.
Siden tilsvarende krav ikke gjelder for KI-systemer som ikke er høyrisiko, er det viktig både å kartlegge hvilke av politiets KI-systemer som blir høyrisiko, og om KI-systemer som i seg selv ikke er høyrisiko kan bli brukt til formål som gjør at de likevel regnes som det. Her må vi være bevisste på at markedet til nå
Gå til medietLike før jul i fjor ble EU-kommisjonen, Rådet og EU-parlamentet enige om bestemmelsene i EUs forordning om kunstig intelligens (KI), kjent som «the AI Act». Den endelige teksten er i skrivende stund ikke offisielt publisert, men et utkast datert 21. januar ble lekket til offentligheten allerede dagen etter. Forhandlingene gjaldt blant annet hvilke begrensninger som skal gjelde for politiets bruk av KI.
Parlamentet krevde absolutt forbud mot (1) å bruke biometrisk identifisering (les: ansiktsgjenkjenning) i sanntid på offentlig sted, og (2) bruk av KI i personrettet predictive policing, eller (3) for å avlese en persons følelser, for eksempel i form av en KI-basert løgndetektor.
EU-kommisjonen og Rådet mente at EU-parlamentets holdning var for streng.
MULIGHET OG HØYRISIKO
Den lekkede teksten tyder på at forordningen gir politiet gode muligheter for bruk av KI. Den inneholder fremdeles noen forbud, og en del bruksområder anses som høyrisiko. Omfattende vilkår må være oppfylt for at høyrisiko-KI skal være lovlig, blant annet om teknologiens kvalitet, den menneskelige kontroll og kompetanse, tiltak mot avvik, og dokumentasjon av etterlevelse.
Siden tilsvarende krav ikke gjelder for KI-systemer som ikke er høyrisiko, er det viktig både å kartlegge hvilke av politiets KI-systemer som blir høyrisiko, og om KI-systemer som i seg selv ikke er høyrisiko kan bli brukt til formål som gjør at de likevel regnes som det. Her må vi være bevisste på at markedet til nå
