EU ønsker å sette strengere krav ved bruk av kunstig intelligens i politiet

For å bekjempe diskriminering og sikre retten til personvern krever europaparlamentarikere sterke sikkerhetstiltak når kunstig intelligens brukes i rettshåndhevelse. 

I forrige uke vedtok Europaparlamentet en resolusjon om bruken av kunstig intelligens i politiet og ved rettshåndhevelse. 377 parlamentarikere stemte for og 248 stemte imot resolusjonen som peker på risikoen for skjevhet i algoritmer som kan føre til diskriminering og ulovlig overvåkning. Resolusjonen er i tråd med Europakommisjonens forslag til regulering av kunstig intelligens. 

Systemer innen kunstig intelligens har allerede en tendens til å feilidentifisere minoritetsgrupper, noe som er bekymringsverdig når det kommer til rettshåndhevelse. For å sikre at grunnleggende rettferdighet opprettholdes bør algoritmer være transparente, sporbare og tilstrekkelig dokumentert ifølge Europaparlamentet.

-Europa trenger å utvikle kunstig intelligens som er pålitelig, eliminerer skjevhet og diskriminering og tjener det felles gode, samtidig som næringslivet skal trives og genere økonomisk velstand, sier parlamentarikeren Dragoș Tudorache.

For å respektere personvern og menneskeverdet, ber derfor Europaparlamentet om:

• Et permanent forbud mot automatisk ansiktsgjenkjenning av enkeltpersoner i offentlige rom og at innbyggere bare blir overvåket når de er mistenkt for en forbrytelse 

• At kommersiell bruk av databaser for ansiktsgjenkjenning og såkalt «predictive policing» eller «forutseende politiarbeid» basert på adferdsdata er forbudt

• Forby systemer for sosial rangering, som prøver å vurdere borgerens troverdighet ut fra deres oppførsel og eller personlighet

I april 2021 la kommisjonen fram et lovforslag (forordning) for regulering av kunstig intelligens. Når forslaget blir vedtatt vil det bli til felles lov i alle EUs medlemsland. Norge deltar aktivt i arbeidet med kunstig intelligens og det er sannsynlig at forordningen vil være EØS-relevant.

Parallelt med arbeidet for reguleringen samarbeider medlemslandene om å implementere aktiviteter fra en koordinert plan for kunstig intelligens, som Norge er en aktiv del av. 

Les mer om saken her.