Kunstig intelligens: Hvordan best beskytte forbrukere?

Europaparlamentet ønsker å beskytte forbrukere ved bruk av kunstig intelligens og automatiserte beslutningsprosesser.

Bruk av kunstig intelligens blir stadig mer vanlig innen områder som finans, helsevesen og utdanning, og beslutninger som tas uten menneskelig tilsyn er ikke risikofrie. Når man skal trekke erfaring fra store mengder data og ta valg basert på denne kunnskapen, er man avhengig av såkalt mønstergjenkjenning. Problemene oppstår når den tilgjengelige mengden data gjenspeiler skjevheter i samfunnet.

Kunstig intelligens er i økende grad en del av automatiserte beslutningsprosesser basert på algoritmer, hvor avgjørelser kan ha stor innvirkning på mennesker. Det kan for eksempel gjelde tilgang til kreditt, ansettelser og medisinsk behandling. Automatiserte beslutninger kan derfor være med på å forevige sosiale skiller. Eksempelvis har noen ansettelsesalgoritmer vist seg å være partiske mot kvinner. Utviklingen av kunstig intelligens byr derfor på utfordringer knyttet til forbrukernes tillit, og folk flest bør derfor informeres ordentlig om hvordan slike prosesser fungerer.

Derfor oppfordrer Europaparlamentets komité for det indre marked og forbrukerbeskyttelse Europakommisjonen til å undersøke om ytterligere tiltak er nødvendige for å garantere et tilstrekkelig sett med rettigheter for å beskytte forbrukere når det gjelder bruk av kunstig intelligens.

I en resolusjon lagt frem 23. januar finner man en rekke spørsmål Europaparlamentet ønsker at Kommisjonen skal avklare:

  • Hvordan sikre at forbrukerne er beskyttet mot urettferdig og diskriminerende kommersiell praksis, samt mot risiko som følger av profesjonelle tjenester drevet av kunstig intelligens?
  • Hvordan garantere større åpenhet i disse prosessene?
  • Hvordan sikre at kun datasett av høy kvalitet (og ikke-partiske data) blir brukt i automatiserte beslutningssystemer basert på algoritmer?

Neste steg:

Europaparlamentet vil stemme over resolusjonen i midten av februar, deretter vil den bli oversendt til Rådet og Kommisjonen. Kommisjonen bør legge frem sine planer for en europeisk tilnærming til kunstig intelligens 19. februar.

Les mer om saken her.

Har du spørsmål? Kontakt EU-rådgiver Andreas Løhren: andreas@osloregion.org