Europaparlamentsvalget 2024 nærmer seg med stormskritt. Bruken av generativ KI, slik som ChatGPT, har eksplodert, og man er bekymret for at manipulering av digitalt innhold kan bli en utfordring for årets valg.
Fra 6. til 9. juni skal europeere møte opp ved stemmeurnene for å velge nye representanter til Europaparlamentet (EP). Europakommisjonen er bekymret for at generativ KI vil bli brukt til å spre falske fortellinger eller deepfakes av kandidater i forkant av EP-valget. Det er lett å bruke generativ KI til å manipulere videoer, lyd og bilder av politiske kandidater som fremstår ekte, men som er falske. Formålet kan være å desinformere velgermassen ved å spre falske utsagn om en politisk kandidat for å øke populariteten og velgerstøtten til en annen. For eksempel publiserte partiet Platforma Obywatelska til Donald Tusk en deepfake video av den tidligere statsministeren Mateus Morawiecki i forkant av 2023-valget.
En annen utfordring med generativ KI er utilsiktet spredning av feilinformasjon. Chatbotene til Google AI, Open AI og Microsoft Copilot besitter for lite data om EP-valget, noe som har ført til at brukerne får utdatert eller mangelfull informasjon om blant annet stemmeprosedyrene og valgdato. Risikoen er at færre møter opp i valglokalene og bidrar ytterligere til en allerede lav valgdeltakelse.
Europakommisjonen: retningslinjer for EP-valget og KI
I mars presenterte Kommisjonen retningslinjer for KI og EP-valget som en del av forordningen for digitale tjenester (DSA) og KI-forordningen. DSA består av konkrete krav for store nettplattformer (META, X, Google, Microsoft) om å hindre ulovlige eller skadelige aktiviteter og spredning av desinformasjon på nett. Europakommisjonen krever blant annet at de store tek-selskapene bruker vannmerker for nettinnhold som er KI-generert. Det skal gjøre det lettere for brukere å skille mellom KI-generert innhold og ekte innhold.
KI-forordningen ble vedtatt 21. mai 2024 og består av blant annet retningslinjer som skal identifisere upålitelige og høyrisiko KI-systemer. De store tek-selskapene, som for eksempel Facebook, Instagram, X, og Google ble derfor tidligere i år pålagt om å informere om sine tiltak for å hindre misbruk av KI før EP-valget. Flere av tek-selskapene har nå derfor publisert en plan for hvordan de skal gjennomføre dette.
Europakommisjonen følger nøye med på det potensielt mest KI-påvirkede valget hittil, og erfaringene fra sommerens valg vil kunne gi føringer for hvordan man best kan håndtere liknende utfordringer i fremtiden.
Om oss 
