Sivilombudet advarer mot KI-diskriminering i forvaltningen

Offentlig forvaltning bruker i økende grad kunstig intelligens i saksbehandlingen. En ny rapport fra Sivilombudet slår alarm om risikoen for at KI forskjellsbehandler innbyggere.

Innenriks: – Bruken av KI i offentlig forvaltning reiser viktige rettssikkerhetsmessige spørsmål. KI-genererte vurderinger og anbefalinger kan føre til usaklig forskjellsbehandling eller diskriminering uten at det oppdages, skriver Sivilombudet i en pressemelding.

I arbeidet med den ferske rapporten har ombudet innhentet opplysninger fra Nav, Arbeidstilsynet, Skatteetaten og Tolletaten.

Ombudet konkluderer blant annet med at forvaltningen har et selvstendig ansvar for at regelverket etterleves, også når KI brukes som beslutningsstøtte.

– Forvaltningen må ha tilstrekkelig innsikt i og reelle muligheter til å kontrollere at KI-systemene og resultatene deres bygger på saklige og lovlige hensyn. Hvis ikke er det fare for at feilaktige eller usaklige vurderinger videreføres i forvaltningens avgjørelser, uten at noen oppdager det, skriver sivilombud Hanne Harlem i rapporten.

– Dersom forvaltningen bruker en KI-generert vurdering uten å kunne kontrollere om den er egnet som beslutningsgrunnlag, er det grunn til å stille spørsmål ved om saksbehandlingen er forsvarlig, fortsetter hun.

Rapporten er oversendt Justis- og beredskapsdepartementet og Digitaliserings- og forvaltningsdepartementet.

(©NTB)