📌 Kunstig rettferdighet: Når maskinen dømmer

Når algoritmen dømmer – hvem tar ansvar for feil?

Vi liker å tenke på teknologi som objektiv. Nøytral. Fri for følelser og fordommer. Og nettopp derfor bruker vi den nå i stadig flere sammenhenger som krever «rettferdighet»:

• Hvem skal få lån?
• Hvem er kvalifisert for jobben?
• Hvem skal prioriteres i helsekøen?
• Hvem får mulighet, og hvem blir valgt bort?

Men hva skjer når dommeren ikke er et menneske, men en algoritme?

Og kanskje enda viktigere: Hva skjer når den tar feil?

EU-reguleringer

Det finnes EU-reguleringer som omhandler bruken av kunstig intelligens (KI) i beslutningsprosesser, spesielt innen finanssektoren. Den europeiske unionen har vedtatt en omfattende lovgivning kjent som AI Act, som trådte i kraft 1. august 2024. Denne loven klassifiserer KI-systemer etter risikonivå, og kredittvurdering er definert som en «høyrisiko»-applikasjon.

For slike høyrisiko KI-systemer stilles det strenge krav til:​

• Kvaliteten på datasett som brukes
• Teknisk dokumentasjon og loggføring
• Transparens og informasjon til brukere
• Menneskelig overvåking
• Robusthet, nøyaktighet og cybersikkerhet​

Disse kravene er ment å sikre at KI-systemer ikke diskriminerer eller tar beslutninger uten tilstrekkelig menneskelig innsikt.

Det er også verdt å merke seg at EU-kommisjonen har etablert en europeisk KI-styrelse for å overvåke implementeringen av AI Act og sikre at medlemslandene følger de fastsatte retningslinjene. ​

Disse reguleringene representerer et skritt mot mer ansvarlig og rettferdig bruk av KI i beslutningsprosesser som påvirker enkeltpersoners liv, spesielt innen finanssektoren.

⚖️ Når rettferdighet kodes inn

Algoritmer brukes i økende grad til å ta beslutninger i alt fra rekruttering til rettsvesen. De lover effektivitet, konsistens – og rettferdighet.
Ingen skal lenger dømme basert på magefølelse, humør eller fordommer.
Det høres bra ut, ikke sant?

Men virkeligheten er mer komplisert.

For algoritmene er trent på historiske data – og historien har aldri vært nøytral.
Den bærer med seg skjevheter, strukturelle ulikheter og usynlige bias.
Hvis maskinen «lærer» av tidligere ansettelser, tidligere dommer, tidligere helseprioriteringer – så lærer den også skjevhetene som lå der. Og det gjør den med presisjon og hastighet.
Mange ganger uten at vi engang vet hva den har sett.

🤖 Når maskinen dømmer – men ingen tar ansvar

Det finnes allerede eksempler på algoritmer som har:

• Foretrukket mannlige jobbsøkere
• Underprioritert pasienter med mørk hudfarge
• Forutsagt høyere risiko for kriminalitet blant visse grupper
• Gitt dårligere lånevilkår til kvinner

Når slike feil oppdages, stiller man spørsmålet: Hvem har skylden?

• Er det utvikleren som skrev koden?
• Selskapet som tok den i bruk?
• Eller samfunnet som ga maskinen dataene den ble trent på?

Ofte er svaret: ingen. Eller rettere sagt: alle – men samtidig ingen spesifikt. Og det er nettopp dette som er problemet. Vi har skapt et system der makt og ansvar ikke lenger henger sammen.

🔍 Etisk vakuum – eller nytt mulighetsrom?

Det betyr ikke at teknologien i seg selv er ond eller farlig. Men den er heller ikke god og rettferdig på egen hånd. Rettferdighet må bevisst bygges inn. Den må testes. Vurderes. Forklares. Og kanskje aller viktigst: Den må kunne utfordres.

For hva skjer med samfunnet vårt dersom avgjørelser tas av systemer vi ikke forstår – og ikke kan stille til ansvar?

💬 Retten til å bli vurdert som menneske

Kunstig intelligens kan være et fantastisk verktøy – men det er fortsatt et verktøy. Vi må aldri glemme forskjellen på et verktøy og et menneske.

Rettferdighet handler ikke bare om tall og sannsynlighet. Den handler også om kontekst. Om skjønn. Om å bli sett.

• Du er ikke et datasett.
• Du er ikke gjennomsnittet av en gruppe.
• Du har en historie, en bakgrunn, en stemme.

Og den stemmen må få plass – også i møte med teknologi.

🌱 Til ettertanke:

• Ville du latt en algoritme avgjøre om du fikk lån, jobb eller helsehjelp?
• Hva betyr det egentlig at en avgjørelse er «rettferdig»?
• Er det rettferdig hvis ingen kan forklare den – eller ta ansvar for den?
• Hvem ønsker du skal vurdere deg – en datamodell eller et medmenneske?

💡 Kanskje teknologien ikke trenger å velge for oss – men støtte oss i å velge klokere.

For rettferdighet handler ikke bare om presisjon.
Det handler om verdighet.

– Anneli Brannfjell
Coach, forfatter og menneskebegeistret teknologibruker