Algoritmisk retfærdighed

Algoritmisk retfærdighed

Algoritmisk retfærdighed handler om at sikre, at automatiserede beslutninger ikke behandler mennesker uretfærdigt. Det betyder at gennemgå både de data, algoritmer og regler, som en computer bruger til at beslutte noget. Uretfærdighed kan opstå hvis data afspejler gamle fordomme eller hvis algoritmen vægter faktorer, der indirekte diskriminerer. Effekten kan være alvorlig fordi algoritmer ofte bruges i jobansøgninger, kreditvurderinger og prisfastsættelse. For at afhjælpe det arbejder man med teknikker som fairness-målinger, tests, gennemsigtighed og menneskelig kontrol. Transparens betyder at kunne forklare, hvorfor en beslutning blev truffet, så fejl kan rettes. At sikre retfærdighed er også en balance, fordi forbedringer på ét mål kan forværre et andet. Regler og lovgivning begynder at stille krav til virksomheder om at dokumentere og teste deres systemer. Forbrugere får dermed større tillid og virksomheder undgår dårligt omdømme og juridiske problemer. I praksis kræver arbejdet både teknisk viden, gode data og et klart etisk fokus fra ledelsen.