Skjevhet og ai

Skjevhet og ai

Skjevhet i AI betyr at en kunstig intelligens-system gir systematisk favoriserende eller diskriminerende resultater for enkelte grupper eller situasjoner. Dette kan komme av skjevheter i treningsdata, måten algoritmen er bygd på, eller fra hvordan problemstillingen er definert. Ofte gjenspeiler systemet eksisterende sosiale eller historiske ulikheter som var til stede i dataene som ble brukt for å lære modellen. Skjevhet kan være åpenbar, som når en ansiktsgjenkjenner fungerer dårligere for visse hudtoner, eller mer skjult, som når et anbefalingssystem forsterker økonomiske eller geografiske forskjeller. Forståelse av kildene til skjevhet handler om å analysere data, modellvalg og de beslutningene mennesker tok under utviklingen. Det er viktig fordi AI-beslutninger påvirker menneskers liv, for eksempel jobbmuligheter, lån, behandling og tilgang til tjenester. Ubehandlet skjevhet kan føre til urettferdig behandling, juridiske problemer og tap av tillit fra brukere og kunder. Derfor betyr det mye å måle, teste og dokumentere hvordan systemet oppfører seg for ulike grupper. Tiltak som mangfold i data, gjennomgang av modeller av mennesker med forskjellig kompetanse, kontinuerlig overvåking og klare retningslinjer kan redusere risikoen. Godt arbeid mot skjevhet gjør teknologien mer rettferdig, mer pålitelig og enklere å ta i bruk i praksis.