AI-bias

AI-bias treedt op wanneer een systeem stelselmatig oneerlijke, scheve of discriminerende resultaten oplevert ten aanzien van bepaalde groepen mensen. De oorzaak ligt meestal in de trainingsdata: weerspiegelen die historische vooroordelen, zijn ze onvolledig of oververtegenwoordigen ze één groep, dan leert en reproduceert het model die vertekeningen. Gedocumenteerde gevallen zijn onder meer werving, kredietverlening of gezichtsherkenning die slechter werkte voor bepaalde groepen. Het probleem is delicaat omdat AI een schijn van objectiviteit draagt ("het algoritme zegt het") die de bias kan verhullen. Het verminderen ervan vereist representatievere gegevens, specifieke eerlijkheidstests en menselijk toezicht. Het is een van de centrale ethische kwesties bij het gebruik van AI voor beslissingen die mensen raken.