Partiskhet i AI avser systematisk och orättvis diskriminering som uppstår i resultaten från artificiella intelligenssystem. Denna partiskhet kan ta sig flera uttryck, var och en med unika orsaker och konsekvenser. De mest diskuterade typerna är datapartiskhet, algoritmpartiskhet och samhällelig partiskhet.

• Datapartiskhet uppstår när data som används för att träna en AI-modell inte är representativ för hela populationen eller innehåller inbäddade fördomar;
• Algoritmpartiskhet uppstår från själva algoritmernas utformning, såsom hur egenskaper väljs ut eller hur modellen bearbetar indata;
• Samhällelig partiskhet speglar påverkan av bredare sociala ojämlikheter och antaganden som kodas in i AI-system, ofta omedvetet.

Att förstå dessa typer av partiskhet är avgörande eftersom de kan leda till orättvisa, felaktiga eller till och med skadliga beslut när AI används i verkliga tillämpningar.

Det har förekommit många verkliga incidenter där partiskhet i AI har lett till betydande skada:

• Vid rekrytering: vissa AI-drivna rekryteringsverktyg har gynnat manliga kandidater framför kvinnliga kandidater eftersom deras träningsdata återspeglade historiska könsobalanser inom vissa branscher;
• Inom rättsväsendet: riskbedömningsalgoritmer har tilldelat högre riskscore till individer från minoritetsgrupper, vilket förstärker befintliga sociala ojämlikheter;
• Inom hälso- och sjukvård: diagnosverktyg som tränats på data från huvudsakligen en demografisk grupp har presterat sämre när de använts på patienter från underrepresenterade grupper.

Dessa exempel belyser varför hantering av partiskhet i AI inte bara är en teknisk utmaning, utan ett avgörande etiskt ansvar.