Ekstramateriale - Bias
Der stort set altid forskellige holdninger til det samme emne blandt mennesker. En af de store udfordringer ved at træne AI-teknologi er at beslutte, hvordan den kunstige intelligens skal forholde sig til forskellige emner.
Hvis man f.eks. spurgte forskellige mennesker om, hvor meget man skal betale i skat af sin løn, vil de sandsynligvis have vidt forskellige holdninger til det. Så hvordan skal en kunstig intelligens svare på det? - Hvad er det rigtige svar?
"Bias" er når man (eller noget, som en computerprogram) hælder til den ene side mere end den anden, uden at være fair. Forestil dig, at du har en ven, der altid vælger chokoladeis frem for vaniljeis, selv før de har smagt dem begge sammen – det er en form for bias. Personen har en forudindtaget holdning, der gør, at de allerede har bestemt sig for, hvad de kan lide bedst, uden at give begge muligheder en fair chance.
Der er et indbygget bias i den måde kunstig intelligens bliver trænet på.
Fordi langt den største del af internettet er på engelsk og kommer fra amerikanske hjemmesider vil kunstig intelligens trænet på kilder fra internettet have en tendens til at have holdninger der fremgår af amerikanske tekster. Lad os f.eks. sige, at man i USA langt bedre kan lide farven blå i stedet for rød, men i Danmark kan man bedre lide farven rød i stedet for blå. Med en kunstig intelligens trænet på amerikanske kilder vil den altså oftere foreslå farven blå.
Det er selvfølgelig uskyldigt, når det handler om farverne rød og blå, men hvis det f.eks. handler om køn, race, religion eller diskimination, kan det være langt mere alvorligt. Det er derfor meget vigtigt at være opmærksom på denne bias, når man bruger kunstig intelligens.
Når man bruger kunstig intelligens vil der være nogle emner, den har nogle bestemte holdninger til. Der vil også være nogle emner, som den ikke vil svare på. Det er vigtigt at være opmærksom på, at disse holdninger ikke er neutrale sandheder, men i stedet nogle holdninger der afspejler de kilder den kunstige intelligens har læst eller den måde, de er blevet trænet på.
Reflektionsøvelse
Reflekter over hvordan de tekster en kunstig intelligens er blevet trænet med påvirker dens holdninger til forskellige emner.
- Hvordan tror du, de data, som en kunstig intelligens (AI) er trænet på, kan påvirke den måde, den behandler information om forskellige grupper af mennesker på?
- På hvilke måder kan bias i AI påvirke beslutninger taget af teknologien i det virkelige liv, f.eks. ved jobansøgninger eller låneansøgninger?
- Kan du komme på eksempler fra det virkelige liv, hvor bias i AI måske har ført til uretfærdige eller skæve resultater?
- Hvis en AI viser bias, hvem mener du så bærer ansvaret for dette? Er det dem, der har designet AI'en, dem, der har leveret dataene, eller nogen helt tredje?
- Diskuter, hvordan man kunne forsøge at minimere bias i AI. Hvilke skridt mener du, udviklere og forskere bør tage for at gøre AI mere retfærdig og objektiv?
- Tror du man kan lave en kunstig intelligens uden bias?