Du tror KI er nøytral fordi det er en maskin
Handler om: KI-konsekvenser
En KI er ikke objektiv bare fordi den er en maskin — den lærer mønstre fra TRENINGSDATA skrevet og samlet av mennesker, og arver skjevhetene som ligger der. En KI som sorterer jobbsøknader kan lære gårsdagens diskriminering, selv uten at noen «programmerte inn» den skjevheten med vilje.
Eksempel
Du tror en KI-basert ansettelsesalgoritme automatisk er rettferdig fordi den er «bare matematikk», og ikke kan diskriminere slik mennesker kan.
Slik tenker du riktig om det
En KI er som en elev som bare har lest ÉN bok og tror det er hele sannheten: er boka skjev, blir eleven det også — uten at eleven (eller boka) prøvde å lyve. Skjevhet i data blir skjevhet i avgjørelser, helt automatisk.