Algoritmer kan forsterke kjønnsforskjeller

Petter Bae Brandtzæg, professor ved Institutt for medier og kommunikasjon ved Universitetet i Oslo og sjefsforsker ved SINTEF, trakk fram det usynlige og problematiske med algoritmer på webinaret Bedre innovasjon med kjønnsperspektiver? forrige uke.

– Med den digitale innovasjonen ser vi at makten flyttes fra mennesker til datamaskiner. Særlig med KI (kunstig intelligens, red. anm.) ser man et økt spenningsforhold mellom maskinenes økende vilje og menneskets egenvilje, mener Brandtzæg.

– Usynlige algoritmer styrer oss

Han er opptatt av hvordan algoritmene definerer livene våre for oss alle sammen:

– Algoritmer, hvordan maskiner lærer av seg selv gjennom store data, er usynlig for oss. Men stordataalgoritmer påvirker likevel i økende grad alt fra hva vi leser og hvilke filmer vi ser, til hvordan vi former våre relasjoner og hva og hvor vi kjøper varer på nett.

Alt dette skjer gjennom blant annet søkemotorer som Google, strømmetjenester som Netflix og sosiale medier som Facebook, mener Brandtzæg.

– Vi må få inn et brukerperspektiv, vi må forhindre at Google, Microsoft og Facebook styrer fremtiden vår, sa han. 

Men brukerne er også i stand til å påvirke, mener sosiolog og kjønnsforsker Hege Andreassen ved UiT Norges arktiske universitet.

– Vi må reflektere rundt teknologiene. Selv om de kommer med en forventning, kan brukerne også påvirke, sa hun.

Brandtzæg er uenig.

– Vi blir ofte ofre for hva og hvilke valg teknologien tar. Vi velger anbefalingene vi får på Netflix, vi klikker på det første søkeresultatet fra Google. Vi lar oss forføre av teknologien, mener han.

– På samme måte som uterom og offentlige plasser påvirker menneskelig interaksjoner, påvirker teknologiens utforming menneskelig interaksjoner på nett.  

Brandtzæg og Andreassen ser begge for seg at det vil vokse fram et skille mellom de som er bevisste på og kritiske til algoritmer, versus de som i stor grad lar teknologien ta valg for dem.

Digitale innovasjoner kan skape ulikhet

Hege Andreassen mener at disse valgene ikke kan overlates til enkeltindivider.

– Vi som forsker på feltet må ta vår del av ansvaret for å løfte blikket til samfunnsnivå. Sammen med utviklere og bestillere av teknologi må vi sørge for at kjønnsbalanse og likestilling ikke glipper i digitaliseringsprosesser, mener hun.

– Algoritmene er usynlige for de fleste individuelle sluttbrukere av digitale tjenester, men de er ikke usynlige for alle. Noen har skapt dem, noen kan avdekke dem og omskrive dem.

Brandtzæg viser til at forskning på frie valg finner at vi mennesker lar teknologien ta valg for oss.

– 70 prosent av trafikken på for eksempel YouTube skyldes anbefalingsalgoritmer.

Problemet er at når digitale innovasjoner favoriserer enkeltgrupper i samfunnet, fører det til en framskridende digital ulikhet, mener han.

– Denne digitale ulikheten er ofte forankret i eksisterende økonomiske og sosiale forskjeller, men ulikhetene forsterkes ytterligere av en digital utvikling hvor flere og flere tjenester flyttes ut på internett. Disse forskjellene kan kalles «Matteus-effekten».

Ifølge Brandtzæg dokumenterer forskning at Matteus-effekten eksisterer.

– Matteus-effekten beskriver en dynamikk der de rike blir rikere, og de fattige blir fattigere. Det digitale og algoritmene kan dermed forsterke stereotypier og kjønnsforskjeller.

– Med store skjevheter i den gruppen som står for digitalisert innovasjon, kan det ubevisst oppstå stor forskjellsbehandling i digitaliserte løsninger. Det er dette som ofte omtales som «unconsioius bias». Det vil si en ubevisst, men innarbeidet, forskjellsbehandling av menn og kvinner, forklarer Brandtzæg.

– Ingen skript er kjønnsnøytrale

– Jeg leste akkurat en doktorgrad om kjøleskapet, fortalte Andreassen til deltakerne på webinaret.

– Den handler om at folk fikk kjøleskap hjemme og hva det har betydd. Man så for seg idealfamilien med mor, far og to barn. Den forventningen, skriptet, er skrevet inn i utformingen av kjøleskapet. Og verken størrelsen eller utformingen på kjøleskapet har endret seg noe særlig siden 50-tallet, sa hun.

Andreassen jobber med velferdsteknologi og helseinnovasjon. I alle skript – forventningen knyttet til en enkelt teknologi eller innovasjon – ligger det forestillinger om brukerne, også forestillinger om kjønn, mener hun.

– Noen ganger er forestillingene uttalte, andre ganger ikke, men de er ikke kjønnsnøytrale.

Andreassen illustrerer poenget med ny velferdsteknologi, som apper for blodsukkermåling og trygghetsalarmer. Appen for blodsukkermålinger krever en aktiv bruker, men ofte er ikke brukeren i stand til det selv. Pasienten er for eksempel et barn, noe som betyr at alle voksne rundt barnet må læres opp i dette utstyret som for eksempel pårørende eller ansatte i skole og SFO.

– Og trygghetsalarmer er så kjent at det nesten ikke regnes som innovasjon lenger, men det skjer store endringer stadig vekk. Alarmen krever at omsorgsarbeidere følger med på den hver dag, så de samme problemstillingene er aktuelle; hvilke forestillinger om kjønn er innarbeidet i disse teknologiene?

– Slagordet innen e-helse er gjerne «empowering the patient», styrk pasienten. Men hvilke forventninger til pårørende er innarbeidet i teknologiene? Ansvar for uformell omsorg er et stort felt i kjønnsforskningen, og vi vet at omsorgsarbeid er et kjønnet arbeid, understreker Andreassen.

Med det mener Andreassen at det store flertallet av omsorgsarbeidere, både i yrket og blant pårørende, er kvinner. Det betyr igjen at forventningene som ligger i teknologien i praksis er rettet mot kvinner.

Trenger både tverrfaglighet og kjønnsbalanse

«Brogramming» er et nøkkelbegrep for å forstå hvor kjønnsskjevt teknologifeltet er, fortalte Brandtzæg. Han trekker fram organisasjoner med bare mannlige ansatte, som NRKbeta, eller at det bare er 16 prosent kvinner blant ingeniører i Europa som jobber med kunstig intelligens.

– Det er også en maktkamp mellom fagdisipliner. Det er et godt eksempel når de som jobber med etikk i Google, får sparken. Flere tvinges ut i en tid der vi faktisk trenger mer tverrfaglighet, sa han.

Teknologiutdanningene må ta inn samfunnsvitenskapelige perspektiver, mener Brandtzæg:

– Vi må komme oss ut av disse siloene og tvinge teknologi- og ingeniørutdanningene til å ta inn for eksempel hvilke sosiale implikasjoner teknologi gir.

– Å inkludere flere stemmer er helt avgjørende, mener Andreassen.

Hun legger til at de som innoverer og implementerer ikke bare kan være unge, friske mennesker med samme utdanning:

– Vi må inkludere pasienter og sluttbrukere, pårørende, syke, alle aldre, kjønn og profesjoner.

Sofia Moratti, seniorforsker ved NTNU, understreker behovet for både sammensetning og perspektiver i innovasjon og teknologi:

– Det er helt nødvendig at kvinner kommer inn i grunnforskning. Rekruttering til teknologi kan ikke bare komme fra en homogen gruppe. Jo høyere opp i karrierestigen i akademia, dess færre kvinner, spesielt i MNT-fag (matematikk, naturvitenskap og teknologi, red. anm.). Kvinners karriere er ikke så rett fram, statistikk viser at det er store tap av kvinnelige talenter, også i Norge. Vi må tenke kjønnsbalanse og mangfold både i rekruttering og karriere.

– Som samfunn må vi lære å avdekke og forhindre stereotypier som hindrer kvinners karriere og påvirker utforming av teknologi.

Moratti er opptatt av å lære studentene om kjønnsdiskriminering og diskriminerende algoritmer.

– Studentene var veldig ivrige da jeg underviste om slike «giftige» algoritmer, fordi de gjenkjenner det i hverdagen. Diskriminering dukker opp i digitale produkter vi bruker hele tiden, så det er viktig å lære opp studenter til å bli kritiske brukere, sa hun.

Baksmell for likestilling?

Linda Rustad, direktør for Kilden kjønnsforskning.no, påpekte alvoret i utviklingen, og spurte innlederne:

– Får likestillingen en baksmell dersom vi ikke har kjønnsperspektiver på innovasjon?

– Vi tenker jo på digital innovasjon som muliggjørende teknologier – egentlig også når det gjelder å rive ned skiller mellom kjønn. Men så ser vi at vi har fått mer avanserte teknologier som samler inn enorme mengder data. Store amerikanske teknologiselskaper tenker økonomi, men mindre på etikk og likestilling. Google bygger for eksempel ned gruppa som driver med AI-etikk (artificial intelligence, red. anm.), og det er urovekkende, sa Brandtzæg.

Han har også merket kampen mellom fagdisipliner.

– Jeg har vært med i flere EU-prosjekter om kunstig intelligens der vi andre er et forstyrrende element, et femte hjul på vogna. Det er teknologene som kan dette, liksom.

Brandtzæg mener at fagfeltet domineres av ingeniører og teknologer.

– Men de må ikke alene få definere utviklingen. Vi må integrere tverrfaglighet allerede på et tidlig stadium i ingeniørutdanningen, det vil være et bra grep!

– Men vi kan diskutere etikk opp og ned i mente, uten å nevne kjønn og likestilling, så hva kan vi gjøre, spurte Linda Rustad.

– Vi må begynne å fortelle nye historier om hvordan kjønn er integrert i innovasjon, mener Andreassen.

– Det er viktig å nå ut til politikerne også. De føler seg også fremmed overfor denne nye teknologien. Men vi trenger ikke ha kunnskap om teknologien for å mene noe om hvordan det påvirker oss. Utvikling av teknologi på menneskelige premisser – ikke teknologiens – vil være viktig i fremtiden, sa Brandtzæg.