Så kan artificiell intelligens könsdiskriminera

Hur kan man bättre förstår hur könsdiskriminering sprids och förstärks genom AI? Det har 2020 års uppsatsstipendiat Hanna Lycken studerat. Hon tror att möjligheterna att arbeta med frågan är stora.

Varje år delar Finansförbundets och BAO:s (Bankinstitutens Arbetsgivareorganisation) tillsammans ut ett stipendium för en studentuppsats. 2020 belönades Hanna Lycken vid Uppsala universitet för sin masteruppsats ”Artificiell intelligens och gender bias – en studie av samband mellan artificiell intelligens, gender bias och könsdiskriminering”.

Syftet med stipendiet är att uppmuntra studentarbeten inom aktuella och relevanta ämnen för att kunna lära mer om för finansbranschen och finansanställda viktiga ämnen. AI är ett sådant.

– Jag har alltid varit intresserad av mänskliga rättigheter. Det är intressant att se hur man kan påverka samhället idag och i framtiden så det här blev snabbt en hjärtefråga för mig. AI medför otroliga möjligheter men det finns massor som man behöver tänka på i utvecklingsledet för att det ska bli bra. Det är vi människor som utvecklar teknik som väljer vilken väg den ska ta oss, säger Hanna Lycken.

Eftersom AI är relativt nytt finns många teorier men också intressanta exempel på AI i praktiken att studera. Röstassistenter från de olika it-giganterna är sådana exempel.

– De har ofta kvinnoröster och riskerar att på olika sätt cementera könsroller i samhället. Ett annat exempel är automatiska översättare. När modellerna gör översättningar från könsneutrala språk så reproduceras och speglas den gender bias som finns i samhället idag; ingenjör och VD översätts med manliga pronomen medan sjuksköterska översatts med kvinnliga, säger Hanna.

Utmaningen är att parera inte bara en eller ett par av de här variablerna, till exempel genom att ändra en algoritm. Det gäller att möta problemet på ett systematiskt sätt.

Idag arbetar Hanna med affärsutveckling inom bank och finans, bland annat i ett projekt med att undersöka hur AI kan implementeras i banker. Under våren har hon gästföreläst om bland annat gender bias.

Hanna fortsätter;

– Vi har en stor möjlighet att som samhälle arbeta med de här frågorna. Problemen är inte nya, men frågan är om, i och med spridningen och den utbredda användningen av AI, fler kommer att bli medvetna om snedvridningar och diskriminering eftersom de speglas av en teknik som används varje dag. Kan AI istället verka som en katalysator för förändring?

 

Kommittén har motiverat sitt beslut enligt följande: 
Finansbranschens Centrala Jämställdhets - och Mångfaldskommittén delar årligen ut ett uppsatsstipendium för att sprida kunskap om forskning och nytänkande inom jämställdhets- och mångfaldsområdet. Finansbranschen utvecklas i snabb takt och är i framkant avseende implementering av artificiell intelligens. Vi är därför glada över att tilldela Hanna Lycken 2020 års stipendium för den mycket välskrivna uppsatsen ”Artificiell intelligens och gender bias”. 

Uppsatsen är på masternivå på Civilingenjörsprogrammet System i Teknik och Samhälle vid Uppsala universitet. Genom sin uppsats belyser Hanna Lycken några av de fallgropar som riskerar att könsdiskriminerande fördomar förstärks och cementeras vid utveckling av AI. Exempel på detta är bristfällig kravställning från kund, tidspress, snedvriden data, oförståelse kring samband mellan teknik och genusanalys. Hanna lyfter behovet av att se problemet med gender bias och könsdiskriminering i AI-system ur ett helhetsperspektiv och att det är viktigt med mångfald inom utvecklingsteamen i alla utvecklingssteg. Centrala Jämställdhets- och

Mångfaldskommittén anser att uppsatsen bör vara av stort intresse för såväl finansbranschen som övriga branscher som vill fortsätta bygga ett mer jämlikt samhälle i digitaliseringens framfart.

 

Om 
Stipendiet delas årligen ut av den Centrala Jämställdhets- och Mångfaldskommittén (CJMK) som är ett partsgemensamt samarbete mellan BAO och Finansförbundet. Kommittén har till uppgift att följa, främja och utvärdera jämställdhets- och mångfaldsutvecklingen inom bank- och finansbranschen samt bidra till jämställdhets- och mångfaldsarbetet i bankerna/företagen.