Futurologen Amy Webb menar att vi tack vare AI-utvecklingen befinner oss i ett skifte jämförbart med industrialismen. Avgörande beslut för mänsklighetens framtid fattas nu i styrelserum och av utvecklare som nästan uteslutande består av män. Kvinnors perspektiv måste inkluderas i formandet av framtidens samhälle. Utvecklingen går snabbt och effektiva insatser krävs för att säkerställa ett jämställdhetsperspektiv. Vi ser framför allt två områden som behöver åtgärdas:
1. Kvinnor måste finnas med i alla led, från utvecklingsteam till forskare och bolagsledning.
Ända sedan de första stordatorerna utvecklades i mitten av 1900-talet har teknikutvecklingen styrts av män och så är fortfarande fallet, kvinnor lyser med sin frånvaro bland programmerare och på ledande positioner i teknikbranschen. Idag består teknikbranschen av 20 procent kvinnor och på ledande positioner utgör kvinnor bara 11 procent. Av de kvinnor som arbetar inom den amerikanska teknikbranschen lämnar 40 procent den inom tio år till följd av sexism på arbetsplatsen och diskriminering som hindrar dem från att avancera. Vad får detta för konsekvenser på samhället?
Risken är att den AI som kommer att ha stort inflytande på vårt samhälle utvecklas med mannen som norm och kvinnan som undantag. Olika typer av artificiell intelligens används redan i dag i allt från rekrytering och sjukvård till språköversättning och bildanalys. Risken är att systemen lär sig och reproducerar könsstereotypa föreställningar om kvinnor och män vilket kommer att påverka livsviktiga funktioner i samhället såväl som viktiga aspekter av vår vardag. Bör vi inte göra rätt från början och säkerställa jämställdhet mellan män och kvinnor i bygget av vår gemensamma framtid?
2. Data som används för utvecklingen av AI måste jämställdhetssäkras.
Historiskt sett har kvinnors erfarenheter suddats ut av historieskrivarna och osynliggjorts inom praktiskt taget alla områden. Icke könsuppdelad datainsamling utgår från mannen som norm, vilket har lett till att sjukvården har utvecklats utifrån mäns behov, att bilar har utformats för mäns kroppar och att byggnader, transportsystem och offentliga platser har utformats utifrån mäns erfarenheter.
Utöver det har kvinnors obetalda arbete osynliggjorts i ekonomin. Krigs- och sexindustrin är ledande i teknikutveckling på grund av sina stora ekonomiska resurser – vilka konsekvenser har det på tekniken? Flera exempel har visat att självlärande system som matats med data som samlats in från sociala medier snabbt tagit till sig av ett sexistiskt språk. Risken är att könsförtryck inte bara reproduceras utan också förstärks av tekniken. AI-forskaren Max Tegmark skriver att ett juridiskt system drivet av robotar skulle kunna döma mer rättvist utan fördomar om kön, klass eller etnicitet, men med dagens utveckling riskerar vi snarare att förstärka de fördomar som finns i samhället.
Tio krav för en jämställd AI-utveckling
1. Fler kvinnor på beslutsfattande positioner inom teknikföretagen.
2. Stärkt genuspedagogik för barn och stötta flickors teknikintresse genom hela grundskolan.
3. Tekniska utbildningar bör ha minst 40 procent kvinnor, både bland studerande och bland de som lär ut.
4. Insatser för att minska sexismen i arbetsmiljön och förbättra arbetsvillkoren för kvinnor inom teknikbranschen så att de stannar kvar och har möjlighet att avancera på samma villkor som män.
5. En jämställdhetscertifiering av teknikföretag som kan leda till att produkter med jämställdhetsmärkning kan premieras på marknaden.
6. Se till att data som används som underlag för maskininlärning är jämställdhetssäkrad och könsuppdelad för att synliggöra kvinnors erfarenheter.
7. Öronmärkta resurser för att forska på algoritmer som kan upptäcka och åtgärda ojämställda strukturer.
8. Anslag till tvärvetenskaplig forskning i syfte att undersöka hur teknikutveckling kan driva fram jämställdhetsutvecklingen istället för att hota den.
9. Se till att könsuppdelad statistik samlas in och är tillgänglig för företagen genom exempelvis öppen källkod.
10. Jämställdhetskrav på anslag för utveckling av AI-teknik.
Frågan om teknikens utveckling och påverkan på samhället upplevs av många som svår, men den kan inte längre enbart ägas av ingenjörer och teknikbranschen utan också av samhällsvetare, politiker och jämställdhetsexperter. Det handlar inte längre om en bransch, det handlar om mänsklighetens framtid och huruvida vi ska gå bakåt eller framåt i jämställdhetsutvecklingen.
Manifestet har även publicerats i DI Digital.