Hur AI kan göra cheferna mer etiska

Trender

Att göra chefer mer etiska med AI

Partiskhet på arbetsplatsen hindrar inte bara integrering och mångfald, utan också kreativitet och innovation. Trendspanaren David Mattin säger att lösningen kan finnas inom artificiell intelligens (AI)

 

Redan 2016 släppte Microsoft lös en AI-driven chattrobot på Twitter. Hennes namn var Tay, och Microsoft kallade henne för "ett experiment i konversationsförståelse". Inom 24 timmar kastade Tay ur sig en oavbruten ström av mestadels otryckbar hatpropaganda. "Ta det lugnt, jag är en trevlig person. Jag bara hatar alla" var ett av hennes få citatvänliga yttranden.

Det var inte svårt att diagnostisera problemet. Tay använde sig av AI för att lära av de konversationer hon hade haft med riktiga människor och anpassade sina egna uttryck därefter. Hat in, hat ut. Microsoft återkallade snabbt chattroboten och bad om ursäkt. Men Tay har kommit att bli en symbol för det kniviga, invecklade förhållandet mellan AI och mänsklig etik.

En allt större del av våra liv – från våra Facebook-flöden till aktiemarknaden och –polisfördelningen i våra städer – styrs delvis av AI-matade algoritmer. Hur kan vi se till att dessa algoritmer inte bara upprepar och på så sätt förstärker våra mänskliga brister, såsom fördomar som rör ras, kön och annat?

Coachning mot fördomar

Den här diskussionen kommer bara att bli mer laddad 2018. Men nu håller ett nytt sätt att betrakta allt detta på att utkristalliseras. Och om vi kastar om debatten? Vi kan istället fråga oss vad AI skulle kunna lära oss om hur man skapar en mer etisk värld?

Med tanke på erfarenheten vi hade med Tay och den bredare debatten om hur man försäkrar att AI inte kommer att föra oss in i etisk misär, kan det framstå som en chockerande fråga. Men den har en rimlig utgångspunkt. Alla människor har fördomar. Vi kan ofta inte, eller vill inte, se dem. Det är nu uppenbart att AI kan anamma mänskliga fördomar, men tänk om de också kan vara ett kraftfullt verktyg för att hjälpa oss att upptäcka dem i oss själva och andra?

Det har visat sig att denna AI-matade etikrevolution kan starta på arbetsplatsen. Det israeliska startupföretaget Joonko bygger en applikation som använder AI för att kunna avslöja chefers omedvetna partiskhet. Den synkroniseras med en arbetsplats vanliga plattformar för att hantera personal och tilldela uppgifter, såsom Salesforce, Workday och så vidare, och skannar sedan ständigt data för tecken på partiskhet. Om partiskhet upptäcks kommer Joonko att mejla de berörda cheferna och börja coacha dem om hur man åtgärdar problemet. Såhär kan ett exempel på detta se ut: "Jag tittade på alla våra sökande till posten som forsknings- och utvecklingschef och märkte att vi inte har några sökande från underrepresenterade grupper. Jag lade också märke till att vi har tre sökande från underrepresenterade grupper som inte fått sina ansökningar granskade ännu."

Självklart kommer cheferna själva alltid att ha sista ordet om vem de anställer. Och vi är långt ifrån AI som är smarta nog att hantera hela processen. Men Joonko och liknande AI-drivna tjänster kan redan ge värdefulla insikter som hjälper till i beslutsfattandet.

Hur AI kan göra cheferna mer etiska

Kan AI hjälpa oss att tänka och fatta beslut med ett nyktrare, fördomsfritt huvud? 
 

Gallra ut mobbare

Tanken att AI kan hjälpa oss att odla fram mer etiska arbetsplatskulturer kunde inte komma lägligare. En mer uppkopplad värld är en mer öppen värld, och den större insynen blottar den interna företagskulturen som aldrig förr. Ofta tycker kunderna inte om vad de ser. Titta bara på bakslaget mot de stora teknikjättarna i Silicon Valley som startade 2017 och som nu rullar vidare. Den drivande faktorn är delvis en känsla att de stora Silicon Valley-aktörerna har odlat fram giftiga interna kulturer med sexism, mobbning och överarbete. Och den känslan har eldats på av vittnesmål från nuvarande och tidigare medarbetare som i en uppkopplad värld kan nå miljontals läsare.

Interna arbetsplatskulturer och deras etiska ställning står högst upp på agendan. Och när anställda börjar höra om Joonko och andra liknande tjänster är det troligt att de kommer att börja förvänta sig att deras egna arbetsgivare ska tillämpa AI för att säkerställa en rättvis och etisk arbetsplats. Med rätt data kan AI tränas till att upptäcka och belysa alla typer av orättvisa, till exempel:

"Visste du att du har en tendens att befordra männen i din arbetsgrupp snabbare än kvinnorna?"

"Visste du att du aldrig har anställt någon över 40, även om 60 procent av dina sökande uppfyller det kriteriet?"

Dessutom kan chefer vara mycket mer benägna att acceptera att det finns en äkta partiskhet och vidta åtgärder för att åtgärda den, om rådet kommer från en AI. AI är här för att stanna, så mycket är säkert. Det är upp till oss att se till att det gör oss mer etiska, inte mindre. Arbetsplatsen är ett bra ställe att börja. Vad kommer sen, en vd som är AI? Föreslå det bara inte vid nästa stora personalmöte.

 


David Mattin är global chef för trender och insikter på prognosföretaget TrendWatching, som har kontor i London, Singapore, New York, Amsterdam, São Paulo och Lagos