En 24 år gammel asiatisk MIT-student, Rona Wang, ble overrasket da hun brukte et kunstig intelligensverktøy for å redigere LinkedIn-profilbildet sitt for å gjøre det mer profesjonelt.
Bildegeneratoren, kjent som Playground AI, ble funnet å være partisk, endret rasen hennes og endret henne med blå øyne, lysere hud og fregner. Det originale bildet viste Wang iført en MIT-skjorte og stående foran samme bakgrunn, men resultatet av AI-generasjonen fikk henne til å se ut som en helt annen person.
Etter å ha sett de bisarre resultatene, delte Wang sin erfaring på Twitter, og skrev: "Prøvde å få et LinkedIn-profilbilde med AI-redigering, og dette er hva det ga meg."
Innlegget hennes fikk oppmerksomhet fra ulike nettsamfunn og reiste spørsmål om skjevheter og rasisme i AI-algoritmer.
Playground AIs grunnlegger, Suhail Doshi, svarte på Wangs tweet og bekreftet at modellene deres ikke er instruerbare på den måten at de ganske enkelt tar en generisk tilnærming basert på spørsmålet.
Dette førte til en utilsiktet endring i Wangs utseende og illustrerer en av utfordringene AI-utviklere står overfor i arbeidet med å oppnå nøyaktig bilderedigering.
Selv om Doshi forsikret at selskapet jobber med å løse dette problemet, reiser episoden spørsmålet om det er et dypere problem med skjevhet i AI-algoritmer som må løses.
Dette er ikke første gang kunstig intelligens har blitt anklaget for å være partisk og presentere stereotypier basert på rase, kjønn eller andre aspekter ved identitet.
Den nylige erfaringen til Rona Wang har fremhevet at selv om AI-teknologi har mange positive bruksområder, må det fortsatt gjøres arbeid for å sikre at den ikke forsterker diskriminerende trender i samfunnet.
Åpenhet, etisk overvåking og et dedikert fokus på mangfold i utviklingen av kunstig intelligens kan være veien videre for å skape mer rettferdige og inkluderende teknologiske løsninger.
Nedenfor kan du se hva AI-en gjorde med Rona sitt bilde.
