Som rapportert av Vice, ble et falskt seksualisert fotografi av den 21 år gamle sangeren presset av TikToks algoritme i rundt fire dager før appen fjernet det for brudd på retningslinjene deres om seksuell trakassering.
Bildene ble angivelig laget av et kunstig intelligenssystem som la hodet til Elish på en kropp som ikke var hennes. De siste ukene har apper som Midjourney og Lensa gått viralt med mange mennesker som har laget sine egne AI-bilder, inkludert avatarer av seg selv.
Bekymringer for disse appene har imidlertid allerede blitt uttrykt av kvinner på grunn av deres tilbøyelighet til å seksualisere kvinnene på bildene.
Forrige uke uttrykte skuespilleren Megan Fox sin skrekk ettersom mange av bildene som Lensa laget for henne, viste henne i en tilstand av avkledd eller helt naken.
TikTok-kontoen som la ut bildene hadde rapportert 76 000 følgere på appen og mer enn 2000 følgere på Instagram, og ble sagt å tilby å lage mer eksplisitt innhold for kostnaden på $20.
Selv om bildene tydeligvis var falske, fremhever dette tilfellet nok en gang farene ved deepfake-teknologi. Det skriver Indy1000.
En talsperson for TikTok har siden sagt i en uttalelse: "Dette innholdet bryter retningslinjene våre for fellesskapet, som tydelig sier at vi ikke tillater innhold som endrer eller forvandler et bilde av en annen person for å fremstille eller antyde seksuell suggestivitet."
