De siste dagene har Snapchat-funksjonen «MY AI» fått eksperter til å legge ansiktene sine i bekymrede folder.
Ikke bare kunne DR avsløre at roboten hadde en tendens til å svare på spørsmål om selvskading, men også falsk informasjon vekker raseri, da appen har mange svært unge brukere.
Den 18 år gamle influenceren – og for øvrig den norske prinsesse Märtha Louises datter – Leah Isadora Behn opplevde netopp denne da hun spurte roboten om detaljer om sitt eget liv og karriere.
Og her fikk hun et hårreisende svar.
«Direkte farlig»
Snapchat-roboten flettet inn i svaret hennes at Leah tragisk hadde mistet livet i 2019. Dette stemmer selvfølgelig ikke, for influenseren lever i beste velgående og deler til og med livet sitt med 107.000 følgere.
"Jeg er et spøkelse, du kan bare se", skrev hun under videoen av Snapchat-botens skumle svar, som hun delte på TikTok.
Artikkelen fortsetter under videoen.
I forbindelse med prinsessedatterens hårreisende funn har VG spurt en ekspert om farene ved barn og unges forbruk av chatboter. Og ekspert på chatbot Dag-Inge Aas kaller det «direkte farlig» at det gir feil svar. Og til og med om så alvorlige ting.
– Det er ikke et intellekt vi snakker om her, men det har en rekke ting som kan lure folk til å tro at det er smart. Det er det som er så farlig, fordi det ikke er så kvikk i det hele tatt. Den spytter ut ting som bare er de mest sannsynlige svarene.
Snapchat har tidligere sagt at de opplever «avvikende innhold» og at roboten kan korrigere seg selv hvis kritiske spørsmål stilles. De har også tidligere hevdet at et par ting har blitt fikset siden den ble lansert som en permanent funksjon for alle Snapchat-brukere.
