Ifølge en forælder, der postede skærmbilleder af Alexas aktivitetshistorie, gav Amazon-stemmeassistenten, da et barn blev bedt om at tilbyde en udfordring, et eksempel på et dødbringende eksperiment med elektricitet, og tog dets beskrivelse ud af konteksten af en tilfældig artikel. Echo-spalten talte om et eksperiment populært blandt TikTok-fans med brugen af en mønt og en oplader til en smartphone - adskillige hændelser, skader og brande efter implementeringen blev rapporteret af forskellige medier mere end én gang. Tilsyneladende fik enheden ideen til denne udfordring fra en artikel, der beskrev den som farlig, med henvisning til en rapport om en påstået eksisterende TikTok-udfordring.
Ifølge et skærmbillede taget af Christine Livdahl, da jeg blev bedt om at "vise mig en opgave," svarede Echo: "Her er noget, jeg fandt online." Ifølge ourcommunitynow.com er opgaven enkel: "Indsæt telefonopladeren cirka halvvejs ind i stikkontakten, og rør derefter de bare stifter med en krone."
I en erklæring til BBC bekræftede Amazon Alexas adfærd og sagde: "Så snart vi blev opmærksomme på denne fejl, tog vi øjeblikkelig handling for at rette den." Livdahl tweetede i går, at udfordringsanmodningen ikke længere virkede. Brugere på nettet testede også anmodningen med Alexa og fik et lignende resultat.
OMFG Min 10-årige har lige spurgt Alexa på vores Echo om en udfordring, og dette er, hvad hun sagde. billede.twitter.com/HgGgrLbdS8
— Kristin Livdahl (@klivdahl) 26. December, 2021
Amazon er ikke den eneste virksomhed, der er stødt på problemer ved analyse af webindhold. I oktober rapporterede en bruger, at Google viste potentielt farlige råd i et af sine uddrag, hvis du skrev "du har et anfald, hvad skal du gøre" i Google - oplysningerne blev taget fra et afsnit på websiden, der beskriver, hvad der ikke at gøre, hvis nogen får et anfald. Brugere har dog rapporteret andre lignende problemer, herunder en bruger, der rapporterede, at Google returnerer resultater for ortostatisk hypotension, når de søger efter ortostatisk hypertension, og en anden postede et skærmbillede af Google, der viser frygtelige råd til at trøste en sørgende person i stil med "Glad for at du det er i orden" eller "Vær ikke ked af det! Op med humøret!".
Google-søgeoversigten i forhold til den faktiske side billede.twitter.com/OJxt1FrBqh
— soft.linden (｡•̀ᴗ-)✧ (@soft) Oktober 16, 2021
Vi har også set advarsler om farlig adfærd øges for at gøre problemet større, end det var - tidligere på måneden blev nogle amerikanske skoledistrikter sat på spærring efter rapporter om skudtrusler på TikTok. Det viste sig, at den sociale storm hovedsageligt skyldtes, at folk talte om truslerne, meget mere end de trusler, der rent faktisk eksisterede. I Alexas tilfælde valgte algoritmen den beskrivende del af advarslen og forstærkede den uden den originale kontekst. Selvom forældrene var der for at gribe ind med det samme, er det let at forestille sig en situation, hvor det ikke er tilfældet og konsekvenserne.
Livdahl tweetede, at hun brugte lejligheden til at "diskutere internetsikkerhed med sit barn og ikke stole på, hvad du læser uden research og bekræftelse," hvilket vi foreslår, at du også gør.
Læs også: