I følge en forelder som la ut skjermbilder av Alexas aktivitetshistorie, ga Amazon-stemmeassistenten, da et barn ble spurt om å tilby en utfordring, et eksempel på et dødelig eksperiment med elektrisitet, og tok beskrivelsen ut av konteksten til en tilfeldig artikkel. Echo-spalten snakket om et eksperiment som er populært blant TikTok-fans med bruk av en mynt og en lader for en smarttelefon - en rekke hendelser, skader og branner etter implementeringen ble rapportert av forskjellige medier mer enn én gang. Tilsynelatende fikk enheten ideen til denne utfordringen fra en artikkel som beskrev den som farlig, og siterte en rapport om en påstått eksisterende TikTok-utfordring.
I følge et skjermbilde tatt av Christine Livdahl, da jeg ble bedt om å "vise meg en oppgave," svarte Echo: "Her er noe jeg fant på nettet." I følge ourcommunitynow.com er oppgaven enkel: "Sett inn telefonladeren omtrent halvveis inn i stikkontakten, og berør deretter de nakne pinnene med en krone."
I en uttalelse til BBC bekreftet Amazon Alexas oppførsel og sa: "Så snart vi ble klar over denne feilen, tok vi umiddelbare tiltak for å fikse den." Livdahl tvitret i går at utfordringsforespørselen ikke lenger fungerte. Brukere på nettet testet også forespørselen med Alexa og fikk et lignende resultat.
OMFG Min 10-åring spurte akkurat Alexa på vår Echo om en utfordring, og dette er hva hun sa. pic.twitter.com/HgGgrLbdS8
— Kristin Livdahl (@klivdahl) Desember 26, 2021
Amazon er ikke det eneste selskapet som har støtt på problemer ved analyse av nettinnhold. I oktober rapporterte en bruker at Google viste potensielt farlige råd i en av kodebitene sine hvis du skrev "du har et anfall, hva du skal gjøre" i Google - informasjonen ble hentet fra en del av nettsiden som beskriver hva som ikke å gjøre hvis noen har et anfall. Imidlertid har brukere rapportert andre lignende problemer, inkludert en bruker som rapporterte at Google returnerer resultater for ortostatisk hypotensjon når de søker etter ortostatisk hypertensjon, og en annen la ut et skjermbilde av Google som viser forferdelige råd for å trøste en sørgende person i stil med «Glad for at du er i orden" eller "Ikke vær trist! Opp med humøret!".
Google-søkesammendraget kontra den faktiske siden pic.twitter.com/OJxt1FrBqh
— soft.linden (｡•̀ᴗ-)✧ (@soft) Oktober 16, 2021
Vi har også sett advarsler om farlig oppførsel øker for å gjøre problemet større enn det var - tidligere denne måneden ble noen amerikanske skoledistrikter satt på lås etter rapporter om skytingstrusler på TikTok. Det viste seg at den sosiale stormen hovedsakelig skyldtes at folk snakket om truslene, mye mer enn truslene som faktisk fantes. I Alexas tilfelle valgte algoritmen den beskrivende delen av advarselen og forsterket den uten den opprinnelige konteksten. Selv om foreldrene var der for å gripe inn umiddelbart, er det lett å se for seg en situasjon hvor dette ikke er tilfelle og konsekvensene.
Livdahl twitret at hun brukte muligheten til å «diskutere internettsikkerhet med barnet sitt og ikke stole på det du leser uten forskning og bekreftelse», noe vi foreslår at du også gjør.
Les også: