Ny trussel kaldet 'Skill Squatting' Opdaget af UIUC
1 minut læst
Amazon Echo
Verden ændrer sig, og i den moderne æra bliver vi afhængige af vores Internet of Things-enheder for dagen. Men denne afhængighed kunne koste os alt, det kunne tillade nogen at stjæle vores identitet, bankoplysninger, medicinsk historie og hvad ikke.
Amazon Alexa er blevet kritiseret for at have en række sikkerhedsfejl, men Amazon har været hurtig til at håndtere dem. Denne nye sikkerhedsfejl kan dog slet ikke have en løsning. Og dette kan være den farligste sikkerhedstrussel endnu.
Ifølge forskning udført af University of Illinois i Urbana-Champaign (UIUC), kan Amazon Alexa's idiosynkrasier udnyttes gennem stemmekommandoer til at dirigere brugere til ondsindede websteder. Hackere målretter smuthuller i maskinlæringsalgoritmer for at få adgang til private oplysninger.
En metode kaldet 'Skill squatting' er oprettet af University of Illinois i Urbana-Champaign forskere og er en vellykket metode til at narre Amazon Alexa til at dirigere brugere til ondsindede platforme ved hjælp af stemmekommandoer på Amazon Echo-enheder.
Mange brugere udtaler ofte ord forkert, hvilket ofte resulterer i fortolkningsfejl af Alexa, den talemaskine, der driver Amazon Echo. Forskere brugte 11.460 taleeksempler fra de engelsksprogede ord, som amerikanerne talte.
De undersøgte derefter, hvor Alexa fejlagtede stemmekommandoer, hvor ofte det gør det, og hvorfor. De var i stand til at finde ud af, at visse fejlfortolkninger forekommer regelmæssigt.
Så ved hjælp af 'Skill squatting' kan en hacker bruge disse systematiske fejl til at dirigere Amazon Echo-brugere til ondsindede applikationer, websteder og risikere deres private oplysninger. Metoden kan bruges til at målrette mod bestemte demografier, især dem, der ikke behersker engelsk.
I en variant af det angreb, vi kalder spear skill squatting, demonstrerer vi yderligere, at dette angreb kan målrettes mod specifikke demografiske grupper. Vi afslutter med en diskussion af sikkerhedsimplikationerne af taletolkningsfejl, modforanstaltninger og fremtidigt arbejde.
Problemet er muligvis ikke en let løsning, da det afhænger af selve maskinlæringsprincipperne Alexa og andre AI-maskiner er bygget på. Amazon hævder, at de har foranstaltninger på plads for at imødegå dette problem, men University of Illinois-forskning siger noget andet.
De hævder, at dette ikke vil være en let løsning og ville medføre alvorlige problemer i fremtiden.
Mærker Alexa Amazon
