Statsstøttede hackere fra Russland, Kina og Iran har brukt OpenAI-verktøy for å finpusse ferdighetene sine og hacke angrep. Som rapportert av Microsoft, sporet selskapets eksperter hackinggrupper knyttet til russisk militær etterretning, Islamic Revolutionary Guard Corps, samt regjeringene i Kina og Nord-Korea, som prøvde å forbedre hacking-kampanjene sine ved hjelp av store språkmodeller.
Selskapet kunngjorde funnet da det innførte et generelt forbud mot statsstøttede hackergrupper fra å bruke AI-produktene deres. "Vi vil bare ikke at de enhetene vi har identifisert - at vi overvåker og vet at de utgjør en trussel av ulike slag - vi vil ikke at de skal ha tilgang til denne teknologien," sa visepresidenten. Microsoft av kundesikkerhet Tom Burt. Rapporten nevner hackergrupper som Forest Blizzard, Emerald Sleet, Crimson Sandstorm, Charcoal Typhoon og Salmon Typhoon.
Påstår at hackere har blitt tatt ved bruk av verktøyene AI for å forbedre spionasjeevnen, fremhever bekymringer om den raske spredningen av teknologien og dens potensial for misbruk. Vestlige cybersikkerhetseksperter advarte i fjor om at kriminelle misbrukte slike verktøy, selv om det til nå ikke fantes noen konkrete data om dette.
"Dette er et av de første, om ikke det første, tilfellene der et AI-selskap offentlig har diskutert hvordan angripere bruker AI-teknologi," sa Bob Rothstead, leder for cybersikkerhetstrusseletterretning ved OpenAI.
OpenAI og Microsoft beskrev hackers bruk av AI-verktøyene deres som «tidlig fase» og «inkrementell». Ifølge Burt har ingen av selskapene sett cyberspioner gjøre noen gjennombrudd: "Vi har sett dem bare bruke teknologien som enhver annen bruker."
Rapporten beskriver hackergrupper som bruker store språkmønstre på ulike måter. Hackerne, som ble sagt å jobbe på vegne av det russiske spillet, brukte modellene til å undersøke «ulike satellitt- og radarteknologier som kan være relevante for militære operasjoner i Ukraina», sa byrået. Microsoft. Og nordkoreanske hackere brukte modellene til å lage innhold «som sannsynligvis vil bli brukt i phishing-kampanjer».
De iranske hackerne stolte også på modellene for å skrive mer overbevisende e-poster. Og de kinesiske hackerne, som støttes av staten, ifølge dem Microsoft, eksperimenterer med store språkmodeller for å stille spørsmål om konkurrerende etterretningstjenester, cybersikkerhetsspørsmål og «fremtredende personligheter».
Les også: