„Microsoft“ įspėja, kad valstybės remiami grėsmės veikėjai atakose naudoja dirbtinį intelektą

Su Rusija, Šiaurės Korėja, Iranu ir Kinija susiję tautinių valstybių veikėjai tiria dirbtinio intelekto (AI) ir didelių kalbų modelių (LLM) integravimą, kad sustiprintų savo esamas kibernetinių atakų operacijas.

„Microsoft“ ir „OpenAI“ bendrai paskelbta ataskaita atskleidžia, kad abi organizacijos sužlugdė penkių su valstybe susijusių subjektų, užsiimančių kenkėjiška kibernetine veikla, pastangas, nutraukdamos savo turtą ir paskyras.

„Microsoft“ su „The Hacker News“ pasidalijo, kad kalbų palaikymas yra neatsiejama LLM savybė, todėl jie yra patrauklūs grėsmės veikėjams, susitelkiusiems į socialinę inžineriją ir kitas taktikas, susijusias su melagingu ir apgaulingu ryšiu, pritaikytu jų taikinių profesiniams tinklams, darbo vietoms ir kitiems santykiams.

Nors iki šiol nebuvo nustatyta jokių reikšmingų ar naujų atakų naudojant LLM, priešiškas AI technologijų tyrimas pažengė į priekį įvairiais atakų grandinės etapais, įskaitant žvalgybą, kodavimo pagalbą ir kenkėjiškų programų kūrimą.

Įsilaužėliai, naudojantys dirbtinį intelektą, kad padėtų su kodo kodu, išgrynintų informaciją

Ataskaitoje teigiama, kad su valstybe susiję subjektai daugiausia siekė panaudoti OpenAI paslaugas tokioms užduotims kaip atvirojo kodo informacijos užklausų, vertimo, kodavimo klaidų radimas ir pagrindinių kodavimo užduočių vykdymas.

Toliau pateikiami keli papildomų grėsmių subjektų, piktnaudžiaujančių AI, pavyzdžiai:

• Rusijos nacionalinės valstybės grupė, žinoma kaip Forest Blizzard (arba APT28), naudojo OpenAI paslaugas atvirojo kodo tyrimams, susijusiems su palydovinio ryšio protokolais, radaro vaizdo technologija ir scenarijaus užduotimis.
• Šiaurės Korėjos grėsmių veikėjas Emeraldas Sleetas (arba Kimusky) pasitelkė LLM, kad nustatytų ekspertus, ekspertų grupes ir organizacijas, kurios daugiausia dėmesio skiria gynybos problemoms Azijos ir Ramiojo vandenyno regione, taip pat scenarijų kūrimui ir turinio projektavimui potencialioms sukčiavimo kampanijoms.
• Irano grėsmių veikėjas Crimson Sandstorm (arba Imperial Kitten) naudojo LLM kurdamas kodo fragmentus, susijusius su programų ir žiniatinklio kūrimu, generuodamas sukčiavimo el. laiškus ir tirdamas, kaip kenkėjiškos programos galėtų išvengti aptikimo.
• Kinijos grėsmės veikėjai Charcoal Typhoon (arba Aquatic Panda) ir Salmon Typhoon (arba Maverick Panda) naudojo LLM įvairioms užduotims, įskaitant įmonių ir pažeidžiamumų tyrinėjimą, scenarijų generavimą, techninių dokumentų vertimą ir informacijos apie žvalgybos agentūras paiešką.

„Microsoft“ šiuo metu kuria principų rinkinį, skirtą sumažinti riziką, susijusią su piktybiniu AI įrankių ir API naudojimu nacionalinės valstybės pažangių nuolatinių grėsmių (APT), pažangių nuolatinių manipuliatorių (APM) ir kibernetinių nusikaltėlių sindikatų. Šiais principais siekiama sukurti veiksmingus apsauginius turėklus ir saugos mechanizmus aplink AI modelius.