Microsoft advarer om statsstøttede trusselsaktører, der bruger kunstig intelligens i angreb
Nationalstatsaktører forbundet med Rusland, Nordkorea, Iran og Kina udforsker integrationen af kunstig intelligens (AI) og store sprogmodeller (LLM'er) for at forbedre deres eksisterende cyberangrebsoperationer.
En rapport udgivet i fællesskab af Microsoft og OpenAI afslører, at begge organisationer forstyrrede indsatsen fra fem statstilknyttede aktører, der engagerede sig i ondsindede cyberaktiviteter ved at afslutte deres aktiver og konti.
Microsoft delte med The Hacker News, at sprogunderstøttelse er en iboende egenskab ved LLM'er, hvilket gør dem appellerende til trusselsaktører, der fokuserer på social engineering og andre taktikker, der involverer falsk og vildledende kommunikation skræddersyet til deres måls professionelle netværk, job og andre relationer.
Selvom der hidtil ikke er blevet identificeret væsentlige eller nye angreb, der anvender LLM'er, er modstridende udforskning af AI-teknologier gået frem gennem forskellige stadier af angrebskæden, herunder rekognoscering, kodningsassistance og malwareudvikling.
Hackere, der bruger AI til hjælp med kodekode, skrabning af oplysninger
Ifølge rapporten søgte de statstilknyttede aktører hovedsageligt at udnytte OpenAI-tjenester til opgaver som forespørgsel i open source-information, oversættelse, finde kodningsfejl og udføre grundlæggende kodningsopgaver.
Nogle eksempler på yderligere trusselsaktører, der misbruger kunstig intelligens, er nedenfor:
- Den russiske nationalstatsgruppe kendt som Forest Blizzard (eller APT28) brugte OpenAI-tjenester til open source-forskning om satellitkommunikationsprotokoller, radarbilledteknologi og scriptingopgaver.
- Den nordkoreanske trusselskuespiller Emerald Sleet (eller Kimusky) ansatte LLM'er til at identificere eksperter, tænketanke og organisationer med fokus på forsvarsspørgsmål i Asien-Stillehavsområdet samt til scriptingopgaver og udarbejdelse af indhold til potentielle phishing-kampagner.
- Den iranske trusselskuespiller Crimson Sandstorm (eller Imperial Kitten) brugte LLM'er til at skabe kodestykker relateret til app- og webudvikling, generere phishing-e-mails og undersøge måder, hvorpå malware kunne unddrage sig opdagelse.
- De kinesiske trusselsaktører Charcoal Typhoon (eller Aquatic Panda) og Salmon Typhoon (eller Maverick Panda) brugte LLM'er til forskellige opgaver, herunder at undersøge virksomheder og sårbarheder, generere scripts, oversætte tekniske papirer og hente information om efterretningsbureauer.
Microsoft er i færd med at udvikle et sæt principper til at mindske de risici, der er forbundet med ondsindet brug af AI-værktøjer og API'er af nationalstatslige avancerede vedvarende trusler (APT'er), avancerede vedvarende manipulatorer (APM'er) og cyberkriminelle syndikater. Disse principper har til formål at etablere effektive autoværn og sikkerhedsmekanismer omkring AI-modeller.
