Η Microsoft προειδοποιεί ότι οι φορείς απειλών που υποστηρίζονται από το κράτος χρησιμοποιούν τεχνητή νοημοσύνη σε επιθέσεις

Παράγοντες εθνικών κρατών που συνδέονται με τη Ρωσία, τη Βόρεια Κορέα, το Ιράν και την Κίνα διερευνούν την ενσωμάτωση της τεχνητής νοημοσύνης (AI) και των μεγάλων γλωσσικών μοντέλων (LLMs) για να ενισχύσουν τις υπάρχουσες επιχειρήσεις επιθέσεων στον κυβερνοχώρο.

Μια έκθεση που δημοσιεύθηκε από κοινού από τη Microsoft και το OpenAI αποκαλύπτει ότι και οι δύο οργανισμοί διέκοψαν τις προσπάθειες πέντε κρατικών φορέων που εμπλέκονται σε κακόβουλες δραστηριότητες στον κυβερνοχώρο τερματίζοντας τα περιουσιακά στοιχεία και τους λογαριασμούς τους.

Η Microsoft μοιράστηκε με το The Hacker News ότι η γλωσσική υποστήριξη είναι εγγενές χαρακτηριστικό των LLM, καθιστώντας τα ελκυστικά για τους παράγοντες απειλών που επικεντρώνονται στην κοινωνική μηχανική και άλλες τακτικές που περιλαμβάνουν ψευδείς και παραπλανητικές επικοινωνίες προσαρμοσμένες στα επαγγελματικά δίκτυα, τις θέσεις εργασίας και άλλες σχέσεις των στόχων τους.

Αν και μέχρι στιγμής δεν έχουν εντοπιστεί σημαντικές ή νέες επιθέσεις που χρησιμοποιούν LLM, η αντίπαλη εξερεύνηση τεχνολογιών AI έχει προχωρήσει σε διάφορα στάδια της αλυσίδας επίθεσης, συμπεριλαμβανομένης της αναγνώρισης, της βοήθειας κωδικοποίησης και της ανάπτυξης κακόβουλου λογισμικού.

Χάκερ που χρησιμοποιούν τεχνητή νοημοσύνη για βοήθεια με κώδικα κώδικα, πληροφορίες απόξεσης

Σύμφωνα με την έκθεση, οι κρατικοί φορείς προσπάθησαν κυρίως να αξιοποιήσουν τις υπηρεσίες OpenAI για εργασίες όπως η αναζήτηση πληροφοριών ανοιχτού κώδικα, η μετάφραση, η εύρεση σφαλμάτων κωδικοποίησης και η εκτέλεση βασικών εργασιών κωδικοποίησης.

Μερικά παραδείγματα πρόσθετων παραγόντων απειλών που κάνουν κατάχρηση της τεχνητής νοημοσύνης είναι παρακάτω:

• Η ρωσική ομάδα έθνους-κράτους γνωστή ως Forest Blizzard (ή APT28) χρησιμοποίησε υπηρεσίες OpenAI για έρευνα ανοιχτού κώδικα σε πρωτόκολλα δορυφορικής επικοινωνίας, τεχνολογία απεικόνισης ραντάρ και εργασίες δέσμης ενεργειών.
• Ο Βορειοκορεάτης ηθοποιός απειλών Emerald Sleet (ή Kimusky) χρησιμοποίησε LLM για να εντοπίσει εμπειρογνώμονες, δεξαμενές σκέψης και οργανισμούς που επικεντρώθηκαν σε αμυντικά ζητήματα στην περιοχή Ασίας-Ειρηνικού, καθώς και για εργασίες σεναρίου και σύνταξη περιεχομένου για πιθανές εκστρατείες phishing.
• Ο Ιρανός ηθοποιός απειλών Crimson Sandstorm (ή Imperial Kitten) χρησιμοποίησε LLM για τη δημιουργία αποσπασμάτων κώδικα που σχετίζονται με την ανάπτυξη εφαρμογών και ιστού, τη δημιουργία email ηλεκτρονικού ψαρέματος και την έρευνα τρόπων με τους οποίους το κακόβουλο λογισμικό θα μπορούσε να αποφύγει τον εντοπισμό.
• Οι κινέζοι πρωταγωνιστές απειλών Charcoal Typhoon (ή Aquatic Panda) και Salmon Typhoon (ή Maverick Panda) χρησιμοποίησαν LLM για διάφορες εργασίες, όπως έρευνα εταιρειών και τρωτών σημείων, δημιουργία σεναρίων, μετάφραση τεχνικών εγγράφων και ανάκτηση πληροφοριών για υπηρεσίες πληροφοριών.

Η Microsoft βρίσκεται στη διαδικασία ανάπτυξης ενός συνόλου αρχών για τον μετριασμό των κινδύνων που σχετίζονται με την κακόβουλη χρήση εργαλείων τεχνητής νοημοσύνης και API από προηγμένες επίμονες απειλές εθνικών κρατών (APT), προηγμένους επίμονους χειριστές (APM) και συνδικάτα κυβερνοεγκληματιών. Αυτές οι αρχές στοχεύουν στη δημιουργία αποτελεσματικών προστατευτικών κιγκλιδωμάτων και μηχανισμών ασφαλείας γύρω από μοντέλα τεχνητής νοημοσύνης.