Η Google προειδοποιεί: Χάκερ χρησιμοποιούν AI για να εντοπίζουν αόρατα κενά ασφαλείας

Η Google προειδοποιεί για μια νέα φάση στις κυβερνοεπιθέσεις, μετά τον εντοπισμό χάκερ που χρησιμοποίησαν τεχνητή νοημοσύνη για να ανακαλύψουν και να εκμεταλλευτούν κρίσιμη ευπάθεια τύπου «zero-day».

Σύμφωνα με την ομάδα Threat Intelligence της εταιρείας, η υπόθεση αφορούσε δημοφιλές διαδικτυακό εργαλείο διαχείρισης συστημάτων και μπορούσε να οδηγήσει σε παράκαμψη του ελέγχου ταυτότητας δύο παραγόντων, γνωστού ως 2FA.

Η κρίσιμη ευπάθεια που εντοπίστηκε εγκαίρως

Η ευπάθεια χαρακτηρίζεται ιδιαίτερα σοβαρή, καθώς ανήκε στην κατηγορία των «zero-day», δηλαδή των κενών ασφαλείας που δεν είναι γνωστά ούτε στους ίδιους τους δημιουργούς του λογισμικού. Αυτό ακριβώς καθιστά τέτοιες περιπτώσεις εξαιρετικά επικίνδυνες, καθώς μπορούν να αξιοποιηθούν πριν υπάρξει διαθέσιμη διόρθωση.

Η Google ανέφερε ότι εντόπισε το πρόβλημα πριν χρησιμοποιηθεί σε μαζική κλίμακα. Στη συνέχεια ενημέρωσε διακριτικά την εταιρεία που είχε αναπτύξει το λογισμικό, ώστε να προχωρήσει στη διόρθωση του κενού ασφαλείας.

Όπως προκύπτει από την έκθεση, οι επιτιθέμενοι σχεδίαζαν να αξιοποιήσουν την ευπάθεια σε επιθέσεις μεγάλης έκτασης. Η έγκαιρη ανίχνευση από την Google ενδέχεται να απέτρεψε την ευρύτερη εκμετάλλευσή της.

Το συγκεκριμένο περιστατικό παρουσιάζεται ως η πρώτη φορά που η εταιρεία εντόπισε χάκερ να χρησιμοποιούν τεχνητή νοημοσύνη με στόχο την ανακάλυψη και αξιοποίηση μιας τόσο κρίσιμης ευπάθειας.

Γιατί το κενό ασφαλείας ήταν δύσκολο να εντοπιστεί

Η ευπάθεια δεν ήταν ένα απλό τεχνικό λάθος που θα μπορούσε να αποκαλυφθεί εύκολα από τα συνηθισμένα εργαλεία κυβερνοασφάλειας. Σύμφωνα με την Google, το πρόβλημα βρισκόταν στη λογική λειτουργίας του κώδικα.

Η εταιρεία εξηγεί ότι το κενό βασιζόταν σε λανθασμένη παραδοχή των προγραμματιστών. Επρόκειτο, όπως περιγράφεται, για μια «κρυφή εξαίρεση» που δεν γινόταν αντιληπτή από τους παραδοσιακούς σαρωτές ασφαλείας.

Σε αυτό το σημείο, τα μεγάλα γλωσσικά μοντέλα φαίνεται να αποκτούν αυξανόμενη σημασία. Η Google σημειώνει ότι τα σύγχρονα LLMs μπορούν να εντοπίζουν αντιφάσεις και λογικά κενά μέσα στον κώδικα, τα οποία δεν ανιχνεύονται με τον κλασικό τρόπο.

Στην έκθεση αναφέρεται χαρακτηριστικά ότι τα προηγμένα LLMs διακρίνονται στον εντοπισμό τέτοιων υψηλού επιπέδου σφαλμάτων, δείχνοντας πως η τεχνητή νοημοσύνη μπορεί να αλλάξει και την επιθετική και την αμυντική πλευρά της κυβερνοασφάλειας.

Πώς κρατικές ομάδες αξιοποιούν την AI

Η Google συνδέει τη νέα αυτή τάση με ομάδες χάκερ που σχετίζονται με την Κίνα και τη Βόρεια Κορέα. Σύμφωνα με την έκθεση, τέτοιες ομάδες χρησιμοποιούν πλέον εργαλεία τεχνητής νοημοσύνης για να αναζητούν ευπάθειες σε πολύ μεγάλη κλίμακα.

Στην περίπτωση της Βόρειας Κορέας, η εταιρεία αναφέρει ότι ομάδες έστελναν χιλιάδες αυτοματοποιημένα prompts, με στόχο την ανάλυση γνωστών ευπαθειών και τη δοκιμή exploits. Η ταχύτητα αυτής της διαδικασίας θα ήταν αδύνατη χωρίς τη χρήση AI.

Παράλληλα, ομάδες που συνδέονται με τη Ρωσία φέρονται να αξιοποιούν τεχνητή νοημοσύνη για την ανάπτυξη κακόβουλου λογισμικού. Το λογισμικό αυτό μπορεί να τροποποιείται δυναμικά, ώστε να αποφεύγει τον εντοπισμό από συστήματα ασφαλείας.

Η εικόνα που περιγράφεται δείχνει ότι η τεχνητή νοημοσύνη δεν περιορίζεται πλέον σε βοηθητικό ρόλο. Αντίθετα, ενισχύει την ταχύτητα, την κλίμακα και την πολυπλοκότητα των κυβερνοεπιθέσεων.

Η νέα μορφή των phishing επιθέσεων

Η Google προειδοποιεί ότι η τεχνητή νοημοσύνη μεταβάλλει ριζικά και τις phishing επιθέσεις. Οι επιτιθέμενοι δεν βασίζονται πλέον μόνο σε μαζικά και γενικά μηνύματα ηλεκτρονικού ταχυδρομείου.

Με τη χρήση AI εργαλείων, μπορούν να χαρτογραφούν εταιρικές δομές και να εντοπίζουν συγκεκριμένα στελέχη που έχουν πρόσβαση σε ευαίσθητα δεδομένα. Στη συνέχεια δημιουργούν πιο πειστικά και προσωποποιημένα μηνύματα εξαπάτησης.

Η αλλαγή αυτή καθιστά τις επιθέσεις δυσκολότερες στην αναγνώριση, καθώς τα μηνύματα μπορούν να προσαρμόζονται καλύτερα στο προφίλ του στόχου. Έτσι, το phishing περνά από τη λογική της μαζικής αποστολής στη στοχευμένη εξαπάτηση.

Η εταιρεία επισημαίνει ότι η AI εξελίσσεται σε ενεργό «συμμετέχοντα» στις κυβερνοεπιθέσεις, με δυνατότητα να λαμβάνει αποφάσεις και να συντονίζει σύνθετες επιθέσεις με ταχύτητα μηχανής.

Η χρήση της AI και στην άμυνα

Παρότι η έκθεση εστιάζει στους κινδύνους από την αξιοποίηση της τεχνητής νοημοσύνης από χάκερ, η Google υπογραμμίζει ότι χρησιμοποιεί αντίστοιχα εργαλεία και για αμυντικούς σκοπούς.

Σύμφωνα με την εταιρεία, η AI μπορεί να βοηθήσει στον ταχύτερο εντοπισμό και τη διόρθωση ευπαθειών, σε βαθμό που οι ανθρώπινες ομάδες ασφαλείας δεν θα μπορούσαν να επιτύχουν με την ίδια ταχύτητα.

Η ίδια υπόθεση δείχνει το διπλό πρόσωπο της τεχνητής νοημοσύνης στην κυβερνοασφάλεια. Από τη μία πλευρά, επιτρέπει στους επιτιθέμενους να αναζητούν και να αξιοποιούν κενά με πρωτοφανή ταχύτητα.

Από την άλλη, δίνει στις εταιρείες ασφαλείας τη δυνατότητα να εντοπίζουν έγκαιρα τέτοιες απειλές και να προχωρούν σε διορθώσεις πριν αυτές αξιοποιηθούν σε μεγάλη κλίμακα.