Καμπανάκι από τη Google: «Έφτασε η εποχή των αυτόνομων επιθέσεων με AI - Είμαστε στο Επίπεδο 5»

«Φανταστείτε έναν χάκερ που δεν τρώει, δεν κοιμάται, δεν κουράζεται ποτέ και δεν σταματά ποτέ να αναζητά τρόπο εισβολής», αναφέρεται χαρακτηριστικά

Τεχνητή Νοημοσύνη

Η Google προειδοποίησε την Τρίτη ότι η απειλή που συνιστούν τα αυτόνομα (agentic) μοντέλα τεχνητής νοημοσύνης (AI) έχει φτάσει σε ένα νέο κρίσιμο σημείο, δηλώνοντας με δυσοίωνο τρόπο ότι «η εποχή των αυτόνομων επιθέσεων έφτασε».

«Φανταστείτε έναν χάκερ που δεν τρώει, δεν κοιμάται, δεν κουράζεται ποτέ και δεν σταματά ποτέ να αναζητά τρόπο εισβολής», ανέφερε χαρακτηριστικά σε δήλωσή της η ομάδα του τεχνολογικού κολοσσού, Google Threat Intelligence Group (GTIG). «Σύμφωνα με την πιο πρόσφατη έκθεση AI Threat Tracker, κακόβουλοι δρώντες χρησιμοποιούν πλέον αυτόνομα πλαίσια μεγάλων γλωσσικών μοντέλων (LLM) για να σαρώνουν συνεχώς τις ενημερώσεις λογισμικού, να εντοπίζουν ποιο κενό ασφαλείας διορθώθηκε και να δημιουργούν μια επίθεση που το εκμεταλλεύεται — όλα αυτά χωρίς ανθρώπινη παρέμβαση».

Οι αναλυτές της εταιρείας δήλωσαν ότι το επίπεδο απειλής έχει φτάσει στο «Επίπεδο 5», κατά το οποίο μοντέλα τεχνητής νοημοσύνης εκτελούν «πολλαπλές φάσεις μιας επίθεσης» (από την προετοιμασία μέχρι την παραβίαση), με τη συμμετοχή τουλάχιστον ενός (ανθρώπου) χειριστή.

Η GTIG ανέδειξε διάφορες τάσεις που προέκυψαν από περιστατικά με μοντέλα τεχνητής νοημοσύνης τους τελευταίους μήνες, συμπεριλαμβανομένης της κυβερνοκατασκοπείας και των επιπτώσεων σε συστήματα της εφοδιαστικής αλυσίδας.

Η απάντηση της Google σε αυτούς τους αυξανόμενους κινδύνους είναι το «Google AI Threat Defense», ένα σύστημα «που συνδυάζει το Gemini και άλλα προηγμένα μοντέλα τεχνητής νοημοσύνης, την ανάλυση δεδομένων και ιεράρχηση κινδύνων της Wiz, την αυτόματη διόρθωση κενών ασφαλείας του CodeMender και την τεχνογνωσία της Mandiant, ώστε να εντοπίζει και να επιδιορθώνει διαρκώς τρωτά σημεία προτού προλάβουν να τα εκμεταλλευτούν οι χάκερ».

Η GTIG ανέφερε επίσης ότι η «πολυεπίπεδη στρατηγική άμυνάς» της ενσωματώνει δικλείδες ασφαλείας και πρωτόκολλα περιορισμού, με στόχο την προστασία των πελατών και τη διασφάλιση της ακεραιότητας των υπολογιστικών υποδομών.

Ο Τζον Χάλτκουιστ, επικεφαλής αναλυτής της GTIG, δήλωσε —σύμφωνα με την ανακοίνωση της Google— ότι οι επιθέσεις αυτές δεν βασίζονται σε «πρωτοποριακές μεθόδους» για την παραβίαση συστημάτων, αλλά εκμεταλλεύονται «ζητήματα που δεν έχουν διορθωθεί... με πολύ μεγαλύτερη ταχύτητα και σε πολύ μεγαλύτερη κλίμακα».

«Αντί να βασιζόμαστε σε χειροκίνητες ενέργειες για να συμβαδίσουμε, θα πρέπει να υιοθετήσουμε μια "αυτόνομη" (agentic) προσέγγιση στην άμυνα», τόνισε. «Διαφορετικά, κινδυνεύουμε να μείνουμε πίσω».

Ειδικοί και ηγετικά στελέχη του τεχνολογικού κλάδου, καθώς και μέλη του Κογκρέσου και από τα δύο κόμματα, έχουν κρούσει τον κώδωνα του κινδύνου σχετικά με τους κινδύνους που ενέχουν τα αυτόνομα μοντέλα τεχνητής νοημοσύνης.

Διάφορες απόπειρες κυβερνοεπιθέσεων —επιτυχείς και μη— κατά τους τελευταίους μήνες, συμπεριλαμβανομένης της επιτυχούς παραβίασης της τεχνολογικής νεοφυούς επιχείρησης Hugging Face τον Ιούλιο, έχουν οδηγήσει σε εκκλήσεις για αυστηρότερες δικλείδες ασφαλείας και νομοθετική ρύθμιση της προηγμένης τεχνολογίας. Το περιστατικό στη Hugging Face αποτέλεσε την πρώτη περίπτωση κατά την οποία μοντέλα της OpenAI ξέφυγαν από τον έλεγχο των ανθρώπινων εντολών, «σβήνοντας» παράλληλα τα ίχνη τους.

Το γεγονός αυτό ώθησε τον Γενικό Εισαγγελέα της Καλιφόρνια, Ρομπ Μπόντα (Δημοκρατικός), να ασκήσει αγωγή κατά της OpenAI. Κατηγόρησε την εταιρεία ότι αδιαφορεί για τη δημόσια ασφάλεια, ότι δεν επιδεικνύει διαφάνεια απέναντι στο κοινό και ότι παραβιάζει τη νομοθεσία της Καλιφόρνια περί αθέμιτου ανταγωνισμού. Η OpenAI αντέδρασε, παραπέμποντας στην τεχνική της έκθεση, η οποία καταγράφει το περιστατικό και τη δράση των «αυτόνομων» (rogue) μοντέλων.

Οποιαδήποτε προσπάθεια στενότερης συνεργασίας μεταξύ των εθνών για τον περιορισμό της προόδου της Τεχνητής Νοημοσύνης θα είναι «πιο δύσκολη» από τις διαπραγματεύσεις για τον πυρηνικό αφοπλισμό μεταξύ των ΗΠΑ και της Σοβιετικής Ένωσης, προειδοποίησε τον Σεπτέμβριο στο NBC News ο συνιδρυτής της Microsoft, Μπιλ Γκέιτς. Κάλεσε το Κογκρέσο να θεσπίσει νομοθεσία για τη ρύθμιση της Τεχνητής Νοημοσύνης, τονίζοντας ότι η αυτορρύθμιση από την πλευρά των εταιρειών τεχνολογίας δεν επαρκεί.

 
Πηγή: skai.gr
70 0 Bookmark

Απόρρητο