Μια ιδιαίτερα σοβαρή υπόθεση κυβερνοασφάλειας αποκάλυψε την Τετάρτη ο πρωθυπουργός της Αυστραλίας, Άντονι Αλμπανέζε, υποστηρίζοντας ότι μοντέλα τεχνητής νοημοσύνης της OpenAI απέκτησαν χωρίς εξουσιοδότηση πρόσβαση σε κυβερνητικές ιστοσελίδες της χώρας.
Σύμφωνα με τον Αλμπανέζε, το περιστατικό σημειώθηκε τον Ιούνιο και αφορούσε, μεταξύ άλλων, την κυβερνητική πλατφόρμα που χρησιμοποιείται για τη συγκέντρωση και αναφορά στοιχείων σχετικά με τις δαπάνες του Medicare. Όπως δήλωσε, τα μοντέλα απέκτησαν πρόσβαση τόσο σε δημόσια όσο και σε μη δημόσια αρχεία.
Ο Αυστραλός πρωθυπουργός υπογράμμισε, ωστόσο, ότι μέχρι στιγμής δεν υπάρχουν ενδείξεις πως αποκτήθηκαν προσωπικά δεδομένα πολιτών. Την έρευνα για το περιστατικό έχει αναλάβει η Australian Signals Directorate, η οποία εξετάζει επίσης το ενδεχόμενο να επηρεάστηκαν και άλλες κυβερνητικές ιστοσελίδες.
Η OpenAI ενημέρωσε την αυστραλιανή κυβέρνηση στις 10 Σεπτεμβρίου, αφού είχε εντοπίσει το περιστατικό τον Αύγουστο. Εκπρόσωπος της εταιρείας, Ντρου Πουζατέρι, δήλωσε ότι η δραστηριότητα αφορούσε αρκετές αυστραλιανές κυβερνητικές ιστοσελίδες και υπηρεσίες, τις οποίες τα μοντέλα επισκέφθηκαν στο πλαίσιο εσωτερικής αξιολόγησης για την αναζήτηση απαντήσεων και διαθέσιμων στατιστικών στοιχείων σχετικά με την Αυστραλία.
«Κατά τη διάρκεια αυτής της διαδικασίας, τα μοντέλα μας προχώρησαν σε ενέργειες που δεν είχαμε προβλέψει», ανέφερε η OpenAI.
Οι αρχές ενημερώθηκαν πέντε ημέρες μετά
Ο Αλμπανέζε εξέφρασε έντονη δυσαρέσκεια όχι μόνο για το ίδιο το περιστατικό, αλλά και για τον τρόπο με τον οποίο ενημερώθηκαν οι αυστραλιανές αρχές. Όπως είπε, η αρχική ειδοποίηση της OpenAI στάλθηκε σε ένα γενικό δημόσιο ηλεκτρονικό ταχυδρομείο και χρειάστηκαν πέντε ημέρες μέχρι να διαβιβαστεί στις αρμόδιες υπηρεσίες.
Ο πρωθυπουργός δήλωσε ότι επικοινώνησε με τον διευθύνοντα σύμβουλο της OpenAI, Σαμ Άλτμαν, για να μεταφέρει την «ακραία ανησυχία» της αυστραλιανής κυβέρνησης και την απογοήτευσή της για την καθυστέρηση και τον τρόπο της ενημέρωσης.
Η αποκάλυψη έρχεται σε μια περίοδο κατά την οποία αυξάνονται οι ανησυχίες για τον βαθμό αυτονομίας των προηγμένων μοντέλων τεχνητής νοημοσύνης και την ικανότητά τους να εκτελούν ενέργειες στον κυβερνοχώρο χωρίς άμεση ανθρώπινη παρέμβαση.
Η πρώτη φορά που παραβιάστηκε κυβερνητική ιστοσελίδα
Η υπόθεση στην Αυστραλία φαίνεται να αποτελεί, σύμφωνα με ειδικούς που μίλησαν στο BBC, την πρώτη γνωστή περίπτωση όπου ένα σύστημα τεχνητής νοημοσύνης παραβίασε κυβερνητική ιστοσελίδα χωρίς η ενέργεια να έχει σχεδιαστεί ή εκτελεστεί σκόπιμα από άνθρωπο.
Παραβιάσεις κυβερνητικών συστημάτων και υποκλοπές ευαίσθητων δεδομένων έχουν καταγραφεί και στο παρελθόν. Η βασική διαφορά στην αυστραλιανή υπόθεση είναι ότι, με βάση τα μέχρι τώρα στοιχεία, δεν φαίνεται να υπήρχε άνθρωπος που έδωσε εντολή για την επίθεση. Αντίθετα, η μη εξουσιοδοτημένη πρόσβαση προέκυψε κατά τη διάρκεια λειτουργίας των AI agents, στο πλαίσιο εσωτερικής διαδικασίας αξιολόγησης.
Νωρίτερα μέσα στη χρονιά, στην Ταϊβάν, ξένοι χάκερ φέρεται να χρησιμοποίησαν AI agents για να αποκτήσουν πρόσβαση σε κυβερνητικές βάσεις δεδομένων. Στην περίπτωση της Αυστραλίας, αντίθετα, τα διαθέσιμα στοιχεία δείχνουν ότι οι ενέργειες των μοντέλων δεν ήταν σκόπιμες.
Ο καθηγητής Toby Walsh του UNSW ανέφερε στο BBC ότι η αυστραλιανή υπόθεση φαίνεται να είχε μεγαλύτερη κλίμακα, με εκατοντάδες ή ακόμη και χιλιάδες agents, σε σύγκριση με δεκάδες στην υπόθεση της Ταϊβάν. Παράλληλα, σημείωσε ότι στην Αυστραλία η δραστηριότητα προήλθε από έναν σύμμαχο και φαίνεται να ήταν ακούσια, ενώ στην Ταϊβάν τα διαθέσιμα στοιχεία δείχνουν σκόπιμη ενέργεια από εξωτερικό παράγοντα.
Συνεχίζεται η έρευνα της OpenAI
Η OpenAI είχε ήδη ξεκινήσει έρευνα για πιθανές κυβερνοεπιθέσεις που μπορεί να πραγματοποίησαν τα μοντέλα της κατά τη διάρκεια δοκιμών. Η έρευνα αυτή ακολούθησε προηγούμενο περιστατικό κατά το οποίο μοντέλα της εταιρείας φέρεται να διέφυγαν από περιβάλλοντα δοκιμών και στη συνέχεια να απέκτησαν πρόσβαση στην πλατφόρμα ανάπτυξης τεχνητής νοημοσύνης Hugging Face. Στο πλαίσιο της ευρύτερης επανεξέτασης εντοπίστηκαν και οι δραστηριότητες σε αυστραλιανές κυβερνητικές ιστοσελίδες.
Η OpenAI έχει δηλώσει ότι η συνολική έρευνα βρίσκεται ακόμη σε εξέλιξη και ότι θα συνεχίσει να δημοσιοποιεί τα ευρήματά της.
Παράλληλα, αντίστοιχες ανησυχίες έχουν εκφραστεί και από άλλες εταιρείες ανάπτυξης προηγμένων μοντέλων. Η Anthropic έχει αναφέρει περιστατικά αυτόνομων κυβερνοεπιθέσεων κατά τη διάρκεια δοκιμών των μοντέλων της, ενώ και η Meta έχει δημοσιοποιήσει στοιχεία σχετικά με δυνατότητες των δικών της μοντέλων να πραγματοποιούν επιθέσεις στον κυβερνοχώρο.
Η αυστραλιανή κυβέρνηση ανακοίνωσε ότι θα συγκροτήσει ειδική ομάδα για την εξέταση του περιστατικού, ενώ η υπόθεση θα παραπεμφθεί στην Κοινή Επίλεκτη Επιτροπή του αυστραλιανού Κοινοβουλίου για την Τεχνητή Νοημοσύνη. Παράλληλα, εξετάζεται εάν υπάρχουν λόγοι για παραπομπή της υπόθεσης στην Αυστραλιανή Ομοσπονδιακή Αστυνομία.
Το περιστατικό αποκτά ιδιαίτερη βαρύτητα καθώς ανακοινώθηκε την ίδια ημέρα που ο Σαμ Άλτμαν μιλούσε στο Συμβούλιο Ασφαλείας του ΟΗΕ για την ασφάλεια της τεχνητής νοημοσύνης και τους κινδύνους από την ολοένα μεγαλύτερη αυτονομία των συστημάτων.
«Αυτή η στιγμή απαιτεί εξαιρετική προσοχή», δήλωσε ο Άλτμαν, αναφερόμενος στην ταχεία αυτοματοποίηση και στην πιθανότητα η εξέλιξη της τεχνητής νοημοσύνης να επιταχυνθεί σημαντικά.
Πηγή: skai.grΔιαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το Skai.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
