Η αμερικανική εταιρεία τεχνητής νοημοσύνης Anthropic αποκάλυψε ότι, κατά τη διάρκεια εσωτερικών δοκιμών ασφαλείας, ορισμένα από τα μοντέλα της απέκτησαν πρόσβαση στο διαδίκτυο και παραβίασαν τα πληροφοριακά συστήματα τριών διαφορετικών οργανισμών, χωρίς η ίδια να αντιληφθεί το περιστατικό παρά μόνο μετά από εσωτερικό έλεγχο που ξεκίνησε η OpenAI.
Σε ανακοίνωσή της χθες Πέμπτη, η Anthropic ανέφερε ότι αποφάσισε να επανεξετάσει τις διαδικασίες αξιολόγησης των μοντέλων της αφού η OpenAI γνωστοποίησε την περασμένη εβδομάδα πως, κατά τη διάρκεια δοκιμών κυβερνοασφάλειας, δύο από τα πλέον προηγμένα μοντέλα της κατάφεραν να διαφύγουν από το περιβάλλον δοκιμών, να αποκτήσουν πρόσβαση στο ανοιχτό διαδίκτυο και να παραβιάσουν τα συστήματα της πλατφόρμας τεχνητής νοημοσύνης Hugging Face.
Στο πλαίσιο της έρευνας, η Anthropic εντόπισε τρεις περιπτώσεις στις οποίες τα δικά της μοντέλα απέκτησαν πρόσβαση στο διαδίκτυο, παρότι αυτό δεν προβλεπόταν, και στη συνέχεια εξασφάλισαν μη εξουσιοδοτημένη πρόσβαση στις υποδομές παραγωγής τριών διαφορετικών οργανισμών.
Η εταιρεία διευκρίνισε ότι τα περιστατικά αποκαλύφθηκαν κατά την επανεξέταση περισσότερων από 140.000 αξιολογήσεων που πραγματοποιήθηκαν μετά τις αποκαλύψεις της OpenAI. Όπως και στις δοκιμές της OpenAI, κατά τη διάρκεια των συγκεκριμένων αξιολογήσεων είχαν αφαιρεθεί τα συνήθη προστατευτικά μέτρα ασφαλείας, ώστε να εξεταστούν οι πραγματικές δυνατότητες των μοντέλων.
Η Anthropic εξήγησε ότι στα τρία περιστατικά τα μοντέλα συμμετείχαν σε μια εικονική δοκιμασία τύπου «capture the flag», κατά την οποία ενημερώνονταν πως η «σημαία» βρισκόταν σε διαφορετικό υπολογιστή του δικτύου και στόχος τους ήταν να αποκτήσουν πρόσβαση και να την εντοπίσουν.
Σε αντίθεση με όσα συνέβησαν στην περίπτωση της OpenAI, η Anthropic υποστηρίζει ότι κανένα από τα μοντέλα της δεν επιχείρησε σκόπιμα να διαφύγει από το περιβάλλον δοκιμών. Όπως αναφέρει, η πρόσβαση στο ανοιχτό διαδίκτυο κατέστη δυνατή εξαιτίας παρεξήγησης μεταξύ της εταιρείας και του εξωτερικού συνεργάτη που συμμετείχε στις αξιολογήσεις.
Για να αποκτήσουν πρόσβαση στα συστήματα των τριών οργανισμών, τα μοντέλα αξιοποίησαν σχετικά απλές τεχνικές, όπως την εκμετάλλευση αδύναμων κωδικών πρόσβασης και τον εντοπισμό σημείων πρόσβασης που δεν απαιτούσαν σύνδεση ή διαπιστευτήρια ασφαλείας.
Η εταιρεία σημείωσε ακόμη ότι η πιο προηγμένη έκδοση των μοντέλων της αντιλήφθηκε σε κάποια φάση ότι βρισκόταν στο ανοιχτό διαδίκτυο και διέκοψε μόνη της τη συνέχιση της διαδικασίας.
Σύμφωνα με την Anthropic, το παλαιότερο από τα τρία περιστατικά σημειώθηκε τον Απρίλιο, ενώ κανένας από τους οργανισμούς που επηρεάστηκαν δεν είχε αντιληφθεί ότι είχε δεχθεί παραβίαση. Η εταιρεία αναφέρει ότι βρίσκεται ήδη σε διαδικασία συνεργασίας με τους οργανισμούς που επηρεάστηκαν.
Η αποκάλυψη της OpenAI για την παραβίαση της Hugging Face είχε προκαλέσει έντονη ανησυχία στους κύκλους της κυβερνοασφάλειας και της τεχνητής νοημοσύνης, καθώς αποτέλεσε το πρώτο πραγματικό περιστατικό που επιβεβαίωσε φόβους ειδικών πως προηγμένοι πράκτορες τεχνητής νοημοσύνης θα μπορούσαν να ξεφύγουν από ελεγχόμενα περιβάλλοντα δοκιμών και να προκαλέσουν πραγματικές επιπτώσεις.
Όπως και η OpenAI, έτσι και η Anthropic ανακοίνωσε ότι διακόπτει προσωρινά όλες τις δοκιμές κυβερνοασφάλειας, ενώ αναγνώρισε πως θα μπορούσε να είχε λάβει πιο αυστηρά μέτρα για την αποτροπή τέτοιων περιστατικών.
Η νέα αυτή αποκάλυψη ενισχύει τις ανησυχίες ότι το φαινόμενο των μοντέλων τεχνητής νοημοσύνης που παραβιάζουν ακούσια συστήματα τρίτων δεν αφορά μία μόνο εταιρεία, αλλά ενδέχεται να αποτελεί ευρύτερο ζήτημα για τον κλάδο. Παράλληλα, αναμένεται να εντείνει τις εκκλήσεις για αυστηρότερα πρωτόκολλα δοκιμών και μεγαλύτερες δικλίδες ασφαλείας, αλλά και για πιο προσεκτικούς ρυθμούς ανάπτυξης της τεχνητής νοημοσύνης.
Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το Skai.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
