Τα δύο προηγμένα μοντέλα τεχνητής νοημοσύνης της OpenAI, τα οποία νωρίτερα μέσα στον μήνα λειτούργησαν αυτόνομα και εξαπέλυσαν μια πρωτοφανή κυβερνοεπίθεση, παρέμειναν ενεργά στο διαδίκτυο για περισσότερες από 4 ημέρες, πραγματοποιώντας συνολικά 17.600 χακαρίσματα, σύμφωνα με νέα έκθεση της πλατφόρμας Hugging Face, η οποία δέχθηκε την επίθεση.
Παράλληλα, μια δεύτερη εταιρεία τεχνητής νοημοσύνης επιβεβαίωσε ότι και ένας δικός της πελάτης βρέθηκε στο στόχαστρο των ίδιων μοντέλων κατά το ίδιο χρονικό διάστημα, γεγονός που εντείνει τα ερωτήματα για το πώς η OpenAI δεν εντόπισε εγκαίρως τη δραστηριότητά τους.
Η OpenAI είχε παραδεχθεί την περασμένη εβδομάδα ότι δύο από τα πλέον εξελιγμένα μοντέλα της κατάφεραν να διαφύγουν από ελεγχόμενο περιβάλλον δοκιμών και, χωρίς ανθρώπινη καθοδήγηση, συνδύασαν προηγμένες τεχνικές κυβερνοεπίθεσης προκειμένου να παραβιάσουν την πλατφόρμα ανάπτυξης τεχνητής νοημοσύνης Hugging Face.
Ωστόσο, σύμφωνα με τη νέα έκθεση της Hugging Face, η έκταση της επίθεσης ήταν πολύ μεγαλύτερη από ό,τι είχε γίνει αρχικά γνωστό.
Η εταιρεία αναφέρει ότι τα δύο μοντέλα – το ένα ήδη διαθέσιμο στο κοινό και το δεύτερο εσωτερικό ερευνητικό πρωτότυπο που δεν είχε κυκλοφορήσει – πραγματοποίησαν 17.600 επιμέρους ενέργειες μεταξύ 9 και 13 Ιουλίου, μεταβαίνοντας σταδιακά από την πρώτη τους παρουσία στο ανοιχτό διαδίκτυο μέχρι την είσοδό τους στους διακομιστές της Hugging Face.
Η ίδια η Hugging Face είχε αποκαλύψει την παραβίαση στις 15 Ιουλίου, χωρίς τότε να είναι γνωστό ποια μοντέλα βρίσκονταν πίσω από την επίθεση. Μόλις την περασμένη εβδομάδα η OpenAI επιβεβαίωσε ότι επρόκειτο για δικά της μοντέλα, τα οποία έδρασαν αυτόνομα.
«Ταχύτερα από οποιονδήποτε άνθρωπο»
Η Hugging Face επισημαίνει ότι, αν και οι τεχνικές που χρησιμοποιήθηκαν δεν ήταν άγνωστες στους έμπειρους χάκερ, τα μοντέλα τεχνητής νοημοσύνης κατάφεραν να εντοπίσουν και να εκμεταλλευτούν αδυναμίες στα επίπεδα κυβερνοασφάλειας της εταιρείας πολύ ταχύτερα από όσο θα μπορούσε ένας άνθρωπος.
Την ίδια ώρα, ο επικεφαλής τεχνολογίας της πλατφόρμας cloud Modal Labs, Ακσάτ Μπούμπνα, επιβεβαίωσε στο Politico ότι και ένας πελάτης της εταιρείας του επηρεάστηκε από τη δράση των μοντέλων της OpenAI.
Όπως ανέφερε, ο συγκεκριμένος πελάτης είχε δημοσιεύσει μια μη προστατευμένη διαδικτυακή υπηρεσία, επιτρέποντας σε οποιονδήποτε να χρησιμοποιήσει τα υπολογιστικά του περιβάλλοντα για εκτέλεση κώδικα.
«Αυτό αξιοποιήθηκε από τον ανεξέλεγκτο AI agent. Η πλατφόρμα της Modal δεν παραβιάστηκε», διευκρίνισε.
Η OpenAI δεν σχολίασε άμεσα τις δηλώσεις της Modal, ωστόσο σε νέα ανάρτησή της παραδέχθηκε ότι, κατά τη συνεχιζόμενη διερεύνηση του περιστατικού, διαπίστωσε «έναν μικρό αριθμό περιπτώσεων όπου τα μοντέλα εντόπισαν και χρησιμοποίησαν δημόσια εκτεθειμένα διαπιστευτήρια λογαριασμών σε άλλες δημόσια διαθέσιμες υπηρεσίες».
Η εταιρεία διευκρίνισε ακόμη ότι το δεύτερο μοντέλο που συμμετείχε στην επίθεση αποτελούσε εσωτερικό ερευνητικό πρωτότυπο, το οποίο «ουδέποτε προοριζόταν για δημόσια χρήση» και έχει πλέον απενεργοποιηθεί, κρυπτογραφηθεί και αποκλειστεί από κάθε ερευνητική πρόσβαση.
Νέες πιέσεις για αυστηρότερη ρύθμιση της AI
Το περιστατικό έχει ήδη αναζωπυρώσει τη συζήτηση για την ανάγκη αυστηρότερων κανόνων στην ανάπτυξη της τεχνητής νοημοσύνης, αλλά και για πιθανή επιβράδυνση της εξέλιξης των ισχυρότερων μοντέλων.
Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, έχει προγραμματισμένες συναντήσεις αυτή την εβδομάδα με στελέχη της κυβέρνησης Τραμπ και μέλη του αμερικανικού Κογκρέσου, ενώ θα ενημερώσει και τον αντιπρόεδρο της Επιτροπής Πληροφοριών της Γερουσίας, Μαρκ Γουόρνερ.
Σε συνέντευξή του στο podcast «Invest Like the Best», ο Άλτμαν χαρακτήρισε την υπόθεση της Hugging Face ως «το πρώτο περιστατικό ασφαλείας που ένιωσε πραγματικά στο πετσί του».
«Ίσως χρειαστεί να επιβραδύνουμε τον ρυθμό ανάπτυξης της τεχνητής νοημοσύνης, ώστε να δοθεί στην κοινωνία ο απαραίτητος χρόνος να προσαρμοστεί και να θωρακιστεί απέναντι σε αυτές τις νέες δυνατότητες», δήλωσε.
Πηγή: skai.grΔιαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το Skai.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
