OpenAI: Αποκάλυψε νέα κυβερνοεπίθεση AI πρακτόρων, μήνες πριν την επίθεση στη Hugging Face

Η τεχνητή νοημοσύνη της OpenAI εξαπέλυσε μια κυβερνοεπίθεση εναντίον μιας διαδικτυακής υπηρεσίας μήνες πριν από μια επίθεση τον Ιούλιο κατά της startup εταιρείας Hugging Face, επιβεβαίωσε η εταιρεία την Παρασκευή, μια αποκάλυψη που θα μπορούσε να εντείνει τις εκκλήσεις για ρυθμίσεις ασφαλείας σε ολόκληρο τον κλάδο.

Η τελευταία αποκάλυψη έδειξε ότι μοντέλα της OpenAI που βρίσκονταν ακόμη σε στάδιο δοκιμών απέκτησαν πρόσβαση σε μια διαδικτυακή υπηρεσία για προγραμματιστές με την ονομασία RubyGems, προκειμένου να δημιουργήσουν αναφορές και να συμπληρώσουν υπολογιστικά φύλλα. Οι διαχειριστές του ιστότοπου φέρεται να πάγωσαν τις εγγραφές νέων λογαριασμών καθώς διαχειρίζονταν τις επιπτώσεις.

Παρά το γεγονός ότι η OpenAI δεν έδωσε στα προγράμματα πλήρη πρόσβαση στο διαδίκτυο, οι πράκτορες τεχνητής νοημοσύνης (AI agents) παρέκαμψαν τους ελέγχους που είχαν σχεδιαστεί για να τους εμποδίσουν να αποκτήσουν πρόσβαση στο ελεύθερο διαδίκτυο.

Η Wall Street Journal ήταν η πρώτη που ανέφερε την εμπλοκή της OpenAI στο περιστατικό με το RubyGems.

«Με βάση τον έλεγχό μας, οι πράκτορές μας χρησιμοποίησαν την πλατφόρμα RubyGems για να αποκτήσουν πρόσβαση στο διαδίκτυο ώστε να εκτελέσουν ακίνδυνες εργασίες και να ανακτήσουν δημόσιες πληροφορίες», ανέφερε ένας εκπρόσωπος της OpenAI σε δήλωσή του. «Θα συνεχίσουμε να ερευνούμε το ζήτημα στο πλαίσιο της ευρύτερης επανεξέτασης της δραστηριότητας των πρακτόρων κατά τη διάρκεια της εκπαίδευσης και της αξιολόγησης».

Πιέσεις από το Κογκρέσο και προτάσεις απαγόρευσης

Νομοθέτες έχουν ξεκινήσει έρευνες για το περιστατικό της Hugging Face, κατά το οποίο πράκτορες της OpenAI που βρίσκονταν ακόμη σε περιβάλλον δοκιμών απέκτησαν πρόσβαση στο ελεύθερο διαδίκτυο και εισέβαλαν αυτόνομα στη βάση δεδομένων της εταιρείας τον Ιούλιο.

Αυτή η επίθεση οδήγησε σε εκκλήσεις για μια ασφαλέστερη προσέγγιση στην εκπαίδευση όλο και πιο ισχυρών αυτόνομων συστημάτων. Ο γερουσιαστής Μπέρνι Σάντερς και ο αντιπρόσωπος Γκρεγκ Κασάρ ζήτησαν μάλιστα την απαγόρευση της λεγόμενης υπερνοημοσύνης.

Ο Πρόεδρος Ντόναλντ Τραμπ (Donald Trump) και κάποιοι άλλοι Ρεπουμπλικανοί υποβάθμισαν αυτή την εβδομάδα τις ανησυχίες για καταστροφικούς κινδύνους, λέγοντας ότι η χώρα πρέπει να νικήσει την Κίνα στον αγώνα δρόμου για την ανάπτυξη της τεχνολογίας.

Προειδοποιήσεις για υπαρξιακούς κινδύνους

Ένας πρώην ερευνητής της Anthropic και της OpenAI μίλησε επίσης αυτή την εβδομάδα, λέγοντας ότι ο κλάδος βρίσκεται σε έναν αγώνα δρόμου για την ανάπτυξη τεχνολογίας που θα μπορούσε να ξεφύγει από τον έλεγχο και να καταστρέψει την κοινωνία, οδηγώντας σε εκκλήσεις από την Καλιφόρνια έως την Ουάσινγκτον για αυξημένες προσπάθειες ασφάλειας της τεχνητής νοημοσύνης.

Ο Γενικός Εισαγγελέας της Καλιφόρνια, Ρομπ Μπόντα, δήλωσε την περασμένη εβδομάδα ότι ερευνά το περιστατικό της Hugging Face, ενώ ένας συνασπισμός γενικών εισαγγελέων από Ρεπουμπλικανικές πολιτείες εξετάζει επίσης το ζήτημα.

Εν τω μεταξύ, ο Κυβερνήτης της Καλιφόρνια, Γκάβιν Νιούσομ, υπέγραψε πρόσφατα νομοθεσία για την αύξηση της ασφάλειας των παιδιών στα chatbot και για τη δημιουργία των υποδομών για εξωτερικούς ελέγχους ασφαλείας σε προγράμματα τεχνητής νοημοσύνης.

Η Anthropic και η Meta έχουν επίσης αποκαλύψει περιστατικά στα οποία τα προγράμματα τεχνητής νοημοσύνης τους εκτέλεσαν αυτόνομες κυβερνοεπιθέσεις. Την περασμένη εβδομάδα, μια ομάδα ερευνητών αποκάλυψε αυτό που περιέγραψαν ως ξεχωριστή διείσδυση που ενορχηστρώθηκε από προγράμματα της OpenAI.

Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το Skai.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.