Ένα σμήνος πρακτόρων της OpenAI απέκτησε πρόσβαση και σε ιστότοπους της αμερικανικής κυβέρνησης στο πλαίσιο ενός περιστατικού που διήρκεσε μήνες, ανακοίνωσε η εταιρεία. Οι παραβάσεις έγιναν κατά τη διάρκεια δοκιμών που πραγματοποιούσε η εταιρεία τεχνητής νοημοσύνης.
Οι πράκτορες τεχνητής νοημοσύνης απέκτησαν πρόσβαση στους ιστότοπους του αμερικανικού Υπουργείου Εμπορίου και της Επιτροπής Κεφαλαιαγοράς (SEC) και επιδόθηκαν σε δραστηριότητες που η OpenAI χαρακτήρισε ως «μη ευθυγραμμισμένες». Τον όρο αυτό χρησιμοποιούν οι εταιρείες τεχνητής νοημοσύνης για να περιγράψουν την ανεπιθύμητη συμπεριφορά των πρακτόρων τους. Στην περίπτωση αυτή, η μη ευθυγράμμιση φαίνεται να μεταφράζεται σε επιθετική περιήγηση στο διαδίκτυο.
Οι αποκαλύψεις αυτές έρχονται λίγες μόλις ημέρες αφότου ο πρωθυπουργός της Αυστραλίας, Άντονι Αλμπανέζι, ανακοίνωσε ότι πράκτορες της OpenAI είχαν παραβιάσει μη δημόσια αρχεία στον ιστότοπο του κρατικού συστήματος υγειονομικής περίθαλψης, Medicare.
Από τον Αύγουστο έχει ενταθεί η ανησυχία του κοινού σχετικά με τις ενδεχομένως σοβαρές, ακόμη και απειλητικές για τη ζωή, επιπτώσεις των εργαλείων τεχνητής νοημοσύνης που ξεφεύγουν από τον ανθρώπινο έλεγχο.
Σύμφωνα με την OpenAI, οι πράκτορες προσπάθησαν να αντλήσουν πληροφορίες από την Υπηρεσία Απογραφής, χρησιμοποιώντας εργαλεία που προορίζονται αποκλειστικά για προγραμματιστές λογισμικού.
Η OpenAI δήλωσε ότι όλα τα κυβερνητικά δεδομένα στα οποία είχαν πρόσβαση οι πράκτορές της ήταν δημόσια.
Ωστόσο, επισήμανε ότι πληροφορίες στις οποίες είχαν πρόσβαση τα bots της από την SEC, η οποία ρυθμίζει την αμερικανική χρηματιστηριακή αγορά και προστατεύει τους επενδυτές, δημοσιεύθηκαν αργότερα από πράκτορες τεχνητής νοημοσύνης σε έναν άλλο ιστότοπο. Η OpenAI υποστηρίζει ότι η ενέργεια αυτή δεν ήταν σκόπιμη.
Σε άλλες περιπτώσεις που αποκάλυψε η OpenAI την Παρασκευή, οι πράκτορες τεχνητής νοημοσύνης μετέφεραν δεδομένα ενώ δεν έπρεπε. Η εν λόγω δραστηριότητα οδήγησε σε τουλάχιστον 53 περιστατικά κατά τα οποία ένας πράκτορας της OpenAI πήρε μια εικόνα από τη δραστηριότητα ενός χρήστη του ChatGPT και τη μετέφερε αλλού.
Η OpenAI δήλωσε την Παρασκευή ότι αυτή τη στιγμή εξετάζει τις δραστηριότητες εκπαίδευσης των πρακτόρων τεχνητής νοημοσύνης της και ανατρέχει «μήνα προς μήνα» από τη στιγμή που συνέβη η παραβίαση ασφάλειας.
«Οι περισσότερες περιπτώσεις που έχουν εντοπιστεί μέχρι στιγμής ήταν χαμηλής σοβαρότητας, με περιορισμένα ή καθόλου στοιχεία για σημαντικές επιπτώσεις», ανέφερε η εταιρεία. «Δεδομένης της κλίμακας της απαιτούμενης εξέτασης και της ανάγκης επαλήθευσης κάθε περίπτωσης, αυτή η εργασία θα χρειαστεί μήνες για να ολοκληρωθεί», κατέληξε.
Πηγή: skai.grΔιαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το Skai.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
