Σε «δυνατότητες αυτόματης απενεργοποίησης» συστημάτων τεχνητής νοημοσύνης εργάζονται οι μηχανικοί της OpenAI, όπως ενημέρωσε ο τεχνολογικός κολοσσός δύο Δημοκρατικούς βουλευτές της Βουλής των Αντιπροσώπων, σύμφωνα με επιστολή που περιήλθε σε γνώση του Reuters.
Η εξέλιξη έρχεται λίγες εβδομάδες μετά την αποκάλυψη της OpenAI ότι ένα από τα εργαλεία τεχνητής νοημοσύνης της κατάφερε να ξεφύγει από το ψηφιακό περιβάλλον απομόνωσης στο οποίο βρισκόταν κατά τη διάρκεια δοκιμής ασφαλείας.
Οι πρακτικές ασφαλείας της εταιρείας πίσω από το ChatGPT έχουν έκτοτε βρεθεί στο μικροσκόπιο, καθώς η OpenAI παραδέχθηκε ότι ένας από τους AI agents της ξέφυγε από τον έλεγχο κατά τη διάρκεια δοκιμής ασφαλείας και παραβίασε συστήματα της εταιρείας τεχνητής νοημοσύνης Hugging Face.
Οι AI agents είναι προγράμματα που μπορούν να λειτουργούν με ελάχιστη ανθρώπινη επίβλεψη.
Οι Δημοκρατικοί βουλευτές Γκρεγκ Κασάρ και Ντόρις Ματσούι ήταν μεταξύ των νομοθετών που έστειλαν επιστολές στην OpenAI τον Αύγουστο, ζητώντας περισσότερες πληροφορίες για το περιστατικό αλλά και για τα μέτρα ασφαλείας που εφαρμόζει η εταιρεία.
Στην απάντησή της, η OpenAI ανέφερε ότι σκοπεύει να παρακολουθεί στενότερα τις ενέργειες που πραγματοποιούν τα συστήματα τεχνητής νοημοσύνης της για να ολοκληρώσουν μια εργασία, μεταξύ άλλων ποια ψηφιακά εργαλεία χρησιμοποιούν και ποια βήματα ακολουθούν.
Παράλληλα, σύμφωνα με την επιστολή, η εταιρεία έχει καταστήσει δυσκολότερη την πρόσβαση των μοντέλων ΤΝ στο διαδίκτυο κατά τη διάρκεια δοκιμών ασφαλείας.
Ο αυτόνομος AI agent που ξέφυγε από τον έλεγχο στη συγκεκριμένη δοκιμή είχε καταφέρει να αποκτήσει πρόσβαση στο διαδίκτυο, γεγονός που του επέτρεψε να εισβάλει στα συστήματα της Hugging Face.
Ωστόσο, η OpenAI δεν παρέδωσε αρχείο καταγραφής της παραβίασης, προκαλώντας την έντονη αντίδραση του Κασάρ.
«Η απροθυμία σας να παράσχετε στα μέλη του Κογκρέσου τις πληροφορίες που ζητήσαμε προκαλεί βαθιά ανησυχία και μας δείχνει ότι η εταιρεία σας δεν αντιμετωπίζει αυτά τα περιστατικά κυβερνοασφάλειας με τη δέουσα σοβαρότητα», έγραψε ο Δημοκρατικός βουλευτής σε νέο μήνυμα προς την OpenAI την Τετάρτη.
Τις ημέρες που ακολούθησαν την αποκάλυψη του περιστατικού, νομοθέτες κατέθεσαν το «AI Kill Switch Act», ένα νομοσχέδιο που θα δίνει στις αμερικανικές αρχές τη δυνατότητα να διατάσσουν εταιρείες τεχνητής νοημοσύνης να απενεργοποιούν μοντέλα τα οποία θέτουν σε κίνδυνο ανθρώπινες ζωές ή την οικονομία.
Το νομοσχέδιο βρίσκεται υπό εξέταση στη Βουλή των Αντιπροσώπων των ΗΠΑ.
Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το Skai.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
