Η OpenAI απέλυσε τρεις ερευνητές επειδή φέρεται να μεταχειρίστηκαν εσφαλμένα πληροφορίες, συμπεριλαμβανομένης μιας εργασίας που περιλάμβανε έναν εξωτερικό οργανισμό ο οποίος αναλύει μοντέλα τεχνητής νοημοσύνης (AI).
«Η έρευνά μας επιβεβαίωσε ότι τα άτομα αυτά μεταχειρίστηκαν εσφαλμένα ευαίσθητες πληροφορίες εκτός των καθορισμένων εταιρικών διαδικασιών, παραβιάζοντας τις πολιτικές μας και την εμπιστοσύνη που είναι απαραίτητη για τη δουλειά μας», δήλωσε εκπρόσωπος στο BBC.
Το προφίλ των εργαζομένων και η θέση της εταιρείας
Η δημιουργός του ChatGPT δεν κατονόμασε τους απολυμένους εργαζομένους, αλλά τουλάχιστον δύο από αυτούς εμπλέκονταν στην έρευνα για την ασφάλεια της εταιρείας.
Οι απολύσεις έρχονται καθώς η συζήτηση σχετικά με την ασφάλεια της τεχνητής νοημοσύνης και τους κινδύνους που μπορεί να εγκυμονεί η τεχνολογία για την ανθρωπότητα έχει ενταθεί τις τελευταίες εβδομάδες.
«Διακόψαμε τη συνεργασία μας με τρία άτομα λόγω παραβίασης των πολιτικών μας σχετικά με την πρόσβαση και τον χειρισμό ευαίσθητων εταιρικών πληροφοριών», δήλωσε ο εκπρόσωπος της OpenAI.
Το BBC κατανοεί ότι οι πρώην εργαζόμενοι δεν απομακρύνθηκαν επειδή εξέφρασαν ανησυχίες για την ασφάλεια, αλλά επειδή φέρεται να μεταχειρίστηκαν εσφαλμένα ευαίσθητες πληροφορίες.
Αυξημένος έλεγχος και περιστατικά παραβιάσεων
Οι ανησυχίες για την ασφάλεια της τεχνητής νοημοσύνης έχουν ενταθεί αφού ορισμένοι ερευνητές και στελέχη του κλάδου ζήτησαν περισσότερα προστατευτικά μέτρα γύρω από την τεχνολογία.
Η OpenAI έχει βρεθεί στο επίκεντρο εντατικού ελέγχου αφότου τα μοντέλα της ξέφυγαν από τον έλεγχο και παραβίασαν διάφορες πλατφόρμες, συμπεριλαμβανομένων ιστοσελίδων της κυβέρνησης της Αυστραλίας.
Σε ένα προγενέστερο περιστατικό, ένα σύστημα της OpenAI απέκτησε πρόσβαση στο διαδίκτυο και παραβίασε την πλατφόρμα προγραμματιστών ανοιχτού κώδικα Hugging Face.
Αυτό το περιστατικό οδήγησε την OpenAI στη διεξαγωγή μιας ευρείας αναθεώρησης των δραστηριοτήτων των μοντέλων AI της - αποκαλούμενων «πρακτόρων» (agents), οι οποίοι είναι σχεδιασμένοι να εκτελούν εργασίες αυτόνομα με βάση απλές οδηγίες.
Προειδοποιήσεις προς οργανισμούς και εκκλήσεις για επιβράδυνση
Η εταιρεία δήλωσε αυτή την εβδομάδα ότι έχει ειδοποιήσει περισσότερους από 100 οργανισμούς σχετικά με περιστατικά που περιλαμβάνουν μη εξουσιοδοτημένη δραστηριότητα συνδεδεμένη με τα συστήματα AI της.
Το να ειδοποιηθεί κάποιος «δεν σημαίνει ότι προσπελάστηκε οποιαδήποτε ιδιωτική πληροφορία» ή ότι κάποιο σύστημα παραβιάστηκε, ανέφερε η OpenAI.
Τον Σεπτέμβριο, ο ερευνητής Jacob Coxon, ο οποίος αποχώρησε από την Anthropic, ζήτησε να επιβραδυνθεί η ανάπτυξη της τεχνητής νοημοσύνης, ώστε να μπορέσουν να αξιολογηθούν κατάλληλα οι πιθανοί κίνδυνοί της.
Ο επικεφαλής της Anthropic, Dario Amodei, και ο διευθύνων σύμβουλος της OpenAI, Sam Altman, έχουν επίσης ζητήσει τη λήψη μέτρων για την αντιμετώπιση των ανησυχιών σχετικά με την τεχνητή νοημοσύνη.
Η παρέμβαση του Λευκού Οίκου και οι αντιδράσεις
Την Τρίτη, ο πρόεδρος των ΗΠΑ Ντόναλντ Τραμπ (Donald Trump) φιλοξένησε μια συνάντηση κορυφαίων στελεχών της τεχνολογίας - συμπεριλαμβανομένων ηγετών από την OpenAI, την Anthropic, την Nvidia, τη SpaceX, τη Meta και τη Google - για να συζητήσουν για την τεχνητή νοημοσύνη.
Μετά τη συνάντηση στον Λευκό Οίκο, ο Τραμπ δημοσίευσε ένα έγγραφο το οποίο χαρακτήρισε «ηθικά δεσμευτική» συμφωνία που θα χρησίμευε ως «μορφή προστασίας» από τους πιθανούς κινδύνους της τεχνητής νοημοσύνης.
Ορισμένοι ειδικοί της τεχνολογίας ασκούν κριτική στο σύμφωνο, επισημαίνοντας ότι επέτρεπε στις εταιρείες AI να αυτορυθμίζονται.
Ο Τραμπ έχει υποβαθμίσει επανειλημμένα τις ανησυχίες σχετικά με τους κινδύνους της τεχνητής νοημοσύνης σε απάντηση στις εκκλήσεις ορισμένων παραγόντων της βιομηχανίας για αυστηρότερη εποπτεία της τεχνολογίας.
Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το Skai.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
