Η OpenAI ανέστειλε την εκπαίδευση των προηγμένων μοντέλων της μετά τις παραβιάσεις

Η OpenAI ανακοίνωσε πως ανέστειλε την εκπαίδευση των πιο προηγμένων μοντέλων τεχνητής νοημοσύνης της, μετά τις παράνομες ενέργειες στις οποίες προέβησαν οι πράκτορες AI, παραβιάζοντας ιστότοπους.

Η απόφαση για τη διακοπή της ανάπτυξης ελήφθη λίγες ώρες αφότου η εταιρεία αποκάλυψε την Παρασκευή ότι εξετάζει διάφορα περιστατικά που συνέβησαν το καλοκαίρι, κατά τα οποία πράκτορες της OpenAI που πραγματοποιούσαν αναζητήσεις σε ιστότοπους της αμερικανικής κυβέρνησης ενήργησαν με απροσδόκητο τρόπο, υπερβαίνοντας τα όρια των εντολών που τους είχαν δοθεί κατά τη συλλογή και τη διανομή πληροφοριών.

Επίσης, η εταιρεία αξιολόγησης τεχνητής νοημοσύνης Transluce ανέφερε ότι πράκτορες που φαινόταν να προέρχονται από την OpenAI προσπάθησαν ανεπιτυχώς να παραβιάσουν έναν ιστότοπο του υπουργείου Παιδείας των ΗΠΑ, γεγονός που η OpenAI δεν έχει επιβεβαιώσει.

Η OpenAI δήλωσε σε ανακοίνωσή της ότι θα επαναλάβει την εκπαίδευση «μόνο όταν είμαστε σίγουροι ότι διαθέτουμε πρόσθετα μέτρα ασφαλείας», προσθέτοντας ότι μπορεί να χρειαστεί να «πατήσει το κουμπί παύσης» ξανά, καθώς η τεχνητή νοημοσύνη εξελίσσεται και ανακύπτουν άλλα ζητήματα.

Την περασμένη εβδομάδα, ο πρωθυπουργός της Αυστραλίας, Άντονι Αλμπανέζι, αποκάλυψε ότι πράκτορες της OpenAI είχαν παραβιάσει το εθνικό σύστημα υγείας της κυβέρνησης, επισημαίνοντας πάντως πως δεν διέρρευσαν ευαίσθητες πληροφορίες.

Οι εταιρείες τεχνητής νοημοσύνης δέχονται πιέσεις από κράτη και ειδικούς στον τομέα της τεχνολογίας να επιβραδύνουν την ανάπτυξη, ώστε να μπορέσουν να δημιουργήσουν μηχανισμούς προστασίας που θα εμποδίζουν τους πράκτορες να ενεργούν αυτόνομα, να παραβιάζουν ιστότοπους και να αποκαλύπτουν απόρρητες πληροφορίες. Οι επικεφαλής τόσο της OpenAI όσο και της ανταγωνιστικής Anthropic έχουν επίσης ζητήσει την επιβράδυνση της ανάπτυξης, αναφέρει ο Guardian.

Αυτή είναι η δεύτερη φορά σε τρεις μήνες που η OpenAI αναστέλλει την ανάπτυξη των μοντέλων της. Η πρώτη φορά ήταν τον Ιούλιο, μετά την αποκάλυψη μιας κυβερνοεπίθεσης εναντίον της νεοφυούς εταιρείας τεχνητής νοημοσύνης Hugging Face.

Σε συνάντηση με τον Κινέζο πρόεδρο Σι Τζινπίνγκ αυτή την εβδομάδα, ο Ντόναλντ Τραμπ συμφώνησε να μοιραστεί πληροφορίες σχετικά με τους κινδύνους της τεχνητής νοημοσύνης και να συντονίσει τις προσπάθειες για τη διασφάλιση της ασφάλειάς της. Ο Τραμπ πιστεύει, ωστόσο, ότι οι φόβοι για την τεχνητή νοημοσύνη είναι υπερβολικοί και άφησε να εννοηθεί ότι δεν σχεδιάζει να λάβει δικά του μέτρα καταστολής.

«Οι ΗΠΑ δεν πρόκειται να πατήσουν φρένο», απάντησε ο Τραμπ στους δημοσιογράφους έξω από τον Λευκό Οίκο. «Θέλουν να σταματήσουν την πρόοδό μας επειδή προηγούμαστε κατά πολύ της Κίνας, και θα συνεχίσουμε να το κάνουμε αυτό», τόνισε.

Τα πρόσφατα περιστατικά που αφορούσαν την OpenAI δεν φαίνεται να περιλάμβαναν τη διαρροή μη δημόσιων πληροφοριών, αλλά ήταν αρκετά ανησυχητικά ώστε η εταιρεία να προειδοποιήσει τις εμπλεκόμενες ομοσπονδιακές υπηρεσίες.

Στο περιστατικό που αφορούσε το υπουργείο Παιδείας, υπάλληλοι της OpenAI εντόπισαν «κλειδιά προγραμματιστή» (API keys) για την πρόσβαση σε κυβερνητικά δεδομένα, αν και τελικά συλλέχθηκαν μόνο πληροφορίες που ήταν διαθέσιμες στο κοινό.

Σε μια άλλη περίπτωση που αφορούσε την Επιτροπή Κεφαλαιαγοράς (SEC), υπάλληλοι εντόπισαν πληροφορίες που ήταν ελεύθερα διαθέσιμες σε όλους να βρίσκονται σε άλλους ιστότοπους.

Αρκετές ακόμη εταιρείες τεχνητής νοημοσύνης έχουν αποκαλύψει περιστατικά κατά τα οποία τα μοντέλα τους ξέφυγαν από τον έλεγχο και μάλιστα παραβίασαν ιστότοπους.

Ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, ανέφερε σε ανάρτησή του στα μέσα κοινωνικής δικτύωσης την Παρασκευή ότι το περιστατικό με την Hugging Face «παραμένει το πιο σοβαρό περιστατικό που έχουμε δει».

Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το Skai.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.