Στέλεχος της OpenAI με αρμοδιότητα σε θέματα ασφάλειας παραιτήθηκε από την εταιρεία, προειδοποιώντας ότι η κουλτούρα της είναι «διαλυμένη» και ότι οι εταιρείες τεχνητής νοημοσύνης δεν είναι «ούτε κατά διάνοια αρκετά προσεκτικές» ως προς την ανάπτυξη της τεχνολογίας.
Ο Ντέιβιντ Ρόμπινσον, ο οποίος ήταν επικεφαλής της σύνταξης των υπομνημάτων ασφαλείας που συνόδευαν τις κυκλοφορίες προϊόντων της εταιρείας πίσω από το ChatGPT, εξήγησε τους λόγους της παραίτησής του σε έκθεση με τίτλο «Παραιτήθηκα από την OpenAI επειδή η κουλτούρα της είναι δυσλειτουργική».
Ο Ρόμπινσον υποστήριξε ότι απαιτείται βαθιά αλλαγή κουλτούρας στις εταιρείες που βρίσκονται στην αιχμή της ανάπτυξης της τεχνητής νοημοσύνης, σημειώνοντας ότι περιστατικά όπως η επίθεση ενός «σμήνους» πρακτόρων της OpenAI - προγραμμάτων τεχνητής νοημοσύνης που λειτουργούν αυτόνομα χωρίς ανθρώπινη επίβλεψη - εναντίον της startup τεχνητής νοημοσύνης Hugging Face είναι «χαρακτηριστικά του κλάδου, δεδομένης της ταχύτητας και της ευελιξίας με την οποία λειτουργούν οι άνθρωποι».
Γράφοντας στο περιοδικό Atlantic, ανέφερε: «Συμφωνώ με άλλα στελέχη που αποχώρησαν πρόσφατα ότι οι εταιρείες που αναπτύσσουν αυτή την τεχνολογία δεν είναι ούτε κατά διάνοια αρκετά προσεκτικές. Πιστεύω όμως ότι πρέπει να κοιτάξουμε βαθύτερα από συγκεκριμένους κανόνες ή νέους νόμους. Πρέπει να μιλήσουμε για την κουλτούρα».
Αναφερόμενος στον ρυθμό ανάπτυξης της OpenAI, έγραψε: «Καθώς η εταιρεία τρέχει από τη μία κυκλοφορία στην επόμενη, αποτυγχάνει να επιτύχει το επίπεδο προσοχής που, κατά τη γνώμη μου, απαιτείται».
Ενδείξεις μεγαλύτερης επιφυλακτικότητας
Η OpenAI, πάντως, έχει δείξει τις τελευταίες εβδομάδες ορισμένα σημάδια μεγαλύτερης προσοχής, μετά το περιστατικό με τη Hugging Face και την αποκάλυψη ότι έχει ενημερώσει περισσότερους από 100 οργανισμούς για δραστηριότητα μη ελεγχόμενων πρακτόρων.
Αυτή την εβδομάδα ανακοίνωσε ότι ακυρώνει την κυκλοφορία μοντέλου τεχνητής νοημοσύνης επόμενης γενιάς, αφού ερευνητές εξέφρασαν ανησυχίες για την ασφάλεια κατά τη διάρκεια εσωτερικών δοκιμών. Η OpenAI έχει επίσης αναστείλει την εκπαίδευση των πιο προηγμένων μοντέλων της.
Προειδοποίηση για τους κινδύνους της τεχνητής νοημοσύνης απηύθυνε το Σάββατο και ο Τζέφρι Ίρβινγκ, ο οποίος είχε εργαστεί στην OpenAI και είχε διατελέσει επικεφαλής επιστήμονας στο Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης της βρετανικής κυβέρνησης, πριν ενταχθεί στην εταιρεία έρευνας για την ασφάλεια της AI Resolution.
Γράφοντας στο Time, ανέφερε: «Οι πρόσφατες προειδοποιήσεις για τη δυνητικά καταστροφική ισχύ της τεχνητής νοημοσύνης υποτιμούν τη σοβαρότητα της κατάστασης. Πιστεύω ότι υπάρχει περίπου 50% πιθανότητα να πεθάνουμε όλοι εξαιτίας της ανάπτυξης συστημάτων τεχνητής νοημοσύνης εξυπνότερων από τον άνθρωπο και ότι οι ενέργειές μας μέσα στα επόμενα δύο έως δέκα χρόνια θα καθορίσουν το αποτέλεσμα».
Νέες αποχωρήσεις και προειδοποιήσεις στον κλάδο
Το κείμενο του Ρόμπινσον ακολουθεί την παραίτηση του Τζέικομπ Κόξον, ερευνητή στην Anthropic, ανταγωνίστρια της OpenAI, ο οποίος αποχώρησε τον περασμένο μήνα από την εταιρεία που αναπτύσσει το chatbot Claude.
Ο Κόξον προειδοποίησε ότι η τεχνητή νοημοσύνη «θα μπορούσε να μας σκοτώσει όλους έως το τέλος της δεκαετίας», ενώ στη συνέχεια η Anthropic προειδοποίησε ότι υπάρχει πιθανότητα άνω του 10% η τεχνητή νοημοσύνη να εξαφανίσει την ανθρωπότητα μέσα στην επόμενη δεκαετία.
Επικριτές τέτοιων προειδοποιήσεων έχουν, ωστόσο, επισημάνει ότι οι εκτιμήσεις αυτές δεν είναι επιστημονικές, καθώς δεν μπορούν ούτε να επαληθευτούν ούτε να διαψευστούν.
Ο Ρόμπινσον έγραψε ακόμη ότι η Silicon Valley στερείται επίγνωσης σχετικά με το «πώς πρέπει να διαχειρίζεται κανείς επικίνδυνη τεχνολογία» και «τι σημαίνει να νοιάζεσαι για τους ανθρώπους».
Προειδοποίησε επίσης ότι η OpenAI διακατέχεται από «απρόσκοπτη αισιοδοξία» ως προς την ικανότητά της να επιλύει τα προβλήματα καθώς αυτά προκύπτουν, υποστηρίζοντας ότι αυτή η εσωτερική κουλτούρα θα οδηγήσει σε ολοένα μεγαλύτερες αστοχίες ασφαλείας όσο τα συστήματα γίνονται πιο ισχυρά.
«Φανταστείτε “ανεξέλεγκτους” πράκτορες που λειτουργούν σαν ομάδες χάκερ - για παράδειγμα, κρατώντας για λύτρα τα πληροφοριακά συστήματα νοσοκομείων - αλλά δεν χρειάζονται ποτέ ύπνο», έγραψε.
«Να λειτουργούν όπως πυρηνικοί σταθμοί και πολυσύχναστα αεροδρόμια»
Ο Ρόμπινσον πρότεινε δύο βασικές αλλαγές στον τομέα της ασφάλειας: οι εταιρείες τεχνητής νοημοσύνης να αξιοποιήσουν την εμπειρία άλλων κλάδων υψηλού κινδύνου, όπως η πυρηνική ενέργεια και η αεροπορία, και να αναπτύξουν μια «νέα επιστήμη» που θα διασφαλίζει ότι τα ισχυρά συστήματα του μέλλοντος θα μπορούν να τίθενται υπό έλεγχο όταν λειτουργούν αυτόνομα.
«Δεδομένων των σημερινών κινδύνων, τα εργαστήρια αιχμής πρέπει να λειτουργούν όπως οι πυρηνικοί σταθμοί ή τα πολυσύχναστα αεροδρόμια, με πολλαπλά επίπεδα δικλίδων ασφαλείας και προσεκτικό, χρονοβόρο σχεδιασμό, ώστε το περιστασιακό και αναπόφευκτο ανθρώπινο λάθος να μην ανοίγει τον δρόμο προς την καταστροφή», έγραψε.
Εκπρόσωπος της OpenAI δήλωσε ότι η εταιρεία συνεχίζει να «ενισχύει τις πρακτικές ασφάλειας και προστασίας για την αντιμετώπιση των κινδύνων που βλέπουμε σήμερα», ενώ παράλληλα εργάζεται για την αντιμετώπιση των κινδύνων που ενδέχεται να δημιουργήσουν μελλοντικές εξελίξεις στην τεχνητή νοημοσύνη.
«Φροντίζουμε ώστε τα μοντέλα μας να μη γίνουν πιο ικανά απ’ όσο μπορούμε να τα διαχειριστούμε και να τα προστατεύσουμε με ασφάλεια, και διακόπτουμε την εκπαίδευση ή αναβάλλουμε την κυκλοφορία μοντέλων όταν χρειάζεται να επιβραδύνουμε», ανέφερε ο εκπρόσωπος της εταιρείας.
Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το Skai.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
