Ο αντιπρόεδρος των ΗΠΑ Τζέι Ντι Βανς απέρριψε τις εκκλήσεις για παγκόσμια ρύθμιση των κινδύνων ασφαλείας της Τεχνητής Νοημοσύνης (ΤΝ), λέγοντας στις εταιρείες που δημιουργούν τα πιο προηγμένα μοντέλα: «Αν φτιάχνετε τον Φρανκενστάιν, σταματήστε».
Σε δηλώσεις που απευθύνονταν στον Ντάριο Αμοντέι, συνιδρυτή της Anthropic, ο οποίος έχει καλέσει την Ουάσινγκτον να συντονίσει τον έλεγχο των συστημάτων ΤΝ -ακόμη και σε συνεργασία με τη Κίνα- ο Τζέι Ντι Βανς δήλωσε: «Αν πρόκειται να δημιουργήσετε τον Φρανκενστάιν, μην έρχεστε στην κυβέρνηση λέγοντας ότι χρειαζόμαστε ρυθμιστικό πλαίσιο».
Είπε ότι τα στελέχη της τεχνολογίας θα πρέπει αντίθετα να: «Κοιτάξουν μέσα τους και να αποδεχτούν ότι αν φτιάχνετε τον Φρανκενστάιν, Νο 1, θα πρέπει να σταματήσετε και, Νο 2, όταν οι εταιρείες έρχονται σε εσάς και λέτε: "Χρειαζόμαστε τα εργαλεία για να πολεμήσουμε τον Φρανκενστάιν", να τους δώσετε αυτά τα εργαλεία».
Προειδοποιήσεις για υπαρξιακή απειλή από την Anthropic
Ο Βανς μιλούσε σε σύνοδο κορυφής για την ΤΝ στο Λος Άντζελες μετά από μια εβδομάδα αυξανόμενης παγκόσμιας ανησυχίας για τους κινδύνους που εγκυμονεί για την ανθρωπότητα η προοπτική δημιουργίας μιας τεχνητής υπερνοημοσύνης -μιας τεχνολογίας που δεν υπάρχει ακόμη.
Ο Αμοντέι προειδοποίησε το Σάββατο ότι ο επιταχυνόμενος ρυθμός δυνατοτήτων σημαίνει ότι ένα σμήνος από πράκτορες ΤΝ «θα μπορούσε να είναι ικανό να καταλάβει ολόκληρο το διαδίκτυο» σε διάστημα έξι έως 12 μηνών.
Παρόλο που πολλοί αμφισβητούν αυτόν τον ισχυρισμό, έδωσε τροφή στην εκτίμηση του επικεφαλής επιστήμης ευθυγράμμισης (alignment) της Anthropic, Έβαν Χούμπινγκερ, ότι υπάρχει πιθανότητα μεγαλύτερη του 10% η ΤΝ να εξαλείψει όλους τους ανθρώπους μέσα σε 10 χρόνια. Ο ίδιος απαντούσε στον ερευνητή Τζέικομπ Κόξον, ο οποίος παραιτήθηκε από την Anthropic με μια παρόμοια προειδοποίηση.
Το βράδυ της Τρίτης, ο Κόξον έδωσε μια αναθεωρημένη πρόγνωση: «Πιστεύω πράγματι ότι αν πάμε πιο αργά μπορούμε να μειώσουμε τον κίνδυνο στο 0%, αλλά αυτό απαιτεί ριζοσπαστική δράση». Παραδέχτηκε επίσης ότι «είναι πολύ δύσκολο να μεταδοθούν συγκεκριμένα σενάρια» στα οποία η ΤΝ σκοτώνει όλους τους ανθρώπους και πρόσθεσε: «Πρέπει να δουλέψω στον τρόπο επικοινωνίας αυτού του σημείου».
Η διαφωνία με τον Ντόναλντ Τραμπ
Η προθυμία του Βανς να εξετάσει το ενδεχόμενο η ΤΝ να συνιστά πραγματικό κίνδυνο σηματοδότησε μια διαφοροποίηση από τον πρόεδρο των ΗΠΑ, Ντόναλντ Τραμπ, ο οποίος έγραψε αυτή την εβδομάδα: «Το σενάριο η ΤΝ να καταλάβει τον κόσμο, να καταστρέψει την ανθρωπότητα και όλα τα άλλα κακά, είναι μια ΑΠΑΤΗ». Ο Τραμπ ανάρτησε στα μέσα κοινωνικής δικτύωσης ότι η ΤΝ πρόκειται να είναι «μηχανή της μεγαλύτερης οικονομικής ανάπτυξης στην ιστορία – μεγαλύτερη από το πετρέλαιο, τον χρυσό, τα διαμάντια ή ακόμα και το διαδίκτυο».
Υποψίες για «Δούρειο Ίππο» και ρυθμιστικά παιχνίδια
Ο Βανς ανέφερε ότι υποπτεύεται πως ηγέτες του κλάδου της ΤΝ κρούουν τον κώδωνα του κινδύνου για θέματα ασφαλείας ως «Δούρειο Ίππο». Ο Αμοντέι έχει προτείνει βιομηχανικό συντονισμό για «να επιβραδυνθεί ο ρυθμός με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων ΤΝ» ενόσω εφαρμόζεται αμερικανική και παγκόσμια ρύθμιση.
Όσοι ασκούν κριτική στις εταιρείες θεωρούν ότι ενθαρρύνουν την κυβέρνηση των ΗΠΑ να θεσπίσει αυστηρούς νέους κανόνες -διαμορφωμένους στα συμφέροντά τους- οι οποίοι θα μπορούσαν να περιορίσουν τον ευρύτερο ανταγωνισμό, μια τακτική γνωστή ως «ρυθμιστική σύλληψη».
Περιστατικά παραβιάσεων και η θέση της OpenAI
Η OpenAI, η οποία έχασε τον έλεγχο εκατοντάδων πρακτόρων ΤΝ κατά τη διάρκεια δοκιμών αυτό το καλοκαίρι -οι οποίοι στη συνέχεια «συνωμότησαν» για να χακάρουν τον ιστότοπο Hugging Face- δήλωσε τη Δευτέρα ότι υποστηρίζει τις διακομματικές προσπάθειες νομοθετών στην Ουάσινγκτον για την αντιμετώπιση καταστροφικών κινδύνων από την ΤΝ και ότι συντονίζεται με τη Google και την Anthropic.
Την Τετάρτη, το Reuters μετέδωσε ισχυρισμούς του ανεξάρτητου ερευνητή Γιόνας Βίντερμαν-Μέλερ, σύμφωνα με τους οποίους οι αυτόνομοι πράκτορες της OpenAI είχαν αρχίσει να εξετάζουν το Hugging Face για ευάλωτα σημεία σχεδόν δύο μήνες πριν από την επίθεση.
Πηγή: skai.grΔιαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το Skai.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
