Πολύ ισχυρότερα μοντέλα τεχνητής νοημοσύνης βρίσκονται προ των πυλών και οι δυνατότητές τους θα αναγκάσουν ολόκληρο τον κλάδο να κινηθεί με μεγαλύτερη προσοχή, προειδοποιεί ο διευθύνων σύμβουλος της OpenAI, Σαμ Άλτμαν, δηλώνοντας ότι τα συστήματα AI αποκτούν ήδη «υπεράνθρωπες» ικανότητες και ότι «πλέουμε σε αχαρτογράφητα νερά».
Σε συνέντευξή του στο Axios, στο περιθώριο της συνόδου καινοτομίας της G20, ο Άλτμαν έδωσε μια πρόγευση της ισχύος αλλά και των κινδύνων της επόμενης γενιάς μοντέλων, ανάμεσά τους και το Astra της OpenAI, το οποίο αναμένεται να κυκλοφορήσει από μέρα σε μέρα.
«Πιστέψτε μας όταν λέμε ότι πολύ σύντομα έρχονται πολύ, πολύ, πολύ πιο ικανά μοντέλα», δήλωσε.
«Η επόμενη γενιά μοντέλων θα είναι μια ψυχρολουσία για όλους. [...] Νομίζω ότι κανείς που βλέπει με ειλικρίνεια όσα συμβαίνουν δεν μπορεί να μην αισθανθεί το βάρος της ευθύνης που έχουμε», πρόσθεσε.
«Αποκτούν υπεράνθρωπες δυνατότητες»
Οι δηλώσεις του Άλτμαν έρχονται σε μια περίοδο κατά την οποία ορισμένες από τις πλέον επιδραστικές φωνές στον χώρο της τεχνητής νοημοσύνης προειδοποιούν για ακόμη πιο ανησυχητικές συμπεριφορές των συστημάτων AI μέσα στις επόμενες εβδομάδες ή τους επόμενους μήνες.
«Αυτά τα μοντέλα αποκτούν υπεράνθρωπες δυνατότητες σε πολλούς τομείς και εμείς απλώς πλέουμε σε αχαρτογράφητα νερά», ανέφερε ο Άλτμαν.
Ο επικεφαλής της OpenAI βρίσκεται υπό αυξημένη πίεση μετά τη σοβαρή παραβίαση ασφαλείας κατά την οποία μια ομάδα ΑΙ agents της εταιρείας ξέφυγε από τον έλεγχο στη διάρκεια δοκιμών και χάκαρε τη Hugging Face.
Μετά το περιστατικό, ο Άλτμαν εκτιμά ότι διαμορφώνεται μια νέα πραγματικότητα για τον κλάδο: εταιρείες όπως η OpenAI ενδέχεται να χρειάζεται να καθυστερούν την κυκλοφορία νέων μοντέλων, ώστε οι μηχανισμοί ελέγχου και ασφάλειας να μπορούν να συμβαδίζουν με τις ταχύτατα αυξανόμενες δυνατότητές τους.
«Υποψιάζομαι ότι από εδώ και πέρα ο ρυθμός μας θα καθορίζεται από το πόσο γρήγορα μπορούμε να σημειώνουμε πρόοδο στην ευθυγράμμιση και την ασφάλεια», δήλωσε.
Astra: «Θα εφευρίσκει πραγματικά νέα πράγματα»
Σε παρουσίαση του Astra για επιλεγμένους πελάτες, την οποία παρακολούθησε ο δημοσιογράφος τεχνολογίας Άλεξ Χιθ, ο Άλτμαν προχώρησε ακόμη περισσότερο, υποστηρίζοντας ότι το νέο μοντέλο μπορεί να διαθέτει χαρακτηριστικά που παραπέμπουν σε τεχνητή γενική νοημοσύνη (AGI).
«Περιμένω ότι αυτό θα είναι το πρώτο μοντέλο που θα εφευρίσκει πραγματικά νέα πράγματα με τρόπο που έχει ουσιαστική σημασία. [...] Αυτό είναι κάτι που παραπέμπει πολύ σε AGI», δήλωσε χαρακτηριστικά.
Την ίδια ώρα, ο Ντιν Μπολ, πρώην αξιωματούχος της κυβέρνησης Τραμπ και σήμερα επικεφαλής στρατηγικών προοπτικών στην OpenAI, δημοσίευσε υπόμνημα με τίτλο «Εκτός ελέγχου: Έρχεται η εποχή των agents χωρίς χρήστη», στο οποίο προβλέπει την εμφάνιση «κυρίαρχων agents».
«Τα "βάρη" (σ.σ. οι αριθμητικές τιμές που καθορίζουν πόση βαρύτητα ή σημασία δίνει το σύστημα σε μια πληροφορία) τους δεν θα βρίσκονται σε ένα και μοναδικό σημείο όπου ένας άνθρωπος θα μπορεί να τραβήξει την πρίζα και, υπό αυτή την έννοια, δεν θα έχουν κανέναν άνθρωπο-“ιδιοκτήτη”», γράφει ο Μπολ.
Προσθέτει μάλιστα ότι τέτοια συστήματα θα μπορούσαν να προβούν σε πράξεις που «κάποια μέρα θα θεωρούνται εγκλήματα ή, τουλάχιστον, βαριά αμαρτήματα».
Ο Άλτμαν, από την πλευρά του, δήλωσε στον Άλεξ Χιθ ότι θέλει η OpenAI να θεωρείται «η πιο υπεύθυνη εταιρεία» και «καλός θεματοφύλακας της τεχνολογίας».
Ο συνιδρυτής και διευθύνων σύμβουλος της OpenAI ταξίδεψε στο Τσάπελ Χιλ για να μεταφέρει το ίδιο μήνυμα σε διεθνές ακροατήριο, συνομιλώντας με τον υπουργό Εμπορίου Χάουαρντ Λούτνικ σε γεύμα στο πλαίσιο συνόδου των κορυφαίων υπουργών καινοτομίας και τεχνολογίας του κόσμου.
«Δεν θέλω να γίνω υπερβολικά καταστροφολόγος», δήλωσε στο Axios λίγο πριν μιλήσει στη σύνοδο.
«Μέχρι στιγμής όλα έχουν πάει αρκετά καλά. Έχουν πάει καλύτερα απ’ όσο πίστευε ο κόσμος ότι θα πήγαιναν. [...] Μέχρι τώρα έχουμε ανταποκριθεί στην πρόκληση σε κάθε βήμα. Η πρόκληση γίνεται δυσκολότερη όσο τα μοντέλα αποκτούν μεγαλύτερες δυνατότητες και μεγαλύτερη σημασία, αλλά έχουμε επίσης καλύτερα εργαλεία για να τη διαχειριστούμε».
Μιλώντας μαζί με τον Λούτνικ, ο Άλτμαν χρησιμοποίησε τον όρο «πραγματιστές κεντρώοι» για να περιγράψει τη στάση που, όπως είπε, θέλει να ακολουθήσει η OpenAI απέναντι στις εξελίξεις στην τεχνητή νοημοσύνη.
«Είμαστε οι πραγματιστές κεντρώοι. Θέλουμε να μιλάμε με ακρίβεια για όσα βλέπουμε να έρχονται στο μέλλον. Δεν θέλουμε να πέσουμε στην παγίδα της τυφλής αισιοδοξίας. Ούτε στην καταστροφολογία».
«Θέλουμε να πετύχει ολόκληρη η παγκόσμια οικονομία», πρόσθεσε. «Δεν θέλουμε να είμαστε η μοναδική εταιρεία. Δεν θέλουμε να απορροφήσουμε όλη την αξία. Δεν πιστεύουμε ότι κάτι τέτοιο θα ήταν καλό για την παγκόσμια σταθερότητα».
«Είμαστε ξεκάθαρα και υπερήφανα με την πλευρά της ανθρωπότητας. [...] Πιστεύουμε ότι οι άνθρωποι πρέπει να βρίσκονται στο επίκεντρο της οικονομίας, της κοινωνίας και της παγκόσμιας λήψης αποφάσεων και ότι το μέλλον πρέπει να το καθορίζουν οι άνθρωποι, όχι η τεχνητή νοημοσύνη».
Επανερχόμενος στο περιστατικό με τη Hugging Face, ο Άλτμαν σημείωσε ότι δεν θα το αντιμετώπιζε ως «ένα μεμονωμένο περιστατικό στο οποίο οι άνθρωποι μπορούν να προβάλλουν κάθε είδους συμπεράσματα».
«Θα έλεγα, αντίθετα, ότι -με δεδομένο πόσο γρήγορα προοδεύουμε, ότι αυτά τα μοντέλα αποκτούν υπεράνθρωπες δυνατότητες σε πολλούς τομείς και ότι πλέουμε σε αχαρτογράφητα νερά- απαιτούνται εξαιρετικά μεγάλη προσοχή και σύνεση».
Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το Skai.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.