Ο Ντέμης Χασάμπης έχει ξεκινήσει να προωθεί εδώ και μήνες την ιδέα ενός νέου, ανεξάρτητου φορέα που θα επιβλέπει την ασφάλεια των πιο προηγμένων συστημάτων τεχνητής νοημοσύνης, πριν από την πρόσφατη αλλαγή του ρόλου του στη Google DeepMind.
Σύμφωνα με δημοσίευμα της Wall Street Journal, ο συνιδρυτής της DeepMind είχε συζητήσει την πρότασή του με αξιωματούχους της κυβέρνησης του Ντόναλντ Τραμπ, μεταξύ άλλων με τον υπουργό Οικονομικών Σκοτ Μπέσεντ, αλλά και με επικεφαλής άλλων μεγάλων εργαστηρίων τεχνητής νοημοσύνης.
Οι επαφές αυτές είχαν προηγηθεί της ανακοίνωσης ότι ο Χασάμπης αποχωρεί από τη θέση του διευθύνοντος συμβούλου της Google DeepMind και αναλαμβάνει ρόλο προέδρου, παραμένοντας παράλληλα επικεφαλής επιστήμονας της Alphabet.
Η αποκάλυψη δίνει νέα διάσταση στην αλλαγή ηγεσίας στη DeepMind.
Η μετάβαση του ελληνοκυπριακής καταγωγής ιδρυτή της DeepMind, από την καθημερινή διοίκηση της εταιρείας ήρθε σε μια περίοδο κατά την οποία ο ίδιος φαίνεται να είχε μετατοπίσει σημαντικό μέρος της προσοχής του από τη διαχείριση των επιχειρησιακών δραστηριοτήτων στην ευρύτερη συζήτηση για το πώς θα ελεγχθούν οι κίνδυνοι από τα συστήματα τεχνητής νοημοσύνης επόμενης γενιάς.
Μια «FINRA για την τεχνητή νοημοσύνη»
Η πρόταση του Χασάμπη είχε παρουσιαστεί δημόσια στις 14 Ιουλίου, όταν δημοσίευσε το κείμενό του «A Framework for Frontier AI and the Dawning of a New Age» (σ.σ. Ένα πλαίσιο για την AI αιχμής και την αυγή μιας νέας εποχής).
Εκεί υποστήριξε ότι η τεχνητή γενική νοημοσύνη, δηλαδή συστήματα με γνωστικές ικανότητες που προσεγγίζουν ή ξεπερνούν τις ανθρώπινες σε ένα ευρύ φάσμα εργασιών, μπορεί να απέχει μόλις λίγα χρόνια.
Ο ίδιος χαρακτήρισε τη σημερινή περίοδο «πρόποδες της μοναδικότητας» και παρομοίασε τη σημασία της AGI περισσότερο με την ανακάλυψη της ηλεκτρικής ενέργειας ή της φωτιάς παρά με προηγούμενες ψηφιακές τεχνολογίες.
Για τον λόγο αυτό πρότεινε τη δημιουργία ενός Frontier AI Standards Body, ενός φορέα που θα καθορίζει πρότυπα ασφαλείας και θα αξιολογεί τα ισχυρότερα μοντέλα τεχνητής νοημοσύνης πριν από την κυκλοφορία τους.
Το μοντέλο που προτείνει είναι περισσότερο κοντά στη FINRA, την αμερικανική αυτορρυθμιζόμενη αρχή του χρηματοπιστωτικού κλάδου, παρά σε έναν κλασικό κρατικό ρυθμιστή. Η FINRA είναι ιδιωτικός, μη κερδοσκοπικός οργανισμός που χρηματοδοτείται από τον κλάδο και λειτουργεί υπό την εποπτεία της αμερικανικής Επιτροπής Κεφαλαιαγοράς (SEC).
Στο μοντέλο του Χασάμπη, τα κορυφαία εργαστήρια AI θα καλούνταν αρχικά να υποβάλλουν εθελοντικά τα μοντέλα τους στον νέο φορέα έως και 30 ημέρες πριν από την κυκλοφορία τους. Θα ακολουθούσαν δοκιμές για επικίνδυνες δυνατότητες, μεταξύ άλλων στον κυβερνοχώρο, στη βιολογία και σε συμπεριφορές εξαπάτησης ή παράκαμψης των μηχανισμών ασφαλείας.
Αν το σύστημα αποδεικνυόταν αποτελεσματικό, η εθελοντική συμμετοχή θα μπορούσε στη συνέχεια να μετατραπεί σε υποχρεωτική προϋπόθεση για την ανάπτυξη των λεγόμενων «frontier models» στην αμερικανική αγορά.
Ο ρόλος του Τραμπ και του Σκοτ Μπέσεντ
Ιδιαίτερη σημασία έχει το γεγονός ότι η πρωτοβουλία του Hassabis δεν περιορίστηκε σε δημόσιες δηλώσεις.
Σύμφωνα με το Axios, ο επικεφαλής της DeepMind είχε περάσει μήνες δημιουργώντας παρασκηνιακά υποστήριξη για την πρότασή του. Είχε ενημερώσει αξιωματούχους της κυβέρνησης Τραμπ, επικεφαλής ανταγωνιστικών εργαστηρίων και Ευρωπαίους αξιωματούχους προτού δημοσιοποιήσει το σχέδιο.
Ο ίδιος δήλωσε ότι οι αντιδράσεις από την αμερικανική κυβέρνηση ήταν «πολύ θετικές» και ότι στόχος του ήταν ο νέος φορέας να λειτουργήσει μέσα σε λίγους μήνες, ιδανικά πριν από το τέλος του 2026.
Παράλληλα, η πρόταση του Ντέμη Χασάμπη, συνέπεσε με μία ξεχωριστή πρωτοβουλία που εξετάζει ο Λευκός Οίκος και στην οποία έχει εμπλακεί ο υπουργός Οικονομικών Σκοτ Μπέσεντ.
Το Συμβούλιο Εξωτερικών Σχέσεων (CFR) σημειώνει ότι, λίγες ημέρες μετά τη δημοσιοποίηση της πρότασης του Χασάμπη, δημοσιεύματα ανέφεραν ότι ο Λευκός Οίκος εξέταζε πρόταση βασισμένη επίσης στο μοντέλο της FINRA, με συμμετοχή του Μπέσεντ.
Η σύγκλιση αυτή έχει ιδιαίτερη σημασία, καθώς δείχνει ότι η ιδέα μιας αυτορρυθμιζόμενης αλλά κρατικά εποπτευόμενης αρχής για τα ισχυρότερα μοντέλα AI έχει αρχίσει να αποκτά έδαφος στην Ουάσινγκτον.
Από την FINRA στον IAEA
Παρότι το άμεσο μοντέλο του Χασάμπη είναι η FINRA, η ευρύτερη φιλοδοξία του είναι μεγαλύτερη.
Ο ίδιος έχει εδώ και χρόνια υποστηρίξει ότι η τεχνητή νοημοσύνη χρειάζεται διεθνή μηχανισμό εποπτείας. Ήδη από το 2023 είχε μιλήσει για την ανάγκη ενός συστήματος που θα μπορούσε τελικά να μοιάζει με τον Διεθνή Οργανισμό Ατομικής Ενέργειας, ο οποίος επιβλέπει ζητήματα πυρηνικής ασφάλειας και προωθεί τη διεθνή συνεργασία στον συγκεκριμένο τομέα.
Η διαφορά είναι ότι σήμερα ο συνιδρυτής της DeepMind επιχειρεί να μετατρέψει αυτή τη γενική ιδέα σε συγκεκριμένη θεσμική πρόταση.
Το πρώτο βήμα θα ήταν ένας αμερικανικός, τεχνικά ανεξάρτητος οργανισμός που θα συνεργάζεται με την κυβέρνηση αλλά θα χρηματοδοτείται κυρίως από τη βιομηχανία. Στη συνέχεια, το μοντέλο θα μπορούσε να επεκταθεί διεθνώς.
Ο Χασάμπης έχει υποστηρίξει ότι οι κανόνες θα πρέπει να ισχύουν για όλα τα μοντέλα «frontier», ανεξάρτητα από τη χώρα προέλευσης ή από το αν είναι κλειστού ή ανοικτού κώδικα.
Η επικαιρότητα της λήψης της απόφασης
Η συζήτηση δεν γίνεται σε κενό. Οι τελευταίοι μήνες έχουν φέρει στην επιφάνεια περιστατικά που έχουν ενισχύσει τις ανησυχίες για τις δυνατότητες των προηγμένων μοντέλων.
Οι αμερικανικές αρχές βρέθηκαν πρόσφατα αντιμέτωπες με δύσκολες αποφάσεις σχετικά με την ασφάλεια προηγμένων μοντέλων, ενώ περιστατικά που αφορούν αυτόνομους AI agents και την ικανότητά τους να παρακάμπτουν δικλίδες ασφαλείας έχουν εντείνει την πίεση για συστηματικότερους ελέγχους.
Οι Financial Times σημειώνουν ότι οι πρόσφατες εξελίξεις έχουν μετατοπίσει τη συζήτηση από τον κίνδυνο της θεωρητικής «υπερνοημοσύνης» σε πιο άμεσα προβλήματα, όπως η κυβερνοασφάλεια, η βιοασφάλεια και η δυνατότητα αυτόνομων συστημάτων να ενεργούν χωρίς συνεχή ανθρώπινη επίβλεψη.
Την ίδια στιγμή, περισσότεροι από 1.300 ερευνητές και εργαζόμενοι στον χώρο της τεχνητής νοημοσύνης υπέγραψαν πρόσφατα ανοιχτή επιστολή ζητώντας διεθνή δράση και ισχυρότερους μηχανισμούς ασφαλείας, προειδοποιώντας ότι η κούρσα μεταξύ των εταιρειών μπορεί να αυξήσει τους κινδύνους.
Όταν ο κλάδος θα χρηματοδοτεί τον «επόπτη» του
Η πρόταση, ωστόσο, έχει ήδη προκαλέσει αρκετά ερωτήματα.
Το βασικό ζήτημα αφορά την ανεξαρτησία. Ένας φορέας που θα χρηματοδοτείται κυρίως από τις ίδιες εταιρείες που θα πρέπει να ελέγχει μπορεί να βρεθεί αντιμέτωπος με το πρόβλημα της «ρυθμιστικής αιχμαλωσίας», την κατάσταση κατά την οποία ο εποπτευόμενος κλάδος αποκτά υπερβολική επιρροή πάνω στον ρυθμιστή.
Αναλύσεις της πρότασης έχουν επισημάνει ακριβώς αυτό το ενδεχόμενο: οι μεγαλύτερες εταιρείες AI θα μπορούσαν να συμμετέχουν στη διαμόρφωση των αρχικών προτύπων, να χρηματοδοτούν τον οργανισμό και ταυτόχρονα να είναι εκείνες που θα αξιολογούνται από αυτόν.
Ένα ακόμη ερώτημα αφορά τον γεωπολιτικό χαρακτήρα της πρότασης.
Ο Χασάμπης θέλει ο μηχανισμός να έχει αμερικανική ηγεσία, αλλά ταυτόχρονα να αποκτήσει διεθνή εμβέλεια. Αυτό εγείρει το ζήτημα του κατά πόσο χώρες όπως η Κίνα θα αποδέχονταν ένα σύστημα στο οποίο οι βασικοί κανόνες και οι αρχικές υποδομές θα καθορίζονταν στις ΗΠΑ.
Κριτική έχει ασκηθεί επίσης από αναλυτές που θεωρούν ότι οι μεγάλες εταιρείες τεχνητής νοημοσύνης επιχειρούν να διαμορφώσουν οι ίδιες τους κανόνες πριν το πράξουν οι κυβερνήσεις.
Η συγκεκριμένη κριτική βλέπει στην πρόταση του Χασάμπη όχι μόνο μια προσπάθεια ενίσχυσης της ασφάλειας, αλλά και έναν τρόπο με τον οποίο οι ήδη κυρίαρχες εταιρείες του κλάδου θα μπορούσαν να αποκτήσουν μεγαλύτερη επιρροή στη διαμόρφωση των μελλοντικών κανόνων.
Η διαφορετική προσέγγιση από την Anthropic
Ο Χασάμπης δεν είναι ο μόνος επικεφαλής μεγάλης εταιρείας AI που ζητά αυστηρότερη εποπτεία. Ωστόσο, δεν συμφωνούν όλοι στον τρόπο.
Η Anthropic έχει υποστηρίξει μια πιο άμεση, κρατική προσέγγιση, με έναν μηχανισμό που θα μπορούσε να θυμίζει την Ομοσπονδιακή Υπηρεσία Αεροπορίας των ΗΠΑ (FAA), με μεγαλύτερη δυνατότητα παρέμβασης και, τελικά, μπλοκαρίσματος μοντέλων που θεωρούνται επικίνδυνα.
Η διαφορά είναι κρίσιμη: ο Χασάμπης προτείνει αρχικά ένα μοντέλο αυτορρύθμισης του κλάδου υπό κρατική εποπτεία, ενώ άλλες προσεγγίσεις ζητούν έναν πιο καθαρά κρατικό ρυθμιστή.
Από την πλευρά της κυβέρνησης Τραμπ, πάντως, η δημιουργία μιας κλασικής «FDA για την AI» έχει αντιμετωπιστεί με επιφυλακτικότητα.
Ο σύμβουλος του Λευκού Οίκου για την τεχνητή νοημοσύνη Sriram Krishnan έχει δηλώσει ότι δεν πρόκειται να δημιουργηθεί μια αντίστοιχη ομοσπονδιακή υπηρεσία με τον ρόλο της FDA.
Αυτό εξηγεί εν μέρει γιατί το μοντέλο της FINRA μπορεί να εμφανίζεται ως πολιτικά πιο εύπεπτη λύση στην Ουάσινγκτον.
Η αλλαγή στη DeepMind και η νέα αποστολή του Χασάμπη
Η χρονική συγκυρία κάνει την πρωτοβουλία ακόμη πιο ενδιαφέρουσα. Και αυτό γιατί ο Χασάμπης δεν βρίσκεται πλέον στην ίδια επιχειρησιακή θέση που κατείχε μέχρι πρόσφατα.
Μετά την αναδιάρθρωση της Google, ο ίδιος μετακινήθηκε από την καθημερινή διοίκηση της DeepMind στη θέση του προέδρου, ενώ ο Koray Kavukcuoglu ανέλαβε την επιχειρησιακή ηγεσία. Ο Ντέμης Χασάμπης παραμένει, ωστόσο, κεντρικό πρόσωπο στη στρατηγική της Alphabet για την τεχνητή νοημοσύνη.
Η αλλαγή ήρθε σε μια περίοδο αυξανόμενης πίεσης στη Google, καθώς η εταιρεία ανταγωνίζεται στενά την OpenAI και την Anthropic, ενώ αντιμετωπίζει καθυστερήσεις σε νέα μοντέλα και απώλειες κορυφαίων ερευνητών.
Έτσι, η προσπάθεια του Χασάμπη για τη δημιουργία ενός νέου θεσμού μπορεί να εξελιχθεί σε μία από τις σημαντικότερες δραστηριότητές του στη νέα φάση της καριέρας του.
Το ερώτημα πλέον δεν είναι αν η τεχνητή νοημοσύνη χρειάζεται κανόνες.
Η συζήτηση έχει ήδη μετατοπιστεί στο ποιος θα γράψει αυτούς τους κανόνες, ποιος θα ελέγχει τους ελεγκτές και ποιος θα έχει την εξουσία να σταματήσει ένα μοντέλο πριν αυτό φτάσει στην αγορά.
Ο Χασάμπης θέλει η απάντηση να ξεκινήσει από τις ΗΠΑ, με έναν φορέα που θα συνδυάζει την τεχνική τεχνογνωσία της βιομηχανίας με την κρατική εποπτεία και θα μπορούσε τελικά να εξελιχθεί σε διεθνή μηχανισμό. Η πρόκληση είναι ότι όσο ισχυρότερα γίνονται τα μοντέλα, τόσο πιο δύσκολο γίνεται να διαχωριστούν η ασφάλεια, η οικονομική ισχύς και η γεωπολιτική επιρροή.
Και αυτός ακριβώς είναι ο λόγος που η πρόταση του συνιδρυτή της DeepMind έχει ήδη μετατραπεί από μια συζήτηση για την τεχνική ασφάλεια της AI σε μια πολύ μεγαλύτερη συζήτηση για το ποιος θα κυβερνά την τεχνητή νοημοσύνη της επόμενης δεκαετίας.
Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το Skai.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.