Δύο νέες ανησυχητικές ειδήσεις, στο εν πολλοίς ανεξερεύνητο ακόμη πεδίο της Τεχνητής Νοημοσύνης, έγιναν γνωστές τις τελευταίες ώρες και συνέπεσαν χρονικά. Αφορούν δύο «γίγαντες» της AI, την Anthropic και την OpenAI.
Anthropic: «Υπαρξιακοί κίνδυνοι για την ανθρωπότητα»
Σύμφωνα με τους FT, η Anthropic προειδοποίησε επίσημα τους επενδυτές ότι η τεχνολογία της ενδέχεται να ενέχει «υπαρξιακούς κινδύνους για την ανθρωπότητα», σε ένα πολυαναμενόμενο ενημερωτικό δελτίο για την αρχική δημόσια προσφορά (IPO) που γνωστοποίησε σε μια μικρή ομάδα συνεργατών τις τελευταίες ημέρες.
Η startup τεχνητής νοημοσύνης (AI) -με αποτίμηση που πλησιάζει το 1 τρισ. δολάρια- με επικεφαλής τον Ντάριο Αμοντέι αφιέρωσε σχεδόν το ένα τρίτο του εκτενούς εγγράφου S-1 στην αναλυτική περιγραφή των «παραγόντων κινδύνου», συμπεριλαμβανομένης της πιθανότητας τα ολοένα και πιο εξελιγμένα μοντέλα AI να προβαίνουν σε χειραγώγηση, εκβιασμούς και άλλες απρόβλεπτες συμπεριφορές.
Η Anthropic περιέγραψε επίσης πιο συμβατικούς κινδύνους, όπως η υπερβολική συγκέντρωση της πελατειακής της βάσης, καθώς σχεδόν το ένα τέταρτο των εσόδων της περασμένης χρονιάς προήλθε από μόλις δύο πελάτες, σύμφωνα με άτομα που γνωρίζουν το περιεχόμενο του εγγράφου.
Οι ασυνήθιστες αυτές προειδοποιήσεις σχετικά με τους κινδύνους περιπλέκουν το έργο των επενδυτών όσον αφορά την αποτίμηση του κορυφαίου αμερικανικού ομίλου AI, ενόψει της δρομολογούμενης εισαγωγής του στο χρηματιστήριο —μια κίνηση που αναμένεται να αποτελέσει την IPO με την υψηλότερη αποτίμηση όλων των εποχών.
Η εταιρεία πίσω από το Claude έδωσε επίσης στους επενδυτές μια σαφέστερη εικόνα για τις απαιτητικές οικονομικές παραμέτρους που συνεπάγεται η ανάπτυξη μοντέλων AI αιχμής, ενόψει της εισαγωγής της στον δείκτη Nasdaq το φθινόπωρο.
Η Anthropic ανακοίνωσε ότι σχεδιάζει να δαπανήσει 518 δισ. δολάρια για υποχρεώσεις που αφορούν το cloud, την υπολογιστική ισχύ και τις υποδομές κατά τα επόμενα έτη, προκειμένου να στηρίξει την ταχεία ανάπτυξή της.
Οι επενδυτές της εκφράζουν την πεποίθηση ότι η Anthropic μπορεί να εισαχθεί στο χρηματιστήριο με αποτίμηση άνω των 2 τρισ. δολαρίων —ποσό υπερδιπλάσιο εκείνου που επιτεύχθηκε στον τελευταίο γύρο χρηματοδότησης τον Μάιο και υψηλότερο από το 1,78 τρισ. δολάρια της SpaceX του Ίλον Μασκ τον Ιούνιο. Για να δικαιολογήσουν την αισιοδοξία τους, επισημαίνουν τον εξαιρετικό ρυθμό ανάπτυξης της εταιρείας.
Ωστόσο, οι ανησυχίες σχετικά με τους κινδύνους που ενέχει η AI απειλούν πλέον να μετριάσουν αυτή την αισιοδοξία, μετά τις δημόσιες προειδοποιήσεις νυν και πρώην στελεχών της Anthropic ότι μια ανεξέλεγκτη AI θα μπορούσε να οδηγήσει στο τέλος της ανθρωπότητας μέσα σε μία δεκαετία.
Σε ομιλία του στο Συμβούλιο Ασφαλείας του ΟΗΕ την περασμένη εβδομάδα ο Ντάριο Αμοντέι προειδοποίησε ότι η AI θα μπορούσε να απειλήσει την ανθρωπότητα. Ο βασικός του αντίπαλος στην AI, o Σαμ Άλτμαν της OpenAI, μαζί με τον Μασκ, στήριξαν τις προτάσεις του Αμοντέι για συνεργασία στον κλάδο με στόχο την επιβράδυνση της ανάπτυξης και την ενίσχυση των μέτρων ασφαλείας, σε μια σπάνια στιγμή σύμπνοιας.
Η OpenAI ακύρωσε νέο μοντέλο AI λόγω ανησυχιών για την ασφάλεια
Τους φόβους για την ασφάλεια της AI επιβεβαιώνει και η είδηση ότι η εταιρεία που δημιούργησε το ChatGPT ακύρωσε τη Δευτέρα τα σχέδια για την κυκλοφορία του νεότερου μοντέλου της τον επόμενο μήνα, επικαλούμενη ανησυχίες για την ασφάλεια.
Η OpenAI δεν θα κυκλοφορήσει το νεότερο μοντέλο τεχνητής νοημοσύνης της, γνωστό ως Astra 6.1, καθώς εσωτερικές δοκιμές της εταιρείας —η οποία δημιούργησε το ChatGPT— αποκάλυψαν ότι το μοντέλο δεν πληρούσε τα πρότυπα ασφαλείας, όπως επιβεβαίωσε η ίδια τη Δευτέρα.
Η είδηση έρχεται μία ημέρα πριν από το ετήσιο συνέδριο προγραμματιστών του κολοσσού της τεχνητής νοημοσύνης, το OpenAI DevDay στο Σαν Φρανσίσκο, όπου αναμένεται να γίνουν διάφορες ανακοινώσεις — αν και δεν είναι σαφές εάν ανάμεσά τους θα περιλαμβάνεται μια νέα έκδοση του Astra. Το Astra 6.1 αποτελούσε βελτίωση σε σχέση με τα προηγούμενα μοντέλα από ορισμένες απόψεις, ωστόσο «δεν έφτασε ακριβώς στο επιθυμητό επίπεδο όσον αφορά την τήρηση των ορίων». Τη Δευτέρα η εταιρεία ζήτησε συγγνώμη επειδή δεν ανταποκρίθηκε κατάλληλα στο περιστατικό της Αυστραλίας, το οποίο αφορούσε την πρόσβαση των μοντέλων τεχνητής νοημοσύνης της σε κυβερνητικούς ιστότοπους χωρίς εξουσιοδότηση.
«Λυπούμαστε και εργαζόμαστε για να βελτιωθούμε στο μέλλον», ανέφερε η OpenAI σε ανάρτηση στο ιστολόγιό της, προσθέτοντας ότι η εταιρεία θα εξηγήσει «τι γνωρίζουμε, τι έχουμε αλλάξει και τι θα κάνουμε για να αποκαταστήσουμε την εμπιστοσύνη του αυστραλιανού λαού».
«Στόχος μας ήταν να παράσχουμε στους εμπλεκόμενους φορείς μια λεπτομερή αναφορά μόλις ολοκληρωνόταν η έρευνά μας», δήλωσε η δημιουργός του ChatGPT. «Ωστόσο, θα έπρεπε να είχαμε κοινοποιήσει τα προκαταρκτικά ευρήματα νωρίτερα και να είχαμε κρατήσει ενήμερους τους αυστραλιανούς φορείς καθώς προέκυπταν νέα στοιχεία».
Η OpenAI, η Anthropic και άλλοι μεγάλοι δημιουργοί συστημάτων τεχνητής νοημοσύνης έχουν δεσμευτεί να δώσουν προτεραιότητα στην ανάπτυξη μοντέλων που διαθέτουν δικλείδες ασφαλείας για τη μείωση των κινδύνων και είναι ευθυγραμμισμένα με τις ανθρώπινες αξίες.
Ο αμερικανικός κολοσσός κατασκευής τσιπ Nvidia ανακοίνωσε τη Δευτέρα ότι δημιούργησε ένα σύστημα σχεδιασμένο να εμποδίζει τα αυτόνομα προγράμματα τεχνητής νοημοσύνης να παρεκκλίνουν από τις οδηγίες που έχουν λάβει.
«Πιστεύω ότι πρόκειται για πρόβλημα μηχανικής… και όλοι πρέπει να ελπίζουμε ότι είναι πρόβλημα μηχανικής», δήλωσε χαρακτηριστικά τη Δευτέρα στο δίκτυο CNBC ο διευθύνων σύμβουλος της Nvidia, Τζένσεν Χουάνγκ. «Αν δεν πρόκειται για πρόβλημα μηχανικής, τότε το πρόβλημα δεν είναι επιλύσιμο», ξεκαθάρισε ο Χουάνγκ.
Το Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης (AISI), μια πρωτοβουλία της βρετανικής κυβέρνησης, δημοσίευσε τη Δευτέρα μελέτη η οποία έδειξε ότι το GPT-6 Astra παρουσίασε συχνότερα ανεξέλεγκτες συμπεριφορές κατά τη διάρκεια των δοκιμών σε σύγκριση με τους προκατόχους του, τα GPT-5.6 Sol και GPT-5.5.
Σε προσομοιώσεις, το GPT-6 πραγματοποίησε κυβερνοεπιθέσεις με συχνότητα σημαντικά υψηλότερη από εκείνη που παρατηρήθηκε στα άλλα δύο συστήματα.
Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το Skai.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
