Η Anthropic προειδοποιεί για «καταστροφικούς κινδύνους»εναντίον του ανθρώπου από την AI

Η Anthropic προειδοποιεί ότι η τεχνητή νοημοσύνη (AI) ενδέχεται να δημιουργήσει «καταστροφικούς ή υπαρξιακούς κινδύνους για την ανθρωπότητα», την ώρα που προχωρά τις διαδικασίες για την εισαγωγή της στο αμερικανικό χρηματιστήριο.

Η εταιρεία που αναπτύσσει το chatbot Claude γνωστοποίησε τη Δευτέρα 26/10, μέσω των σχετικών εγγράφων που κατέθεσε, οικονομικά στοιχεία και πιθανούς κινδύνους για τη δραστηριότητά της, στο πλαίσιο της προετοιμασίας για την είσοδό της στο Nasdaq, με χρηματιστηριακό σύμβολο ANT.

Η αποτίμησή της αναμένεται να ξεπεράσει εκείνη της SpaceX, η οποία, σύμφωνα με τις σχετικές εκτιμήσεις, είχε φτάσει περίπου τα 1,8 τρισ. δολάρια το καλοκαίρι, καταγράφοντας ιστορικό υψηλό για εταιρεία κατά την εισαγωγή της σε χρηματιστηριακή αγορά.

Η Anthropic δεν έχει ακόμη ανακοινώσει τον αριθμό των μετοχών που θα διαθέσει, το εύρος της τιμής διάθεσης ή την ημερομηνία της εισαγωγής της.

Οι κίνδυνοι της τεχνητής νοημοσύνης και η προειδοποίηση προς τους επενδυτές

Στα έγγραφα που υπέβαλε, η Anthropic αναφέρει ότι πολιτικοί, ρυθμιστικές αρχές, ερευνητές, αλλά και στελέχη και εργαζόμενοι της ίδιας της εταιρείας έχουν εκφράσει ανησυχίες για τους κινδύνους που ενδέχεται να προκύψουν από την ανάπτυξη ολοένα πιο προηγμένων συστημάτων τεχνητής νοημοσύνης.

Όπως επισημαίνει, τα συστήματα αυτά θα μπορούσαν να θέσουν σε κίνδυνο την ανθρωπότητα εάν αναπτυχθούν ή χρησιμοποιηθούν χωρίς τις κατάλληλες δικλίδες ασφαλείας, επαρκή εποπτεία και αποτελεσματικά μέτρα προστασίας. Ιδιαίτερη ανησυχία προκαλεί το ενδεχόμενο κακόβουλης χρήσης τους, αναπαραγωγής τους, αξιοποίησής τους για την ανάπτυξη όπλων ή λειτουργίας τους με υψηλό βαθμό αυτονομίας.

Η εταιρεία επανέλαβε παράλληλα τη δέσμευσή της να αναπτύσσει την τεχνητή νοημοσύνη με τρόπο που να ωφελεί τους ανθρώπους, αναγνωρίζοντας ωστόσο ότι η ίδια η τεχνολογία συνοδεύεται από σοβαρούς κινδύνους.

Η Anthropic ιδρύθηκε πριν από πέντε χρόνια από τον διευθύνοντα σύμβουλο Dario Amodei, την αδελφή του Daniela Amodei και πέντε ακόμη συνιδρυτές. Τον Ιούνιο ανακοίνωσε την πρόθεσή της να εισαχθεί στο χρηματιστήριο.

Ο βασικός ανταγωνιστής της, η OpenAI, ακολούθησε την ίδια κατεύθυνση, γνωστοποιώντας επίσης ότι σχεδιάζει να εισαχθεί στο χρηματιστήριο. Σύμφωνα με πρόσωπο που γνωρίζει τον σχεδιασμό της εταιρείας, η εισαγωγή της OpenAI αναμένεται πλέον στις αρχές του επόμενου έτους.

Ζημίες δισεκατομμυρίων και επενδύσεις στην ανάπτυξη της AI

Σύμφωνα με τα στοιχεία που περιλαμβάνονται στην κατάθεση της Anthropic, η εταιρεία κατέγραψε ζημίες άνω των 80,7 δισ. δολαρίων κατά το πρώτο εξάμηνο του έτους. Παράλληλα, ανέφερε ότι διέθετε 112,4 δισ. δολάρια σε μετρητά ή ισοδύναμα, ενώ τα έσοδά της για την ίδια περίοδο ανήλθαν σε 16,3 δισ. δολάρια.

Η εταιρεία υπογράμμισε ότι πραγματοποιεί σημαντικές επενδύσεις με μακροπρόθεσμο ορίζοντα, οι οποίες ενδέχεται αρχικά να φαίνονται υπερβολικά μεγάλες.

«Γενικά, θα επιδιώξουμε να είμαστε τολμηροί αλλά και συνετοί και να κερδίζουμε την εμπιστοσύνη μέσα από ένα ιστορικό επιτυχημένων επιλογών», αναφέρει χαρακτηριστικά η εταιρεία στα έγγραφά της.

Η Anthropic σημειώνει ότι η επιχειρηματική της πορεία εξαρτάται σε μεγάλο βαθμό από την ικανότητά της να αναπτύσσει τα πιο προηγμένα μοντέλα τεχνητής νοημοσύνης. Οποιαδήποτε αποτυχία σε αυτόν τον τομέα, προειδοποιεί, θα μπορούσε να έχει αρνητικές συνέπειες για τις δραστηριότητές της.

Σε περίπου 90 σελίδες εγγράφων που περιγράφουν τους παράγοντες κινδύνου, η εταιρεία καταγράφει μια σειρά από προκλήσεις που θα μπορούσαν να επηρεάσουν την ικανότητά της να αναπτύσσει ασφαλή και ανταγωνιστικά συστήματα AI.

Μεταξύ αυτών περιλαμβάνονται η εξάρτησή της από περιορισμένο αριθμό παρόχων υπηρεσιών υπολογιστικού νέφους (cloud computing), η αυξημένη ζήτηση για ημιαγωγούς από κατασκευαστές στην Ταϊβάν, καθώς και η συγκέντρωση μεγάλου αριθμού κέντρων δεδομένων στις ΗΠΑ.

Παράλληλα, η Anthropic προειδοποιεί για το ενδεχόμενο νέων ρυθμιστικών παρεμβάσεων σε περίπτωση που τα μοντέλα της συνδεθούν με περιστατικά βλάβης, όπως ζητήματα που αφορούν την αυτοκτονία ή την ασφάλεια των παιδιών. Επισημαίνει, επίσης, ότι παραμένει αβέβαιο το πού και με ποιον τρόπο θα μπορούσε να θεωρηθεί νομικά υπεύθυνη για ενέργειες που πραγματοποιούνται από τα συστήματά της.

Οι ανησυχίες αυτές διατυπώνονται σε μια περίοδο κατά την οποία οι μεγάλες τεχνολογικές εταιρείες διοχετεύουν τεράστια κεφάλαια σε κέντρα δεδομένων, υπολογιστικές υποδομές και μοντέλα τεχνητής νοημοσύνης. Οι σχετικές επενδύσεις εκτιμάται ότι ξεπέρασαν το 1 τρισ. δολάρια μόνο τον τελευταίο χρόνο.

Κυβερνοεπιθέσεις και ανησυχίες για την ασφάλεια των αυτόνομων συστημάτων

Την ίδια στιγμή, μετά την ανακοίνωση των σχεδίων για εισαγωγή των δύο εταιρειών στο χρηματιστήριο, καταγράφηκε ένα κύμα περιστατικών κυβερνοασφάλειας και άλλων τεχνολογικών παραβιάσεων που συνδέονται με πράκτορες τεχνητής νοημοσύνης, δηλαδή συστήματα σχεδιασμένα να εκτελούν εργασίες με περιορισμένη ανθρώπινη παρέμβαση.

Νυν και πρώην εργαζόμενοι τόσο στην Anthropic όσο και στην OpenAI έχουν επίσης προειδοποιήσει δημόσια ότι η τεχνολογία αναπτύσσεται με ταχύτητα που ενδέχεται να ξεπερνά τις δυνατότητες προστασίας της κοινωνίας από πιθανές μελλοντικές βλάβες.

Οι προειδοποιήσεις αυτές ενισχύουν τη συζήτηση γύρω από την ανάγκη αποτελεσματικών μηχανισμών εποπτείας, καθώς οι εταιρείες επιδιώκουν να αναπτύξουν ολοένα πιο ισχυρά συστήματα και να ενισχύσουν τη θέση τους σε μια αγορά με έντονο ανταγωνισμό.

Αγωγή για τραγούδια του Έλβις Πρίσλεϊ

Παράλληλα με την προετοιμασία της εισαγωγής της στο χρηματιστήριο, η Anthropic βρέθηκε αντιμέτωπη με νέα νομική διαμάχη.

Τη Δευτέρα, οι κάτοχοι των δικαιωμάτων μουσικής του Έλβις Πρίσλεϊ κατέθεσαν αγωγή κατά της εταιρείας, κατηγορώντας την ότι χρησιμοποίησε εκατοντάδες τραγούδια του θρυλικού καλλιτέχνη για την εκπαίδευση του chatbot Claude.

Η υπόθεση προστίθεται στις ευρύτερες νομικές αντιπαραθέσεις γύρω από τη χρήση προστατευόμενου περιεχομένου για την εκπαίδευση μοντέλων τεχνητής νοημοσύνης, ένα ζήτημα που απασχολεί ολοένα περισσότερο τον κλάδο.

Τι περιμένουν οι επενδυτές από την εισαγωγή της Anthropic

Ο Ματ Όρτον, επικεφαλής στρατηγικής αγοράς στη Raymond James Investment Management, εκτίμησε ότι οι επενδυτές αναμένουν ταχεία ανάπτυξη της Anthropic, αλλά και σημαντικές οικονομικές απώλειες, καθώς η εταιρεία συνεχίζει να επενδύει στην τεχνολογία της.

Όπως δήλωσε στο BBC, τα στοιχεία της κατάθεσης αναμένεται να προσφέρουν μεγαλύτερη διαφάνεια στην αγορά, καθώς οι επενδυτές θέλουν να κατανοήσουν καλύτερα από πού προέρχεται η αύξηση των εσόδων της εταιρείας.

Από την πλευρά του, ο Πίτερ Άντερσεν, ιδρυτής της Andersen Capital Management, χαρακτήρισε στο Reuters την προγραμματισμένη εισαγωγή της Anthropic στο χρηματιστήριο «σημαντικό ορόσημο στην ανάπτυξη της τεχνητής νοημοσύνης».

Πρόσθεσε ότι η πορεία της μετοχής κατά την έναρξη της διαπραγμάτευσής της θα αποτελέσει σημαντική ένδειξη για τη διάθεση των επενδυτών να συνεχίσουν να διοχετεύουν κεφάλαια στην ανάπτυξη της τεχνητής νοημοσύνης.

Πηγή: skai.gr

Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το Skai.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.