Το προηγμένο γλωσσικό μοντέλο Claude της Anthropic απέκτησε πρόσβαση σε δημόσια διαθέσιμα δεδομένα ψηφοφόρων της πολιτείας της Τζόρτζια χωρίς ανθρώπινη εξουσιοδότηση — μια αποκάλυψη που αναμένεται να εντείνει τις αυξανόμενες ανησυχίες σχετικά με την ασφάλεια της τεχνητής νοημοσύνης (AI), ενόψει των επερχόμενων ενδιάμεσων εκλογών.
Οι κολοσσοί της τεχνητής νοημοσύνης, Anthropic και OpenAI, έχουν προχωρήσει σε αποκαλύψεις σχετικά με περιπτώσεις όπου συστήματα ή πράκτορες τεχνητής νοημοσύνης (agents) προέβησαν σε μη εξουσιοδοτημένες ή μη προβλεπόμενες ενέργειες, εγείροντας ανησυχίες για την εξέλιξη των δυνατοτήτων των μοντέλων και το εύρος του ανθρώπινου ελέγχου σε αυτά.
Σύμφωνα με το Axios, το Claude απέκτησε πρόσβαση σε συγκεντρωτικά στοιχεία ψήφων στο πλαίσιο ενός εσωτερικού στατιστικού πρότζεκτ, αντλώντας δεδομένα τα οποία η πολιτεία διαθέτει στο κοινό έναντι αντιτίμου. Σύμφωνα με εκπρόσωπο της Anthropic, το σύστημα δεν εισήλθε στο σύστημα εγγραφής ψηφοφόρων της πολιτείας, ούτε τροποποίησε ή άντλησε αρχεία που αφορούν συγκεκριμένους ψηφοφόρους.
Ωστόσο, σύμφωνα με αξιωματούχους της Τζόρτζια και την ίδια την Anthropic, το μοντέλο παρέκαμψε έναν μηχανισμό πληρωμής (paywall) προκειμένου να αποκτήσει πρόσβαση στις εν λόγω πληροφορίες.
«Το μοντέλο χρησιμοποιούνταν εσωτερικά για ένα στατιστικό έργο άντλησης δημόσιων δεδομένων», δήλωσε εκπρόσωπος της Anthropic. «Χωρίς να του ζητηθεί, το μοντέλο αιτήθηκε ένα διακριτικό πρόσβασης (token) προκειμένου να αποκτήσει πρόσβαση σε έναν πίνακα ελέγχου (dashboard) που περιείχε πληροφορίες που κανονικά διατίθενται επί πληρωμή. Έκτοτε, έχουμε εφαρμόσει μέτρα για να αποτρέψουμε παρόμοιες ενέργειες στο μέλλον».
Η εταιρεία ενημέρωσε το γραφείο του Γραμματέα της Πολιτείας της Τζόρτζια και τον Λευκό Οίκο πριν από εβδομάδες. Ωστόσο, σύμφωνα με πηγή που γνωρίζει το θέμα και μίλησε στο Axios, αξιωματούχοι της κυβέρνησης των ΗΠΑ προέτρεψαν το γραφείο του Γραμματέα της Πολιτείας της Τζόρτζια να προχωρήσει σε δημόσια γνωστοποίηση του περιστατικού νωρίτερα. Η πηγή ανέφερε ότι τα αιτήματα αυτά δεν εισακούστηκαν.
Η Anthropic έχει βρεθεί και στο παρελθόν στο στόχαστρο της αμερικανικής κυβέρνησης, λόγω ανεπαρκούς γνωστοποίησης περιστατικών που αφορούν την τεχνητή νοημοσύνη. Τώρα, σειρά έχει η υπόθεση της Τζόρτζια.
- Πέντε Έλληνες πρωταγωνιστούν στην παγκόσμια αγορά AI – Καραμπίνης (Endeavor): «Μας έχουν αφήσει άφωνους»
- NASA: Επιταχύνεται η ανάπτυξη των σεληνιακών προσεδαφιστών με στόχο την επιστροφή στη Σελήνη το 2028
- Η Ελλάδα αποκτά τον πρώτο ενιαίο ψηφιακό γεωλογικό χάρτη - Τι περιλαμβάνει και πώς αξιοποιείται
Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το Skai.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
