Καθώς όλο και μεγαλύτερο μέρος του διαδικτύου κατακλύζεται από κείμενα που παράγονται τεχνητά, οι άνθρωποι στρέφονται σε εργαλεία ανίχνευσης τεχνητής νοημοσύνης, τα οποία υπόσχονται να επιβεβαιώσουν αν ένα κείμενο γράφτηκε από άνθρωπο. Όμως η ανθρώπινη γλώσσα συγκλίνει με τη γλώσσα των μηχανών, πράγμα που σημαίνει ότι αυτές οι υπηρεσίες θα γίνονται ολοένα και λιγότερο αξιόπιστες με την πάροδο του χρόνου.
Οι εταιρείες AI υποστηρίζουν ότι τα εργαλεία ανίχνευσης είναι πολύ αξιόπιστα, τουλάχιστον στα ελεγχόμενα περιβάλλοντα δοκιμών τους. Παρότι οι επικριτές αμφισβητούν αυτούς τους ισχυρισμούς, το Substack υπέγραψε πρόσφατα συνεργασία με την Pangram, ηγέτιδα εταιρεία στον χώρο της ανίχνευσης, για να βοηθήσει στην «ανίχνευση κειμένου από AI» σε ορισμένες αναρτήσεις.
Η ιδέα πίσω από το λογισμικό είναι να αξιοποιεί την αρχιτεκτονική που τροφοδοτεί τα μεγάλα γλωσσικά μοντέλα, προκειμένου να εντοπίζει ένα μοναδικό «γλωσσικό αποτύπωμα» κάθε LLM. Όμως τα μοντέλα βελτιώνονται διαρκώς και υπάρχουν ολοένα περισσότερες ενδείξεις ότι οι απλοί χρήστες υιοθετούν γλωσσικά μοτίβα της AI, όπως την υπερβολική χρήση λέξεων και εκφράσεων αντίστοιχων των "delve" και "meticulous". Αν αυτή η παρατήρηση ισχύει και για άλλες διαστάσεις της γλώσσας, όπως η δομή των προτάσεων, η ανθρώπινη και η μηχανική διάλεκτος ενδέχεται να συνεχίσουν να συγκλίνουν, μέχρι το σημείο όπου θα είναι πολύ δύσκολο να διακριθούν.
Μια νέα μελέτη ερευνητών του Ινστιτούτου Max Planck για την Ανθρώπινη Ανάπτυξη υποδεικνύει ότι, καθώς τα μελλοντικά μοντέλα εκπαιδεύονται πάνω σε ανθρώπινη γλώσσα που μιμείται τη γλώσσα της AI, προκύπτουν δύο πιθανά σενάρια: είτε ο ανθρώπινος και ο τεχνητός λόγος θα αφομοιώνονται σταδιακά, οδηγώντας στην κατάρρευση οποιασδήποτε ουσιαστικής διάκρισης, είτε η γλώσσα θα μετατραπεί σε ένα αμφισβητούμενο κοινωνικό σήμα. Το δεύτερο σενάριο θα ήταν ουσιαστικά ένα ατελείωτο παιχνίδι «γάτας και ποντικιού» στην αγγλική γλώσσα: οι άνθρωποι θα επινοούν νέους τρόπους για να διαφοροποιούνται από τις μηχανές, οι μηχανές θα τους υιοθετούν και στη συνέχεια οι ανιχνευτές AI θα προσαρμόζονται ξανά.
Αν αυτή η κούρσα εξοπλισμών συνεχιστεί και κλιμακωθεί, οι ανιχνευτές AI ενδέχεται άθελά τους να επιβραβεύουν όσους έχουν τη δυνατότητα να συμμετέχουν σε αυτή την «ελίτ» του αντισυμβατικού γλωσσικού σήματος απέναντι στα μεγάλα γλωσσικά μοντέλα. Την ίδια στιγμή, άνθρωποι με λιγότερους πόρους θα μένουν πίσω. Όσοι δεν μπορούν να κατανοήσουν το εκάστοτε κριτήριο αξιολόγησης θα είναι περισσότερο ευάλωτοι σε λανθασμένες ενδείξεις χρήσης AI, οι οποίες θα μπορούσαν να καταστρέψουν reputations και επαγγελματικές σταδιοδρομίες.
Για να είμαι σαφής, θεωρώ ότι αυτά τα εργαλεία αποτελούν εξαιρετικές προσωρινές λύσεις, όσο η κοινωνία προσπαθεί να διαχειριστεί τις πολιτισμικές ανατροπές που προκαλεί η AI. Ωστόσο, ακόμη και ο Max Spero, διευθύνων σύμβουλος της Pangram, παραδέχτηκε ότι δεν υπάρχει καλή απάντηση για το πώς η μεταβολή των δεδομένων επηρεάζει το μοντέλο.
Το σύνολο δεδομένων που χρησιμοποιεί η εταιρεία για την εκπαίδευση με ανθρώπινα κείμενα βασίζεται εξ ολοκλήρου σε δεδομένα πριν από το 2022, ώστε να αποφεύγεται η επιμόλυνση από τότε που έγινε διαθέσιμο το ChatGPT. Στην πράξη, αυτό σημαίνει ότι όσο περνά ο χρόνος θα κατηγορούνται όλο και περισσότεροι αθώοι άνθρωποι ότι χρησιμοποίησαν AI, την ώρα που ο ισχυρισμός της Pangram περί ακρίβειας - ήδη υπό αμφισβήτηση - θα γίνεται ολοένα λιγότερο αξιόπιστος.
Ο Spero διαβεβαιώνει ότι η εταιρεία θα βρει καθαρά ανθρώπινα δεδομένα για να αναλύσει. Αυτό, όμως, ειρωνικά θα μπορούσε να αυξήσει τα ψευδώς αρνητικά αποτελέσματα, καθώς όλο και περισσότεροι άνθρωποι θα μιλούν και θα γράφουν όπως η AI και το μοντέλο θα συνδέει αυτά τα χαρακτηριστικά με ανθρώπινους συγγραφείς.
Παράλληλα με το ότι περισσότερα κείμενα AI θα περνούν απαρατήρητα, οι ανιχνευτές θα αντιμετωπίζουν ολοένα πιο εξελιγμένα εργαλεία παράκαμψης. Νέα έρευνα δείχνει ότι, όταν μια υπηρεσία «εξανθρωπισμού» κειμένου αποκτά πρόσβαση στο API της Pangram, μπορεί να αποφεύγει την ανίχνευση στο 76% των περιπτώσεων, ενώ μοντέλα που έχουν προσαρμοστεί ειδικά πάνω σε έργα υπαρκτών συγγραφέων περνούν ως αυθεντικά στο 97% των περιπτώσεων. Αυτά τα προηγμένα παραθυράκια διαφυγής βρίσκονται επί του παρόντος εκτός του πεδίου εφαρμογής της υπηρεσίας, πράγμα που σημαίνει ότι οι πιο κακόβουλοι παράγοντες - όπως λογαριασμοί ξένης παραπληροφόρησης - θα αποφεύγουν την τιμωρία.
Από τη στιγμή που υπάρχει πλέον μια αγορά για εξελιγμένο λογισμικό εξαπάτησης, είναι πιθανό ότι κάποια τέτοια υπηρεσία θα γίνει τελικά ευρέως διαθέσιμη. Τότε τα μοντέλα ανίχνευσης AI θα αναγκαστούν να αντιμετωπίσουν αυτά τα προβλήματα, με κίνδυνο να επιταχύνουν έναν αέναο αγώνα γάτας και ποντικιού, όπου τελικά θα τιμωρείται περισσότερο η αφέλεια παρά η πραγματική εξαπάτηση.
Ανάμεσα στα διαρκώς μεταβαλλόμενα κριτήρια και στην αυξανόμενη δυσκολία ακριβούς μέτρησης, χρειάζεται προσοχή ώστε να αποφεύγονται αβάσιμα «κυνήγια μαγισσών», ιδιαίτερα τη στιγμή που οι πραγματικά ένοχοι μπορεί να μένουν ατιμώρητοι. Αντί να εστιάζουμε αποκλειστικά στο κείμενο, θα έπρεπε να εξετάζουμε τα δομικά κίνητρα που βρίσκονται πίσω από την παραγωγή κειμένου από LLM. Μέσα στη σύγκρουση για τη «γλωσσική καθαρότητα», κατηγορούνται μεμονωμένοι χρήστες για την πλημμύρα από AI slop, αντί να εστιάζουμε στις πλατφόρμες κοινωνικής δικτύωσης που δημιουργούν τα κίνητρα για τη διανομή του. Έτσι, αντιμετωπίζουμε το σύμπτωμα αντί για την ασθένεια.
Η σημερινή μεταβατική περίοδος αποτελεί ευκαιρία να επανεξετάσουμε τη σχέση των ανθρώπων με τη γλώσσα, την τέχνη και τη γνώση και να διασφαλίσουμε ότι τα εργαλεία που χρησιμοποιούμε βρίσκονται σε αρμονία με τον τρόπο με τον οποίο οι άνθρωποι βιώνουν και αποδίδουν νόημα.
Διαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το Skai.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.
