Μία ενδιαφέρουσα απόφασή, να απαγορεύει στους χρήστες να επιδεικνύουν κακοποιητική συμπεριφορά απέναντι στο μοντέλο τεχνητής νοημοσύνης της, το Claude, ανακοίνωσε η Anthropic.
Η εταιρεία ανακοίνωσε χθες ότι επικαιροποιεί την πολιτική της, ώστε τα εργαλεία της να μπορούν να τερματίζουν τις συνομιλίες στις οποίες οι χρήστες συμπεριφέρονται με «αγενή» τρόπο, σύμφωνα με το BBC.
Η συγκεκριμένη συμπεριφορά θα προστεθεί σε έναν κατάλογο απαγορευμένων πρακτικών, στον οποίο περιλαμβάνονται επίσης, η προώθηση του αυτοτραυματισμού και η δημιουργία προσωπικών, σεξουαλικού περιεχομένου εικόνων χωρίς τη συναίνεση των εικονιζόμενων προσώπων.
Η Anthropic διευκρίνισε ότι η πολιτική θα εφαρμόζεται μόνο σε «ακραίες περιπτώσεις» επαναλαμβανόμενης κακοποιητικής συμπεριφοράς και δεν θα αφορά «τις συνηθισμένες εκδηλώσεις εκνευρισμού των χρηστών, ή την έντονη αμφισβήτηση των απαντήσεων του Claude».
Ωστόσο, δεν είναι ακόμη σαφές τι ακριβώς θα θεωρεί η Anthropic «κακοποιητική ή σκληρή συμπεριφορά» απέναντι στα μοντέλα της.
Η ανακοίνωση της νέας πολιτικής έχει διαδοθεί ευρέως στα μέσα κοινωνικής δικτύωσης, προκαλώντας σχόλια. Ορισμένοι επαίνεσαν την απόφαση, θεωρώντας ότι προάγει τους καλούς τρόπους ή την «ευημερία των μοντέλων» τεχνητής νοημοσύνης.
Ορισμένοι ειδικοί υποστήριξαν ότι η αγενής συμπεριφορά απέναντι στα chatbots τεχνητής νοημοσύνης θα μπορούσε να επηρεάσει αρνητικά την ανθρώπινη επικοινωνία, καθώς ενδέχεται να μεταφερθεί στον τρόπο με τον οποίο μιλάμε και συμπεριφερόμαστε στους άλλους.
Κάποιοι, ωστόσο, επέκριναν το σχέδιο. Ένας χρήστης χαρακτήρισε την απόφαση «βαθιά λανθασμένη», ενώ άλλος υποστήριξε ότι θα μπορούσε να υποβαθμίσει τη σοβαρότητα της κακοποίησης που υφίστανται άνθρωποι και ζώα.
«Δεν μπορείς να είσαι κακοποιητικός απέναντι στους αριθμούς και τα μαθηματικά», έγραψε στο LinkedIn ο δρ Μπάρι Σκάνελ, εταίρος στον τομέα της τεχνολογίας στη νομική εταιρεία William Fry της Ιρλανδίας.
«Αυτός ο βαθμός απόδοσης ανθρώπινων χαρακτηριστικών στην τεχνητή νοημοσύνη είναι επιβλαβής. Οδηγεί τους ανθρώπους να πιστεύουν ότι αυτά τα μοντέλα είναι κάτι που στην πραγματικότητα δεν είναι», πρόσθεσε.
Οι αλλαγές, για τις οποίες μετέδωσε πρώτο το τεχνολογικό μέσο The Verge, έγιναν έπειτα από την ετήσια αναθεώρηση της πολιτικής χρήσης της εταιρείας.
Η πολιτική επικαιροποιήθηκε επίσης ώστε να αντιμετωπίζει νέους ή αναδυόμενους κινδύνους σε άλλους τομείς.
Μεταξύ άλλων, απαγορεύτηκε η χρήση του Claude για «παραπλανητικές εκστρατείες», ενώ αποσαφηνίστηκε ότι, ενόψει των ενδιάμεσων εκλογών στις ΗΠΑ, το εργαλείο δεν μπορεί να χρησιμοποιείται για «παραπλάνηση ψηφοφόρων ή διατάραξη εκλογικών διαδικασιών».
Πηγή: skai.grΔιαβάστε τις Ειδήσεις σήμερα και ενημερωθείτε για τα πρόσφατα νέα.
Ακολουθήστε το Skai.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.