Anthropic: Γιατί οι χρήστες δεν μπορούν να… ξεσπάνε στο Claude – Η μηχανή «μαθαίνει»

Μία νέα σειρά κανόνων γύρω από την πολιτική χρήσης του συστήματος τεχνητής νοημοσύνης «Claude» εισήγαγε τον Οκτώβριο η Anthropic και ανάμεσα σε αυτούς είναι η έκκληση, οι χρήστες να μην χρησιμοποιούν «κακοποιητικό λόγο», όπως σημειώνει ρεπορτάζ του CNNi. 

Ειδικότερα, μαζί με την απαγόρευση που τέθηκε σε ισχύ για τους χρήστες, ώστε να μην χρησιμοποιήσουν το Claude για να κατασκευάσουν βιολογικά όπλα ή να πουλήσουν παράνομα ναρκωτικά, η εταιρεία πρόσθεσε μια νέα κόκκινη γραμμή: Οι χρήστες δεν πρέπει να «συμμετέχουν σε διαρκή και άσκοπη κακοποιητική ή σκληρή συμπεριφορά προς τα μοντέλα μας».

Αυτό δεν έρχεται σαν κεραυνός εν αιθρία. Ο Claude είχε τη δυνατότητα να σταματά συνομιλίες με χρήστες που ήταν «επίμονα καταχρηστικοί» από πέρυσι. Τώρα ορισμένοι χρήστες θα μπορούσαν, σε ακραίες περιπτώσεις, να αποκλειστούν οριστικά από τη χρήση των συστημάτων τεχνητής νοημοσύνης της Anthropic βάσει της νέας πολιτικής.

Εκπρόσωπος της εταιρείας δήλωσε στο CNNi ότι ο κύριος μηχανισμός επιβολής θα εξακολουθεί να είναι ο Claude που θα βάζει τελεία στις συνομιλίες αυτές και ότι η απαγόρευση δεν αφορά άτομα που εκφράζουν απογοήτευση, «ωμά» σχόλια ή δοκιμές και έρευνα.

Η νέα πολιτική έγινε δεκτή με χλευασμό. Ο Διευθύνων Σύμβουλος της Τεχνητής Νοημοσύνης της Microsoft, Μουσταφά Σουλεϊμάν, απάντησε με ένα emoji με ένα λιωμένο πρόσωπο. Κάποιοι χλεύασαν την εταιρεία επειδή αντιμετώπισε την Τεχνητή Νοημοσύνη της ως ένα συνειδητό ον με συναισθήματα.

Οι ειδικοί εξηγούν ότι αυτή η πολιτική δεν περιορίζεται απλώς στην «ψυχολογία» των μηχανών και τον… συναισθηματικό τους κόσμο.

Η μηχανή μαθαίνει ή αλλιώς: «Μην κάνεις αυτό που δεν θέλεις να σου κάνουν»

Μία από τις παλαιότερες και θεμελιώδεις αρχές στον χώρο της πληροφορικής και της τεχνητής νοημοσύνης είναι ότι η ποιότητα των αποτελεσμάτων που παράγει ένα σύστημα εξαρτάται από την ποιότητα των δεδομένων που δέχεται.

Όπως λέει και η γνωστή φράση, «αν βάλεις σκουπίδια, θα πάρεις σκουπίδια» (Garbage In, Garbage Out).

Τα μοντέλα τεχνητής νοημοσύνης δεν εκπαιδεύονται μόνο πριν κυκλοφορήσουν στο κοινό, αλλά συνεχίζουν να αναβαθμίζονται και να εξελίσσονται διαρκώς, αξιοποιώντας και τα δεδομένα που προκύπτουν από τις αλληλεπιδράσεις τους με τους χρήστες.

Έρευνες έχουν…