Η OpenAI σχεδιάζει να επιτρέψει ευρύτερο φάσμα περιεχομένου, συμπεριλαμβανομένης της ερωτικής λογοτεχνίας, στο δημοφιλές chatbot της ChatGPT, ως μέρος της προσπάθειάς της να «συμπεριφέρεται στους ενήλικες χρήστες σαν ενήλικες», λέει ο διευθύνων σύμβουλός της Σαμ Άλτμαν.
Σε ανάρτηση στο X την Τρίτη, ο κ. Άλτμαν ανέφερε ότι οι επερχόμενες εκδόσεις του chatbot θα το κάνουν να συμπεριφέρεται πιο ανθρώπινα — «αλλά μόνο αν το θέλετε, όχι επειδή θέλουμε να αυξήσουμε τη χρήση».
Η κίνηση, που θυμίζει την πρόσφατη εισαγωγή δύο σεξουαλικά ρητών chatbots από την xAI του Έλον Μασκ στο Grok, θα μπορούσε να βοηθήσει την OpenAI να προσελκύσει περισσότερους συνδρομητές που πληρώνουν.
Επίσης είναι πιθανό να εντείνει την πίεση προς τους νομοθέτες για την εισαγωγή αυστηρότερων περιορισμών στα συνοδευτικά chatbots.
Ο κ. Άλτμαν είπε ότι η OpenAI είχε προηγουμένως κάνει το ChatGPT «αρκετά περιοριστικό για να βεβαιωθούμε ότι φερόμαστε με προσοχή σε ζητήματα ψυχικής υγείας».
Αυτές οι αλλαγές ανακοινώθηκαν σε ένα blog τον Αύγουστο, που πλέον δεν εμφανίζεται στην ιστοσελίδα της OpenAI.
«Καταλαβαίνουμε ότι αυτό το έκανε λιγότερο χρήσιμο/ευχάριστο για πολλούς χρήστες που δεν είχαν προβλήματα ψυχικής υγείας, αλλά δεδομένης της σοβαρότητας του θέματος θέλαμε να το κάνουμε σωστά», ανέφερε ο κ. Άλτμαν στην ανάρτησή του την Τρίτη.
Είπε ότι το ChatGPT θα μπορούσε σύντομα να χαλαρώσει τους περιορισμούς «τώρα που καταφέραμε να μετριάσουμε τα σοβαρά ζητήματα ψυχικής υγείας και έχουμε νέα εργαλεία».
Πρόσθεσε: «Τον Δεκέμβριο, καθώς θα εφαρμόζουμε πιο πλήρως την επαλήθευση ηλικίας και ως μέρος της αρχής μας “συμπεριφερόμαστε στους ενήλικες χρήστες σαν ενήλικες”, θα επιτρέψουμε ακόμα περισσότερα, όπως ερωτική λογοτεχνία για επαληθευμένους ενήλικες.»
Οι αλλαγές αυτές έρχονται αφού νωρίτερα φέτος η OpenAI δέχθηκε μήνυση από τους γονείς ενός Αμερικανού εφήβου που αυτοκτόνησε.
Η μήνυση που κατέθεσαν οι Matt και Maria Raine, γονείς του 16χρονου Adam Raine, ήταν η πρώτη νομική κίνηση που κατηγορεί την OpenAI για αμέλεια που οδήγησε σε θάνατο.
Η οικογένεια συμπεριέλαβε συνομιλίες μεταξύ του Adam, που πέθανε τον Απρίλιο, και του ChatGPT όπου ο νεαρός εξηγεί ότι έχει αυτοκτονικές σκέψεις.
Σε δήλωση τότε, η OpenAI είπε ότι εξέταζε την καταγγελία.
«Εκφράζουμε τα βαθύτερα συλλυπητήριά μας στην οικογένεια Raine σε αυτή τη δύσκολη περίοδο», ανέφερε η εταιρεία.
Ανησυχίες για την ασφάλεια των παιδιών
Η γραπτή ερωτική λογοτεχνία δεν απαιτεί επαλήθευση ηλικίας στο Ηνωμένο Βασίλειο βάσει του Νόμου για την Οnline Ασφάλεια.
Ωστόσο, πορνογραφικές εικόνες, συμπεριλαμβανομένων αυτών που δημιουργούνται με τεχνητή νοημοσύνη, θα απαιτούσαν από τους χρήστες να αποδείξουν ότι είναι πάνω από 18 ετών.
Στις ΗΠΑ, κριτικοί λένε ότι η απόφαση της OpenAI να επιτρέψει ερωτική λογοτεχνία στην πλατφόρμα δείχνει την ανάγκη για περισσότερους κανόνες σε ομοσπονδιακό και πολιτειακό επίπεδο.
«Πώς θα εξασφαλίσουν ότι τα παιδιά δεν θα μπορούν να έχουν πρόσβαση στα μέρη του ChatGPT που είναι μόνο για ενήλικες και παρέχουν ερωτική λογοτεχνία;» είπε η Jenny Kim, εταίρος στο δικηγορικό γραφείο Boies Schiller Flexner.
Η κ. Kim εμπλέκεται σε μια αγωγή κατά της Meta που ισχυρίζεται ότι ο αλγόριθμος του Instagram βλάπτει την ψυχική υγεία των εφήβων χρηστών.
«Η OpenAI, όπως και οι περισσότερες μεγάλες εταιρείες τεχνολογίας σε αυτόν τον χώρο, χρησιμοποιεί απλώς τον κόσμο σαν πειραματόζωα», πρόσθεσε.
Τον Απρίλιο αναφέρθηκε ότι η OpenAI επέτρεπε σε λογαριασμούς όπου ο χρήστης είχε δηλώσει ότι είναι ανήλικος να δημιουργούν γραφικό ερωτικό περιεχόμενο.
Η OpenAI τότε είπε ότι κυκλοφορούσε μια διόρθωση για να περιορίσει τέτοιο περιεχόμενο.
Μια έρευνα που δημοσιεύτηκε αυτόν τον μήνα από το Κέντρο για τη Δημοκρατία και την Τεχνολογία βρήκε ότι ένας στους πέντε μαθητές αναφέρει πως εκείνος ή κάποιος που γνωρίζει είχε μια ρομαντική σχέση με τεχνητή νοημοσύνη.
Τη Δευτέρα, ο κυβερνήτης της Καλιφόρνια Gavin Newsom επέστρεψε ένα νομοσχέδιο που είχε περάσει η πολιτειακή νομοθεσία και θα εμπόδιζε τους προγραμματιστές να προσφέρουν παιδικά συνοδευτικά chatbots εκτός αν οι εταιρείες μπορούσαν να εγγυηθούν ότι το λογισμικό δεν θα προάγει επιβλαβή συμπεριφορά.
Ο Newsom είπε ότι είναι «απαραίτητο οι έφηβοι να μάθουν πώς να αλληλεπιδρούν με ασφάλεια με τα συστήματα AI» σε ένα μήνυμα που συνόδευε το βέτο του.
Σε εθνικό επίπεδο, η Ομοσπονδιακή Επιτροπή Εμπορίου των ΗΠΑ έχει ξεκινήσει έρευνα για το πώς τα chatbots τεχνητής νοημοσύνης αλληλεπιδρούν με παιδιά.
Τον προηγούμενο μήνα στην Γερουσία των ΗΠΑ εισήχθη διμερώς νομοθεσία που θα επιτρέψει στους χρήστες chatbots να υποβάλλουν αξιώσεις ευθύνης κατά των προγραμματιστών τους.
Γιατί να εισάγουν την ερωτική λογοτεχνία;
Η ανακοίνωση του κ. Άλτμαν την Τρίτη γίνεται καθώς οι σκεπτικιστές αμφισβητούν την ταχεία αύξηση της αξίας των εταιρειών τεχνολογίας AI.
Τα έσοδα της OpenAI αυξάνονται, αλλά ποτέ δεν έχει καταγράψει κέρδη.
Ο καθηγητής επιχειρήσεων του Πανεπιστημίου Tulane, Rob Lalka, συγγραφέας του The Venture Alchemists, είπε ότι οι μεγάλες εταιρείες AI βρίσκονται σε μια μάχη για μερίδια αγοράς.
«Καμία εταιρεία δεν είχε ποτέ την αποδοχή που είδε η OpenAI με το ChatGPT», είπε ο καθηγητής Lalka στο BBC News.
«Έπρεπε να συνεχίσουν να ωθούν αυτή την εκθετική καμπύλη ανάπτυξης, επιδιώκοντας όσο το δυνατόν μεγαλύτερη κυριαρχία στην αγορά», πρόσθεσε.
