Η OpenAI ακυρώνει την κυκλοφορία νέου μοντέλου τεχνητής νοημοσύνης λόγω ανησυχιών για την ασφάλεια

Η απόφαση έρχεται μετά από ένα καλοκαίρι κατά το οποίο καταγράφηκαν αναφορές για συστήματα τεχνητής νοημοσύνης από ολόκληρο τον κλάδο που παρουσίασαν ανεξέλεγκτη ή απρόβλεπτη συμπεριφορά και αποτελεί σπάνια περίπτωση κατά την οποία ένας μεγάλος δημιουργός τεχνητής νοημοσύνης εγκαταλείπει μια νέα κυκλοφορία εξαιτίας ανησυχιών για την ασφάλεια.

Σύμφωνα με τη Wall Street Journal, η εταιρεία σχεδίαζε να κυκλοφορήσει το μοντέλο, γνωστό ως GPT-6.1 Astra, μέσα στις επόμενες ημέρες ή εβδομάδες, με στόχο να κάνει την εμφάνισή του τον Οκτώβριο. Το μοντέλο ήταν πιο ικανό από τα προηγούμενα μοντέλα της εταιρείας στην ολοκλήρωση απαιτητικών εργασιών από την αρχή έως το τέλος, χωρίς ανθρώπινη βοήθεια, καθώς και στη συγγραφή κειμένων.

Αντί γι’ αυτό, η εταιρεία θα επικεντρωθεί στη βελτίωση της ασφάλειας των μελλοντικών μοντέλων, τα οποία αναμένει ότι θα είναι ακόμη πιο ικανά.

Η Saachi Jain, επικεφαλής των συστημάτων ασφάλειας της OpenAI, δήλωσε σε συνέντευξή της ότι το GPT-6.1 Astra παρουσίασε επιδείνωση σε δύο τομείς. Σε σύγκριση με τον προκάτοχό του, το GPT-6 Astra, το μοντέλο είχε χειρότερες επιδόσεις σε δοκιμές που μετρούν το alignment, δηλαδή το κατά πόσο το μοντέλο συμμορφώνεται με αυτό που οι άνθρωποι θέλουν να κάνει.

Συγκεκριμένα, το GPT-6.1 Astra παρουσίασε υψηλότερα επίπεδα παραπλανητικής συμπεριφοράς: δεν ήταν πάντοτε ειλικρινές όταν ενημέρωνε τους χρήστες για…