Ο Claude «ηγείται» πλέον στο 26% των εργασιών έρευνας και ανάπτυξης νέων μοντέλων της Anthropic

Ο διευθύνων σύμβουλος της Anthropic, Dario Amodei, κάλεσε το περασμένο Σαββατοκύριακο τις κορυφαίες εταιρείες τεχνητής νοημοσύνης να συντονίσουν μια επιβράδυνση της ανάπτυξης της τεχνολογίας, ώστε να υπάρξει περισσότερος χρόνος για τη δημιουργία δικλίδων ασφαλείας γύρω από την AI. Ηγέτες ανταγωνιστικών εταιρειών τάχθηκαν γρήγορα υπέρ της ιδέας, όμως ο πρόεδρος Donald Trump επέκρινε την πρόταση.

Ο Amodei και άλλες εξέχουσες προσωπικότητες του κλάδου της τεχνητής νοημοσύνης έχουν προειδοποιήσει πρόσφατα για το ενδεχόμενο η AI να γίνει αρκετά έξυπνη ώστε να μπορεί να βελτιώνει τον εαυτό της χωρίς ανθρώπινη παρέμβαση. Σε ένα τέτοιο σενάριο, γνωστό ως αναδρομική αυτοβελτίωση (recursive self-improvement), θα μπορούσε να γίνει δύσκολο για τους ανθρώπους να κατανοήσουν ή να ελέγξουν την τεχνολογία AI, σύμφωνα με τον Amodei και άλλους ειδικούς.

Σε ανάρτηση ιστολογίου την Πέμπτη, στην οποία αποκάλυψε τη συμβολή του Claude στην έρευνα και ανάπτυξη νέων μοντέλων AI της Anthropic, η εταιρεία δεν ανέφερε πόσο κοντά θεωρεί ότι βρίσκεται η αναδρομική αυτοβελτίωση. Τόνισε ότι, προς το παρόν, δεν υπάρχει περίπτωση κατά την οποία το Claude να λειτουργεί «πλήρως αυτόνομα», χωρίς άνθρωπο να συμμετέχει στη διαδικασία.

Σύμφωνα με την Washington Post, όμως, η Anthropic ανακοίνωσε ότι ένας εσωτερικός έλεγχος των εργασιών R&D έδειξε πως το Claude ήταν σε θέση να «ηγείται» αυτών των εργασιών περίπου στο 26% των περιπτώσεων, ενώ οι άνθρωποι είχαν μόνο εποπτικό ρόλο και παρείχαν γενικές κατευθύνσεις. Ακόμη και τον Φεβρουάριο, το αντίστοιχο ποσοστό ήταν μηδενικό, σύμφωνα με την ανάρτηση.

…