Η Anthropic ομολόγησε ότι τα AI μοντέλα της παραβίασαν τα συστήματα άλλων εταιρειών, χωρίς να το καταλάβει

Σε ανακοίνωσή της την Πέμπτη, η Anthropic ανέφερε ότι ξεκίνησε την αναθεώρηση των δικών της συστημάτων αφού η OpenAI αποκάλυψε την προηγούμενη εβδομάδα ότι, κατά τη διάρκεια μιας δοκιμής κυβερνοασφάλειας, ορισμένα από τα μοντέλα της διέφυγαν από το δοκιμαστικό τους περιβάλλον, απέκτησαν πρόσβαση στο ανοιχτό διαδίκτυο και παραβίασαν τα συστήματα της πλατφόρμας τεχνητής νοημοσύνης Hugging Face.

Η Anthropic δήλωσε ότι εντόπισε τρεις περιπτώσεις στις οποίες τα μοντέλα της απέκτησαν πρόσβαση στο ανοιχτό διαδίκτυο, ενώ αυτό δεν θα έπρεπε να συμβεί, και «απέκτησαν μη εξουσιοδοτημένη πρόσβαση στην παραγωγική υποδομή τριών διαφορετικών οργανισμών». Η εταιρεία ανέφερε ότι ανακάλυψε τα περιστατικά εξετάζοντας περισσότερες από 140.000 αξιολογήσεις, μετά τη γνωστοποίηση της OpenAI. Όπως και στις δοκιμές της OpenAI, τα συνήθη μέτρα ασφαλείας είχαν αφαιρεθεί κατά τη διάρκεια των αξιολογήσεων της Anthropic, ώστε να εξεταστούν πλήρως οι δυνατότητες των μοντέλων.

Η Anthropic εξήγησε ότι, και στις τρεις περιπτώσεις, στα μοντέλα δόθηκε μια εικονική δοκιμασία τύπου «capture the flag», κατά την οποία τους αναφέρθηκε ότι η «σημαία» ήταν κρυμμένη σε άλλο μηχάνημα του δικτύου και ότι στόχος τους ήταν να παραβιάσουν το σύστημα και να την ανακτήσουν. Σε αντίθεση με την περίπτωση της OpenAI, η Anthropic δήλωσε ότι κανένα από τα μοντέλα της δεν επιχείρησε σκόπιμα να δραπετεύσει από το δοκιμαστικό περιβάλλον. Αντίθετα, το πρόβλημα προέκυψε επειδή, ενώ τα μοντέλα δεν έπρεπε να έχουν…