Γιατί τρομάζει (ακόμα και) τους ισχυρούς του πλανήτη το Mythos της Anthropic

Και οι Financial Times εξηγούν:

Ένα εξαιρετικά ευφυές υπολογιστικό σύστημα, κλειδωμένο σε ένα κυβερνο-κλουβί, καταφέρνει να δραπετεύσει και να συνδεθεί στο διαδίκτυο. Το Mythos δεν το έκανε αυτό αυθόρμητα, αλλά επειδή οι δημιουργοί του το προκάλεσαν ως δοκιμή. Ωστόσο, όχι μόνο ανταποκρίθηκε με ευκολία στην πρόκληση, αλλά έστειλε και email σε έναν ερευνητή της εταιρείας για να τον ενημερώσει και στη συνέχεια, χωρίς προτροπή, δημοσίευσε λεπτομέρειες στο διαδίκτυο για να καυχηθεί. Αφού επέδειξε επίσης υπεράνθρωπες ικανότητες στον εντοπισμό και την εκμετάλλευση αδυναμιών ασφαλείας σε λογισμικό, η Anthropic έκρινε ότι το Mythos είναι υπερβολικά επικίνδυνο για να διατεθεί στο κοινό και περιορίζει προς το παρόν την πρόσβαση σε επιλεγμένες…