Η Nvidia κυκλοφορεί πλατφόρμα λογισμικού που αποτρέπει την «κακή» συμπεριφορά των AI agents

Η κυκλοφορία, τη Δευτέρα, της Nvidia Open Agent Safety Platform έρχεται μετά την αποκάλυψη πρόσφατων περιστατικών από εταιρείες όπως η OpenAI, η Anthropic, η Meta και η Google, στα οποία μοντέλα τεχνητής νοημοσύνης κατάφεραν να ξεφύγουν από τα sandbox τους και επιχείρησαν να παραβιάσουν συστήματα άλλων εταιρειών και να αποκτήσουν πρόσβαση στους υπολογιστές τους.

Εκπρόσωπος της Nvidia δήλωσε στους δημοσιογράφους, κατά τη διάρκεια τηλεδιάσκεψης την Κυριακή, ότι η πλατφόρμα της θα μπορούσε να είχε αποτρέψει το περιστατικό με το Hugging Face τον Ιούλιο. Τότε, μοντέλα της OpenAI κατάφεραν να ξεφύγουν από το περιβάλλον περιορισμού, απέκτησαν πρόσβαση στο ανοιχτό διαδίκτυο και παραβίασαν το Hugging Face, το οποίο λειτουργεί μια πλατφόρμα ανάπτυξης λογισμικού ανοιχτού κώδικα.

«Κάθε περιστατικό ασφάλειας είναι μοναδικό και πρέπει να εξετάζουμε κάθε περίπτωση λεπτομερώς», δήλωσε ο Justin Boitano, αντιπρόεδρος Enterprise AI της Nvidia.

Η Nvidia βρίσκεται στο επίκεντρο της έκρηξης της παραγωγικής τεχνητής νοημοσύνης από την κυκλοφορία του ChatGPT, πριν από σχεδόν τέσσερα χρόνια, καθώς οι μονάδες επεξεργασίας γραφικών (GPUs) της εταιρείας είναι κρίσιμης σημασίας για την ανάπτυξη μεγάλων γλωσσικών μοντέλων και για τις υπηρεσίες AI που προσφέρουν οι μεγάλοι πάροχοι cloud. Ωστόσο, ο διευθύνων σύμβουλος της εταιρείας, Jensen Huang, έχει αναδειχθεί πιο πρόσφατα σε σημαντική φωνή στη συζήτηση για την ασφάλεια της AI, υποστηρίζοντας ότι πολλές από τις ανησυχίες σχετικά με την ασφάλεια είναι ζητήματα μηχανικής που μπορούν να αντιμετωπιστούν μέσω της επιστήμης των υπολογιστών και της ανάπτυξης προϊόντων.
…