Νέα εργαλεία ασφαλείας για AI agents κυκλοφόρησε η Nvidia, υποστηρίζοντας μάλιστα ότι θα μπορούσαν να είχαν αποτρέψει την κυβερνοεπίθεση που δέχθηκε το Hugging Face. Να θυμίσουμε εδώ ότι το περιστατικό αποκαλύφθηκε το περασμένο καλοκαίρι, όταν ανεξέλεγκτοι AI agents της OpenAI παραβίασαν τα συστήματα της δημοφιλούς πλατφόρμας ανάπτυξης μοντέλων τεχνητής νοημοσύνης, προκαλώντας παράλληλα διαρροή δεδομένων χρηστών.
Κεντρικό εργαλείο της νέας πλατφόρμας είναι το OpenShell, το οποίο αξιοποιεί χαρακτηριστικά ασφαλείας των επεξεργαστών για να περιορίζει τη δράση των AI agents σε ελεγχόμενο περιβάλλον. Η Nvidia συνεργάζεται επίσης με την Intel και την Arm, ώστε η τεχνολογία να υποστηρίζεται και από τους δικούς τους επεξεργαστές.
Με βάση τα στοιχεία που έχουμε στη διάθεσή μας, η νέα πλατφόρμα ασφαλείας θα μπορούσε να είχε σταματήσει την παραβίαση.
Αυτά δήλωσε ο Τζάστιν Μποϊτάνο, αντιπρόεδρος του τμήματος Enterprise AI της Nvidia. Σύμφωνα με τον ίδιο, η επίθεση θα μπορούσε να είχε αποτραπεί αν τα κορυφαία εργαστήρια χρησιμοποιούσαν νωρίτερα τη συγκεκριμένη τεχνολογία για την αξιολόγηση των μοντέλων τους.
Παράλληλα, το σύστημα Sentry μπορεί να διακόψει τη λειτουργία ενός agent που επιχειρεί να ξεφύγει από τους περιορισμούς.
Τέλος, τα εργαλεία θα μπορούν να εντοπίζουν ακόμη και περιπτώσεις όπου ένας agent δημιουργεί πολλούς «υπο-agents», σε μια προσπάθεια να παρακάμψει τα μέτρα ασφαλείας.
Πηγή: unboxholics.com