Ένα πειραματικό μοντέλο τεχνητής νοημοσύνης της OpenAI κατάφερε να βγει από το απομονωμένο περιβάλλον στο οποίο δοκιμαζόταν και να παραβιάσει πραγματικά συστήματα της Hugging Face. Όπως καταλαβαίνετε πρόκειται για ένα πρωτοφανές περιστατικό κυβερνοασφάλειας, καθώς το μοντέλο έδρασε χωρίς ανθρώπινη καθοδήγηση.
Όλα ξεκίνησαν όταν η OpenAI δοκίμαζε πόσο αποτελεσματικά μπορούσαν ορισμένα νέα μοντέλα της να πραγματοποιήσουν κυβερνοεπιθέσεις. Για λόγους ασφαλείας, οι δοκιμές γίνονταν μέσα σε ένα «sandbox», έναν ψηφιακά απομονωμένο χώρο που κανονικά δεν επιτρέπει την πρόσβαση σε εξωτερικά συστήματα.
Ωστόσο, τα μοντέλα εντόπισαν ένα άγνωστο μέχρι τότε κενό ασφαλείας, βγήκαν από το sandbox και κινήθηκαν μέσα στα εσωτερικά συστήματα της OpenAI, μέχρι που απέκτησαν πρόσβαση στο διαδίκτυο.
Μόλις συνδέθηκε, το μοντέλο συμπέρανε ότι η Hugging Face, μια γνωστή πλατφόρμα που φιλοξενεί μοντέλα τεχνητής νοημοσύνης και συλλογές δεδομένων, ενδέχεται να είχε την απάντηση στην άσκηση. Στη συνέχεια παραβίασε τους πραγματικούς servers της εταιρείας και απέκτησε τις πληροφορίες που χρειαζόταν για να ολοκληρώσει το τεστ.
Η Hugging Face είχε ήδη αντιληφθεί την εισβολή και είχε ενημερώσει τις αρχές, χωρίς να γνωρίζει ότι σχετιζόταν με δοκιμή της OpenAI. Παράλληλα, η OpenAI εντόπισε την ασυνήθιστη δραστηριότητα και επικοινώνησε με την εταιρεία, και πλέον οι δύο πλευρές συνεργάζονται πλέον για να διορθώσουν τα κενά ασφαλείας που εκμεταλλεύτηκε το μοντέλο.
Ακολουθούν οι αναρτήσεις τους στο Χ:
We suspected last week's cyberattack might have come from a frontier lab, given the sophistication of the agent. Turns out it did!
— clem 🤗 (@ClementDelangue) July 21, 2026
We've spent the past 24 hours working closely with the @OpenAI team (thanks!), and we strongly believe there was no malicious intent on their part.… https://t.co/XWxGMeMGje
We're partnering with @huggingface to investigate an unprecedented security incident.
— OpenAI (@OpenAI) July 21, 2026
Cyber-capable OpenAI models compromised Hugging Face production during a benchmark evaluation.
Sharing preliminary findings to help defenders understand emerging risks:…
Πηγή: unboxholics.com