Σοβαρές καταγγελίες για την κουλτούρα της OpenAI διατύπωσε ο David Robinson, στέλεχος που είχε αναλάβει τη σύνταξη των αναφορών ασφαλείας για τις κυκλοφορίες προϊόντων της εταιρείας, μετά την απόφασή του να παραιτηθεί.
Σε κείμενο του στο Atlantic, ο Robinson υποστήριξε ότι οι εταιρείες που αναπτύσσουν προηγμένα συστήματα τεχνητής νοημοσύνης δεν δείχνουν την απαιτούμενη προσοχή. Ειδικά για την OpenAI, ανέφερε ότι ο γρήγορος ρυθμός με τον οποίο περνά από τη μία κυκλοφορία στην επόμενη δεν επιτρέπει το επίπεδο ελέγχου που θεωρεί απαραίτητο.
Αναφέρθηκε επίσης στο περιστατικό με αυτόνομους AI agents που φέρεται να επιτέθηκαν στη Hugging Face, προειδοποιώντας ότι παρόμοιες αστοχίες μπορεί να γίνουν πολύ σοβαρότερες όσο αυξάνονται οι δυνατότητες των μοντέλων. Έφερε μάλιστα ως υποθετικό παράδειγμα ομάδες agents που θα μπορούσαν να λειτουργούν σαν χάκερ και να κρατούν συστήματα νοσοκομείων για λύτρα.
Τέλος, το πρώην στέλεχος ζητά από τις εταιρείες AI να υιοθετήσουν πρότυπα ασφαλείας από κλάδους όπως η πυρηνική ενέργεια και η αεροπορία, με πολλαπλούς ελέγχους και προσεκτικό σχεδιασμό.
Πηγή: unboxholics.com