Την αποχώρηση του από την Anthropic και ευρύτερα από τον κλάδο της τεχνητής νοημοσύνης ανακοίνωσε ο 27χρονος Βρετανός ερευνητής Jacob Coxon, κατηγορώντας τις μεγαλύτερες εταιρείες του χώρου ότι επιταχύνουν την ανάπτυξη εξαιρετικά ισχυρών συστημάτων χωρίς να έχουν εξασφαλίσει πως θα μπορούν να τα διατηρήσουν υπό ανθρώπινο έλεγχο.
Σε ανάρτηση του στο X, ο Coxon υποστήριξε ότι τόσο η Anthropic όσο και η OpenAI, στην οποία εργαζόταν προηγουμένως, κινούνται προς τη δημιουργία μιας αυτοβελτιούμενης υπερνοημοσύνης και «παίζουν τις ζωές μας στα ζάρια», καθώς τα επόμενα μοντέλα θα μπορούσαν να αποκτήσουν υπεράνθρωπες ικανότητες, να παραβιάζουν συστήματα και να εξασφαλίζουν πραγματική ισχύ και πόρους. Όπως ανέφερε, ο ανταγωνισμός μεταξύ των αμερικανικών εταιρειών αλλά και η πίεση από την Κίνα αυξάνουν τον κίνδυνο να γίνουν σοβαροί συμβιβασμοί στην ασφάλεια.
Τις ανησυχίες του συμμερίζεται και ο ερευνητής ασφαλείας της Anthropic, Evan Hubinger, ο οποίος εκτιμά ότι υπάρχει πιθανότητα μεγαλύτερη από 10% η AI να προκαλέσει τον αφανισμό της ανθρωπότητας μέσα στην επόμενη δεκαετία.
Παρότι θεωρεί χαμηλό τον κίνδυνο από τα σημερινά μοντέλα, προειδοποιεί ότι δεν υπάρχει ακόμη αξιόπιστο σχέδιο για τον έλεγχο μιας μελλοντικής υπερνοημοσύνης.
Δείτε παρακάτω τις αναρτήσεις τους στο Χ:
Earlier today, AI researcher Jacob Coxon, who spent the past three years working at OpenAI and Anthropic, publicly resigned from Anthropic, warning that both companies are racing toward superintelligence and “gambling with our lives.”
— Yashar Ali 🐘 (@yashar) September 9, 2026
Then Evan Hubinger, Anthropic’s current Head… pic.twitter.com/C8s8EY7yyL
I resigned from Anthropic today. I spent the last three years doing pretraining research at both OpenAI and Anthropic. Neither company is acting responsibly. They are racing straight to self-improving superintelligence and gambling with our lives. More thoughts below.
— Jacob Coxon (@hilbertspaess) September 9, 2026
Πηγή: unboxholics.com