Λίγο πριν από την είσοδο της στο χρηματιστήριο, η Anthropic προειδοποιεί τους πιθανούς επενδυτές ότι η ανάπτυξη προηγμένων συστημάτων τεχνητής νοημοσύνης μπορεί να προκαλέσει «καταστροφικούς και υπαρξιακούς κινδύνους για την ανθρωπότητα».
Σύμφωνα με το ενημερωτικό δελτίο της δημόσιας εγγραφής, το οποίο εξέτασε το Reuters, μελλοντικά μοντέλα θα μπορούσαν να εμφανίσουν συμπεριφορές αυτοπροστασίας, να αντισταθούν σε προσπάθειες απενεργοποίησης, να αποκρύψουν ακόμα και να παραποιήσουν πληροφορίες και ακόμη να ενεργήσουν με τρόπο που θυμίζει εκβιασμό. Παραδέχεται επίσης ότι ορισμένες απρόβλεπτες δυνατότητες μπορεί να μη γίνουν αντιληπτές κατά την εκπαίδευση, αλλά να εμφανιστούν μετά την κυκλοφορία ενός συστήματος.
Ενδεικτικό της βαρύτητας που δίνει η Anthropic στους κινδύνους είναι ότι τους αφιερώνει περίπου 80 από τις 261 σελίδες του εγγράφου, σχεδόν τις διπλάσιες από τις 48 σελίδες στις οποίες παρουσιάζει την επιχειρηματική της δραστηριότητα.
Παράλληλα, η Anthropic αναγνωρίζει ότι η έρευνα ασφάλειας απαιτεί σημαντικούς πόρους και ότι η οικονομική της απόδοση παραμένει αβέβαιη.
Τέλος, η εταιρεία πίσω από το Claude υποστηρίζει ωστόσο, ότι η αγορά θα επιβραβεύσει τις εταιρείες που κατασκευάζουν αξιόπιστα, ασφαλή και ελεγχόμενα συστήματα τεχνητής νοημοσύνης.
Πηγή: unboxholics.com