Την ανάγκη να επιβραδυνθεί ο ρυθμός ανάπτυξης των ισχυρότερων συστημάτων τεχνητής νοημοσύνης εξέφρασε ο CEO της Anthropic, Dario Amodei, προειδοποιώντας ότι οι δυνατότητες του AI εξελίσσονται πλέον τόσο γρήγορα ώστε υπάρχει κίνδυνος να ξεπεράσουν την ικανότητα των ανθρώπων να τις κατανοήσουν και να τις ελέγξουν.
Συγκεκριμένα, σε εκτενές κείμενο που δημοσίευσε στην προσωπική του ιστοσελίδα, ο επικεφαλής της εταιρείας πίσω από το Claude αναφέρθηκε στους κινδύνους που μπορεί να προκύψουν από κυβερνοεπιθέσεις, βιοτρομοκρατία και σοβαρές οικονομικές αναταράξεις.
Έγραψε χαρακτηριστικά:
Πρέπει να επιβραδύνουμε τον ρυθμό με τον οποίο βελτιώνουμε τις δυνατότητες των μοντέλων AI. Η πρόοδος θα εξακολουθεί να φαίνεται γρήγορη και πρέπει να χρησιμοποιήσουμε με σύνεση τον χρόνο που θα κερδίσουμε.
Μιλώντας παράλληλα στο CNN και στον Anderson Cooper, ο Amodei υποστήριξε ότι οι μεγαλύτερες εταιρείες του χώρου πρέπει να συνεργαστούν ώστε να αποφύγουν επικίνδυνες κατευθύνσεις, ξεκαθαρίζοντας όμως ότι μια υπερβολικά μεγάλη επιβράδυνση θα μπορούσε επίσης να δημιουργήσει προβλήματα.
Όπως δήλωσε:
Αν κινηθούμε πολύ αργά, εξακολουθώ να πιστεύω ότι η τεχνολογία θα καταλήξει στα χέρια των λάθος ανθρώπων. Και αυτό θα αυξήσει ξανά σημαντικά την πιθανότητα να πάνε τα πράγματα στραβά.
Ιδιαίτερη αναφορά έκανε στη λεγόμενη «recursive self-improvement», δηλαδή στην πιθανότητα προηγμένα συστήματα AI να συμβάλλουν στη δημιουργία ακόμη ισχυρότερων συστημάτων, υποστηρίζοντας ότι η τεχνολογία έχει σημειώσει δραματική πρόοδο τους τελευταίους μήνες. Σύμφωνα με τον ίδιο, αν αυτή η εξέλιξη συνεχιστεί χωρίς επαρκείς δικλείδες ασφαλείας, θα μπορούσε να ξεπεράσει την ικανότητα μας να κατανοούμε και να ελέγχουμε τα συγκεκριμένα συστήματα.
Ο Amodei πρότεινε τέλος οι εταιρείες AI να επιτρέψουν σε ανεξάρτητους εξωτερικούς αξιολογητές να έχουν εκτεταμένη πρόσβαση στα μοντέλα, στις διαδικασίες εκπαίδευσης και στα συστήματα ασφαλείας τους, με την Anthropic να δεσμεύεται ότι θα υιοθετήσει αυτή την πρακτική. Την πρόταση υποστήριξαν δημόσια και άλλοι επικεφαλής της βιομηχανίας, με τον Sam Altman να δηλώνει ότι η OpenAI θα κάνει το ίδιο, ενώ θετικά τοποθετήθηκαν επίσης οι Elon Musk και Demis Hassabis.
Δείτε παρακάτω το βίντεο με τις σχετικές δηλώσεις:
Πηγή: unboxholics.com