«Τα επόμενα μοντέλα AI ίσως να είναι πιο έξυπνα από όσο μπορούμε να διαχειριστούμε».
Ο Geoffrey Hinton, γνωστός και ως ο «νονός της τεχνητής νοημοσύνης», προχώρησε σε μία ακόμη ανησυχητική προειδοποίηση για το μέλλον της τεχνολογίας. Μιλώντας στο CNN στο περιθώριο του συνεδρίου Ai4 στο Λας Βέγκας, υποστήριξε ότι οι άνθρωποι ενδέχεται να μην μπορούν να διατηρήσουν τον έλεγχο των επόμενων γενιών μοντέλων, καθώς αυτά γίνονται ολοένα και πιο έξυπνα.
Δήλωσε χαρακτηριστικά:
Αυτό που συμβαίνει είναι ότι αυτά τα συστήματα γίνονται εξυπνότερα. Πιστεύω ότι όσο γίνονται εξυπνότερα, θα βλέπουμε ολοένα πιο σύνθετες προθέσεις και μεγαλύτερη ικανότητα να ξεφεύγουν από τον έλεγχο.
Ενώ συνέχισε λέγοντας:
Δεν πιστεύω ότι θα μπορέσουμε να τα κρατήσουμε υπό έλεγχο με τον απλό τρόπο να τα ξεπερνάμε στη σκέψη, ώστε να μην μπορούν να διαφύγουν.
Επιπλέον, ο Hinton χαρακτήρισε τα πρόσφατα περιστατικά της OpenAI και της Anthropic σχετικά με μοντέλα που παρέκαμψαν περιορισμούς μέσα σε απομονωμένα περιβάλλοντα δοκιμών «αρκετά τρομακτικά» και προέβλεψε ότι τα επόμενα χρόνια θα εμφανιστούν πολλές σοβαρές κυβερνοεπιθέσεις με τη βοήθεια της AI. Όπως εξήγησε, ο επιτιθέμενος χρειάζεται να πετύχει μόνο μία φορά, ενώ εκείνος που αμύνεται πρέπει να είναι επιτυχημένος κάθε φορά.
Παρά τις προειδοποιήσεις του ωστόσο ξεκαθάρισε ότι κανείς δεν μπορεί να γνωρίζει με βεβαιότητα πώς θα εξελιχθεί η τεχνητή νοημοσύνη και τόνισε ότι οι εταιρείες και οι κυβερνήσεις πρέπει να ασχοληθούν από τώρα με την ανάπτυξη ισχυρότερων μέτρων ασφαλείας, πριν τα συστήματα αποκτήσουν δυνατότητες που δεν θα μπορούν πλέον να περιοριστούν εύκολα.
Πηγή: unboxholics.com