Η OpenAI εξέφρασε πρόσφατα έντονη ανησυχία για την κατεύθυνση που μπορεί να πάρει η τεχνητή νοημοσύνη στο άμεσο μέλλον, ιδιαίτερα σε σχέση με την ανάπτυξη βιολογικών όπλων. Σύμφωνα με την εταιρεία, τα επόμενης γενιάς AI μοντέλα που βρίσκονται υπό ανάπτυξη ενδέχεται να αυξήσουν σημαντικά τον κίνδυνο δημιουργίας τέτοιων όπλων, ακόμα και από άτομα που δεν διαθέτουν εξειδικευμένες επιστημονικές γνώσεις. Η OpenAI επισημαίνει ότι οι δυνατότητες αυτών των μελλοντικών μοντέλων ενδέχεται να οδηγήσουν στην κατάταξή τους ως «υψηλού κινδύνου» στο πλαίσιο αξιολόγησης ασφαλείας που εφαρμόζει η ίδια. Αυτό συνεπάγεται την ανάγκη για εντατικότερους ελέγχους, εκτενέστερες δοκιμές και την υιοθέτηση αυστηρότερων μέτρων πρόληψης.
Ιδιαίτερη ανησυχία προκαλεί το φαινόμενο που η εταιρεία ονομάζει “novice uplift”, δηλαδή η ενίσχυση της ικανότητας μη ειδικών να αναπαράγουν γνωστές βιολογικές απειλές με τη βοήθεια ενός AI μοντέλου. Αν και οι ίδιες τεχνολογίες που προκαλούν ανησυχία μπορούν επίσης να οδηγήσουν σε σημαντικές ιατρικές ανακαλύψεις, η «διπλή χρήση» τους περιπλέκει σε μεγάλο βαθμό τη διαδικασία ελέγχου και πιστοποίησης. Για αυτόν τον λόγο, η OpenAI επιμένει πως η αξιοπιστία των μοντέλων θα πρέπει να προσεγγίσει το απόλυτο, κάτι που, μέχρι στιγμής, δεν είναι εφικτό.
Ανάλογους προβληματισμούς συμμερίζονται και άλλες εταιρείες στον χώρο της τεχνητής νοημοσύνης. Η Anthropic, για παράδειγμα, η οποία πρόσφατα κυκλοφόρησε το πιο προηγμένο της μοντέλο, το Claude Opus 4, ταξινόμησε το μοντέλο αυτό στο Επίπεδο Ασφάλειας 3 για AI, μια κατηγορία που αφορά συστήματα με δυνητικά επικίνδυνες δυνατότητες. Τα πρώτα τεστ έδειξαν πως το μοντέλο μπορούσε να υποστηρίξει χρήστες σε επιβλαβείς δραστηριότητες, ωστόσο έγιναν βελτιώσεις στην ασφάλεια όταν εντοπίστηκαν προβλήματα στα δεδομένα εκπαίδευσης.
Η κοινή παραδοχή, τόσο από την OpenAI, όσο και από την Anthropic είναι ότι η τεχνητή νοημοσύνη κινείται σε αχαρτογράφητα νερά, όπου το όριο μεταξύ προόδου και απειλής είναι εξαιρετικά λεπτό. Η ανάγκη για υπεύθυνη ανάπτυξη και ισχυρά μέτρα ασφάλειας δεν ήταν ποτέ πιο επιτακτική. Αν η τεχνολογία δεν συνοδευτεί από αυστηρό έλεγχο και διαφάνεια, οι κοινωνίες ενδέχεται να βρεθούν αντιμέτωπες με κινδύνους που μέχρι πρόσφατα φάνταζαν σενάρια επιστημονικής φαντασίας.
Πηγή: unboxholics.com