Μια νέα ακαδημαϊκή έρευνα προειδοποιεί ότι τα σύγχρονα συστήματα AI μπορούν πλέον να “τρυπώνουν” σε δημοσκοπήσεις και ερωτηματολόγια με τρόπο που μέχρι πρόσφατα θεωρούνταν αδύνατος.
Ερευνητές από το Dartmouth University διαπίστωσαν ότι προηγμένα μοντέλα μπορούν να παρουσιαστούν ως κανονικοί συμμετέχοντες και να περάσουν όλους τους ελέγχους που έχουν σχεδιαστεί για να εντοπίζουν bots, κάτι που θέτει υπό αμφισβήτηση την αξιοπιστία μεγάλου όγκου δεδομένων.
Ο Sean Westwood, πολιτικός επιστήμονας και δημιουργός του συστήματος, ανέπτυξε έναν αυτόνομο “ψηφιακό συμμετέχοντα” που δημιουργεί ένα πλήρες, ψεύτικο προφίλ με δημογραφικά στοιχεία και στη συνέχεια συμπεριφέρεται σαν αληθινός χρήστης: κινεί το ποντίκι με φυσικό τρόπο, σταματάει για να “διαβάσει”, πληκτρολογεί με ρυθμό ανθρώπου και κάνει ακόμη και μικρά λάθη που διορθώνει επί τόπου.
Σε δεκάδες χιλιάδες δοκιμές, το bot κατάφερε να περάσει όλους σχεδόν τους μηχανισμούς ανίχνευσης, λογικά τεστ και CAPTCHA. Οι ερευνητές υπολογίζουν ότι μόλις λίγες δεκάδες τέτοιες απαντήσεις θα αρκούσαν για να αλλάξουν το αποτέλεσμα εθνικών δημοσκοπήσεων, με κόστος λίγων λεπτών ανά καταχώρηση.
Ακόμη πιο ανησυχητικό είναι ότι το σύστημα παρήγαγε άψογα αγγλικά κείμενα ακόμη και όταν λειτουργούσε σε άλλες γλώσσες, κάτι που θα μπορούσε να διευκολύνει ξένες παρεμβάσεις σε polls άλλων χωρών.
Ο Westwood τονίζει ότι το ζήτημα αφορά όχι μόνο την πολιτική αλλά και την επιστημονική έρευνα, η οποία βασίζεται πλέον σε online surveys, λέγοντας ότι:
Δεν μπορούμε πλέον να είμαστε βέβαιοι ότι οι απαντήσεις προέρχονται από πραγματικούς ανθρώπους. Αν δράσουμε τώρα, μπορούμε να προστατεύσουμε την ακεραιότητα των δημοσκοπήσεων και τη δημοκρατική λογοδοσία που παρέχουν.
Πηγή: unboxholics.com