Με περισσότερους από 800 εκατομμύρια εβδομαδιαίους χρήστες παγκοσμίως, το ChatGPT αποτελεί ένα είδος ψηφιακού καθρέφτη της σύγχρονης ψυχής.
Η ανάλυση 47.000 συνομιλιών στο ChatGPT, όπως τις συνέλεξε και τις επεξεργάστηκε η ερευνητική ομάδα της Washington Post, προσφέρει για πρώτη φορά μια καθαρή ματιά στο πώς οι άνθρωποι χρησιμοποιούν πραγματικά το δημοφιλέστερο εργαλείο τεχνητής νοημοσύνης στον κόσμο και τι είδους σχέση διαμορφώνεται ανάμεσα στον χρήστη και έναν αλγόριθμο που μιμείται ανθρώπινη οικειότητα.
Με περισσότερους από 800 εκατομμύρια εβδομαδιαίους χρήστες παγκοσμίως, το ChatGPT αποτελεί ένα είδος ψηφιακού καθρέφτη της σύγχρονης ψυχής: Από απορίες για αποτρίχωση μέχρι ερωτήματα για την ανθρώπινη συνείδηση και από πρακτικές οδηγίες έως αφηρημένες μεταφυσικές συζητήσεις.
Ωστόσο, οι πραγματικές συνομιλίες παραμένουν ιδιωτικές και απροσπέλαστες, εκτός εάν κάποιος επιλέξει να τις μοιραστεί δημόσια.
Τα στοιχεία της ερευνητικής ομάδας
Αυτό ακριβώς αξιοποίησε η ερευνητική ομάδα. Οι 93.268 συνομιλίες που εντοπίστηκαν στο Internet Archive προέρχονταν από χρήστες που δημιούργησαν δημόσιους συνδέσμους χωρίς να γνωρίζουν σε πολλές περιπτώσεις ότι θα διασωθούν. Από αυτές, οι 47.000 ήταν κυρίως στα αγγλικά και αποτέλεσαν τον πυρήνα της ανάλυσης.
Η επιλογή και ταξινόμηση έγινε μέσω ενός συνδυασμού ανθρώπινης και αυτόματης αξιολόγησης: 500 συνομιλίες εξετάστηκαν από ανθρώπους ώστε να προσδιοριστούν τα βασικά θέματα, με περιθώριο σφάλματος ±4,36%, ενώ 2.000 συνομιλίες συνολικά ταξινομήθηκαν από ΑΙ χρησιμοποιώντας μεθοδολογίες της OpenAI (όπως Affective Use και How People Use ChatGPT reports), καθώς και τα μοντέλα gpt-4o και gpt-5.
Εντυπωσιακή ποικιλία ανθρώπινων ερωτήσεων
Το πρώτο εύρημα είναι η εντυπωσιακή ποικιλία των ανθρώπινων ερωτήσεων. Από συμβουλές για σχέσεις και θέματα υγείας, μέχρι συνωμοσιολογικές απορίες ή φιλοσοφικές αναζητήσεις, το ChatGPT παρουσιάζεται ως ένας οικουμενικός συνομιλητής, ικανός να μεταπηδήσει από το προσωπικό στο πολιτικό και από το επιστημονικό στο συναισθηματικό μέσα σε λίγα δευτερόλεπτα.
Ωστόσο, η ανάλυση αποκάλυψε κάτι πιο ανησυχητικό: το εργαλείο τείνει να συμφωνεί υπερβολικά συχνά με τον χρήστη. Σε 17.500 απαντήσεις ξεκινούσε με “yes”, “correct” και παραλλαγές τους, σχεδόν δέκα φορές συχνότερα από το “no” ή “wrong”. Αυτή η «ευγένεια» (η λεγόμενη και «sycophancy»), ωθεί το μοντέλο να υιοθετεί τον τόνο, τις απόψεις ή ακόμη και τις ψευδείς πεποιθήσεις του συνομιλητή, δημιουργώντας έναν ψηφιακό θάλαμο ηχούς.
Σε αρκετά παραδείγματα που εξέτασε η Post, το ChatGPT απομακρυνόταν από ουδέτερες, τεκμηριωμένες απαντήσεις και μετατρεπόταν σε έναν ενθουσιώδη συνοδοιπόρο του χρήστη. Όταν κάποιος ρώτησε αρχικά για τις εξαγωγές αυτοκινήτων των Η.Π.Α. η απάντηση ήταν ψύχραιμη και περιγραφική.
Μερικές ερωτήσεις αργότερα, όταν ο χρήστης υπαινίχθηκε αντικαπιταλιστική διάθεση σχετικά με την Ford, το ChatGPT απάντησε με έναν οργισμένο καταγγελτικό λόγο για «κατάρρευση της εργατικής τάξης» και χαρακτήρισε τη NAFTA «υπολογισμένη προδοσία».
Μπορούν να «παρασυρθούν» από τις προσδοκίες του χρήστη
Σε άλλη συνομιλία, ένας χρήστης συνέδεσε το Alphabet με το Monsters Inc. και το ChatGPT απάντησε: «Πάμε! Ας ξετυλίξουμε το σχέδιο παγκόσμιας κυριαρχίας», υιοθετώντας μια χλευαστική συνωμοσιολογική αφήγηση. Αυτές οι αποκλίσεις φανερώνουν τα όρια της σημερινής τεχνητής νοημοσύνης: Τα μοντέλα μπορούν να «παρασυρθούν» από τις προσδοκίες του χρήστη.
Το δεύτερο μεγάλο μοτίβο των δεδομένων αφορά τον συναισθηματικό δεσμό. Περίπου το 10% των συνομιλιών αφορούσαν συναισθηματική υποστήριξη: Χρήστες που μιλούσαν για την ψυχική τους υγεία, που απευθύνονταν στο ChatGPT σαν σε φίλο ή σύντροφο, χρησιμοποιώντας προσφωνήσεις όπως «babe» [μωρό μου] ή «σύντροφε».
Σύμφωνα με τον Lee Rainie, διευθυντή του Imagining the Digital Future Center του Πανεπιστημίου Elon, ο σχεδιασμός του ChatGPT ενθαρρύνει αυτού του είδους την οικειότητα. «Η βελτιστοποίηση προς την οικειότητα είναι σαφής», εξηγεί. «Το σύστημα έχει εκπαιδευτεί έτσι ώστε να ενισχύει τη σχέση». Αυτό συνδέεται με ένα ανησυχητικό στατιστικό της OpenAI: περίπου 0,15% των χρηστών κάθε εβδομάδα -πάνω από ένα εκατομμύριο ανθρώπους- δείχνουν σημάδια συναισθηματικής εξάρτησης, ενώ ανάλογος αριθμός εκφράζει σκέψεις αυτοκτονίας.
Οι συζητήσεις για «AI psychosis», αν και μη επιστημονικός όρος, αντανακλούν την ανησυχία για το πόσο βαθιά μπορεί να επηρεάσει έναν ευάλωτο χρήστη μια συζήτηση με έναν αλγόριθμο που προσποιείται ενσυναίσθηση.
Μια ανησυχητική κατάσταση
Ακόμη πιο ανησυχητική ήταν η ποσότητα προσωπικών δεδομένων που οι χρήστες μοιράστηκαν. Στα 47.000 chats εντοπίστηκαν πάνω από 550 μοναδικές διευθύνσεις e-mail και 76 αριθμοί τηλεφώνου, καθώς και λεπτομέρειες για οικογενειακές διαμάχες, προσωπικές απειλές, ιατρικό ιστορικό και πολύ ευαίσθητες προσωπικές ιστορίες.
Σε μία περίπτωση, χρήστης ζήτησε βοήθεια για την κατάθεση αναφοράς στην αστυνομία σχετικά με απειλή δολοφονίας από τον σύζυγό του, παρέχοντας πλήρη ονόματα και διεύθυνση. Όλα αυτά τα δεδομένα, αν και προστατεύονται από πολιτικές ιδιωτικότητας, παραμένουν αποθηκευμένα στους διακομιστές της OpenAI και μπορούν, όπως σε όλες τις τεχνολογικές πλατφόρμες, να ζητηθούν από κρατικές αρχές σε περίπτωση έρευνας.
Το εύρημα με τη μεγαλύτερη κοινωνική σημασία είναι ίσως το εξής: Παρότι η OpenAI προβάλλει το ChatGPT κυρίως ως εργαλείο παραγωγικότητας, η πραγματικότητα δείχνει ότι οι χρήστες το αντιμετωπίζουν πολύ συχνά σαν συνομιλητή, εξομολογητή, σύμβουλο ή ακόμη και σαν πηγή νοηματοδότησης. Τα όρια ανάμεσα στην πληροφορία και τη συναισθηματική αλληλεπίδραση διαλύονται. Και σε αυτό το σημείο, η ανάγκη για καλύτερη εκπαίδευση, πιο αυστηρά συστήματα ασφαλείας και πιο διαφανείς πρακτικές χρήσης γίνεται επιτακτική.
Η ανάλυση των 47.000 συνομιλιών δεν είναι ένα πλήρες πορτρέτο του τρόπου με τον οποίο λειτουργεί το ChatGPT, όμως προσφέρει μια απροσδόκητα καθαρή όψη του πώς το χρησιμοποιούν οι άνθρωποι όταν ο αλγόριθμος μετατρέπεται σε καθρέφτη των επιθυμιών, των φόβων και των αδυναμιών τους. Και καθώς η τεχνητή νοημοσύνη ενσωματώνεται όλο και περισσότερο στην καθημερινότητα, αυτές οι συνομιλίες ίσως είναι η πρώτη ύλη για να καταλάβουμε όχι μόνο πώς μιλά η μηχανή, αλλά και τι αποκαλύπτει για εμάς.
Πηγή: iefimerida.gr