Η συγκεκριμένη μελέτη εντάσσεται στο ταχέως αναπτυσσόμενο πεδίο της Prompt Engineering, της τεχνικής που εξετάζει πώς η ποιότητα των οδηγιών επηρεάζει τις απαντήσεις ενός μοντέλου τεχνητής νοημοσύνης.
Η ευγένεια φαίνεται να χάνει έδαφος, τουλάχιστον στον ψηφιακό κόσμο και, ειδικότερα, στο αμφιλεγόμενο πεδίο της τεχνητής νοημοσύνης. Σύμφωνα με πρόσφατη έρευνα, το να χρησιμοποιεί κανείς αγενή ή απότομα διατυπωμένα μηνύματα (prompts) προς το ChatGPT οδηγεί σε καλύτερες, πιο ακριβείς απαντήσεις.
Από τα πρώτα στάδια ανάπτυξης του γνωστού chatbot, οι δημιουργοί και οι χρήστες υποστήριζαν ότι οι ευγενικοί τρόποι συμβάλλουν σε πιο αποδοτικές απαντήσεις. Η ιδέα ότι το σύστημα μπορεί να «αντιλαμβάνεται» ή να επηρεάζεται από το ύφος του χρήστη -σα να είχε ευαισθησίες- αποδείχθηκε τελικά αβάσιμη. Όπως δείχνουν τα νέα στοιχεία που δημοσιεύτηκαν στην πλατφόρμα arXiv, η ευγένεια όχι μόνο δεν είναι απαραίτητη, αλλά μπορεί και να μειώσει την απόδοση του συστήματος.
Yπέβαλαν το ChatGPT σε μια σειρά δοκιμασιών
Για να φτάσουν στο συμπέρασμα αυτό, οι ερευνητές υπέβαλαν το ChatGPT σε μια σειρά δοκιμασιών: δημιούργησαν ένα σύνολο δεδομένων που περιελάμβανε 50 βασικές ερωτήσεις από πεδία όπως τα μαθηματικά, η επιστήμη και η ιστορία, καθεμιά διατυπωμένη σε πέντε διαφορετικούς τόνους: Πολύ ευγενικό, ευγενικό, ουδέτερο, αγενές και πολύ αγενές. Συνολικά, προέκυψαν 250 μοναδικά prompts.
Η συγκεκριμένη μελέτη εντάσσεται στο ταχέως αναπτυσσόμενο πεδίο της Prompt Engineering, της τεχνικής που εξετάζει πώς η ποιότητα των οδηγιών επηρεάζει τις απαντήσεις ενός μοντέλου τεχνητής νοημοσύνης. Η έρευνα πλέον δεν περιορίζεται στη γλώσσα ή στη σύνταξη, αλλά επεκτείνεται και στα συναισθηματικά στοιχεία του λόγου, όπως οι τόνοι και ο βαθμός ευγένειας.
Τα αποτελέσματα της μελέτης είναι αποκαλυπτικά:
- Πολύ ευγενικά prompts απέφεραν ακριβείς απαντήσεις στο 80% των περιπτώσεων.
- Ευγενικά prompts: 81,4%.
- Ουδέτερα prompts: 82,2%.
- Αγενή prompts: 82,8%.
- Πολύ αγενή prompts: 84,8%.
Με απλά λόγια, όσο πιο «άκομψος» ήταν ο χρήστης, τόσο καλύτερα απέδιδε το σύστημα.
Οι «αγενείς» ερευνητές ωστόσο, έσπευσαν να τονίσουν ότι δεν προκρίνουν την εχθρική ή προσβλητική επικοινωνία με την τεχνητή νοημοσύνη ως πρακτική στην καθημερινή χρήση. Όπως αναφέρουν στην έκθεσή τους: «Δεν υποστηρίζουμε τη χρήση εχθρικών ή τοξικών διεπαφών στις πραγματικές εφαρμογές. Η χρήση προσβλητικού ή ταπεινωτικού λόγου στην αλληλεπίδραση ανθρώπου-ΤΝ μπορεί να έχει αρνητικές επιπτώσεις στην εμπειρία του χρήστη, στην προσβασιμότητα και στην κοινωνική ενσωμάτωση και μπορεί να συμβάλει σε επιβλαβείς επικοινωνιακές νόρμες.»
Το σημαντικό συμπέρασμα είναι ότι τα μεγάλα γλωσσικά μοντέλα (LLMs) εξακολουθούν να είναι ευαίσθητα σε εξωτερικά ερεθίσματα. Στόχος της μελλοντικής έρευνας, καταλήγουν, πρέπει να είναι η ανακάλυψη τρόπων που θα αξιοποιούν τα ίδια πλεονεκτήματα, χωρίς την ανάγκη τοξικών διατυπώσεων, εξασφαλίζοντας ότι οι πρακτικές της «μηχανικής των prompts» παραμένουν σύμφωνες με τις αρχές της υπεύθυνης τεχνητής νοημοσύνης.
Πηγή: iefimerida.gr