Η OpenAI λανσάρει τη λειτουργία Trusted Contact στο ChatGPT: Ορίζετε ένα πρόσωπο εμπιστοσύνης που ειδοποιείται αν εντοπιστεί σοβαρή ανησυχία αυτοτραυματισμού.
Σύνοψη
- Η OpenAI κυκλοφόρησε τη λειτουργία ChatGPT Trusted Contact που επιτρέπει στους ενήλικες χρήστες να ορίσουν ένα πρόσωπο εμπιστοσύνης για ειδοποίηση σε σοβαρές στιγμές κρίσης.
- Η ειδοποίηση γίνεται μόνο μετά από αξιολόγηση ανθρώπινης ομάδας και δεν περιλαμβάνει περιεχόμενο συνομιλιών.
- Η λειτουργία αναπτύχθηκε με τη συμβολή κλινικών ειδικών και ψυχολογικών οργανώσεων, ανάμεσα στις οποίες η American Psychological Association.
Η OpenAI κυκλοφόρησε νέα λειτουργία για ενήλικες χρήστες του ChatGPT που ονομάζεται Trusted Contact, επιτρέποντας σε κάθε χρήστη να ορίσει ένα πρόσωπο εμπιστοσύνης το οποίο θα ειδοποιείται αν το σύστημα εντοπίσει σοβαρή ανησυχία αυτοτραυματισμού. Η λειτουργία εμφανίζεται ήδη στις ρυθμίσεις του ChatGPT και αποτελεί επέκταση των μέτρων ασφαλείας που είχαν ήδη εφαρμοστεί για εφήβους χρήστες.
Πώς λειτουργεί η νέα επαφή εμπιστοσύνης
Η ρύθμιση Trusted Contact είναι προαιρετική και ο χρήστης ορίζει ελεύθερα ποιον θέλει να έχει αυτό τον ρόλο. Το πρόσωπο που επιλέγεται πρέπει να είναι τουλάχιστον 18 ετών (19 στη Νότια Κορέα), λαμβάνει πρόσκληση που εξηγεί τι ακριβώς σημαίνει ο ρόλος, και έχει μία εβδομάδα να αποδεχτεί ή να αρνηθεί. Αν αρνηθεί, ο χρήστης μπορεί να επιλέξει κάποιον άλλο.
Το σύστημα ειδοποίησης δεν είναι αυτόματο. Αν το ChatGPT εντοπίσει συνομιλία που εγείρει σοβαρές ανησυχίες, πρώτα ενημερώνει τον ίδιο τον χρήστη ότι η επαφή του ενδέχεται να ειδοποιηθεί και του προτείνει να επικοινωνήσει μαζί της απευθείας. Στη συνέχεια, ειδική ομάδα εκπαιδευμένων ανθρώπινων αξιολογητών αναλαμβάνει να εκτιμήσει την κατάσταση και μόνο αν επιβεβαιωθεί ότι υπάρχει πραγματικός κίνδυνος, η επαφή εμπιστοσύνης ειδοποιείτε μέσω email, SMS ή push notification.
Σημαντικό: Η ειδοποίηση δεν περιλαμβάνει αποσπάσματα συνομιλιών ή άλλα προσωπικά δεδομένα. Αναφέρει απλώς ότι προέκυψε ένα ζήτημα αυτοτραυματισμού και ζητά από το πρόσωπο εμπιστοσύνης να επικοινωνήσει με τον χρήστη. Η OpenAI δηλώνει ότι στόχος είναι η αξιολόγηση να ολοκληρώνεται σε λιγότερο από μία ώρα.
Γιατί τώρα και ποιος το ανέπτυξε
Η λειτουργία αναπτύχθηκε σε συνεργασία με κλινικούς ειδικούς, ερευνητές και οργανώσεις ψυχικής υγείας, ανάμεσα στις οποίες η American Psychological Association. Η OpenAI είχε ήδη εισάγει αντίστοιχη δυνατότητα για γονείς που συνδέουν τον λογαριασμό τους με εκείνον ανηλίκου παιδιού, λαμβάνοντας ειδοποιήσεις σε ενδείξεις ψυχικής δυσφορίας. Το Trusted Contact αποτελεί την αντίστοιχη επέκταση για ενήλικες.
Η λειτουργία δεν αντικαθιστά γραμμές κρίσης, υπηρεσίες έκτακτης ανάγκης ή επαγγελματική ψυχολογική υποστήριξη, το ChatGPT θα εξακολουθεί να παραπέμπει τους χρήστες σε αυτές. Τόσο ο χρήστης όσο και η επαφή εμπιστοσύνης μπορούν να αποχωρήσουν από τη ρύθμιση ανά πάσα στιγμή.
Η άποψή μας στο Techblog
Το ChatGPT έχει γίνει πλατφόρμα για βαθιά προσωπικές συνομιλίες, ανεξάρτητα από το αν η OpenAI το σχεδίασε έτσι. Η προσθήκη του Trusted Contact είναι μια ειλικρινής κίνηση που αναγνωρίζει ότι ένα chatbot δεν μπορεί να αντικαταστήσει τον ανθρώπινο παράγοντα σε στιγμές κρίσης. Αν και η λειτουργία ξεκινά από τις Η.Π.Α. θα είναι ενδιαφέρον να δούμε πότε και πώς θα επεκταθεί στους υπόλοιπους χρήστες.
Πηγή: techblog.gr