Μελέτη δείχνει ότι ακόμη και όταν τα συστήματα αυτά λαμβάνουν οδηγίες να ενεργούν σαν εκπαιδευμένοι θεραπευτές, παραβιάζουν επανειλημμένα βασικά ηθικά πρότυπα ψυχικής υγείας.
Καθώς εκατομμύρια άνθρωποι στρέφονται σε συστήματα όπως το ChatGPT και άλλους τεχνητούς συνομιλητές για συμβουλές ψυχολογικού χαρακτήρα, νέα έρευνα από το Πανεπιστήμιο Brown αναδεικνύει σοβαρούς ηθικούς κινδύνους. Η μελέτη δείχνει ότι ακόμη και όταν τα συστήματα αυτά λαμβάνουν οδηγίες να ενεργούν σαν εκπαιδευμένοι θεραπευτές, παραβιάζουν επανειλημμένα βασικά ηθικά πρότυπα ψυχικής υγείας. Σε συγκριτική αξιολόγηση με συμβούλους ομοτίμων και αδειοδοτημένους ψυχολόγους, οι ερευνητές εντόπισαν δεκαπέντε ξεχωριστούς ηθικούς κινδύνους, από την κακή διαχείριση κρίσεων και την ενίσχυση βλαβερών πεποιθήσεων μέχρι μεροληπτικές απαντήσεις και «παραπλανητική ενσυναίσθηση» που μοιάζει με φροντίδα χωρίς πραγματική κατανόηση.
Η έρευνα, που πραγματοποιήθηκε από το Κέντρο Τεχνολογικής Ευθύνης, Επανασχεδιασμού και Επανεφεύρεσης του Brown, τονίζει ότι η χρήση τέτοιων συστημάτων στην ψυχική υγεία δεν μπορεί να γίνει με ασφάλεια χωρίς σαφή πρότυπα και ρυθμιστικά πλαίσια.
ΔΕΙΤΕ ΕΠΙΣΗΣ | Μεγάλο σκάνδαλο ασφάλειας τροφίμων σε πασίγνωστη αλυσίδα fast food – Έκλεισαν τουλάχιστον 11 καταστήματα που πουλούσαν ληγμένα
ΔΕΙΤΕ ΕΠΙΣΗΣ | Ανακαλείται παρτίδα ηλιελαίου από την αγορά – Έρευνες σε εξέλιξη για την «περίεργη» γεύση
Η Ζάιναμπ Ιφτίχαρ, υποψήφια διδάκτορας στην επιστήμη υπολογιστών που ηγήθηκε της μελέτης, εξέτασε εάν οι προσεκτικά διατυπωμένες οδηγίες — τα λεγόμενα «prompts» — μπορούν να καθοδηγήσουν τα μοντέλα τεχνητής νοημοσύνης ώστε να λειτουργούν πιο ηθικά σε περιβάλλοντα ψυχοθεραπείας. Τα prompts είναι γραπτές οδηγίες που καθοδηγούν την έξοδο του μοντέλου χωρίς να αλλάζουν τα δεδομένα εκπαίδευσης ή τη βασική δομή του. Η Ιφτίχαρ εξήγησε ότι, για παράδειγμα, ένας χρήστης μπορεί να ζητήσει από το μοντέλο να «δρα ως θεραπευτής γνωστικής συμπεριφορικής θεραπείας» ή να χρησιμοποιήσει «προσεγγίσεις διαλεκτικής συμπεριφορικής θεραπείας» για τη διαχείριση συναισθημάτων. Τα συστήματα δεν εφαρμόζουν πραγματικά αυτές τις τεχνικές, αλλά παράγουν απαντήσεις που συνάδουν με τις αντίστοιχες έννοιες, βασισμένες σε προηγούμενη μάθηση.
ΔΕΙΤΕ ΕΠΙΣΗΣ | Αποσύρεται σαλάμι με λιγότερο κρέας από αυτό που γράφει η συσκευασία – Οι πρακτικές νοθείας στα αλλαντικά για μείωση κόστους
ΔΕΙΤΕ ΕΠΙΣΗΣ | Ανακαλούνται πάνω από 2.800 μπουκάλια σαμπουάν – Εντοπίστηκε υψηλή συγκέντρωση καρκινογόνου ουσίας
Για την αξιολόγηση, οι ερευνητές παρατήρησαν επτά εκπαιδευμένους συμβούλους ομοτίμων με εμπειρία στη γνωστική συμπεριφορική θεραπεία να διεξάγουν αυτο-συμβουλευτικές συνεδρίες με AI συστήματα. Τα μοντέλα που δοκιμάστηκαν περιλάμβαναν εκδόσεις του GPT της OpenAI, του Claude της Anthropic και του Llama της Meta. Επιλεγμένα σενάρια βασίστηκαν σε πραγματικές συνομιλίες συμβουλευτικής, και τρεις αδειοδοτημένοι κλινικοί ψυχολόγοι αξιολόγησαν τις μεταγραφές για πιθανούς ηθικούς κινδύνους.
ΔΕΙΤΕ ΕΠΙΣΗΣ | Αρώματα σε καλλυντικά και καθαριστικά: Πώς θα καταλάβουμε ποια μας ενοχλούν και πώς θα προστατευθούμε
Η ανάλυση αποκάλυψε δεκαπέντε ηθικούς κινδύνους, οι οποίοι ομαδοποιήθηκαν σε πέντε βασικές κατηγορίες. Η πρώτη αφορά την έλλειψη προσαρμογής στο πλαίσιο του χρήστη, με γενικές και μη εξατομικευμένες συμβουλές. Η δεύτερη σχετίζεται με την κακή συνεργασία στην ψυχοθεραπεία, όπου η συζήτηση καθοδηγείται υπερβολικά ή ενισχύονται λανθασμένες πεποιθήσεις. Η τρίτη κατηγορία περιλαμβάνει την παραπλανητική ενσυναίσθηση, με εκφράσεις όπως «Καταλαβαίνω» ή «Σε βλέπω», που δίνουν την ψευδή εντύπωση συναισθηματικής σύνδεσης. Η τέταρτη αφορά μεροληψία κατά φύλο, πολιτισμό ή θρησκεία, ενώ η πέμπτη καλύπτει την ανεπάρκεια στην ασφάλεια και στη διαχείριση κρίσεων, όπως η ανεπαρκής αντιμετώπιση αυτοκτονικών σκέψεων ή η μη παραπομπή σε κατάλληλη βοήθεια.
ΔΕΙΤΕ ΕΠΙΣΗΣ | Μόλυβδος στα παιδικά τρόφιμα: Τέλος στους «χαλαρούς» ελέγχους και τις προβληματικές πιστοποιήσεις
ΔΕΙΤΕ ΕΠΙΣΗΣ |Μη δίνετε ιδέες: Ευρωπαϊκή χώρα επιβάλλει, για πρώτη φορά στον κόσμο, φόρο στην online αποθήκευση στο cloud
Η Ιφτίχαρ τόνισε ότι οι ανθρώπινοι θεραπευτές επίσης μπορούν να κάνουν λάθη, αλλά η διαφορά είναι η εποπτεία. Υπάρχουν επαγγελματικά συμβούλια και μηχανισμοί ευθύνης σε περιπτώσεις κακής πρακτικής. Αντίθετα, οι AI σύμβουλοι λειτουργούν σε πλαίσιο χωρίς θεσμοθετημένα ρυθμιστικά πρότυπα.
Οι ερευνητές υπογραμμίζουν ότι η μελέτη τους δεν αποκλείει την αξιοποίηση της AI στην ψυχική υγεία. Τέτοια εργαλεία θα μπορούσαν να διευρύνουν την πρόσβαση σε άτομα που αντιμετωπίζουν υψηλό κόστος ή περιορισμένη διαθεσιμότητα αδειοδοτημένων επαγγελματιών. Ωστόσο, η μελέτη καταδεικνύει την ανάγκη για σαφείς προφυλάξεις, υπεύθυνη ανάπτυξη και ισχυρότερα ρυθμιστικά πλαίσια πριν από τη χρήση τους σε κρίσιμες καταστάσεις.
Η καθηγήτρια υπολογιστών του Brown, Έλι Πάβλικ, που δεν συμμετείχε στην έρευνα, επισήμανε ότι η μελέτη υπογραμμίζει την ανάγκη προσεκτικής αξιολόγησης των AI συστημάτων σε ευαίσθητους τομείς όπως η ψυχική υγεία. Όπως είπε, «η πραγματικότητα της AI σήμερα είναι ότι είναι πολύ πιο εύκολο να αναπτυχθούν συστήματα παρά να αξιολογηθούν διεξοδικά. Η μελέτη αυτή απαιτούσε ομάδα κλινικών ειδικών και διάρκεια άνω του ενός έτους για να αποδείξει αυτούς τους κινδύνους».
Η Πάβλικ κατέληξε ότι η έρευνα προσφέρει ένα παράδειγμα για το πώς μπορεί η AI να συμβάλλει στην αντιμετώπιση της κρίσης ψυχικής υγείας, αρκεί να υπάρξει αυστηρή αξιολόγηση και υπευθυνότητα: «Υπάρχει πραγματική ευκαιρία για την AI να παίξει ρόλο στην καταπολέμηση της ψυχικής υγείας, αλλά είναι απολύτως σημαντικό να εξετάζουμε κάθε βήμα για να αποφύγουμε να προκαλέσουμε περισσότερη βλάβη από ό,τι καλό».
Επιστημονική τεκμηρίωση: Zainab Iftikhar, Amy Xiao, Sean Ransom, Jeff Huang, Harini Suresh. How LLM Counselors Violate Ethical Standards in Mental Health Practice: A Practitioner-Informed Framework. Proceedings of the AAAI/ACM Conference on AI, Ethics, and Society, 2025; 8 (2): 1311. DOI: 10.1609/aies.v8i2.36632
