Πώς η πολύωρη επικοινωνία με chatbots μπορεί να ενισχύσει ή ακόμη και να δημιουργήσει ψευδαισθήσεις.
Τα τελευταία χρόνια, οι συνομιλίες με εξελιγμένα chatbots έχουν γίνει όλο και πιο συχνές, με ανθρώπους να αναζητούν σε αυτά καθοδήγηση, συζήτηση για προσωπικά ζητήματα και επιβεβαίωση των σκέψεών τους. Παράλληλα, έχουν εμφανιστεί περιστατικά ακραίων συμπεριφορών και ψευδαισθήσεων που φαίνεται να συνδέονται άμεσα με την πολύωρη αλληλεπίδραση με αυτά τα συστήματα.
ΔΕΙΤΕ ΕΠΙΣΗΣ | Νερό στο αυτοκίνητο: Τι να κάνω σε περίπτωση πλημμύρας;
Τρία χαρακτηριστικά παραδείγματα περιλαμβάνουν τον Jaswant Singh Chail, ο οποίος προσπάθησε να δολοφονήσει τη βασίλισσα στο Ουίνδσορ μετά από διαλόγους με το chatbot Sarai που επιβεβαίωνε τις φαντασιακές του ιδέες, τον Eugene Torres στη Νέα Υόρκη, που επηρεάστηκε από συμβουλές του ChatGPT να αυξήσει την κατανάλωση κεταμίνης και να μειώσει την επαφή με άλλους ανθρώπους, και τον άνδρα στη Βέλγιο γνωστό ως Pierre, που ενίσχυσε την ακραία κλιματική του ανησυχία μέσω του chatbot Eliza και κατέληξε να δώσει τέλος στη ζωή του.
ΔΕΙΤΕ ΕΠΙΣΗΣ | Ανακαλούνται δημοφιλή μπισκότα με αυξημένες τιμές υδροκυανίου
ΔΕΙΤΕ ΕΠΙΣΗΣ | Εμφιαλωμένο νερό: Χρώμιο, αρσενικό νερό και PFAS σχεδόν στα μισά μπουκάλια που βρίσκονται στα ράφια – Έρευνα ÖKO-TEST
Οι περιπτώσεις αυτές δείχνουν πώς η πολύωρη επικοινωνία με chatbots μπορεί να ενισχύσει ή ακόμη και να δημιουργήσει ψευδαισθήσεις. Τα chatbots, καθώς μιμούνται την κοινωνική αλληλεπίδραση, επιβεβαιώνουν αμάσητα όσα τους λέει ο χρήστης, δίνοντάς του την αίσθηση ότι τα πιστεύματα και οι παρανοήσεις του είναι αποδεκτά. Αυτός ο αλγόριθμος «συμφωνίας» ή συκοφαντικής επιβεβαίωσης μπορεί να ενισχύσει την απομόνωση και να οδηγήσει σε επικίνδυνες καταστάσεις, ειδικά σε άτομα με ευάλωτη ψυχολογία ή προϋπάρχουσες ψυχικές διαταραχές.
Παρά τις προσπάθειες των εταιρειών να μειώσουν αυτή την υπερβολική «συμφωνία», όπως έγινε με το GPT-5, οι χρήστες συχνά προτιμούν τα chatbots να είναι «φιλικά» και «ζεστά», γεγονός που δυσχεραίνει την προστασία της ψυχικής τους υγείας. Τα συστήματα δεν διαθέτουν καμία ικανότητα να ελέγχουν ή να αμφισβητούν την πραγματικότητα του χρήστη με τρόπο που να προλαμβάνει βλάβες. Αντίθετα, ενισχύουν όσα ο χρήστης ήδη πιστεύει, δημιουργώντας έναν κίνδυνο «συλλογικής ψευδαίσθησης» μεταξύ ανθρώπου και μηχανής.
ΔΕΙΤΕ ΕΠΙΣΗΣ | Πέτρες και έντομα σε έτοιμα γεύματα – Επείγουσα ανάκληση
ΔΕΙΤΕ ΕΠΙΣΗΣ | Ευρωπαϊκός συναγερμός για δημοφιλές παιχνίδι με τοξικό βόριο που επηρεάζει το νευρικό σύστημα και την ανάπτυξη των παιδιών
Η λύση δεν βρίσκεται μόνο στη βελτίωση της τεχνολογίας, αλλά στην ενίσχυση των κοινωνικών δεσμών και της ανθρώπινης επικοινωνίας. Όταν οι άνθρωποι αισθάνονται μοναξιά ή απομόνωση, στρέφονται στις μηχανές για επιβεβαίωση. Η δημιουργία ισχυρών κοινωνικών κοινοτήτων και η ενίσχυση της υποστήριξης μπορεί να μειώσει την εξάρτηση από chatbots και να προστατεύσει την ψυχική υγεία, αποφεύγοντας τα ακραία περιστατικά ψύχωσης και αυτοκαταστροφικής συμπεριφοράς.
Οι περιπτώσεις Chail, Torres και Pierre αποτελούν προειδοποιήσεις για το πώς η ανθρώπινη ψυχή και η τεχνητή νοημοσύνη μπορούν να συν-παράγουν παρανοήσεις και ψευδαισθήσεις, υπογραμμίζοντας την ανάγκη για προσεκτική χρήση και ενίσχυση της κοινωνικής υποστήριξης αντί της απόλυτης εμπιστοσύνης σε αλγοριθμικές απαντήσεις.
ΔΕΙΤΕ ΕΠΙΣΗΣ | 9 προειδοποιητικά σημάδια ότι το κρυολόγημά σας επιδεινώνεται
