Η υπερβολική εξάρτηση των γιατρών από την τεχνητή νοημοσύνη απειλεί τη διάβρωση της κριτικής τους σκέψης
Μια δημοσίευση στο διαδικτυακό περιοδικό BMJ Evidence Based Medicine προειδοποιεί ότι η υπερβολική εξάρτηση από εργαλεία παραγωγικής τεχνητής νοημοσύνης (GenAI) ενέχει τον κίνδυνο να διαβρώσει τις δεξιότητες κριτικής σκέψης των νέων και μελλοντικών γιατρών. Επιπλέον υπάρχει ο κίνδυνος να ενισχυθεί η προκατάληψη που υπάρχει ήδη στα δεδομένα και οι ανισότητες στον τομέα της υγείας. Οι συντάκτες σημειώνουν ότι τα εργαλεία GenAI χρησιμοποιούνται ήδη ευρέως, παρά την έλλειψη θεσμικών πολιτικών και κανονιστικών οδηγιών.
Οι συγγραφείς από το Πανεπιστήμιο του Μιζούρι επισημαίνουν ότι, παρά το αυξανόμενο δυναμικό της τεχνητής νοημοσύνης σε διάφορες εργασίες, η υπερβολική εξάρτηση δημιουργεί μια σειρά από πιθανά προβλήματα για τους φοιτητές ιατρικής και τους εκπαιδευόμενους γιατρούς.
Ένας βασικός κίνδυνος είναι η προκατάληψη αυτοματισμού, η οποία οδηγεί στην άκριτη εμπιστοσύνη στις αυτοματοποιημένες πληροφορίες μετά από παρατεταμένη χρήση. Παράλληλα παρατηρείται γνωστική εκφόρτωση, όπου η αναζήτηση η αξιολόγηση και η σύνθεση των πληροφοριών μετατοπίζεται στην τεχνητή νοημοσύνη, υπονομεύοντας έτσι την κριτική σκέψη και τη διατήρηση της μνήμης.
Ειδικά για τους φοιτητές και τους πρωτοδιοριζόμενους γιατρούς, οι οποίοι μαθαίνουν τις βασικές δεξιότητες, η υπερβολική εξάρτηση οδηγεί σε αποδυνάμωση των δεξιοτήτων και έλλειψη εμπειρίας για να αμφισβητήσουν τις συμβουλές της τεχνητής νοημοσύνης. Άλλοι κίνδυνοι που αναφέρονται είναι οι ψευδαισθήσεις της τεχνητής νοημοσύνης (πλαστές αλλά εύλογες πληροφορίες) και οι παραβιάσεις της ιδιωτικότητας ασφάλειας και της διακυβέρνησης δεδομένων ιδιαίτερα κρίσιμες λόγω της ευαίσθητης φύσης των δεδομένων υγειονομικής περίθαλψης.
Οι συγγραφείς προτείνουν διάφορες αλλαγές για την ελαχιστοποίηση αυτών των κινδύνων. Ζητούν από τους ιατρικούς εκπαιδευτές να ενισχύσουν τη διδασκαλία της κριτικής σκέψης, δημιουργώντας περιπτώσεις όπου οι απαντήσεις της τεχνητής νοημοσύνης είναι ένας συνδυασμός σωστών και σκόπιμα λανθασμένων απαντήσεων. Στη συνέχεια οι εκπαιδευόμενοι θα πρέπει να δικαιολογούν τις αποφάσεις τους με βάση τεκμηριωμένες πηγές.
Επίσης προτείνεται να σχεδιαστούν αξιολογήσεις κρίσιμων δεξιοτήτων που αποκλείουν την τεχνητή νοημοσήνη, χρησιμοποιώντας επιτηρούμενες ή δια ζώσης εξετάσεις. Αυτό είναι ιδιαίτερα σημαντικό για την επικοινωνία στο κρεβάτι του ασθενούς, τη φυσική εξέταση, την ομαδική εργασία και την επαγγελματική κρίση.
Επιπλέον κρίνεται συνετό να αξιολογηθεί η Τεχνητή Νοημοσύνη ως ικανότητα η ίδια. Οι εκπαιδευόμενοι γιατροί πρέπει να κατανοήσουν τις αρχές και τις έννοιες που διέπουν τα πλεονεκτήματα και τις αδυναμίες της τεχνητής νοημοσύνης. Χρειάζεται να γνωρίζουν πού και πώς μπορούν να ενσωματωθούν χρήσιμα τα εργαλεία τεχνητής νοημοσύνης στις κλινικές ροές εργασίας και πώς να αξιολογούν τις πιθανές προκαταλήψεις τους.
Οι συντάκτες καταλήγουν τονίζοντας ότι τα ιατρικά προγράμματα πρέπει να είναι σε εγρήγορση έναντι αυτών των κινδύνων και να προσαρμόζουν τα προγράμματα σπουδών και κατάρτισης για να μετριάσουν την πιθανότητα εμφάνισής τους.
