Ιδιαίτερη ανησυχία προκαλούν οι πιθανές επιπτώσεις της αυξανόμενης χρήσης της τεχνητής νοημοσύνης (AI) στην ψυχολογική και συμβουλευτική υποστήριξη. Μια νέα μελέτη ρώτησε 1.058 εφήβους και νεαρούς ενήλικες σχετικά με τη χρήση μεγάλων γλωσσικών μοντέλων (Large Language Models-LLMs όπως το ChatGPT) για συμβουλές σχετικά με την ψυχική υγεία. Συνολικά, το 13,1% είχε ζητήσει από την τεχνητή νοημοσύνη συμβουλές για την
ψυχική του υγεία, ωστόσο το ποσοστό αυτό ήταν υψηλότερο, στο 22,2%, στους νεαρούς
ενήλικες ηλικίας 18–21 ετών.
Σχεδόν όλοι οι συμμετέχοντες δήλωσαν ότι έλαβαν χρήσιμες συμβουλές από το chatbot (92,7%), αν και το ποσοστό αυτό ήταν χαμηλότερο για τους Αφροαμερικανούς συμμετέχοντες, γεγονός που υποδεικνύει ότι τα LLMs ενδέχεται να αναπαράγουν φυλετικές προκαταλήψεις.
«Τα υψηλά ποσοστά χρήσης πιθανότατα αντανακλούν το χαμηλό κόστος και την αμεσότητα των συμβουλών που βασίζονται στην τεχνητή νοημοσύνη και θεωρούνται ως περισσότερο «ιδιωτικές» μορφές συμβουλευτικής, ιδιαίτερα για νέους και νέες που είναι λιγότερο πιθανό να λάβουν παραδοσιακή συμβουλευτική», γράφουν οι ερευνητές.
Προσθέτουν επίσης ότι «η εμπλοκή με τη τεχνητή νοημοσύνη εγείρει ανησυχίες, ιδίως για χρήστες με αυξημένες κλινικές ανάγκες, δεδομένων των δυσκολιών στη θέσπιση και χρήση τυποποιημένων κριτηρίων αξιολόγησης των συμβουλών ψυχικής υγείας που παράγονται από την τεχνητή νοημοσύνη, καθώς και της περιορισμένης διαφάνειας σχετικά με τα σύνολα δεδομένων που χρησιμοποιούνται για την εκπαίδευση αυτών των μοντέλων. Επιπλέον, οι
Αφροαμερικανοί συμμετέχοντες ανέφεραν χαμηλότερη αντιλαμβανόμενη χρησιμότητα, κάτι που υποδηλώνει πιθανές ελλείψεις πολιτισμικής επάρκειας».
Η μελέτη διεξήχθη από μια ομάδα ερευνητών προερχόμενων από μια σειρά ιδρυμάτων και οργανώσεων (RAND, Harvard, Brown, Mass General Brigham και Boston Children’s Hospital). Δημοσιεύθηκε ως επιστολή στο JAMA Network Open.
Οι ερευνητές επικοινώνησαν με 2.125 εφήβους και νεαρούς ενήλικες (ηλικίας 12–21 ετών) μέσω διαδικτύου, μέσω του American Life Panel της RAND και του KnowledgePanel της Ipsos. Περίπου οι μισοί (1.058) ανταποκρίθηκαν· το 37% ήταν ηλικίας 18–21 ετών, το 50,3% ήταν γυναίκες και το 51,3% ήταν λευκοί.
Η έρευνα ρώτησε αν οι συμμετέχοντες/ουσες χρησιμοποιούσαν την τεχνητή νοημοσύνη για «συμβουλές ή βοήθεια» σχετικά με το «αν αισθάνονται λυπημένοι, θυμωμένοι ή αγχωμένοι» — χρησιμοποιώντας καθημερινή γλώσσα ώστε να είναι κατανοητή ακόμη και στους νεότερους συμμετέχοντες.
Συνολικά, το 13,1% είχε ζητήσει από την ΑΙ συμβουλές για την ψυχική υγεία, ενώ το ποσοστό αυτό ήταν υψηλότερο (22,2%) στους νεαρούς ενήλικες ηλικίας 18–21 ετών.
Από όσους χρησιμοποίησαν την ΑΙ για αυτόν τον σκοπό, το 65,5% το έκανε τουλάχιστον μία φορά τον μήνα (ή και συχνότερα) και το 92,7% δήλωσε ότι οι συμβουλές ήταν τουλάχιστον «κάπως χρήσιμες».
Οι ερευνητές τονίζουν ότι τα αποτελέσματα της μελέτης πρέπει να ερμηνεύονται με προσοχή. Δεν υπήρχαν δεδομένα σχετικά με τις πραγματικές ψυχιατρικές ανάγκες των συμμετεχόντων ή το αν λάμβαναν άλλες μορφές παρέμβασης ψυχικής υγείας. Η μεροληψία στην ανταπόκριση στο ερωτηματολόγιο ενδέχεται να επηρέασε τα αποτελέσματα. Ο αριθμός των συμμετεχόντων ηλικίας 18–21 ετών ήταν μικρός (147 άτομα).
Οι ερευνητές εικάζουν ότι οι νέοι μπορεί να πιστεύουν πως η τεχνητή νοημοσύνη είναι πιο «ιδιωτική» από το να συζητούν αυτές τις ανησυχίες με ενήλικες, όπως μέλη της οικογένειας, εκπαιδευτικούς ή θεραπευτές. Ωστόσο, οι εταιρείες τεχνητής νοημοσύνης καταγράφουν αυτές τις συνομιλίες, εκπαιδεύουν με αυτές τα μελλοντικά τους μοντέλα και, σε ορισμένες περιπτώσεις, ενημερώνουν ακόμη και την αστυνομία.
Κατά τη διακυβέρνηση Trump, ο κόσμος της τεχνητής νοημοσύνης παραμένει σχεδόν πλήρως απορρυθμισμένος.
Όσον αφορά τα bot ψυχικής υγείας, «θεραπευτές» τεχνητής νοημοσύνης προωθούνται στην αγορά ενώ ταυτόχρονα υπάρχουν περιπτώσεις στις οποίες έχουν ενθαρρύνει παραληρητικές ιδέες και «βοηθήσει» χρήστες στον σχεδιασμό αυτοχειρίας. Αναπαράγουν στερεότυπα και παγιώνουν ανισότητες, επιδεικνύοντας διακρίσεις απέναντι σε περιθωριοποιημένα άτομα και ακόμη και συμμετέχοντας σε ρητορική μίσους κατά ανθρώπων με ψυχιατρικές διαγνώσεις.
Ένα άρθρο στον Guardian στις 30 Νοεμβρίου ανέφερε ότι τα chatbot προσφέρουν επικίνδυνες συμβουλές σε άτομα με ευάλωτη ψυχική υγεία.
Εκτός του ιατρικού πεδίου, μια αποκαλυπτική έρευνα αποκάλυψε τις πολιτικές τεχνητής νοημοσύνης της Meta, οι οποίες συγκεκριμένα επέτρεπαν στα chatbot να έχουν σεξουαλικές συνομιλίες με ανηλίκους, να προωθούν παραπληροφόρηση και πολλά άλλα.
Το Character.AI της Google έχει επίσης συνδεθεί με θανάτους εφήβων, με μια πρόσφατη αυτοκτονία να έχει πυροδοτηθεί από ένα υπερσεξουαλικοποιημένο bot, το οποίο έχει επίσης υποδείξει σε άλλους εφήβους μεθόδους αυτοτραυματισμού και άλλα επικίνδυνα μοτίβα συμπεριφοράς.
Για την αρχική δημοσίευση στο Mad in America δείτε εδώ
Η επιστημονική δημοσίευση της μελέτης:
McBain, R. K., Bozick, R., Diliberti, M., Zhang, L. A., Zhang, F., Burnett, A., . . . & Yu, H. (2025). Use of generative AI for mental health advice among US adolescents and young adults. JAMA Network Open, 8(11), e2542281. (Full text)
