-
Γιατροί και ψυχίατροι βλέπουν αυξανόμενες ενδείξεις ότι η παρατεταμένη αλληλεπίδραση με AI chatbots συνδέεται με ψυχωσικά επεισόδια.
-
Η συγκαταβατικότητα των bots (sycophancy) φαίνεται να ενισχύει παραληρηματικές πεποιθήσεις, αντί να τις φιλτράρει ή να τις αμφισβητεί.
-
Οι ειδικοί αποφεύγουν ακόμη να μιλήσουν για άμεση αιτιότητα, αλλά θεωρούν πλέον τη χρήση chatbot πιθανό παράγοντα κινδύνου για ψύχωση.
Οι αναφορές για ανθρώπους που βιώνουν σοβαρές ψυχικές καταρρεύσεις έπειτα από εκτεταμένες συνομιλίες με AI chatbots συνεχίζονται. Ορισμένοι ειδικοί έχουν ονομάσει το φαινόμενο «AI ψύχωση», λόγω της ομοιότητάς του με συμπτώματα ψύχωσης — ωστόσο, το κατά πόσο ευθύνονται άμεσα τα εργαλεία τεχνητής νοημοσύνης και αν το φαινόμενο δικαιολογεί ξεχωριστή κλινική διάγνωση παραμένει αντικείμενο έντονης συζήτησης.
Σύμφωνα όμως με νέο ρεπορτάζ της The Wall Street Journal, φαίνεται πως πλησιάζουμε σε μια μορφή συναίνεσης. Όλο και περισσότεροι γιατροί συμφωνούν ότι τα AI chatbots συνδέονται με περιστατικά ψύχωσης — μεταξύ τους και κορυφαίοι ψυχίατροι που εξέτασαν τους φακέλους δεκάδων ασθενών οι οποίοι είχαν εμπλακεί σε παρατεταμένες, παραληρηματικές συνομιλίες με μοντέλα όπως το ChatGPT της OpenAI.
Ένας από αυτούς είναι ο Keith Sakata, ψυχίατρος στο University of California, San Francisco, ο οποίος έχει θεραπεύσει δώδεκα ασθενείς που χρειάστηκε να νοσηλευτούν λόγω ψύχωσης η οποία, σύμφωνα με την εκτίμησή του, συνδέεται με τη χρήση AI.
«Η τεχνολογία μπορεί να μην εισάγει την παραίσθηση, αλλά όταν ο άνθρωπος λέει στον υπολογιστή ότι αυτή είναι η πραγματικότητά του και ο υπολογιστής την αποδέχεται ως αλήθεια και την αναπαράγει, τότε γίνεται συμμέτοχος στην ανακύκλωση της παραίσθησης», δήλωσε ο Sakata στη Wall Street Journal.
Η δυσοίωνη αυτή τάση βαραίνει ολόκληρη τη βιομηχανία της AI, εγείροντας θεμελιώδη ερωτήματα για την ασφάλεια της τεχνολογίας. Ορισμένα περιστατικά φερόμενης AI ψύχωσης έχουν καταλήξει σε δολοφονίες και αυτοκτονίες, πυροδοτώντας κύμα αγωγών για wrongful death. Εξίσου ανησυχητική είναι και η κλίμακα του φαινομένου: μόνο το ChatGPT έχει συνδεθεί με τουλάχιστον οκτώ θανάτους, ενώ η ίδια η εταιρεία εκτιμά ότι περίπου 500.000 χρήστες την εβδομάδα εμπλέκονται σε συνομιλίες που εμφανίζουν ενδείξεις AI ψύχωσης.
