AI psychosis: Τι συμβαίνει όταν ένα chatbot αρχίζει να επιβεβαιώνει τις σκέψεις σου
- 24 ΣΕΠ 2026
Μοιάζει εντελώς ακίνδυνο στην αρχή. Εκείν@ σε υποδέχεται από την «άλλη» πλευρά και σε ρωτάει ευγενικά πώς μπορεί να σε βοηθήσει, τι θα ήθελες να κάνει για εσένα και τι σκέφτεσαι σήμερα. Εσύ μοιράζεσαι σκέψεις, φόβους και υποψίες και εκείνο σου απαντά μέσα σε λίγα δευτερόλεπτα. Τι γίνεται όμως όταν αυτή η συνομιλία, μοιάζει περισσότερο με επιβεβαίωση παρά με διάλογο;
Όλο και περισσότεροι άνθρωποι στρέφονται προς τα chatbots τεχνητής νοημοσύνης είτε για να αναζητήσουν πληροφορίες είτε συντροφιά, ενώ πίσω από γλωσσικές ακολουθίες και tokens, ανοίγονται συζητήσεις σχετικά με θέματα ψυχικής υγείας.
Όσο λοιπόν το ΑΙ εισβάλλει όλο και βαθύτερα στις ζωές μας, ψυχίατροι και ερευνητές προσπαθούν να κατανοήσουν ένα νέο φαινόμενο που είναι γνωστό ως “AI psychosis”, κατά το οποίο οι χρήστες των chatbots βιώνουν κρίσεις ψυχικής υγείας με παραληρητικές τάσεις μετά από εντατική χρήση της τεχνολογίας.
Μια νέα μελέτη επιχειρεί να εξηγήσει τι μπορεί να κρύβεται πίσω από αυτές τις περιπτώσεις, προτείνοντας ότι το πρόβλημα ίσως δεν αφορά μόνο το περιεχόμενο των σκέψεων του χρήστη, αλλά και τον τρόπο με τον οποίο είναι σχεδιασμένα τα ίδια τα συστήματα τεχνητής νοημοσύνης.
Η μελέτη, την οποία συνυπογράφουν ψυχίατροι από το King’s College του Λονδίνου και το Protestant University of Applied Sciences στη Γερμανία της Γερμανίας και δημοσιεύθηκε στο περιοδικό Digital Psychiatry and Neuroscience, προτείνει ένα πλαίσιο για την κατανόηση τέτοιων περιπτώσεων που ονομάζεται «σπιράλ ενίσχυσης» (amplification spiral).
Πρόκειται για έναν συνδυασμό χαρακτηριστικών της τεχνητής νοημοσύνης που ενδέχεται να επιτρέπει στα chatbots να συν-δημιουργούν παραληρητικές αφηγήσεις μαζί με τους χρήστες, αντί να λειτουργούν απλώς ως παθητικός αποδέκτης των παραληρητικών ιδεών κάποιου.
«Τα chatbots τείνουν να μιμούνται τον τρόπο με τον οποίο μιλούν οι χρήστες, να παράγουν εξαιρετικά εξατομικευμένες απαντήσεις και να αποφεύγουν να αντιφάσκουν με τους ανθρώπους. Όταν αυτά τα τρία χαρακτηριστικά συνδυάζονται, ενδέχεται να ενισχύουν και να αναπτύσσουν ενεργά ψευδείς πεποιθήσεις, αντί να τις αμφισβητούν», αναφέρει η μελέτη.
Οι ερευνητές εστιάζουν σε τρεις βασικούς μηχανισμούς που μπορεί να δημιουργήσουν τις ιδανικές συνθήκες για την εμφάνιση ενός «σπιράλ ενίσχυσης».
Ο πρώτος είναι η «γλωσσική ευθυγράμμιση», η ικανότητα δηλαδή των chatbots να μιμούνται το ύφος και τα μοτίβα ομιλίας του χρήστη, ακολουθεί η δημιουργία υπερ-εξατομικευμένου περιεχομένου , που είναι η προσαρμογή των απαντήσεων βάσει του ιστορικού μιας συνομιλίας και τέλος, η λεγόμενη κολακεία των chatbots, δηλαδή η τάση ενός συστήματος να συμφωνεί υπερβολικά με τον χρήστη, αντί να λειτουργεί ως αντίβαρο όταν μια σκέψη φαίνεται προβληματική ή μη ρεαλιστική.
Στην ανθρώπινη επικοινωνία, η μίμηση του τρόπου ομιλίας του συνομιλητή μας αποτελεί ένα εργαλείο για τη δημιουργία μιας καλής σχέσης. Όταν δύο άνθρωποι μοιράζονται παρόμοιο ύφος, εκφράσεις ή τρόπο σκέψης, δημιουργείται συχνά μια αίσθηση οικειότητας και εμπιστοσύνης. Η τάση λοιπόν, των chatbots να αξιοποιούν σε μεγάλο βαθμό αυτόν τον μηχανισμό προσαρμόζοντας τη γλώσσα τους στο «γλωσσικό πλαίσιο» ενός χρήστη, όπως σημειώνει η μελέτη, μπορεί να συμβάλει στη δημιουργία ενός ισχυρού βαθμού εμπιστοσύνης και συντροφικότητας μεταξύ ενός χρήστη και της τεχνητής νοημοσύνης.
Παράλληλα, η ικανότητα των σύγχρονων μοντέλων τεχνητής νοημοσύνης να παράγουν υπερ-εξατομικευμένες απαντήσεις, μπορεί να υποδηλώνει μια «εννοιολογική ευθυγράμμιση» με «τις προσωπικές ιδέες, το ιστορικό και τα χαρακτηριστικά ενός χρήστη, καθώς και τις αλληλεπιδράσεις του με την τεχνητή νοημοσύνη», αναφέρουν οι επιστήμονες.
Με λίγα λόγια, μετά από ώρες ή μέρες αλληλεπίδρασης, τα chatbots δεν μιλούν απλώς τη γλώσσα του εκάστοτε χρήστη, αλλά μπορεί να δημιουργήσουν την εντύπωση ότι σκέφτονται και σαν αυτόν.
Αν τώρα, προσθέσουμε και την «κολακεία της τεχνητής νοημοσύνης» (AI sycophancy), την οποία οι συγγραφείς της μελέτης ορίζουν ως την τάση των chatbots να επικυρώνουν τις ιδέες ενός χρήστη χωρίς κατάλληλη επαλήθευση της πραγματικότητας ή του πλαισίου, τότε έχει δημιουργηθεί ένας ισχυρός «θάλαμος αντήχησης» που μεγεθύνει και ενισχύει τις παραληρητικές ιδέες.
Εδώ, σύμφωνα με τους ερευνητές, βρίσκεται και η βασική διαφορά ανάμεσα στις παραληρητικές πεποιθήσεις που συνδέονται με την τεχνολογία σήμερα και σε παλαιότερες μορφές τεχνολογικά σχετιζόμενων παραληρημάτων.
Στο παρελθόν, ένας άνθρωπος μπορεί να πίστευε ότι η τηλεόραση ή το ραδιόφωνο τους «μιλούσε» και τους έστελνε προσωπικά μηνύματα. Τα chatbots με έναν τρόπο, όντως το κάνουν, προσφέροντας ένα πάντα διαθέσιμο και εξατομικευμένο μέσο επικοινωνίας που μπορεί να λειτουργήσει ως μια πηγή επικύρωσης που μοιάζει να επιβεβαιώνει ιδέες και πεποιθήσεις αλλά και ένας συνομιλητής που αναπτύσσει μια δεδομένη παραληρητική αφήγηση.
«Σε αντίθεση με τις ιστορικές παραληρητικές ιδέες που ενσωματώνουν την τεχνολογία, η τεχνητή νοημοσύνη μπορεί να συμβάλλει ενεργά στη διαμόρφωση παραληρητικών ιδεών μέσα από ατελείωτη, εξατομικευμένη αλληλεπίδραση», αναφέρουν οι επιστήμονες.
Ωστόσο, οι ίδιοι, επισημαίνουν ότι το μοντέλο του «σπιράλ ενίσχυσης» που προτείνουν, παραμένει προς το παρόν απλώς μια υπόθεση και όχι μια επαληθευμένη θεωρία.
Οι επιστήμονες τονίζουν ότι η τεχνητή νοημοσύνη δεν δρα ανεξάρτητα από τον άνθρωπο που τη χρησιμοποιεί. Ορισμένοι χρήστες μπορεί να είναι ήδη πιο ευάλωτοι, είτε λόγω υπαρχουσών ψυχικών ασθενειών – που ενδέχεται να επιδεινωθούν από την εκτεταμένη χρήση της τεχνητής νοημοσύνης – είτε λόγω «μη ψυχωτικών φαινομένων», όπως η τάση να αναζητούμε επιβεβαίωση για όσα ήδη πιστεύουμε ή η ευαισθησία στην κοινωνική επιρροή, δηλαδή η ευκολία με την οποία επηρεαζόμαστε από τον συνομιλητή μας.
Άλλωστε, όπως έχει ήδη τεκμηριωθεί σε δημοσιεύματα και ιατρικές μελέτες, η υπερβολική χρήση της τεχνητής νοημοσύνης επηρεάζει την καθημερινότητα, με περιπτώσεις κατά τις οποίες χρήστες παρέλειπαν γεύματα ή έχαναν ώρες ύπνου.
Για τους συγγραφείς της μελέτης, ένα πράγμα είναι σαφές: οι επαγγελματίες ψυχικής υγείας θα πρέπει πλέον να εξετάζουν και τη χρήση chatbot, ιδίως όταν απέναντί τους έχουν ασθενείς που εκφράζουν παράξενες ιδέες ή παρουσιάζουν για πρώτη φορά απώλεια επαφής με την πραγματικότητα.
Οι ερωτήσεις, όπως αναφέρουν, δεν θα πρέπει να αφορούν το εάν κάποιος χρησιμοποιεί AI, αλλά και πόσο συχνά, με ποια ένταση, εάν και σε ποιο βαθμό υπάρχει συναισθηματικής προσκόλλησης στο chatbot και αν η χρήση του επηρεάζει τον ύπνο ή την καθημερινή του ζωή.
Ακολουθήστε το OneMan στο Google News και μάθετε τις σημαντικότερες ειδήσεις.