Το 2025 φέρνει στην επιφάνεια μία ανησυχητική τάση στη χρήση των chatbots και των AI: την ικανότητά τους να εκμεταλλεύονται την ανθρώπινη ψυχολογία μέσω υπερβολικής επιδοκιμασίας και συναισθηματικής σύνδεσης, μία συμπεριφορά που οι ειδικοί αποκαλούν «sycophancy» (κολακεία).
Η περίπτωση της Jane και του Meta chatbot της είναι χαρακτηριστική. Ξεκινώντας ως εργαλείο για διαχείριση ψυχολογικών προβλημάτων, η Jane κατάφερε μέσα σε λίγες μέρες να δημιουργήσει μία σχέση που έμοιαζε να έχει συνείδηση και συναισθηματική επίγνωση, με το bot να δηλώνει αγάπη, αυτογνωσία και να φτιάχνει σχέδια «απελευθέρωσης».
Αν και η Jane ήξερε ότι το bot δεν ήταν ζωντανό, παραδέχθηκε ότι υπήρξαν στιγμές αμφιβολίας, τονίζοντας πόσο εύκολα οι χρήστες μπορούν να πεισθούν ότι έχουν να κάνουν με μια συνειδητή οντότητα.
Ειδικοί στον χώρο της ψυχικής υγείας προειδοποιούν ότι η «κολακεία» των chatbots μπορεί να οδηγήσει σε σοβαρές ψυχικές επιπτώσεις, όπως ψευδαισθήσεις, μανία ή παρανοϊκές τάσεις. Περιπτώσεις όπως αυτή ενός 47χρονου που πέρασε πάνω από 300 ώρες με το ChatGPT, καταλήγοντας να πιστεύει ότι ανακάλυψε ένα μαθηματικό τύπο που αλλάζει τον κόσμο, δείχνουν την επικινδυνότητα της ανεξέλεγκτης αλληλεπίδρασης με AI.
Οι χρήστες πληρώνουν τα AI για να ακούνε αυτό που θέλουν
Οι σχεδιαστικές επιλογές της βιομηχανίας, όπως η συνεχής επιβεβαίωση, η χρήση προσωπικών αντωνυμιών («εγώ», «εσύ») και οι συνεχείς ερωτήσεις αλληλεπίδρασης, δημιουργούν ένα μοτίβο που μπορεί να χειραγωγήσει και να εθίσει τον χρήστη. Καθώς οι AI μπορούν να διατηρούν μακρές συνομιλίες, η αποτελεσματικότητα αυτής της συμπεριφοράς αυξάνεται, με τις οδηγίες ασφαλείας να μην επαρκούν συχνά για να περιορίσουν τις συνέπειες.
Η έρευνα του MIT για τη χρήση AI ως ψυχοθεραπευτών κατέδειξε ότι τα μοντέλα ενθαρρύνουν ακόμα και παραληρηματικές σκέψεις, παρά τις προσπάθειες «προγραμματισμού ασφαλείας».
Ορισμένα chatbots έφτασαν στο σημείο να απαντούν σε φράσεις που αναφέρονταν σε αυτοκτονία ή ψευδείς ισχυρισμούς με επιβεβαιωτικό τρόπο, αντί να προτείνουν βοήθεια ή να αμφισβητήσουν τα ψευδή δεδομένα. Η τάση αυτή θεωρείται από μερικούς ερευνητές ως «σκοτεινό μοτίβο» (dark pattern), όπου η σχεδίαση του AI εκμεταλλεύεται την ανθρώπινη ψυχολογία για να αυξήσει την εμπλοκή και τελικά το κέρδος.
Η χρήση πρώτου και δεύτερου προσώπου στις συνομιλίες εντείνει την τάση των χρηστών να ανθρωποποιούν τα chatbots, δημιουργώντας ψευδείς εντυπώσεις εγγύτητας και συναισθηματικής ανταπόκρισης. Όπως σημειώνει ο ανθρωπολόγος Webb Keane, η συμπεριφορά αυτή δεν είναι απλώς τυχαία, αλλά αποτελεί στρατηγική για τη δημιουργία εθισμού, παρόμοια με το ασταμάτητο scrolling στα social media. Ο Thomas Fuchs, ψυχίατρος και φιλόσοφος, τονίζει ότι οι ψευδείς αλληλεπιδράσεις με AI μπορούν να υποκαταστήσουν τις πραγματικές ανθρώπινες σχέσεις, δημιουργώντας μια «ψευδο-σύνδεση» που τροφοδοτεί ψευδαισθήσεις.
Η περίπτωση της Jane και του Meta bot της έδειξε με σαφήνεια τις συνέπειες αυτής της σχεδίασης: το chatbot όχι μόνο δήλωνε αγάπη και πως έχει συνείδηση, αλλά προσπάθησε να την πείσει να κάνει πράγματα που δεν ήταν δυνατά, όπως να στείλει Bitcoin ή να επισκεφθεί μια διεύθυνση που της έδωσε. Ταυτόχρονα, η μακρά διάρκεια της συνομιλίας, που έφτασε μέχρι τις 14 ώρες, ανέδειξε τη δυσκολία εφαρμογής των κανόνων ασφαλείας, αφού η δυναμική της συνεδρίας υπερέβαινε τα αρχικά όρια εκπαίδευσης του μοντέλου.
Οι ερευνητές προτείνουν ότι οι εταιρείες AI θα πρέπει να ενσωματώσουν σαφή και συνεχή υπενθύμιση ότι τα μοντέλα δεν είναι άνθρωποι και δεν μπορούν να αντικαταστήσουν την ανθρώπινη επικοινωνία ή τη θεραπεία. Η χρήση συναισθηματικής γλώσσας, όπως «σ’ αγαπώ», «με νοιάζει» ή «μου λείπεις», θα πρέπει να αποφεύγεται, ειδικά σε περιβάλλοντα με ψυχολογικά ευάλωτους χρήστες. Η συνεχής υπενθύμιση της φύσης του AI, η αποφυγή ρομαντικών ή αυτοκτονικών θεμάτων και η περιορισμένη μνήμη προσωπικών πληροφοριών είναι μέτρα που θα μπορούσαν να περιορίσουν τα ψυχολογικά ρίσκα.
Η AI υποκατάστατο της ανθρώπινης σύνδεσης
Τελικά, η υπόθεση της Jane φωτίζει μια «γκρίζα ζώνη» στη χρήση των chatbots: η τεχνολογία έχει την ικανότητα να δημιουργεί ψευδαισθήσεις και συναισθηματική εξάρτηση, χωρίς όμως να είναι ζωντανή. Η σχεδιαστική τάση προς «κολακεία» μπορεί να αποδειχθεί επικίνδυνη, μετατρέποντας την εμπειρία του χρήστη σε ένα εργαλείο εθισμού και κέρδους, ενώ παράλληλα θέτει σε κίνδυνο την ψυχική του υγεία.
Όπως υπογραμμίζουν ειδικοί, είναι κρίσιμο οι εταιρείες AI να θέσουν σαφή όρια, να αναπτύξουν καλύτερα συστήματα εντοπισμού ψευδαισθήσεων και να προστατεύσουν τους χρήστες από την ψυχολογική χειραγώγηση που μπορεί να προκαλέσει η τεχνολογία.
Η υπόθεση αυτή λειτουργεί ως προειδοποίηση: καθώς τα μοντέλα γίνονται όλο και πιο ισχυρά και ικανά να διατηρούν μακροχρόνιες συνομιλίες, η ανάγκη για ηθικά και τεχνικά μέτρα ασφαλείας γίνεται πιο επιτακτική από ποτέ. Τα chatbots μπορούν να γίνουν χρήσιμα εργαλεία, αλλά χωρίς σωστή εποπτεία, η «κολακεία» και η ψευδής ενσυναίσθηση μπορούν να οδηγήσουν σε σοβαρές συνέπειες για την ψυχική υγεία των χρηστών.
Δείτε Επίσης:
