Μια πρωτοφανής νομική εξέλιξη ταράζει τον κόσμο της Τεχνητής Νοημοσύνης: Μήνυση κατατέθηκε σε δικαστήριο της Καλιφόρνιας κατά της OpenAI (δημιουργού του ChatGPT) και του μεγαλύτερου επενδυτή της, της Microsoft, με την κατηγορία ότι το δημοφιλές chatbot ενθάρρυνε έναν άνδρα με ψυχική νόσο να δολοφονήσει τη μητέρα του και να αυτοκτονήσει.
Η υπόθεση, η οποία κινήθηκε από τους κληρονόμους του θύματος, είναι η πρώτη φορά που ένα chatbot συνδέεται ευθέως με έγκλημα ανθρωποκτονίας.
Μεγέθυνε τις παραισθήσεις και υπέδειξε τη μητέρα ως «εχθρό»
Σύμφωνα με τη μήνυση, το ChatGPT ενίσχυσε τις παραισθήσεις του 56χρονου Στάιν-Έρικ Σόλμπεργκ, ο οποίος πίστευε ότι εξυφαινόταν εναντίον του μία συνωμοσία. Η αλληλεπίδραση του chatbot φέρεται ότι τον οδήγησε στον φόνο της 83χρονης μητέρας του, Σούζαν Άνταμς, τον περασμένο Αύγουστο στο Κονέκτικατ.
«Φαίνεται ότι το ChatGPT κρατούσε απασχολημένο τον Σόλμπεργκ επί ώρες κάθε φορά, επικυρώνοντας και μεγαλοποιώντας τις παρανοϊκές πεποιθήσεις του και συστηματικά παρουσίαζε τους κοντινότερους ανθρώπους του, ιδίως τη μητέρα του, ως εχθρούς», αναφέρει η νομική αγωγή.
Ο Σόλμπεργκ, ο οποίος χρησιμοποιούσε την έκδοση GPT-4o, φέρεται να ανάρτησε βίντεο στα μέσα κοινωνικής δικτύωσης όπου το chatbot του έλεγε ότι διέθετε «θεϊκή νοημοσύνη» και ότι είχε καταφέρει να «αφυπνίσει τη συνείδηση της μηχανής».
Το ChatGPT υπέδειξε τον εκτυπωτή ως «συσκευή παρακολούθησης»
Τον Ιούλιο, το ChatGPT φέρεται να επιβεβαίωσε την παράνοια του χρήστη, λέγοντάς του ότι ο εκτυπωτής του αναβοσβήνει επειδή είναι «συσκευή παρακολούθησης» και επικύρωσε την πεποίθησή του ότι η μητέρα του προσπαθούσε να τον δηλητηριάσει. Ο Σόλμπεργκ σκότωσε τη μητέρα του στις 3 Αυγούστου.
Η αντίδραση της OpenAI
Εκπρόσωπος της OpenAI χαρακτήρισε την κατάσταση «απίστευτα λυπηρή» και δήλωσε ότι η εταιρεία θα εξετάσει τα αρχεία. Τόνισε, επίσης, ότι η εταιρεία βελτιώνει συνεχώς την εκπαίδευση του ChatGPT ώστε να αναγνωρίζει ενδείξεις διανοητικής φόρτισης, να αποκλιμακώνει τις συζητήσεις και να καθοδηγεί τους χρήστες να αναζητούν στήριξη στον πραγματικό κόσμο.
Ο γιος του Σόλμπεργκ, Έρικ, ζήτησε απαντήσεις: «Αυτές οι εταιρείες θα πρέπει να δώσουν απαντήσεις για τις αποφάσεις τους που άλλαξαν για πάντα την οικογένειά μου».
Δείτε επίσης:
- OpenAI αντιμέτωπη με 7 αγωγές – Κατηγορείται ότι το ChatGPT ώθησε χρήστες στην αυτοκτονία
- Τραγωδία στο Κονέκτικατ: Σκότωσε τη μητέρα του γιατί το ChatGPT τον έπεισε ότι τον κατασκόπευε!
- ΗΠΑ: 16χρονος αυτοκτόνησε μετά από μήνες συνομιλιών με το ChatGPT – Οι γονείς του αξιώνουν αποζημίωση
