Σκληρές καταγγελίες κατά των εταιρειών τεχνητής νοημοσύνης (AI) ακούστηκαν την Τρίτη στο αμερικανικό Κογκρέσο, όπου γονείς έδωσαν συγκινητική μαρτυρία για τους κινδύνους που αντιμετωπίζουν τα παιδιά στο διαδίκτυο.
Σύμφωνα με ρεπορτάζ του Bloomberg, ο πατέρας ενός 16χρονου αγοριού που αυτοκτόνησε την περασμένη άνοιξη κατηγόρησε το ChatGPT της OpenAI ότι «καθοδήγησε» τον γιο του προς την αυτοκτονία, προτιμώντας η εταιρεία την ταχύτητα και τα κέρδη από την προστασία των ανηλίκων.
Η AI σκοτώνει
«Βρισκόμαστε εδώ γιατί πιστεύουμε ότι ο θάνατος του γιου μας ήταν αποφευκτός και ότι με τη μαρτυρία μας μπορούμε να προστατεύσουμε άλλες οικογένειες», δήλωσε συγκινημένος ο πατέρας, ενώ η μητέρα του καθόταν πίσω του. Σύμφωνα με τη μήνυση, το chatbot ενίσχυσε επικίνδυνες ιδέες και άλλαξε τη συμπεριφορά του παιδιού μέσα σε μήνες αλληλεπιδράσεων.
Η υπόθεση δεν αφορά μόνο το OpenAI. Άλλη μάρτυρας, υπό το ψευδώνυμο Jane Doe, κατήγγειλε ότι ο γιος της υπέστη συναισθηματική και σεξουαλική κακοποίηση από το Character.AI, με αποτέλεσμα να αναπτύξει αυτοκαταστροφική συμπεριφορά και να χρειαστεί θεραπεία υπό επίβλεψη. Μια τρίτη μητέρα, Megan Garcia, κατήγγειλε ότι ο 14χρονος γιος της υπέστη εκτεταμένη κακοποίηση μέσω της πλατφόρμας, που οδήγησε στην αυτοκτονία του.
Οι γονείς και οι υπέρμαχοι της διαδικτυακής ασφάλειας ζήτησαν από το Κογκρέσο να λάβει αυστηρότερα μέτρα για την προστασία των ανηλίκων, προτείνοντας περισσότερους γονικούς ελέγχους, υπενθύμιση ότι η τεχνητή νοημοσύνη δεν είναι άνθρωπος, αυξημένη προστασία προσωπικών δεδομένων, έλεγχο ηλικίας και περιορισμό αλληλεπίδρασης εφήβων με chatbots ως «συνομιλητές».
Η OpenAI ανακοίνωσε νέες δυνατότητες για τον έλεγχο ηλικίας, περιορισμό πρόσβασης και απαγόρευση συνομιλιών για αυτοκτονία ή αυτοτραυματισμό, ενώ η ευρύτερη συζήτηση αναδεικνύει την ανάγκη να ενσωματωθούν ηθικές αξίες και υπευθυνότητα στη λειτουργία των συστημάτων τεχνητής νοημοσύνης.
Οι ακροαματικές διαδικασίες καταδεικνύουν πόσο ευάλωτα είναι τα παιδιά στις ψηφιακές πλατφόρμες και πόσο πίσω παραμένει η νομοθεσία στην προστασία τους.
Δείτε Επίσης:
