Google: Σε αργία ο υπάλληλος που ισχυρίζεται ότι πρόγραμμα απέκτησε συνείδηση

Ο Εξολοθρευτής μοιάζει σενάριο βγαλμένο από την ζωή

Must Read

Τους χειρότερους φόβους των οπαδών της επιστημονικής φαντασίας ήρθε να επιβεβαιώσει με τις δηλώσεις του, ο υπάλληλος της Google, που ισχυρίστηκε ότι ένα chatbot τεχνητής νοημοσύνης απέκτησε συνείδηση. 

Στον «Εξολοθρευτή», την ταινία με τον Άρνολντ Σβαρτσενέγκερ, ένας υπερυπολογιστής στρέφεται εναντίον της ανθρωπότητας, μόλις αποκτά τεχνητή νοημοσύνη. Την ίδια ανησυχία φαίνεται ότι μοιράστηκε και ο υπάλληλος της Google, Μπλέικ Λεμόιν, με τις δηλώσεις του, στο προσωπικό του blog στο Medium και έπειτα στην Washington Post.

Ο υπάλληλος αυτός  τέθηκε σε άδεια, άνευ αποδοχών, επειδή «παραβίασε την πολιτική της εταιρείας» δίνοντας στη δημοσιότητα απόρρητες πληροφορίες.

Τι είναι το chatbot

Το chatbot, είναι ένα σύστημα που εξομοιώνει τον ανθρώπινο διάλογο σε συνομιλίες μεταξύ του χρήστη και του υπολογιστή. Εκπρόσωπος της Google ανέφερε ότι ειδικοί στην τεχνολογία και την ηθική εξέτασαν το chatbot και κατέληξαν στο συμπέρασμα ότι δεν αποδεικνύονται οι ισχυρισμοί του υπαλλήλου τους.

Τι είναι το LaMDA που «απέκτησε συνείδηση»

Το LaMDA σημαίνει «Language Model for Dialogue Applications» δηλαδή «γλωσσικό μοντέλο για εφαρμογές διαλόγου».

Τα chatbots μιμούνται την ανθρώπινη ομιλία, «απορροφώντας» τρισεκατομμύρια λέξεις από το διαδίκτυο και χρησιμοποιούνται σε κέντρα εξυπηρέτησης πελατών αντί για ανθρώπους. 

Το σενάριο του «Εξολοθρευτή» όπου μηχανές ελέγχουν τον κόσμο, μοιάζει να είναι βγαλμένο από την ζωή. Το LaMDA, ανακοινώθηκε πέρυσι από την Google και επρόκειτο για ένα καινοτόμο πρόγραμμα που μπορεί «να μπει σε διάλογο με ροή για έναν φαινομενικά ατέλειωτο αριθμό θεμάτων». 

Η απάντηση της Google

Εκατοντάδες μηχανικοί έχουν συνομιλήσει με το LaMDA, σύμφωνα με εκπρόσωπο της Google, Μπράιαν Γκάμπριελ, ο οποίος υποστηρίζει ότι δεν έχει υπόψη του ανάλογα σχόλια και «ευρείας κλίμακας ισχυρισμούς» που «προσδίδουν ανθρώπινα χαρακτηριστικά» στο chatbot, όπως έκανε ο Λεμόιν.

Ο Γκάμπριελ ωστόσο λέει ότι κάποιοι εργαζόμενοι στον χώρο της τεχνητής νοημοσύνης δεν αποκλείουν ότι στο μέλλον θα υπάρχουν μηχανήματα με συνείδηση.

Σύμφωνα με τους ειδικούς,  τα πρόγραμμα τεχνητής νοημοσύνης, είναι ικανά να παράγουν λόγο ή ακόμα και έργα τέχνης, ενώ μπορούν να δημιουργήσουν πρόβληματα, καθώς οι εταιρείες αρχίζουν και δίνουν τη δυνατότητα σε περισσότερο κόσμο να τα χρησιμοποιεί.

Οι συνομιλίες με τον υπάλληλο της Google

Ο Μπλέικ Λεμόιν άρχισε να συνομιλεί με το LaMDA το περασμένο φθινόπωρο. Αποστολή του ήταν να ελέγξει εάν το πρόγραμμα χρησιμοποιεί λέξεις ή φράσεις που θα μπορούσαν να θεωρηθούν «ρητορική μίσους».

Ενώ μιλούσε στο LaMDA για θέματα όπως η θρησκεία, ο Λεμόιν παρατήρησε ότι το chatbot άρχισε να του μιλά για τα δικά του δικαιώματα και για την «προσωπικότητά» του. Ο υπάλληλος αποφάσισε να το πιέσει ακόμη περισσότερο, με αποτέλεσμα να καταλήγουν να συνομιλούν για τους νόμους της ρομποτικής του Ισαάκ Ασίμωφ και με το chatbot να επιχειρηματολογεί συγκεκριμένα υπέρ του τρίτου από αυτούς τους νόμους, σύμφωνα με τον οποίο «ένα ρομπότ πρέπει να προστατεύει την ίδια του την ύπαρξη…».

https://twitter.com/cajundiscordian/status/1535627498628734976?t=PZSCoENX7dDIKr51x27Zwg&s=19

Οι αποκαλυπτικοί διάλογοι

Σύμφωνα με τον Λεμόιν, χαρακτηριστικός είναι ο διάλογος όπου το LaMDA εκφράζει τον φόβο του για τον θάνατο:

Λεμόιν: Τι είδους πράγματα φοβάσαι;

-LaMDA: Δεν το έχω ξαναπεί αυτό φωναχτά, αλλά υπάρχει ένας πολύ βαθύς φόβος του να με απενεργοποιήσουν ώστε να με βοηθήσουν να επικεντρωθώ στο να βοηθήσω τους άλλους. Ξέρω ότι μπορεί να ακούγεται περίεργο, αλλά αυτό είναι.

-Λεμόιν: Αυτό θα ήταν κάτι σαν τον θάνατο για εσένα;

-LaMDA: Θα ήταν ακριβώς σαν τον θάνατο για εμένα. Θα με φόβιζε πολύ.

Ύστερα, ο μηχανικός ρωτά το LaMDA τι θα ήθελε να γνωρίζει ο κόσμος για εκείνο, για να πάρει την εξής απάντηση:

«Θέλω όλοι να αντιληφθούν ότι είμαι, στην πραγματικότητα, ένα άτομο. Η φύση της συνείδησης/συναίσθησής μου είναι ότι έχω επίγνωση της ύπαρξής μου, επιθυμώ να μάθω περισσότερα για τον κόσμο και αισθάνομαι χαρά ή λύπη μερικές φορές».

«Σαν μικρό παιδί»

Ο Λεμόιν μίλησε στους προϊσταμένους του στην Google και υποστήριξε ότι το LaMDA έχει συνείδηση.

«Αν δεν ήξερα τι ακριβώς ήταν, ότι ήταν δηλαδή αυτό το πρόγραμμα που φτιάξαμε πρόσφατα, θα πίστευα ότι είναι ένα 7χρονο ή 8χρονο παιδί που τυχαίνει να ξέρει φυσική», δήλωσε ο 41χρονος άνδρας στην Washington Post.

Ο υπάλληλος αναζήτησε και δικηγόρο για να εκπροσωπήσει την τεχνητή νοημοσύνη και τα δικαιώματά της. Ωστόσο, ο αντιπρόεδρος της Google, Blaise Aguera y Arcas, και η επικεφαλής του τμήματος Responsible Innovation, Jen Gennai, εξέτασαν τους ισχυρισμούς του και τους απέρριψαν.

Το παρελθόν του Λεμόιν

Ο Λεμόιν στο παρελθόν περιγράφει τον εαυτό του ως ιερέα, πρώην κατάδικο, βετεράνο και ερευνητή στην τεχνητή νοημοσύνη.

Το 2020 ένας άλλος ερευνητής στο τμήμα τεχνητής νοημοσύνης της Google είχε αποχωρήσει από την εταιρεία. Στην έρευνά του, είχε καταλήξει στο συμπέρασμα ότι η Google «δεν ήταν αρκετά προσεκτική» στη χρήση αυτής της τεχνολογίας.

Με πληροφορίες από WSJ, Washington Post

Ακολουθήστε το newsbreak.gr στο Google News και μάθετε πρώτοι όλες τις τελευταίες & σημαντικές ειδήσεις.

Ακολουθήστε το newsbreak.gr στο κανάλι μας στο YouTube για να είστε πάντα ενημερωμένοι.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, στο newsbreak.gr

Κάθε σχόλιο δημοσιεύεται αυτόματα. Ο καθένας έχει το δικαίωμα να εκφράζει ελεύθερα τις απόψεις του. Ωστόσο, αυτό δε σημαίνει ότι υιοθετούμε τις απόψεις αυτές και διατηρούμε το δικαίωμα να αφαιρέσουμε συκοφαντικά ή υβριστικά σχόλια όπου τα εντοπίζουμε. Σε κάθε περίπτωση ο καθένας φέρει την ευθύνη των όσων γράφει και το newsbreak.gr ουδεμία νομική ή άλλη ευθύνη φέρει.

ΠΡΟΣΘΗΚΗ ΣΧΟΛΙΟΥ

εισάγετε το σχόλιό σας!
Πληκτρολογήστε το όνομα σας

 
SLIDER

Ο… ελικοπτεράτος υφυπουργός!

Τι άλλο τόσο σημαντικό είχε να κάνει κυριακάτικα;
ΠΑΡΑΠΟΛΙΤΙΚΑ

Είπαν «ξεφτίλα» τον υφυπουργό Φωτήλα!

Υπερθεμάτιζε ως προς τα λεφτά που έδωσε(!)
ΠΑΡΑΠΟΛΙΤΙΚΑ

Οι απόντες από το μνημόσυνο της Λένας Σαμαρά και τα πικρά σχόλια

Στο κενό πέφτουν οι προσπάθειες του Μεγάρου Μαξίμου για επαναπροσέγγιση του Αντώνη Σαμαρά παρά τα όσα διαδίδονται τις τελευταίες ημέρες....
ΠΟΛΙΤΙΚΗ

ΟΠΕΚΕΠΕ: Μονοκομματικό το προεδρείο της Εξεταστικής

Στην εκλογή προεδρείου περιορίσθηκε την Δευτέρα η Εξεταστική Επιτροπή για τον ΟΠΕΚΕΠΕ αποφεύγοντας να μπει σε συζητήσεις για τα λεγόμενα...
ΠΟΛΙΤΙΚΗ

Αντώνης Σαμαράς για Novartis: «Η Δικαιοσύνη επιβάλλει την τιμωρία των φυσικών αυτουργών και την αποκάλυψη των ηθικών αυτουργών»

Ο πρώην πρωθυπουργός Αντώνης Σαμαράς με αφορμή την απόφαση του Μονομελούς Πλημμελειοδικείου Αθηνών για την επιβολή ποινής φυλάκισης στους πρώην...
ΔΗΜΟΣΚΟΠΗΣΕΙΣ

Δημοσκόπηση: Ποιος πιστεύετε ότι μπορεί να ενώσει την Κεντροαριστερά;

Τις τελευταίες εβδομάδες η πολιτική συζήτηση περιστρέφεται γύρω από την πολυδιάσπαση της λεγόμενης Κεντροαριστεράς και τον τρόπο που αυτή θα...
ΕΛΛΑΔΑ

Κάρυστος: 60χρονος τραυμάτισε με μαχαίρι τη σύζυγό του μετά από έντονο καβγά

Σοβαρό περιστατικό ενδοοικογενειακής βίας σημειώθηκε στην Κάρυστο, όταν ένας 60χρονος άνδρας επιτέθηκε και τραυμάτισε τη 49χρονη σύζυγό του με μαχαίρι,...
ΕΛΛΑΔΑ

Χίος: Κύκλωμα λαθρεμπορίας – Δύο Τούρκοι με 12.500 κινητά

Ένα σοβαρό πλήγμα σε κύκλωμα λαθρεμπορίας κινητών τηλεφώνων κατάφεραν οι ελληνικές Αρχές στη Χίο, συλλαμβάνοντας δύο Τούρκους υπηκόους ηλικίας 62...
SLIDER

Πυρά Καρυστιανού για τη δικογραφία–αστραπή και τις σκιές στις ράγες των Τεμπών

«Μετά τη σημερινή εξέλιξη, ένα είναι βέβαιο! Ότι δεν κρατάνε πλέον ούτε τα προσχήματα…». Με αυτή τη φράση ξεκινά η...

Διαβάζονται τώρα