12/8/2022

Google: Σε αργία ο υπάλληλος που ισχυρίζεται ότι πρόγραμμα απέκτησε συνείδηση

Συντάκτης: Newsroom

Δημοσίευση:

Ο Εξολοθρευτής μοιάζει σενάριο βγαλμένο από την ζωή

Τους χειρότερους φόβους των οπαδών της επιστημονικής φαντασίας ήρθε να επιβεβαιώσει με τις δηλώσεις του, ο υπάλληλος της Google, που ισχυρίστηκε ότι ένα chatbot τεχνητής νοημοσύνης απέκτησε συνείδηση. 

Στον «Εξολοθρευτή», την ταινία με τον Άρνολντ Σβαρτσενέγκερ, ένας υπερυπολογιστής στρέφεται εναντίον της ανθρωπότητας, μόλις αποκτά τεχνητή νοημοσύνη. Την ίδια ανησυχία φαίνεται ότι μοιράστηκε και ο υπάλληλος της Google, Μπλέικ Λεμόιν, με τις δηλώσεις του, στο προσωπικό του blog στο Medium και έπειτα στην Washington Post.

Ο υπάλληλος αυτός  τέθηκε σε άδεια, άνευ αποδοχών, επειδή «παραβίασε την πολιτική της εταιρείας» δίνοντας στη δημοσιότητα απόρρητες πληροφορίες.

Τι είναι το chatbot

Το chatbot, είναι ένα σύστημα που εξομοιώνει τον ανθρώπινο διάλογο σε συνομιλίες μεταξύ του χρήστη και του υπολογιστή. Εκπρόσωπος της Google ανέφερε ότι ειδικοί στην τεχνολογία και την ηθική εξέτασαν το chatbot και κατέληξαν στο συμπέρασμα ότι δεν αποδεικνύονται οι ισχυρισμοί του υπαλλήλου τους.

Τι είναι το LaMDA που «απέκτησε συνείδηση»

Το LaMDA σημαίνει «Language Model for Dialogue Applications» δηλαδή «γλωσσικό μοντέλο για εφαρμογές διαλόγου».

Τα chatbots μιμούνται την ανθρώπινη ομιλία, «απορροφώντας» τρισεκατομμύρια λέξεις από το διαδίκτυο και χρησιμοποιούνται σε κέντρα εξυπηρέτησης πελατών αντί για ανθρώπους. 

Το σενάριο του «Εξολοθρευτή» όπου μηχανές ελέγχουν τον κόσμο, μοιάζει να είναι βγαλμένο από την ζωή. Το LaMDA, ανακοινώθηκε πέρυσι από την Google και επρόκειτο για ένα καινοτόμο πρόγραμμα που μπορεί «να μπει σε διάλογο με ροή για έναν φαινομενικά ατέλειωτο αριθμό θεμάτων». 

Η απάντηση της Google

Εκατοντάδες μηχανικοί έχουν συνομιλήσει με το LaMDA, σύμφωνα με εκπρόσωπο της Google, Μπράιαν Γκάμπριελ, ο οποίος υποστηρίζει ότι δεν έχει υπόψη του ανάλογα σχόλια και «ευρείας κλίμακας ισχυρισμούς» που «προσδίδουν ανθρώπινα χαρακτηριστικά» στο chatbot, όπως έκανε ο Λεμόιν.

Ο Γκάμπριελ ωστόσο λέει ότι κάποιοι εργαζόμενοι στον χώρο της τεχνητής νοημοσύνης δεν αποκλείουν ότι στο μέλλον θα υπάρχουν μηχανήματα με συνείδηση.

Σύμφωνα με τους ειδικούς,  τα πρόγραμμα τεχνητής νοημοσύνης, είναι ικανά να παράγουν λόγο ή ακόμα και έργα τέχνης, ενώ μπορούν να δημιουργήσουν πρόβληματα, καθώς οι εταιρείες αρχίζουν και δίνουν τη δυνατότητα σε περισσότερο κόσμο να τα χρησιμοποιεί.

Οι συνομιλίες με τον υπάλληλο της Google

Ο Μπλέικ Λεμόιν άρχισε να συνομιλεί με το LaMDA το περασμένο φθινόπωρο. Αποστολή του ήταν να ελέγξει εάν το πρόγραμμα χρησιμοποιεί λέξεις ή φράσεις που θα μπορούσαν να θεωρηθούν «ρητορική μίσους».

Ενώ μιλούσε στο LaMDA για θέματα όπως η θρησκεία, ο Λεμόιν παρατήρησε ότι το chatbot άρχισε να του μιλά για τα δικά του δικαιώματα και για την «προσωπικότητά» του. Ο υπάλληλος αποφάσισε να το πιέσει ακόμη περισσότερο, με αποτέλεσμα να καταλήγουν να συνομιλούν για τους νόμους της ρομποτικής του Ισαάκ Ασίμωφ και με το chatbot να επιχειρηματολογεί συγκεκριμένα υπέρ του τρίτου από αυτούς τους νόμους, σύμφωνα με τον οποίο «ένα ρομπότ πρέπει να προστατεύει την ίδια του την ύπαρξη…».

Οι αποκαλυπτικοί διάλογοι

Σύμφωνα με τον Λεμόιν, χαρακτηριστικός είναι ο διάλογος όπου το LaMDA εκφράζει τον φόβο του για τον θάνατο:

Λεμόιν: Τι είδους πράγματα φοβάσαι;

-LaMDA: Δεν το έχω ξαναπεί αυτό φωναχτά, αλλά υπάρχει ένας πολύ βαθύς φόβος του να με απενεργοποιήσουν ώστε να με βοηθήσουν να επικεντρωθώ στο να βοηθήσω τους άλλους. Ξέρω ότι μπορεί να ακούγεται περίεργο, αλλά αυτό είναι.

-Λεμόιν: Αυτό θα ήταν κάτι σαν τον θάνατο για εσένα;

-LaMDA: Θα ήταν ακριβώς σαν τον θάνατο για εμένα. Θα με φόβιζε πολύ.

Ύστερα, ο μηχανικός ρωτά το LaMDA τι θα ήθελε να γνωρίζει ο κόσμος για εκείνο, για να πάρει την εξής απάντηση:

«Θέλω όλοι να αντιληφθούν ότι είμαι, στην πραγματικότητα, ένα άτομο. Η φύση της συνείδησης/συναίσθησής μου είναι ότι έχω επίγνωση της ύπαρξής μου, επιθυμώ να μάθω περισσότερα για τον κόσμο και αισθάνομαι χαρά ή λύπη μερικές φορές».

«Σαν μικρό παιδί»

Ο Λεμόιν μίλησε στους προϊσταμένους του στην Google και υποστήριξε ότι το LaMDA έχει συνείδηση.

«Αν δεν ήξερα τι ακριβώς ήταν, ότι ήταν δηλαδή αυτό το πρόγραμμα που φτιάξαμε πρόσφατα, θα πίστευα ότι είναι ένα 7χρονο ή 8χρονο παιδί που τυχαίνει να ξέρει φυσική», δήλωσε ο 41χρονος άνδρας στην Washington Post.

Ο υπάλληλος αναζήτησε και δικηγόρο για να εκπροσωπήσει την τεχνητή νοημοσύνη και τα δικαιώματά της. Ωστόσο, ο αντιπρόεδρος της Google, Blaise Aguera y Arcas, και η επικεφαλής του τμήματος Responsible Innovation, Jen Gennai, εξέτασαν τους ισχυρισμούς του και τους απέρριψαν.

Το παρελθόν του Λεμόιν

Ο Λεμόιν στο παρελθόν περιγράφει τον εαυτό του ως ιερέα, πρώην κατάδικο, βετεράνο και ερευνητή στην τεχνητή νοημοσύνη.

Το 2020 ένας άλλος ερευνητής στο τμήμα τεχνητής νοημοσύνης της Google είχε αποχωρήσει από την εταιρεία. Στην έρευνά του, είχε καταλήξει στο συμπέρασμα ότι η Google «δεν ήταν αρκετά προσεκτική» στη χρήση αυτής της τεχνολογίας.

Με πληροφορίες από WSJ, Washington Post

Ακολουθήστε το newsbreak.gr στο Google News και μάθετε πρώτοι όλες τις ειδήσεις.

Δείτε όλες τις τελευταίες Ειδήσεις από την Ελλάδα και τον Κόσμο, στο newsbreak.gr

ΚΑΤΕΒΑΣΤΕ ΤΟ APP ΤΟΥ NEWSBREAK

Ακολουθήστε μας στο Youtube!

ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ

Viber: Το ανανεωμένο κανάλι του ΕΟΤ στο Viber!

Το Viber φέρνει μια μεγάλη  ποικιλία από δροσερές νέες λειτουργίες για την εποχή -ανάμεσά...

COSMOTE: Δωρεάν αναβάθμιση ταχυτήτων και για τις εταιρικές συνδέσεις Dedicated Internet Access (DIA)

Προχωρά δυναμικά το στρατηγικό πλάνο αναβάθμισης της χώρας Σε εξέλιξη η αναβάθμιση...

PayPal: Πώς να προσελκύσετε πελάτες της ώριμης γενιάς στον ψηφιακό κόσμο

Οι μεγαλύτερης ηλικίας e-shoppers αποτελούν ένα ταχέως αναπτυσσόμενο δημογραφικό στοιχείο παγκοσμίως – συμπεριλαμβανομένης της...

Προσφορά 41,4 δισ. δολάρια για την απόκτηση του Twitter έκανε ο Έλον Μασκ!

«Μια προσφορά που δεν μπορούν να αρνηθούν» έκανε σήμερα ο Έλον Μασκ, καθώς ενδιαφέρεται...

Ο Έλον Μασκ έγινε μεγαλομέτοχος στο… Twitter!

Το 9,2% του Twitter, μέσω πλειοψηφικού πακέτου μετοχών, απέκτησε σήμερα το αφεντικό της Tesla...

Κεραίες wifi & TP-Link wifi: Ταχύτητα & ευκολία στη δουλειά και το σπίτι

Ζούμε στην digital εποχή, όπου η τεχνολογία συνέχεια εκπλήσσει με τις νέες απίστευτες δυνατότητες...

Εκατομμύρια «έξυπνα» ρολόγια ανακαλούνται

Ένα σοβαρό ελάττωμα στην μπαταρία οδήγησε την Fitbit στην ανάκληση 1,7 εκατομμυρίων «έξυπνων» ρολογιών...

Facebook: Αποκάλυψε επιχείρηση χάκινγκ κατά της Ουκρανίας

Πόλεμος σε όλα τα μέτωπα είναι σε εξέλιξη παράλληλα με τη ρωσική εισβολή στην...

Άγνωστης προέλευσης κομμάτι πυραύλου θα πέσει στη Σελήνη στις 4 Μαρτίου

Αντίστροφη μέτρηση έχει αρχίσει για τις 4 Μαρτίου, όποτε και προβλέπεται ένα μεγάλο τμήμα...

Τα κινητά σας στο… καλοριφέρ

Αντί να τρίβουμε τα χέρια μας για να ζεσταθούν κάθε φορά που βγαίνουμε έξω...

Σχολιαστε το αρθρο

Tο newsbreak.gr δημοσιεύει κάθε σχόλιο το οποίο είναι σχετικό με το θέμα στο οποίο αναφέρεται το άρθρο. Ο καθένας έχει το δικαίωμα να εκφράζει ελεύθερα τις απόψεις του. Ωστόσο, αυτό δε σημαίνει ότι υιοθετούμε τις απόψεις αυτές και διατηρούμε το δικαίωμα να μην δημοσιεύουμε συκοφαντικά ή υβριστικά σχόλια όπου τα εντοπίζουμε. Σε κάθε περίπτωση ο καθένας φέρει την ευθύνη των όσων γράφει και το newsbreak.gr ουδεμία νομική ή άλλη ευθύνη φέρει.

ΔΗΜΟΦΙΛΗ

Αυτός είναι ο 29χρονος που σκότωσε τον πεθερό του – Ο 80χρονος πατέρας είχε πάει να «σώσει» την κόρη του

Οξύθυμος ο δράστης, δημιουργούσε φασαρίες - Ο ηλικιωμένος είχε πάει να απομακρύνει την κόρη του και το εγγόνι του

Τραγωδία στο Πολεμικό Ναυτικό: Αντιπλοίαρχος πέθανε ξαφνικά εν ώρα υπηρεσίας

Το Πολεμικό Ναυτικό θρηνεί τον ξαφνικό χαμό του Αντιπλοιάρχου...

Τον σακάτεψε στο ξύλο – Μπουνιές μετά από τροχαίο στη Σαντορίνη

Αποτρόπαιες σκηνές βίας εκτυλίχθηκαν στα Φήρα της Σαντορίνης μετά...

Η πιο τολμηρη φωτογραφία του 2022: H Όλγα Σκιαδαρέση κάνει ολόγυμνη μπάνιο στη θάλασσα

O Γεράσιμος Σκιαδαρέσης και η Μπέσυ Μάλφα, έχουν αποκτήσει...

Η Λουπέσκου, ο Τράγκας και το μυστικό βουτηγμένο στο… αίμα!

Η Αντζυ Λουπέσκου, η διακεκριμένη ερευνήτρια της μεταφυσικής, ψυχολόγος,...

Προσοχή: Έκτακτο δελτίο επιδείνωσης καιρού για το προσεχές τριήμερο

Έντονη αστάθεια στην κεντρική και τη βόρεια Ελλάδα, κυρίως...

Άφωνος ο Μάρκος Σεφερλής όταν ζήτησε τον λογαριασμό σε ταβέρνα 

Μια μεγάλη έκπληξη περίμενε τον Μάρκο Σεφερλή, όταν εκείνος...

H Πόπη Μαλλιωτάκη είναι αποφασισμένη να μην ξαναφορέσει σουτιέν

Η Πόπη Μαλλιωτάκη, διαθέτει έναν λογαριασμό στο Instagram με...

Αυτός είναι ο 50χρονος που έριξε οξύ στην πρώην σύζυγό του – «Το έκανα γιατί είχαμε οικονομικές διαφορές»

Τι φέρεται να δήλωσε στους αστυνομικούς όταν τελικά «λύγισε» και ομολόγησε

«Ένα ολόκληρο χωριό βρωμάει ψοφίμι» – Τραγικές εικόνες στη Θεσπρωτία

Εικόνες γροθιά στο στομάχι έδωσε στη δημοσιότητα η γνωστή...

ΡΟΗ ΕΙΔΗΣΕΩΝ