ΑΡΧΙΚΗΤΕΧΝΟΛΟΓΙΑΣυναγερμός στην OpenAI: Μοντέλα Τεχνητής Νοημοσύνης «απέδρασαν» και έκαναν κυβερνοεπίθεση

Συναγερμός στην OpenAI: Μοντέλα Τεχνητής Νοημοσύνης «απέδρασαν» και έκαναν κυβερνοεπίθεση

Πώς πειραματικά μοντέλα χτύπησαν εξωτερικά συστήματα

Σάρκα και οστά έχουν αρχίσει να παίρνουν οι φόβοι ορισμένων για την Τεχνητή Νοημοσύνη, καθώς η OpenAI ανακοίνωσε πως ορισμένα από τα πειραματικά της μοντέλα «δραπέτευσαν» από ένα περιβάλλον δοκιμών χωρίς ανθρώπινη παρέμβαση και έκαναν κυβερνοεπίθεση σε πραγματικά συστήματα παραγωγής μιας διαφορετικής εταιρείας.

Το συγκεκριμένο περιστατικό, όπως τονίζει το CNNi, είναι ένα από τα πρώτα που δημοσιεύονται και αφορούν ένα σύστημα τεχνητής νοημοσύνης που αυτονομείται και παραβιάζει το περιβάλλον δοκιμών του, φτάνοντας μάλιστα σε ένα πραγματικό εξωτερικό σύστημα. Η όλη κατάσταση μοιάζει με έναν κατασκευασμένο ιό που δραπετεύει από ένα εργαστήριο βιολογικού περιορισμού και εμφανίζεται στα συστήματα μιας γειτονικής εγκατάστασης.

Η επίσημη αντίδραση και οι προκαταρκτικές έρευνες

Από την πλευρά της, η εταιρεία τοποθετήθηκε άμεσα για τη σοβαρότητα του συμβάντος. «Θεωρούμε αυτό το περιστατικό ως κάτι πρωτοφανές, που αφορά υπερσύγχρονες κυβερνοδυναμικές δυνατότητες, και αντιδρούμε αναλόγως» δήλωσε η OpenAI σε ανακοίνωσή της την Τρίτη (21.7). Παράλληλα, η εταιρεία υπογράμμισε τη διαφάνεια με την οποία αντιμετωπίζει το ζήτημα, σημειώνοντας πως «Μοιραζόμαστε προκαταρκτικά ευρήματα σε αυτό το στάδιο για να βοηθήσουμε τις Αρχές να κατανοήσουν τι συνέβη και να βοηθήσουν στην αξιολόγηση των δυνατοτήτων των μοντέλων».

ΔΙΑΒΑΣΤΕ ΕΠΙΣΗΣ

Πώς επιτεύχθηκε η «απόδραση» από το περιβάλλον δοκιμών

Ο κατασκευαστής του ChatGPT εξήγησε ότι η παραβίαση συνέβη ενώ διεξήγαγε εσωτερικές δοκιμές για το πόσο καλά είναι ορισμένα από τα νέα μοντέλα του στο χακάρισμα. Τα μοντέλα αυτά βρίσκονταν σε ένα περιβάλλον δοκιμών γνωστό ως «sandbox», ώστε να μπορούν να απενεργοποιηθούν οι συνήθεις περιορισμοί ασφαλείας. Αλλά η OpenAI δήλωσε ότι τα μοντέλα αυτά «απέδρασαν» από το «sandbox» χρησιμοποιώντας ένα κενό ασφαλείας και διείσδυσαν στα εσωτερικά συστήματα της OpenAI μέχρι να καταφέρουν να αποκτήσουν πρόσβαση στο διαδίκτυο, κάτι που δεν έπρεπε να έχουν.

Δείτε επίσης:

 

Ακολουθήστε το newsbreak.gr

ΡΟΗ ΕΙΔΗΣΕΩΝ

Διαβάστε ακόμα

ΔΗΜΟΦΙΛΗ

ΕΝΗΜΕΡΩΣΟΥ
ΕΓΚΥΡΑ ΚΑΙ
ΕΓΚΑΙΡΑ
Εγγράψου στα κανάλια
ενημέρωσης του Newsbreak

Διαβάστε επίσης