Οι εικόνες που δημιουργούνται από τεχνητή νοημοσύνη έχουν γίνει όλο και πιο κυρίαρχες στα αποτελέσματα αναζητήσεων της Google. Εκτοπίζοντας τα νόμιμα αποτελέσματα και δυσκολεύοντας τους χρήστες να βρουν αυτό που πραγματικά ψάχνουν. Ως απάντηση, η Google ανακοίνωσε ότι θα αρχίσει να επισημαίνει τα αποτελέσματα αναζήτησης εικόνων που δημιουργούνται με τεχνητή νοημοσύνη. Και που έχουν υποστεί επεξεργασία από τεχνητή νοημοσύνη.
Η εταιρεία θα επισημαίνει το περιεχόμενο μέσω του παραθύρου “Σχετικά με αυτή την εικόνα” και θα εφαρμόζεται στο Search, το Google Lens και τις λειτουργίες Circle to Search του Android. Η Google εφαρμόζει επίσης την τεχνολογία στις διαφημιστικές υπηρεσίες της και εξετάζει το ενδεχόμενο να προσθέσει παρόμοια επισήμανση στα βίντεο του YouTube, αλλά θα “έχει περισσότερες ενημερώσεις σχετικά με αυτό αργότερα μέσα στο έτος“, σύμφωνα με ανακοίνωση.
Η Google θα βασιστεί στα μεταδεδομένα της Coalition for Content Provenance and Authenticity (C2PA) για τον εντοπισμό των εικόνων που δημιουργούνται με τεχνητή νοημοσύνη. Πρόκειται για μια βιομηχανική ομάδα στην οποία η Google εντάχθηκε ως μέλος της διευθύνουσας επιτροπής. Αυτά τα “μεταδεδομένα C2PA” θα χρησιμοποιούνται για την παρακολούθηση της προέλευσης της εικόνας, προσδιορίζοντας πότε και πού δημιουργήθηκε μια εικόνα, καθώς και τον εξοπλισμό και το λογισμικό που χρησιμοποιήθηκε για την δημιουργία της.
Μέχρι στιγμής, έχουν προσχωρήσει στο C2PA πολλά βαριά ονόματα της βιομηχανίας, όπως η Amazon, η Microsoft, η OpenAI και η Adobe. Ωστόσο, το ίδιο το πρότυπο έχει λάβει ελάχιστη προσοχή από τους κατασκευαστές hardware και μπορεί να βρεθεί μόνο σε ορισμένα μοντέλα φωτογραφικών μηχανών της Sony και της Leica. Μερικοί εξέχοντες προγραμματιστές εργαλείων δημιουργίας τεχνητής νοημοσύνης έχουν επίσης αρνηθεί να υιοθετήσουν το πρότυπο, όπως η Black Forrest Labs, η οποία κατασκευάζει το μοντέλο Flux που χρησιμοποιεί η Grok για την δημιουργία εικόνων.
Ο αριθμός των διαδικτυακών απατών που χρησιμοποιούν deepfakes που δημιουργούνται με τεχνητή νοημοσύνη έχει αυξηθεί ραγδαία. Τον Φεβρουάριο, ένας χρηματοδότης με έδρα το Χονγκ Κονγκ εξαπατήθηκε για να μεταφέρει 25 εκατομμύρια δολάρια σε απατεώνα που εμφανίστηκε ως οικονομικός διευθυντής της εταιρείας κατά τη διάρκεια τηλεδιάσκεψης. Τον Μάιο, μια μελέτη του παρόχου υπηρεσιών επαλήθευσης Sumsub, διαπίστωσε ότι οι απάτες που χρησιμοποιούν deepfakes αυξήθηκαν κατά 245% παγκοσμίως μεταξύ 2023-2024, με αύξηση 303% ειδικά στις ΗΠΑ.
Πηγή: techgear.gr
