Δύσκολα τα πράγματα για όσους προσπαθούν να καταπολεμήσουν την διάδοση ψεύτικων ειδήσεων καθώς ερευνητές δημιούργησαν λογισμικό που μπορεί να αλλάξει τα λόγια ενός ανθρώπου σε ένα βίντεο.

Αν και η παρουσίαση του νέου λογισμικού δεν είναι κάτι καινούργιο για τον τεχνολογικό κόσμο, παρόλα αυτά το συγκεκριμένο λογισμικό είναι τόσο καλό που δεν μπορείς να ξεχωρίσεις τις αλλαγές που κάνει.

Το νέο λογισμικό αποτελεί έργο των Stanford University, Max Planck Institute for Informatics, Princeton University και Adobe Research. Η Adobe έχει ήδη παρουσιάσει, το 2016, το λογισμικό VoCo ή αλλιώς το Photoshop του λόγου, το οποίο μπορεί να αλλάξει ένα ηχητικό μήνυμα και το οποίο χρησιμοποιήθηκε στην συγκεκριμένη έρευνα ως πηγή για την αλλαγή λέξεων σε βίντεο.

Η τεχνολογίας τεχνητής νοημοσύνης που χρησιμοποιείται βασίζεται στην τεχνολογία machine learning, η οποία επιτρέπει να γίνεται επεξεργασία όσων λέει κάποιος σε ένα βίντεο, δηλαδή να διαγραφούν ή να αλλάξουν οι λέξεις που λέει.

Το λογισμικό αναλύει το original βίντεο και στη συνέχεια απομονώνει τόσο τα γράμματα που χρειάζεται όσο και τις εκφράσεις του στόματος. Στο τέλος δημιουργεί ένα 3D μοντέλο της περιοχής του στόματος και κάνει τις μετατροπές.

Σε δοκιμές στις οποίες τα ψεύτικα βίντεο παρουσιάστηκαν σε μια ομάδα 138 ανθρώπων, περίπου 60% των συμμετεχόντων θεώρησε τα “πειραγμένα” βίντεο ως αληθινά, ενώ το 80% της ίδιας ομάδας θεώρησε ότι τα original βίντεο ήταν αληθινά (αυτό σημαίνει ότι 20% θεώρησαν ότι τα κανονικά βίντεο ήταν πειραγμένα). Φυσικά τα αποτελέσματα είναι επηρεασμένα και από το γεγονός ότι είχε ειπωθεί στους εθελοντές να εντοπίσουν ποια βίντεο είναι “πειραγμένα”.

Ευτυχώς προς το παρόν οι απαιτήσεις για να φέρει αυτά τα αληθοφανή αποτελέσματα το λογισμικό, είναι συγκεκριμένες. Χρειάζεται το βίντεο να έχει καταγράψει μόνο το πορτραίτο του ανθρώπου που μιλάει και να έχει αναλύσει δεδομένα 40 λεπτών.

Επιπλέον ο αλγόριθμος μπερδεύεται όταν τα χέρια του ομιλητή μπαίνουν στο κάδρο.

Σχετικά με τις μεγάλες ανησυχίες που υπάρχουν για ανήθικη χρήση μίας τέτοιας τεχνολογίας οι ερευνητές λένε: “Η προσέγγιση επεξεργασίας που βασίζεται σε κείμενο θέτει τα θεμέλια για καλύτερα εργαλεία επεξεργασίας για την παραγωγή ταινιών. Οι σκηνές διαλόγου συχνά απαιτούν εκ νέου προγραμματισμό ή επεξεργασία εξαιτίας μικρών αλλαγών στο σενάριο, οι οποίες επί του παρόντος απαιτούν κουραστική χειρωνακτική εργασία. Η τεχνική επεξεργασίας που προτείνουμε επιτρέπει επίσης την εύκολη προσαρμογή του οπτικοακουστικού περιεχομένου σε συγκεκριμένο κοινό-στόχο: π.χ. τα βίντεο διδασκαλίας μπορούν να ρυθμιστούν με ακρίβεια σε θεατές από διαφορετικά περιβάλλοντα ή ένα βίντεο μπορεί να προσαρμοστεί σε παιδιά διαφορετικών ηλικιακών ομάδων που βασίζονται αποκλειστικά σε αλλαγές στο κείμενο. Εν ολίγοις, το έργο μας αναπτύχθηκε για σκοπούς αφήγησης.

Ωστόσο, η διαθεσιμότητα μιας τέτοιας τεχνολογίας – σε ποιότητα που δεν μπορείς να ξεχωρίσεις το επεξεργασμένο βίντεο από το αρχικό υλικό – εγείρει σημαντικές και έγκυρες ανησυχίες σχετικά με το ενδεχόμενο κακής χρήσης. Παρόλο που οι μέθοδοι χειραγώγησης εικόνας και βίντεο είναι τόσο παλιές όσο και τα ίδια τα μέσα ενημέρωσης, οι κίνδυνοι εκμετάλλευσης αυξάνονται όταν εφαρμόζονται σε έναν τρόπο επικοινωνίας που μερικές φορές αποτελούν απόδειξη σκέψεων και προθέσεων. Αναγνωρίζουμε ότι οι κακοί ηθοποιοί μπορεί να χρησιμοποιούν τέτοιες τεχνολογίες για να παραποιούν προσωπικές δηλώσεις και να συκοφαντούν εξέχοντα άτομα. Ανησυχούμε για μία τέτοια εξαπάτηση και κακή χρήση”.

Φυσικά μία τέτοιου είδους τεχνολογία φαίνεται εξαιρετικά χρήσιμη για όσους δημιουργούν βίντεο και απλά θέλουν να διορθώσουν κάτι που δεν ειπώθηκε σωστά, όπως τους δημιουργούς ταινιών ή τους τηλεοπτικούς σταθμούς.

Από εκεί και πέρα με την απίστευτη αύξηση των ψεύτικων ειδήσεων, οι οποίες τεκμηριώνονται από πειραγμένα βίτνεο και φωτογραφίες, είναι πολύ τρομακτικό το τι θα μπορούν να κάνουν όσοι θέλουν να προπαγανδίσουν τις θέσεις τους. Ειδικά σε ένα κόσμο που ακόμα και οι ψεύτικες ειδήσεις που κάνουν μπαμ γίνονται πιστευτές από χιλιάδες ανθρώπους.