Deepfakes: μπορούν πλέον να μιμηθούν τους καρδιακούς παλμούς!

Μια νέα μελέτη αποκαλύπτει ότι τα deepfakes μπορούν να αναπαράγουν ρεαλιστικούς καρδιακούς παλμούς καθιστώντας τα πολύ πιο δύσκολα στον εντοπισμό.

Ραγδαίες εξελίξεις στο ψεύτικο περιεχόμενο! Η νέα μελέτη από το Πανεπιστήμιο Humboldt του Βερολίνου αποκαλύπτει ότι τα σύγχρονα deepfakes μπορούν να αναπαράγουν ρεαλιστικά σημάδια καρδιακού παλμού, καθιστώντας τα ιδιαιτέρως πιο δύσκολο να εντοπιστούν ως ψεύτικο υλικό (φτιαγμένο με τεχνητή νοημοσύνη) με τις υπάρχουσες μεθόδους. Με βάση τη μελέτη προκύπτουν τα εξής συμπεράσματα:

• Αναπαραγωγή καρδιακών παλμών: Οι ερευνητές διαπίστωσαν ότι ορισμένα προηγμένα deepfake μοντέλα μπορούν να δημιουργήσουν βίντεο που εμφανίζουν ενδείξεις ανθρώπινου καρδιακού ρυθμού, όπως μικρές αλλαγές στο χρώμα του προσώπου.
• Αναξιοπιστία των υπαρχόντων εργαλείων ανίχνευσης: Τα διαθέσιμα εργαλεία που βασίζονται στην ανάλυση αυτών των φυσιολογικών σημάτων στους ανθρώπους απέτυχαν να διακρίνουν τα deepfakes από τα αυθεντικά βίντεο.
• Ανίχνευση σημάτων: Οι ερευνητές πιστεύουν ότι τα deepfakes δεν προγραμματίστηκαν σκόπιμα για να αναπαράγουν σημάδια καρδιακών παλμών. Αντίθετα, τα βίντεο που δημιουργήθηκαν με τεχνητή νοημοσύνη φαίνεται να “κληρονόμησαν” τα σήματα παλμού από το αρχικό υλικό, μέσω της μεταφοράς λεπτών μεταβολών στο χρώμα του δέρματος! Αυτό καθιστά την τεχνολογία ιδιαίτερα ικανή στο να μιμείται αληθινά ανθρώπινα σήματα και να τα χρησιμοποιεί!

Όπως καταλαβαίνετε, έχουμε φτάσει σε ένα σημείο όπου η ανάπτυξη της τεχνολογίας γίνεται με τέτοιους ρυθμούς που σιγά σιγά δε θα προλαβαίνει η ανθρωπότητα να αναπτύσσει και τα κατάλληλα εργαλεία για ανίχνευση ή έλεγχο αυτής. Επιπτώσεις όπως διάδοση παραπληροφόρησης και κακόβουλου περιεχομένου μπορούν να γίνουν ανεξέλεγκτες λόγω της ικανότητας των deepfakes να μιμούνται φυσιολογικά ανθρώπινα σήματα. Όσο αφορά το νομοθετικό πλαίσιο, το Κογκρέσο των ΗΠΑ ενέκρινε τον νόμο “Take It Down Act”, ο οποίος καθιστά παράνομη τη διανομή μη συναινετικών σεξουαλικών εικόνων, συμπεριλαμβανομένων αυτών που δημιουργούνται από AI (ή βίντεο).

Στη νέα μελέτη συμμετείχαν εθελοντές. Στην παρακάτω εικόνα θα δείτε στα αριστερά πραγματικές φωτογραφίες των συμμετεχόντων. Στα δεξιά είναι τα deepfake αντίστοιχά ψηφιακά αντίγραφά τους.

Το γενικό συμπέρασμα από όλα αυτά είναι ότι η μελέτη υπογραμμίζει την ανάγκη για ανάπτυξη νέων μεθόδων ανίχνευσης των deepfakes, καθώς οι υπάρχουσες τεχνικές που βασίζονται σε φυσιολογικά σήματα αποδεικνύονται αναξιόπιστες. Η πρόοδος της τεχνολογίας απαιτεί συνεχή προσαρμογή των εργαλείων ανίχνευσης για την προστασία από την παραπληροφόρηση και την κακόβουλη χρήση της AI τεχνολογίας.

Απέκτησε το Luminar με έκπτωση, με τον κωδικό pttl20,
κάνε κλικ στην εικόνα

Αναζητήστε όλα τα νέα προϊόντα στο κατάστημα
Ρεπέλλα Φωτογραφικά.