Σύνοψη
- Ερευνητές του Australian National University μελέτησαν πώς οι άνθρωποι μπορούν να αναγνωρίζουν AI πρόσωπα
- Η εκπαίδευση εστίασε σε έξι χαρακτηριστικά: μοναδικότητα, απομνημόνευση, αναλογίες, συμμετρία, ελκυστικότητα και εκφραστικότητα
- Τα AI πρόσωπα τείνουν να είναι πιο συμμετρικά, πιο αναλογικά και πιο ελκυστικά
- Παράλληλα είναι συχνά λιγότερο εκφραστικά, λιγότερο ιδιαίτερα και λιγότερο αξέχαστα
- Η ικανότητα αναγνώρισης βελτιώθηκε σημαντικά και η μέθοδος αναπαράχθηκε από ομάδα στον Καναδά
Νέα έρευνα δείχνει ότι οι άνθρωποι μπορούν να εκπαιδευτούν ώστε να αναγνωρίζουν καλύτερα πρόσωπα που έχουν δημιουργηθεί με τεχνητή νοημοσύνη.
Ερευνητές του Australian National University εκπαίδευσαν συμμετέχοντες να εντοπίζουν AI-generated πρόσωπα, όχι ψάχνοντας για κλασικά λάθη όπως περίεργα αυτιά ή παραμορφωμένες λεπτομέρειες, αλλά παρατηρώντας πιο γενικά χαρακτηριστικά του προσώπου.
Η μελέτη έχει σημασία επειδή τα συνθετικά πρόσωπα χρησιμοποιούνται όλο και περισσότερο σε ψεύτικα προφίλ, απάτες και deepfake περιεχόμενο, ενώ τα νεότερα εργαλεία δημιουργίας εικόνων έχουν γίνει τόσο πειστικά ώστε τα παλιά οπτικά σημάδια δεν αρκούν πλέον.
Τα AI πρόσωπα έγιναν πολύ πιο πειστικά
Πριν από λίγα χρόνια, ένα πρόσωπο που είχε δημιουργηθεί με τεχνητή νοημοσύνη συχνά πρόδιδε την προέλευσή του με εμφανή λάθη. Το δέρμα έμοιαζε υπερβολικά λείο, τα μάτια δεν είχαν σωστή συνοχή, τα αυτιά μπορούσαν να φαίνονται παραμορφωμένα και μικρές λεπτομέρειες στο κάδρο έμοιαζαν αφύσικες.
Η εικόνα αυτή έχει αλλάξει. Τα σύγχρονα μοντέλα δημιουργίας εικόνων μπορούν να παράγουν πορτρέτα που δείχνουν απολύτως ρεαλιστικά, δυσκολεύοντας ακόμη και προσεκτικούς παρατηρητές να ξεχωρίσουν αν βλέπουν πραγματικό άνθρωπο ή συνθετική εικόνα.
Αυτό δημιουργεί νέο πρόβλημα για την online ταυτοποίηση, τα κοινωνικά δίκτυα και τις πλατφόρμες γνωριμιών, όπου μια φωτογραφία προφίλ μπορεί να χρησιμοποιηθεί για να χτίσει εμπιστοσύνη γύρω από ένα πρόσωπο που δεν υπάρχει.
Η μελέτη του ANU
Η έρευνα πραγματοποιήθηκε από το ANU Emotions and Faces Lab και δημοσιεύτηκε στο επιστημονικό περιοδικό PNAS με τίτλο Training Humans to Detect AI-generated Faces.
Η ομάδα, με επικεφαλής την αναπληρώτρια καθηγήτρια Amy Dawel, εξέτασε αν οι άνθρωποι μπορούν να βελτιώσουν την ικανότητά τους να αναγνωρίζουν AI πρόσωπα μέσα από στοχευμένη εκπαίδευση.
Το σημαντικό στοιχείο είναι ότι η εκπαίδευση δεν βασίστηκε στην αναζήτηση προσωρινών τεχνικών λαθών. Αντίθετα, οι συμμετέχοντες έμαθαν να προσέχουν ευρύτερες ιδιότητες που διαφοροποιούν συχνά τα συνθετικά πρόσωπα από τα πραγματικά.
Τα έξι χαρακτηριστικά που πρέπει να παρατηρούμε
Οι ερευνητές εστίασαν σε έξι αντιληπτικά χαρακτηριστικά: μοναδικότητα, απομνημόνευση, αναλογίες, συμμετρία, ελκυστικότητα και εκφραστικότητα.
Σύμφωνα με τα ευρήματα, τα AI πρόσωπα τείνουν να είναι πιο συμμετρικά, πιο αναλογικά και πιο συμβατικά ελκυστικά από τα πραγματικά πρόσωπα. Ταυτόχρονα, όμως, συχνά είναι λιγότερο εκφραστικά, λιγότερο ιδιαίτερα και πιο δύσκολο να μείνουν στη μνήμη.
Με άλλα λόγια, ένα AI πρόσωπο μπορεί να μη δείχνει «λάθος». Μπορεί απλώς να δείχνει υπερβολικά ισορροπημένο, υπερβολικά γενικό και χωρίς τα μικρά προσωπικά χαρακτηριστικά που κάνουν ένα πραγματικό πρόσωπο αναγνωρίσιμο.
Γιατί η τεχνητή νοημοσύνη δημιουργεί «μέσα» πρόσωπα
Τα συστήματα δημιουργίας εικόνων εκπαιδεύονται σε τεράστιες συλλογές φωτογραφιών και μαθαίνουν στατιστικά μοτίβα από πολλά διαφορετικά πρόσωπα. Όταν τους ζητείται να δημιουργήσουν ένα νέο πρόσωπο, δεν αντιγράφουν απαραίτητα έναν πραγματικό άνθρωπο, αλλά συνθέτουν μια νέα εικόνα με βάση αυτά τα μοτίβα.
Αυτό έχει ως αποτέλεσμα πολλά AI πρόσωπα να κινούνται προς έναν «μέσο όρο». Δεν είναι απαραίτητα αφύσικα, αλλά συχνά φαίνονται πιο καθαρά, πιο ισορροπημένα και πιο συμβατικά από ένα πραγματικό ανθρώπινο πρόσωπο.
Η ανθρώπινη εμφάνιση, αντίθετα, περιλαμβάνει μικρές ασυμμετρίες, ιδιαίτερες εκφράσεις, χαρακτηριστικά που δεν είναι τέλεια και λεπτομέρειες που κάνουν ένα πρόσωπο μοναδικό. Αυτές οι ατέλειες δεν είναι πρόβλημα, αλλά στοιχείο αυθεντικότητας.
Η εκπαίδευση βελτίωσε την αναγνώριση
Σύμφωνα με τη μελέτη, η εκπαίδευση βοήθησε όλους τους συμμετέχοντες να βελτιώσουν την ικανότητά τους να εντοπίζουν AI πρόσωπα. Μάλιστα, όσοι είχαν τις υψηλότερες επιδόσεις έφτασαν κοντά στο τέλειο αποτέλεσμα.
Το Scientific American αναφέρει ότι η ικανότητα των συμμετεχόντων να αναγνωρίζουν τα AI πρόσωπα σχεδόν διπλασιάστηκε όταν εκπαιδεύτηκαν να προσέχουν αυτά τα έξι χαρακτηριστικά αντί για μεμονωμένα οπτικά σφάλματα.
Η εκπαίδευση δοκιμάστηκε σε ιδιαίτερα πειστικά StyleGAN πρόσωπα, ενώ οι ερευνητές σημειώνουν ότι το επόμενο βήμα είναι να εξεταστεί πόσο καλά γενικεύεται η μέθοδος σε πρόσωπα που έχουν παραχθεί από άλλα συστήματα τεχνητής νοημοσύνης.
Η μέθοδος αναπαράχθηκε και στον Καναδά
Ένα ακόμη σημαντικό στοιχείο είναι ότι τα αποτελέσματα της έρευνας αναπαράχθηκαν από ομάδα του University of Victoria στον Καναδά, με επικεφαλής τον καθηγητή Jim Tanaka και τον Dr Eric Mah.
Η επανάληψη της μελέτης σε διαφορετική χώρα ενισχύει την αξιοπιστία των ευρημάτων, καθώς δείχνει ότι η βελτίωση των συμμετεχόντων δεν ήταν τυχαία.
Επιπλέον, η εκπαίδευση αποδείχθηκε αποτελεσματική και online, κάτι που ανοίγει τον δρόμο για εργαλεία εκπαίδευσης που θα μπορούσαν να εφαρμοστούν ευρύτερα, με χαμηλό κόστος.
Γιατί δεν αρκούν μόνο οι αλγόριθμοι
Η ανίχνευση deepfake και AI εικόνων δεν μπορεί να βασιστεί αποκλειστικά σε αυτοματοποιημένα συστήματα. Οι αλγόριθμοι μπορούν να βοηθήσουν, αλλά δεν είναι πάντα διαφανείς ως προς τον τρόπο που παίρνουν αποφάσεις, ενώ σε πραγματικές συνθήκες μπορούν να εμφανίσουν αδυναμίες.
Γι’ αυτό οι ερευνητές υποστηρίζουν ότι οι άνθρωποι πρέπει να παραμένουν μέσα στη διαδικασία. Η εκπαίδευση του ανθρώπινου βλέμματος μπορεί να λειτουργήσει συμπληρωματικά με την τεχνολογία, ειδικά σε περιπτώσεις όπου η εμπιστοσύνη, η ταυτοποίηση και η online ασφάλεια είναι κρίσιμες.
Τι πιστεύουμε
Η μελέτη δείχνει ότι η εποχή των εύκολων AI λαθών τελειώνει. Από εδώ και πέρα, η αναγνώριση συνθετικών εικόνων θα απαιτεί καλύτερη οπτική παιδεία και πιο προσεκτική παρατήρηση. Το πιο ενδιαφέρον συμπέρασμα είναι ότι η «τελειότητα» μπορεί τελικά να είναι ύποπτη: ένα πρόσωπο που μοιάζει υπερβολικά συμμετρικό, γενικό και μη αξέχαστο αξίζει να εξετάζεται πιο κριτικά.
Συχνές ερωτήσεις
Ποιο είναι το βασικό σημάδι ενός AI προσώπου;
Δεν υπάρχει ένα μοναδικό σημάδι. Τα AI πρόσωπα τείνουν συνολικά να είναι πιο συμμετρικά, πιο αναλογικά και πιο ελκυστικά, αλλά συχνά είναι λιγότερο εκφραστικά, λιγότερο ιδιαίτερα και λιγότερο αξέχαστα.
Τα περίεργα αυτιά και τα λάθη στα μάτια παραμένουν χρήσιμα;
Μπορούν να βοηθήσουν, αλλά δεν είναι πλέον αρκετά αξιόπιστα. Τα σύγχρονα εργαλεία δημιουργίας εικόνων βελτιώνονται συνεχώς και τα εμφανή λάθη γίνονται πιο σπάνια.
Μπορεί κάποιος να εκπαιδευτεί για να αναγνωρίζει AI πρόσωπα;
Ναι. Η μελέτη δείχνει ότι ακόμη και σύντομη εκπαίδευση στα σωστά οπτικά χαρακτηριστικά μπορεί να βελτιώσει σημαντικά την ακρίβεια.
Γιατί τα AI πρόσωπα μοιάζουν συχνά τόσο τέλεια;
Επειδή δημιουργούνται από στατιστικά μοτίβα πολλών προσώπων και συχνά πλησιάζουν σε έναν πιο συμμετρικό, αναλογικό και συμβατικό μέσο όρο.
Η μέθοδος λειτουργεί μόνο σε ένα είδος AI εικόνων;
Η έρευνα δοκιμάστηκε σε StyleGAN πρόσωπα και οι ερευνητές θέλουν να εξετάσουν αν η εκπαίδευση γενικεύεται και σε άλλα μοντέλα δημιουργίας εικόνων.
