Νέο εργαλείο από την OpenAI αποκαλύπτει αν μια εικόνα φτιάχτηκε με τεχνητή νοημοσύνη

Σύνοψη

• Η OpenAI ανακοίνωσε πολυεπίπεδη στρατηγική για την προέλευση περιεχομένου
• Γίνεται C2PA Conforming Generator Product για καλύτερη διατήρηση μεταδεδομένων
• Προσθέτει το αόρατο υδατογράφημα SynthID της Google στις εικόνες
• Η εφαρμογή ξεκινά για εικόνες από ChatGPT, Codex και OpenAI API
• Παρουσιάζει δημόσιο εργαλείο επαλήθευσης εικόνων σε προεπισκόπηση
• Το εργαλείο ελέγχει Content Credentials και SynthID
• Δεν βγάζει οριστικό αρνητικό συμπέρασμα όταν δεν βρίσκει σήματα
• Στην αρχή αφορά μόνο περιεχόμενο της OpenAI, με στόχο μελλοντική διαλειτουργικότητα

Η OpenAI ανακοίνωσε νέα βήματα για να γίνεται πιο εύκολη η αναγνώριση και η επαλήθευση περιεχομένου που δημιουργείται ή επεξεργάζεται με τα εργαλεία της.

Η κίνηση αφορά κυρίως εικόνες και στοχεύει στο να δίνει σε πλατφόρμες, δημοσιογράφους και χρήστες περισσότερα στοιχεία για το από πού προέρχεται ένα αρχείο, πώς δημιουργήθηκε ή αν έχει υποστεί επεξεργασία με εργαλεία τεχνητής νοημοσύνης.

Η σημασία της ανακοίνωσης είναι πρακτική αλλά και ευρύτερη. Όσο οι εικόνες και τα ηχητικά αρχεία που παράγονται με τεχνητή νοημοσύνη γίνονται μέρος της καθημερινής επικοινωνίας, τόσο μεγαλύτερη γίνεται η ανάγκη να υπάρχει ένας αξιόπιστος τρόπος αναγνώρισης της προέλευσής τους και του πλαισίου μέσα στο οποίο δημιουργήθηκαν.

Τι αλλάζει με την προέλευση περιεχομένου

Η OpenAI περιγράφει μια πολυεπίπεδη προσέγγιση για την προέλευση περιεχομένου, με στόχο τα σχετικά σήματα να επιβιώνουν όσο το δυνατόν περισσότερο όταν τα αρχεία μεταφέρονται από πλατφόρμα σε πλατφόρμα, γίνονται λήψη και επανανέβασμα ή αλλάζουν μορφή.

Στο πλαίσιο αυτό, η εταιρεία προχωρά σε τρεις βασικές κινήσεις: κάνει τα σήματα προέλευσης πιο εύκολα αναγνώσιμα από άλλες πλατφόρμες μέσω συμμόρφωσης με το πρότυπο C2PA, προσθέτει υδατογράφημα SynthID της Google σε εικόνες και παρουσιάζει σε προεπισκόπηση ένα δημόσιο εργαλείο επαλήθευσης για εικόνες που προέρχονται από τα συστήματά της.

Τι είναι το C2PA και γιατί έχει σημασία

Η OpenAI υπενθυμίζει ότι ασχολείται με τα πρότυπα προέλευσης από το 2024, όταν άρχισε να προσθέτει Content Credentials στις εικόνες του DALL·E 3 και αργότερα στα ImageGen και Sora. Παράλληλα, συμμετέχει και στην επιτροπή καθοδήγησης του Coalition for Content Provenance and Authenticity, του διακλαδικού οργανισμού πίσω από το ανοικτό τεχνικό πρότυπο C2PA.

Η τεχνική λογική του C2PA βασίζεται σε μεταδεδομένα και κρυπτογραφικές υπογραφές, ώστε οι πληροφορίες για ένα αρχείο να το συνοδεύουν με ασφαλή τρόπο. Αυτές οι πληροφορίες μπορούν να δείχνουν από πού προήλθε ένα μέσο, πώς δημιουργήθηκε ή τροποποιήθηκε και ποιος υπέγραψε τα σχετικά στοιχεία.

Η OpenAI αναφέρει ότι πλέον αποτελεί C2PA Conforming Generator Product. Στην πράξη, αυτό σημαίνει ότι άλλες πλατφόρμες έχουν έναν πιο αξιόπιστο τρόπο να διαβάζουν, να διατηρούν και να μεταφέρουν τα στοιχεία προέλευσης που συνοδεύουν το περιεχόμενο της OpenAI. Για την εταιρεία, αυτό είναι κρίσιμο, επειδή η προέλευση έχει νόημα μόνο αν δεν χάνεται αμέσως μετά την πρώτη δημοσίευση ή κοινοποίηση.

Γιατί δεν αρκούν μόνο τα μεταδεδομένα

Παρότι τα μεταδεδομένα αποτελούν βασική υποδομή για την προέλευση περιεχομένου, η OpenAI τονίζει ότι δεν είναι αλάνθαστα. Μπορούν να αφαιρεθούν, να χαθούν κατά τη μεταφόρτωση και λήψη ή να καταστραφούν όταν ένα αρχείο αλλάζει μορφή, γίνεται σμίκρυνση ή ακόμη και όταν κάποιος μοιράζεται ένα στιγμιότυπο οθόνης.

Αυτός είναι και ο λόγος που η νέα στρατηγική δεν στηρίζεται μόνο σε ένα σύστημα. Η εταιρεία επιδιώκει να συνδυάσει μεταδεδομένα, υδατογράφηση και δυνατότητα επαλήθευσης, ώστε κάθε επίπεδο να καλύπτει τα κενά του άλλου.

Έρχεται το SynthID της Google στις εικόνες

Η δεύτερη βασική προσθήκη είναι το SynthID της Google DeepMind, ένα αόρατο υδατογράφημα που ενσωματώνεται στο επίπεδο των εικονοστοιχείων και λειτουργεί συμπληρωματικά προς τα μεταδεδομένα.

Η OpenAI αναφέρει ότι η εφαρμογή του ξεκινά για εικόνες που δημιουργούνται μέσω ChatGPT, Codex ή του OpenAI API. Με αυτόν τον τρόπο, ακόμη και αν τα μεταδεδομένα χαθούν στην πορεία, μπορεί να παραμένει ένα επιπλέον σήμα μέσα στην ίδια την εικόνα.

Η εταιρεία σημειώνει ότι είχε ήδη κινηθεί προς αυτή την κατεύθυνση, χρησιμοποιώντας ορατά υδατογραφήματα στο Sora και υδατογράφημα ήχου στο Voice Engine, ενώ συνέχιζε να δοκιμάζει την ακρίβεια και την αξιοπιστία αυτών των μεθόδων στην πράξη.

Γιατί η OpenAI μιλά για πολυεπίπεδη λύση

Κατά την OpenAI, τα δύο συστήματα καλύπτουν διαφορετικές ανάγκες. Το C2PA μεταφέρει πιο πλούσιο πλαίσιο, επειδή περιλαμβάνει πληροφορίες για την προέλευση, τη δημιουργία ή την επεξεργασία και τον φορέα που υπέγραψε αυτά τα δεδομένα. Το SynthID, από την άλλη, βοηθά όταν αυτά τα στοιχεία δεν επιβιώνουν, επειδή το υδατογράφημα μπορεί να είναι πιο ανθεκτικό σε μετασχηματισμούς, όπως τα στιγμιότυπα οθόνης.

Με απλά λόγια, το μεταδεδομένο μπορεί να πει περισσότερα, αλλά το υδατογράφημα μπορεί να αντέξει περισσότερο σε ορισμένες περιπτώσεις. Η εταιρεία θεωρεί ότι ο συνδυασμός τους είναι πιο ανθεκτικός από κάθε μεμονωμένη τεχνική.

Δημόσιο εργαλείο επαλήθευσης εικόνων σε προεπισκόπηση

Το τρίτο σκέλος της ανακοίνωσης είναι ένα δημόσιο εργαλείο επαλήθευσης που βρίσκεται σε φάση προεπισκόπησης. Στόχος του είναι να βοηθά τον χρήστη να ελέγχει αν μια ανεβασμένη εικόνα έχει δημιουργηθεί από το ChatGPT, το OpenAI API ή το Codex.

Ο έλεγχος αυτός γίνεται αναζητώντας σήματα προέλευσης, όπως Content Credentials και SynthID. Η OpenAI σημειώνει ότι το εργαλείο βασίζεται και στην εμπειρία που αποκόμισε από την αρχική ερευνητική προεπισκόπηση του ταξινομητή ανίχνευσης εικόνων που είχε παρουσιάσει το 2024.

Σύμφωνα με την εταιρεία, το εργαλείο μπορεί να βοηθήσει το κοινό να απαντά πιο εύκολα στο ερώτημα αν μια εικόνα έχει παραχθεί με τεχνητή νοημοσύνη, συνδυάζοντας περισσότερα από ένα σήματα.

Θα βρεις το εργαλείο εδώ.

Τι γίνεται όταν δεν εντοπίζεται τίποτα

Η OpenAI ξεκαθαρίζει ότι καμία μέθοδος ανίχνευσης δεν είναι αλάνθαστη. Για αυτό και υιοθετεί προσεκτική στάση όταν ένα αρχείο δεν εμφανίζει μεταδεδομένα ή υδατογράφημα.

Σε τέτοιες περιπτώσεις, το εργαλείο δεν πρόκειται να βγάζει οριστικό συμπέρασμα ότι μια εικόνα δεν προέρχεται από τα συστήματα της εταιρείας. Ο λόγος είναι ότι τα σχετικά σήματα μπορεί να έχουν αφαιρεθεί ή καταστραφεί στη διαδρομή.

Πού περιορίζεται σήμερα και τι έρχεται μετά

Στην αρχική του μορφή, το εργαλείο περιορίζεται σε περιεχόμενο που έχει δημιουργηθεί από την OpenAI. Η εταιρεία όμως δηλώνει ότι τους επόμενους μήνες θέλει να στηρίξει ευρύτερες προσπάθειες του κλάδου, ώστε η επαλήθευση να γίνει διαλειτουργική και μεταξύ διαφορετικών πλατφορμών.

Παράλληλα, αφήνει ανοιχτό το ενδεχόμενο να προστεθούν μελλοντικά και άλλα είδη περιεχομένου, πέρα από τις εικόνες, καθώς οι χρήστες συναντούν όλο και περισσότερα μορφότυπα περιεχομένου στο διαδίκτυο.

Τι πιστεύουμε

Η OpenAI δεν υπόσχεται μια τέλεια λύση και σωστά αποφεύγει τα απόλυτα συμπεράσματα. Το σημαντικό εδώ είναι ότι επιχειρεί να χτίσει ένα πιο ρεαλιστικό σύστημα εμπιστοσύνης, όπου μεταδεδομένα, υδατογράφημα και εργαλεία επαλήθευσης συνεργάζονται αντί να βασίζονται σε μία μόνο τεχνική. Αν αυτή η λογική περάσει και σε άλλες πλατφόρμες, τότε η αναγνώριση περιεχομένου τεχνητής νοημοσύνης μπορεί να γίνει πιο χρήσιμη στην πράξη και όχι απλώς θεωρητική.