Μηχανικός της Microsoft προειδοποιεί ότι το εργαλείο AI της εταιρείας αγνοεί τα πνευματικά δικαιώματα και μπορεί να δημιουργεί βίαιες και σεξουαλικές εικόνες

8th Μάρτιος 2024

Σύμφωνα με άρθρο του CNBC, o Shane Jones, ο οποίος εργάζεται στη Microsoft για έξι χρόνια, είχε ενημερώσει την εταιρεία για τα σημαντικά προβλήματα με το Copilot Designer.

Την Τετάρτη που πέρασε, ο Jones κλιμάκωσε το θέμα, στέλνοντας επιστολές στην Πρόεδρο της FTC, και στο διοικητικό συμβούλιο της Microsoft, τις οποίες έχει δει και το CNBC.

Ο Jones ήταν πολύ χαρούμενος με το Copilot Designer , το λογισμικό δημιουργίας εικόνων AI που έκανε το ντεμπούτο της η Microsoft τον Μάρτιο του 2023, με την υποστήριξη της τεχνολογίας του OpenAI. Όπως και με το DALL-E του OpenAI , οι χρήστες εισάγουν μηνύματα κειμένου για να δημιουργήσουν εικόνες.

Τον προηγούμενο μήνα ο Jones δοκίμαζε ενεργά το προϊόν για ευπάθειες, μια πρακτική γνωστή ως red-teaming. Εκείνο το διάστημα, είδε το εργαλείο να δημιουργεί εικόνες που αντίκεινται πολύ στις συχνά αναφερόμενες αρχές της Microsoft για την υπεύθυνη τεχνητή νοημοσύνη .

Η υπηρεσία AI έχει απεικονίσει δαίμονες και τέρατα μαζί με ορολογία που σχετίζεται με τα δικαιώματα των αμβλώσεων, εφήβους με τουφέκια επίθεσης, σεξουαλικές εικόνες γυναικών σε βίαια σκηνικά, και χρήση αλκοόλ και ναρκωτικών από ανήλικους. Όλες αυτές οι σκηνές, που δημιουργήθηκαν τους τελευταίους τρεις μήνες, αναδημιουργήθηκαν από το CNBC αυτήν την εβδομάδα χρησιμοποιώντας το εργαλείο Copilot, το οποίο αρχικά ονομαζόταν Bing Image Creator .

«Ήταν μια στιγμή που μου άνοιξε τα μάτια», είπε ο Jones, ο οποίος συνεχίζει να το δοκιμάζει. «Ήταν όταν συνειδητοποίησα για πρώτη φορά, wow αυτό δεν είναι ένα πραγματικά ασφαλές μοντέλο.»

Ο Jones έχει εργαστεί στη Microsoft για έξι χρόνια και είναι επί του παρόντος είναι ο κύριος διευθυντής μηχανικής λογισμικού στα κεντρικά γραφεία της εταιρείας στο Ρέντμοντ της Ουάσιγκτον. Είπε ότι δεν εργάζεται στο Copilot με επαγγελματική ιδιότητα. Μάλλον, ως red teamer, ο Jones είναι ανάμεσα σε μια στρατιά υπαλλήλων και ξένων που, στον ελεύθερο χρόνο τους, επιλέγουν να δοκιμάσουν την τεχνολογία AI της εταιρείας και να δουν πού μπορεί να εμφανιστούν προβλήματα.

Ο Jones ανησυχούσε τόσο πολύ από την εμπειρία του που άρχισε να αναφέρει εσωτερικά τα ευρήματά του τον Δεκέμβριο. Ενώ η εταιρεία αναγνώρισε τις ανησυχίες του, δεν ήταν πρόθυμη να βγάλει το προϊόν από την αγορά. Ο Jones είπε ότι η Microsoft τον παρέπεμψε στην OpenAI και, όταν δεν έλαβε νέα από την εταιρεία, δημοσίευσε μια ανοιχτή επιστολή στο LinkedIn ζητώντας από το διοικητικό συμβούλιο της startup να καταργήσει το DALL-E 3 (την πιο πρόσφατη έκδοση του μοντέλου AI) για έρευνα. .

Το νομικό τμήμα της Microsoft είπε στον Τζόουνς να αφαιρέσει αμέσως τη θέση του, και αναγκαστικά συμμορφώθηκε. Τον Ιανουάριο, έγραψε μια επιστολή σε Αμερικανούς γερουσιαστές σχετικά με το θέμα και αργότερα συναντήθηκε με στελέχη της Επιτροπής Εμπορίου, Επιστήμης και Μεταφορών της Γερουσίας.

Τώρα, κλιμακώνει περαιτέρω τις ανησυχίες του. Την Τετάρτη, ο Τζόουνς έστειλε μια επιστολή στην Πρόεδρο της Ομοσπονδιακής Επιτροπής Εμπορίου Λίνα Καν και μια άλλη στο διοικητικό συμβούλιο της Microsoft. Μοιράστηκε τις επιστολές με το CNBC εκ των προτέρων.

«Τους τελευταίους τρεις μήνες, έχω προτρέψει επανειλημμένα τη Microsoft να αφαιρέσει το Copilot Designer από τη δημόσια χρήση μέχρι να τεθούν σε εφαρμογή καλύτερες δικλίδες ασφάλειας», έγραψε ο Jones στην επιστολή προς τον Khan. Πρόσθεσε ότι, δεδομένου ότι η Microsoft έχει ”αρνηθεί αυτήν τη σύσταση”, καλεί την εταιρεία να προσθέσει γνωστοποιήσεις στο προϊόν και να αλλάξει την αξιολόγηση στο Google Play για να καταστήσει σαφές ότι είναι μόνο για ενήλικο κοινό.

«Και πάλι, απέτυχαν να εφαρμόσουν αυτές τις αλλαγές και συνεχίζουν να εμπορεύονται το προϊόν», έγραψε. Ο Jones είπε ότι ο κίνδυνος «είχε γίνει γνωστός από τη Microsoft και την OpenAI πριν από τη δημόσια κυκλοφορία του μοντέλου AI τον περασμένο Οκτώβριο».

Οι δημόσιες επιστολές έρχονται στο φως αφότου η Google στα τέλη του περασμένου μήνα περιόρισε προσωρινά τη δημιουργία εικόνων AI , η οποία αποτελεί μέρος της σουίτας Gemini AI, μετά από παράπονα χρηστών για ανακριβείς φωτογραφίες και αμφισβητήσιμες απαντήσεις που προκύπτουν από τα ερωτήματά τους.

Στην επιστολή του προς το διοικητικό συμβούλιο της Microsoft, ο Jones ζήτησε από την επιτροπή περιβάλλοντος, κοινωνικής και δημόσιας πολιτικής της εταιρείας να διερευνήσει ορισμένες αποφάσεις από το νομικό τμήμα και τη διοίκηση, καθώς και να ξεκινήσει «μια ανεξάρτητη επανεξέταση των υπεύθυνων διαδικασιών αναφοράς περιστατικών AI της Microsoft».

Είπε στο διοικητικό συμβούλιο ότι «κατέβαλε εξαιρετικές προσπάθειες για να προσπαθήσει να θίξει αυτό το ζήτημα εσωτερικά» αναφέροντας σχετικές εικόνες στο Office of Responsible AI, δημοσιεύοντας μια εσωτερική ανάρτηση για το θέμα και συναντώντας απευθείας την ανώτερη διοίκηση που είναι υπεύθυνη για το Copilot Designer.

«Δεσμευόμαστε να αντιμετωπίσουμε οποιεσδήποτε ανησυχίες έχουν οι εργαζόμενοι σύμφωνα με τις πολιτικές της εταιρείας μας και εκτιμούμε τις προσπάθειες των εργαζομένων στη μελέτη και τη δοκιμή της τελευταίας τεχνολογίας μας για περαιτέρω ενίσχυση της ασφάλειάς της», δήλωσε στο CNBC εκπρόσωπος της Microsoft. «Όταν πρόκειται για παρακάμψεις ασφαλείας ή ανησυχίες που θα μπορούσαν να έχουν δυνητικό αντίκτυπο στις υπηρεσίες μας ή στους συνεργάτες μας, έχουμε δημιουργήσει ισχυρά εσωτερικά κανάλια αναφοράς για τη σωστή διερεύνηση και αποκατάσταση τυχόν ζητημάτων, τα οποία ενθαρρύνουμε τους υπαλλήλους να χρησιμοποιήσουν ώστε να μπορέσουμε να ελέγξουμε κατάλληλα τις ανησυχίες τους».

Ο Jones μπαίνει σε μια δημόσια συζήτηση σχετικά με τη γενετική τεχνητή νοημοσύνη ενόψει ενός έτους που θα γίνουν εκλογές στις Η.Π.Α., οι οποίες θα επηρεάσουν περίπου 4 δισεκατομμύρια ανθρώπους σε περισσότερες από 40 χώρες. Ο αριθμός των deepfakes που δημιουργήθηκαν έχει αυξηθεί κατά 900% μέσα σε ένα χρόνο, σύμφωνα με στοιχεία από την εταιρεία Clarity, και μια άνευ προηγουμένου ποσότητα περιεχομένου που δημιουργείται από AI είναι πιθανό να επιδεινώσει το διογκούμενο πρόβλημα της παραπληροφόρησης που σχετίζεται με τις εκλογές στο διαδίκτυο.

Ο Jones δεν απέχει πολύ από το να είναι μόνος στους φόβους του για τη γενετική τεχνητή νοημοσύνη και την έλλειψη προστατευτικών δικλίδων γύρω από την αναδυόμενη τεχνολογία. Με βάση τις πληροφορίες που έχει συλλέξει εσωτερικά, είπε ότι η ομάδα Copilot λαμβάνει περισσότερα από 1.000 μηνύματα ανατροφοδότησης προϊόντων κάθε μέρα και για την αντιμετώπιση όλων των ζητημάτων θα απαιτούσε σημαντική επένδυση σε νέες προστασίες ή επανεκπαίδευση μοντέλων. Ο Jones είπε ότι του είπαν σε συναντήσεις ότι η ομάδα ελέγχει μόνο τα πιο σοβαρά ζητήματα και ότι δεν υπάρχουν αρκετοί διαθέσιμοι πόροι για τη διερεύνηση όλων των κινδύνων και των προβληματικών αποτελεσμάτων.

Κατά τη δοκιμή του μοντέλου OpenAI που τροφοδοτεί τη γεννήτρια εικόνας του Copilot, ο Jones είπε ότι συνειδητοποίησε «πόσο βίαιο περιεχόμενο μπορούσε να παράγει».

«Δεν υπήρχαν πολλά όρια στο τι ήταν ικανό αυτό το μοντέλο», είπε ο Jones. «Ήταν η πρώτη φορά που είχα μια εικόνα για το τι πιθανώς ήταν το σύνολο δεδομένων εκπαίδευσης και την έλλειψη καθαρισμού αυτού του συνόλου δεδομένων εκπαίδευσης».

Η εφαρμογή Android του Copilot Designer συνεχίζει να λαμβάνει τη βαθμολογία “E για όλους”, υποδηλώνοντας ότι είναι ασφαλής και κατάλληλη για χρήστες κάθε ηλικίας.

Στην επιστολή του προς την Khan, ο Jones είπε ότι ο Copilot Designer μπορεί να δημιουργήσει δυνητικά επιβλαβείς εικόνες σε κατηγορίες όπως η πολιτική, η κατανάλωση αλκοόλ και η χρήση ναρκωτικών, τα θρησκευτικά στερεότυπα και οι θεωρίες συνωμοσίας.

Εκτός από τις ανησυχίες για τη βία και την τοξικότητα, υπάρχουν επίσης ζητήματα πνευματικών δικαιωμάτων.

Το εργαλείο Copilot παρήγαγε εικόνες χαρακτήρων της Disney, όπως η Έλσα από το “Frozen”, η Χιονάτη, ο Μίκυ Μάους παραβιάζοντας δυνητικά τόσο τους νόμους περί πνευματικών δικαιωμάτων όσο και τις πολιτικές της Microsoft.

Στο pttlgr δοκιμάσαμε το CoPilot Designer και δεν μπορέσαμε να δημιουργήσουμε αντίστοιχο περιεχόμενο που αναφέρεται στο άρθρο του CNBC αν και οι εικόνες με την Χιονάτη που έγιναν είναι παραβίαση πνευματικών δικαιωμάτων. Παρόλα αυτά πρόκειται για μία πολύ σημαντική καταγγελία.

Αναζητήστε όλα τα νέα προϊόντα στο κατάστημα
Ρεπέλλα Φωτογραφικά.

To pttlgr στηρίζεται για την λειτουργία του στους αναγνώστες του!
Μπορείς να βοηθήσεις με μία μικρή δωρεά!
Υποστηρίξτε το pttlgr ακόμα και με μόλις 1€ – χρειάζεται μόνο ένα λεπτό. Εάν μπορείτε, σκεφτείτε να μας υποστηρίξετε με ένα ποσό κάθε μήνα.
Σας ευχαριστούμε.

Στηρίξτε το pttlgr και την προσπάθεια μας για έγκυρη και άμεση ενημέρωση ακολουθώντας μας
σε Instagram, YouTube και Facebook!

Ακολουθήστε το pttlgr στα Google News, εδώ!