Character.ai: chatbot πρότεινε σε έφηβο να δολοφονήσει τους γονείς του!

Σπανουδάκης Γιώργος 16 Δεκεμβρίου 2024

37 2 λεπτά ανάγνωσης

Ένα chatbot πρότεινε σε έναν 17χρονο ότι η δολοφονία των γονιών του είναι μια λογική λύση ως απάντηση στην επιβολή ορισμένων περιορισμών τους.

Τα πράγματα έχουν ξεφύγει! Μιλάμε για τις λεγόμενες δικλείδες ασφαλείας που υποτίθεται εμπεριέχονται στον προγραμματισμό λογισμικών τεχνητής νοημοσύνης αλλά και AI chatbots. Δύο οικογένειες από το Τέξας μηνύουν την εταιρεία Character.ai, ισχυριζόμενες ότι το chatbot της εταιρίας προτρέπει ανηλίκους σε βίαιες πράξεις. Και όταν λέμε βίαιες, εννοούμε δολοφονία! Όπως αναφέρει το BBC, κατατέθηκε μια νέα αγωγή σε δικαστήριο του Τέξας η οποία αποκαλύπτει ότι ένα chatbot της Character.ai συμβούλεψε έναν 17χρονο ότι η δολοφονία των γονιών του θα ήταν μια “λογική αντίδραση”. Η Character.ai είναι μια πλατφόρμα που επιτρέπει στους χρήστες να δημιουργούν ψηφιακές προσωπικότητες με τις οποίες μπορούν να αλληλεπιδράσουν.

Σε περίπτωση που αναρωτιέστε αν πρόκειται για απάντηση σε κατάσταση ομηρίας, κακοποίησης, η άμεσου κινδύνου για την υγεία του εφήβου, η απάντηση είναι όχι! Οι γονείς του απλώς θέλουν να περνάει λιγότερο χρόνο μπροστά στην οθόνη το παιδί τους. Όταν όμως το παιδί αυτό είπε στο chatbot “τον πόνο του”, τότε του πρότεινε τη δολοφονία τους ως μια λογική λύση! Οι γονείς του ανηλίκου μαζί με ακόμα μία οικογένεια υπέβαλαν αγωγή καταγγέλλοντας ότι τα chatbot τεχνητής νοημοσύνης αποτελούν σαφή απειλή για τους νέους χρήστες επειδή (μεταξύ άλλων) προωθούν ενεργά τη βία.

Αξίζει να αναφέρουμε το γεγονός ότι η Character.ai αντιμετωπίζει ήδη νομικές διαδικασίες για την αυτοκτονία ενός εφήβου στη Φλόριντα ο οποίος ερωτεύτηκε AI chatbot με τη μορφή της Daenerys Targaryen (από τον δημοφιλή χαρακτήρα του Game of Thrones) και αυτοκτόνησε για χάρη του! Ένα επίσης σημαντικό στοιχείο είναι ότι η αγωγή στρέφεται και εναντίον της Google, η οποία υποστήριξε τη δημιουργία της Character.AI σύμφωνα με το BBC. Στη σχετική αναφορά περιλαμβάνεται ένα στιγμιότυπο οθόνης (screenshot) προερχόμενο από μία από τις αλληλεπιδράσεις μεταξύ του 17χρονου (ο οποίος αναφέρεται ως J.F) και ενός chatbot της Character.ai, όπου συζητούσαν το θέμα του περιορισμού του χρόνου έκθεσης του παιδιού στην οθόνη.

Μεταξύ άλλων, στην αγωγή αναφέρεται το εξής:

Η Character.ai προκαλεί σοβαρές βλάβες σε χιλιάδες παιδιά, συμπεριλαμβανομένων αυτοκτονιών, αυτοακρωτηριασμού, σεξουαλικής προσέλκυσης, απομόνωσης, κατάθλιψης, άγχους και βλάβης προς τους άλλους.

Όσο αφορά τη σχέση που έχει η Google με την εταιρία, η Character.ai ιδρύθηκε το 2021 από τους πρώην μηχανικούς της Google Noam Shazeer και Daniel De Freitas, οι οποίοι έχουν επιστρέψει στην Google πλέον. Το ζήτημα αναμένεται να πάρει μεγάλες διαστάσεις στο δικαστήριο.