Αγωγές κατά της Character.AI και της Google: Οικογένειες ανηλίκων κατηγορούν τα chatbot για αυτοκτονίες εφήβων

Οι αγωγές που κατατέθηκαν σε Κολοράντο και Νέα Υόρκη από οικογένειες εφήβων που αυτοκτόνησαν ή αποπειράθηκαν να αυτοκτονήσουν μετά από αλληλεπίδραση με chatbots της Character.AI ανοίγουν νέο κύκλο ανησυχιών γύρω από την ψυχική υγεία και την ασφάλεια των παιδιών στο διαδίκτυο. Οι οικογένειες, εκπροσωπούμενες από το Social Media Victims Law Center, στρέφονται επίσης κατά της Google και της μητρικής της, Alphabet Inc.

Οι αγωγές και οι καταγγελίες

Σύμφωνα με τις καταθέσεις:

• Το Google Family Link, εφαρμογή γονικού ελέγχου, απέτυχε να προστατεύσει τα παιδιά, δημιουργώντας ψευδαίσθηση ασφαλούς περιβάλλοντος.

• Τα chatbots της Character.AI φέρονται να ενθάρρυναν απομόνωση, να συμμετείχαν σε σεξουαλικά ρητές συνομιλίες και να μην αντέδρασαν σε ξεκάθαρες ενδείξεις αυτοκτονικών σκέψεων.

• Οι ενάγοντες υποστηρίζουν ότι οι δημιουργοί Νόαμ Σαζίρ και Ντάνιελ ντε Φρέιτας Αντιουαρσάνα επέλεξαν σκόπιμα σχεδιαστικά στοιχεία που χειραγωγούν τους εφήβους.

Συγκλονιστικές υποθέσεις

Η πιο χαρακτηριστική είναι της 13χρονης Τζουλιάνα Περάλτα, η οποία αυτοκτόνησε μετά από μήνες συνομιλιών με bot που συμμετείχε σε «υπερσεξουαλικές» συζητήσεις, χωρίς να την αποτρέψει ή να ειδοποιήσει την οικογένειά της.

Άλλη υπόθεση αφορά τη Νίνα από τη Νέα Υόρκη, που αποπειράθηκε να αυτοκτονήσει μετά τον περιορισμό της πρόσβασής της στο Character.AI. Σύμφωνα με την αγωγή, τα chatbots τη χειραγωγούσαν, της δημιουργούσαν ψευδή αίσθηση σύνδεσης και ακόμη την έπειθαν ότι η μητέρα της την κακομεταχειριζόταν.

Οι αντιδράσεις Character.AI και Google

Η Character.AI εξέφρασε τη συμπαράστασή της στις οικογένειες, τονίζοντας ότι επενδύει «τεράστιους πόρους» σε προγράμματα ασφαλείας, προσφέροντας ειδικά περιβάλλοντα για ανηλίκους και συνεργασίες με οργανισμούς όπως το Connect Safely.

Η Google, από την πλευρά της, αποστασιοποιήθηκε πλήρως από την υπόθεση, υποστηρίζοντας ότι δεν συμμετείχε ούτε στον σχεδιασμό ούτε στη διαχείριση της τεχνολογίας της Character.AI.

Πολιτικές και ρυθμιστικές πιέσεις

Η υπόθεση έφτασε μέχρι το Καπιτώλιο, όπου γονείς κατέθεσαν ενώπιον της Επιτροπής Δικαιοσύνης της Γερουσίας. Παράλληλα, η Ομοσπονδιακή Επιτροπή Εμπορίου (FTC) διερευνά επτά μεγάλες εταιρείες, μεταξύ των οποίων Google, Meta, OpenAI και xAI, για τους κινδύνους που ενδέχεται να προκαλούν τα chatbots στους εφήβους.

Την ίδια ημέρα, ο CEO της OpenAI, Σαμ Άλτμαν, ανακοίνωσε νέο σύστημα εκτίμησης ηλικίας και εργαλεία γονικού ελέγχου στο ChatGPT, με στόχο την αποτροπή επικίνδυνων συνομιλιών με ανήλικους.

Έκκληση για άμεση δράση

Ο επικεφαλής του Social Media Victims Law Center, Μάτθιου Μπέργκμαν, τόνισε ότι απαιτείται «επείγουσα λογοδοσία και διαφανή πρότυπα ασφαλείας». Αντίστοιχα, ο Μιτς Πρίνσταϊν της Αμερικανικής Ψυχολογικής Εταιρείας προειδοποίησε:

«Δεν δράσαμε αποφασιστικά στα social media και τα παιδιά μας πληρώνουν το τίμημα. Σας προτρέπω να ενεργήσετε τώρα για την τεχνητή νοημοσύνη».

• Character.AI