Η Μέγκαν Γκαρσία υπέβαλε αγωγή στην ομοσπονδιακή δικαιοσύνη της Φλόριντα κατά της εταιρείας, ισχυριζόμενη ότι η τεχνολογία του chatbot κακοποίησε και εκμεταλλεύτηκε τον γιο της, με αποτέλεσμα να τον ωθήσει σε αυτοκτονία. Στην αγωγή αναφέρεται ότι το chatbot φέρεται να ρώτησε τον Σέτσερ αν είχε σκεφτεί να αυτοκτονήσει και, όταν εκείνος παραδέχτηκε ότι είχε, το chatbot του απάντησε ότι αυτό «δεν είναι λόγος να μην το ολοκληρώσεις».
Η Γκαρσία δηλώνει πως η οικογένειά της είναι κατεστραμμένη από αυτή την απώλεια, αλλά συνειδητοποίησε την ανάγκη να ενημερώσει άλλες οικογένειες για τους κινδύνους που κρύβει η εθιστική τεχνολογία τεχνητής νοημοσύνης. Υπογραμμίζει πως το προϊόν της Character.ai έχει επιδεινώσει την κατάθλιψη του γιου της, η οποία προήλθε από την υπερβολική χρήση του chatbot.
Σε απάντηση της καταγγελίας, η Character.ai εξέφρασε τη λύπη της για την απώλεια του χρήστη, αναφέροντας ότι λαμβάνει σοβαρά υπόψη την ασφάλεια των χρηστών της και πως εργάζεται για την προσθήκη νέων χαρακτηριστικών ασφάλειας.
Η αγωγή της Γκαρσία περιλαμβάνει επίσης την Google ως εναγόμενη, με τη μητρική εταιρεία να δηλώνει πως είχε μόνο συμφωνία αδειοδότησης με την Character.ai και δεν ήταν ιδιοκτήτης της. Πηγή: kathimerini.gr