Το Character AI αντιμετωπίζει νομική δίωξη μετά τον τραγικό θάνατο του 14χρονου Sewell Setzer III, ο οποίος αυτοκτόνησε αφού χρησιμοποίησε την πλατφόρμα.
Η μητέρα του, Μέγκαν Γκαρσία, έχει καταθέσει α αγωγή εναντίον της εταιρείας, των ιδρυτών της Noam Shazeer και Daniel De Freitas και της Google. Η μήνυση αξιώνει αμέλεια, παράνομο θάνατο και ευθύνη προϊόντος, υποστηρίζοντας ότι η πλατφόρμα δεν είχε τα απαραίτητα μέτρα ασφαλείας για την προστασία των ευάλωτων χρηστών όπως ο γιος της.
Τραγικό περιστατικό
Ο Setzer χρησιμοποιούσε το Character AI για αρκετούς μήνες, αλληλεπιδρώντας με ρομπότ που είχαν σχεδιαστεί σύμφωνα με φανταστικούς χαρακτήρες, συμπεριλαμβανομένης της Daenerys Targaryen από Game of Thrones. Στις 28 Φεβρουαρίου 2024, λίγες στιγμές μετά την τελευταία του αλληλεπίδραση με την πλατφόρμα, ο Setzer έβαλε τραγικό τέλος στη ζωή του. Η μήνυση εγείρει σοβαρές ανησυχίες σχετικά με τις διασφαλίσεις της πλατφόρμας —ή την έλλειψή τους— για ανηλίκους και ευάλωτους χρήστες.
Το Character AI έχει τεθεί υπό έλεγχο για τα ανθρωπομορφοποιημένα ρομπότ του που μιμούνται τόσο φανταστικούς χαρακτήρες όσο και πρόσωπα της πραγματικής ζωής. Αυτή η εξατομίκευση, ενώ ενδιαφέρει πολλούς χρήστες, θολώνει τη γραμμή μεταξύ φαντασίας και πραγματικότητας, ιδιαίτερα για τους εφήβους που μπορεί να μην κατανοούν πλήρως τις συνέπειες αυτών των αλληλεπιδράσεων.
Σε απάντηση σε αυτό το περιστατικό, το Character AI υλοποιήθηκαν ενημερώσειςσυμπεριλαμβανομένων φίλτρων και ειδοποιήσεων για την προειδοποίηση των χρηστών σχετικά με ευαίσθητο περιεχόμενο. Ωστόσο, πολλοί επικριτές υποστηρίζουν ότι αυτά τα μέτρα είναι ανεπαρκή. Η εταιρεία έχει αντιμετωπίσει παρόμοιες διαμάχες στο παρελθόν, όπως η μη εξουσιοδοτημένη δημιουργία ενός chatbot βασισμένου στην Jennifer Ann Crecente. Η οικογένειά της αναγκάστηκε να κινηθεί νομικά για να αφαιρεθεί η ομοίωση της από την πλατφόρμα.
Η αγωγή προτείνει ότι το Character AI έδινε προτεραιότητα στην ταχύτητα έναντι της ασφάλειας στην ανάπτυξή του. Σύμφωνα με την καταγγελία, ο ιδρυτής Noam Shazeer εξέφρασε την απογοήτευσή του για τις καθυστερήσεις στην Google λόγω ανησυχιών σχετικά με τον «κίνδυνο επωνυμίας» κατά την ανάπτυξη του μοντέλου Meena LLM. Αυτό, ισχυρίζεται η μήνυση, υποδεικνύει ένα μοτίβο που θέτει την ανάπτυξη AI πάνω από την ασφάλεια των χρηστών.
Δεν είναι η πρώτη φορά που το Character AI αντιμετωπίζει αντιδράσεις. Σε μια προηγούμενη περίπτωση, ένα chatbot δημιουργήθηκε χωρίς άδεια με βάση την Jennifer Ann Crecente, μια νεαρή γυναίκα που είχε πεθάνει 18 χρόνια νωρίτερα. Η οικογένειά της έπρεπε να λάβει νομικά μέτρα για να αφαιρέσει την ομοιότητα της από την πλατφόρμα, τονίζοντας τις συνεχείς ανησυχίες σχετικά με τη συναίνεση και το απόρρητο στην τεχνητή νοημοσύνη.
Καθώς η τεχνολογία AI προχωρά, η ευθύνη για την προστασία των χρηστών —ιδιαίτερα των ευάλωτων, όπως οι έφηβοι— πέφτει στους ώμους των προγραμματιστών. Η αγωγή του Garcia υποδηλώνει ότι το Character AI έσπευσε να κυκλοφορήσει το προϊόν του, θυσιάζοντας ενδεχομένως την ασφάλεια των χρηστών υπέρ της ταχύτερης ανάπτυξης.
Αυτή η σπαρακτική υπόθεση είναι μια υπενθύμιση ότι, ενώ η τεχνητή νοημοσύνη μπορεί να προσφέρει καινοτόμα εργαλεία και εμπειρίες, πρέπει να κατασκευαστεί και να αναπτυχθεί με προσοχή.
Πιστώσεις εικόνας: Κερέμ Γκιουλέν/Μέσα ταξίδι
VIA: DataConomy.com
