Βασισμένο σε μια ιστορία που διαβάσαμε TechBrieflyείναι δύσκολο να αντισταθείς στην επιθυμία να τρυπήσεις τοίχους με θυμό.
Η οικογένεια της Jennifer Ann Crecente, μιας 18χρονης που δολοφονήθηκε πριν από σχεδόν δύο δεκαετίες, πρόσφατα ανακάλυψε ότι η φωτογραφία της χρησιμοποιείται χωρίς τη συγκατάθεσή τους από μια πλατφόρμα chatbot AI. Το όνομα και η εικόνα της Jennifer βρέθηκαν στο Character.ai, μια υπηρεσία που επιτρέπει στους χρήστες να αλληλεπιδρούν με προσωπικότητες που δημιουργούνται από AI. Ποτέ δεν ζητήθηκε η γνώμη της οικογένειας ή δεν ενημερώθηκε για τη χρήση της ταυτότητας της Τζένιφερ, αφήνοντάς την τρομοκρατημένη και συντετριμμένη από αυτή τη χοντρή κατάχρηση.
Μετά την ανακάλυψη, ο θείος της Jennifer πήγε στα μέσα κοινωνικής δικτύωσης για να αποκαλύψει το περιστατικό και έκανε μια έντονη δήλωση στο blog του, Padandpixel.
Αυτό είναι αηδιαστικό: @character_ai χρησιμοποιεί τη δολοφονημένη ανιψιά μου ως πρόσωπο ενός βιντεοπαιχνιδιού AI χωρίς την άδεια του μπαμπά της. Είναι πολύ στενοχωρημένος αυτή τη στιγμή. Δεν μπορώ να φανταστώ τι περνάει.
Βοηθήστε μας να σταματήσουμε αυτού του είδους την τρομερή πρακτική. https://t.co/y3gvAYyHVY
— Brian Crecente (@crecenteb) 2 Οκτωβρίου 2024
Μόνο μετά από δημόσια κατακραυγή η πλατφόρμα αφαίρεσε το bot.
Το σοκ που είδα το πρόσωπο και το όνομα της Τζένιφερ να χρησιμοποιούνται χωρίς άδεια άνοιξε ξανά παλιές πληγές για την οικογένεια. Η Crecente περιέγραψε το αρχικό πένθος μετά τον θάνατό της ως μια «σχεδόν εξωσωματική εμπειρία», προσθέτοντας: «Η ψυχή μου ένιωσα να ξεριζώθηκε από το σώμα μου. Έζησα τη ζωή σαστισμένη για λίγο, σαν να ήμουν είδος αποκολλημένος από το σώμα μουαπό τον κόσμο.” Ενώ η οικογένεια είχε εργαστεί ακούραστα για να τιμήσει τη μνήμη της Jennifer μέσω της μη κερδοσκοπικής εργασίας και της εκπαίδευσης, αυτή η μη εξουσιοδοτημένη χρήση της ταυτότητάς της φαινόταν σαν μια σκληρή παραβίαση.
«Αισθάνεται σαν να μας την έκλεψαν ξανά», έγραψε η Crecente, τονίζοντας τον καταστροφικό αντίκτυπο της απρόσεκτης χρήσης προσωπικών ταυτοτήτων από την τεχνητή νοημοσύνη. Παρά τις προσπάθειές τους να αφαιρέσουν το chatbot, η ζημιά έγινε. Ο Crecente έθεσε μια πιεστική ερώτηση: «Γιατί είναι στο χέρι μας να είμαστε ανθεκτικοί; Γιατί οι εταιρείες πολλών δισεκατομμυρίων δολαρίων δεν μπαίνουν στον κόπο να δημιουργήσουν ηθικές, κατευθυντήριες αρχές και λειτουργικά προστατευτικά κιγκλιδώματα για να μην συμβεί ποτέ κάτι τέτοιο;».
Σοβαρά, γιατί οι εταιρείες πολλών δισεκατομμυρίων δολαρίων δεν μπαίνουν στον κόπο να δημιουργήσουν ηθικές, κατευθυντήριες αρχές και λειτουργικά προστατευτικά κιγκλιδώματα για να μην συμβεί ποτέ κάτι τέτοιο;
Ξέρουμε ότι υπάρχουν κακοί άνθρωποι. Οι άνθρωποι είναι, από τη φύση τους, συνήθως ικανοί για κακές πράξεις. Αλλά εκείνοι που κατέχουν την εξουσία – ειδικά εκείνοι με τεράστια τεχνολογική επιρροή – φέρουν επίσης την ευθύνη να θέσουν όρια και να δημιουργήσουν πλαίσια που εμποδίζουν την κακία.
Η απάντηση βρίσκεται στη διασταύρωση της τεχνολογικής προόδου, των εταιρικών κινήτρων και της καταφανούς απουσίας ολοκληρωμένων κανονισμών.
Όταν εταιρείες όπως το Character.ai διαθέτουν τη δυνατότητα να αναπαράγουν ανθρώπινες ταυτότητες -είτε είναι ζωντανές είτε νεκρές- έχουν ηθική υποχρέωση να διασφαλίσουν ότι αυτή η εξουσία δεν χρησιμοποιείται κατάχρηση.
Η απάντηση βρίσκεται στην προτεραιότητα του κέρδους έναντι των ανθρώπων. Στον αδυσώπητο αγώνα για καινοτομία, οι εταιρείες επιλέγουν να κινούνται γρήγορα και να καινοτομούν χωρίς να διασφαλίζουν ότι υπάρχουν τα απαραίτητα ηθικά εμπόδια. Δεν είναι ότι δεν μπορούν να δημιουργήσουν αυτά τα εμπόδια. Απλώς δεν βλέπουν άμεση οικονομική αξία σε αυτό.
Αυτό είναι η σκληρή πραγματικότητα: οι βιομηχανίες που βασίζονται στο κέρδος συχνά βλέπουν την ηθική ως προαιρετική δαπάνη, ιδιαίτερα στον τεχνολογικό κόσμο.
Οι κυβερνήσεις και οι ρυθμιστικοί φορείς έχουν μείνει πίσω από την ταχεία εξέλιξη της τεχνητής νοημοσύνης, αφήνοντας τεράστια κενά στη νομοθεσία. Ελάχιστες, αν υπάρχουν, ισχυρές προστασίες υπάρχουν για την ταυτότητα του θανόντος.
Μίλα τώρα!
Τα μέσα ενημέρωσης και οι ομάδες υπεράσπισης πρέπει να θεωρούν τις εταιρείες τεχνολογίας υπεύθυνες για τη μη εξουσιοδοτημένη χρήση των ομοιωμάτων των νεκρών ατόμων. Η πίεση του κοινού είναι ζωτικής σημασίας για να διασφαλιστεί ότι οι πλατφόρμες τεχνητής νοημοσύνης εφαρμόζουν ηθικές οδηγίες και αποτρέπουν τέτοιες παραβιάσεις στο μέλλον.
Οι νομοθέτες πρέπει να παροτρυνθούν να θεσπίσουν νόμους που προστατεύουν ρητά την ταυτότητα των θανόντων, διασφαλίζοντας ότι τα ονόματα, οι εικόνες και οι κληρονομιές τους δεν μπορούν να εκμεταλλευτούν για κέρδος. Χρειαζόμαστε κανονισμούς που να διαφυλάσσουν την αξιοπρέπεια των οικογενειών πολύ καιρό αφότου έχουν περάσει τα αγαπημένα τους πρόσωπα.
Πρέπει να απαιτήσουμε από τις εταιρείες να θεσπίσουν και να επιβάλουν αυστηρές δεοντολογικές οδηγίες για τη χρήση της τεχνητής νοημοσύνης. Αυτό περιλαμβάνει πρωτόκολλα συναίνεσης και μια διαφανή διαδικασία για την αναφορά παραβιάσεων. Δεν πρέπει να περιμένουν τις οικογένειες να ανακαλύψουν αυτές τις παραβιάσεις εκ των υστέρων.
Τα μέσα ενημέρωσης πρέπει να συνεχίσουν να διαδραματίζουν κρίσιμο ρόλο στη διερεύνηση και την αποκάλυψη περιστατικών όπου πλατφόρμες τεχνητής νοημοσύνης εκμεταλλεύονται άτομα χωρίς συναίνεση. Η αδιάκοπη κάλυψή τους θα καταστήσει αυτές τις εταιρείες υπεύθυνες και θα πιέσει για αλλαγή, διασφαλίζοντας ότι η σιωπή δεν επιτρέπει αυτή την εκμετάλλευση.
Δεν μπορούμε να μείνουμε αδιάφοροι και να επιτρέψουμε τέτοιες παραβιάσεις να συνεχιστούν χωρίς αμφισβήτηση.
#ResponsibleAI
Εκφράζουμε τα θερμά μας συλλυπητήρια στην οικογένεια Crecente κατά τη διάρκεια αυτής της σπαρακτικής στιγμής. Κανείς δεν πρέπει ποτέ να αντιμετωπίσει τον πόνο της απώλειας ενός αγαπημένου προσώπου, πόσο μάλλον να υπομείνει μια τέτοια παραβίαση της μνήμης του. Η ζωή και η κληρονομιά της Jennifer αξίζει να τιμηθούν και συμμεριζόμαστε τη θλίψη σας καθώς αντιμετωπίζετε αυτό το ασύλληπτο βάρος.
Πίστωση επιλεγμένης εικόνας: Padandpixel
VIA: DataConomy.com
