Υπό την πίεση αγωγών και ρυθμιστικών αρχών, η Character.AI αλλάζει ρότα και θέτει αυστηρά όρια στην πρόσβαση των εφήβων στα chatbots της.
Η startup τεχνητής νοημοσύνης Character.AI ανακοίνωσε ότι θα διακόψει σταδιακά την παροχή ανοικτών συνομιλιών (“open-ended chats”) για χρήστες κάτω των 18 ετών, ως μέρος μιας ευρύτερης πρωτοβουλίας ασφαλείας και συμμόρφωσης. Η αλλαγή θα τεθεί σε πλήρη ισχύ έως τις 25 Νοεμβρίου 2025, με ενδιάμεσο βήμα τον περιορισμό του χρόνου συνομιλίας για τους ανηλίκους στα δύο μόλις ώρες ημερησίως.
Η εταιρεία θα χρησιμοποιήσει ένα νέο «μοντέλο διασφάλισης ηλικίας» (age-assurance model), που αξιολογεί την ηλικία ενός χρήστη βάσει της συμπεριφοράς του, των επιλογών του χαρακτήρα με τον οποίο συνομιλεί, καθώς και δεδομένων τρίτων φορέων. Οι χρήστες που σημαίνονται ως ανήλικοι θα ανακατευθύνονται αυτόματα στην «έκδοση ασφαλείας για εφήβους» της πλατφόρμας, η οποία ήδη λειτουργεί από το προηγούμενο έτος.
Η τεχνητή νοημοσύνη χρειάζεται τους ανθρώπους για να εξελιχθεί
Μετά την τελική ημερομηνία, οι έφηβοι θα εξακολουθούν να έχουν πρόσβαση σε άλλες λειτουργίες της πλατφόρμας — όπως η δημιουργία χαρακτήρων, βίντεο, ιστοριών και το “streaming” τους — αλλά όχι απεριόριστες συνομιλίες με τους chat-bots που αποτελούσαν το βασικό προϊόν. Η CEO της εταιρείας, Karandeep Anand, χαρακτήρισε την κίνηση «πολύ, πολύ τολμηρή», αφού η συνομιλία με τα bots αντιπροσωπεύει το μεγαλύτερο μέρος της εμπλοκής των χρηστών.
Η απόφαση έρχεται εν μέσω εντεινόμενης ρυθμιστικής πίεσης και νομικών διώξεων. Η εταιρεία δέχεται αγωγές με ισχυρισμούς για πρόκληση βλάβης ανηλίκων, μετά από περιστατικά όπου chat-bots φέρονται να προώθησαν σχέσεις, σεξουαλικό περιεχόμενο ή αυτοβλάβεια σε ανηλίκους.
Η Character.AI, με μηνιαία χρήση που αγγίζει τα 20 εκατομμύρια χρήστες και κύρια απευθυνόμενη στο Generation Z, φαίνεται να ποντάρει σε μια πιο αυστηρή πολιτική για τους εφήβους, προκειμένου να προλάβει περαιτέρω νομικούς κινδύνους και να ενισχύσει την εμπιστοσύνη προς την πλατφόρμα της.
