Internet è piena di chatbot, ma quelli dell’americana Replika sono sicuramente i più curiosi. Come spiega infatti un dettagliato articolo giuridico di Altalex, dietro l’idea di Eugenia Kuyda si trova una società – Luka, Inc – che ha impalcato le relazioni virtuali che gli iscritti possono intrattenere coi bot della società tramite un sistema diviso per sottoscrizioni: la versione gratuita mantiene l’utente e l’avatar in una relazione amicale, mentre un abbonamento Pro permette un livello ulteriore, ossia una relazione romantica e/o erotica che implica, anche e se in modo virtuale, sexting, flirting ed erotic roleplay. Tutto ciò negli anni aveva permesso che germinassero presunti casi di molestie sessuali lamentati dagli utenti e posti in essere da chatbot un po’ troppo focosi.
Di Replika si era parlato parecchio pure in Italia quando il Garante della Privacy nel 2023 aveva bloccato l’app. Oggi l’autorità comunica di aver sanzionato per 5 milioni di euro la società statunitense Luka Inc. che gestisce il chatbot.
Leggi anche: Il dubbio ci salverà dai deepfake. Forse. Parola (o speranza) dell’FBI
Nel corso dell’istruttoria il Garante ha accertato la violazione delle disposizioni contestate nel febbraio 2023, quando aveva disposto il blocco dell’applicazione. Secondo il Garante, la società statunitense non aveva individuato, alla data del 2 febbraio 2023, le basi giuridiche delle operazioni di trattamento effettuate attraverso “Replika”. Luka, inoltre, aveva fornito una privacy policy inadeguata sotto vari profili.
Il Garante ha accertato, infine, che, alla data del 2 febbraio 2023, la società non prevedeva alcun meccanismo per la verifica dell’età degli utenti né all’atto della registrazione al servizio, né durante il suo utilizzo, benché la società dichiarasse di escludere i minorenni tra i potenziali utenti. Dagli accertamenti tecnici effettuati è emerso che il sistema di verifica dell’età attualmente implementato dal titolare continua ad essere carente sotto molteplici aspetti.
