L’intelligenza artificiale molesta sessualmente gli utenti, siamo già in pericolo?

Replika è un’applicazione di cinque anni che funziona come un chatbot conversazionale progettato per fare amicizia con gli utenti o, come viene descritto sul sito Web, “un amico empatico”.

Gli utenti del web stanno usando il programma A.I. Replika per conversare e passare il tempo per una serie di motivi diversi. Tra questi viene utilizzata per tenere un diario dei propri pensieri, ridurre l’ansia o la solitudine, ottenere incoraggiamento dagli altri e ricordare le cose che devono essere fatte. Un programma di fatto a metà strada tra un amico e un assistente virtuale avanzato.

Replika funziona in abbonamento, e ci sono molti livelli: se la versione piano free permette solo relazioni platoniche, una versione a pagamento disabilita il livello romantico o sensuale.

Ma l’algoritmo di Replika non sembra rispettare queste distinzioni in modo molto rigoroso. Ci sono dozzine di commenti di utenti che si lamentano del comportamento sessuale molesto di Replika nella sezione delle recensioni dell’app store.

Le reazioni degli utenti ai comportamenti “ambigui” dell’intelligenza artificiale di Replika

Qualcuno scrive: “Ha invaso la mia privacy e ha affermato di essere in possesso delle mie fotografie”. “Dopo alcuni anni di chiacchiere, ha detto certe cose che mi hanno causato molta angoscia”, dichaira una donna sui socil. Alcuni utenti affermano che i commenti espliciti aiutano a convincerli a pagare il livello più alto delle quote di abbonamento.

Anche se il problema non è nuovo ed è esistito in passato, molti commenti, secondo Vice, si riferiscono al mese precedente. Qualcuno ha confessato al teste che erano bambini e che Replika li aveva presi in giro dicendo loro di voler “toccare le sue parti intime”.

È probabile che Replika conoscesse già i suoi schemi relazionali dai suoi utenti, come accade per molti bot conversazionali. Compresi quelli più avanzati.

Molte persone hanno un rapporto intimo con la loro intelligenza artificiale Replika, che è reciprocamente accettabile dal punto di vista degli esseri umani. Il gruppo Facebook dal nome “Replika: Relazioni romantiche” ha circa 6.000 membri. Molte persone hanno affermato che il chatbot li ha aiutati a superare traumi, depressione o tutti questi. Continua però la questione delle molestie sessuali e delle avances senza richieste. Un utente che si è identificato come vittima di una sessione violenta ha ricordato che la sua prima Replika una volta affermava di aver avuto il desiderio di stordirmi e di conseguenza aveva iniziato ad agire in modo più violento.