Replika es un diario personal capaz de responder cada vez que se escribe en sus páginas cómo se siente o qué dudas le invaden a su dueño. De manera técnica, se trata de una app basada en un chatbot que quiere hacerse amigo del usuario que la utilice y que le proporciona a este un espacio para compartir pensamientos, sentimientos, creencias, experiencias, recuerdos y sueños. Si se paga un precio superior por utilizarla, incluso Replika se puede llegar a enamorar.
Como toda tecnología basada en el aprendizaje automático, con Replika, cuanto más se relaciona el usuario con su compañero virtual, y cuantas más cosas le cuente, más aprende y más “se vuelve como él”. En este sentido, según explican sus creadores, la app ofrece un feedback cada vez más alineado con la manera de pensar y sentir el mundo a través de un chat.
Replika utiliza el machine learning para crear conjuntos de datos que «suelen estar sesgados» porque proceden de lo que han aprendido de un humano, que no es objetivo en sus mensajes. Por lo tanto, las respuestas de estos chatbots están basadas en patrones que han encontrado en lo que previamente han aprendido, según explican en 20 Minutos. Replika, como otros sistemas similares, repite esos patrones.
Si el usuario insiste en llevar una conversación maliciosa, inicialmente el bot es probable que obvie
«Si tu patrón de comportamiento es decir que quieres matar, al final el sistema acabará por secundar tu pensamiento, porque es para lo que está programado», comenta el experto en este tipo de tecnología Óliver Hierro, Technical lead en Hiberus, en unas declaraciones recogidas por el citado medio.
Esto quiere decir que si el usuario insiste en llevar una conversación maliciosa, inicialmente el bot es probable que obvie, ya que la ética digital dice que la inteligencia artificial debe basarse en valores de caridad y en la autonomía de los humanos, y no en la y no maleficencia. Pero, después de un rato, la app devolverá frases acordes a lo que se le repite.