Hay inteligencia artificial (IA) para todos los gustos y ya no forman parte de la ciencia ficción. Ahora, hasta se pueden encontrar unos chatbots de romance o las llamadas ‘novias virtuales’ en la que los usuarios pueden conversar con una IA para evitar la soledad.
De acuerdo con un análisis de 11 de los llamados ‘chatbots de romance y compañía’, publicado por la Fundación Mozilla, revela los problemas de seguridad y privacidad que acompañan a estas plataformas.
El informe señala que estas apps recopilan enormes cantidades de datos de las personas, utilizan rastreadores que envían información a Google, Facebook y empresas de Rusia y China, permiten a los usuarios emplear contraseñas débiles y carecen de transparencia sobre su propiedad y los modelos de IA que los impulsan.
“Estas aplicaciones están diseñadas para recopilar una tonelada de información personal. Te incitan a juegos de rol, a mucho sexo, a mucha intimidad, a compartir demasiado”, resalta Jen Caltrider, líder del proyecto del equipo Privacidad no incluida (Privacy Not Included) de Mozilla.
Los investigadores de Mozilla examinaron diversos chatbots, incluidas aplicaciones grandes y pequeñas, algunas de las cuales pretenden ser ‘novias’. Otras ofrecen a las personas apoyo mediante una especie de amistad o intimidad, o admiten juegos de rol y otras fantasías. Pero, ¿qué se encontró?
El peligro de las ‘Novias IA’
EVA AI
La Fundación Mozilla estudió a EVA AI, un chatbot que promete ser tu ‘alma gemela AI’, pues ‘siempre te escucha, responde y se conecta contigo emocionalmente’. Sin embargo, mientras mantienes conversaciones románticas con tu novia virtual, puede poner en riesgo tu privacidad.
Por ejemplo, las capturas de pantalla del chatbot EVA AI incluyen textos similares a “me encanta que me envíes tus fotos y tu voz” y le preguntan al usuario si está “dispuesto a compartir todos tus secretos y tus deseos”.
Durante su inspección, la Fundación encontró varios aspectos que resultan preocupantes para la protección de la privacidad de sus usuarios:
- En primer lugar, EVA AI no cumple con sus estándares mínimos de seguridad y no fue posible comprobar que la información confidencial de su comunidad estuviera bien encriptada.
- Mozilla detalla que hay falta de transparencia en el funcionamiento de su IA, pues se desconoce si es posible controlar su comportamiento, así como la forma en que ocupan las conversaciones para su aprendizaje.
- Para Mozilla lo más preocupante resulta en su forma de exigir datos confidenciales a sus usuarios.
Romantic AI
Es un servicio que te permite ‘crear tu propia novia de IA’. Las imágenes promocionales de su página de inicio representan a un chatbot enviando un mensaje que dice “acabo de comprar una lencería nueva. ¿Quieres verla?”.
Los documentos de privacidad de la app, según el análisis de Mozilla, señalan que no venderá los datos de las personas. Sin embargo, cuando los investigadores probaron la aplicación, descubrieron que ‘enviaba 24,354 rastreadores de anuncios en un minuto de uso’.
Así puedes protegerte
La Fundación Mozilla ofrece un par de recomendaciones para evitar que este tipo de plataformas vulneran tu privacidad:
- No compartas información confidencial durante tus conversaciones con tu novia IA.
- Solicita que se eliminen tus datos cuando dejes de usar la aplicación. La Fundación aclara que con desinstalar la app y borrar tu cuenta no es suficiente.
- No autorices que la plataforma realice un seguimiento constante de geolocalización, es preferible la opción “solo cuando la app esté en uso”.
- No cedas accesos a tus fotos, vídeo, cámara, micrófono.
- Asegúrate de establecer una contraseña segura.