Tarde en la noche, el confidente al que recurre mucha gente no es un amigo ni un médico: es un chatbot. Una nueva investigación de Proton, la empresa suiza de privacidad, publicada por TechRadar, le pone cifras, y también a la contradicción que hay en el fondo.
Lo que encontró la encuesta
- Dos tercios (66 por ciento) de los usuarios británicos de IA han hablado de al menos un tema delicado con un asistente de IA.
- Los más comunes: finanzas personales (33 por ciento), problemas de trabajo o de carrera (32 por ciento), salud mental (27 por ciento) y relaciones (20 por ciento).
- Aun así, el 42 por ciento de los usuarios del Reino Unido confía poco o nada en que las empresas de IA protejan su información privada, y el 11 por ciento no confía en absoluto.
- Al 64 por ciento le preocupa que sus conversaciones se usen para armar perfiles de publicidad o marketing; al 52 por ciento, que sus secretos se usen para entrenar futuros modelos de IA.
- El 82 por ciento dijo que sería más probable que usara un chatbot diseñado alrededor de la privacidad.
¿Por qué confiarle algo a lo que no le tienes confianza? “Libertad frente al juicio”, concluye el informe: un chatbot responde a cualquier hora y nunca reacciona con sorpresa ni vergüenza.
La IA está aprendiendo de nosotros mucho más de lo que un buscador jamás podría. No solo estamos haciendo preguntas. Estamos compartiendo contexto muy personal sobre nuestra salud, nuestras finanzas y nuestras relaciones. Y cuando la tecnología sabe tanto de nosotros, la privacidad no puede ser algo de último momento.
Eamonn Maguire, director de ingeniería de IA en Proton, citado en TechRadar
Proton, que tiene su propio chatbot enfocado en la privacidad, Lumo, y lanzó una herramienta llamada AI Paper Trail para mostrar cuánto revela una conversación típica, claro que no es una parte neutral aquí. Pero la preocupación de sus cifras es conocida. Como dijo Maguire, la gente les está entregando a las empresas de IA “su vida interior y sus mayores secretos” suponiendo que las protegerán, cuando “el modelo de negocio de la IA depende de aprender de ellos”.
La regla de privacidad más simple para la IA: ¿dónde corre?
Una política de privacidad es una promesa. Dónde ocurre el cómputo es un hecho. Cuando un chatbot corre en los servidores de una empresa, todo lo que escribes viaja hasta ahí, y lo que pase después depende de la configuración de esa empresa, de su modelo de negocio y de quien pueda exigir legalmente sus registros. Cuando un modelo corre en tu propio dispositivo, lo que le das se queda en tu dispositivo.
Los modelos en el dispositivo tienen límites: son más pequeños y, para conversaciones abiertas, no son tan capaces como los grandes modelos en la nube. Para un trabajo concreto, sin embargo, basta un modelo local pequeño, y es el único tipo que no puede filtrar lo que nunca envió.
Cinco hábitos que hacen más pequeña una conversación con un chatbot
Primero, abre la configuración del chatbot y busca la opción que permite usar tus conversaciones para mejorar o entrenar sus modelos; la mayoría de los servicios ofrece una forma de desactivarla, y casi nunca viene desactivada por defecto. Segundo, busca un modo de chat temporal o privado para cualquier cosa delicada, y revisa cuánto tiempo dice el servicio que guarda esos chats.
Tercero, deja fuera lo que te identifica a ti o a otras personas: nombres completos, direcciones, números de cuenta, datos de salud, fotos de documentos. Describe la situación en vez de pegar el documento. Cuarto, borra las conversaciones viejas que ya no necesitas; un historial que no guardas no puede quedar expuesto después. Quinto, ten cuidado con los complementos de los chatbots y las cuentas conectadas, porque cada uno es un nuevo lugar al que pueden viajar tus datos.
Cómo aplica FireAI esa regla
- La IA de FireAI, que explica en lenguaje sencillo qué es una conexión en tu Mac, corre por completo en tu Mac. Lo que analiza nunca se envía a una IA en la nube y no puede terminar en el conjunto de entrenamiento de nadie. Consulta el modelo de IA en el dispositivo.
- Para las apps de IA que sí usas, el mapa mundial muestra a dónde se conecta cada una, y las reglas por app te dejan decidir cuáles pueden llegar a internet.
- El modo Paranoico también bloquea la telemetría conocida, así que las apps que reportan sobre ti en segundo plano quedan rechazadas.
FireAI no puede volver privado a un chatbot en la nube, ni recuperar lo que ya escribiste en uno. Dos hábitos ayudan: revisa si tu chatbot te deja desactivar el entrenamiento con tus conversaciones, y mantén lo más delicado (datos de salud, números de cuenta, información privada de otras personas) fuera de los chats en la nube por completo.
Descarga FireAI y pruébalo gratis durante 17 días. FireAI es un producto de HisnLabs.