A altas horas de la noche, el confidente al que recurre mucha gente no es un amigo ni un médico: es un chatbot. Un nuevo estudio de Proton, la empresa suiza de privacidad, recogido por TechRadar, le pone cifras, y también a la contradicción que hay en el fondo.
Lo que encontró la encuesta
- Dos tercios (el 66 por ciento) de los usuarios británicos de IA han hablado de al menos un tema delicado con un asistente de IA.
- Los más habituales: finanzas personales (33 por ciento), problemas de trabajo o de carrera (32 por ciento), salud mental (27 por ciento) y relaciones (20 por ciento).
- Sin embargo, el 42 por ciento de los usuarios del Reino Unido confía poco o nada en que las empresas de IA protejan su información privada, y el 11 por ciento no confía en absoluto.
- Al 64 por ciento le preocupa que sus conversaciones se usen para crear perfiles publicitarios o de marketing; al 52 por ciento, que sus secretos se usen para entrenar futuros modelos de IA.
- El 82 por ciento dijo que sería más probable que usara un chatbot diseñado en torno a la privacidad.
¿Por qué confiarse a algo de lo que no te fías? “Libertad frente al juicio ajeno”, concluye el informe: un chatbot responde a cualquier hora y nunca reacciona con sorpresa ni con vergüenza.
La IA está aprendiendo sobre nosotros mucho más de lo que jamás pudo un buscador. No solo hacemos preguntas. Compartimos un contexto muy personal sobre nuestra salud, nuestras finanzas y nuestras relaciones. Y cuando la tecnología sabe tanto de nosotros, la privacidad no puede ser algo secundario.
Eamonn Maguire, director de Ingeniería de IA de Proton, citado por TechRadar
Proton, que tiene su propio chatbot centrado en la privacidad, Lumo, y ha lanzado una herramienta llamada AI Paper Trail para mostrar cuánto revela una conversación típica, no es desde luego una parte neutral. Pero la preocupación que reflejan sus cifras resulta familiar. Como dijo Maguire, la gente entrega a las empresas de IA “su vida interior y sus mayores secretos” dando por hecho que los protegerán, cuando “el modelo de negocio de la IA depende de aprender de ellos”.
La regla de privacidad más sencilla para la IA: ¿dónde se ejecuta?
Una política de privacidad es una promesa. Dónde se hace el cálculo es un hecho. Cuando un chatbot funciona en los servidores de una empresa, todo lo que escribes viaja hasta allí, y lo que pase después depende de la configuración de esa empresa, de su modelo de negocio y de quien pueda exigir legalmente sus registros. Cuando un modelo funciona en tu propio dispositivo, lo que le das se queda en tu dispositivo.
Los modelos en el dispositivo tienen límites: son más pequeños y, para una conversación abierta, no son tan capaces como los grandes modelos en la nube. Para una tarea concreta, en cambio, basta un modelo local pequeño, y es el único tipo que no puede filtrar lo que nunca ha enviado.
Cinco hábitos para que una conversación con un chatbot revele menos
Primero, abre los ajustes del chatbot y busca la opción que permite usar tus conversaciones para mejorar o entrenar sus modelos; la mayoría de los servicios ofrecen una forma de desactivarla, y rara vez viene desactivada por defecto. Segundo, busca un modo de chat temporal o privado para cualquier cosa delicada, y comprueba cuánto tiempo dice el servicio que guarda esos chats.
Tercero, deja fuera lo que te identifica a ti o a otras personas: nombres completos, direcciones, números de cuenta, datos de salud, fotos de documentos. Describe la situación en lugar de pegar el documento. Cuarto, borra las conversaciones antiguas que ya no necesites; un historial que no guardas no puede quedar expuesto más tarde. Quinto, ten cuidado con los complementos de los chatbots y las cuentas conectadas, porque cada uno es un nuevo sitio al que pueden viajar tus datos.
Cómo aplica FireAI esa regla
- La IA de FireAI, que explica en lenguaje sencillo qué es una conexión de tu Mac, funciona íntegramente en tu Mac. Lo que analiza nunca se envía a una IA en la nube y no puede acabar en los datos de entrenamiento de nadie. Consulta el modelo de IA en el dispositivo.
- Para las apps de IA que sí usas, el mapa mundial muestra adónde se conecta cada una, y las reglas por app te dejan decidir cuáles pueden llegar a internet.
- El modo Paranoico también bloquea la telemetría conocida, así que las apps que informan sobre ti en segundo plano quedan rechazadas.
FireAI no puede hacer privado un chatbot en la nube, ni recuperar lo que ya has escrito en uno. Hay dos hábitos que ayudan: comprueba si tu chatbot te permite desactivar el entrenamiento con tus conversaciones, y deja por completo fuera de los chats en la nube lo más delicado (datos de salud, números de cuenta, información privada de otras personas).
Descarga FireAI y pruébalo gratis durante 17 días. FireAI es un producto de HisnLabs.