Tarde da noite, o confidente a quem muita gente recorre não é um amigo nem um médico: é um chatbot. Uma nova pesquisa da Proton, a empresa suíça de privacidade, noticiada pelo TechRadar, coloca números nisso, e na contradição que está no centro disso.
O que a pesquisa encontrou
- Dois terços (66 por cento) dos usuários britânicos de IA já conversaram sobre pelo menos um tema sensível com um assistente de IA.
- Os mais comuns: finanças pessoais (33 por cento), problemas no trabalho ou na carreira (32 por cento), saúde mental (27 por cento) e relacionamentos (20 por cento).
- Mesmo assim, 42 por cento dos usuários do Reino Unido têm pouca ou nenhuma confiança de que as empresas de IA vão proteger suas informações privadas, e 11 por cento não confiam nelas de jeito nenhum.
- 64 por cento temem que suas conversas estejam sendo usadas para montar perfis de publicidade ou marketing; 52 por cento temem que seus segredos estejam sendo usados para treinar futuros modelos de IA.
- 82 por cento disseram que teriam mais chance de usar um chatbot projetado em torno da privacidade.
Por que se abrir com algo em que você não confia? “Liberdade de não ser julgado”, conclui o relatório: um chatbot responde a qualquer hora e nunca reage com surpresa ou constrangimento.
A IA está aprendendo muito mais sobre nós do que um mecanismo de busca jamais poderia. Não estamos só fazendo perguntas. Estamos compartilhando um contexto profundamente pessoal sobre a nossa saúde, as nossas finanças e os nossos relacionamentos. E quando a tecnologia sabe tanto sobre nós, a privacidade não pode ficar em segundo plano.
Eamonn Maguire, diretor de engenharia de IA da Proton, citado pelo TechRadar
A Proton, que tem o próprio chatbot focado em privacidade, o Lumo, e lançou uma ferramenta chamada AI Paper Trail para mostrar o quanto uma conversa típica revela, obviamente não é neutra aqui. Mas a preocupação nos números dela é conhecida. Como disse Maguire, as pessoas estão entregando às empresas de IA “suas vidas íntimas e seus maiores segredos”, supondo que elas vão protegê-los, quando “o modelo de negócios da IA depende de aprender com eles”.
A regra de privacidade mais simples para a IA: onde ela roda?
Uma política de privacidade é uma promessa. Onde o processamento acontece é um fato. Quando um chatbot roda nos servidores de uma empresa, tudo o que você digita viaja até lá, e o que acontece depois depende das configurações dessa empresa, do modelo de negócios dela e de quem puder exigir legalmente os registros dela. Quando um modelo roda no seu próprio aparelho, o que você dá a ele fica no seu aparelho.
Os modelos no dispositivo têm limites: são menores e, para conversas abertas, não são tão capazes quanto os grandes modelos na nuvem. Para uma tarefa bem definida, porém, um modelo local pequeno basta, e é o único tipo que não pode vazar o que nunca enviou.
Cinco hábitos que deixam uma conversa com um chatbot menor
Primeiro, abra as configurações do chatbot e procure a opção que permite que as suas conversas sejam usadas para melhorar ou treinar os modelos dele; a maioria dos serviços oferece um jeito de desativá-la, e ela raramente vem desativada por padrão. Segundo, procure um modo de conversa temporária ou privada para qualquer coisa sensível, e confira por quanto tempo o serviço diz guardar essas conversas.
Terceiro, deixe de fora o que identifica você ou outras pessoas: nomes completos, endereços, números de conta, detalhes de saúde, fotos de documentos. Descreva a situação em vez de colar o registro. Quarto, apague conversas antigas de que você não precisa mais; um histórico que você não guarda não pode ser exposto depois. Quinto, tenha cuidado com plug-ins de chatbots e contas conectadas, porque cada um é um novo lugar para onde os seus dados podem viajar.
Como o FireAI aplica essa regra
- A IA do FireAI, que explica em linguagem simples o que é uma conexão no seu Mac, roda inteiramente no seu Mac. O que ela analisa nunca é enviado a uma IA na nuvem e não pode acabar no conjunto de treinamento de ninguém. Veja o modelo de IA no dispositivo.
- Para os apps de IA que você usa, o mapa-múndi mostra para onde cada um se conecta, e as regras por app permitem decidir quais deles podem chegar à internet.
- O modo Paranoico também bloqueia a telemetria conhecida, então os apps que informam sobre você em segundo plano são recusados.
O FireAI não consegue tornar privado um chatbot na nuvem, nem recuperar o que você já digitou em um. Dois hábitos ajudam: verifique se o seu chatbot permite desativar o treinamento com as suas conversas, e mantenha as coisas mais sensíveis (detalhes de saúde, números de conta, informações privadas de outras pessoas) totalmente fora das conversas na nuvem.
Baixe o FireAI e experimente grátis por 17 dias. O FireAI é feito pela HisnLabs.