Tarde da noite, o confidente a quem muita gente recorre não é um amigo nem um médico: é um chatbot. Uma nova investigação da Proton, a empresa suíça de privacidade, noticiada pelo TechRadar, põe números nisso, e na contradição que está no seu centro.
O que o inquérito concluiu
- Dois terços (66 por cento) dos utilizadores britânicos de IA já discutiram pelo menos um tema sensível com um assistente de IA.
- Os mais comuns: finanças pessoais (33 por cento), problemas no trabalho ou na carreira (32 por cento), saúde mental (27 por cento) e relações (20 por cento).
- No entanto, 42 por cento dos utilizadores no Reino Unido têm pouca ou nenhuma confiança nas empresas de IA para protegerem as suas informações privadas, e 11 por cento não confiam nada.
- 64 por cento temem que as suas conversas estejam a ser usadas para criar perfis publicitários ou de marketing; 52 por cento temem que os seus segredos estejam a ser usados para treinar futuros modelos de IA.
- 82 por cento disseram que seria mais provável usarem um chatbot concebido em torno da privacidade.
Porquê fazer confidências a algo em que não se confia? “Estar livre de julgamentos”, conclui o relatório: um chatbot responde a qualquer hora e nunca reage com surpresa ou constrangimento.
A IA está a aprender muito mais sobre nós do que um motor de busca alguma vez conseguiria. Não estamos só a fazer perguntas. Estamos a partilhar um contexto profundamente pessoal sobre a nossa saúde, as nossas finanças e as nossas relações. E quando a tecnologia sabe tanto sobre nós, a privacidade não pode ser uma reflexão tardia.
Eamonn Maguire, diretor de engenharia de IA da Proton, citado pelo TechRadar
A Proton, que tem o seu próprio chatbot focado na privacidade, o Lumo, e lançou uma ferramenta chamada AI Paper Trail para mostrar quanto uma conversa típica revela, não é, claro, uma parte neutra. Mas a preocupação nos seus números é conhecida. Como disse Maguire, as pessoas estão a entregar às empresas de IA “a sua vida interior e os seus maiores segredos”, partindo do princípio de que as vão proteger, quando “o modelo de negócio da IA depende de aprender com eles.”
A regra de privacidade mais simples para a IA: onde é que corre?
Uma política de privacidade é uma promessa. O sítio onde o processamento acontece é um facto. Quando um chatbot corre nos servidores de uma empresa, tudo o que escreve viaja para lá, e o que acontece a seguir depende das definições dessa empresa, do seu modelo de negócio e de quem possa exigir legalmente os seus registos. Quando um modelo corre no seu próprio dispositivo, o que lhe dá fica no seu dispositivo.
Os modelos no dispositivo têm limites: são mais pequenos e, para uma conversa aberta, não são tão capazes como os grandes modelos na nuvem. Para uma tarefa concreta, porém, um pequeno modelo local chega, e é o único tipo que não pode divulgar o que nunca enviou.
Cinco hábitos que tornam uma conversa com um chatbot mais pequena
Primeiro, abra as definições do chatbot e procure a opção que permite usar as suas conversas para melhorar ou treinar os modelos; a maioria dos serviços oferece forma de a desativar, e raramente vem desativada por omissão. Segundo, procure um modo de conversa temporária ou privada para tudo o que for sensível, e verifique durante quanto tempo o serviço diz guardar essas conversas.
Terceiro, deixe de fora o que o identifica a si ou a outras pessoas: nomes completos, moradas, números de conta, dados de saúde, fotografias de documentos. Descreva a situação em vez de colar o documento. Quarto, apague as conversas antigas de que já não precisa; um histórico que não guarda não pode ser exposto mais tarde. Quinto, tenha cuidado com os plug-ins de chatbots e as contas ligadas, porque cada um é um novo sítio para onde os seus dados podem viajar.
Como o FireAI aplica essa regra
- A IA do FireAI, que explica em linguagem simples o que é uma ligação no seu Mac, corre inteiramente no seu Mac. O que analisa nunca é enviado para uma IA na nuvem e não pode acabar no conjunto de treino de ninguém. Veja o modelo de IA no dispositivo.
- Para as apps de IA que usa, o mapa-múndi mostra a que se liga cada uma, e as regras por app permitem decidir quais delas podem sequer chegar à internet.
- O modo Paranoico também bloqueia a telemetria conhecida, por isso as apps que relatam sobre si em segundo plano são recusadas.
O FireAI não pode tornar privado um chatbot na nuvem, nem recuperar o que já lá escreveu. Dois hábitos ajudam: verifique se o seu chatbot permite desativar o treino com as suas conversas, e mantenha as coisas mais sensíveis (dados de saúde, números de conta, informações privadas de outras pessoas) completamente fora das conversas na nuvem.
Descarregue o FireAI e experimente-o gratuitamente durante 17 dias. O FireAI é feito pela HisnLabs.