Tard le soir, le confident vers qui beaucoup se tournent n’est ni un ami ni un médecin : c’est un chatbot. Une nouvelle étude de Proton, l’entreprise suisse spécialisée dans la vie privée, rapportée par TechRadar, met des chiffres sur ce phénomène, et sur la contradiction qui est en son cœur.
Ce que révèle l’enquête
- Deux tiers (66 pour cent) des utilisateurs britanniques d’IA ont abordé au moins un sujet sensible avec un assistant d’IA.
- Les plus courants : les finances personnelles (33 pour cent), les problèmes professionnels ou de carrière (32 pour cent), la santé mentale (27 pour cent) et les relations (20 pour cent).
- Pourtant, 42 pour cent des utilisateurs britanniques n’ont que peu ou pas confiance dans les entreprises d’IA pour protéger leurs informations privées, et 11 pour cent ne leur font aucune confiance.
- 64 pour cent craignent que leurs conversations servent à construire des profils publicitaires ou marketing ; 52 pour cent craignent que leurs secrets servent à entraîner de futurs modèles d’IA.
- 82 pour cent se disent plus enclins à utiliser un chatbot conçu autour de la confidentialité.
Pourquoi se confier à quelque chose en qui l’on n’a pas confiance ? « L’absence de jugement », conclut le rapport : un chatbot répond à toute heure et ne réagit jamais avec surprise ni gêne.
L’IA en apprend bien plus sur nous qu’un moteur de recherche n’aurait jamais pu le faire. Nous ne faisons pas que poser des questions. Nous partageons un contexte profondément personnel sur notre santé, nos finances et nos relations. Et quand une technologie en sait autant sur nous, la vie privée ne peut pas être une réflexion après coup.
Eamonn Maguire, directeur de l’ingénierie IA chez Proton, cité par TechRadar
Proton, qui exploite son propre chatbot axé sur la confidentialité, Lumo, et a lancé un outil baptisé AI Paper Trail pour montrer tout ce que révèle une conversation typique, n’est bien sûr pas un acteur neutre ici. Mais l’inquiétude qui ressort de ses chiffres est familière. Comme l’a dit Eamonn Maguire, les gens confient aux entreprises d’IA « leur vie intérieure et leurs plus grands secrets » en supposant qu’elles les protégeront, alors que « le modèle économique de l’IA dépend de ce qu’elle apprend d’eux ».
La règle de confidentialité la plus simple pour l’IA : où tourne-t-elle ?
Une politique de confidentialité est une promesse. L’endroit où s’effectue le calcul est un fait. Quand un chatbot tourne sur les serveurs d’une entreprise, tout ce que vous tapez y voyage, et la suite dépend des réglages de cette entreprise, de son modèle économique et de quiconque peut légalement exiger ses données. Quand un modèle tourne sur votre propre appareil, ce que vous lui donnez reste sur votre appareil.
Les modèles embarqués ont leurs limites : ils sont plus petits et, pour une conversation ouverte, moins performants que les grands modèles du cloud. Pour une tâche précise, en revanche, un petit modèle local suffit, et c’est le seul type de modèle qui ne peut pas divulguer ce qu’il n’a jamais envoyé.
Cinq habitudes pour réduire ce que vous confiez à un chatbot
D’abord, ouvrez les réglages du chatbot et cherchez l’option qui permet d’utiliser vos conversations pour améliorer ou entraîner ses modèles ; la plupart des services permettent de la désactiver, et elle l’est rarement par défaut. Ensuite, utilisez un mode de conversation temporaire ou privé pour tout ce qui est sensible, et vérifiez combien de temps le service dit conserver ces échanges.
Troisièmement, omettez ce qui vous identifie, vous ou d’autres personnes : noms complets, adresses, numéros de compte, informations de santé, photos de documents. Décrivez la situation au lieu de coller le document. Quatrièmement, supprimez les anciennes conversations dont vous n’avez plus besoin ; un historique que vous ne gardez pas ne peut pas être exposé plus tard. Cinquièmement, méfiez-vous des extensions de chatbot et des comptes connectés, car chacun est un nouvel endroit où vos données peuvent voyager.
Comment FireAI applique cette règle
- L’IA de FireAI, qui explique en langage clair ce qu’est une connexion sur votre Mac, tourne entièrement sur votre Mac. Ce qu’elle analyse n’est jamais envoyé à une IA dans le cloud et ne peut se retrouver dans les données d’entraînement de personne. Voir le modèle d’IA embarqué.
- Pour les applis d’IA que vous utilisez, la carte du monde montre où chacune se connecte, et les règles par appli vous laissent décider lesquelles peuvent accéder à Internet.
- Le mode Paranoïa bloque aussi la télémétrie connue : les applis qui rendent compte de vos faits et gestes en arrière-plan sont refusées.
FireAI ne peut pas rendre privé un chatbot dans le cloud, ni reprendre ce que vous y avez déjà tapé. Deux habitudes aident : vérifiez si votre chatbot vous permet de désactiver l’entraînement sur vos conversations, et gardez les choses les plus sensibles (informations de santé, numéros de compte, informations privées sur d’autres personnes) complètement en dehors des conversations dans le cloud.
Téléchargez FireAI et essayez-le gratuitement pendant 17 jours. FireAI est conçu par HisnLabs.