La « cybersécurité de l’IA » ne correspond à aucun intitulé de poste unique dans l’organigramme d’un employeur. L’expression désigne un ensemble de rôles apparus ces dernières années au sein d’équipes de sécurité existantes, chacun s’appuyant sur une partie différente de la discipline traditionnelle : tester les systèmes d’IA comme un pentesteur sonde une application, sécuriser les logiciels et les chaînes de traitement qui entourent un modèle déployé, appliquer des outils d’IA au travail de détection et de réponse, et encadrer la manière dont une organisation adopte cette technologie. Aucun des organismes de normalisation ni aucune des études sur les effectifs citées ci-dessous ne les traite comme un seul rôle, et cet article non plus.
Contexte
Le cadre de référence que la plupart des employeurs et des organismes de formation américains utilisent pour décrire les métiers de la cybersécurité en général est le NICE Workforce Framework for Cybersecurity, maintenu par le NIST et hébergé par la CISA. Il organise la profession en catégories de rôles — Oversight and Governance, Design and Development, Implementation and Operation, Protection and Defense, et Investigation — chacune déclinée en énoncés de tâches, de connaissances et de compétences plutôt qu’en intitulés de postes figés [1]. À la date de rédaction, le cadre publié ne comporte aucune catégorie de rôles propre à l’IA ; les rôles décrits dans cet article s’inscrivent dans ses catégories existantes et empruntent leur vocabulaire à des documents plus récents, consacrés à l’IA, là où le cadre reste muet.
Ces documents plus récents proviennent principalement de trois sources : le Gen AI Security Project de l’OWASP, qui publie le Top 10 for LLM Applications, une liste de catégories de risques telles que l’injection de prompt, la divulgation d’informations sensibles, le risque lié à la chaîne d’approvisionnement et l’autonomie excessive [2] ; MITRE ATLAS, une base de connaissances publique des tactiques et techniques d’attaque visant les systèmes d’IA, conçue comme complément du cadre ATT&CK de MITRE [3] ; et le NIST AI Risk Management Framework, qui structure la gestion des risques liés à l’IA en quatre fonctions — Govern, Map, Measure et Manage [4]. Dans la pratique, on attend d’un professionnel exerçant l’un des quatre rôles décrits ci-dessous qu’il connaisse au moins l’un de ces trois documents.
Côté marché du travail, CyberSeek — projet commun de NICE, de CompTIA et de la société d’analyse du marché de l’emploi Lightcast — a recensé 514 359 offres d’emploi en cybersécurité sur le marché américain entre mai 2024 et avril 2025, pour un effectif mondial en cybersécurité estimé à environ 4 970 000 personnes. Parmi ces offres, CyberSeek a constaté que 10 % mentionnaient explicitement des compétences en IA comme exigence [5]. Il s’agit d’une minorité d’offres, ce qui importe pour la lecture de la suite de cet article : le travail de sécurité de l’IA constitue aujourd’hui un complément à une carrière en cybersécurité, ajouté à un socle existant, et non encore un marché du travail distinct.
Éléments factuels
Le red teaming de l’IA est le mieux documenté publiquement des quatre rôles. L’AI Red Team de Microsoft, créée en 2018, décrit sa mission comme le test des systèmes d’IA face aux usages malveillants comme aux défaillances ordinaires, et sa propre présentation de ce travail souligne deux différences avec le test de logiciels conventionnels : les systèmes génératifs sont probabilistes, de sorte que « la même entrée soumise deux fois peut produire des sorties différentes », ce qui impose des tentatives répétées plutôt qu’un test déterministe unique ; et les applications construites sur ces modèles « évoluent plus vite » que les logiciels traditionnels, si bien qu’une évaluation ponctuelle devient obsolète plus tôt [6]. Les praticiens de ce rôle utilisent MITRE ATLAS comme référence de travail pour cataloguer les techniques d’attaque contre les systèmes d’apprentissage automatique, de la même façon qu’un red teamer classique se réfère à ATT&CK [3].
La sécurité des modèles et des agents est un rôle plus étroit, davantage orienté ingénierie : il s’agit de sécuriser la couche applicative qui entoure un modèle déployé, plutôt que les poids du modèle ou ses données d’entraînement. Le Top 10 for LLM Applications de l’OWASP est ce qui se rapproche le plus d’un programme commun pour ce sous-domaine, et ses catégories tiennent lieu de description de poste approximative — injection de prompt, traitement non sécurisé des sorties, empoisonnement des données et du modèle, autonomie excessive accordée à un agent, et risques liés à la chaîne d’approvisionnement dans les bibliothèques et les modèles tiers dont dépend une application [2]. Les personnes qui exercent ce métier viennent plutôt de la sécurité applicative que de la data science, car la compétence de fond consiste à auditer la circulation des entrées non fiables dans un système, appliquée à un type de système plus récent.
L’ingénierie de détection appuyée sur l’IA relève de la catégorie Protection and Defense du NICE et recoupe largement le travail existant des opérations de sécurité : concevoir les règles, les modèles et les chaînes de traitement qui transforment la télémétrie brute en alertes exploitables par un humain, en intégrant désormais parmi les entrées des signaux générés ou assistés par l’IA [1]. MITRE D3FEND, un graphe de connaissances des contre-mesures défensives élaboré conjointement par MITRE et la Cybersecurity Directorate de la NSA, est la référence publiée la plus proche pour ce versant du travail : il organise les défenses en six tactiques — Model, Harden, Detect, Isolate, Deceive et Restore — et associe des contre-mesures précises aux techniques offensives qu’elles contrent, ce qui donne aux ingénieurs de détection un vocabulaire commun pour décrire ce que fait réellement un contrôle donné [7]. D3FEND n’a rien de spécifique à l’IA ; le rôle consiste à l’appliquer à des chaînes de traitement qui incluent désormais des signaux issus de l’IA.
La gouvernance de l’IA est le domaine le plus récent et, d’après les éléments disponibles, celui qui concentre actuellement le plus de préoccupations exprimées par les employeurs et les praticiens. Le cadre du NIST fait de la gouvernance l’une de ses quatre fonctions centrales, qui englobe la supervision organisationnelle, les structures de responsabilité et les politiques avant toute mesure technique [4]. En septembre 2026, l’ISC2 a interrogé sur LinkedIn plus de 500 professionnels de la cybersécurité sur ce qui demande le plus à être défini à mesure que l’IA transforme la profession ; 68 % ont choisi « la gouvernance et la conformité de l’IA », devant les cadres de modélisation des menaces liées à l’IA (16 %), la sécurisation des chaînes de données de l’IA (11 %) et les défenses contre les attaques adverses (5 %) [8]. Un sondage de cette taille et de ce format ne constitue pas un échantillon scientifique de l’ensemble de la profession, point sur lequel cet article revient dans la section Limites, mais l’orientation du résultat — la gouvernance devançant l’ensemble des catégories techniques réunies — se prête difficilement à une autre lecture.
| Rôle | Ce qu’il fait | Origine | Documents de référence |
|---|---|---|---|
| Red teaming de l’IA | Sonde les systèmes d’IA déployés à la recherche de défaillances et d’abus, de manière répétée compte tenu du caractère probabiliste des sorties | Tests d’intrusion, recherche en ML adverse | MITRE ATLAS [3] |
| Sécurité des modèles / agents | Sécurise la couche applicative et la chaîne d’approvisionnement autour d’un modèle ou d’un agent déployé | Sécurité applicative | OWASP LLM Top 10 [2] |
| Ingénierie de détection | Conçoit et ajuste les chaînes qui transforment la télémétrie, y compris les signaux issus de l’IA, en alertes | Opérations de sécurité, analyse SOC | MITRE D3FEND [7] |
| Gouvernance de l’IA | Définit les politiques, les responsabilités et les contrôles de risque encadrant l’adoption de l’IA par une organisation | Gestion des risques, conformité | NIST AI RMF [4] |
Analyse
Deux constats s’imposent lorsque l’on compare ces rôles. D’abord, aucun ne rompt nettement avec le travail de cybersécurité existant : chacun est une discipline traditionnelle (red teaming, sécurité applicative, opérations de sécurité, gouvernance) appliquée à un type de cible plus récent. Cela concorde avec ce que suggèrent les données de CyberSeek : avec seulement 10 % des offres mentionnant explicitement des compétences en IA, la plupart des employeurs ne recrutent pas encore pour un rôle distinct de « sécurité de l’IA », mais demandent plutôt aux rôles existants de couvrir un périmètre plus large [5]. Ensuite, l’accès à chacun des quatre rôles passe toujours d’abord par les fondamentaux généraux de la cybersécurité. Les énoncés de tâches, de connaissances et de compétences des catégories existantes du NICE — et non une filière IA séparée — restent la base décrite par les employeurs et les organismes de formation [1], et la certification d’entrée de l’ISC2, Certified in Cybersecurity (CC), qui ne suppose aucune expérience professionnelle préalable, couvre toujours les principes généraux de sécurité, la gouvernance, la gestion des identités et des accès, les réseaux et les opérations de sécurité avant tout contenu propre à l’IA [9].
On accède à ces rôles par un petit nombre de parcours éprouvés plutôt que par une filière unique : un socle en cybersécurité (autodidacte, bootcamp ou diplôme) suivi d’une spécialisation une fois intégré à une équipe ; un parcours en développement logiciel ou en data science qui glisse vers la sécurité lorsqu’une équipe a besoin de quelqu’un pour sécuriser ce qu’elle a construit ; et la pratique concrète par des exercices de capture the flag, qui incluent désormais des modules de sécurité de l’IA. La CyLab Security Academy de l’université Carnegie Mellon gère picoCTF, une plateforme gratuite qui s’est étendue « des fondamentaux de la sécurité jusqu’à des domaines avancés comme la sécurité de l’IA », et qui considère la participation suivie, plutôt qu’un certificat isolé, comme la preuve de compétence qu’elle mesure dans le temps [10]. À la lecture croisée des sources ci-dessus, les employeurs attendent généralement une connaissance pratique d’un ou plusieurs des référentiels suivants : NICE, le LLM Top 10 de l’OWASP, MITRE ATLAS ou D3FEND, et le NIST AI RMF, en plus des fondamentaux de sécurité sur lesquels reposent les quatre rôles.
- D’abord les fondamentaux de la cybersécurité : la triade CIA, la distinction entre menaces, vulnérabilités et risques, et l’ingénierie sociale — le vocabulaire que présupposent les quatre rôles. Le cours Foundations of cybersecurity de FireAI University couvre ce terrain.
- Ensuite la modélisation des menaces : apprendre à raisonner sur qui ciblerait un système et pourquoi, avant de se spécialiser dans une technique. Voir Threat modelling and risk.
- Puis une filière : le versant offensif vers le red teaming de l’IA avec Offensive security: how the red team thinks et Adversarial AI and threat hunting ; le versant défensif vers l’ingénierie de détection avec Defensive operations: how the blue team works et, pour l’aspect poste de travail du problème, AI-driven desktop defense.
Recommandations
- Construire le socle général avant la spécialisation : ce sont toujours les catégories existantes du cadre NICE, et non une filière consacrée à l’IA, qui inspirent la plupart des descriptions de poste [1].
- Lire le Top 10 for LLM Applications de l’OWASP et parcourir au moins les études de cas de MITRE ATLAS ; les deux sont gratuits et publics, et ce sont les documents que les praticiens de ces rôles sont censés déjà connaître [2] [3].
- S’exercer sur une plateforme de CTF proposant des défis de sécurité de l’IA, comme picoCTF, plutôt que de considérer la seule théorie comme suffisante [10].
- Pour qui s’intéresse à la gouvernance, étudier directement les quatre fonctions du NIST AI RMF ; le sondage de l’ISC2 suggère que les employeurs placent actuellement ce domaine au-dessus de toute spécialisation technique prise isolément [4] [8].
- Suivre l’évolution réelle des menaces et des outils plutôt que de s’en remettre à une source statique unique, au moyen d’un journal de recherche tenu à jour comme le FireAI Radar.
Limites
Dans sa version publiée, le cadre NICE ne définit pas encore de rôles propres à l’IA ; les quatre regroupements de cet article sont une synthèse de normes voisines établie par cette publication, et non une taxonomie officielle, et les intitulés de poste pour un même travail varient fortement d’un employeur à l’autre [1]. Le sondage de l’ISC2 sur la gouvernance a réuni plus de 500 répondants issus d’une seule audience LinkedIn, auto-sélectionnés pour y répondre ; il s’agit d’un indicateur réel du sentiment des praticiens, non d’un échantillon probabiliste de la profession, et sa marge d’erreur n’est pas indiquée [8]. Le chiffre de 10 % de CyberSeek inclut toute offre mentionnant des compétences en IA, ce qui peut recouvrir une culture générale de l’IA plutôt qu’un travail de sécurité de l’IA à proprement parler, et ne concerne que le marché américain [5]. Concernant la rémunération : la seule source consultée comportant des chiffres de salaire précis, les données mondiales 2024 de l’ISC2 sur ses certifications, ne porte pas spécifiquement sur les rôles de sécurité de l’IA — elle indiquait en mai 2024 des salaires moyens mondiaux allant de 94 948 $ pour la certification SSCP, proche du niveau d’entrée, à 119 577 $ pour le CISSP — et aucune source consultée pour cet article ne fournit de chiffre distinct et fiable pour les spécialistes de la sécurité de l’IA [11].
Le rôle de FireAI et de HisnLabs
Aucun des quatre rôles décrits dans cet article n’est assuré par un pare-feu ; FireAI est un outil embarqué au périmètre plus étroit, et le lien honnête avec une carrière dans ce domaine passe par la pratique et les documents de référence, non par le produit lui-même.
FireAI est le produit de HisnLabs : un pare-feu IA embarqué pour Mac. Il montre en langage clair chaque connexion faite par vos applications et vous laisse décider ce qui sort de votre Mac — son IA fonctionne en local, votre trafic ne nous est jamais envoyé, ni à personne d’autre. L’équipe de recherche en sécurité de HisnLabs est celle qui garde ces décisions fiables : elle recense les domaines de simple télémétrie face à ceux d’un vrai service, suit le pays et le réseau derrière une connexion, et entraîne le modèle embarqué (la fonction FireAI Pilot) sur du trafic réel, sans que rien ne quitte votre Mac.
Vous pouvez lire les choix techniques qui s’y trouvent, ou essayer FireAI pendant 17 jours, sur FireAI, par HisnLabs.