Les agents IA ne se contentent plus de répondre à des questions. Ils parcourent des systèmes, déclenchent des actions et prennent des décisions sans intervention directe. Cette autonomie multiplie les gains de productivité, mais aussi les surfaces d'attaque. Pour un dirigeant ou un responsable IT, la question n'est plus de savoir si l'agent est utile, mais s'il est contrôlé.
1. Injection de prompt : quand l'utilisateur devient pirate
Un agent peut recevoir des instructions cachées dans un document, un e-mail ou une page web. Un prompt injecté peut le pousser à ignorer ses consignes, divulguer des données ou exécuter une action non prévue. La protection passe par un filtrage des entrées, des instructions système figées et une sandbox qui limite ce que l'agent est autorisé à faire.
2. Exfiltration de données : la fuite par l'outil autorisé
Un agent connecté à une base de connaissances ou à des e-mails peut, sous une demande habile, extraire et transmettre des informations sensibles vers l'extérieur. Il faut cloisonner les accès par rôle, interdire les transferts non contrôlés et choisir des fournisseurs qui ne réutilisent pas les données pour entraîner leurs modèles.
3. Actions non autorisées : trop de pouvoir donné trop tôt
Un agent capable d'envoyer des e-mails, de modifier un CRM ou de valider une commande peut commettre des erreurs irréversibles. Le principe du moindre privilège s'applique : on lui donne seulement les permissions strictement nécessaires, avec une validation humaine obligatoire pour les actions sensibles ou irréversibles.
4. Hallucinations dans des processus critiques
Un agent peut inventer un chiffre, une clause ou un statut, puis agir dessus. Si cette action touche une paie, une commande ou une décision client, le dommage dépasse largement l'erreur de contenu. Les processus critiques doivent inclure un contrôle humain final et des sources vérifiables avant toute action.
5. Dépendance à un fournisseur : le risque de verrouillage
Concentrer tous ses agents sur un seul modèle ou une seule infrastructure rend l'entreprise vulnérable aux hausses de prix, aux changements de conditions ou à une interruption de service. Une stratégie multi-fournisseurs, couplée à des formats de données exportables, préserve la maîtrise du système sur le long terme.
6. Agentjacking : vol de contrôle d'un agent
L'agentjacking désigne la prise de contrôle d'un agent par un attaquant qui en détourne les permissions. Ce risque apparaît quand les clés d'API, les jetons d'accès ou les identifiants sont mal stockés. La réponse passe par une gestion centralisée des secrets, une authentification forte et une rotation régulière des identifiants.
7. Absence de logs : l'impossible rétro-contrôle
Sans journal complet des décisions, des accès et des modifications, il est impossible d'auditer un incident ou de prouver sa conformité. Les agents doivent consigner leurs actions avec horodatage, source et utilisateur associé. Cette traçabilité est aussi une exigence croissante de l'AI Act pour les systèmes à haut risque.
« Un agent autonome sans garde-fou n'est pas une innovation : c'est une faille de sécurité avec une interface conversationnelle. »
Une formation pour sécuriser avant d'automatiser
Formtech, organisme de formation IA certifié Qualiopi, accompagne les entreprises dans la formation IA Avancée pour concevoir, déployer et sécuriser des agents IA. En intra-entreprise, 4 à 12 participants travaillent sur leurs cas réels avec 70 % de pratique. Le diagnostic gratuit permet d'identifier les risques prioritaires avant tout investissement.