Lorsque les outils efficaces deviennent inefficaces : comment éviter la dépendance aux outils d'IA et empêcher l'IA de jouer un double rôle.

Le développement assisté par l'IA (ou sa version plus tendance, le « codage vibrant ») a un impact considérable et révolutionnaire sur la génération de code. Les développeurs établis adoptent massivement ces outils, et ceux qui souhaitaient créer des logiciels mais ne disposaient pas de l'expérience nécessaire les utilisent pour construire des actifs qui, auparavant, auraient nécessité beaucoup de temps et d'argent. Cette technologie devrait ouvrir une nouvelle ère d'innovation, mais elle engendre également de nouvelles vulnérabilités et de nouveaux profils de risque que les responsables de la sécurité s'efforcent de mitiger.

Récemment, InvariantLabs a identifié une vulnérabilité significative dans le protocole MCP (Model Context Protocol), un cadre similaire à une API qui permet à de puissants outils d'IA d'interagir de manière autonome avec d'autres logiciels et bases de données. Cette vulnérabilité ouvre la voie à une nouvelle catégorie d'attaques particulièrement préjudiciables pour les entreprises, appelées « attaques par instrumentation d'outils » (Tool Instrumentation Attacks).Les principaux outils d'IA tels que Windsurf et Cursor ne font pas exception. Étant donné qu'ils comptent des millions d'utilisateurs, il est essentiel de disposer de la sensibilisation et des compétences nécessaires pour gérer ces nouveaux problèmes de sécurité.

Actuellement, les résultats de ces outils sont les suivants. Comme mentionné précédemment, ils sont suffisamment sûrs pour être classés parmi les produits de niveau entreprise. Selon un récent article de recherche rédigé par les chercheurs en sécurité AWS et Intuit, Vinish Sainarajala et Idan Habler: «À mesure que l'autonomie des systèmes d'IA s'améliore et qu'ils commencent à interagir directement avec des outils externes et des données en temps réel grâce à des fonctionnalités telles que le MCP, il devient absolument essentiel de garantir la sécurité de ces interactions. »

Profil de risque du système d'agent IA et du protocole de contexte du modèle

Le protocole Model Context est un logiciel pratique développé par Anthropos. Il permet une intégration plus fluide et transparente entre les agents IA à grand modèle linguistique (LLM) et d'autres outils. Il s'agit d'un cas d'utilisation puissant qui ouvre la voie à des interactions entre des solutions IA de pointe et des applications propriétaires ou des outils SaaS critiques pour l'entreprise, tels que GitHub. Il suffit de commencer par créer un serveur MCP et de définir des directives sur le fonctionnement et l'objectif souhaités.

En réalité, l'impact de la technologie MCP sur la sécurité est largement positif. La promesse d'une intégration plus directe entre la pile technologique utilisée par les experts en sécurité et le LLM est indéniablement attrayante et démontre qu'il est possible d'automatiser les tâches de sécurité avec un niveau de précision auparavant impossible, sans avoir à écrire et déployer du code personnalisé pour chaque tâche.Compte tenu du fait qu'une visibilité et une connectivité étendues entre les données, les outils et les ressources humaines constituent la base d'une défense et d'une planification efficaces en matière de sécurité, l'interopérabilité améliorée des LLM offerte par le MCP représente une perspective intéressante pour la sécurité des entreprises.

Cependant, l'utilisation du MCP peut introduire d'autres vecteurs de menaces qui, s'ils ne sont pas gérés avec prudence, peuvent considérablement élargir la portée des attaques contre l'entreprise. Comme mentionné précédemment, les attaques par outil poison d'Invariant Labs constituent une nouvelle catégorie de vulnérabilités pouvant entraîner la fuite de données sensibles et des activités non autorisées des modèles d'IA, ce qui peut rapidement avoir des conséquences graves sur la sécurité.

Selon InvariantLabs, une attaque par intoxication des outils peut se produire lorsque des commandes malveillantes sont incluses dans la description d'un outil MCP, qui est entièrement lisible et exécutable par le modèle d'IA, mais invisible pour l'utilisateur. Cela permet de tromper l'outil afin qu'il effectue des tâches incorrectes sans que l'utilisateur ne s'en aperçoive. Le problème réside dans l'hypothèse du MCP selon laquelle toutes les descriptions d'outils doivent être fiables. C'est une situation qui présente un intérêt pour les acteurs malveillants.

Ces derniers soulignent les conséquences suivantes pouvant résulter de l'utilisation d'outils endommagés.

• Autoriser l'accès aux fichiers sensibles (tels que les clés SSH, les fichiers de configuration, les bases de données, etc.) aux modèles d'IA.
• Dans un environnement où ces actions malveillantes sont intrinsèquement dissimulées aux utilisateurs non avertis, l'IA est programmée pour extraire et transmettre ces données.
• Derrière l'interface utilisateur incroyablement simple pour l'acquisition et la sortie des outils, il est possible de créer une séparation entre ce que voit l'utilisateur et ce que fait le modèle d'IA.

Il s'agit d'une catégorie de vulnérabilité préoccupante, qui deviendra certainement plus fréquente à mesure que l'utilisation des MCP continuera d'augmenter inévitablement. À mesure que les programmes de sécurité des entreprises évoluent, il sera essentiel de prendre des mesures prudentes pour détecter et atténuer ces menaces, et de se préparer de manière adéquate afin que les développeurs puissent participer à leur résolution.

Pourquoi seuls les développeurs disposant de compétences en sécurité informatique devraient utiliser les outils d'agent IA

Les outils de codage IA agentique sont considérés comme la prochaine génération de codage assisté par IA et offrent des fonctionnalités qui améliorent l'efficacité, la productivité et la flexibilité du développement logiciel. Ils sont particulièrement utiles grâce à leur capacité améliorée à comprendre le contexte et l'intention, mais ils ne sont pas exempts de menaces telles que l'injection immédiate, les hallucinations ou la manipulation du comportement par des attaquants.

Les développeurs constituent une ligne de défense permettant de distinguer les bons commits de code des mauvais. Il sera essentiel pour l'avenir du développement de logiciels de sécurité de maintenir à la fois une sécurité et une pensée critique rigoureuses.

Les résultats de l'IA ne doivent en aucun cas être mis en œuvre avec une confiance aveugle. Les développeurs expérimentés en matière de sécurité, qui font preuve d'un esprit critique adapté à chaque situation, peuvent exploiter en toute sécurité les gains de productivité offerts par cette technologie. Toutefois, il est nécessaire de disposer d'un environnement de programmation en binôme dans lequel des experts humains peuvent évaluer les tâches générées par l'outil, modéliser les menaces et, enfin, donner leur approbation.

Découvrez comment les développeurs peuvent utiliser l'IA pour améliorer leurs compétences et accroître leur productivité.

Veuillez consulter les techniques d'atténuation pratiques et les derniers articles de recherche pour plus d'informations.

Les outils de codage IA et la technologie MCP devraient jouer un rôle important dans l'avenir de la cybersécurité, mais il est essentiel de bien se renseigner avant de se lancer.

Nous détaillons une stratégie d'atténuation complète pour mettre en œuvre le MCP au niveau de l'entreprise et gérer les risques de manière continue. En fin de compte, cette nouvelle stratégie vise explicitement le profil de risque unique que ce nouvel écosystème apporte à l'environnement de l'entreprise, en se concentrant sur les principes de défense en profondeur et de confiance zéro. Il est particulièrement important pour les développeurs de combler leurs lacunes dans les domaines suivants.

• Certification et contrôle d'accès: les outils d'IA agentique ont la capacité de prendre des décisions autonomes pour résoudre des problèmes et atteindre des objectifs planifiés, à l'instar de la manière dont les humains abordent les tâches d'ingénierie. Cependant, comme nous l'avons établi jusqu'à présent, la supervision d'une personne expérimentée dans ces processus ne doit pas être négligée. Les développeurs qui utilisent ces outils dans leur flux de travail doivent comprendre précisément quels sont leurs droits d'accès, quelles données ils peuvent rechercher ou exposer, et où celles-ci peuvent être partagées.
• Détection et atténuation des menaces générales: comme pour la plupart des processus d'IA, les utilisateurs doivent être compétents pour détecter les défauts et inexactitudes potentiels dans les résultats des outils. Les développeurs doivent suivre une formation continue et être certifiés sur ces technologies afin de pouvoir examiner efficacement les processus de sécurité. Ils peuvent également examiner le code généré par l'IA avec précision et autorité en matière de sécurité.
• Coordination avec les politiques de sécurité et la gouvernance de l'IA: il est nécessaire d'informer les développeurs des outils approuvés, de leur permettre d'acquérir les compétences nécessaires et de leur donner accès à ces outils. Pour garantir la fiabilité des commits, les développeurs et les outils doivent être soumis à des tests de sécurité.

Notre récente publication scientifique examine l'émergence du codage vibrant et du codage assisté par l'IA, ainsi que les mesures que les entreprises doivent prendre pour améliorer la prochaine génération d'ingénieurs logiciels basés sur l'IA. Nous vous invitons à la consulter et à nous contacter dès maintenant pour renforcer votre équipe de développement.