OWASP Top 10 pour les applications LLM : Ce qui est nouveau, ce qui a changé et comment rester en sécurité
Pour adopter une approche proactive de la sécurisation de vos logiciels, vous devez rester à la pointe des dernières normes et exigences de conformité. Après tout, le paysage de la cybersécurité est constamment en mouvement avec de nouvelles menaces et vulnérabilités, en particulier avec l'émergence de nouvelles technologies. Cela n'a jamais été aussi vrai qu'aujourd'hui où nous nous trouvons collectivement à un point d'inflexion de l'IA où de nouvelles évolutions et de nouveaux cas d'utilisation semblent émerger chaque jour.
Pour relever ces défis, la Fondation OWASP a récemment publié sa version mise à jour de l'OWASP Top 10 for Large Language Model (LLM) Applications, qui vise à informer les développeurs, les architectes et les autres contributeurs à la livraison de logiciels des risques potentiels lors du déploiement de LLM et d'applications d'IA générative. À l'adresse Secure Code Warrior , nous sommes ravis d'annoncer que les changements et les mises à jour de cette dernière version sont déjà mis en œuvre et disponibles dans notre code sécurisé learning platform. Grâce à ces documents nouvellement disponibles et mis à jour, tous nos utilisateurs peuvent rester à la pointe de l'atténuation des risques lors de l'utilisation des LLM.
Quelles sont les nouveautés de cette mise à jour ?
L'OWASP a supprimé deux éléments de son précédent Top 10 :
- Conception non sécurisée des plugins - qui concerne la manière dont les LLM interagissent avec les plugins et la manière dont les plugins interagissent avec le stockage ou les services externes.
- Le vol de modèles: il s'agit de la reproduction ou de l'acquisition non autorisée de modèles d'apprentissage automatique ou de systèmes d'intelligence artificielle.
Conformément aux versions précédentes du Top 10 de l'OWASP, Secure Code Warrior avait des lignes directrices associées à ces vulnérabilités dans le cadre de notre cours LLM Top 10. Ces lignes directrices, qui fournissent des informations digestes sur les vulnérabilités et les concepts de sécurité dans un format facile à comprendre et à lire, ont depuis été retirées du programme du cours. Cependant, les lignes directrices restent disponibles dans Explore, avec tous les autres matériels d'apprentissage que nous avons à offrir.
L'OWASP a ajouté deux nouveaux éléments à son Top 10, qui reste donc un Top 10 officiel :
- Fuite d'invites du système - lorsque des invites généralement cachées qui guident le comportement d'un modèle sont exposées aux utilisateurs.
- Vecteur et incorporation - qui peuvent exposer des informations spécifiques, exclusives ou en temps réel qui ne sont pas accessibles au public.
Les lignes directrices relatives à ces vulnérabilités ont été ajoutées au cours LLM Top 10 et, tout comme les lignes directrices qui ont été supprimées, elles sont également accessibles dans Explore pour les utilisateurs qui souhaitent bénéficier d'un apprentissage à leur rythme.
Enfin, l'OWASP a également apporté quelques modifications aux catégories de vulnérabilités existantes dans sa liste, en renommant certaines catégories pour les rendre plus larges ou plus spécifiques, et en modifiant leurs définitions. Nos lignes directrices relatives à ces sujets ont été mises à jour pour refléter les changements mineurs apportés par l'OWASP ainsi que les nouvelles conventions de dénomination. En outre, leur liste par ordre de priorité a été mise à jour pour correspondre à l'ordre établi dans le Top 10 du LLM de l'OWASP.
Sur Secure Code Warrior, nous nous engageons à aider nos utilisateurs à rester à la pointe de la technologie. Avec les dernières mises à jour de l'OWASP déjà reflétées dans notre site agile learning platform, nous avons facilité l'accès de nos utilisateurs à des supports de formation actualisés qui couvrent les vulnérabilités les plus récentes et réduisent les risques lors du déploiement des technologies LLM et Generative AI. Que vous naviguiez dans les menaces nouvellement introduites de la fuite de l'invite du système ou du vecteur et de l'intégration, ou que vous mettiez à jour votre compréhension de la désinformation et de la consommation illimitée, notre plateforme fournit les ressources dont vous avez besoin pour maîtriser ces concepts critiques qui améliorent votre posture de sécurité.


Gardez une longueur d'avance dans la sécurisation des applications LLM avec les dernières mises à jour du Top 10 de l'OWASP. Découvrez ce qui est nouveau, ce qui a changé et comment Secure Code Warrior vous fournit des ressources d'apprentissage actualisées pour atténuer les risques dans l'IA générative.
Secure Code Warrior fait du codage sécurisé une expérience positive et attrayante pour les développeurs à mesure qu'ils améliorent leurs compétences. Nous guidons chaque codeur le long de son propre parcours d'apprentissage, afin que les développeurs compétents en matière de sécurité deviennent les super-héros quotidiens de notre monde connecté.

Secure Code Warrior est là pour vous aider à sécuriser le code tout au long du cycle de vie du développement logiciel et à créer une culture dans laquelle la cybersécurité est une priorité. Que vous soyez responsable AppSec, développeur, CISO ou toute autre personne impliquée dans la sécurité, nous pouvons aider votre organisation à réduire les risques associés à un code non sécurisé.
Réservez une démonstrationSecure Code Warrior fait du codage sécurisé une expérience positive et attrayante pour les développeurs à mesure qu'ils améliorent leurs compétences. Nous guidons chaque codeur le long de son propre parcours d'apprentissage, afin que les développeurs compétents en matière de sécurité deviennent les super-héros quotidiens de notre monde connecté.
Cet article a été écrit par Secure Code Warrior L'équipe d'experts du secteur de s'engage à fournir aux développeurs les connaissances et les compétences nécessaires pour créer des logiciels sécurisés dès le départ. S'appuyant sur une expertise approfondie des pratiques de codage sécurisé, des tendances du secteur et des connaissances du monde réel.


Pour adopter une approche proactive de la sécurisation de vos logiciels, vous devez rester à la pointe des dernières normes et exigences de conformité. Après tout, le paysage de la cybersécurité est constamment en mouvement avec de nouvelles menaces et vulnérabilités, en particulier avec l'émergence de nouvelles technologies. Cela n'a jamais été aussi vrai qu'aujourd'hui où nous nous trouvons collectivement à un point d'inflexion de l'IA où de nouvelles évolutions et de nouveaux cas d'utilisation semblent émerger chaque jour.
Pour relever ces défis, la Fondation OWASP a récemment publié sa version mise à jour de l'OWASP Top 10 for Large Language Model (LLM) Applications, qui vise à informer les développeurs, les architectes et les autres contributeurs à la livraison de logiciels des risques potentiels lors du déploiement de LLM et d'applications d'IA générative. À l'adresse Secure Code Warrior , nous sommes ravis d'annoncer que les changements et les mises à jour de cette dernière version sont déjà mis en œuvre et disponibles dans notre code sécurisé learning platform. Grâce à ces documents nouvellement disponibles et mis à jour, tous nos utilisateurs peuvent rester à la pointe de l'atténuation des risques lors de l'utilisation des LLM.
Quelles sont les nouveautés de cette mise à jour ?
L'OWASP a supprimé deux éléments de son précédent Top 10 :
- Conception non sécurisée des plugins - qui concerne la manière dont les LLM interagissent avec les plugins et la manière dont les plugins interagissent avec le stockage ou les services externes.
- Le vol de modèles: il s'agit de la reproduction ou de l'acquisition non autorisée de modèles d'apprentissage automatique ou de systèmes d'intelligence artificielle.
Conformément aux versions précédentes du Top 10 de l'OWASP, Secure Code Warrior avait des lignes directrices associées à ces vulnérabilités dans le cadre de notre cours LLM Top 10. Ces lignes directrices, qui fournissent des informations digestes sur les vulnérabilités et les concepts de sécurité dans un format facile à comprendre et à lire, ont depuis été retirées du programme du cours. Cependant, les lignes directrices restent disponibles dans Explore, avec tous les autres matériels d'apprentissage que nous avons à offrir.
L'OWASP a ajouté deux nouveaux éléments à son Top 10, qui reste donc un Top 10 officiel :
- Fuite d'invites du système - lorsque des invites généralement cachées qui guident le comportement d'un modèle sont exposées aux utilisateurs.
- Vecteur et incorporation - qui peuvent exposer des informations spécifiques, exclusives ou en temps réel qui ne sont pas accessibles au public.
Les lignes directrices relatives à ces vulnérabilités ont été ajoutées au cours LLM Top 10 et, tout comme les lignes directrices qui ont été supprimées, elles sont également accessibles dans Explore pour les utilisateurs qui souhaitent bénéficier d'un apprentissage à leur rythme.
Enfin, l'OWASP a également apporté quelques modifications aux catégories de vulnérabilités existantes dans sa liste, en renommant certaines catégories pour les rendre plus larges ou plus spécifiques, et en modifiant leurs définitions. Nos lignes directrices relatives à ces sujets ont été mises à jour pour refléter les changements mineurs apportés par l'OWASP ainsi que les nouvelles conventions de dénomination. En outre, leur liste par ordre de priorité a été mise à jour pour correspondre à l'ordre établi dans le Top 10 du LLM de l'OWASP.
Sur Secure Code Warrior, nous nous engageons à aider nos utilisateurs à rester à la pointe de la technologie. Avec les dernières mises à jour de l'OWASP déjà reflétées dans notre site agile learning platform, nous avons facilité l'accès de nos utilisateurs à des supports de formation actualisés qui couvrent les vulnérabilités les plus récentes et réduisent les risques lors du déploiement des technologies LLM et Generative AI. Que vous naviguiez dans les menaces nouvellement introduites de la fuite de l'invite du système ou du vecteur et de l'intégration, ou que vous mettiez à jour votre compréhension de la désinformation et de la consommation illimitée, notre plateforme fournit les ressources dont vous avez besoin pour maîtriser ces concepts critiques qui améliorent votre posture de sécurité.

Pour adopter une approche proactive de la sécurisation de vos logiciels, vous devez rester à la pointe des dernières normes et exigences de conformité. Après tout, le paysage de la cybersécurité est constamment en mouvement avec de nouvelles menaces et vulnérabilités, en particulier avec l'émergence de nouvelles technologies. Cela n'a jamais été aussi vrai qu'aujourd'hui où nous nous trouvons collectivement à un point d'inflexion de l'IA où de nouvelles évolutions et de nouveaux cas d'utilisation semblent émerger chaque jour.
Pour relever ces défis, la Fondation OWASP a récemment publié sa version mise à jour de l'OWASP Top 10 for Large Language Model (LLM) Applications, qui vise à informer les développeurs, les architectes et les autres contributeurs à la livraison de logiciels des risques potentiels lors du déploiement de LLM et d'applications d'IA générative. À l'adresse Secure Code Warrior , nous sommes ravis d'annoncer que les changements et les mises à jour de cette dernière version sont déjà mis en œuvre et disponibles dans notre code sécurisé learning platform. Grâce à ces documents nouvellement disponibles et mis à jour, tous nos utilisateurs peuvent rester à la pointe de l'atténuation des risques lors de l'utilisation des LLM.
Quelles sont les nouveautés de cette mise à jour ?
L'OWASP a supprimé deux éléments de son précédent Top 10 :
- Conception non sécurisée des plugins - qui concerne la manière dont les LLM interagissent avec les plugins et la manière dont les plugins interagissent avec le stockage ou les services externes.
- Le vol de modèles: il s'agit de la reproduction ou de l'acquisition non autorisée de modèles d'apprentissage automatique ou de systèmes d'intelligence artificielle.
Conformément aux versions précédentes du Top 10 de l'OWASP, Secure Code Warrior avait des lignes directrices associées à ces vulnérabilités dans le cadre de notre cours LLM Top 10. Ces lignes directrices, qui fournissent des informations digestes sur les vulnérabilités et les concepts de sécurité dans un format facile à comprendre et à lire, ont depuis été retirées du programme du cours. Cependant, les lignes directrices restent disponibles dans Explore, avec tous les autres matériels d'apprentissage que nous avons à offrir.
L'OWASP a ajouté deux nouveaux éléments à son Top 10, qui reste donc un Top 10 officiel :
- Fuite d'invites du système - lorsque des invites généralement cachées qui guident le comportement d'un modèle sont exposées aux utilisateurs.
- Vecteur et incorporation - qui peuvent exposer des informations spécifiques, exclusives ou en temps réel qui ne sont pas accessibles au public.
Les lignes directrices relatives à ces vulnérabilités ont été ajoutées au cours LLM Top 10 et, tout comme les lignes directrices qui ont été supprimées, elles sont également accessibles dans Explore pour les utilisateurs qui souhaitent bénéficier d'un apprentissage à leur rythme.
Enfin, l'OWASP a également apporté quelques modifications aux catégories de vulnérabilités existantes dans sa liste, en renommant certaines catégories pour les rendre plus larges ou plus spécifiques, et en modifiant leurs définitions. Nos lignes directrices relatives à ces sujets ont été mises à jour pour refléter les changements mineurs apportés par l'OWASP ainsi que les nouvelles conventions de dénomination. En outre, leur liste par ordre de priorité a été mise à jour pour correspondre à l'ordre établi dans le Top 10 du LLM de l'OWASP.
Sur Secure Code Warrior, nous nous engageons à aider nos utilisateurs à rester à la pointe de la technologie. Avec les dernières mises à jour de l'OWASP déjà reflétées dans notre site agile learning platform, nous avons facilité l'accès de nos utilisateurs à des supports de formation actualisés qui couvrent les vulnérabilités les plus récentes et réduisent les risques lors du déploiement des technologies LLM et Generative AI. Que vous naviguiez dans les menaces nouvellement introduites de la fuite de l'invite du système ou du vecteur et de l'intégration, ou que vous mettiez à jour votre compréhension de la désinformation et de la consommation illimitée, notre plateforme fournit les ressources dont vous avez besoin pour maîtriser ces concepts critiques qui améliorent votre posture de sécurité.

Cliquez sur le lien ci-dessous et téléchargez le PDF de cette ressource.
Secure Code Warrior est là pour vous aider à sécuriser le code tout au long du cycle de vie du développement logiciel et à créer une culture dans laquelle la cybersécurité est une priorité. Que vous soyez responsable AppSec, développeur, CISO ou toute autre personne impliquée dans la sécurité, nous pouvons aider votre organisation à réduire les risques associés à un code non sécurisé.
Voir le rapportRéservez une démonstrationSecure Code Warrior fait du codage sécurisé une expérience positive et attrayante pour les développeurs à mesure qu'ils améliorent leurs compétences. Nous guidons chaque codeur le long de son propre parcours d'apprentissage, afin que les développeurs compétents en matière de sécurité deviennent les super-héros quotidiens de notre monde connecté.
Cet article a été écrit par Secure Code Warrior L'équipe d'experts du secteur de s'engage à fournir aux développeurs les connaissances et les compétences nécessaires pour créer des logiciels sécurisés dès le départ. S'appuyant sur une expertise approfondie des pratiques de codage sécurisé, des tendances du secteur et des connaissances du monde réel.
Pour adopter une approche proactive de la sécurisation de vos logiciels, vous devez rester à la pointe des dernières normes et exigences de conformité. Après tout, le paysage de la cybersécurité est constamment en mouvement avec de nouvelles menaces et vulnérabilités, en particulier avec l'émergence de nouvelles technologies. Cela n'a jamais été aussi vrai qu'aujourd'hui où nous nous trouvons collectivement à un point d'inflexion de l'IA où de nouvelles évolutions et de nouveaux cas d'utilisation semblent émerger chaque jour.
Pour relever ces défis, la Fondation OWASP a récemment publié sa version mise à jour de l'OWASP Top 10 for Large Language Model (LLM) Applications, qui vise à informer les développeurs, les architectes et les autres contributeurs à la livraison de logiciels des risques potentiels lors du déploiement de LLM et d'applications d'IA générative. À l'adresse Secure Code Warrior , nous sommes ravis d'annoncer que les changements et les mises à jour de cette dernière version sont déjà mis en œuvre et disponibles dans notre code sécurisé learning platform. Grâce à ces documents nouvellement disponibles et mis à jour, tous nos utilisateurs peuvent rester à la pointe de l'atténuation des risques lors de l'utilisation des LLM.
Quelles sont les nouveautés de cette mise à jour ?
L'OWASP a supprimé deux éléments de son précédent Top 10 :
- Conception non sécurisée des plugins - qui concerne la manière dont les LLM interagissent avec les plugins et la manière dont les plugins interagissent avec le stockage ou les services externes.
- Le vol de modèles: il s'agit de la reproduction ou de l'acquisition non autorisée de modèles d'apprentissage automatique ou de systèmes d'intelligence artificielle.
Conformément aux versions précédentes du Top 10 de l'OWASP, Secure Code Warrior avait des lignes directrices associées à ces vulnérabilités dans le cadre de notre cours LLM Top 10. Ces lignes directrices, qui fournissent des informations digestes sur les vulnérabilités et les concepts de sécurité dans un format facile à comprendre et à lire, ont depuis été retirées du programme du cours. Cependant, les lignes directrices restent disponibles dans Explore, avec tous les autres matériels d'apprentissage que nous avons à offrir.
L'OWASP a ajouté deux nouveaux éléments à son Top 10, qui reste donc un Top 10 officiel :
- Fuite d'invites du système - lorsque des invites généralement cachées qui guident le comportement d'un modèle sont exposées aux utilisateurs.
- Vecteur et incorporation - qui peuvent exposer des informations spécifiques, exclusives ou en temps réel qui ne sont pas accessibles au public.
Les lignes directrices relatives à ces vulnérabilités ont été ajoutées au cours LLM Top 10 et, tout comme les lignes directrices qui ont été supprimées, elles sont également accessibles dans Explore pour les utilisateurs qui souhaitent bénéficier d'un apprentissage à leur rythme.
Enfin, l'OWASP a également apporté quelques modifications aux catégories de vulnérabilités existantes dans sa liste, en renommant certaines catégories pour les rendre plus larges ou plus spécifiques, et en modifiant leurs définitions. Nos lignes directrices relatives à ces sujets ont été mises à jour pour refléter les changements mineurs apportés par l'OWASP ainsi que les nouvelles conventions de dénomination. En outre, leur liste par ordre de priorité a été mise à jour pour correspondre à l'ordre établi dans le Top 10 du LLM de l'OWASP.
Sur Secure Code Warrior, nous nous engageons à aider nos utilisateurs à rester à la pointe de la technologie. Avec les dernières mises à jour de l'OWASP déjà reflétées dans notre site agile learning platform, nous avons facilité l'accès de nos utilisateurs à des supports de formation actualisés qui couvrent les vulnérabilités les plus récentes et réduisent les risques lors du déploiement des technologies LLM et Generative AI. Que vous naviguiez dans les menaces nouvellement introduites de la fuite de l'invite du système ou du vecteur et de l'intégration, ou que vous mettiez à jour votre compréhension de la désinformation et de la consommation illimitée, notre plateforme fournit les ressources dont vous avez besoin pour maîtriser ces concepts critiques qui améliorent votre posture de sécurité.
Table des matières
Secure Code Warrior fait du codage sécurisé une expérience positive et attrayante pour les développeurs à mesure qu'ils améliorent leurs compétences. Nous guidons chaque codeur le long de son propre parcours d'apprentissage, afin que les développeurs compétents en matière de sécurité deviennent les super-héros quotidiens de notre monde connecté.

Secure Code Warrior est là pour vous aider à sécuriser le code tout au long du cycle de vie du développement logiciel et à créer une culture dans laquelle la cybersécurité est une priorité. Que vous soyez responsable AppSec, développeur, CISO ou toute autre personne impliquée dans la sécurité, nous pouvons aider votre organisation à réduire les risques associés à un code non sécurisé.
Réservez une démonstrationTéléchargerRessources pour vous aider à démarrer
Vibe Coding : Guide pratique pour la mise à jour de votre stratégie AppSec pour l'IA
Regardez à la demande pour apprendre comment permettre aux responsables AppSec de devenir des facilitateurs de l'IA, plutôt que des bloqueurs, grâce à une approche pratique, axée sur la formation. Nous vous montrerons comment tirer parti de Secure Code Warrior (SCW) pour actualiser votre stratégie AppSec à l'ère des assistants de codage IA.
AI Coding Assistants : Un guide de navigation sécurisée pour la prochaine génération de développeurs
Les grands modèles linguistiques offrent des avantages irrésistibles en termes de rapidité et de productivité, mais ils présentent également des risques indéniables pour l'entreprise. Les garde-fous traditionnels ne suffisent pas à contrôler le déluge. Les développeurs ont besoin de compétences précises et vérifiées en matière de sécurité pour identifier et prévenir les failles de sécurité dès le début du cycle de développement du logiciel.
Ressources pour vous aider à démarrer
Qu'est-ce que le codage sécurisé ? Techniques, normes et ressources
Découvrez ce que signifie réellement le codage sécurisé et comment les pratiques de codage sécurisé peuvent réduire à la fois les vulnérabilités et les coûts liés à la sécurité dans votre entreprise.
10 000+ activités d'apprentissage du code sécurisé : Une décennie de gestion des risques pour les développeurs
Célébration de plus de 10 000 activités d'apprentissage du code sécurisé et d'une décennie d'habilitation des développeurs à réduire les risques, à améliorer la qualité du code et à aborder en toute confiance le développement assisté par l'IA.
Définir la norme : SCW publie des règles de sécurité gratuites pour le codage de l'IA sur GitHub
Le développement assisté par IA n'est plus un horizon : il est bel et bien là, et il transforme rapidement la manière dont les logiciels sont écrits. Des outils comme GitHub Copilot, Cline, Roo, Cursor, Aider et Windsurf transforment les développeurs en copilotes, permettant des itérations plus rapides et accélérant tout, du prototypage aux projets de refactorisation majeurs.