OWASP Top 10 pour les applications LLM : Ce qui est nouveau, ce qui a changé et comment rester en sécurité
Pour adopter une approche proactive de la sécurisation de vos logiciels, vous devez rester à la pointe des dernières normes et exigences de conformité. Après tout, le paysage de la cybersécurité est constamment en mouvement avec de nouvelles menaces et vulnérabilités, en particulier avec l'émergence de nouvelles technologies. Cela n'a jamais été aussi vrai qu'aujourd'hui où nous nous trouvons collectivement à un point d'inflexion de l'IA où de nouvelles évolutions et de nouveaux cas d'utilisation semblent émerger chaque jour.
Pour relever ces défis, la Fondation OWASP a récemment publié sa version mise à jour de l'OWASP Top 10 for Large Language Model (LLM) Applications, qui vise à informer les développeurs, les architectes et les autres contributeurs à la livraison de logiciels des risques potentiels lors du déploiement de LLM et d'applications d'IA générative. À l'adresse Secure Code Warrior , nous sommes ravis d'annoncer que les changements et les mises à jour de cette dernière version sont déjà mis en œuvre et disponibles dans notre code sécurisé learning platform. Grâce à ces documents nouvellement disponibles et mis à jour, tous nos utilisateurs peuvent rester à la pointe de l'atténuation des risques lors de l'utilisation des LLM.
Quelles sont les nouveautés de cette mise à jour ?
L'OWASP a supprimé deux éléments de son précédent Top 10 :
- Conception non sécurisée des plugins - qui concerne la manière dont les LLM interagissent avec les plugins et la manière dont les plugins interagissent avec le stockage ou les services externes.
- Le vol de modèles: il s'agit de la reproduction ou de l'acquisition non autorisée de modèles d'apprentissage automatique ou de systèmes d'intelligence artificielle.
Conformément aux versions précédentes du Top 10 de l'OWASP, Secure Code Warrior avait des lignes directrices associées à ces vulnérabilités dans le cadre de notre cours LLM Top 10. Ces lignes directrices, qui fournissent des informations digestes sur les vulnérabilités et les concepts de sécurité dans un format facile à comprendre et à lire, ont depuis été retirées du programme du cours. Cependant, les lignes directrices restent disponibles dans Explore, avec tous les autres matériels d'apprentissage que nous avons à offrir.
L'OWASP a ajouté deux nouveaux éléments à son Top 10, qui reste donc un Top 10 officiel :
- Fuite d'invites du système - lorsque des invites généralement cachées qui guident le comportement d'un modèle sont exposées aux utilisateurs.
- Vecteur et incorporation - qui peuvent exposer des informations spécifiques, exclusives ou en temps réel qui ne sont pas accessibles au public.
Les lignes directrices relatives à ces vulnérabilités ont été ajoutées au cours LLM Top 10 et, tout comme les lignes directrices qui ont été supprimées, elles sont également accessibles dans Explore pour les utilisateurs qui souhaitent bénéficier d'un apprentissage à leur rythme.
Enfin, l'OWASP a également apporté quelques modifications aux catégories de vulnérabilités existantes dans sa liste, en renommant certaines catégories pour les rendre plus larges ou plus spécifiques, et en modifiant leurs définitions. Nos lignes directrices relatives à ces sujets ont été mises à jour pour refléter les changements mineurs apportés par l'OWASP ainsi que les nouvelles conventions de dénomination. En outre, leur liste par ordre de priorité a été mise à jour pour correspondre à l'ordre établi dans le Top 10 du LLM de l'OWASP.
Sur Secure Code Warrior, nous nous engageons à aider nos utilisateurs à rester à la pointe de la technologie. Avec les dernières mises à jour de l'OWASP déjà reflétées dans notre site agile learning platform, nous avons facilité l'accès de nos utilisateurs à des supports de formation actualisés qui couvrent les vulnérabilités les plus récentes et réduisent les risques lors du déploiement des technologies LLM et Generative AI. Que vous naviguiez dans les menaces nouvellement introduites de la fuite de l'invite du système ou du vecteur et de l'intégration, ou que vous mettiez à jour votre compréhension de la désinformation et de la consommation illimitée, notre plateforme fournit les ressources dont vous avez besoin pour maîtriser ces concepts critiques qui améliorent votre posture de sécurité.
Gardez une longueur d'avance dans la sécurisation des applications LLM avec les dernières mises à jour du Top 10 de l'OWASP. Découvrez ce qui est nouveau, ce qui a changé et comment Secure Code Warrior vous fournit des ressources d'apprentissage actualisées pour atténuer les risques dans l'IA générative.
Secure Code Warrior fait du codage sécurisé une expérience positive et attrayante pour les développeurs à mesure qu'ils améliorent leurs compétences. Nous guidons chaque codeur le long de son propre parcours d'apprentissage, afin que les développeurs compétents en matière de sécurité deviennent les super-héros quotidiens de notre monde connecté.
Secure Code Warrior est là pour vous aider à sécuriser le code tout au long du cycle de vie du développement logiciel et à créer une culture dans laquelle la cybersécurité est une priorité. Que vous soyez responsable AppSec, développeur, CISO ou toute autre personne impliquée dans la sécurité, nous pouvons aider votre organisation à réduire les risques associés à un code non sécurisé.
Réservez une démonstration
Secure Code Warrior fait du codage sécurisé une expérience positive et attrayante pour les développeurs à mesure qu'ils améliorent leurs compétences. Nous guidons chaque codeur le long de son propre parcours d'apprentissage, afin que les développeurs compétents en matière de sécurité deviennent les super-héros quotidiens de notre monde connecté.
Cet article a été écrit par Secure Code Warrior L'équipe d'experts du secteur de s'engage à fournir aux développeurs les connaissances et les compétences nécessaires pour créer des logiciels sécurisés dès le départ. S'appuyant sur une expertise approfondie des pratiques de codage sécurisé, des tendances du secteur et des connaissances du monde réel.
Pour adopter une approche proactive de la sécurisation de vos logiciels, vous devez rester à la pointe des dernières normes et exigences de conformité. Après tout, le paysage de la cybersécurité est constamment en mouvement avec de nouvelles menaces et vulnérabilités, en particulier avec l'émergence de nouvelles technologies. Cela n'a jamais été aussi vrai qu'aujourd'hui où nous nous trouvons collectivement à un point d'inflexion de l'IA où de nouvelles évolutions et de nouveaux cas d'utilisation semblent émerger chaque jour.
Pour relever ces défis, la Fondation OWASP a récemment publié sa version mise à jour de l'OWASP Top 10 for Large Language Model (LLM) Applications, qui vise à informer les développeurs, les architectes et les autres contributeurs à la livraison de logiciels des risques potentiels lors du déploiement de LLM et d'applications d'IA générative. À l'adresse Secure Code Warrior , nous sommes ravis d'annoncer que les changements et les mises à jour de cette dernière version sont déjà mis en œuvre et disponibles dans notre code sécurisé learning platform. Grâce à ces documents nouvellement disponibles et mis à jour, tous nos utilisateurs peuvent rester à la pointe de l'atténuation des risques lors de l'utilisation des LLM.
Quelles sont les nouveautés de cette mise à jour ?
L'OWASP a supprimé deux éléments de son précédent Top 10 :
- Conception non sécurisée des plugins - qui concerne la manière dont les LLM interagissent avec les plugins et la manière dont les plugins interagissent avec le stockage ou les services externes.
- Le vol de modèles: il s'agit de la reproduction ou de l'acquisition non autorisée de modèles d'apprentissage automatique ou de systèmes d'intelligence artificielle.
Conformément aux versions précédentes du Top 10 de l'OWASP, Secure Code Warrior avait des lignes directrices associées à ces vulnérabilités dans le cadre de notre cours LLM Top 10. Ces lignes directrices, qui fournissent des informations digestes sur les vulnérabilités et les concepts de sécurité dans un format facile à comprendre et à lire, ont depuis été retirées du programme du cours. Cependant, les lignes directrices restent disponibles dans Explore, avec tous les autres matériels d'apprentissage que nous avons à offrir.
L'OWASP a ajouté deux nouveaux éléments à son Top 10, qui reste donc un Top 10 officiel :
- Fuite d'invites du système - lorsque des invites généralement cachées qui guident le comportement d'un modèle sont exposées aux utilisateurs.
- Vecteur et incorporation - qui peuvent exposer des informations spécifiques, exclusives ou en temps réel qui ne sont pas accessibles au public.
Les lignes directrices relatives à ces vulnérabilités ont été ajoutées au cours LLM Top 10 et, tout comme les lignes directrices qui ont été supprimées, elles sont également accessibles dans Explore pour les utilisateurs qui souhaitent bénéficier d'un apprentissage à leur rythme.
Enfin, l'OWASP a également apporté quelques modifications aux catégories de vulnérabilités existantes dans sa liste, en renommant certaines catégories pour les rendre plus larges ou plus spécifiques, et en modifiant leurs définitions. Nos lignes directrices relatives à ces sujets ont été mises à jour pour refléter les changements mineurs apportés par l'OWASP ainsi que les nouvelles conventions de dénomination. En outre, leur liste par ordre de priorité a été mise à jour pour correspondre à l'ordre établi dans le Top 10 du LLM de l'OWASP.
Sur Secure Code Warrior, nous nous engageons à aider nos utilisateurs à rester à la pointe de la technologie. Avec les dernières mises à jour de l'OWASP déjà reflétées dans notre site agile learning platform, nous avons facilité l'accès de nos utilisateurs à des supports de formation actualisés qui couvrent les vulnérabilités les plus récentes et réduisent les risques lors du déploiement des technologies LLM et Generative AI. Que vous naviguiez dans les menaces nouvellement introduites de la fuite de l'invite du système ou du vecteur et de l'intégration, ou que vous mettiez à jour votre compréhension de la désinformation et de la consommation illimitée, notre plateforme fournit les ressources dont vous avez besoin pour maîtriser ces concepts critiques qui améliorent votre posture de sécurité.
Pour adopter une approche proactive de la sécurisation de vos logiciels, vous devez rester à la pointe des dernières normes et exigences de conformité. Après tout, le paysage de la cybersécurité est constamment en mouvement avec de nouvelles menaces et vulnérabilités, en particulier avec l'émergence de nouvelles technologies. Cela n'a jamais été aussi vrai qu'aujourd'hui où nous nous trouvons collectivement à un point d'inflexion de l'IA où de nouvelles évolutions et de nouveaux cas d'utilisation semblent émerger chaque jour.
Pour relever ces défis, la Fondation OWASP a récemment publié sa version mise à jour de l'OWASP Top 10 for Large Language Model (LLM) Applications, qui vise à informer les développeurs, les architectes et les autres contributeurs à la livraison de logiciels des risques potentiels lors du déploiement de LLM et d'applications d'IA générative. À l'adresse Secure Code Warrior , nous sommes ravis d'annoncer que les changements et les mises à jour de cette dernière version sont déjà mis en œuvre et disponibles dans notre code sécurisé learning platform. Grâce à ces documents nouvellement disponibles et mis à jour, tous nos utilisateurs peuvent rester à la pointe de l'atténuation des risques lors de l'utilisation des LLM.
Quelles sont les nouveautés de cette mise à jour ?
L'OWASP a supprimé deux éléments de son précédent Top 10 :
- Conception non sécurisée des plugins - qui concerne la manière dont les LLM interagissent avec les plugins et la manière dont les plugins interagissent avec le stockage ou les services externes.
- Le vol de modèles: il s'agit de la reproduction ou de l'acquisition non autorisée de modèles d'apprentissage automatique ou de systèmes d'intelligence artificielle.
Conformément aux versions précédentes du Top 10 de l'OWASP, Secure Code Warrior avait des lignes directrices associées à ces vulnérabilités dans le cadre de notre cours LLM Top 10. Ces lignes directrices, qui fournissent des informations digestes sur les vulnérabilités et les concepts de sécurité dans un format facile à comprendre et à lire, ont depuis été retirées du programme du cours. Cependant, les lignes directrices restent disponibles dans Explore, avec tous les autres matériels d'apprentissage que nous avons à offrir.
L'OWASP a ajouté deux nouveaux éléments à son Top 10, qui reste donc un Top 10 officiel :
- Fuite d'invites du système - lorsque des invites généralement cachées qui guident le comportement d'un modèle sont exposées aux utilisateurs.
- Vecteur et incorporation - qui peuvent exposer des informations spécifiques, exclusives ou en temps réel qui ne sont pas accessibles au public.
Les lignes directrices relatives à ces vulnérabilités ont été ajoutées au cours LLM Top 10 et, tout comme les lignes directrices qui ont été supprimées, elles sont également accessibles dans Explore pour les utilisateurs qui souhaitent bénéficier d'un apprentissage à leur rythme.
Enfin, l'OWASP a également apporté quelques modifications aux catégories de vulnérabilités existantes dans sa liste, en renommant certaines catégories pour les rendre plus larges ou plus spécifiques, et en modifiant leurs définitions. Nos lignes directrices relatives à ces sujets ont été mises à jour pour refléter les changements mineurs apportés par l'OWASP ainsi que les nouvelles conventions de dénomination. En outre, leur liste par ordre de priorité a été mise à jour pour correspondre à l'ordre établi dans le Top 10 du LLM de l'OWASP.
Sur Secure Code Warrior, nous nous engageons à aider nos utilisateurs à rester à la pointe de la technologie. Avec les dernières mises à jour de l'OWASP déjà reflétées dans notre site agile learning platform, nous avons facilité l'accès de nos utilisateurs à des supports de formation actualisés qui couvrent les vulnérabilités les plus récentes et réduisent les risques lors du déploiement des technologies LLM et Generative AI. Que vous naviguiez dans les menaces nouvellement introduites de la fuite de l'invite du système ou du vecteur et de l'intégration, ou que vous mettiez à jour votre compréhension de la désinformation et de la consommation illimitée, notre plateforme fournit les ressources dont vous avez besoin pour maîtriser ces concepts critiques qui améliorent votre posture de sécurité.
Cliquez sur le lien ci-dessous et téléchargez le PDF de cette ressource.
Secure Code Warrior est là pour vous aider à sécuriser le code tout au long du cycle de vie du développement logiciel et à créer une culture dans laquelle la cybersécurité est une priorité. Que vous soyez responsable AppSec, développeur, CISO ou toute autre personne impliquée dans la sécurité, nous pouvons aider votre organisation à réduire les risques associés à un code non sécurisé.
Voir le rapportRéservez une démonstration
Secure Code Warrior fait du codage sécurisé une expérience positive et attrayante pour les développeurs à mesure qu'ils améliorent leurs compétences. Nous guidons chaque codeur le long de son propre parcours d'apprentissage, afin que les développeurs compétents en matière de sécurité deviennent les super-héros quotidiens de notre monde connecté.
Cet article a été écrit par Secure Code Warrior L'équipe d'experts du secteur de s'engage à fournir aux développeurs les connaissances et les compétences nécessaires pour créer des logiciels sécurisés dès le départ. S'appuyant sur une expertise approfondie des pratiques de codage sécurisé, des tendances du secteur et des connaissances du monde réel.
Pour adopter une approche proactive de la sécurisation de vos logiciels, vous devez rester à la pointe des dernières normes et exigences de conformité. Après tout, le paysage de la cybersécurité est constamment en mouvement avec de nouvelles menaces et vulnérabilités, en particulier avec l'émergence de nouvelles technologies. Cela n'a jamais été aussi vrai qu'aujourd'hui où nous nous trouvons collectivement à un point d'inflexion de l'IA où de nouvelles évolutions et de nouveaux cas d'utilisation semblent émerger chaque jour.
Pour relever ces défis, la Fondation OWASP a récemment publié sa version mise à jour de l'OWASP Top 10 for Large Language Model (LLM) Applications, qui vise à informer les développeurs, les architectes et les autres contributeurs à la livraison de logiciels des risques potentiels lors du déploiement de LLM et d'applications d'IA générative. À l'adresse Secure Code Warrior , nous sommes ravis d'annoncer que les changements et les mises à jour de cette dernière version sont déjà mis en œuvre et disponibles dans notre code sécurisé learning platform. Grâce à ces documents nouvellement disponibles et mis à jour, tous nos utilisateurs peuvent rester à la pointe de l'atténuation des risques lors de l'utilisation des LLM.
Quelles sont les nouveautés de cette mise à jour ?
L'OWASP a supprimé deux éléments de son précédent Top 10 :
- Conception non sécurisée des plugins - qui concerne la manière dont les LLM interagissent avec les plugins et la manière dont les plugins interagissent avec le stockage ou les services externes.
- Le vol de modèles: il s'agit de la reproduction ou de l'acquisition non autorisée de modèles d'apprentissage automatique ou de systèmes d'intelligence artificielle.
Conformément aux versions précédentes du Top 10 de l'OWASP, Secure Code Warrior avait des lignes directrices associées à ces vulnérabilités dans le cadre de notre cours LLM Top 10. Ces lignes directrices, qui fournissent des informations digestes sur les vulnérabilités et les concepts de sécurité dans un format facile à comprendre et à lire, ont depuis été retirées du programme du cours. Cependant, les lignes directrices restent disponibles dans Explore, avec tous les autres matériels d'apprentissage que nous avons à offrir.
L'OWASP a ajouté deux nouveaux éléments à son Top 10, qui reste donc un Top 10 officiel :
- Fuite d'invites du système - lorsque des invites généralement cachées qui guident le comportement d'un modèle sont exposées aux utilisateurs.
- Vecteur et incorporation - qui peuvent exposer des informations spécifiques, exclusives ou en temps réel qui ne sont pas accessibles au public.
Les lignes directrices relatives à ces vulnérabilités ont été ajoutées au cours LLM Top 10 et, tout comme les lignes directrices qui ont été supprimées, elles sont également accessibles dans Explore pour les utilisateurs qui souhaitent bénéficier d'un apprentissage à leur rythme.
Enfin, l'OWASP a également apporté quelques modifications aux catégories de vulnérabilités existantes dans sa liste, en renommant certaines catégories pour les rendre plus larges ou plus spécifiques, et en modifiant leurs définitions. Nos lignes directrices relatives à ces sujets ont été mises à jour pour refléter les changements mineurs apportés par l'OWASP ainsi que les nouvelles conventions de dénomination. En outre, leur liste par ordre de priorité a été mise à jour pour correspondre à l'ordre établi dans le Top 10 du LLM de l'OWASP.
Sur Secure Code Warrior, nous nous engageons à aider nos utilisateurs à rester à la pointe de la technologie. Avec les dernières mises à jour de l'OWASP déjà reflétées dans notre site agile learning platform, nous avons facilité l'accès de nos utilisateurs à des supports de formation actualisés qui couvrent les vulnérabilités les plus récentes et réduisent les risques lors du déploiement des technologies LLM et Generative AI. Que vous naviguiez dans les menaces nouvellement introduites de la fuite de l'invite du système ou du vecteur et de l'intégration, ou que vous mettiez à jour votre compréhension de la désinformation et de la consommation illimitée, notre plateforme fournit les ressources dont vous avez besoin pour maîtriser ces concepts critiques qui améliorent votre posture de sécurité.
Table des matières
Secure Code Warrior fait du codage sécurisé une expérience positive et attrayante pour les développeurs à mesure qu'ils améliorent leurs compétences. Nous guidons chaque codeur le long de son propre parcours d'apprentissage, afin que les développeurs compétents en matière de sécurité deviennent les super-héros quotidiens de notre monde connecté.
Secure Code Warrior est là pour vous aider à sécuriser le code tout au long du cycle de vie du développement logiciel et à créer une culture dans laquelle la cybersécurité est une priorité. Que vous soyez responsable AppSec, développeur, CISO ou toute autre personne impliquée dans la sécurité, nous pouvons aider votre organisation à réduire les risques associés à un code non sécurisé.
Réservez une démonstrationTéléchargerRessources pour vous aider à démarrer
Évaluation comparative des compétences en matière de sécurité : Rationalisation de la conception sécurisée dans l'entreprise
Il est notoirement difficile de trouver des données significatives sur le succès des initiatives Secure-by-Design. Les RSSI sont souvent confrontés à des difficultés lorsqu'ils tentent de prouver le retour sur investissement (ROI) et la valeur commerciale des activités du programme de sécurité, tant au niveau des personnes que de l'entreprise. De plus, il est particulièrement difficile pour les entreprises d'obtenir des informations sur la façon dont leurs organisations sont comparées aux normes actuelles du secteur. La stratégie nationale de cybersécurité du président a mis les parties prenantes au défi d'"adopter la sécurité et la résilience dès la conception". Pour que les initiatives de conception sécurisée fonctionnent, il faut non seulement donner aux développeurs les compétences nécessaires pour assurer la sécurité du code, mais aussi garantir aux régulateurs que ces compétences sont en place. Dans cette présentation, nous partageons une myriade de données qualitatives et quantitatives, dérivées de sources primaires multiples, y compris des points de données internes collectés auprès de plus de 250 000 développeurs, des informations sur les clients basées sur des données, et des études publiques. En nous appuyant sur cette agrégation de points de données, nous visons à communiquer une vision de l'état actuel des initiatives Secure-by-Design dans de multiples secteurs verticaux. Le rapport explique en détail pourquoi cet espace est actuellement sous-utilisé, l'impact significatif qu'un programme de perfectionnement réussi peut avoir sur l'atténuation des risques de cybersécurité, et le potentiel d'élimination des catégories de vulnérabilités d'une base de code.
Passez de la sensibilisation à l'action en ce mois de la cyber-sensibilisation
En octobre, passez de la sensibilisation à l'action. Rendez le Mois de la sensibilisation à la cybernétique mémorable pour vos développeurs grâce à une expérience à fort impact et à forte participation, dirigée par l'équipe des services professionnels de Secure Code Warrior.
Services professionnels - Accélérer grâce à l'expertise
L'équipe des services de stratégie de programme (PSS) de Secure Code Warriorvous aide à construire, améliorer et optimiser votre programme de codage sécurisé. Que vous partiez de zéro ou que vous affiniez votre approche, nos experts vous fournissent des conseils sur mesure.
Thèmes et contenu de la formation sur le code sécurisé
Notre contenu, à la pointe de l'industrie, évolue constamment pour s'adapter au paysage du développement logiciel en constante évolution, tout en gardant votre rôle à l'esprit. Les sujets abordés vont de l'IA à l'injection XQuery, et sont proposés pour une variété de rôles, des architectes et ingénieurs aux gestionnaires de produits et à l'assurance qualité. Découvrez en avant-première ce que notre catalogue de contenu a à offrir par sujet et par rôle.
Ressources pour vous aider à démarrer
Vibe Coding va-t-il transformer votre base de code en une fête de fraternité ?
Le codage vibratoire est comme une fête de fraternité universitaire, et l'IA est la pièce maîtresse de toutes les festivités, le tonneau. C'est très amusant de se laisser aller, d'être créatif et de voir où votre imagination peut vous mener, mais après quelques barils, boire (ou utiliser l'IA) avec modération est sans aucun doute la solution la plus sûre à long terme.
La décennie des défenseurs : Secure Code Warrior Dixième anniversaire
Secure Code WarriorL'équipe fondatrice de SCW est restée soudée, dirigeant le navire à travers chaque leçon, chaque triomphe et chaque revers pendant une décennie entière. Nous nous développons et sommes prêts à affronter notre prochain chapitre, SCW 2.0, en tant que leaders de la gestion des risques pour les développeurs.
Codage axé sur le développeur.
En toute sécurité.
Contactez-nous dès aujourd'hui et faites de la sécurité des logiciels une partie intrinsèque de votre processus de développement.
