OWASP LLM 应用程序前 10 名：新增内容、变化以及如何保持安全

Pour adopter une approche proactive de la sécurisation de vos logiciels, vous devez rester à la pointe des dernières normes et exigences de conformité. Après tout, le paysage de la cybersécurité est constamment en mouvement avec de nouvelles menaces et vulnérabilités, en particulier avec l'émergence de nouvelles technologies. Cela n'a jamais été aussi vrai qu'aujourd'hui où nous nous trouvons collectivement à un point d'inflexion de l'IA où de nouvelles évolutions et de nouveaux cas d'utilisation semblent émerger chaque jour. 

Pour relever ces défis, la Fondation OWASP a récemment publié sa version mise à jour de l'OWASP Top 10 for Large Language Model (LLM) Applications, qui vise à informer les développeurs, les architectes et les autres contributeurs à la livraison de logiciels des risques potentiels lors du déploiement de LLM et d'applications d'IA générative. À l'adresse Secure Code Warrior , nous sommes ravis d'annoncer que les changements et les mises à jour de cette dernière version sont déjà mis en œuvre et disponibles dans notre code sécurisé learning platform. Grâce à ces documents nouvellement disponibles et mis à jour, tous nos utilisateurs peuvent rester à la pointe de l'atténuation des risques lors de l'utilisation des LLM.

Quelles sont les nouveautés de cette mise à jour ?

L'OWASP a supprimé deux éléments de son précédent Top 10 :

• Conception non sécurisée des plugins - qui concerne la manière dont les LLM interagissent avec les plugins et la manière dont les plugins interagissent avec le stockage ou les services externes. 
• Le vol de modèles: il s'agit de la reproduction ou de l'acquisition non autorisée de modèles d'apprentissage automatique ou de systèmes d'intelligence artificielle.

Conformément aux versions précédentes du Top 10 de l'OWASP, Secure Code Warrior avait des lignes directrices associées à ces vulnérabilités dans le cadre de notre cours LLM Top 10. Ces lignes directrices, qui fournissent des informations digestes sur les vulnérabilités et les concepts de sécurité dans un format facile à comprendre et à lire, ont depuis été retirées du programme du cours. Cependant, les lignes directrices restent disponibles dans Explore, avec tous les autres matériels d'apprentissage que nous avons à offrir. 

L'OWASP a ajouté deux nouveaux éléments à son Top 10, qui reste donc un Top 10 officiel :

• Fuite d'invites du système - lorsque des invites généralement cachées qui guident le comportement d'un modèle sont exposées aux utilisateurs.
• Vecteur et incorporation - qui peuvent exposer des informations spécifiques, exclusives ou en temps réel qui ne sont pas accessibles au public.

Les lignes directrices relatives à ces vulnérabilités ont été ajoutées au cours LLM Top 10 et, tout comme les lignes directrices qui ont été supprimées, elles sont également accessibles dans Explore pour les utilisateurs qui souhaitent bénéficier d'un apprentissage à leur rythme.

Enfin, l'OWASP a également apporté quelques modifications aux catégories de vulnérabilités existantes dans sa liste, en renommant certaines catégories pour les rendre plus larges ou plus spécifiques, et en modifiant leurs définitions. Nos lignes directrices relatives à ces sujets ont été mises à jour pour refléter les changements mineurs apportés par l'OWASP ainsi que les nouvelles conventions de dénomination. En outre, leur liste par ordre de priorité a été mise à jour pour correspondre à l'ordre établi dans le Top 10 du LLM de l'OWASP.

Sur Secure Code Warrior, nous nous engageons à aider nos utilisateurs à rester à la pointe de la technologie. Avec les dernières mises à jour de l'OWASP déjà reflétées dans notre site agile learning platform, nous avons facilité l'accès de nos utilisateurs à des supports de formation actualisés qui couvrent les vulnérabilités les plus récentes et réduisent les risques lors du déploiement des technologies LLM et Generative AI. Que vous naviguiez dans les menaces nouvellement introduites de la fuite de l'invite du système ou du vecteur et de l'intégration, ou que vous mettiez à jour votre compréhension de la désinformation et de la consommation illimitée, notre plateforme fournit les ressources dont vous avez besoin pour maîtriser ces concepts critiques qui améliorent votre posture de sécurité.