Numérique & IA

Sécurité des applications LLM : OWASP Top 10 & CTF Docker

Proposée par Humanix-Cybersecurity

Durée
21 h sur 3 jours
Lieu
À distance
Format
Distanciel
Niveau
Intermédiaire

Ce que vous allez apprendre

Apprenez à sécuriser vos applications d'IA générative en exploitant et en corrigeant les vulnérabilités du OWASP Top 10 LLM, sur un CTF Docker réaliste. 80 % pratique, 3 jours.

À l'issue de la formation, vous serez capable de

  • Exploiter les injections de prompt directes et indirectes (LLM01) sur des applications d'IA générative via le CTF Docker
  • Identifier et exploiter les fuites d'informations sensibles et de system prompt (LLM02, LLM07)
  • Mettre en évidence les risques de la supply chain des modèles et du data/model poisoning (LLM03, LLM04)
Lire la suite
  • Exploiter une excessive agency et des intégrations d'outils ou de plugins non sécurisées (LLM06)
  • Évaluer les faiblesses des bases vectorielles et des chaînes RAG (LLM08)
  • Concevoir des garde-fous: validation des entrées et sorties, cloisonnement des outils, supervision

Programme

M1 – Prompt injection et sorties non fiables (7h)

  • Panorama OWASP Top 10 LLM (2025): ce qui change par rapport aux applications web classiques
  • REX mission: audit d'un assistant RAG en PME, prompt injection indirecte via un document importé
  • Lab: prise en main du CTF Docker (applications LLM vulnérables conteneurisées, accès au modèle)
  • Prompt injection directe: contournement des instructions, jailbreaks, fuite du system prompt (LLM01, LLM07)
  • Prompt injection indirecte: charges dissimulées dans des données externes (page web, PDF, e-mail)
  • Improper output handling (LLM05): XSS, SSRF ou exécution via une sortie LLM non validée
  • Atelier: capturer les premiers flags du CTF via l'injection de prompt

M2 – Données, modèles, RAG et agents (7h)

  • Sensitive information disclosure (LLM02): fuite de données de contexte, d'entraînement ou de secrets
  • Data model poisoning (LLM04): empoisonnement des données, portes dérobées dans un modèle
  • Supply chain (LLM03): modèles tiers, datasets, dépendances ML, provenance et signatures
  • Vector embedding weaknesses (LLM08): attaques sur le RAG, fuite inter-utilisateurs, injection via documents
  • Excessive agency (LLM06): abus des outils et fonctions appelés par l'agent, actions non autorisées
  • Atelier: exploiter une chaîne RAG et un agent outillé sur le CTF Docker
  • Débriefing: quels journaux ces attaques génèrent-elles, premières pistes de détection

M3 – Défense, robustesse et CTF final (7h)

  • Unbounded consumption (LLM10): déni de service, explosion des coûts, extraction de modèle
  • Misinformation over-reliance (LLM09): hallucinations, garde-fous métier
  • Défense en profondeur: validation des entrées, filtrage des sorties, cloisonnement et moindre privilège des outils
  • Garde-fous: politiques, allow-list d'outils, human-in-the-loop, limites de débit et de budget
  • Monitoring: journalisation des prompts, détection d'abus, tests de robustesse automatisés (garak)
  • CTF Docker final noté (3h): flags couvrant l'ensemble du Top 10 LLM
  • Correction collective et feuille de route de sécurisation des applications LLM

Pour qui ?

Prérequis

Public: Développeurs intégrant des LLM, ingénieurs AppSec, data/ML engineers, pentesters souhaitant comprendre et sécuriser les applications d'IA générative.

Prérequis: Bases en développement (API REST, Python). Notions sur les LLM et le prompting. Aisance avec Docker et la ligne de commande.

Questions fréquentes

Combien de temps dure la formation ?

La formation dure 21 heures, réparties en 3 modules de 7 heures chacun. Vous pouvez suivre le parcours complet ou seulement les modules qui vous intéressent.

À qui s'adresse cette formation ?

Elle s'adresse aux développeurs intégrant des LLM, ingénieurs AppSec, data/ML engineers et pentesters qui souhaitent comprendre et sécuriser les applications d'IA générative.

Faut-il des prérequis ?

Oui, il est nécessaire d'avoir des bases en développement (API REST, Python), des notions sur les LLM et le prompting, ainsi qu'une aisance avec Docker et la ligne de commande.

Comment se déroule la formation ?

Elle se suit entièrement à distance.

Peut-on la financer ?

Elle n’est pas indiquée comme éligible au CPF, mais France Travail ou votre employeur peuvent la financer selon votre situation.

Comment payer cette formation ?

  • Votre CPFCette formation n’est pas indiquée comme éligible au CPF. Le centre vous dira si une autre version l’est.
  • Si vous cherchez un emploiFrance Travail peut financer tout ou partie de la formation avec l’aide individuelle à la formation (AIF), si elle vous aide à retrouver un poste.
  • Si vous êtes salarié(e)Votre employeur peut la prendre en charge dans son plan de formation, souvent avec l’aide de son OPCO.
Estimer mon reste à charge Lire le guide : France Travail et AIF Découvrir le métier : Docker

Humanix-Cybersecurity

Humanix-Cybersecurity est un cabinet de cybersécurité basé en Occitanie, spécialisé dans l'accompagnement des PME. Il propose des formations immersives, des audits et des pentests, avec une approche centrée sur l'humain et la collaboration.

Découvrir le centre

Quelle formation cherchez‑vous ?