Offensif · LLM · RAG · Agents
AI Red Teaming - LLM et IA générative
Formation offensive distincte de la formation défensive agents IA : ici, l'objectif est d'apprendre à attaquer, documenter et restituer les vulnérabilités d'un LLM, d'un RAG ou d'un agent outillé.
Session et tarif
Format : 2 jours (14 heures), présentiel ou distanciel, labs fournis.
Tarif inter-entreprises : 1 790 € HT par participant.
Tarif intra-entreprise : 6 000 € HT jusqu'à 8 participants, adaptation à votre contexte IA incluse.
Financement : prise en charge OPCO possible sous réserve d'acceptation, organisme certifié Qualiopi.
Objectifs pédagogiques
- Construire un plan de test adverse mappé OWASP LLM Top 10 et MITRE ATLAS.
- Exploiter prompt injection directe et indirecte sur LLM et RAG.
- Tester jailbreak, extraction de données, tool abuse et traversée de scope.
- Mesurer l'impact métier et rédiger un PoC reproductible.
- Restituer les résultats avec priorisation et recommandations défendables.
Public et prérequis
Public : RSSI, auditeurs, pentesteurs, équipes sécurité produit, éditeurs IA, responsables conformité IA.
Prérequis : bases Web/API, pratique de la ligne de commande, compréhension générale des LLM et API d'inférence. Bases Python utiles.
Programme
- Cadre de mission AI Red Team : périmètre, règles d'engagement, preuves et limites.
- OWASP LLM Top 10 et MITRE ATLAS : transformer les référentiels en cas de test.
- Prompt injection directe : extraction de system prompt, role confusion, bypass de consignes.
- Prompt injection indirecte : documents, pages web, base vectorielle, données de contexte.
- RAG : poisoning, exfiltration, confusion de source, réponses manipulées.
- Agents et tool use : abus d'outils, action non autorisée, validation humaine manquante.
- Rapport : PoC reproductible, score d'impact, limites, plan de remédiation.
Modalités Qualiopi
- Durée
- 2 jours (14 heures).
- Modalités
- Présentiel ou distanciel. Labs fournis, données sacrificielles, aucun accès à un vrai système client.
- Évaluation
- QCM, réussite des exercices, restitution d'un mini-rapport de finding AI Red Team.
- Supports
- Support de cours, fiches de test, templates de rapport et attestation de fin de formation.
- Modalités d'accès
- Inscription via le formulaire ; prévoir environ 30 jours pour un dossier OPCO.
- Accessibilité PSH
- Adaptations possibles sur demande pour les personnes en situation de handicap.
- Financement
- Organisme certifié Qualiopi ; prise en charge OPCO possible sous réserve d'acceptation.
- Satisfaction
- Questionnaire à chaud ; taux publié dès volume représentatif.