- Accueil
- Formations
-
-
-
Formations certifiantes
- Offres CPF
-
Autres formations
-
-
-
-
- Formations Spécifiques
- Vous ne trouvez pas la formation que vous cherchez ? Nous la créons pour vous.
En savoir plus
-
- Classe virtuelle
- E-learning
- CPF
- Tarifs
- Contact
Sécuriser, tester et superviser des agents IA
Sécuriser, tester et superviser des agents IA
Sécuriser, tester et superviser des agents IA
| Prérequis : | Compréhension d’une architecture agentique et des appels d’outils. Culture sécurité ou développement recommandée. |
| Objectifs : | • Identifier les principaux risques spécifiques aux agents IA. • Mettre en place des garde-fous techniques et organisationnels. • Concevoir une stratégie d’evals et de tests adversariaux. • Tracer les actions et diagnostiquer les échecs. • Définir les conditions de passage en production. |
| Durée : | 2 Jours – 14h |
Profil du formateur
Formateur consultant, expert, pédagogue et certifié dans son domaine
Méthode pédagogique
La formation est constituée d’apports théoriques et d’exercices pratiques. Chaque stagiaire dispose d’un poste de travail pour la formation en présentiel, et la gestion en petit groupe (jusqu’à 8 stagiaires) permet un suivi individualisé et adapté. Durant les sessions de formation, un support pédagogique est remis aux stagiaires.
Votre formation est en distanciel
Vous munir : un ordinateur, une connexion internet, une adresse e-mail valide, un équipement audio (micro et enceintes ou casque), une Webcam (facultatif , dans l’idéal) un deuxième écran (facultatif, dans l’idéal)
Suivi, évaluation, sanction
Des tours de table permettent de suivre la progression du stagiaire au fur et à mesure de la formation. Un suivi de la formation est réalisé par une feuille de présence émargée par demi-journée par les stagiaires et le formateur. Un questionnaire de satisfaction et une validation des acquis sont complétés par chaque stagiaire en fin de formation.
Plan du cours
Modèle de menace agentique
- Prompt injection directe et indirecte.
- Abus d’outils, escalade de privilèges et exfiltration.
- Empoisonnement de mémoire et données non fiables.
- Risques liés aux actions irréversibles.
Défenses
- Validation d’entrées/sorties et allowlists.
- Permissions minimales et séparation lecture/écriture.
- Validation humaine et double contrôle.
- Gestion des secrets et isolation des environnements.
Evals et red teaming
- Jeux de tests métier, tests de régression et scénarios adversariaux.
- Évaluation du choix des outils et du respect des politiques.
- Mesures de taux de réussite, erreurs, coût et latence.
Observabilité
- Traces d’exécution, logs d’outils et corrélation des étapes.
- Alertes, incidents et procédures de rollback.
- Critères de mise en production et revue périodique.
Travaux pratiques / projet
Red team d’un agent vulnérable puis durcissement : limiter les permissions, ajouter des garde-fous, instrumenter les traces et construire un jeu d’evals de non-régression.
