Is the training Qualiopi certified?

Yes, Learni is a Qualiopi-certified training organization. This certification guarantees the quality of our courses and enables funding through OPCO and other mechanisms.

How can I fund my training?

Our courses are eligible for OPCO funding. Learni supports you through the funding process. A personalized quote is available upon request.

What are the prerequisites for this training?

The prerequisites for the Formation AI Red Teaming - Sécuriser les modèles IA en entreprise training are: Bases en Python, notions d'IA/ML et sécurité informatique. A preliminary interview validates your eligibility.

Is the training available in person?

Yes, the Formation AI Red Teaming - Sécuriser les modèles IA en entreprise training is available in présentiel. The format can be adapted to your needs (inter, intra, custom).

Formation AI Red Teaming - Sécuriser les modèles... | Learni

The story of Learni

Founded by passionate advocates of learning and innovation, Learni set out to make professional training accessible to everyone, everywhere in the world. Our team works in the largest cities such as Paris, Lyon, Marseille, and internationally, to support talents and organizations in their skills development.

Configure your training

Response within 24hNo commitment100% free

7 spots remaining for the next session

FormatParticipantsDateDetails

Which format do you prefer?

Methods, approaches, and teaching resources

The Formation AI Red Teaming - Sécuriser les modèles IA en entreprise training is delivered in-person or remotely (blended-learning, e-learning, virtual classroom, remote in-person). At Learni, a Qualiopi-certified training organization, each program is designed to maximize skills acquisition, regardless of the training mode chosen.

The trainer alternates between demonstrative, interrogative, and active methods (through practical exercises and/or real-world scenarios). This pedagogical approach ensures concrete and directly applicable learning in the workplace.

Teaching resources provided

To ensure the quality of the Formation AI Red Teaming - Sécuriser les modèles IA en entreprise training, Learni provides the following teaching resources:

Mac or PC computers, high-speed fiber internet, whiteboard or flipchart, video projector or interactive touchscreen (for remote sessions)
Training environments installed on workstations or accessible online
Course materials, practical exercises, and supplementary resources
Post-training access to materials and teaching resources

For in-house training at a location external to Learni, the client ensures and commits to having all necessary teaching materials (IT equipment, internet connection...) for the proper conduct of the training action in accordance with the prerequisites indicated in the communicated training program.

* contact us for remote feasibility** ratio varies depending on the training followed

Assessment methods

The assessment of skills acquired during the Formation AI Red Teaming - Sécuriser les modèles IA en entreprise training is carried out through:

During training: case studies, practical exercises, and professional scenarios
At the end of training: self-assessment questionnaire and skills evaluation by the trainer
After training: training completion certificate detailing acquired skills

Training accessibility

Learni is committed to the accessibility of its professional training programs. All our training programs are accessible to people with disabilities. Our teams are available to adapt teaching methods to your specific needs. Do not hesitate to contact us for any accommodation request.

Training objectives

Maîtriser les fondamentaux du red teaming appliqué aux IA professionnelles

Identifier les vulnérabilités courantes des modèles IA en entreprise

Développer des compétences en attaques adverses pour tester la robustesse

Implémenter des outils d'AI red teaming dans des scénarios certifiants

Concevoir des stratégies de mitigation pour sécuriser les déploiements IA

Optimiser les processus de validation des modèles IA en production

Training program

Module 1Fondamentaux AI red teaming : menaces et cadre méthodologique (OWASP, MITRE)

Découverte des principes du red teaming adapté aux IA, analyse des risques spécifiques comme l'empoisonnement de données et les attaques par prompts, prise en main du framework OWASP Top 10 for LLM, exercices pratiques sur identification de vulnérabilités dans un modèle simple, création d'un rapport préliminaire de menaces pour un cas d'entreprise concret, avec feedback personnalisé du formateur pour ancrer les compétences professionnelles.

Module 2Menaces adverses AI red teaming : attaques par exemples et outils (Adversarial Robustness Toolbox)

Exploration des attaques adverses classiques sur les modèles de vision et langage, utilisation de l'Adversarial Robustness Toolbox pour générer des perturbations imperceptibles, simulations pratiques d'injection de prompts malveillants sur des LLMs open-source, test de jailbreaks sur ChatGPT-like, analyse des impacts business comme les fuites de données sensibles, élaboration d'un scénario d'attaque complet avec livrable sous forme de preuve de concept exploitée.

Module 3Techniques avancées AI red teaming : jailbreaks et empoisonnement (Garak, Garble)

Plongée dans les techniques de jailbreaking pour contourner les garde-fous des IA génératives, expérimentation avec Garak et Garble pour scanner les vulnérabilités automatisées, mise en œuvre d'attaques d'empoisonnement sur datasets d'entraînement, cas pratiques inspirés d'incidents réels en entreprise, développement d'un script Python personnalisé pour reproduire une attaque, discussion sur les implications éthiques et réglementaires avec production d'un plan de test structuré.

Module 4Outils pratiques AI red teaming : automation et évaluation (PromptInject, NeMo Guardrails)

Maîtrise des outils open-source comme PromptInject pour tester les injections et NeMo Guardrails pour la protection, automation de campagnes de red teaming via scripts Python et Jupyter, exercices sur un projet fil rouge d'entreprise avec évaluation de robustesse multi-modèles, mesure des métriques de succès comme l'ASR et la robustesse, collaboration en binôme pour simuler une équipe red team, génération de rapports visuels avec dashboards pour communiquer les findings aux stakeholders.

Module 5Mitigation et reporting AI red teaming : bonnes pratiques et déploiement (RAI frameworks)

Synthèse des défenses contre les attaques identifiées, implémentation de techniques comme l'adversarial training et les filtres de prompts, utilisation de frameworks RAI pour des audits certifiants, finalisation du projet fil rouge avec rapport exécutif et recommandations actionnables, simulation d'un débriefing client en entreprise, préparation à la certification personnelle via QCM et soutenance, accès à un kit d'outils post-formation pour application immédiate en production.