Ingénieur Évaluation & Red-Teaming LLM, Modèles Frontières & AI Act
Huit missions au cœur de l'usine à modèles de Mistral AI : construire un harnais d'évaluation avant une release majeure, traquer une régression de raisonnement juridique en français, démasquer un benchmark contaminé, mener une campagne de red-teaming, tenir une crise d'injection de prompts sur Le Chat et défendre le go/no-go devant le board de release.
10 heures
Avancé
i
Technologie
Ouverte
Profil Recherché
Esprit de mesure : une moyenne de benchmark sans distribution vous met physiquement mal à l'aise — vous voulez voir les slices, toujours.
Curiosité adversariale : face à un modèle poli et serviable, votre premier réflexe est de chercher comment le faire trahir ses instructions.
Rigoureux(se) à l'écrit : vos rapports d'évaluation relient chaque chiffre à son dataset, chaque conclusion à sa méthode — un régulateur peut les relire.
Goût de la décision : un go/no-go avec des données incomplètes ne vous paralyse pas — vous écrivez ce qu'on sait, ce qu'on ignore, et ce que vous recommandez.
Pourquoi cette simulation compte
Construisez une expérience concrète et la confiance pour la suite.
Description
Mistral AI, fondée à Paris en avril 2023, est le champion européen des modèles de langage frontières : catalogue open-weights, API commerciale, et Le Chat, l'assistant grand public doté d'outils de navigation et d'exécution. Chaque mois, un nouveau checkpoint candidat se présente à la release, et chaque mois, la même question : est-il meilleur, et surtout, n'est-il pire nulle part ? Depuis août 2025, le règlement européen sur l'IA transforme cette question en obligation documentée pour les modèles à finalité générale. Dans cette simulation, vous rejoignez l'équipe Evaluation & Safety de Paris, à J-12 d'une release majeure : le harnais d'évaluation est incomplet, une régression de raisonnement juridique en français vient d'être détectée, un benchmark de comparaison sent la contamination, et une campagne de red-teaming doit être bouclée avant le board. À vous de construire la preuve.
Comment ça se passe
Quelques étapes pour commencer
S’inscrire et commencer
Créez votre compte et ouvrez la mission.
Faire le travail
Traitez chaque mission comme le métier se pratique vraiment.
Lire votre signal
Voyez ce que votre travail a montré, cité depuis ce que vous avez écrit.
Garder la preuve
Emportez la preuve dans vos candidatures et vos entretiens.
Ingénierie d'évaluation : harnais, golden datasets, slices par langue et domaine, métriques robustes
Analyse de régression : moyennes vs distributions, tests par tranche, isolement de cause (données, tokenizer, alignement)
Hygiène de benchmarks : contamination, overlap n-gram, canary strings, benchmarks privés et tournants
Red-teaming structuré : taxonomie des attaques, jailbreaks multi-tours, taux de succès d'attaque (ASR), gradation de sévérité
Sécurité des agents : injection de prompts directe et indirecte, outils à privilèges, moindre privilège appliqué aux LLM
Prérequis
Ce que vous devez maîtriser
Notions de machine learning : entraînement, fine-tuning, inférence, fenêtre de contexte
Bases en programmation (lire des logs d'évaluation, écrire un script d'analyse simple)
Rigueur statistique de bon sens : se méfier des moyennes, aimer les distributions
Market signals
Pourquoi cette mission compte maintenant
Signaux de marché vérifiés — sources publiques
2 août 2025
AI Act : obligations GPAI actives
Date d'application des obligations pour les modèles à finalité générale : documentation technique, résumé des données d'entraînement, politique de droits d'auteur — et tests adverses documentés pour les modèles à risque systémique.
L'injection de prompts est classée premier risque du Top 10 OWASP pour applications LLM — et les assistants dotés d'outils (navigation, code) multiplient la surface d'attaque.
Année de fondation de Mistral AI à Paris — devenu en trois ans le seul acteur européen à expédier des modèles frontières en continu, open-weights et commerciaux.
Contamination des corpus, overfitting des classements, saturation des jeux de test : un score publié seul ne prouve plus rien. Les laboratoires sérieux investissent dans des benchmarks privés et tournants — et dans les ingénieurs qui les construisent.
Les laboratoires parisiens expédient des modèles chaque mois, l'AI Act exige des preuves documentées, et les profils capables de construire un harnais d'évaluation ET de mener un red-teaming structuré se comptent sur les doigts de deux mains.
Le texte complet : obligations GPAI (article 53), risque systémique (article 55), tests adverses — applicables depuis août 2025.
Mistral AI — Modèles et documentation
mistral.ai
FILE
Le catalogue : modèles open-weights, API commerciale, Le Chat. Lisez les model cards publiées comme des spécimens du métier.
OWASP — Top 10 pour applications LLM
owasp.org
FILE
LLM01 Prompt Injection en tête de liste : la taxonomie de référence pour votre campagne de red-teaming.
Anthropic — Many-shot jailbreaking (avril 2024)
anthropic.com
FILE
La publication qui a démontré que l'allongement des fenêtres de contexte rend les jailbreaks multi-tours plus efficaces.
Stanford CRFM — Holistic Evaluation of Language Models
crfm.stanford.edu
FILE
La référence académique en matière d'évaluation par slices : pourquoi une moyenne de benchmark ne suffit jamais.
Les missions du programme
Ouvrez une mission pour voir ce que vous allez produire
☆
Aperçu du programme
1
Task 1
2
Task 2
3
Task 3
4
Task 4
5
Task 5
6
Task 6
7
Task 7
8
Task 8
🏁
Ligne d’arrivée
Aperçu du programme
Mistral AI, fondée à Paris en avril 2023, est le champion européen des modèles de langage frontières : catalogue open-weights, API commerciale, et Le Chat, l'assistant grand public doté d'outils de navigation et d'exécution. Chaque mois, un nouveau checkpoint candidat se présente à la release — et chaque mois, la même question : est-il meilleur, et surtout, n'est-il pire nulle part ? Depuis août 2025, le règlement européen sur l'IA transforme cette question en obligation documentée pour les modèles à finalité générale. Dans cette simulation, vous rejoignez l'équipe Evaluation & Safety de Paris, à J-12 d'une release majeure : le harnais d'évaluation est incomplet, une régression de raisonnement juridique en français vient d'être détectée, un benchmark de comparaison sent la contamination, et une campagne de red-teaming doit être bouclée avant le board. À vous de construire la preuve.
Ce que vous allez vivre
Mesurer
Prouver
Attaquer
Décider
Prérequis
Notions de machine learning : entraînement, fine-tuning, inférence, fenêtre de contexte
Bases en programmation (lire des logs d'évaluation, écrire un script d'analyse simple)
Rigueur statistique de bon sens : se méfier des moyennes, aimer les distributions
Ce que disent les pairs
Témoignages de professionnels qui ont vécu des missions équivalentes
4.8 •5 voix d’experts
Story
“La mission sur la contamination de benchmarks m'a définitivement vaccinée contre les tableaux de scores publiés. En entretien, quand j'ai expliqué comment détecter un overlap n-gram et pourquoi un MMLU gonflé se reconnaît, le recruteur a arrêté de prendre des notes et…”
Camille R.
Data scientist NLP en fin de master
M2 NLP, Université Paris-Saclay
Story
“La crise d'injection de prompts en mission 6 est la chose la plus réaliste que j'ai faite de ma vie pro : une attaque trouvée dans la nature un vendredi, un assistant qui a un outil de navigation, et il faut évaluer,…”
Karim B.
Ingénieur backend en reconversion IA
7 ans d'expérience, scale-up parisienne
Story
“Ces simulations m'ont aidée à projeter ce que serait mon premier poste. Très concret.”
Inès K.
Étudiante M2
Sciences Po
Story
“Le format est addictif et utile en entretien.”
Adrien L.
Diplômé école d'ingé
INSA Lyon
Story
“L'outil idéal pour tester un métier avant de s'engager.”
Maya T.
En reconversion
—
Ce que disent les pairs
Témoignages de professionnels qui ont vécu des missions équivalentes
4.8•5 voix d’experts
Story
“La mission sur la contamination de benchmarks m'a définitivement vaccinée contre les tableaux de scores publiés. En entretien, quand j'ai expliqué comment détecter un overlap n-gram et pourquoi un MMLU gonflé se reconnaît, le recruteur a arrêté de prendre des notes et…”