Ingénieur Évaluation & Red-Teaming LLM, Modèles Frontières & AI Act
    Simulation de métier
    CareerOn Studio

    Ingénieur Évaluation & Red-Teaming LLM, Modèles Frontières & AI Act

    Huit missions au cœur de l'usine à modèles de Mistral AI : construire un harnais d'évaluation avant une release majeure, traquer une régression de raisonnement juridique en français, démasquer un benchmark contaminé, mener une campagne de red-teaming, tenir une crise d'injection de prompts sur Le Chat et défendre le go/no-go devant le board de release.

    10 heures
    Avancé
    i
    Technologie
    Ouverte

    Profil Recherché

    Esprit de mesure : une moyenne de benchmark sans distribution vous met physiquement mal à l'aise — vous voulez voir les slices, toujours.

    Curiosité adversariale : face à un modèle poli et serviable, votre premier réflexe est de chercher comment le faire trahir ses instructions.

    Rigoureux(se) à l'écrit : vos rapports d'évaluation relient chaque chiffre à son dataset, chaque conclusion à sa méthode — un régulateur peut les relire.

    Goût de la décision : un go/no-go avec des données incomplètes ne vous paralyse pas — vous écrivez ce qu'on sait, ce qu'on ignore, et ce que vous recommandez.

    Pourquoi cette simulation compte

    Construisez une expérience concrète et la confiance pour la suite.

    Description

    Mistral AI, fondée à Paris en avril 2023, est le champion européen des modèles de langage frontières : catalogue open-weights, API commerciale, et Le Chat, l'assistant grand public doté d'outils de navigation et d'exécution. Chaque mois, un nouveau checkpoint candidat se présente à la release, et chaque mois, la même question : est-il meilleur, et surtout, n'est-il pire nulle part ? Depuis août 2025, le règlement européen sur l'IA transforme cette question en obligation documentée pour les modèles à finalité générale. Dans cette simulation, vous rejoignez l'équipe Evaluation & Safety de Paris, à J-12 d'une release majeure : le harnais d'évaluation est incomplet, une régression de raisonnement juridique en français vient d'être détectée, un benchmark de comparaison sent la contamination, et une campagne de red-teaming doit être bouclée avant le board. À vous de construire la preuve.

    Comment ça se passe

    Quelques étapes pour commencer

    S’inscrire et commencer

    Créez votre compte et ouvrez la mission.

    Faire le travail

    Traitez chaque mission comme le métier se pratique vraiment.

    Lire votre signal

    Voyez ce que votre travail a montré, cité depuis ce que vous avez écrit.

    Garder la preuve

    Emportez la preuve dans vos candidatures et vos entretiens.

    Compétences Développées

    Ce que vous maîtriserez

    Ingénierie d'évaluation : harnais, golden datasets, slices par langue et domaine, métriques robustes
    Analyse de régression : moyennes vs distributions, tests par tranche, isolement de cause (données, tokenizer, alignement)
    Hygiène de benchmarks : contamination, overlap n-gram, canary strings, benchmarks privés et tournants
    Red-teaming structuré : taxonomie des attaques, jailbreaks multi-tours, taux de succès d'attaque (ASR), gradation de sévérité
    Sécurité des agents : injection de prompts directe et indirecte, outils à privilèges, moindre privilège appliqué aux LLM

    Prérequis

    Ce que vous devez maîtriser

    Notions de machine learning : entraînement, fine-tuning, inférence, fenêtre de contexte
    Bases en programmation (lire des logs d'évaluation, écrire un script d'analyse simple)
    Rigueur statistique de bon sens : se méfier des moyennes, aimer les distributions

    La simulation en action

    Découvrez comment les situations prennent vie

    FILE

    Règlement (UE) 2024/1689 — AI Act

    eur-lex.europa.eu

    FILE
    FILE

    Mistral AI — Modèles et documentation

    mistral.ai

    FILE
    FILE

    OWASP — Top 10 pour applications LLM

    owasp.org

    FILE
    FILE

    Anthropic — Many-shot jailbreaking (avril 2024)

    anthropic.com

    FILE
    FILE

    Stanford CRFM — Holistic Evaluation of Language Models

    crfm.stanford.edu

    FILE

    Les missions du programme

    Ouvrez une mission pour voir ce que vous allez produire

    ☆

    Aperçu du programme

    1

    Task 1

    2

    Task 2

    3

    Task 3

    4

    Task 4

    5

    Task 5

    6

    Task 6

    7

    Task 7

    8

    Task 8

    🏁

    Ligne d’arrivée

    Aperçu du programme

    Mistral AI, fondée à Paris en avril 2023, est le champion européen des modèles de langage frontières : catalogue open-weights, API commerciale, et Le Chat, l'assistant grand public doté d'outils de navigation et d'exécution. Chaque mois, un nouveau checkpoint candidat se présente à la release — et chaque mois, la même question : est-il meilleur, et surtout, n'est-il pire nulle part ? Depuis août 2025, le règlement européen sur l'IA transforme cette question en obligation documentée pour les modèles à finalité générale. Dans cette simulation, vous rejoignez l'équipe Evaluation & Safety de Paris, à J-12 d'une release majeure : le harnais d'évaluation est incomplet, une régression de raisonnement juridique en français vient d'être détectée, un benchmark de comparaison sent la contamination, et une campagne de red-teaming doit être bouclée avant le board. À vous de construire la preuve.

    Ce que vous allez vivre

    • Mesurer
    • Prouver
    • Attaquer
    • Décider

    Prérequis

    • Notions de machine learning : entraînement, fine-tuning, inférence, fenêtre de contexte
    • Bases en programmation (lire des logs d'évaluation, écrire un script d'analyse simple)
    • Rigueur statistique de bon sens : se méfier des moyennes, aimer les distributions

    Ce que disent les pairs

    Témoignages de professionnels qui ont vécu des missions équivalentes

    4.8 •5 voix d’experts
    Story
    “La mission sur la contamination de benchmarks m'a définitivement vaccinée contre les tableaux de scores publiés. En entretien, quand j'ai expliqué comment détecter un overlap n-gram et pourquoi un MMLU gonflé se reconnaît, le recruteur a arrêté de prendre des notes et…”
    Camille R.

    Camille R.

    Data scientist NLP en fin de master

    M2 NLP, Université Paris-Saclay

    Story
    “La crise d'injection de prompts en mission 6 est la chose la plus réaliste que j'ai faite de ma vie pro : une attaque trouvée dans la nature un vendredi, un assistant qui a un outil de navigation, et il faut évaluer,…”
    Karim B.

    Karim B.

    Ingénieur backend en reconversion IA

    7 ans d'expérience, scale-up parisienne

    Story
    “Ces simulations m'ont aidée à projeter ce que serait mon premier poste. Très concret.”

    Inès K.

    Étudiante M2

    Sciences Po

    Story
    “Le format est addictif et utile en entretien.”

    Adrien L.

    Diplômé école d'ingé

    INSA Lyon

    Story
    “L'outil idéal pour tester un métier avant de s'engager.”

    Maya T.

    En reconversion

    —

    Prêt à commencer ?

    Faites le travail, gardez la preuve.