Expliquer une décision hybride
L’étude propose une approche hybride explicable pour la décision de crédit automatisée et la compare à trois algorithmes conventionnels.
Source · Scientific Reports, octobre 2024
Simulation de métier
Conseiller Crédit aux Particuliers, Expliquer, Contredire et Assumer une Décision de Score
Mesurer l’écart de sélection, démasquer le malus proxy, fixer un seuil qui se défend en euros, et refuser une personne nommée par écrit
10 heures
Intermédiaire
i
Banque et finance
Ouverte
Profil Recherché
Une note de qualification écrite : décision d’octroi classée à haut risque par le point 5 b) de l’annexe III, 3 906 refus sur 9 460 demandes notifiés sans intervention humaine, soit 41,29 %, et cinq obligations non tenues avec leur délai de correction.
Une mesure d’écart de sélection : 67,99 % d’accords pour les salariés contre 36,01 % pour les travailleurs non salariés et contrats courts, un ratio de 52,96 % et 878 personnes manquantes.
Un contrefactuel chiffré démontrant qu’abaisser le seuil ne corrige rien — ratio 59,00 % — et que retirer le malus de 125 points le porte à 87,32 %, soit un levier cinq fois supérieur.
Un seuil réétalonné de 520 à 495, justifié par un coût d’erreur de 247 590,00 euros contre 283 740,00, un taux de défaut de 4,32 % sous le plafond de 5,50 % et une charge de 262,20 heures sur 342,00 disponibles.
Trois décisions individuelles signées : un accord contredisant le moteur, un refus contredisant la direction commerciale, et un refus assorti d’une alternative libérant 113,18 euros par mois.
Pourquoi cette simulation compte
Construisez une expérience concrète et la confiance pour la suite.
Description
Vous êtes recruté comme conseiller crédit aux particuliers au Crédit Ligérien, banque régionale qui instruit environ 38 000 demandes de crédit à la consommation par an. Sur le trimestre de référence, 9 460 demandes ont été traitées : 5 554 accords, 3 906 refus, et la totalité des refus prononcée par le moteur de décision OCTAVE sans qu’un conseiller ouvre le dossier. Le courrier de refus tient en une phrase et ne dit rien de la logique employée. Votre directrice des risques, Hélène Vaugeois, vous confie la seule mission qui compte : rendre ces décisions défendables. En huit missions, vous qualifierez la décision au regard de l’article 22 du règlement général sur la protection des données et du point 5 b) de l’annexe III du règlement sur l’intelligence artificielle, vous mesurerez l’écart de sélection entre salariés et travailleurs non salariés (67,99 % contre 36,01 %, ratio 52,96 %), vous démontrerez que le malus de 125 points dit « stabilité d’emploi » est un proxy du statut et non de la capacité de remboursement, vous fixerez le seuil sur un budget d’erreur exprimé en euros et vérifié contre une contrainte de capacité de 342,00 heures par trimestre, puis vous signerez trois décisions individuelles : un accord qui contredit la machine, un refus qui contredit votre directeur d’agence, et un refus assorti d’une alternative chiffrée. La dernière séance se tient devant la personne refusée et devant une association de défense des consommateurs.
Comment ça se passe
Quelques étapes pour commencer
S’inscrire et commencer
Créez votre compte et ouvrez la mission.
Faire le travail
Traitez chaque mission comme le métier se pratique vraiment.
Lire votre signal
Voyez ce que votre travail a montré, cité depuis ce que vous avez écrit.
Garder la preuve
Emportez la preuve dans vos candidatures et vos entretiens.
Opportunités & mises à jour
De nos partenaires
Compétences Développées
Ce que vous maîtriserez
Qualification écrite d’une décision d’octroi au regard de l’article 22 et de l’article 15, paragraphe 1, point h) du règlement général sur la protection des données, et du point 5 b) de l’annexe III du règlement sur l’intelligence artificielle
Mesure d’un écart de sélection entre deux groupes : taux d’accord, ratio de sélection, écart en points et nombre de personnes manquantes
Identification d’une variable proxy dans une grille de score et démonstration par contrefactuel chiffré
Fixation d’un seuil de décision sur un budget d’erreur en euros, sous double contrainte de risque et de capacité humaine
Rédaction d’un accord contredisant la recommandation du modèle sur une personne nommée, motivé pièce par pièce
Prérequis
Ce que vous devez maîtriser
Savoir lire un tableau de chiffres et calculer un pourcentage, sans formation statistique préalable
Manipuler un tableur : taux, ratios, mensualités, restes à vivre, conversions minutes-heures-euros
Accepter d’écrire une décision défavorable à une personne nommée, et de la lui expliquer en face
Market signals
Ce que les sources publiques et la recherche établissent déjà, chiffres datés à l’appui
Cinq repères vérifiables qui expliquent pourquoi ce métier se joue sur des mesures écrites et non sur des convictions.
Le risque de discrimination, posé publiquement
L’article expose le débat sur les discriminations induites par les modèles d’octroi : c’est le procès d’intention que la note de décision devra affronter.
Source · Les Echos, 2024Ce que la profession se prépare à faire
L’étude interbranche de la fédération bancaire décrit les usages d’IA générative envisagés par le secteur et les métiers concernés.
Source · Fédération bancaire française, 24 mars 2025Cour de justice de l’Union européenne, 7 décembre 2023, affaire C-634/21
Un score de crédit est déjà, en droit, une décision
La Cour juge que l’établissement automatisé d’une valeur de probabilité relative à la capacité d’une personne à honorer ses engagements futurs constitue une décision au sens de l’article 22 du règlement général sur la protection des données, dès lors qu’un tiers y puise de manière déterminante pour octroyer ou refuser le crédit. La conséquence pratique est directe : la responsabilité ne se déplace pas vers l’éditeur du modèle.
Source · Cour de justice de l’Union européenne, arrêt OQ contre Land Hessen, 7 décembre 2023WP251 rév. 01 : « le refus automatique d’une demande de crédit en ligne »
Le refus automatique de crédit est l’exemple canonique du texte européen
Les lignes directrices adoptées le 3 octobre 2017, révisées le 6 février 2018 et approuvées par le comité européen de la protection des données le 25 mai 2018 citent le refus automatique de crédit comme cas d’école de la décision fondée exclusivement sur un traitement automatisé, et précisent qu’une validation humaine de pure forme ne suffit pas à en sortir.
Source · Comité européen de la protection des données, lignes directrices WP251 rév. 01134 803 dossiers de surendettement déposés en 2024, en hausse de 10,8 % sur un an
Le surendettement remonte, sans revenir à son niveau d’avant-crise
La Banque de France publie une hausse de 10,8 % des dépôts en 2024. La même publication typologique précise que ce niveau reste inférieur de 6 % à celui de 2019 et de 42 % à celui de 2014. Un conseiller qui cite la hausse sans citer le niveau raconte une histoire fausse : c’est exactement le type d’erreur qu’un dossier de crédit ne pardonne pas.
Source · Banque de France, baromètre de l’inclusion financière n° 45 et enquête typologique 2024Un modèle peut être équitable selon une métrique et injuste selon une autre
Deux définitions de l’équité peuvent être mathématiquement incompatibles
Les travaux sur l’équité des modèles de score de crédit, adossés notamment à la chaire de régulation et risque systémique, établissent que plusieurs définitions formelles d’équité ne peuvent être satisfaites simultanément. Choisir la métrique n’est donc pas un réglage technique délégable à l’éditeur : c’est une décision de gouvernance qui doit être écrite, datée et signée.
Source · The Fairness of Credit Scoring Models, arXiv:2205.10200La dérive de population déforme les performances et le profil d’écart dans le temps
Un modèle calibré une fois ne reste pas calibré
La recherche sur la dérive conceptuelle appliquée au score de crédit montre qu’un modèle étalonné sur une population donnée voit ses performances et son écart entre groupes se déformer lorsque la population change. Le contrôle humain de l’article 14 n’est donc pas un acte unique à la mise en service : c’est un réétalonnage périodique, avec une date et un responsable.
Source · Fair and Explainable Credit-Scoring under Concept Drift, arXiv:2511.03807La simulation en action
Découvrez comment les situations prennent vie
EUR-Lex — Article 22 du règlement (UE) 2016/679 (décision individuelle automatisée, y compris le profilage)
eur-lex.europa.eu
FILE
Texte officiel de l’article 22 : droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé produisant des effets juridiques ou affectant significativement la personne, et droit d’obtenir une intervention humaine, d’exprimer son point de vue et de contester la décision. Le considérant 71 du même règlement cite le « rejet automatique d’une demande de crédit en ligne » comme exemple.
EUR-Lex — Règlement (UE) 2016/679, version consolidée, article 15 paragraphe 1 point h)
eur-lex.europa.eu
FILE
Version consolidée du règlement général sur la protection des données. L’article 15, paragraphe 1, point h) ouvre à la personne concernée, en cas de décision automatisée au sens de l’article 22, le droit d’obtenir « des informations utiles concernant la logique sous-jacente, ainsi que l’importance et les conséquences prévues de ce traitement ».
Comité européen de la protection des données — Lignes directrices WP251 rév. 01 sur la décision individuelle automatisée et le profilage
edpb.europa.eu
FILE
Lignes directrices adoptées par le groupe de travail de l’article 29 le 3 octobre 2017, révisées le 6 février 2018 et approuvées par le comité européen de la protection des données le 25 mai 2018. Elles citent « le refus automatique d’une demande de crédit en ligne » comme exemple canonique de décision fondée exclusivement sur un traitement automatisé, et précisent qu’une intervention humaine de pure forme ne suffit pas à faire sortir la décision du champ de l’article 22.
Cour de justice de l’Union européenne — Arrêt du 7 décembre 2023, OQ contre Land Hessen, affaire C-634/21
eur-lex.europa.eu
FILE
ECLI:EU:C:2023:957. La Cour juge que l’établissement automatisé d’une valeur de probabilité relative à la capacité d’une personne à honorer des engagements de paiement futurs constitue une « décision » au sens de l’article 22, paragraphe 1, du règlement (UE) 2016/679, dès lors qu’un tiers auquel cette valeur est communiquée y puise de manière déterminante pour octroyer ou refuser le crédit.
CNIL — Vos droits à l’intervention humaine face à votre profilage ou à une décision automatisée
cnil.fr
FILE
Fiche publiée le 24 mai 2018. Elle détaille les trois garanties de l’article 22, paragraphe 3 : obtenir une intervention humaine du responsable de traitement, exprimer son point de vue et contester la décision. Ces trois garanties sont distinctes du droit à explication et doivent être notifiées séparément.
CNIL — Profilage et décision entièrement automatisée
cnil.fr
FILE
Fiche publiée le 29 mai 2018. Elle rappelle qu’une décision entièrement automatisée n’est licite que dans des cas limités et impose, lorsqu’elle l’est, des mesures appropriées de sauvegarde des droits, dont l’intervention humaine.
CNIL — Guide de l’intelligence artificielle : permettre le bon exercice de leurs droits par les personnes
cnil.fr
FILE
Fiche mise en ligne le 28 mars 2022. Elle transpose le cadre de la décision automatisée aux systèmes d’intelligence artificielle et insiste sur l’effectivité des droits : un droit notifié dans un gabarit mais impossible à exercer dans un délai raisonnable n’est pas un droit exercé.
EUR-Lex — Règlement (UE) 2024/1689 établissant des règles harmonisées concernant l’intelligence artificielle
eur-lex.europa.eu
FILE
Texte au Journal officiel de l’Union européenne du 12 juillet 2024. Annexe III point 5 b) : les systèmes destinés à évaluer la solvabilité de personnes physiques ou à établir leur note de crédit sont classés à haut risque, à l’exception de ceux utilisés pour détecter des fraudes financières. Article 113 : calendrier d’application échelonné.
Annexe III du règlement sur l’IA — Systèmes d’IA à haut risque visés à l’article 6, paragraphe 2
artificialintelligenceact.eu
FILE
Version consolidée et annotée de l’annexe III. Le point 5 b) vise les systèmes « destinés à être utilisés pour évaluer la solvabilité de personnes physiques ou pour établir leur note de crédit, à l’exception des systèmes d’IA utilisés aux fins de détecter des fraudes financières ».
Article 14 du règlement sur l’IA — Contrôle humain
artificialintelligenceact.eu
FILE
Version consolidée et annotée de l’article 14 : les systèmes à haut risque sont conçus pour pouvoir être effectivement contrôlés par des personnes physiques, lesquelles doivent pouvoir comprendre les capacités et les limites du système, rester conscientes du risque de biais d’automatisation, interpréter correctement la sortie et décider de ne pas l’utiliser ou d’en inverser l’effet.
Article 26 du règlement sur l’IA — Obligations incombant aux déployeurs de systèmes à haut risque
artificialintelligenceact.eu
FILE
Version consolidée et annotée de l’article 26 : contrôle humain confié à des personnes disposant des compétences, de la formation et de l’autorité nécessaires, conservation des journaux générés automatiquement pendant « au moins six mois », et information des personnes physiques soumises au système.
Article 86 du règlement sur l’IA — Droit à l’explication des décisions individuelles
artificialintelligenceact.eu
FILE
Version consolidée et annotée de l’article 86 : toute personne faisant l’objet d’une décision prise par un déployeur sur la base des sorties d’un système à haut risque de l’annexe III a le droit d’obtenir « des explications claires et pertinentes sur le rôle du système d’IA dans la procédure décisionnelle et sur les principaux éléments de la décision prise ».
Article 113 du règlement sur l’IA — Entrée en vigueur et application
artificialintelligenceact.eu
FILE
Calendrier échelonné d’application du règlement (UE) 2024/1689. Les obligations relatives aux systèmes à haut risque de l’annexe III sont, dans le texte publié au Journal officiel, applicables à compter du 2 août 2026. Un report de cette échéance a été discuté publiquement ; il n’est pas confirmé au Journal officiel à la date de vérification de cette fiche.
Légifrance — Code de la consommation, section « Explications fournies à l’emprunteur et évaluation de sa solvabilité » (articles L312-14 à L312-17)
legifrance.gouv.fr
FILE
Texte officiel. L’article L312-12 impose au prêteur de fournir à l’emprunteur les explications lui permettant de déterminer si le contrat proposé est adapté à ses besoins et à sa situation financière. L’article L312-16 impose de vérifier la solvabilité de l’emprunteur à partir d’un nombre suffisant d’informations, y compris fournies par ce dernier, et de consulter le fichier national des incidents de remboursement des crédits aux particuliers.
service-public.gouv.fr — Crédit à la consommation : délais de réflexion et de rétractation
service-public.gouv.fr
FILE
Fiche vérifiée le 22 août 2025. Elle rappelle le délai de rétractation de quatorze jours calendaires révolus applicable au crédit à la consommation, prévu par l’article L312-19 du code de la consommation, et le point de départ de ce délai.
Banque de France — Le fichier national des incidents de remboursement des crédits aux particuliers (FICP)
banque-france.fr
FILE
Page officielle décrivant les faits générateurs d’inscription au fichier : retard de remboursement caractérisé, découvert non régularisé, et mesures de traitement du surendettement. La consultation du fichier par le prêteur avant octroi est une obligation légale distincte de l’appréciation du risque.
Banque de France — Baromètre mensuel de l’inclusion financière n° 45, décembre 2024
banque-france.fr
FILE
Publication mise en ligne le 14 janvier 2025. Sur l’année 2024, 134 803 dossiers de surendettement ont été déposés auprès des commissions de surendettement, soit une augmentation de 10,8 % par rapport à 2023.
Banque de France — Le surendettement des ménages, enquête typologique 2024
banque-france.fr
FILE
Publication mise en ligne le 13 février 2025. Les 134 803 dossiers déposés en 2024 restent inférieurs de 6 % au niveau de 2019, avant la crise sanitaire, et de 42 % au niveau de 2014. La hausse de 2024 s’inscrit donc dans un niveau historiquement bas, ce qui interdit de lire un dépôt isolé comme un signal de tendance.
ACPR — Algorithmic fairness in the financial sector (document de réflexion, juillet 2026)
acpr.banque-france.fr
FILE
Document de réflexion de la direction Innovation, données et risques technologiques de l’Autorité de contrôle prudentiel et de résolution, daté de juillet 2026. Il examine les métriques d’équité applicables aux modèles du secteur financier, leurs incompatibilités mutuelles et les conséquences opérationnelles du choix d’une métrique plutôt qu’une autre.
The Fairness of Credit Scoring Models (arXiv:2205.10200)
arxiv.org
FILE
Travaux de recherche sur l’équité des modèles de score de crédit, adossés notamment à la chaire ACPR de régulation et risque systémique et à la chaire Fintech de Dauphine-PSL. Ils montrent que plusieurs définitions d’équité sont mathématiquement incompatibles entre elles et qu’un modèle peut être « équitable » selon une métrique et injuste selon une autre, ce qui rend le choix de la métrique une décision de gouvernance et non un réglage technique.
Evaluating AI fairness in credit scoring with the BRIO tool (arXiv:2406.03292)
arxiv.org
FILE
Prépublication de juin 2024 proposant un outil de mesure de biais appliqué à des modèles de score de crédit, avec une méthodologie de comparaison par sous-groupes reproductible sur un jeu de données public.
Fair and Explainable Credit-Scoring under Concept Drift (arXiv:2511.03807)
arxiv.org
FILE
Prépublication de novembre 2025 sur la dérive des modèles de score de crédit dans le temps : un modèle calibré sur une population donnée voit ses performances et son profil d’écart se déformer lorsque la population change, ce qui impose un réétalonnage périodique et non un contrôle unique à la mise en service.
ASF — Tableau de bord de l’Association française des Sociétés Financières en 2024
asf-france.com
FILE
Publication de mars 2025. L’ASF regroupe environ 250 établissements financiers spécialisés, dont les membres réalisent près de la moitié des opérations de crédit à la consommation en France. Le crédit à la consommation n’est donc pas un produit marginal du réseau bancaire : c’est un marché de masse dont la décision est industrialisée.
Les missions du programme
Ouvrez une mission pour voir ce que vous allez produire
☆
Aperçu du programme
1
Task 1
2
Task 2
3
Task 3
4
Task 4
5
Task 5
6
Task 6
7
Task 7
8
Task 8
🏁
Ligne d’arrivée
Aperçu du programme
Vous êtes recruté comme conseiller crédit aux particuliers au Crédit Ligérien, banque régionale qui instruit environ 38 000 demandes de crédit à la consommation par an. Sur le trimestre de référence, 9 460 demandes ont été traitées : 5 554 accords, 3 906 refus, et la totalité des refus prononcée par le moteur de décision OCTAVE sans qu’un conseiller ouvre le dossier. Le courrier de refus tient en une phrase et ne dit rien de la logique employée. Votre directrice des risques, Hélène Vaugeois, vous confie la seule mission qui compte : rendre ces décisions défendables. En huit missions, vous qualifierez la décision au regard de l’article 22 du règlement général sur la protection des données et du point 5 b) de l’annexe III du règlement sur l’intelligence artificielle, vous mesurerez l’écart de sélection entre salariés et travailleurs non salariés — 67,99 % contre 36,01 %, ratio 52,96 % —, vous démontrerez que le malus de 125 points dit « stabilité d’emploi » est un proxy du statut et non de la capacité de remboursement, vous fixerez le seuil sur un budget d’erreur exprimé en euros et vérifié contre une contrainte de capacité de 342,00 heures par trimestre, puis vous signerez trois décisions individuelles : un accord qui contredit la machine, un refus qui contredit votre directeur d’agence, et un refus assorti d’une alternative chiffrée. La dernière séance se tient devant la personne refusée et devant une association de défense des consommateurs.
Ce que vous allez vivre
- Qualifier avant de discuter
- Mesurer l’écart
- Débusquer le malus
- Décider et rendre compte
Prérequis
- Savoir lire un tableau de chiffres et calculer un pourcentage, sans formation statistique préalable
- Manipuler un tableur : taux, ratios, mensualités, restes à vivre, conversions minutes-heures-euros
- Accepter d’écrire une décision défavorable à une personne nommée, et de la lui expliquer en face
Ce que disent les pairs
Témoignages de professionnels qui ont vécu des missions équivalentes
4.8 •5 voix d’experts
Story
“La mission 3 m’a appris ce qu’est un contrefactuel : baisser le seuil ne règle rien, 59,00 %, et retirer un malus de 125 points fait passer à 87,32 %. En entretien, j’ai pu expliquer pourquoi je regardais la grille de variables…”
Sonia M.
Conseillère clientèle, 24 ans, premier poste en banque
Vers un poste de conseillère crédit
Story
“La mission 4 m’a fait comprendre qu’un seuil se défend en euros : 247 590,00 contre 283 740,00. Et la mission 6 m’a appris à dire non à mon directeur d’agence avec une note de trois lignes plutôt qu’avec une opinion. C’est…”
Karim T.
Conseiller crédit en reconversion, ancien technicien
Vers l’analyse de risque de crédit
Story
“Ces simulations m'ont aidée à projeter ce que serait mon premier poste. Très concret.”
Inès K.
Étudiante M2
Sciences Po
Story
“Le format est addictif et utile en entretien.”
Adrien L.
Diplômé école d'ingé
INSA Lyon
Story
“L'outil idéal pour tester un métier avant de s'engager.”
Maya T.
En reconversion
—
Ce que disent les pairs
Témoignages de professionnels qui ont vécu des missions équivalentes
4.8•5 voix d’experts
Story
“La mission 3 m’a appris ce qu’est un contrefactuel : baisser le seuil ne règle rien, 59,00 %, et retirer un malus de 125 points fait passer à 87,32 %. En entretien, j’ai pu expliquer pourquoi je regardais la grille de variables…”
Sonia M.
Conseillère clientèle, 24 ans, premier poste en banque
Vers un poste de conseillère crédit
Prêt à commencer ?
Faites le travail, gardez la preuve.