Choix de features, biais connus, subtilités des jeux de données : le savoir qui fait tenir un système d'IA vit dans quelques experts.
Équipes data et IA, de 5 à 100 personnes.
Les pipelines tournent, les tableaux de bord sont à jour, le code est versionné. Ce qui part, c'est la justification des choix faits en amont, et c'est précisément ce que la réglementation va vous demander.
Sources
Quelle source rejette quoi, pourquoi, et depuis quelle migration. Le taux de rejet est un indicateur de performance officiel du data engineer, mais l'explication de chaque rejet vit dans la tête de celui qui a branché la source.
Conception
Pourquoi cette architecture plutôt qu'une autre, quelle latence ou quel coût a tranché. L'annexe IV du règlement européen sur l'intelligence artificielle exige explicitement de consigner les décisions relatives aux compromis effectués. Aucune équipe ne les écrit spontanément.
Annotation
Ce que l'équipe a décidé de considérer comme ambigu, comment elle a tranché. La CNIL en a fait une fiche dédiée en juillet 2025, au motif que cette phase détermine la qualité du modèle. Les conventions, elles, se transmettent oralement.
Conformité
Le fournisseur d'un système à haut risque doit tenir sa documentation technique à disposition des autorités pendant dix ans après la mise sur le marché. Sur cette durée, l'équipe qui l'a conçu aura entièrement changé.
59 %
Des entreprises ayant cherché à recruter un spécialiste des technologies de l'information déclarent des difficultés, et 73 % dans le secteur de l'information et la communication.
Insee, enquête TIC entreprises 2024
Ces quatre pertes n'exposent ni au même risque ni dans le même délai. Voici comment les hiérarchiser.
Ce tableau se remplit en une réunion d'équipe. Vous en sortez avec la liste des pipelines et des modèles dont personne ne saurait justifier les choix, dans l'ordre. Il vous appartient, même si nous n'allons pas plus loin ensemble.
| Critère | Porté par | Documenté | Coût si la personne part |
|---|---|---|---|
| Provenance et limites des jeux de données | Un data scientist | Partiellement | Modèles entraînés sur des données qu'on ne peut plus justifier |
| Choix d'architecture et alternatives écartées | Une à deux personnes | Notebooks | On refait les mêmes essais |
| Comportements connus du modèle en production | L'équipe MLOps | Métriques, sans l'interprétation | Dérive non détectée |
Provenance et limites des jeux de données
Choix d'architecture et alternatives écartées
Comportements connus du modèle en production
Les entretiens sont menés par quelqu'un qui a construit des chaînes de traitement. C'est ce qui permet de relancer sur un compromis qu'un data engineer juge trop évident pour l'expliquer, et de recueillir une dette technique sans que la personne se sente mise en cause.
Avant
Nous listons avec vous les personnes à interroger et les sujets à écarter : les jeux de données personnelles, les poids de modèles sous licence restrictive, ce que la personne refuse de voir figurer. Vous validez ce périmètre avant le premier entretien.
Pendant
Écran partagé, sur la chaîne réelle plutôt que sur un schéma d'intention, sur plusieurs séances. La personne montre autant qu'elle explique, et l'expert relance sur ce qu'elle a sauté parce que cela lui paraissait évident.
Ensuite
Vos schémas de données et vos fiches de modèle existent déjà, mais personne ne sait lequel s'applique à quel cas. Ils sont rattachés aux explications qui leur donnent leur sens, au lieu de rester rangés à côté.
À la fin
Rien n'est mis à disposition de vos équipes sans son accord. C'est la condition pour qu'elle parle librement pendant les entretiens, et c'est ce qui sépare un recueil d'un contrôle.
Une fois les entretiens terminés, voici ce qu'un data engineer qui arrive a devant lui.
Le patrimoine, c'est l'outil interne qui contient leurs réponses et vos documents techniques, et que vos équipes interrogent en français.
Comment fonctionne réellement la synchronisation CRM-ERP ?
Voix du prestataire d'intégration
Pas les API temps réel du schéma officiel : un script Python hérité (sync_crm_v2.py) tourne chaque nuit , extrait les comptes modifiés en CSV et les pousse en SFTP vers l'AS/400. En cas de panne réseau, il s'arrête en silence ; réconciliation manuelle le lendemain.
Sources
Interface illustrative
Ce qu'on peut lui demander
Ce sont aussi, presque mot pour mot, les questions qu'un auditeur posera au titre de l'annexe IV du règlement européen.
Le règlement européen sur l'intelligence artificielle impose, pour les systèmes à haut risque, une documentation qui couvre les données d'entraînement, les choix de conception et les limites connues. C'est exactement ce qu'un recueil produit, et exactement ce que les équipes n'écrivent pas.
Recueilli et consultable
Exclu, sans exception
Le cadre juridique
Le règlement européen sur l'intelligence artificielle impose, pour les systèmes à haut risque, une documentation technique qui couvre les données d'entraînement, les choix de conception et les limites connues. C'est très exactement ce qu'un recueil produit, et c'est très exactement ce que les équipes n'écrivent pas. Les échéances d'application s'étalent jusqu'en 2027 : le patrimoine constitué aujourd'hui sert de base à la conformité de demain.
Si vous êtes en due diligence ou en préparation d'audit, la première situation vous concerne. Sinon, commencez par cartographier ce qui ne tient qu'à une personne.
Métier voisinInformatique & DéveloppementMême concentration du savoir, sur le code plutôt que sur les données.
Métier voisinCybersécuritéMême obligation de documentation qui arrive, par une autre directive.