clement13.net
Photo d’origine : Un grand télescope
Description
Un grand télescope
Source
NASA (Transfered by Quantanew/Original uploaded by Mohamed Osama AlNagdy · page d’origine
Licence
PD Domaine public
Photo d’origine, non retouchée. L’arrière-plan en est une version stylisée par le site.

Matrice : Analytique avancée

Comment le produit porte des analyses avancées (prédiction, détection d'anomalies, recommandation) : cadrage, données, expérimentation, validation, mise en production, surveillance, responsabilité, intégration.

≈ 12 min de lectureLecture
Périmètre

Les capacités analytiques au-delà du reporting intégrées au produit : prévisions, détection d'anomalies, classification, recommandations, assistants. Cadrage des cas d'usage, préparation des données, expérimentation, validation, industrialisation des modèles, surveillance, explication et usage responsable, intégration dans la décision. Le reporting descriptif relève du thème « Restitution ».

8 dimensions, six niveaux (0 à 5) et 112 critères observables. Pour situer votre produit : ouvrir l'état des lieux de ce thème. Les règles de calcul sont ici.

Vue d'ensemble#

Chaque cellule est la signature du niveau pour la dimension.

Dimension0 · Artisanal1 · Local outillé2 · Partagé3 · Industrialisé4 · Intégré et gouverné5 · Autonome
Cadrage des cas d'usageAnalyses lancées par curiosité ou par effet de mode.Idées notées.Cas d'usage décrits.Cas d'usage priorisés.Valeur suivie.Portefeuille piloté.
Préparation des données d'analyseDonnées extraites et nettoyées à la main pour chaque essai.Jeux de données figés.Préparation scriptée.Variables gérées.Préparation contrôlée.Variables partagées.
Expérimentation et reproductibilitéEssais dans des carnets personnels, sans trace des paramètres.Essais conservés.Essais tracés.Environnements reproductibles.Entraînement automatisé.Expérimentation industrialisée.
Validation et mesure de la performanceUn modèle est jugé bon parce que le résultat paraît plausible.Mesure simple.Validation structurée.Validation indépendante.Validation en conditions réelles.Validation continue.
Industrialisation des modèlesLe modèle est un fichier envoyé à la main, utilisé par son auteur.Modèle remis à l'équipe applicative.Entraînement reproductible.Déploiement automatisé.Exploitation automatisée.Cycle de vie complet.
Surveillance et dériveUn modèle est cru bon tant que personne ne se plaint.Suivi manuel.Suivi régulier.Dérive détectée.Réaction organisée.Réaction automatique.
Explicabilité et usage responsableLe modèle est une boîte noire utilisée sans condition.Fonctionnement décrit.Résultats expliqués.Usage encadré.Équité examinée.Responsabilité vérifiée.
Intégration dans la décisionLes résultats restent dans des documents d'étude.Résultats communiqués.Résultats dans les rapports.Résultats dans le processus.Boucle de retour.Décision assistée.
Lien avec le modèle global

Dimensions du modèle global les plus concernées : Utilisation (niveau 5, expérience assistée), Processus métier et Industrialisation et déploiement. Pour l'analytique au niveau de l'organisation, voir la matrice TDWI.

Cadrage et préparation#

Cadrage des cas d'usage#

Choisit-on les analyses avancées d'après la valeur attendue et la faisabilité ?

NiveauSignatureCritères à réunir
0 · ArtisanalAnalyses lancées par curiosité ou par effet de mode.Point de départ : aucun critère.
1 · Local outilléIdées notées.
  • Les idées d'analyses avancées sont recueillies dans une liste.
  • Chaque idée indique la question métier à laquelle elle répond.
2 · PartagéCas d'usage décrits.
  • Chaque cas d'usage retenu décrit la décision visée, les données nécessaires et l'utilisateur concerné.
  • Un indicateur de réussite est fixé avant de commencer.
  • Une solution plus simple (règle, seuil, tableau croisé) est examinée avant un modèle.
3 · IndustrialiséCas d'usage priorisés.
  • Les cas d'usage sont classés selon la valeur, le coût et la disponibilité des données.
  • La faisabilité est vérifiée sur un échantillon avant d'engager le développement.
  • Un propriétaire métier s'engage à utiliser le résultat.
4 · Intégré et gouvernéValeur suivie.
  • La valeur obtenue de chaque cas d'usage en production est mesurée.
  • Un cas d'usage sans valeur démontrée est arrêté ou retravaillé.
  • Les enseignements des cas d'usage passés guident le choix des suivants.
5 · AutonomePortefeuille piloté.
  • Le portefeuille des cas d'usage est revu à intervalle régulier avec les métiers.
  • Les composants réutilisables (jeux de variables, modèles de base) sont mutualisés entre cas d'usage.
  • Les besoins d'analyse émergent de l'usage constaté du produit.
Effet sur l'utilisateur

Le produit ne porte que des analyses dont on sait ce qu'elles apportent et comment on saura qu'elles marchent.

Préparation des données d'analyse#

Les données utilisées par les modèles sont-elles préparées, versionnées et reproductibles ?

NiveauSignatureCritères à réunir
0 · ArtisanalDonnées extraites et nettoyées à la main pour chaque essai.Point de départ : aucun critère.
1 · Local outilléJeux de données figés.
  • Les jeux de données d'étude sont conservés avec leur date d'extraction.
  • Les règles de nettoyage sont écrites.
2 · PartagéPréparation scriptée.
  • La préparation des données est un script, rejouable sur de nouvelles données.
  • Les données d'étude sont tirées de la couche validée du produit, pas de copies.
  • Les périodes d'apprentissage et de test sont séparées, sans fuite d'information de l'une vers l'autre.
3 · IndustrialiséVariables gérées.
  • Les variables dérivées (indicateurs calculés, agrégats) sont définies une fois et réutilisées.
  • La même préparation s'applique à l'entraînement et à l'utilisation en production.
  • Les jeux de données d'apprentissage sont versionnés.
4 · Intégré et gouvernéPréparation contrôlée.
  • La qualité des données d'entrée est vérifiée automatiquement avant chaque entraînement.
  • Les données personnelles utilisées sont justifiées par une finalité et minimisées.
  • La provenance de chaque variable est tracée jusqu'à la source.
5 · AutonomeVariables partagées.
  • Un magasin de variables partagé sert l'entraînement et la production avec les mêmes valeurs.
  • La fraîcheur et la santé des variables sont surveillées.
  • Une variable devenue inutile ou dégradée est détectée automatiquement.
Effet sur l'utilisateur

On sait avec quelles données un modèle a été construit, et on peut les reconstruire à l'identique.

Expérimentation et reproductibilité#

Les essais sont-ils tracés, comparables et reproductibles ?

NiveauSignatureCritères à réunir
0 · ArtisanalEssais dans des carnets personnels, sans trace des paramètres.Point de départ : aucun critère.
1 · Local outilléEssais conservés.
  • Le code des essais est conservé dans un dépôt partagé.
  • Les résultats principaux sont notés.
2 · PartagéEssais tracés.
  • Chaque essai enregistre ses paramètres, ses données, son code et ses résultats.
  • Les essais sont comparables entre eux avec les mêmes mesures.
  • Un essai peut être refait par une autre personne.
3 · IndustrialiséEnvironnements reproductibles.
  • Les environnements d'exécution (versions de bibliothèques) sont décrits et reconstruits à l'identique.
  • Les graines aléatoires et les versions de données sont enregistrées.
  • Le passage d'un carnet d'essai à un code testé suit une règle définie.
4 · Intégré et gouvernéEntraînement automatisé.
  • L'entraînement s'exécute par un enchaînement automatique, déclenché à la demande ou à date fixe.
  • Les modèles et leurs métadonnées sont conservés dans un registre.
  • Un modèle peut être reconstruit à partir de sa description, sans intervention manuelle.
5 · AutonomeExpérimentation industrialisée.
  • La recherche de paramètres et la comparaison de modèles sont automatisées.
  • Les ressources de calcul sont allouées à la demande et libérées après usage.
  • Tout résultat publié est relié à l'essai qui l'a produit.
Effet sur l'utilisateur

Un résultat se refait, et le meilleur modèle est choisi sur des faits, pas sur la mémoire de quelqu'un.

Validation et mise en production#

Validation et mesure de la performance#

Sait-on comment mesurer qu'un modèle est bon, et pour qui ?

NiveauSignatureCritères à réunir
0 · ArtisanalUn modèle est jugé bon parce que le résultat paraît plausible.Point de départ : aucun critère.
1 · Local outilléMesure simple.
  • Une mesure de performance (erreur, précision) est calculée sur des données non utilisées pour l'entraînement.
  • Le résultat est comparé à une référence simple (valeur précédente, moyenne).
2 · PartagéValidation structurée.
  • Le choix des mesures découle de la décision visée et du coût des erreurs.
  • La performance est examinée par segment (période, région, type de client), pas seulement globalement.
  • Les limites connues du modèle sont écrites.
3 · IndustrialiséValidation indépendante.
  • La validation est faite par une personne autre que celle qui a construit le modèle.
  • Le modèle est confronté aux utilisateurs métier sur des cas concrets avant mise en service.
  • Un seuil minimal de performance conditionne la mise en production.
4 · Intégré et gouvernéValidation en conditions réelles.
  • Un nouveau modèle est comparé à l'ancien en parallèle avant de le remplacer.
  • La performance observée en production est comparée à celle mesurée à la validation.
  • Les décisions prises avec le modèle sont rapprochées de leurs résultats réels.
5 · AutonomeValidation continue.
  • La validation est rejouée automatiquement à chaque nouvel entraînement.
  • Des essais comparatifs en conditions réelles (par exemple deux versions en parallèle) sont organisés de façon régulière.
  • Les écarts de performance par segment déclenchent une alerte.
Effet sur l'utilisateur

On sait dire avec quelle fiabilité le modèle se trompe, et dans quels cas il ne faut pas s'y fier.

Industrialisation des modèles#

Passe-t-on d'un essai à un modèle exploité de façon fiable, versionnée et automatisée ?

NiveauSignatureCritères à réunir
0 · ArtisanalLe modèle est un fichier envoyé à la main, utilisé par son auteur.Point de départ : aucun critère.
1 · Local outilléModèle remis à l'équipe applicative.
  • Le modèle est remis avec sa description (entrées, sorties, version).
  • Le code d'utilisation du modèle est versionné.
2 · PartagéEntraînement reproductible.
  • L'entraînement est automatisé et reproductible.
  • Les performances d'entraînement sont suivies de façon centralisée.
  • Les modèles sont gérés dans un registre avec leur version.
3 · IndustrialiséDéploiement automatisé.
  • Le déploiement d'un modèle suit un enchaînement automatique, avec tests unitaires et d'intégration.
  • Le passage d'un environnement à l'autre est automatisé.
  • La traçabilité du modèle en production remonte jusqu'aux données d'origine.
4 · Intégré et gouvernéExploitation automatisée.
  • Un modèle peut être retiré ou remplacé par sa version précédente en une opération.
  • Les métriques de production déclenchent un réentraînement automatique.
  • La promotion d'un modèle est soumise à une politique appliquée automatiquement.
5 · AutonomeCycle de vie complet.
  • L'ensemble du cycle (données, entraînement, validation, déploiement, surveillance) est automatisé et supervisé.
  • Les nouveaux modèles s'ajoutent sans développement d'infrastructure.
  • L'indisponibilité due au renouvellement des modèles est quasi nulle.
Effet sur l'utilisateur

Un modèle en production est un composant comme un autre : versionné, testé, déployé et supervisé.

Surveillance et dérive#

Un modèle en production reste-t-il bon quand les données changent ?

NiveauSignatureCritères à réunir
0 · ArtisanalUn modèle est cru bon tant que personne ne se plaint.Point de départ : aucun critère.
1 · Local outilléSuivi manuel.
  • La performance du modèle est regardée de temps en temps.
  • Les erreurs flagrantes sont corrigées.
2 · PartagéSuivi régulier.
  • Les entrées et les sorties du modèle sont enregistrées.
  • La performance est recalculée à intervalle régulier quand les résultats réels deviennent connus.
  • Un seuil de dégradation est défini.
3 · IndustrialiséDérive détectée.
  • La dérive des données d'entrée (distribution, valeurs manquantes) est mesurée.
  • La dérive de la relation entre entrées et résultat est mesurée dès que les résultats sont connus.
  • Un dépassement de seuil déclenche une alerte avec un responsable.
4 · Intégré et gouvernéRéaction organisée.
  • Une procédure décrit la réponse à une dérive : réentraînement, repli, arrêt.
  • Un repli vers une règle simple existe quand le modèle n'est plus fiable.
  • Les utilisateurs sont prévenus quand un modèle est suspendu.
5 · AutonomeRéaction automatique.
  • Un signal de dérive ou de régression déclenche automatiquement un réentraînement.
  • Le modèle remplaçant est validé automatiquement avant sa mise en service.
  • La santé de l'ensemble des modèles est visible sur un tableau de bord commun.
Effet sur l'utilisateur

Un modèle qui se dégrade est détecté et traité avant qu'il ne fausse des décisions.

Confiance et décision#

Explicabilité et usage responsable#

Peut-on expliquer un résultat, et l'usage du modèle est-il encadré ?

NiveauSignatureCritères à réunir
0 · ArtisanalLe modèle est une boîte noire utilisée sans condition.Point de départ : aucun critère.
1 · Local outilléFonctionnement décrit.
  • Le principe du modèle est décrit dans un document accessible aux utilisateurs.
  • Les données utilisées sont listées.
2 · PartagéRésultats expliqués.
  • Chaque résultat est accompagné des facteurs qui l'ont le plus influencé.
  • Une fiche du modèle précise son but, ses limites et les cas où il ne faut pas l'utiliser.
  • Un résultat est présenté avec son degré d'incertitude.
3 · IndustrialiséUsage encadré.
  • Les décisions importantes prises avec un modèle restent validées par une personne.
  • Les utilisateurs peuvent contester ou corriger un résultat, et la correction est enregistrée.
  • Les données sensibles ou les critères discriminatoires sont exclus ou justifiés.
4 · Intégré et gouvernéÉquité examinée.
  • Les écarts de résultats entre groupes de personnes sont mesurés.
  • Chaque modèle a un responsable de son usage et de ses effets.
  • Une revue d'impact précède la mise en service des modèles qui touchent des personnes.
5 · AutonomeResponsabilité vérifiée.
  • Les contrôles d'équité et d'explicabilité sont automatisés à chaque nouvelle version.
  • Les registres de modèles précisent leurs usages permis et leurs obligations réglementaires.
  • Les retours des personnes concernées sont analysés et pris en compte.
Effet sur l'utilisateur

L'utilisateur comprend pourquoi le modèle propose ceci, et sait quand ne pas le suivre.

Intégration dans la décision#

Les résultats avancés arrivent-ils dans le geste de décision, et sont-ils utilisés ?

NiveauSignatureCritères à réunir
0 · ArtisanalLes résultats restent dans des documents d'étude.Point de départ : aucun critère.
1 · Local outilléRésultats communiqués.
  • Les résultats sont communiqués aux métiers sous forme de rapport ou de fichier.
  • Un utilisateur métier est identifié pour chaque résultat.
2 · PartagéRésultats dans les rapports.
  • Les résultats (prévisions, scores) sont disponibles dans les rapports, à côté des chiffres réels.
  • Les résultats modélisés sont signalés comme tels, pour ne pas les confondre avec des faits.
  • La date du dernier calcul est affichée.
3 · IndustrialiséRésultats dans le processus.
  • Les résultats déclenchent des alertes ou des tâches dans les outils de travail.
  • Les seuils d'alerte sont réglés avec les métiers.
  • L'usage des résultats est mesuré : consultés, suivis, ignorés.
4 · Intégré et gouvernéBoucle de retour.
  • Les décisions prises après un résultat sont enregistrées avec leur issue.
  • Ces retours servent à améliorer le modèle et les seuils.
  • Les résultats qui ne sont jamais suivis sont repérés et retravaillés ou retirés.
5 · AutonomeDécision assistée.
  • Les utilisateurs interrogent les données et les modèles en langage courant, avec des réponses sourcées.
  • Les décisions routinières sont automatisées dans un cadre défini, avec reprise par une personne en cas de doute.
  • La valeur de chaque automatisation est mesurée et revue.
Effet sur l'utilisateur

Une prévision ou une alerte change vraiment une décision ; sinon elle ne vaut pas son coût.

Origine des critères

Les dimensions s'inspirent des références citées ci-dessous ; les niveaux et les critères sont une synthèse originale, pas une reprise d'un référentiel. Ils sont proposés pour être discutés et adaptés, pas pour faire foi.

Sources et vérification#