FR3149111A1

FR3149111A1 - Procede pour tester un modele d’apprentissage machine a partir d’une analyse d’une valeur de contribution d’un descripteur a la prediction

Info

Publication number: FR3149111A1
Application number: FR2305155A
Authority: FR
Inventors: Jean-Marie JOHN-MATHEWS; Kevin MESSIAEN; Matteo DORA; Rabah ABDUL KHALEK; Andrei AVTOMONOV; Hugo Viallon; Mathieu ROQUES
Original assignee: Giskard Ai
Current assignee: Giskard Ai
Priority date: 2023-05-24
Filing date: 2023-05-24
Publication date: 2024-11-29

Abstract

PROCEDE POUR TESTER UN MODELE D’APPRENTISSAGE MACHINE A PARTIR D’UNE ANALYSE D’UNE VALEUR DE CONTRIBUTION D’UN DESCRIPTEUR A LA PREDICTION Procédé pour tester un modèle d’apprentissage machine comportant : Génération (GEN1) d’une première représentation graphique affichant au moins une valeur d’une donnée de sortie (REG1, CL1) d’un premier modèle (ML1), ladite valeur produite étant affectée audit objet numérique (OBi), ledit premier modèle d’apprentissage machine (ML1) traitant en entrée un vecteur d’entrée comportant un ensemble de descripteurs d’un objet numérique (OBi) et produisant en sortie une donnée issue d’une étape de classification ou de régression ;ladite représentation graphique affichant en outre au moins un premier symbole activable ;Activation (ACT1) dudit symbole et génération d’un premier test (T1) du premier modèle (ML1);Calcul d’une quantification des objets numériques sélectionnés dont le résultat du premier modèle (ML1) est similaire au résultat du premier modèle (ML1) exécuté sur le premier objet numérique (OBi). FIG.1

Description

PROCEDE POUR TESTER UN MODELE D’APPRENTISSAGE MACHINE A PARTIR D’UNE ANALYSE D’UNE VALEUR DE CONTRIBUTION D’UN DESCRIPTEUR A LA PREDICTION

Domaine de l’invention

Le domaine de l’invention se rapporte au domaine des procédés et systèmes de test d’un modèle d’apprentissage machine.

En particulier, le domaine de l’invention se rapporte aux solutions permettant à des utilisateurs d’interagir sur des variables d’un ensemble de données exploitées par le modèle d’apprentissage machine.

État de la technique

Les procédés de tests des modèles d’apprentissage machine pour classifier des objets numériques sont difficiles à mettre en œuvre notamment du fait de l’effet « boite noire » qui ne permet pas de restituer des liens de causes à effets entre d’une part les paramètres du modèles et d’autres part les descripteurs des objets numériques à classer par le modèle et la classification attribuée par le modèle.

Il existe un besoin de définir des tests permettant de déboguer un modèle d’apprentissage machine.

Selon un premier aspect l’invention concerne un procédé mis en œuvre par ordinateur pour tester un modèle d’apprentissage machine comportant :

acquisition d’un premier ensemble de données décrivant un ensemble d’objets numériques, chaque objet numérique comportant un ensemble de descripteurs et leurs valeurs associées ;
génération d’une première représentation graphique comportant un élément de navigation pour basculer d’un affichage d’un objet numérique à un affichage d’un autre objet numérique, chaque affichage d’un objet numérique comportant au moins une désignation dudit objet numérique, un ensemble de descripteurs dudit objet numérique et les valeurs associées desdits descripteurs,
ladite représentation graphique affichant au moins une valeur d’une donnée de sortie d’un premier modèle, ladite valeur produite étant affectée audit objet numérique, ledit premier modèle d’apprentissage machine traitant en entrée un vecteur d’entrée comportant un ensemble de descripteurs d’un objet numérique et produisant en sortie une donnée issue d’une étape de classification ou de régression ;
ladite représentation graphique affichant en outre au moins un premier symbole activable, ledit premier symbole étant généré à proximité d’une valeur d’un premier descripteur donné dont une quantification de la contribution à la production de la valeur de la donnée de sortie dudit objet numérique est supérieure ou inférieure à un premier seuil donné ;
activation dudit premier symbole et génération d’un premier test du premier modèle, ledit premier test comportant la sélection d’un sous-ensemble d’objets numériques dont la valeur du descripteur est identique ou proche du premier descripteur du premier objet ;
calcul d’une quantification des objets numériques sélectionnés dont le résultat du premier modèle est similaire au résultat du premier modèle exécuté sur le premier objet numérique ;
génération d’un indicateur d’anomalie caractérisant une corrélation entre les valeurs du premier descripteur et les valeurs de classe.

Un avantage est de permettre de vérifier qu’une anomalie constatée sur un exemple de résultat du premier modèle est ou n’est pas une anomalie liée au modèle lui-même par exemple liée à une configuration ou un paramétrage du premier modèle ou encore lié à son entrainement.

Selon un mode de réalisation, la valeur de la donnée de sortie est la valeur de prédiction d’une première classe d’un classifier classifiant l’objet numérique affiché. Un avantage est de permettre d’adapter l’invention à tout type d’algorithme de classification.

Selon un mode de réalisation, le procédé comprend, consécutivement à l’activation dudit premier symbole, la génération d’une première fenêtre graphique comportant une désignation du premier test activable. Un avantage est de permettre d’actionner le test en deux temps. Un premier temps permet de lister un ensemble d’actions ou de tests possibles qui sont adaptés au cas singulier de l’anomalie constatée sur un exemple. Ainsi, l’utilisateur peut décider de stocker ce cas d’exemple et le traiter plus tard ou encore de tester l’anomalie directement avec d’autres données du modèle.

Selon un mode de réalisation, le premier seuil est :

un seuil absolu définissant une valeur à dépasser ou ;
Le seuil relatif définissant un écart à dépasser entre une valeur de contribution du premier descripteur et une seconde valeur de contribution d’un second descripteur.

Un intérêt est de configurer les seuils selon l’exigence de vérification qu’un utilisateur souhaite mettre en place. Notamment, cette configuration peut être utile dans un premier cas, lors du test d’un premier modèle qui vient d’être codé ou entrainé ou encore dans un second cas, lors du test d’un premier modèle ayant déjà subi quelques ajustements.

Selon un mode de réalisation, le premier seuil relatif est défini par un écart à dépasser entre une valeur de contribution du premier descripteur et la plus grande seconde valeur de contribution d’un autre descripteur.

Selon un mode de réalisation, un descripteur peut être de type :

descripteur catégorique et/ou ;
descripteur textuel et/ou ;
descripteur numérique.

Selon un mode de réalisation, les données d’entrée comprennent au moins une valeur de label correspondant à la véritable valeur de la première classe assignée à l’objet numérique affichée. Un avantage est de permettre d’enrichir les conditions dans lesquelles les symboles sont générés et permettent d’extraire des données spécifiques dans lesquelles la valeur de la classification peut être comparée à une vraie valeur d’un label associée à l’objet numérique.

Selon un mode de réalisation, le premier symbole est généré lorsque la valeur de la classe prédite en sortie du premier modèle est non conforme à la véritable valeur de la première classe. Un avantage est de que cette condition peut être combinée à une condition sur la valeur de sortie produite par le premier modèle. Ainsi, il est possible de contextualiser la génération du premier symbole, son apparence, la zone dans laquelle il est généré ou encore la liste des tests proposés lorsque l’on active le premier symbole.

Selon un mode de réalisation, le procédé comprend :

consécutivement à l’activation dudit symbole la génération d’une première fenêtre graphique comportant une désignation d’une première action activable, ladite première action comportant :
extraction d’un sous-ensemble d’objets numériques dont leur premier descripteur a une même valeur que la valeur du premier descripteur de l’objet numérique affiché ;
Génération de la première représentation graphique permettant de naviguer au sein des objets numériques du sous-ensemble d’objets numériques.

Un avantage est de proposer un autre test dans une fenêtre affichée lors de l’activation du premier symbole.

Selon un mode de réalisation, le procédé comprend :

consécutivement à l’activation dudit symbole la génération d’une première fenêtre graphique comportant une désignation d’une seconde action activable, ladite seconde action activable comportant :
extraction d’un sous-ensemble d’objets numériques dont leur premier descripteur a une même valeur que la valeur du premier descripteur de l’objet numérique affiché ;
enregistrement du sous-ensemble d’objets numériques.

Selon un mode de réalisation, le procédé comprend :

consécutivement à l’activation dudit symbole la génération d’une première fenêtre graphique comportant une désignation d’un second test activable, ledit second test du premier modèle comportant :
duplication de l’objet numérique sélectionné pour créer un nouvel objet numérique,
sélection du premier descripteur dudit nouvel objet numérique dupliqué et
modification de la valeur dudit descripteur ;
classification dudit nouvel objet numérique à partir du premier modèle et affichage de la nouvelle valeur de prédiction calculée.

Selon un mode de réalisation, le procédé comprend :

consécutivement à l’activation dudit symbole la génération d’une première fenêtre graphique comportant une désignation d’un troisième test activable, ledit troisième test du premier modèle comportant :
duplication de l’objet numérique en une pluralité d’objets numériques comprend chacun une valeur du premier descripteur modifiée autour de la valeur du premier descripteur de l’objet numérique dans une gamme déterminée de valeurs possibles ;
calcul d’une distribution de la classification desdits objet numérique dupliqués et modifiés à partir du premier modèle d’apprentissage machine et affichage de la distribution des prédictions calculées.

Selon un second aspect l’invention concerne un procédé mis en œuvre par ordinateur pour tester un modèle d’apprentissage machine comportant :

acquisition d’un premier ensemble de données décrivant un ensemble d’objets numériques, chaque objet numérique comportant un ensemble de descripteurs et leurs valeurs associées ;
Génération d’une première représentation graphique comportant un élément de navigation pour basculer d’un affichage d’un objet numérique à un affichage d’un autre objet numérique, chaque affichage d’un objet numérique comportant au moins une désignation dudit objet numérique, un ensemble de descripteurs dudit objet numérique et les valeurs associées desdits descripteurs,
ladite représentation graphique affichant au moins une valeur d’une donnée de sortie d’un premier modèle, ladite valeur produite étant affectée audit objet numérique, ledit premier modèle d’apprentissage machine traitant en entrée un vecteur d’entrée comportant un ensemble de descripteurs d’un objet numérique et produisant en sortie une donnée issue d’une étape de classification ou de régression ;
ladite représentation graphique affichant en outre au moins un premier symbole activable, ledit premier symbole étant généré à proximité d’une valeur d’un premier descripteur donné dont une quantification de la contribution à la production de la valeur de la donnée de sortie dudit objet numérique est supérieure ou inférieure à un premier seuil donné ;
activation dudit premier symbole ;
consécutivement à l’activation dudit symbole, génération d’une première fenêtre graphique comportant une désignation d’une première action activable, ladite première action comportant :
extraction d’un sous-ensemble d’objets numériques dont leur premier descripteur a une même valeur que la valeur du premier descripteur de l’objet numérique affiché ;
Génération de la première représentation graphique permettant de naviguer au sein des objets numériques du sous-ensemble d’objets numériques.

Selon un troisième aspect, l’invention concerne un procédé mis en œuvre par ordinateur pour tester un modèle d’apprentissage machine comportant :

Acquisition d’un premier ensemble de données décrivant un ensemble d’objets numériques, chaque objet numérique comportant un ensemble de descripteurs et leurs valeurs associées ;
Génération d’une première représentation graphique comportant un élément de navigation pour basculer d’un affichage d’un objet numérique à un affichage d’un autre objet numérique, chaque affichage d’un objet numérique comportant au moins une désignation dudit objet numérique, un ensemble de descripteurs dudit objet numérique et les valeurs associées desdits descripteurs ;
Ladite représentation graphique affichant au moins une valeur d’une donnée de sortie d’un premier modèle, ladite valeur produite étant affectée audit objet numérique, ledit premier modèle d’apprentissage machine traitant en entrée un vecteur d’entrée comportant un ensemble de descripteurs d’un objet numérique et produisant en sortie une donnée issue d’une étape de classification ou de régression ;
ladite représentation graphique affichant en outre au moins un premier symbole activable, ledit premier symbole étant généré à proximité d’une valeur d’un premier descripteur donné dont une quantification de la contribution à la production de la valeur de la donnée de sortie dudit objet numérique est supérieure ou inférieure à un premier seuil donné ;
Activation dudit premier symbole ;
consécutivement à l’activation dudit symbole, génération d’une première fenêtre graphique comportant une désignation d’un second test activable, ledit second test du premier modèle comportant :
duplication de l’objet numérique sélectionné pour créer un nouvel objet numérique ;
sélection du premier descripteur dudit nouvel objet numérique dupliqué, et
modification de la valeur dudit descripteur ;
classification dudit nouvel objet numérique à partir du premier modèle et affichage de la nouvelle valeur de prédiction calculée.

Selon un quatrième aspect, l’invention concerne un procédé mis en œuvre par ordinateur pour tester un modèle d’apprentissage machine comportant :

acquisition d’un premier ensemble de données décrivant un ensemble d’objets numériques, chaque objet numérique comportant un ensemble de descripteurs et leurs valeurs associées ;
génération d’une première représentation graphique comportant un élément de navigation pour basculer d’un affichage d’un objet numérique à un affichage d’un autre objet numérique, chaque affichage d’un objet numérique comportant au moins une désignation dudit objet numérique, un ensemble de descripteurs dudit objet numérique et les valeurs associées desdits descripteurs,
ladite représentation graphique affichant au moins une valeur d’une donnée de sortie d’un premier modèle, ladite valeur produite étant affectée audit objet numérique, ledit premier modèle d’apprentissage machine traitant en entrée un vecteur d’entrée comportant un ensemble de descripteurs d’un objet numérique et produisant en sortie une donnée issue d’une étape de classification ou de régression ;
ladite représentation graphique affichant en outre au moins un premier symbole activable, ledit premier symbole étant généré à proximité d’une valeur d’un premier descripteur donné dont une quantification de la contribution à la production de la valeur de la donnée de sortie dudit objet numérique est supérieure ou inférieure à un premier seuil donné ;
activation dudit premier symbole ;
consécutivement à l’activation dudit symbole, génération d’une première fenêtre graphique comportant une désignation d’un troisième test activable, ledit troisième test du premier modèle comportant :
duplication de l’objet numérique en une pluralité d’objets numériques comprend chacun une valeur du premier descripteur modifiée autour de la valeur du premier descripteur de l’objet numérique dans une gamme déterminée de valeurs possibles ;
calcul d’une distribution de la classification desdits objet numérique dupliqués et modifiés à partir du premier modèle d’apprentissage machine et affichage de la distribution des prédictions calculées.

L’ensemble des modes de réalisation décrit dans la présente description se rapportant au premier aspect de l’invention se rapporte également au second aspect de l’invention, au troisième aspect de l’invention et au quatrième aspect de l’invention.

Selon un autre aspect l’invention concerne un système comportant au moins un premier serveur de données pour la mise en œuvre d’un service mettant en œuvre le premier modèle d’apprentissage machine pour la classification d’un ensemble d’objets numériques, un second serveur de données de test comportant une interface de données pour exécuter les étapes du procédé de l’invention.

Brève description des figures

D’autres caractéristiques et avantages de l’invention ressortiront à la lecture de la description détaillée qui suit, en référence aux figures annexées qui illustrent :

: les principales étapes d’un mode de réalisation de l’invention ;

: un exemple de représentation de l’exécution d’un modèle d’apprentissage machine ;

: un exemple de représentation graphique générée par le procédé de l’invention permettant de tester le modèle d’apprentissage machine lorsqu’un symbole est généré à proximité d’un descripteur ;

: un exemple de représentation graphique générée par le procédé de l’invention permettant de tester le modèle d’apprentissage machine lorsqu’un symbole est généré à proximité d’une prédiction ;

: un exemple de représentation graphique comportant une génération d’une fenêtre comportant une pluralité de tests du modèle d’apprentissage machine selon un mode de réalisation de l’invention lorsqu’un symbole est généré à proximité d’un descripteur ;

: un exemple de représentation graphique comportant une génération d’une fenêtre comportant une pluralité de tests du modèle d’apprentissage machine selon un mode de réalisation de l’invention lorsqu’un symbole est généré à proximité d’une prédiction ;

: un exemple de système de l’invention selon un mode de réalisation.

Description de l’invention Définitions

Dans la suite de la description :

On appelle « objet numérique », un objet à classer par un modèle d’apprentissage machine et comportant une pluralité de descripteur. Un objet numérique peut être un document numérique, une demande de prêt prenant la forme d’une requête renseignée ou d’un container de données décrivant une entité numérique, ou encore une demande d’accès à un logement, une demande auprès d’une organisation. On note également plus communément dans le domaine de l’apprentissage machine, un objet : un exemple ;
On appelle « {OB_p} », un ensemble d’objets numériques à classifier ou classifiés. Il peut s’agir de l’ensemble des objets numériques présent dans l’ensemble de données reçu DS₁ou d’une partie seulement vérifiant certaines conditions. Il s’agit donc d’un ensemble d’exemples. Cet ensemble de données peut également être appelé un jeu de données ou encore dans la terminologie anglo-saxonne un “dataset” ;
On appelle « {OB_p’} », un ensemble d’objets numériques extraits par le procédé de l’invention de l’ensemble {OB_p}. On appelle un tel sous-ensemble extrait de l’ensemble d’objets numériques dans le domaine de l’apprentissage machine un “data slice” ;
On appelle « OBi », un objet numérique donné de l’ensemble {OB_p}, notamment l’objet numérique affiché par l’interface à partir de laquelle sont effectués les calculs des différentes conditions, des actions et des tests. On appelle cet objet numérique un i^èmeexemple ;
D’une manière générale la notation « {…} » désigne un ensemble d’éléments ;
On appelle « {F_ik} », un ensemble de descripteurs numériques de l’objet OBi, on connaît également plus communément dans le domaine de l’apprentissage machine ces descripteurs sous le nom anglo-saxon de “features” ;
On appelle « F_i1», le premier descripteur numérique de l’objet OBi ;
On appelle « {F_p1} », un ensemble des premiers descripteurs numériques d’un ensemble d’objets numériques {OB_p} ;
On appelle « DS₁», un ensemble de données reçues comprenant notamment des données de descripteurs d’objets numériques ainsi que la zone de l’interface IHM1 représentant les valeurs de ces descripteurs.

Acquisition des données et du premier modèle

La représente un exemple d’un mode de réalisation de l’invention. Dans ce mode de réalisation, le procédé de l’invention comprend différentes étapes.

Le procédé de l’invention peut être exécuté sur une machine dans laquelle est déjà présent le modèle d’apprentissage machine ML₁et dans ce cas les données reçues sont enregistrées dans cette première machine, c’est-à-dire le premier serveur SERV₁dans la . Selon un autre mode de réalisation, le procédé de l’invention peut être exécuté sur un autre serveur SERV₂, qui représente le serveur de test ou le serveur de débogage.

Dans le cadre de l’invention, lorsque le procédé est réalisé sur le serveur SERV₁dans lequel le modèle ML₁est déjà présent et est déjà exécuté, le procédé peut comprendre une étape visant à télécharger un composant logiciel sur le serveur SERV₁afin de réaliser les instructions visant à exécuter le modèle pour réaliser les tests selon le procédé de l’invention. Ce composant logiciel peut être par exemple un serveur virtuel exécuté sur le serveur SERV₁. Le serveur SERV₂peut donc être un serveur physiquement différent du premier serveur SERV₁ou un serveur virtuel exécuté dans la machine définissant le second serveur SERV₂.

Le serveur SERV₂peut recevoir les données DS₁et le modèle ML₁de manière à dupliquer l’ensemble des données pour réaliser des tests ou ajustements et pour générer une interface IHM₁pour un utilisateur souhaitant visualiser les tests générés par le procédé de l’invention. L’étape d’acquisition des données DS1 est notée ACQ1 sur la .

Selon un exemple, une première étape consiste à recevoir des données DS₁depuis un PC d’un utilisateur. Cette étape peut correspondre également à une acquisition de données, étape également appelée “upload” dans la terminologie anglo-saxonne lorsqu'elle est réalisée depuis une autre machine.

Les données reçues DS₁correspondent à des données exploitées par un algorithme d’apprentissage machine. Cet algorithme est appelé dans la suite de la description premier modèle d’apprentissage machine ou premier modèle ML₁.

Selon un exemple, l’invention comprend également la réception du premier modèle d’apprentissage machine ML₁afin qu’il soit exécuté EXE₁sur le serveur SERV₂. Selon un autre exemple, le modèle est exécuté EXE₁sur le serveur SERV₁ou plus généralement sur la machine dans laquelle le modèle ML₁est déjà installé. En d’autres termes, l’invention s’applique aussi bien à un modèle paramétré sur une machine ou à un modèle reçu que l’on paramètre sur une machine tierce.

Lorsque les données DS₁et le modèle ML₁sont reçus par un second serveur SERV₂, ils peuvent être émis conjointement dans une même réception ou de manière successive dans deux réceptions séparées.

Le procédé est avantageusement mis en œuvre au moyen d’un serveur de données, tel qu’un serveur SERV₂présent sur la . Les données émises et le modèle ML₁sont par exemple, précédemment à leur transmission au serveur SERV₂, stockés et/ou exécutés sur un autre serveur tel que le serveur SERV₁de la . L’échange de données entre les deux serveurs peut être par exemple réalisé au moyen d’une API. Selon un exemple de réalisation, le serveur SERV₂et le serveur SERV₁communiquent essentiellement des instructions pour exécuter le modèle sur le serveur SERV₁et des résultats produits par le modèle exécuté sur le serveur SERV₁vers le serveur SERV₂pour les affiché sur un PC utilisateur.

Les données reçues et le premier modèle ML₁reçu sont préférentiellement enregistrés dans une mémoire avant de générer des tests sur ledit premier modèle ML₁.

Caractérisation du premier ensemble de données reçues

L’invention permet de configurer l’interface de communication, le calculateur, la mémoire et les programmes d’ordinateur du serveur SERV₁ou SERV₂pour recevoir un ensemble de données définissant notamment des descripteurs d’objets numériques.

Les données peuvent comprendre des libellés de descripteurs, des valeurs de descripteurs, des formats d’encodage des valeurs des descripteurs et les types de descripteurs. Les descripteurs sont plus communément appelés dans la littérature anglo-saxonne des « features ». Ces descripteurs définissent avantageusement des composantes d’un vecteur d’entrée V₁traité par le premier modèle d’apprentissage machine ML₁.

On définit un objet numérique décrit par le premier ensemble de données DS₁comme un objet dont une valeur peut lui être affectée consécutivement à un calcul par le premier modèle ML₁.

L’objet numérique peut être par exemple un document numérique, une demande de prêt ou de crédit, un dossier de candidature, une page WEB, une prédiction météorologique, etc. Ces exemples ne sont pas exhaustifs. L’invention se rapporte à tout type d’objet numérique susceptible d’être classifié par le premier modèle ML₁ou susceptible d’être associé à une valeur calculée par premier modèle ML₁selon une régression.

Un vecteur d’entrée comportant des composantes définies par des descripteurs Fik d’un objet numérique est traité par le premier modèle ML₁pour produire une valeur de sortie.

Les données DS₁peuvent comprendre des données d'entraînement du modèle ou encore des données d’exploitation n’ayant pas servi à l'entraînement du premier modèle.

Caractérisation du premier modèle ML1

L’invention comporte également des moyens pour exécuter un premier modèle d’apprentissage machine ML₁. Le premier modèle d’apprentissage peut être défini par exemple par une fonction mathématique comportant des coefficients entraînés.

L’invention se rapporte à tout type de modèle d’apprentissage machine. Il peut par exemple s’agit d’un modèle de réseau de neurones convolutif appelé également CNN, d’un modèle de réseau de neurones récurrents appelé également RNN, un réseau de mémoire à long et court terme également appelé LSTM, un modèle de type perceptrons multicouches appelé MLP ou encore tout autre type de modèle d’apprentissage machine tel qu’une régression linéaire ou un arbre de décision, ou encore une fonction apprenante de type polynomiale ou encore tout autre règle de décision se basant sur un système expert.

L’invention se rapporte à tout type de codage du modèle et tout type de langage encodant le modèle. Selon un cas d’exemple, un premier modèle est encodé en Python, marque déposée.

Selon un mode de réalisation, le premier modèle ML₁peut comprendre des paramètres ou des coefficients déjà entraînés. Le premier modèle ML₁peut comprendre également des métadonnées telles que des données permettant d’instancier ou de paramétrer le modèle de sorte qu’il s’intègre avec d’autres composants ou encore des données descriptives, telles que des noms de variables ou de classes ou encore des tailles de matrices ou de vecteurs.

Selon un exemple de réalisation, les métadonnées comprennent un tag indiquant si le modèle permet de réaliser une classification ou s’il permet de réaliser une régression. Le tag peut être une donnée codée et transmise avec le premier modèle ML₁. En outre, les métadonnées comprennent des labels de classification et le nom des descripteurs, et le cas échéant un identifiant des descripteurs.

Le cas échéant, l’étape de transmission des données DS₁et/ou du modèle ML₁est réalisée entre deux machines. Toutefois, l’invention se rapporte à toute architecture distribuée dans laquelle les données sont sauvegardées au sein d’une pluralité de machines telle que dans le nuage, plus connu sous la terminologie de “cloud”. Ainsi, dans la présente description, lorsqu’il est évoqué le terme “serveur”, il peut être entendu la machine de l’utilisateur, le cloud ou encore tout système permettant d'exécuter le service ou d’exécuter les étapes précédentes ou ultérieures lorsque les données sont transmises à d’un système à l’autre.

Génération de la représentation graphique

Le procédé de l’invention comprend une étape visant à générer GEN₁une représentation graphique IHM₁permettant de tester et de déboguer le premier modèle ML₁. L’interface est notée IHM₁et est représentée aux figures 3, , , . L’interface IHM₁représente pour chaque objet numérique OBi ses principaux descripteurs et leur valeur. La représente par exemple six descripteurs notés F_i1, F_i2, F_i3, F_i4, F_i5et F_i6.

En outre, l’interface IHM₁permet avantageusement de naviguer au travers d’exemples extraits des données DS₁. Pour chaque descripteur Fik, une valeur est associée V_ik. La représente un exemple de réalisation dans lequel les valeurs associées aux descripteurs sont notées V_i1, V_i2, V_i3, V_i4, V_i5et V_i6.

L’interface IHM₁générée grâce au procédé de l’invention comprend une zone notée DS_idans laquelle la désignation des descripteurs et leur valeur pour exemple d’objet numérique OB_isont affichées. Dans le cas de la , ces données sont affichées sous la désignation de l’objet numérique OB_iet des éléments de navigations 15. D’autres agencements sont possibles selon d’autres modes de réalisation.

Ainsi, un avantage de la représentation graphique IHM₁est de proposer une navigation au travers différents exemples d’objets numériques OBi en activant ACT₁l’un des symboles 15 pour passer à l’objet numérique suivant ou revenir à l’objet numérique précédent. Cette navigation est particulièrement intéressante pour visualiser en un coup d’œil l’ensemble des valeurs des descripteurs d’un objet numérique et le résultat de la classification affectée à l’objet numérique. L’utilisateur peut parcourir les différentes pages associées à chaque objet afin d’investiguer des erreurs de prédictions et comparer certaines classifications opérées entre différents objets selon les valeurs des descripteurs. Un autre avantage est de sélectionner des objets numériques d’intérêts pour lesquels des calculs de prédictions semblent erronés par exemple.

L’interface IHM₁générée grâce au procédé de l’invention comprend une zone notée R_idans laquelle le résultat du premier modèle ML₁est affiché. Dans le cas de la , le résultat est une classe, dans cet exemple la première classe CL₁et le résultat de la prédiction notée 14 calculée par le premier modèle ML₁. Dans le cas d’exemple de la , la prédiction de classification de l’objet numérique OB_idans la classe CL₁est de 54%, et la prédiction de classification de l’objet numérique OB_idans la classe CL₂est de 46%. En conséquence, le premier modèle affecte la première classe CL₁à l’objet numérique OB_i. Selon un autre mode de réalisation, la valeur réelle du label, notée 17 sur la , peut être affichée à côté du résultat calculé par le modèle. Cette valeur réelle du label est également appelée “Ground truth” dans la terminologie anglo-saxonne se rapportant au domaine technique de l’apprentissage machine. Ce cas de figure est représenté à la dans laquelle la vraie valeur est indiquée à l’emplacement 17 : V-CL₂. Il s’agit ici de la classe CL₂. L’invention tire un profit de l’exploitation des données DS₁qui peuvent comprendre les données labellisées des objets numériques comportant les réelles valeurs de prédiction.

Selon un mode de réalisation, l’interface IHM₁comporte également une troisième zone notée 12 comportant les indicateurs de contributions. Un titre EX_iest indiqué pour désigner cette troisième zone 12 à l’utilisateur dans laquelle est affichée la contribution de chaque descripteur au calcul de la classification effectuée par le premier modèle ML₁. Cette troisième zone 12 représente la valeur de contribution de chaque descripteur F_ikayant contribué à établir la prédiction de la classe affectée à l’objet numérique OB_i.

Dans le cas de , quatre descripteurs F_i1, F_i2, F_i3et F_i4sont représentés, car ce sont les quatre descripteurs qui ont contribué au calcul de la prédiction de la classe CL₁. Dans cet exemple, le descripteur F_i1a contribué pour 24% dans le calcul de la prédiction de la classe C₁.

Le calcul de la contribution de chaque descripteur peut être effectué par différentes méthodes. Il existe par exemple une méthode dénommée SHAP désignant dans la littérature anglo saxonne « Shapley Additive exPlanations » notamment décrite dans une publication dénommée « A unified Approcha to interpreting Model Predictions de Scott Lundberg et Su-In Lee. Cette méthode permet le calcul d’une contribution de chaque descripteur au calcul d’une prédiction par le modèle.

Selon un exemple de réalisation, une pluralité d’exécutions du modèle ML₁permet de calculer ces valeurs de contributions.

Un calculateur et une mémoire sont utilisés pour réaliser les opérations.

Génération d’un premier symbole 13, S1

L’invention permet de générer un premier symbole activable, noté 13 sur la et suivantes. Le premier symbole 13 est généré sous certaines conditions. Une condition consiste à calculer la proportion absolue ou relative de contribution de chaque descripteur à la prédiction de la classe allouée à l’objet numérique OBi.

Dans le cas d’une proportion absolue, on compare la valeur de la contribution à un seuil donné, par exemple un seuil de 22%. Dans notre cas, seul le descripteur F_i1dépasse ce seuil. Selon cette première condition, un symbole 13 activable est généré à proximité du descripteur dans la fenêtre 10.

Dans le cas d’une proportion relative, on compare si l’écart entre la plus grande valeur de contribution d’un descripteur, ici le descripteur F_i1, et la seconde plus grande valeur de contribution, ici le descripteur F_i2, dépasse un seuil prédéfini, par exemple 5%. Dans le cas de la , l’écart de contribution entre le descripteur F_i1et F_i2est de 6% et est donc supérieur à 5%.

Selon un exemple de réalisation, une double condition est vérifiée avec une condition de valeur absolue et une condition de valeur relative. Selon un mode de réalisation, seule une condition est requise.

La génération d’un symbole 13 est donc générée dans notre cas d’exemple à proximité du descripteur F_i1dans la zone 10.

L’activation ACT₁du symbole 13 permet selon un mode de réalisation la génération et l’ouverture d’une fenêtre permettant à l’utilisateur de sélectionner un test ou une action à réaliser. Dans la suite de la description les tests sont notés T₁, T₂, T₃, etc. et les actions A₁, A₂, etc. La présente invention se rapporte à l’ensemble des modes de réalisation permettant l’exécution de chaque test individuellement et/ou de chaque action individuellement.

L’étape visant à exécuter les tests ou les actions est notée GEN2 sur la .

Test T1 pour identifier une corrélation

Selon un premier mode de réalisation, un premier test est proposé. Son exécution est notée GEN₂sur la . Ce test est noté T₁. Le test T₁vise à générer un indicateur d’anomalie IND₁de la valeur produite par le modèle, par exemple de la prédiction 14 dans le cas d’exemple de la classification de l’objet OB_i. Le test T₁comprend un calcul visant à comparer au sein d’un sous-ensemble de données si une sélection de premiers descripteurs {F_p1} d’un sous-ensemble d’objets numériques {OB_p’} contribue également à la prédiction de la classe CL₁.

En d’autres termes, le premier test T₁correspond au calcul de la corrélation entre la valeur de la classe CL₁et celle du premier descripteur Fp₁au sein des données {OB_p}. L’invention s’applique à chaque descripteur. UN intérêt de l’invention est de générer un symbole sous certaines conditions permettant d’attirer l’attention d’un utilisateur afin d’explorer plus en détail la corrélation de la valeur d’un descripteur avec la valeur d’une classe.

A cet effet, une gamme de valeurs peut être définie autour d’une valeur du premier descripteur F_i1du premier objet numérique OB_i. C’est à dire que si la valeur du descripteur F_i1est de 64, l’invention permet de sélectionner d’autres premiers descripteurs ayant une valeur comprise entre 62 et 66. Un écart-type vis-à-vis d’une valeur de référence définie par la valeur du premier descripteur F_i1de l’objet OB_i, dans cet exemple 64, peut être utilisé afin de retenir les valeurs sensiblement proches de la valeur du premier descripteur F_i1. La gamme de valeurs du premier descripteur sélectionnée peut être définie par une plage autour de la valeur du premier descripteur F_i1de l’objet OB_i.

A cette fin, le procédé de l’invention comprend la sélection d’un sous-ensemble d’objets numériques {OB_p’} dont les valeurs du premier descripteur [F_p1} sont identiques ou proches selon la gamme déterminée que celles du premier objet numérique OB_ianalysé et affiché. Une fois cette sélection du sous-ensemble d’objets numériques {OB_p’} réalisée, le procédé de l’invention comprend un calcul de la proportion d’objets numériques {OB_p’} ayant le même résultat que le premier objet OB_i, lorsqu’il s’agit d’une classification, il s’agit de la classe CL₁. Un ratio seuil d’objets numériques OB_iayant la même classification peut être défini, par exemple 90%. C’est-à-dire que si 90% des objets numériques sélectionnés ont la même classification que le premier objet numérique OB_i, alors une corrélation est identifiée entre le premier descripteur F_p1et la première classe CL₁.

Un utilisateur peut alors qualifier cette corrélation comme normale et fidèle à la représentation d’un système réel ou anormal, c’est à dire non conforme au fonctionnement d’un système réel. Dans le cas d’une forte corrélation, l’indicateur d’anomalie IND₁généré relève cette corrélation qui peut être exploitée ensuite par un utilisateur. En effet, si l’indicateur d’anomalie reflète une corrélation dans le premier modèle ML₁alors qu’il n’existe pas de corrélation dans le monde réel, l’utilisateur peut corriger cette erreur en indiquant au modèle le fait qu’il n’y a pas de corrélation.

En revanche, si le ratio seuil est inférieur à un seuil donné, par exemple 0,5, la valeur de la contribution du premier descripteur F_i1à la classification de l’objet numérique OB_idans la classe CL₁est une valeur singulière, donc non homogène aux autres résultats produits par le premier modèle ML₁avec d’autres objets numériques {OB_p’}. On peut conclure à l’absence de corrélation entre le premier descripteur F_p1et la première classe CL₁. Toutefois, l’invention permet éventuellement à un utilisateur de vérifier qu’une anomalie est présente du fait de cette singularité.

Selon un cas d’exemple, les résultats sont enregistrés afin de permettre dans un second temps à un utilisateur d’explorer et d’investiguer les raisons causant une corrélation anormale ou une aberration de la valeur de contribution de cette prédiction de la classe de l’objet OB_i.

Cette caractérisation du ratio permet de refléter une probabilité de corrélation entre le premier descripteur F_p1et la première classe CL₁.

Action A ₁ pour sélectionner des exemples similaires

Selon un autre mode de réalisation, le procédé de l’invention comprend la génération d’une fenêtre consécutivement à l’activation dudit symbole 13. La génération d’une fenêtre graphique 19 représentée à la comporte une première action activable A₁. La première action A₁comporte une extraction d’un sous-ensemble d’objets numériques {OB_p} dont le premier descripteur a une valeur identique ou proche de celle du premier descripteur de l’objet numérique analysé et affiché OB_i. On entend par une valeur proche, par exemple une valeur comprise dans une gamme prédéfinie autour de la valeur du descripteur F_i1.

Le procédé permet alors de générer une représentation graphique permettant de naviguer au sein des objets numériques {OB_p} du sous-ensemble d’objets numériques {OB_p}. En d’autres termes, l’action A₁permet d’explorer un sous-ensemble d’objets numériques avec un outil de navigation tel que l’outil 15 permettant le passage d’un objet numérique à un autre.

La première action A₁comporte une extraction d’un sous-ensemble d’objets numériques {OB_p} dont le premier descripteur a une valeur identique ou proche de celle du premier descripteur de l’objet numérique analysé et affiché OB_i. La notion de "proche" peut être définie par une gamme de valeurs autour de la valeur du descripteur F_i1de l’objet OB_i.

Selon d’autres modes de réalisation, des conditions supplémentaires sur le premier descripteur F_i1ou sur des valeurs d’autres descripteurs {F_pk} peuvent être vérifiées pour sélectionner le sous-ensemble d’objets numérique {OB_p}. Selon un exemple, les contributions de ces derniers à la classification ou encore la valeur de classe affectée aux objets numériques {OB_p} peuvent être prises en compte pour analyser les corrélations entre le premier descripteur et une classe donnée.

L’extraction du sous-ensemble d’objets numérique {OB_p} permet de les afficher. La première interface peut alors être configurée pour permettre une navigation dans la population d’objets numériques extraits. Cela permet de faciliter les opérations de débogage du premier modèle ML₁.

Action A ₂ pour enregistrer des exemples similaires

Une seconde action A₂peut être proposée dans une fenêtre générée et affichée au sein de l’interface consécutivement à l’activation du symbole 13.

La seconde action A₂proposée vise à enregistrer pour une analyse ultérieure des exemples similaires à l’objet numérique OB_iaffiché. A cet effet, une extraction d’un sous-ensemble d’objets numériques peut être réalisée avec les mêmes critères que l’extraction permettant de générer la première action A₁.

Un intérêt est de permettre à un utilisateur de parcourir des échantillons et lorsqu’une anomalie semble être détectée d’enregistrer une sélection d’exemples similaires dans l’objectif de l’explorer ultérieurement.

Test T ₂ pour régénérer un test de classification sur un exemple pour évaluer la robustesse du modèle

Selon un mode de réalisation, l’activation du symbole 13 permet de générer une première fenêtre graphique 19 comportant la désignation d’un second test T₂actionnable du premier modèle ML₁. Son exécution est notée GEN₂sur la .

Le lancement du second test T₂comprend une duplication de l’objet numérique OB_iaffiché sur l’interface graphique IHM₁. Un nouvel objet numérique OB_i’ est généré avec les mêmes valeurs de descripteur {F_ik’} que les descripteurs de l’objet numérique OB_i.

Selon un exemple, le test T₂comprend la modification de la valeur du premier descripteur F_i1et une réexécution une ou plusieurs fois du premier modèle ML₁. Un intérêt est de vérifier par exemple que de petites variations autour d’une valeur du premier descripteur F_i1du premier objet numérique OB_ine changent pas totalement la classification du résultat. A titre d’exemple, si le descripteur est un âge d’un individu et l’objet numérique est une demande de prêt, il peut être intéressant d’observer des effets de bords d’un système tel qu’un prêt systématiquement refusé à 50 ans et accordé pour des âges de 48, 49 ans. Le procédé de l’invention permet d’explorer les revers d’un modèle d’apprentissage ayant par exemple appris avec des données biaisées.

Un intérêt est de mesurer si la robustesse du modèle selon la variance du premier descripteur F_i1et sa capacité à produire des valeurs cohérentes lors de la réexécution d’une ou plusieurs fois du premier modèle ML₁.

La nouvelle valeur calculée par le modèle ML₁peut alors être affichée, par exemple, la nouvelle prédiction peut être affichée.

Un indicateur d’anomalie IND₁permet alors de restituer une indication de la robustesse de l’algorithme vis-à-vis de variations d’une valeur d’un descripteur.

L’invention permet de réexécuter le modèle ML₁et de vérifier la modification de la probabilité d’être dans la même classe CL₁.

On rappelle ici que l’invention se rapporte à tout type de modèle d’apprentissage machine que ce soit pour classifier ou pour effectuer une régression. La présente description se rapporte au cas d’une classification, toutefois l’invention décrite dans ces exemples peut être adaptée pour l’appliquer au cas d’une régression.

Test T ₃ pour régénérer un test de classification sur une pluralité de cas pour évaluer la robustesse du modèle

Selon un mode de réalisation, l’activation du symbole 13 permet de générer une première fenêtre graphique 19 comportant la désignation d’un troisième test T₃actionnable du premier modèle ML₁. Son exécution est notée GEN₂sur la .

Le lancement du troisième test T₃comprend une pluralité de duplications de l’objet numérique OB_iaffiché sur l’interface graphique IHM₁. Une pluralité d’objets numériques {OB_i’} est générée avec les mêmes valeurs de descripteur {F_ik’} que les descripteurs de l’objet numérique OB_iexcepté pour le premier descripteur F_i1dont la valeur est modifiée autour de la valeur du premier descripteur F_i1de l’objet numérique OB_idans une gamme déterminée de valeurs possibles. Un intérêt est de générer de nombreux objets numériques {OB_i’} ayant une valeur du premier descripteur variant légèrement autour de la valeur de l’objet numérique OB_iaffiché.

Selon un mode de réalisation, autant de symboles 13 sont affichés dans la fenêtre DS_ide l’interface IHM₁à proximité des descripteurs dont la valeur de contribution répond aux critères permettant de générer un symbole.

Second symbole 16

Dans la suite de la description, il est détaillé un autre mode de réalisation de l’invention dans lequel un symbole 16 est généré dans la zone 11 des résultats du modèle, zone notée Ri. Dans ce mode de réalisation, le procédé de l’invention permet de générer des conditions vis-à-vis des calculs de prédiction de classe du modèle ML₁et de vérifier ces conditions pour générer un second symbole 16.

L’activation du symbole 16 permet selon un mode de réalisation la génération et l’ouverture d’une fenêtre permettant à l’utilisateur de sélectionner un test ou une action à réaliser. Dans la suite de la description les tests sont notés T₄, T₅, etc. et les actions A₃, A₄, A₅, etc. La présente invention se rapporte à l’ensemble des modes de réalisation permettant l’exécution de chaque test individuellement et/ou de chaque action individuellement.

Selon un autre mode de réalisation représenté à la , l’invention permet de générer un symbole 16 à proximité du résultat produit par le premier modèle ML₁. Le résultat peut être une prédiction calculée par le modèle afin de classifier l’objet numérique OB_iou encore une valeur ou des valeurs issues d’une opération de régression du premier modèle ML₁.

Le symbole 16 est avantageusement activable afin de générer une seconde fenêtre 18 permettant d’afficher la désignation d’une ou plusieurs test(s) et/ou d’une ou plusieurs action(s) selon les modes de réalisation de l’invention. La seconde fenêtre 18 est représentée à la .

Symbole 16, S3 en cas d’excès de confiance

Selon un second mode de réalisation, le second symbole 16, également noté S₃dans ce cas d’exemple, s’affiche automatiquement lorsque différentes conditions sont réalisées.

Une première condition C₁est réalisée lorsque le résultat est faux ou non conforme vis-à-vis d’une valeur attendue et connue. Cette valeur connue peut être par exemple celle d’un label d’un objet numérique annoté par une personne ou le résultat d’un test effectué préalablement à la réception des données par le second serveur SERV₂. Dans ce contexte, il est possible de connaître si une prédiction calculée par le premier modèle ML₁est vraie ou fausse puisque la vraie valeur est connue.

Une seconde condition C₂se produit lorsque la valeur de la prédiction de la mauvaise classe est supérieure à un premier seuil SL₁.

Dans ce cas d’exemple, la condition d’affichage du second symbole S₃est une double condition {C₁, C₂}, avec :

C₁: La valeur de la prédiction de la classe ou la valeur de la classe affectée à l’objet numérique est fausse ;
C₂: La valeur de la prédiction est supérieure à un seuil donné, par exemple de 80%.

Selon différents exemples de réalisation, la valeur du premier seuil SL₁peut être une valeur absolue comme selon l’exemple cité ci-dessus ou encore, il peut être relatif, c’est-à-dire défini par rapport à une autre prédiction d’un autre descripteur dudit objet numérique OB_iou encore d’une valeur de prédiction d’un cas réel.

Selon cet exemple, lorsque ces deux conditions C₁, C₂sont remplies, un second symbole 16 est généré et affiché à proximité du résultat du premier modèle ML₁, notamment dans le cas d’exemple de la figure dans la zone Ri. Dans ce cas, un test ou des actions sont proposés de manière à aider un utilisateur à investiguer, explorer et déboguer une anomalie.

Un avantage de la génération de ce symbole est d’alerter un utilisateur rapidement sur une anomalie probable du premier modèle ML₁grâce à un élément graphique agencé à proximité du résultat. Le symbole est généré pour signifier qu’une erreur de classification est présente et pour qualifier l’erreur. Ici l’erreur n’est probablement pas liée à une étape de discrimination entre différentes valeurs de prédictions proches, mais plutôt sur le calcul d’une prédiction qui est manifestement erronée.

Quatrième test T4 : mesure de l’excès de confiance du modèle en cas de mauvaise prédiction

La fenêtre 18 qui est générée permet à un utilisateur de sélectionner un quatrième test T₄. La génération GEN₂du quatrième test T₄permet de sélectionner un sous-ensemble d’objets numériques {OB_p} similaires à l’objet numérique OB_iet de vérifier si les conditions C₁et C₂sont répétées dans un certain nombre de cas d’objets numériques {OB_p}. Selon un autre cas, le test T₄est appliqué à tous les objets numériques {OB_p} de l’ensemble de données DS₁. Selon autre exemple, une extraction d’un certain nombre d’objets numériques ayant uniquement l’une des deux conditions est réalisée, l’autre condition étant vérifiée ensuite sur l’échantillon extrait d’objets numériques.

Si la valeur de prédiction d’une classe affectée à un objet numérique testé est fausse alors l’objet numérique testé répond à la condition C₁également. On rappelle que cette dernière valeur de classe affectée est comparée à la vraie valeur connue de la classe de l’objet.

Si la valeur de prédiction d’une classe affectée à un objet numérique testé de l’ensemble extrait est considérée comme supérieure au premier seuil SL₁alors l’objet numérique répond à la condition C₂également.

Si le nombre de cas d’objets testés répondant à la condition C₁età la conditionC₂dépasse un seuil prédéfini ou dépasse un quota sur l’ensemble de données testé alors le premier modèle ML₁peut comprendre une corrélation parasite, dénommée dans la terminologie anglo-saxonne « spurious correlation ».

Une corrélation parasite peut être vérifiée :

entre un descripteur donné et une classe du classifieur donnée, la classe étant « fausse » et ayant la plus forte probabilité, c’est-à-dire non conforme à une valeur connue de la classe de l’objet numérique ou ;
entre un descripteur donné et une classe du classifieur donnée, la classe étant « vraie » et n’ayant pas la plus forte probabilité.

On rappelle que la « vraie » valeur de la classe d’un objet numérique peut être obtenue à partir des données d’entrées DS₁, par exemple à partir de valeurs de labels des classes de chaque objet numérique. Ces labels peuvent être indiqués par un utilisateur.

L’utilisateur peut alors considérer cette corrélation comme un type d’erreur.

On entend par des objets numériques « similaires », des objets numériques qui comportent au moins une propriété commune avec le premier objet numérique OBi affiché.

Ces propriétés communes peuvent comporter :

une valeur d’un descripteur donnée ;
des descripteurs dont les valeurs sont proches de l’objet numérique OB_iet ayant une affectation d’une classification erronée comme celle de l’objet numérique OB_i.
des valeurs de probabilités de la classe affectée aux objets proches entre elles ;
des valeurs de probabilités de la classe affectée aux objets proches entre elles et une classification fausse ;
etc.

Par « valeurs proches », on entend qu’au moins une valeur d’un descripteur d’un autre objet numérique OB_pest identique à celle de l’objet numérique OB_Iou encore qu’un certain nombre de valeurs d’une pluralité de descripteurs {OB_p} sont proches de celles de l’objet numérique OB_iou encore qu’un pourcentage de similitude du résultat de l’exécution du premier modèle ML₁soit atteint entre un ou plusieurs objets numériques OB_pou {OB_p} et l’objet numérique OB_i.

Si la valeur de la prédiction qui est anormalement élevée de l’objet numérique OB_iest une valeur singulière parmi l’ensemble des données décrivant les autres objets numériques, alors le procédé de l’invention peut relever un second type d’erreur. Cette erreur ne reflète pas de corrélation parasite dans le premier modèle, toutefois, ce second type d’erreur permet d’investiguer sur les données et les valeurs de l’objet numérique OB_iaffiché en cours d’analyse par un utilisateur.

Cette caractérisation des erreurs du premier modèle ML₁permet de refléter une corrélation parasite entre la valeur de prédiction de la première classe CL₁de l’objet numérique et une autre donnée du modèle telle qu’un descripteur.

L’invention permet donc de générer une alerte visuelle localisée sur l’interface qui reflète une qualification de la corrélation. Le lancement du test T₄permet d’investiguer et d’identifier une erreur éventuelle du modèle et potentiellement de discriminer le type d’erreur que le modèle ML₁a généré. --

Action A3 : enregistrement des données relatives à l’objet numérique OB _i

Selon un autre mode de réalisation, la fenêtre 18 comprend également une désignation d’une action A₃activable. L’activation de l’action A₃permet d’enregistrer les données de l’objet numérique OB_iaffiché pour conduire une exploration ultérieure. Selon un mode de réalisation, un panier numérique permet d’enregistrer une pluralité d’objets numériques {OB_p} pour lesquels une anomalie a été détectée, telle que celle qui a engendré la génération du second symbole 16. Dans ce cas d’exemple, il s’agit des objets numériques {OB_p} pour lesquelles les conditions C₁et C₂sont vérifiées.

Une mémoire peut être configurée pour stocker cesdits objets numériques {OB_p} afin d’investiguer la typologie d’erreur dans un second temps. Selon un mode de réalisation, l’invention permet de réaliser une analyse comparative de tous les objets numériques {OB_p} pour lesquels un second symbole 16 a été généré.

Symbole S4 en cas de prédiction non discriminante ou de cas aux limites

Selon un second mode de réalisation, le second symbole 16, également noté S₄dans ce cas d’exemple, s’affiche automatiquement lorsque différentes conditions sont réalisées.

Une troisième condition C₃est réalisée lorsque le résultat de la plus grande valeur de prédiction d’une classe n’est pas suffisamment discriminant vis-à-vis d’au moins une autre valeur de prédiction d’une autre classe. Par exemple lorsque seulement deux classes sont possibles, un résultat d’une première classe CL₁de 51% et un résultat d’une seconde classe de 49% peuvent conduire à générer une erreur d’affectation de la classe à l’objet numérique OB_i. Dans un autre exemple de trois classes en sortie du classifier, une répartition de classe suivante : CL₁à 45%, CL₂à 43% et CL₃à 12% permet de discriminer la classe CL₃, en revanche la détermination de la classe affectée à l’objet numérique OB_ipeut être erronée du fait des valeurs proches des classes CL₁et CL₂.

Dans ce cas d’exemple, l’unique condition C₃peut suffire à générer un second symbole 16, ici dénommée S₄pour le différencier du symbole S₃. Selon un mode de réalisation, chaque symbole 16 est généré dans la fenêtre de résultat Ri. Selon un exemple, chaque symbole 16 est généré à proximité de la valeur de prédiction pour laquelle une investigation devrait être conduite dans une opération ultérieure de débogage. Selon la nature des conditions réalisées, l’apparence du symbole peut être adaptée afin que l’utilisateur puisse reconnaître quel type de débogage il devra mener.

La troisième condition C₃peut être définie par un second seuil SL₂d’écart entre les deux plus grandes prédictions calculées par le modèle ML₁. Lorsque l’écart entre les deux plus grandes prédictions est inférieur à un seuil donné alors le second symbole 16, S₄peut être généré. Un exemple de valeur de seuil peut être de 10% d’écart entre les deux valeurs de prédictions considérées.

Selon un mode amélioré, lorsqu’une pluralité de classes est susceptible d’être affectée à un objet numérique OB_i, un calcul d’une pluralité d’écarts entre les différentes prédictions peut être réalisée. Par exemple, un écart entre les trois plus grandes valeurs de prédictions de classe peut permettre de définir une condition supplémentaire.

Un avantage de la génération de ce second symbole est d’alerter un utilisateur rapidement sur une anomalie probable du premier modèle ML₁grâce à un élément graphique agencé à proximité du résultat. Le symbole est généré pour signifier qu’une erreur de classification peut être liée à cette proximité de classification.

Notamment, si la valeur de la prédiction est correcte dans le cas de l’objet numérique OBi, l’invention permet de générer un second symbole pour attirer l’attention à un utilisateur qu’autres cas similaires présents dans les données sont susceptibles de générer une mauvaise prédiction du fait de valeurs proches des prédictions de différentes classes.

Cinquième test T5 : quantification du nombre de cas aux limites

La fenêtre 18 qui est générée permet à un utilisateur de sélectionner un cinquième test T₅. Son exécution est notée GEN₂sur la . Le cinquième test T₅permet de sélectionner un sous-ensemble d’objets numériques {OB_p} similaires à l’objet numérique OB_iet de vérifier si la condition C₃est répétée dans un certain nombre de cas d’objets numériques {OB_p}. Selon un autre cas, le test T₅est appliqué à tous les objets numériques {OB_p} de l’ensemble de données DS₁.

On entend par des objets numériques « similaires », des objets numériques qui comportent au moins une propriété commune avec le premier objet numérique OB_iaffiché.

Ces propriétés communes peuvent comporter :

une valeur d’un descripteur donné ;
des descripteurs dont les valeurs sont proches de l’objet numérique OB_i
des valeurs de probabilités de la classe affectée aux objets proches entre elles ;
des valeurs de probabilités de la classe affectée aux objets proches entre elles et une classification fausse ;
etc.

Si la valeur de prédiction d’une classe affectée à un objet numérique testé est considérée comme proche d’une autre valeur de probabilité d’une autre classe calculée par le premier modèle ML₁alors l’objet répond à la condition C₃également.

Si le nombre de cas d’objets testés répondant à la condition C₃dépasse un seuil prédéfini ou dépasse un quota sur l’ensemble de données alors le premier modèle ML₁peut comprendre un premier type d’erreur, appelé erreur d’incohérence.

Selon un mode de réalisation, l’invention permet d’identifier et de sélectionner des cas qui comprennent en plus des descripteurs dont les valeurs sont proches de l’objet numérique OB_i. Par « valeurs proches », on entend qu’au moins une valeur d’un descripteur d’un autre objet numérique OB_pest identique à celle de l’objet numérique OB_Iou encore qu’un certain nombre de valeurs d’une pluralité de descripteurs {OB_p} est proche de celles de l’objet numérique OB_iou encore qu’un pourcentage de similitude soit atteint entre un ou plusieurs objets numériques OB_pou {OB_p} et l’objet numérique OB_i.

Si la valeur de la prédiction de l’objet OB_iest singulière dans l’ensemble de données, c’est-à-dire que pas ou peu d’autres objets numériques remplissent la condition C₃, alors un second type d’erreur peut être relevé. Cette erreur n’est pas une erreur d’incohérence du modèle ML1 qui est déclenché si un certain nombre d’autres objets remplissent al condition C₃. L’indicateur d’anomalie IND₂peut indiquer ce cas sans qu’il reflète pour autant une anomalie.

Au contraire, si plusieurs autres objets numériques sont similaires, c’est-à-dire qu’il persiste une ambiguïté pour discriminer entre deux classes pour chaque objet retenu, alors l’invention permet de relever un premier type d’erreur du modèle ML₁qui est catégorisé comme une incohérence du modèle ML₁. Toutefois, l’invention peut comprendre une étape de validation de l’erreur par un utilisateur ou un acquittement de l’indicateur si après vérification du modèle ML₁aucune erreur n’est constatée.

Ce premier et ce second type d’erreurs permettent d’investiguer sur les données et les valeurs de l’objet numérique OB_iaffiché en cours d’analyse par un utilisateur.

Cette caractérisation des erreurs du premier modèle ML₁permet de refléter un problème lors de l’exécution du modèle et une incohérence potentielle de ce dernier.

L’invention permet donc de générer une alerte visuelle localisée sur l’interface qui reflète une qualification de l’erreur du premier modèle ML₁à déterminer. Le lancement du test T₅permet de discriminer le type d’erreur que le modèle ML₁a généré lorsqu’il persiste une ambiguïté pour discriminer une classe affectée à un objet numérique OB_i.

Action A4 : enregistrement des données relatives à l’objet numérique OB _i

Selon un autre mode de réalisation, la fenêtre 18 comprend également une désignation d’une action A₄activable. L’activation de l’action A₄permet d’enregistrer les données de l’objet numérique OB_iaffiché pour conduire une exploration ultérieure. Selon un mode de réalisation, un panier numérique permet d’enregistrer une pluralité d’objets numériques {OB_p} pour lesquels une anomalie a été détectée, telle que celle qui a engendré la génération du second symbole 16, S₄. Dans ce cas d’exemple, il s’agit des objets numériques {OB_p} pour lesquels la condition C₃est vérifiée.

Une mémoire peut être configurée pour stocker ces dits objets numériques {OB_p} afin d’investiguer la typologie d’erreur dans un second temps. Selon un mode de réalisation, l’invention permet de réaliser une analyse comparative de tous les objets numériques {OB_p} pour lesquels un second symbole 16 a été généré.

Symbole S5 robustesse à des prédictions sensibles à des phénomènes stochastiques

Selon un second mode de réalisation, le second symbole 16, également notée S₅dans ce cas d’exemple, s’affiche automatiquement lorsque différentes conditions sont réalisées.

Une quatrième condition C₄est réalisée lorsque le résultat d’une prédiction d’une classe d’un même objet numérique OB_ivarie entre différentes exécutions de la classification effectuée par le premier modèle ML₁. Cette quatrième condition C₄implique l’exécution d’une pluralité de fois de l’algorithme de classification d’un même objet numérique OB_i. Au minimum l’exécution du modèle est lancée deux fois avec les mêmes données d’entrée.

Le résultat de l’exécution du premier modèle ML₁permet de tester la robustesse du premier modèle_ML1et sa capacité à re-générer un résultat similaire ou proche du premier résultat généré et affiché de l’objet numérique OB_i.

La variance peut être calculée selon le nombre d’exécutions du modèle ML₁et un écart type de valeur acceptable peut être défini. Dans son expression la plus simple, la quatrième condition C₄correspond à évaluer si deux exécutions différentes du modèle ML1 sur un même objet numérique produisent un même résultat. Toutefois, la notion de « même résultat » peut être précisée, selon un exemple, avec une tolérance et une gamme de valeurs dans laquelle on considère que le résultat est identique. Cela peut être notamment intéressant lorsque l’on compare des probabilités d’être dans une classe et non pas la valeur de la classe affectée uniquement. Dans ce dernier cas, l’invention permet d’apprécier et donc de calculer l’écart entre deux probabilités d’être dans une classe pour un même objet numérique OB_i. Par exemple, lorsque l’écart de prédictions dépasse un seuil de 10%, alors le second symbole 16, S₅peut être généré quand bien même le résultat de la classe est le même. L’invention peut donc s’appliquer dans ce cas au résultat produit en tant que valeur de la classe ou au résultat produit en tant que probabilité calculée par le modèle ML₁.

Dans ce cas d’exemple, l’unique condition C₄peut suffire à générer un second symbole 16, ici dénommée S₄pour le différencier des symboles S₃et S₄. Selon un mode de réalisation. Selon un exemple, chaque symbole 16 est généré à proximité de la valeur de prédiction pour laquelle une investigation devrait être conduite dans une opération ultérieure de débogage. Selon la nature des conditions réalisées, l’apparence du symbole peut être adaptée afin que l’utilisateur puisse reconnaître quel type de débogage il devra mener. Ici un symbole S₄distinctif visuellement peut permettre à l’utilisateur de comprendre qu’un problème de stabilité de prédiction est relevé.

La quatrième condition C₄peut être définie par un troisième seuil SL₃d’écart entre les prédictions calculées par le modèle ML₁relativement à un même objet numérique OB_i.

Selon un mode amélioré, lorsqu’une pluralité de prédictions liées à une pluralité de classes est susceptible de varier fortement d’une exécution à une autre, une pluralité de second symbole S₄peut être générée à proximité de chaque prédiction en question.

Un avantage de la génération de ce second symbole 16, S₄est d’alerter un utilisateur rapidement sur une anomalie probable du premier modèle ML₁grâce à un élément graphique agencé à proximité du résultat. Le symbole 16, S₄est généré pour signifier qu’une erreur de stabilité du calcul d’une prédiction est peut-être présente.

Notamment, si la valeur de la prédiction conduit à produire des erreurs de classification, une cinquième condition C₅peut être examinée par exemple, si d’une exécution à l’autre du premier modèle ML₁, un objet est tantôt classé dans une première classe CL₁et tantôt classé dans une seconde classe CL₂. La condition C₅correspond à une erreur de classification.

Sixième test T6 : quantification du nombre de cas susceptibles aux effets stochastiques

La fenêtre 18 qui est générée permet à un utilisateur de sélectionner un sixième test T₆. Son exécution est notée GEN₂sur la . Le sixième test T₆permet de sélectionner un sous-ensemble d’objets numériques {OB_p} similaires à l’objet numérique OB_iet de vérifier si la condition C₄ou si le couple de conditions C₄et C₅est ou sont répétée(s) dans un certain nombre de cas d’objets numériques {OB_p}. Selon un autre cas, le test T₆est appliqué à tous les objets numériques {OB_p} de l’ensemble de données DS₁. Selon autre exemple, une extraction d’un certain nombre d’objets numériques ayant uniquement la condition C₅est réalisée, l’autre condition C₄étant vérifiée ensuite sur l’échantillon extrait d’objets numériques.

On entend par des objets numériques « similaires », des objets numériques qui comportent une propriété commune avec le premier objet numérique OBi. Cette propriété commune peut être la valeur d’un descripteur ou une gamme de valeurs d’un descripteur ou encore une même condition C₄et/ou C₅.

L’invention permet donc d’identifier et de sélectionner des cas qui comprennent des descripteurs dont les valeurs sont proches de l’objet numérique OB_i. Cela permet de limiter le nombre de cas testés lorsque l’ensemble DS₁est important. Par « valeurs proches », on entend qu’au moins une valeur d’un descripteur d’un autre objet numérique OB_pest identique à celle de l’objet numérique OB_Iou encore qu’un certain nombre de valeurs d’une pluralité de descripteurs {OB_p} est proche de celles de l’objet numérique OB_iou encore qu’un pourcentage de similitude soit atteint entre un ou plusieurs objets numériques OB_pou {OB_p} et l’objet numérique OB_i.

Si le nombre d’objets numériques testés pour lesquels la ou les réexécution(s) du test avec le même objet numérique considéré conduit(s) à des résultats différents dépasse un seuil prédéfini ou dépasse un quota sur l’ensemble de données testées alors le premier modèle ML₁peut comprendre un premier type d’erreur, appelé erreur stochastique.

Si la valeur de la prédiction de l’objet OB_iest singulière dans l’ensemble de données, c’est-à-dire que pas ou peu d’autres objets numériques remplissent la quatrième condition C₄, alors un second type d’erreur peut potentielle être relevé par l’utilisateur.

Au contraire, si plusieurs autres objets numériques ont une sensibilité à un phénomène stochastique, c’est-à-dire qu’il persiste pour chacun d’eux une variance importante entre des prédictions d’une même classe pour un même objet, alors l’invention permet de relever un premier type d’erreur du modèle ML₁.

Identiquement, avec la cinquième condition C₅réalisée, il est possible de tester un sous-ensemble de données dont on sait que la prédiction est fausse. On peut donc investiguer sur une population sélectionnée plus faible si un phénomène stochastique est la cause des erreurs de classification.

Cette caractérisation des erreurs du premier modèle ML₁permet de refléter la présence d’un problème de stabilité du modèle ML₁.

L’invention permet donc de générer une alerte visuelle localisée sur l’interface qui reflète une qualification de l’erreur du premier modèle ML₁à déterminer. Le lancement du sixième test T₆permet de discriminer le type d’erreur que le modèle ML₁a généré lorsque le calcul d’au moins une prédiction est susceptible aux effets stochastiques.

Action A5 : enregistrement des données relatives à l’objet numérique OB _i

Selon un autre mode de réalisation, la fenêtre 18 comprend également une désignation d’une action A₅activable. L’activation de l’action A₅permet d’enregistrer les données de l’objet numérique OB_iaffiché pour conduire une exploration ultérieure. Selon un mode de réalisation, un panier numérique permet d’enregistrer une pluralité d’objets numériques {OB_p} pour lesquels une anomalie a été détectée, telle que celle qui a engendré la génération du second symbole 16, S₅. Dans ce cas d’exemple, il s’agit des objets numériques {OB_p} pour lesquels la condition C₄est au moins vérifiée et possiblement la condition C₅.

Une mémoire peut être configurée pour stocker cesdits objets numériques {OB_p} afin d’investiguer la typologie d’erreur dans un second temps. Selon un mode de réalisation, l’invention permet de réaliser une analyse comparative de tous les objets numériques {OB_p} pour lesquels un second symbole 16, S₅a été généré.

Le procédé de l’invention peut être mis en œuvre par un serveur SERV₂piloté depuis un ordinateur PC₁. Les différents équipements sont préférentiellement raccordés à un réseau de données NET₁tel que le réseau internet. Toutefois, l’invention s’applique également à un réseau privé tel qu’un réseau intranet.

Le système de l’invention permet donc de mettre en œuvre le ou les procédés de l’invention à partir d’une interface utilisateur produite par une carte graphique et affichée grâce à un afficheur.

Selon un mode de réalisation, lorsque l’intégralité des conditions est calculée et que les symboles 13 et 16 sont produits pour chaque objet, les données et le modèle ML₁peuvent être transmis à un autre serveur d’exploitation pour mettre en œuvre les opérations de débogage.

Claims

Procédé mis en œuvre par ordinateur pour tester un modèle d’apprentissage machine comportant :
acquisition (ACQ₁) d’un premier ensemble de données (DS₁) décrivant un ensemble d’objets numériques ({OB_p}), chaque objet numérique (OB_i) comportant un ensemble de descripteurs ({F_i _k}) et leurs valeurs associées ;

génération (GEN₁) d’une première représentation graphique (IHM₁) comportant un élément de navigation (15) pour basculer d’un affichage d’un objet numérique (OB_i) à un affichage d’un autre objet numérique, chaque affichage d’un objet numérique (OB_i) comportant au moins une désignation dudit objet numérique (OB_i), un ensemble de descripteurs ({F_i _k}) dudit objet numérique (OB_i) et les valeurs associées desdits descripteurs ({V_i _k}),

ladite représentation graphique (IHM₁) affichant au moins une valeur d’une donnée de sortie (REG₁, CL₁) d’un premier modèle (ML₁), ladite valeur produite étant affectée audit objet numérique (OB_i), ledit premier modèle d’apprentissage machine (ML₁) traitant en entrée un vecteur d’entrée comportant un ensemble de descripteurs d’un objet numérique (OB_i) et produisant en sortie une donnée issue d’une étape de classification ou de régression ;

ladite représentation graphique (IHM₁) affichant en outre au moins un premier symbole (13) activable, ledit premier symbole (13) étant généré à proximité d’une valeur d’un premier descripteur donné (F_i ₁) dont une quantification de la contribution à la production de la valeur de la donnée de sortie (REG₁, CL₁) dudit objet numérique (OB_i) est supérieure ou inférieure à un premier seuil donné (S₁) ;

activation (ACT₁) dudit premier symbole (13) et génération d’un premier test (T₁) du premier modèle (ML₁), ledit premier test (T₁) comportant la sélection d’un sous-ensemble d’objets numériques ({OB_p’} dont la valeur du descripteur est identique ou proche du premier descripteur (F_i1) du premier objet (OB_i) ;

calcul d’une quantification des objets numériques sélectionnés ({OB_p’}) dont le résultat du premier modèle (ML₁) est similaire au résultat du premier modèle (ML₁) exécuté sur le premier objet numérique (OB_i) ;

génération (GEN₂) d’un indicateur d’anomalie caractérisant une corrélation entre les valeurs du premier descripteur (Fp₁) et les valeurs de classe (CL₁).
Procédé selon la revendication 1 caractérisé en ce que la valeur de la donnée de sortie est la valeur de prédiction d’une première classe d’un classifier classifiant l’objet numérique affiché (OB_i).
Procédé selon la revendication 1 caractérisé en ce qu’il comprend :
consécutivement à l’activation dudit symbole (13) la génération d’une première fenêtre graphique (19) comportant une désignation du premier test activable (T₁).
Procédé selon la revendication 1 caractérisé en ce que le premier seuil est :
un seuil absolu définissant une valeur à dépasser ou ;

Le seuil relatif définissant un écart à dépasser entre une valeur de contribution du premier descripteur (F_i1) et une seconde valeur de contribution d’un second descripteur.
Procédé selon la revendication 4 caractérisé en ce que le premier seuil relatif est défini par un écart à dépasser entre une valeur de contribution du premier descripteur (F_i1) et la plus grande seconde valeur de contribution d’un autre descripteur.
Procédé selon la revendication 1 caractérisé en ce qu’un descripteur peut être de type :
descripteur catégorique et/ou ;

descripteur textuel et/ou ;

descripteur numérique.
Procédé selon la revendication 1 caractérisé en ce que les données d’entrée comprennent au moins une valeur de label correspondant à la véritable valeur de la première classe (CL₁) assignée à l’objet numérique affichée (OB_i).
Procédé selon la revendication 7 caractérisé en ce que le premier symbole (13) est généré lorsque la valeur de la classe prédite en sortie du premier modèle (ML₁) est non conforme à la véritable valeur de la première classe (CL₁).
Procédé selon la revendication 1 caractérisé en ce qu’il comprend :
consécutivement à l’activation dudit symbole (13) la génération d’une première fenêtre graphique (19) comportant une désignation d’une première action activable, ladite première action comportant :

extraction d’un sous-ensemble d’objets numériques ({OB_p’}) dont leur premier descripteur ({F₁ _p}) a une même valeur que la valeur du premier descripteur (F_i ₁) de l’objet numérique affiché (OB_i) ;

génération de la première représentation graphique (IHM₁) permettant de naviguer au sein des objets numériques (OBi) du sous-ensemble d’objets numériques ({OB_p’}).
Procédé selon la revendication 1 caractérisé en ce qu’il comprend :
consécutivement à l’activation dudit symbole (13) la génération d’une première fenêtre graphique (19) comportant une désignation d’une seconde action activable, ladite seconde action activable comportant :

extraction d’un sous-ensemble d’objets numériques ({OB_p’}) dont leur premier descripteur ({F₁ _p}) a une même valeur que la valeur du premier descripteur (F_i ₁) de l’objet numérique affiché (OB_i) ;

enregistrement du sous-ensemble d’objets numériques ({OB_p’}).
Procédé selon la revendication 1 caractérisé en ce qu’il comprend :
consécutivement à l’activation dudit symbole (13) la génération d’une première fenêtre graphique (19) comportant une désignation d’un second test activable (T₂), ledit second test (T₂) du premier modèle (ML₁) comportant :

duplication de l’objet numérique sélectionné (OB_i) pour créer un nouvel objet numérique (OB_i _d),

sélection du premier un descripteur (F_id ₁) dudit nouvel objet numérique (OB_id) dupliqué, et

modification de la valeur dudit descripteur (F_id1) ;

classification dudit nouvel objet numérique (OB_id) à partir du premier modèle (ML₁) et affichage de la nouvelle valeur de prédiction calculée.
Procédé selon la revendication 1 caractérisé en ce qu’il comprend :
consécutivement à l’activation dudit symbole (13) la génération d’une première fenêtre graphique (19) comportant une désignation d’un troisième test activable (T₃), ledit troisième test (T₃) du premier modèle (ML₁) comportant :

duplication de l’objet numérique (OB_i) en une pluralité d’objets numériques ({OB_i _d}) comprend chacun une valeur du premier descripteur (F_i _d1) modifiée autour de la valeur du premier descripteur (F_i ₁) de l’objet numérique (OB_i) dans une gamme déterminée de valeurs possibles ;

Calcul d’une distribution de la classification desdits objet numérique dupliqués et modifiés ({OB_id}) à partir du premier modèle d’apprentissage machine (ML₁) et affichage de la distribution des prédictions calculées.
Système comportant au moins un premier serveur de données (SERV₁) pour la mise en œuvre d’un service mettant en œuvre le premier modèle d’apprentissage machine (ML₁) pour la classification d’un ensemble d’objets numériques, un second serveur de données (SERV₂) de test comportant une interface de données pour exécuter les étapes du procédé de l’une quelconque des revendications 1 à 12.