Connaissances a priori

Voir a priori pour le concept philosophique.

Catégories :

Automatisme - Automatique - Robotique

Source image : fr.wikipedia.org
Cette image est un résultat de recherche de Google Image. Elle est peut-être réduite par rapport à l'originale et/ou protégée par des droits d'auteur.

Page(s) en rapport avec ce sujet :

Un invariant semble par conséquent a priori inviter à son interprétation comme description... d'une large classe de contextes perceptifs ou expérimentaux assez.... de notre connaissance scientifique avec le réel-en-soi est indécidable, ... (source : pagesperso-orange)
L'invariance des mesures selon la translation, de la rotation et du changement d'échelle... Connaissances à priori. • Par ex. luminosité ou longueur des poissons... Caractérisent bien chacune des classes (variance intra... (source : olivier.coulon.perso.esil.univmed)

Voir a priori pour le concept philosophique.

La reconnaissance de formes est un domaine de recherche particulièrement actif et intimement lié à l'apprentissage machine. Aussi connue sous le nom de classification, son but est de construire un classifieur qui peut déterminer la classe (sortie du classifieur) d'une forme (entrée du classifieur). Cette procédure, aussi nommée entraînement ("training"), correspond à apprendre une fonction de décision inconnue à partir de données d'apprentissage sous la forme de couples entrée-sortie $(\boldsymbol{x}_i,y_i)$ nommés exemples. Néanmoins, dans les applications réelles, comme la reconnaissance des caractères, une certaine quantité d'information sur le problème est fréquemment connue a priori. L'incorporation de cette connaissance a priori dans l'apprentissage est la clé qui permettra une augmentation des performances du classifieur dans énormément d'applications.

Définition

La connaissance a priori, comme définie par [Scholkopf02], fait référence à toute l'information disponible sur le problème en plus des données d'apprentissage. Cependant, sous cette forme la plus générale, déterminer un modèle à partir d'un jeu fini d'exemples sans connaissance a priori est un problème mal posé, dans le sens où un modèle unique ne peut exister. Énormément de classifieurs incorporent l'a priori de douceur de la fonction ("smoothness ") qui implique qu'une forme comparable à une forme de la base d'apprentissage tend à être assignée à la même classe.

En apprentissage machine, l'importance des connaissances a priori peut se voir par le théorème du No Free Lunch qui établi que l'ensemble des algorithmes ont les mêmes performances en moyenne sur l'ensemble des problèmes et qui implique par conséquent qu'un gain de performance ne peut s'obtenir qu'en développant un algorithme spécialisé et par conséquent en utilisant des connaissances a priori.

Les différent types de connaissances a priori rencontrés en reconnaissance des formes sont regroupés dans deux catégories principales : invariance de classe et connaissances sur les données.

Invariance de classe

Un type de connaissances a priori particulièrement commun en reconnaissance des formes est l'invariance de la classe (ou de la sortie de classifieur) comparé à une transformation de la forme d'entrée. Ce type de connaissance est connue sous le nom de invariance par transformation (ou "transformation-invariance"). Les transformations les plus utilisées sont :

translation;
rotation;
redressement ("skewing ") ;
changement d'échelle.

L'incorporation d'une invariance à une transformation $T_{\theta}: \boldsymbol{x} \mapsto T_{\theta}\boldsymbol{x}$ paramètrée par $θ$ dans un classifieur de sortie $f(\boldsymbol{x})$ pour une forme d'entrée $\boldsymbol{x}$ correspond à imposer l'égalité

$f(\boldsymbol{x}) = f(T_{\theta}\boldsymbol{x}), \quad \forall \boldsymbol{x}, \theta$

L'invariance locale peut aussi être reconnue pour une transformation centrée en $θ = 0$ , qui donne $T_0\boldsymbol{x} = \boldsymbol{x}$ , par la contrainte

$\leftrac{\partial}{\partial \theta}\right|_{\theta=0} f(T_{\theta} \boldsymbol{x}) = 0$

Dans ces équations, $f$ peut autant être la fonction de décision ou la sortie à valeur réelle du classifieur.

Une autre approche consiste à considérer l'invariance de classe comparé à un "domaine de l'espace d'entrée" au lieu d'une transformation. Dans ce cas, le problème devient : trouver $f$ qui permet d'avoir

$f(\boldsymbol{x}) = y_{\mathcal{P}},\ \forall \boldsymbol{x}\in \mathcal{P}$

où $y_{\mathcal{P}}$ est la classe d'appartenance de la région $\mathcal{P}$ de l'espace d'entrée.

Un type différent d'invariance de classe est l'invariance aux permutations, i. e. l'invariance de la classe aux permutations des éléments dans une entrée structurée. Une application typique de ce type de connaissance a priori est un classifieur invariant aux permutations de lignes dans des entrées matricielles.

Connaissances sur les données

D'autres formes de connaissance a priori que l'invariance de classe sont concernées par les données plus particulièrement et sont ainsi d'un intérêt spécifique pour les applications réelles. Les trois cas spécifiques qui se produisent le plus fréquemment lorsque on rassemble des données d'observation sont :

Des exemples non-labélisés sont disponibles avec des classes d'appartenance supposées ;
Un déséquilibre de la base d'apprentissage due à une forte proportion d'exemples d'une même classe;
La qualité des données peut fluctuer d'un exemple à l'autre.

Si elle est incluse dans l'apprentissage, une connaissance a priori sur ces derniers peut perfectionnier la qualité de la reconnaissance. De plus, ne pas prendre en compte la mauvaise qualité des données ou un grand déséquilibre entre les classes peut induire un classifieur en erreur.

Références

[Scholkopf02], B. Scholkopf et A. Smola, "Learning with Kernels", MIT Press 2002.

Recherche sur Amazone (livres) :

Ce texte est issu de l'encyclopédie Wikipedia. Vous pouvez consulter sa version originale dans cette encyclopédie à l'adresse http://fr.wikipedia.org/wiki/Connaissances_a_priori.
Voir la liste des contributeurs.
La version présentée ici à été extraite depuis cette source le 14/04/2009.
Ce texte est disponible sous les termes de la licence de documentation libre GNU (GFDL).
La liste des définitions proposées en tête de page est une sélection parmi les résultats obtenus à l'aide de la commande "define:" de Google.
Cette page fait partie du projet Wikibis.