Classification

La "classification" (anglais) est un ensemble de méthodes qui permet de prédire une variable qualitative appelée classe. L'objectif est de générer une probabilité d'appartenance à une classe.

Méthodes

Classificateur binaire :
Perceptron.
[[régression]] logistique
Classificateur multi-classes :
[[analyse discriminante]]
[[arbre de décision]].
Boosting
Classificateur naïve bayésien
[[espérance maximisation]] (EM)
Forêt aléatoire
k-plus proches voisins
[[Support Vector Machine]] (SVM)
[[réseau de neurones]]

Warning

Attention aux variables fortement corrélées ! elles peuvent surpondérer de l'information. Pour palier ce problème, il est conseillé de réaliser la modélisation sur de nouvelles variables obtenues à la suite d'une réduction de dimensions.

Evaluer et comparer les performances de modèles de classification

Matrice de confusion

Tab	Vrai	Faux
Positif	\(a\)	\(b\)
Négatif	\(c\)	\(d\)
On note n le nombre d'individus du jeu de test : \(n = a + b + c + d\).

Taux d'erreur ou taux de mal classé proportion d'individus mal classés : \(\frac{c+b}{n}\).

Classification binaire (deux classes)

Pour un classificateur binaire, les critères principaux sont utilisés pour évaluer le modèle dépendent de la matrice de confusion. Ils sont :

la sensibilité (qui est la capacité a trouver tous les individus vrai (bien classé) parmi ce qui le sont (vrai mal classé). La sensibilité est également appelé la sélectivité ou taux de vrai positif ou rappel (recall).
la spécificité est qui est la capacité a trouver tous les individus faux parmi ce qui le sont.
la précision qui la proportion d'individus bien classée.

La performance du modèle en faisant varier le seuil de sensibilité du modèle. Plus le taux de faux postif augmente plus, on diminue la probabilité d'acceptation.

Il n'est pas possible de comparait les modèles par leur sensibilité, précision ou spécificité car un modèle triviale peut être plus performant. On utilise donc le F score \(F = 2 \cdot \frac{\mathbf{précision} \times \mathbf{sensibilité}}{\mathbf{précision} + \mathbf{sensibilité}}\)

Courbe de Receiver Operating Characteristic (ROC)

La courbe de ROC permet d'évaluer la performance de modèles à classification binaire. On ne s'intéresse qu'aux individus classées comme vraies. Elle représente la sensibilité en fonction de 1 - la sélectivité.

Area Under the Curve (AUC) aire sous la courbe de ROC.