2.7 Optimisation et métriques

Maintenant que vous avez découvert différents algorithmes de classification supervisée, que vous êtes capable d’utiliser la validation croisée et les matrices de confusion pour en dériver des métriques, vous avez les éléments nécessaires en main pour vous attaquer à l’optimisation de votre classifieur. La tâche n’est pas simple, car vous avez, en fait, de nombreux paramètres sur lesquels influer. C’est essentiellement par la pratique que vous allez “sentir” ce qui fonctionne bien ou moins bien. Il est cependant utile à ce stade de faire un bilan. Quels sont les moyens d’optimiser un classifieur ? Quelles métriques utiliser pour surveiller votre progression ? De combien devez-vous améliorer votre métrique pour considérer que le gain est appréciable ?

2.7.0.0.1 Éléments de réflexion

• Il n’y a pas que le taux d’erreur qui soit utile. Quelquefois, l’intérêt se porte sur une ou plusieurs classes cibles. Dans ce cas, des métriques plus ciblées comme le rappel ou la précision sont utiles.
• Le rappel et la précision s’intéressent à deux points de vue complémentaires par rapport à une classe cible : combien parmi tous les objets de la classe sont détectés comme tel par le classifieur d’un côté, versus combien parmi tout ce qui est classé par l’ordinateur dans la classe cible en fait effectivement partie. Si vous regardez la matrice de confusion, vous constatez qu’il s’agit de traiter l’erreur soit selon les lignes, soit selon les colonnes de cette matrice. Selon le contexte, on est amené à optimiser l’un ou l’autre, sachant qu’un compromis est toujours nécessaire. Le score F, par contre, tente de synthétiser ce compromis dans un cas plus général en une seule valeur.
• La répartition des individus entre les classes va influer les performances du classifieur. Il est souvent souhaitable d’avoir à peu près le même nombre de cas dans chaque classe. Mais dans une classification où le résultat global compte, une distribution proche de celle qui sera rencontrée dans les échantillons en test et en déploiement donne de meilleurs résultats pour, par exemple, l’erreur globale. Attention ! Le point de référence dépend largement de la répartition des individus. Pour un classifieur binaire, si nous avons 50% des cas dans chaque classe, un classifieur naïf qui classerait tout le monde dans la classe la plus abondante ferait 50% d’erreur. C’est donc notre point de référence et le classifieur que nous construisons doit faire mieux que cela. S’il ne produit que 20% d’erreur, c’est donc une amélioration très nette des performances. Par contre, si nous avons une répartition 90% / 10% des individus entre les deux classes, notre classifieur naïf qui classe tout le monde dans la classe la plus abondante ne ferait déjà plus que 10% d’erreur. Dans ce dernier cas, notre classifieur doit donc faire mieux que cela. Ainsi, un classifieur qui montre les mêmes 20% d’erreur sera ici considéré comme très mauvais !

Préparez un schéma qui explicite votre méthode d’optimisation d’un classifieur, ainsi qu’une liste des éléments à prendre en compte sur base de tout ce que vous avez appris jusqu’ici. Ces aspects importants seront discutés en présentiel et seront cruciaux lorsque vous aurez à relever le challenge au module suivant.

À vous de jouer !

Ce projet sera traité par groupe de quatre étudiants. Il vous permettra de synthétiser vos connaissances acquises sur l’optimisation de classifieurs en apprentissage machine.

Réalisez en groupe le travail C01Ga_metrics, partie II.

Travail en groupe de 4 pour les étudiants inscrits au cours de Science des Données Biologiques III à l’UMONS à terminer avant le 2024-11-26 23:59:59.

Initiez votre projet GitHub Classroom

Voyez les explications dans le fichier README.md, partie II.