Qu'est-ce Qu'un Ensemble de Modèles ?

Un modèle d'ensemble est une technique d'apprentissage automatique qui combine les prédictions de plusieurs modèles individuels (également appelés modèles de base ou apprenants faibles) pour faire des prédictions plus précises et robustes. Au lieu de se fier à un seul modèle, un ensemble exploite la sagesse de la foule, agrégeant les opinions diverses de ses modèles constitutifs pour produire une prédiction finale.
Le principe de fonctionnement du modèle d'ensemble est décrit dans le schéma suivant :

Nous avons des apprenants faibles c1, c2, c3 qui fournissent des prédictions p1, p2 et p3. Ensuite, toutes ces prédictions sont agrégées à l'aide d'un méta-classificateur qui nous donne une prédiction finale.
Le nombre d'apprenants faibles peut être arbitraire et est choisi de manière à obtenir les meilleurs résultats possibles avec la puissance de calcul disponible.
Les ensembles peuvent être assez diversifiés, ce qui permet de les personnaliser facilement pour résoudre des problèmes spécifiques :

1. Nous pouvons utiliser différents modèles comme apprenants faibles : KNN, régression logistique, SVM, arbres de décision, réseaux de neurones, etc.
2. Nous pouvons utiliser différentes méthodes d'agrégation pour créer des prédictions finales. Il existe 3 principales techniques d'agrégation :
   • bagging ;
   • boosting ;
   • stacking.

Le choix correct de la méthode d'agrégation est l'outil le plus intéressant et le plus efficace pour résoudre des problèmes en utilisant des ensembles de modèles. Les méthodes d'agrégation seront discutées plus en détail dans les prochains chapitres.