LightGBM

Le gradient boosting de Microsoft, taillé pour la vitesse sur les gros volumes.

LightGBM entraîne des arbres de décision par gradient boosting avec une approche histogramme : les valeurs continues sont discrétisées en bins, ce qui réduit fortement la mémoire et le temps de calcul. Sa croissance des arbres feuille par feuille (leaf-wise), ses techniques GOSS et EFB pour échantillonner les gradients et regrouper les features creuses, et son apprentissage distribué en font un booster très rapide et économe en mémoire. C'est notre choix dès que les données dépassent le million de lignes ou des centaines de features, et que les itérations doivent rester courtes.