XGBoost et LightGBM nécessitent un codage catégoriel, une mise à l'échelle et une gestion des valeurs manquantes, tout cela avant la formation. CatBoost le fait lui-même et le fait correctement. Sa principale innovation est le boosting ordonné : un principe qui supprime les fuites de cibles lors de l'encodage des catégories à l'intérieur de l'algorithme. Ce n’est pas seulement une question de commodité, c’est une formation honnête.