Gradient Boosted Decision Trees (Árboles de Decisión Potenciados por Gradiente)

Modelo de aprendizaje automático comúnmente utilizado en tareas tanto de clasificación como de regresión.

Combina múltiples árboles de decisión débiles o simples en un modelo predictivo más robusto y preciso.

Utiliza un enfoque iterativo, ajustando los errores de los modelos anteriores mediante el aprendizaje de nuevos árboles que minimizan gradualmente una función de pérdida.

Está basado en técnicas de potenciación (boosting), donde cada árbol agregado se entrena para corregir los errores cometidos por los árboles anteriores.

Hace uso del descenso por gradiente para optimizar la función de pérdida, ajustando los parámetros del modelo progresivamente hacia la mejor solución.

Ofrece una alta precisión y una capacidad notable para manejar datos estructurados (tabulares).

Requiere cautela en la configuración de hiperparámetros como la profundidad máxima de los árboles o la tasa de aprendizaje, para evitar problemas como el sobreajuste.

Es ampliamente utilizado en herramientas y bibliotecas de machine learning como XGBoost, LightGBM y CatBoost debido a su rendimiento competitivo en múltiples escenarios.

Su adaptabilidad y eficiencia lo convierten en una opción popular para competencias como Kaggle y aplicaciones prácticas en la industria.