Bootstrap Aggregation (Bagging)

Es una técnica de ensamblado utilizada para mejorar la precisión y la robustez de los modelos predictivos mediante la combinación de múltiples modelos base, generalmente del mismo tipo.

La idea principal radica en generar diferentes subconjuntos de datos a partir del conjunto original, seleccionando muestras aleatorias con reemplazo (bootstrap sampling), lo que significa que algunos datos pueden repetirse en un subconjunto mientras que otros pueden omitirse.

A partir de cada subconjunto se entrena un modelo independiente, los cuales contribuyen a la predicción final de manera conjunta, ya sea mediante un promedio (en el caso de regresión) o por votación mayoritaria (en tareas de clasificación).

Bagging es especialmente útil para reducir la varianza de modelos de alto sesgo, como los árboles de decisión, al suavizar sus predicciones y disminuir su tendencia al sobreajuste.

Un ejemplo popular de esta técnica es el algoritmo Random Forest, que utiliza bagging combinado con una selección aleatoria de características para construir un conjunto de árboles de decisión más diverso y potente.