Bayesian Optimization (Optimización Bayesiana)

Método eficiente para optimizar funciones objetivas que son costosas de evaluar.
Se basa en construir un modelo probabilístico, generalmente un proceso gaussiano, para aproximar la función desconocida.
Utiliza esta aproximación para seleccionar las próximas entradas a evaluar maximizando una función de adquisición.
Es ampliamente utilizado en machine learning para optimizar hiperparámetros en tareas complejas.
Permite reducir considerablemente el número de evaluaciones necesarias en comparación con métodos de búsqueda exhaustiva o aleatoria.
Su enfoque probabilístico lo hace ideal para escenarios donde la evaluación de cada punto es computacionalmente cara o lleva mucho tiempo.
Proporciona una estrategia balanceada entre exploración y explotación mediante el ajuste de la función de adquisición.
Su implementación requiere conocer técnicas avanzadas de estadística y programación, pero está disponible en bibliotecas especializadas como Scikit-Optimize o GPyOpt.