Información Mutua

En el ámbito de la inteligencia artificial y el machine learning, se relaciona con una métrica estadística utilizada para medir la dependencia entre dos variables aleatorias.

Evalúa cuánta información sobre una de las variables se puede obtener observando la otra, proporcionando un indicador de la redundancia o dependencia entre ambas.

Se basa en conceptos de teoría de la información, como la entropía, permitiendo cuantificar tanto relaciones lineales como no lineales.

Es ampliamente utilizada en tareas como la selección de características, análisis de datos y aprendizaje automático para identificar patrones relevantes.

Su valor es máximo cuando las variables tienen una relación determinista y mínimo cuando son completamente independientes.