La min-entropía — Informario

La min-entropía mira una distribución y se fija en una sola cosa: cuánta probabilidad acumula su resultado más probable. Ignora por completo la cola, la forma, los detalles. Podría parecer una medida pobre, pero es justo esa terquedad la que la hace valiosa — captura exactamente cuánta certeza tiene el observador más astuto, y por eso es la moneda de la aleatoriedad de una toma y de buena parte de la criptografía.

La definición y su lectura operacional

Para un estado $\rho$ sobre $\mathcal{X}$ , la min-entropía min-entropía se define a partir de su mayor autovalor:

H_{\min}(A)_\rho = -\log_2 \big\lVert \rho \big\rVert_\infty = -\log_2 \lambda_{\max}(\rho).

En el caso clásico, con $\rho = \operatorname{diag}(p)$ , el mayor autovalor es sencillamente la probabilidad más alta, y la fórmula se lee de un vistazo:

H_{\min}(A)_p = -\log_2 \max_i p_i = -\log_2 p_{\text{acierto}}.

Ahí aparece la lectura operacional, y es la mejor manera de tener la min-entropía en la cabeza: $\max_i p_i$ no es otra cosa que la probabilidad de probabilidad de acierto adivinar $A$ a la primera con la mejor estrategia posible —apostar siempre por el resultado más probable—. La min-entropía es, literalmente, $-\log_2$ de esa probabilidad de acierto. Cuanto más fácil de adivinar es el sistema, menos min-entropía tiene. Cambia la concentración de la distribución y observa cómo responden las dos cantidades:

Min-entropía = adivinar a la primera

H_min = 0.000 bits · H (Shannon) = 0.000 bits · p_acierto = 0.00

H_min solo depende de la barra más alta (tu mejor apuesta). Siempre H_min ≤ H.

Concentración 1.60

Vale la pena fijarse en los dos extremos. Si la distribución es uniforme sobre $d$ valores, adivinar es tan difícil como puede serlo ( $p_{\text{acierto}} = 1/d$ ) y la min-entropía alcanza su máximo, $H_{\min} = \log_2 d$ . Si en cambio se concentra en un único valor, $p_{\text{acierto}} \to 1$ y $H_{\min} \to 0$ . Y entre medias se cumple siempre $H_{\min}(A) \le H(A)$ : la min-entropía nunca supera a la de Shannon (o de von Neumann), porque solo cobra por el pico mientras que aquella suma toda la cola.

La versión condicional

Lo verdaderamente interesante ocurre cuando hay información lateral. Supón que un sistema $B$ está correlacionado con $A$ : ¿cuánta incertidumbre le queda sobre $A$ a quien tiene acceso a $B$ ? La respuesta es la min-entropía condicional min-entropía condicional, que se construye —y esto no es casual— optimizando la max-relativa del artículo anterior contra un estado de referencia en $B$ :

H_{\min}(A|B)_\rho = -\min_{\sigma_B} D_{\max}\big(\rho_{AB} \,\big\|\, \mathbb{1}_A \otimes \sigma_B\big).

Merece la pena leer la fórmula despacio. El $\mathbb{1}_A$ refleja que, a priori, no suponemos ninguna estructura sobre $A$ ; la minimización sobre $\sigma_B$ busca la referencia en $B$ que mejor «explica» las correlaciones. Y ese mínimo tiene una segunda vida que revelaremos en el artículo siguiente: es un programa semidefinido, con lo que todo el aparato del Módulo 01 se pone al servicio de calcular una entropía.

Ejemplos resueltos

Ejemplo resuelto 1 · Min-entropía frente a Shannon

Problema. Para $p = (0.7,\ 0.2,\ 0.1)$ , calcula $H_{\min}$ y $H$ (Shannon), e indica la probabilidad de acierto.

Solución. El pico está en $0.7$ , de manera que la mejor apuesta acierta el $70\%$ de las veces: $p_{\text{acierto}} = 0.7$ y $H_{\min} = -\log_2 0.7 \approx 0.515$ bits.

La entropía de Shannon suma la contribución de toda la distribución: $H = -(0.7\log_2 0.7 + 0.2\log_2 0.2 + 0.1\log_2 0.1) \approx 1.157$ bits.

Comprobación. $0.515 \le 1.157$ , como exige $H_{\min} \le H$ . La min-entropía sale menor porque cobra solo por el pico; la cola, que a Shannon le añade casi $0.65$ bits, a ella no le importa.

Ejemplo resuelto 2 · El caso uniforme

Problema. Sea $\rho = \mathbb{1}/4$ , el estado maximalmente mezclado en dimensión $d = 4$ . Calcula $H_{\min}$ y compáralo con $H$ .

Solución. Todos los autovalores valen $1/4$ , así que $\lambda_{\max} = 1/4$ y

H_{\min} = -\log_2 \tfrac14 = 2 \text{ bits} = \log_2 4.

Aquí $H_{\min}$ y $H$ coinciden, ambas iguales a $\log_2 d$ . Tiene sentido: cuando no hay ningún pico que destaque, el peor caso y el promedio son la misma cosa. La brecha entre $H_{\min}$ y $H$ mide, en el fondo, cuán irregular es la distribución.

Ejercicios

Ejercicio 1

Un cúbit en el estado $\rho = \operatorname{diag}(0.85, 0.15)$ . Da $p_{\text{acierto}}$ y $H_{\min}$ .

Solución

La mejor apuesta es el primer resultado, con $p_{\text{acierto}} = 0.85$ , así que $H_{\min} = -\log_2 0.85 \approx 0.234$ bits. Casi seguro de acertar equivale a muy poca min-entropía.

Ejercicio 2

Explica por qué $0 \le H_{\min}(A) \le \log_2 d$ para todo estado en dimensión $d$ , e identifica qué estados alcanzan cada extremo.

Solución

Por ser $\rho$ un estado, su mayor autovalor está atrapado entre $1/d$ y $1$ : no puede bajar de $1/d$ (si todos fueran menores, no sumarían $1$ ) ni pasar de $1$ (traza unidad y positividad). Aplicando $-\log_2$ se obtiene $0 \le H_{\min} \le \log_2 d$ . El máximo lo da el estado maximalmente mezclado ( $\lambda_{\max} = 1/d$ ) y el mínimo, los estados puros ( $\lambda_{\max} = 1$ ).