La entropía max-relativa

La entropía relativa de siempre mide, en promedio, cuánto se distingue un estado $\rho$ de otro $\sigma$ . La entropía max-relativa mide lo mismo, pero en el peor caso: cuánto sobresale $\rho$ por encima de $\sigma$ en la dirección más desfavorable de todas. Esa diferencia —promedio frente a peor caso— es exactamente lo que la convierte en la herramienta correcta para una sola realización.

Una desigualdad basta

Partimos de dos objetos: un estado $\rho$ y un operador semidefinido positivo $\sigma$ que hace de referencia. La pregunta es cuánto hay que «inflar» $\sigma$ para que cubra por completo a $\rho$ . Y «cubrir» tiene aquí un sentido muy concreto, el del orden de operadores orden de operadores: escribir $\rho \preceq \lambda\sigma$ quiere decir que $\lambda\sigma - \rho$ es semidefinido positivo, es decir, que en cualquier dirección $|v\rangle$ se cumple $\langle v|\rho|v\rangle \le \lambda\langle v|\sigma|v\rangle$ . El menor $\lambda$ que lo consigue define la entropía max-relativa entropía max-relativa:

D_{\max}(\rho\,\|\,\sigma) = \log_2 \min\{\, \lambda \ge 0 : \rho \preceq \lambda\,\sigma \,\}.

El logaritmo es casi cosmético —traduce factores a bits—; el contenido está en ese mínimo $\lambda$ . Y aquí se ve por qué hablamos de «peor caso»: un único $\lambda$ tiene que servir para todas las direcciones a la vez, de modo que lo fija la más exigente de todas, aquella en la que $\rho$ más sobresale sobre $\sigma$ .

Esa dirección crítica se puede leer sin rodeos. El menor $\lambda$ admisible resulta ser el mayor autovalor de $\sigma^{-1/2}\rho\,\sigma^{-1/2}$ , con lo que la definición admite una forma cerrada mediante la norma del operador norma del operador:

D_{\max}(\rho\,\|\,\sigma) = \log_2 \big\lVert \sigma^{-1/2}\rho\,\sigma^{-1/2} \big\rVert_\infty.

Cuando $\rho$ y $\sigma$ conmutan —el caso clásico de dos distribuciones $p$ y $q$ — todo se diagonaliza a la vez y la fórmula se vuelve transparente:

D_{\max}(p\,\|\,q) = \log_2 \max_i \frac{p_i}{q_i}.

No se promedian los cocientes $p_i/q_i$ , como haría la divergencia KL divergencia KL: uno se queda con el mayor. Ese salto —de promediar a quedarse con el máximo— es toda la distancia que separa la cantidad asintótica de la de una toma. Compruébalo moviendo las dos distribuciones y observando qué resultado acaba mandando:

La max-relativa la manda el peor cociente

D_max(p‖q) = 0.000 bits · D(p‖q) = 0.000 bits

D_max solo mira el cociente máximo (resaltado); la divergencia KL promedia todos. Siempre D_max ≥ D.

p(0) 0.50

q(0) 0.25

Cuándo se dispara a infinito

La definición tiene un punto frágil que conviene ver desde ya. Si $\sigma$ se anula en alguna dirección donde $\rho$ no lo hace —en símbolos, $\operatorname{supp}(\rho) \not\subseteq \operatorname{supp}(\sigma)$ —, ningún $\lambda$ finito logra $\rho \preceq \lambda\sigma$ : por mucho que infles un cero, sigue siendo cero. En ese caso $D_{\max} = +\infty$ . Clásicamente es el cociente $p_i/q_i$ con $q_i = 0$ y $p_i > 0$ , que se dispara. Esta fragilidad no es un detalle menor: es precisamente lo que el Módulo 03 tendrá que suavizar.

Dos propiedades que usaremos sin descanso

Antes de ponernos a calcular, conviene tener a mano dos hechos. El primero es que la max-relativa es la más pesimista de su familia: para estados, $D_{\max}(\rho\|\sigma) \ge D(\rho\|\sigma) \ge 0$ , con igualdad a cero únicamente cuando $\rho = \sigma$ . De hecho es el límite $\alpha \to \infty$ de las entropía max-relativa entropías relativas de Rényi, así que acota por arriba a todas las demás — de ahí, otra vez, su carácter de peor caso.

El segundo es el procesamiento de datos: ningún canal cuántico $\Phi$ puede aumentarla,

D_{\max}\big(\Phi(\rho)\,\|\,\Phi(\sigma)\big) \le D_{\max}(\rho\,\|\,\sigma).

La lectura es natural —manipular la información nunca ayuda a distinguir mejor dos estados— y es justo la propiedad que legitima interpretarla como una medida de distinguibilidad.

Ejemplos resueltos

Ejemplo resuelto 1 · Peor caso frente a promedio

Problema. Con $p = (\tfrac12, \tfrac12)$ y $q = (\tfrac14, \tfrac34)$ , calcula $D_{\max}(p\|q)$ y compáralo con la divergencia KL $D(p\|q)$ .

Solución. Los dos cocientes son $p_0/q_0 = \tfrac{1/2}{1/4} = 2$ y $p_1/q_1 = \tfrac{1/2}{3/4} = \tfrac23$ . La max-relativa se queda con el mayor, así que $D_{\max}(p\|q) = \log_2 2 = 1$ bit.

La divergencia KL, en cambio, los promedia: $D(p\|q) = \tfrac12\log_2 2 + \tfrac12\log_2 \tfrac23 \approx 0.207$ bits. El segundo resultado, con cociente $\tfrac23 < 1$ , tira del promedio hacia abajo; la max-relativa simplemente lo ignora y se queda con el peor.

Comprobación. $1 \ge 0.207$ , como debía ser por $D_{\max} \ge D$ .

Ejemplo resuelto 2 · Cuando se dispara

Problema. Sea $p = (\tfrac12, \tfrac12)$ y $q = (1, 0)$ . ¿Cuánto vale $D_{\max}(p\|q)$ ?

Solución. El segundo resultado tiene $q_1 = 0$ mientras que $p_1 = \tfrac12 > 0$ : el soporte de $p$ no cabe dentro del de $q$ . Su cociente $p_1/q_1$ es infinito, y por tanto $D_{\max}(p\|q) = +\infty$ .

Dicho de otro modo: ningún $\lambda$ finito arregla la desigualdad $\tfrac12 \le \lambda\cdot 0$ en la segunda coordenada. En cuanto la referencia $\sigma$ «no ve» algo que $\rho$ sí, distinguirlas en el peor caso deja de tener cota.

Ejercicios

Ejercicio 1

Sea $\rho = \operatorname{diag}(0.6, 0.4)$ y $\sigma = \operatorname{diag}(0.5, 0.5)$ (el estado maximalmente mezclado de un cúbit). Calcula $D_{\max}(\rho\|\sigma)$ .

Solución

Conmutan, así que basta con el mayor cociente: $D_{\max} = \log_2 \max(0.6/0.5,\ 0.4/0.5) = \log_2 1.2 \approx 0.263$ bits. Coincide con la forma de la norma, porque cuando $\sigma = \tfrac12\mathbb{1}$ se tiene $\sigma^{-1/2}\rho\,\sigma^{-1/2} = 2\rho$ , cuyo mayor autovalor es $2\cdot 0.6 = 1.2$ .

Ejercicio 2

Demuestra, directamente desde la definición, que si $\rho$ y $\sigma$ son estados ( $\operatorname{Tr}\rho = \operatorname{Tr}\sigma = 1$ ), entonces $D_{\max}(\rho\|\sigma) \ge 0$ .

Solución

Si $\rho \preceq \lambda\sigma$ , tomar traza conserva la desigualdad ( $A \preceq B$ implica $\operatorname{Tr}A \le \operatorname{Tr}B$ ), de modo que $1 = \operatorname{Tr}\rho \le \lambda\operatorname{Tr}\sigma = \lambda$ . Todo $\lambda$ admisible cumple entonces $\lambda \ge 1$ , y el mínimo también; por tanto $D_{\max} = \log_2 \lambda_{\min} \ge \log_2 1 = 0$ .