La max-relativa suavizada

Reunimos las dos piezas de los artículos anteriores —la idea de tolerar un error $\varepsilon$ y una forma seria de medir cercanía— y las cristalizamos en una única definición. La entropía max-relativa suavizada es lo que uno esperaría: la mejor $D_{\max}$ alcanzable si se permite mover el estado dentro de una pequeña bola.

La definición

Sea $\mathcal{B}^{\varepsilon}(\rho)$ la bola de suavizado bola de estados a distancia purificada como mucho $\varepsilon$ de $\rho$ . La entropía max-relativa suavizada entropía max-relativa suavizada se define como

D_{\max}^{\varepsilon}(\rho\,\|\,\sigma) = \min_{\tilde\rho \,\in\, \mathcal{B}^{\varepsilon}(\rho)} D_{\max}(\tilde\rho\,\|\,\sigma).

Es un mínimo, no un promedio: entre todos los estados indistinguibles de $\rho$ dentro de la tolerancia, nos quedamos con el que da la $D_{\max}$ más pequeña. Se admiten estados ligeramente subnormalizados (con $\operatorname{Tr}\tilde\rho \le 1$ ), un tecnicismo que engrasa las demostraciones y no cambia la intuición.

Monótona, robusta y finita

De la definición salen tres propiedades sin esfuerzo. Es monótona en $\varepsilon$ : una bola más grande contiene más candidatos, de modo que el mínimo solo puede bajar, y por tanto $\varepsilon' \ge \varepsilon$ implica $D_{\max}^{\varepsilon'} \le D_{\max}^{\varepsilon}$ . En particular, siempre $D_{\max}^{\varepsilon} \le D_{\max}^{0} = D_{\max}$ : suavizar nunca empeora. Es robusta, porque optimizar sobre una bola borra los saltos que tanto molestaban. Y es finita en cuanto $\varepsilon$ baste para escapar de un mal soporte, aun cuando $D_{\max}$ valiera $+\infty$ .

La curva de $D_{\max}^{\varepsilon}$ frente a $\varepsilon$ cuenta toda la historia: arranca en el valor crudo y desciende, suave y sin saltos, a medida que gastamos presupuesto de error. Muévela:

Suavizar convierte el peor caso en algo robusto

Sin suavizar D_max = 0.000 bits · con ε = 0.15: D_max^ε = 0.000 bits

Permitir un error ε (mover p hacia q) baja el peor cociente. En ε = |p₀ − q₀| llega a 0.

p(0) 0.50

q(0) 0.12

ε (error) 0.15

El caso clásico, para fijar ideas

Con dos distribuciones $p$ y $q$ , suavizar consiste en desplazar $p$ hacia $q$ tanto como el presupuesto permita, porque acercarse a $q$ reduce el peor cociente $p_i/q_i$ . Si pudiéramos gastar $\varepsilon$ ilimitado llegaríamos a $\tilde p = q$ y a $D_{\max} = 0$ ; con presupuesto finito nos quedamos a medio camino. Ese «desplazar hacia $q$ » es, ni más ni menos, una minimización — la idea que el próximo artículo lleva hasta sus últimas consecuencias.

Ejemplos resueltos

Ejemplo resuelto 1 · Suavizar una rebaja concreta

Problema. Con $p = (0.8,\ 0.2)$ y $q = (0.2,\ 0.8)$ , calcula $D_{\max}$ y $D_{\max}^{\varepsilon}$ para $\varepsilon = 0.2$ (distancia de traza, para simplificar).

Sin suavizar. $D_{\max} = \log_2 \max\!\big(\tfrac{0.8}{0.2},\ \tfrac{0.2}{0.8}\big) = \log_2 4 = 2$ bits.

Con $\varepsilon = 0.2$ . Bajamos $p_0$ hacia $q_0 = 0.2$ en $0.2$ : de $0.8$ a $0.6$ . Entonces

D_{\max}^{0.2} = \log_2 \max\!\big(\tfrac{0.6}{0.2},\ \tfrac{0.4}{0.8}\big) = \log_2 3 \approx 1.585 \text{ bits}.

El presupuesto del $20\%$ rebaja el peor caso de $2$ a $1.585$ bits. Para llegar a $0$ haría falta $\varepsilon = |0.8 - 0.2| = 0.6$ .

Ejemplo resuelto 2 · Un umbral para la finitud

Problema. Sea $p = (0.7,\ 0.3)$ y $q = (1,\ 0)$ . ¿A partir de qué $\varepsilon$ deja de ser infinita $D_{\max}^{\varepsilon}$ ?

Solución. Como $q_1 = 0$ , el cociente $(1 - \tilde p_0)/(1 - q_0)$ solo es finito si $\tilde p_0 = 1$ , es decir, si vaciamos por completo la segunda coordenada. Eso cuesta desplazar una masa de $0.3$ , o sea una distancia de traza de $0.3$ . Por tanto:

para $\varepsilon < 0.3$ , sigue siendo $D_{\max}^{\varepsilon} = +\infty$ ;
en $\varepsilon = 0.3$ se alcanza $\tilde p = (1,0) = q$ y $D_{\max}^{0.3} = 0$ .

El umbral es exactamente la masa que $p$ tiene fuera del soporte de $q$ . Suavizar solo domestica el infinito cuando el presupuesto alcanza para retirar esa masa problemática.

Ejercicios

Ejercicio 1

Justifica, sin cálculo, por qué $D_{\max}^{\varepsilon}(\rho\|\sigma)$ es una función no creciente de $\varepsilon$ .

Solución

Si $\varepsilon' \ge \varepsilon$ , entonces $\mathcal{B}^{\varepsilon}(\rho) \subseteq \mathcal{B}^{\varepsilon'}(\rho)$ : la bola pequeña está contenida en la grande. Minimizar sobre un conjunto mayor no puede dar un valor más alto, así que $D_{\max}^{\varepsilon'} \le D_{\max}^{\varepsilon}$ . Es el argumento general de que «más candidatos, mínimo menor o igual».

Ejercicio 2

Con $p = (0.6,\ 0.4)$ y $q = (0.3,\ 0.7)$ , calcula $D_{\max}^{\varepsilon}$ para $\varepsilon = 0.1$ (distancia de traza).

Solución

El peor cociente es $p_0/q_0 = 0.6/0.3 = 2$ , así que conviene bajar $p_0$ hacia $q_0 = 0.3$ : de $0.6$ a $0.5$ . Entonces $D_{\max}^{0.1} = \log_2 \max\!\big(\tfrac{0.5}{0.3},\ \tfrac{0.5}{0.7}\big) = \log_2 \tfrac{5}{3} \approx 0.737$ bits (partía de $\log_2 2 = 1$ bit sin suavizar).