Correlación de la distancia

Diversos conjuntos puntos (x, y), con el coeficiente de la distancia de correlación de x e y para cada conjunto. Compárese con el gráfico sobre correlación

En estadística y en teoría de la probabilidad, la correlación de la distancia o covarianza de la distancia es una medida de dependencia entre dos vectores aleatorios emparejados, de dimensión arbitraria y no necesariamente igual. El coeficiente de correlación de la distancia poblacional es cero si y solo si los vectores aleatorios son independientes. Por lo tanto, la correlación de la distancia mide tanto la asociación lineal como la no lineal entre dos variables aleatorias o vectores aleatorios. Esto contrasta con el coeficiente de correlación de Pearson, que solo puede detectar una asociación lineal entre dos variables aleatorias.

La correlación de la distancia se puede utilizar para realizar una prueba estadística de dependencia con un remuestreo. En un primer paso se calcula la correlación de la distancia (que implica el recentrado de las matrices de la distancia euclidianas) entre dos vectores aleatorios, y luego se compara este valor con las correlaciones de la distancia de muchos cruces de datos.

Trasfondo

La medida clásica de dependencia, el coeficiente de correlación de Pearson,​ es principalmente sensible a una relación lineal entre dos variables. La correlación de la distancia fue introducida en 2005 por Gábor J. Székely en varias conferencias para tratar esta deficiencia de la correlación de Pearson, a saber, que puede ser fácilmente cero para variables dependientes. La correlación = 0 (no correlacionada) no implica independencia, mientras que la correlación de la distancia = 0 implica independencia. Los primeros resultados sobre la correlación de la distancia se publicaron en 2007 y 2009.​​ Se demostró que la covarianza de la distancia es la misma que la covarianza browniana.​ Estas medidas son ejemplos de distancias de la energía.

La correlación de la distancia se deriva de un conjunto de otras cantidades que se utilizan en su especificación, concretamente: la varianza de la distancia, la desviación estándar de la distancia, y la covarianza de la distancia. Estas cantidades tienen los mismos roles que los momentos ordinarios, con los nombres correspondientes en la especificación del coeficiente de correlación de Pearson.

Definiciones

Covarianza de la distancia

Se define primero la covarianza de la distancia de la muestra. Sea (X_k, Y_k), k = 1, 2, ..., n una muestra estadística de un par de valores reales o variables aleatorias con valores vectoriales (X, Y). Primero, se calculan las matrices de distancias (de orden nxn) (a_{j, k}) y (b_{j, k}) que contienen todas las distancias por pares

${\begin{aligned}a_{j,k}&=\|X_{j}-X_{k}\|,\qquad j,k=1,2,\ldots ,n,\\b_{j,k}&=\|Y_{j}-Y_{k}\|,\qquad j,k=1,2,\ldots ,n,\end{aligned}}$

donde ||⋅|| denota la norma vectorial. Luego, se toman todas las distancias doblemente centradas

$A_{j,k}:=a_{j,k}-{\overline {a}}_{j\cdot }-{\overline {a}}_{\cdot k}+{\overline {a}}_{\cdot \cdot },\qquad B_{j,k}:=b_{j,k}-{\overline {b}}_{j\cdot }-{\overline {b}}_{\cdot k}+{\overline {b}}_{\cdot \cdot },$

donde $\textstyle {\overline {a}}_{j\cdot }$ es la media de la fila j-ésima, $\textstyle {\overline {a}}_{\cdot k}$ es la media de la columna k-ésima, y $\textstyle {\overline {a}}_{\cdot \cdot }$ es la gran media de la matriz de la distancia de la muestra X. La notación es similar para los valores de b. En las matrices de la distancias centradas ( A_{j, k}) y ( B_j,k), todas las filas y todas las columnas se suman cero. La covarianza de la distancia de la muestra al cuadrado (un escalar) es simplemente el promedio aritmético de los productos A_{j, k}B_{j, k}:

$\operatorname {dCov} _{n}^{2}(X,Y):={\frac {1}{n^{2}}}\sum _{j=1}^{n}\sum _{k=1}^{n}A_{j,k}\,B_{j,k}.$

El estadístico T_n = n dCov²_n (X, Y) determina una prueba multivariable consistente de independencia de vectores aleatorios en dimensiones arbitrarias. Para un ejemplo, véase la función dcov.test en el paquete informático energy escrito en lenguaje R.​

El valor poblacional de la covarianza de la distancia puede definirse en la misma línea. Sea X una variable aleatoria que toma valores en un espacio euclidiano dimensional p con una distribución de probabilidad μ y sea Y una variable aleatoria que toma valores en un espacio euclidiano de dimensión q con distribución de probabilidad ν, y supóngase que X e Y tienen expectativas finitas. Escribiendo

$a_{\mu }(x):=\operatorname {E} [\|X-x\|],\quad D(\mu ):=\operatorname {E} [a_{\mu }(X)],\quad d_{\mu }(x,x'):=\|x-x'\|-a_{\mu }(x)-a_{\mu }(x')+D(\mu ).$

Finalmente, se define el valor poblacional de la covarianza de la distancia al cuadrado de X e Y como

$\operatorname {dCov} ^{2}(X,Y):=\operatorname {E} {\big [}d_{\mu }(X,X')d_{\nu }(Y,Y'){\big ]}.$

Se puede demostrar que esto es equivalente a la siguiente definición:

${\begin{aligned}\operatorname {dCov} ^{2}(X,Y):={}&\operatorname {E} [\|X-X'\|\,\|Y-Y'\|]+\operatorname {E} [\|X-X'\|]\,\operatorname {E} [\|Y-Y'\|]\\&\qquad {}-\operatorname {E} [\|X-X'\|\,\|Y-Y''\|]-\operatorname {E} [\|X-X''\|\,\|Y-Y'\|]\\={}&\operatorname {E} [\|X-X'\|\,\|Y-Y'\|]+\operatorname {E} [\|X-X'\|]\,\operatorname {E} [\|Y-Y'\|]\\&\qquad {}-2\operatorname {E} [\|X-X'\|\,\|Y-Y''\|],\end{aligned}}$

donde E denota el valor esperado, y $\textstyle (X,Y),$ $\textstyle (X',Y'),$ y $\textstyle (X'',Y'')$ son independientes e idénticamente distribuidas. Las variables aleatorias imprimadas $\textstyle (X',Y')$ y $\textstyle (X'',Y'')$ denotan copias independientes e idénticas, distribuidas de las variables $X$ e $Y$, y son igualmente independientes e idénticas.​ La covarianza de la distancia se puede expresar en términos de la covarianza de Pearson clásica, cov, como sigue:

$\operatorname {dCov} ^{2}(X,Y)=\operatorname {cov} (\|X-X'\|,\|Y-Y'\|)-2\operatorname {cov} (\|X-X'\|,\|Y-Y''\|).$

Esta identidad muestra que la covarianza de la distancia no es lo mismo que la covarianza de las distancias, cov(||X − X' ||, ||Y − Y' ||), que puede ser cero incluso si X e Y no son independientes.

Alternativamente, la covarianza de la distancia se puede definir como la norma L² ponderada de la distancia entre la función característica conjunta de las variables aleatorias y el producto de sus funciones características marginales:​

$\operatorname {dCov} ^{2}(X,Y)={\frac {1}{c_{p}c_{q}}}\int _{\mathbb {R} ^{p+q}}{\frac {\left|\varphi _{X,Y}(s,t)-\varphi _{X}(s)\varphi _{Y}(t)\right|^{2}}{|s|_{p}^{1+p}|t|_{q}^{1+q}}}\,dt\,ds$

donde $\varphi _{X,Y}(s,t)$, $\varphi _{X}(s)$ y $\varphi _{Y}(t)$ son las funciones características de (X, Y), X, e Y, respectivamente; p, q denotan la dimensión euclidiana de X e Y, y por lo tanto de s y t, y c_p, c_q son constantes. La función de ponderación $({c_{p}c_{q}}{|s|_{p}^{1+p}|t|_{q}^{1+q}})^{-1}$ se elige para producir una medida equivalente a la escala e invariante respecto a la rotación que no se anula para las variables dependientes.​​ Una interpretación de la definición de la función característica es que las variables e^isX y e^itY son representaciones cíclicas de X e Y con diferentes períodos dados por s y t, y la expresión ϕ_{X, Y}(s, t) − ϕ_X(s) ϕ_Y(t) en el numerador de la función de definición de la covarianza de la distancia es simplemente la covarianza clásica de e^isX y e^itY. La definición de la función característica muestra claramente que dCov² (X, Y) = 0 si y solo si X e Y son independientes.

Varianza de la distancia y desviación estándar

La "varianza de la distancia" es un caso especial de covarianza de la distancia cuando las dos variables son idénticas. El valor poblacional de la varianza de la distancia es la raíz cuadrada de

$\operatorname {dVar} ^{2}(X):=\operatorname {E} [\|X-X'\|^{2}]+\operatorname {E} ^{2}[\|X-X'\|]-2\operatorname {E} [\|X-X'\|\,\|X-X''\|],$

donde $\operatorname {E}$ denota el valor esperado, $X'$ es una copia independiente e idénticamente distribuida de $X$ y $X''$ es independiente de $X$ y de $X'$ y tiene la misma distribución que $X$ y $X'$.

La varianza de la distancia de una muestra es la raíz cuadrada de

$\operatorname {dVar} _{n}^{2}(X):=\operatorname {dCov} _{n}^{2}(X,X)={\tfrac {1}{n^{2}}}\sum _{k,\ell }A_{k,\ell }^{2},$

concepto relacionado con la diferencia media (introducida en 1912 por Corrado Gini, aunque Gini no trabajó con distancias centradas).

La desviación estándar de la distancia es la raíz cuadrada de la varianza de la distancia.

Correlación de la distancia

La correlación de la distancia​​ de dos variables aleatorias se obtiene dividiendo su covarianza de la distancia por el producto de sus desviaciones estándar de la distancia. La correlación de la distancia es

$\operatorname {dCor} (X,Y)={\frac {\operatorname {dCov} (X,Y)}{\sqrt {\operatorname {dVar} (X)\,\operatorname {dVar} (Y)}}},$

y la correlación de la distancia de la muestra se define sustituyendo la covarianza de la distancia de la muestra y las varianzas de la distancia por los coeficientes de población anteriores.

Para un cálculo fácil de la correlación de la distancia de la muestra, véase la función dcor en el paquete energy, escrito en código R.​

Propiedades

Correlación de la distancia

i. $0\leq \operatorname {dCor} _{n}(X,Y)\leq 1$ y $0\leq \operatorname {dCor} (X,Y)\leq 1$; esto contrasta con la correlación de Pearson, que puede ser negativa.

ii. $\operatorname {dCor} (X,Y)=0$ si y solo si X e Y son independientes.

iii. $\operatorname {dCor} _{n}(X,Y)=1$ implica que las dimensiones de los subespacios lineales abarcados por las muestras de X e Y respectivamente son casi seguramente iguales y si se asume que estos subespacios son iguales, entonces en este subespacio $Y=A+b\,\mathbf {C} X$ para algunos vector A, escalar b, y matriz ortogonal $\mathbf {C}$.

Covarianza de la distancia

i. $\operatorname {dCov} (X,Y)\geq 0$ y $\operatorname {dCov} _{n}(X,Y)\geq 0$;

ii. $\operatorname {dCov} ^{2}(a_{1}+b_{1}\,\mathbf {C} _{1}\,X,a_{2}+b_{2}\,\mathbf {C} _{2}\,Y)=|b_{1}\,b_{2}|\operatorname {dCov} ^{2}(X,Y)$

para todos los vectores constantes $a_{1},a_{2}$, los escalares $b_{1},b_{2}$, y las matrices ortonormales $\mathbf {C} _{1},\mathbf {C} _{2}$.

iii. Si los vectores aleatorios $(X_{1},Y_{1})$ y $(X_{2},Y_{2})$ son independientes entonces

$\operatorname {dCov} (X_{1}+X_{2},Y_{1}+Y_{2})\leq \operatorname {dCov} (X_{1},Y_{1})+\operatorname {dCov} (X_{2},Y_{2}).$

La igualdad se mantiene si y solo si $X_{1}$ e $Y_{1}$ son ambos constantes, o $X_{2}$ e $Y_{2}$ son ambos constantes, o $X_{1},X_{2},Y_{1},Y_{2}$ son mutuamente independientes.

iv. $\operatorname {dCov} (X,Y)=0$ si y solo si X e Y son independientes.

Esta última propiedad es el efecto más importante de trabajar con distancias centradas.

El indicador estadístico $\operatorname {dCov} _{n}^{2}(X,Y)$ es un estimador sesgado de $\operatorname {dCov} ^{2}(X,Y)$. Bajo la independencia de X e Y​

${\begin{aligned}\operatorname {E} [\operatorname {dCov} _{n}^{2}(X,Y)]&={\frac {n-1}{n^{2}}}\left\{(n-2)\operatorname {dCov} ^{2}(X,Y)+\operatorname {E} [\|X-X'\|]\,\operatorname {E} [\|Y-Y'\|]\right\}\\[6pt]&={\frac {n-1}{n^{2}}}\operatorname {E} [\|X-X'\|]\,\operatorname {E} [\|Y-Y'\|].\end{aligned}}$

Székely y Rizzo$\operatorname {dCov} ^{2}(X,Y)$ dan un estimador no sesgado.​

Varianza de la distancia

i. $\operatorname {dVar} (X)=0$ si y solo si $X=\operatorname {E} [X]$ casi seguramente.

ii. $\operatorname {dVar} _{n}(X)=0$ si y solo si cada observación de la muestra es idéntica.

iii. $\operatorname {dVar} (A+b\,\mathbf {C} \,X)=|b|\operatorname {dVar} (X)$ para todo vector constante A, escalares b, y matrices ortonormales $\mathbf {C}$.

iv. Si X e Y son independientes entonces $\operatorname {dVar} (X+Y)\leq \operatorname {dVar} (X)+\operatorname {dVar} (Y)$.

La igualdad se mantiene en (iv) si y solo si una de las variables aleatorias X o Y es una constante.

Generalización

La covarianza de la distancia puede generalizarse para incluir potencias de la distancia euclidiana. Definiendo

${\begin{aligned}\operatorname {dCov} ^{2}(X,Y;\alpha ):={}&\operatorname {E} [\|X-X'\|^{\alpha }\,\|Y-Y'\|^{\alpha }]+\operatorname {E} [\|X-X'\|^{\alpha }]\,\operatorname {E} [\|Y-Y'\|^{\alpha }]\\&\qquad {}-2\operatorname {E} [\|X-X'\|^{\alpha }\,\|Y-Y''\|^{\alpha }]\end{aligned}}$

entonces, para cada $0<\alpha <2$; $X$ e $Y$ son independientes si y solo si $\operatorname {dCov} ^{2}(X,Y;\alpha )=0$. Es importante tener en cuenta que esta caracterización no es válida para el exponente $\alpha =2$; en este caso para $(X,Y)$ bivariado, $\operatorname {dCor} (X,Y;\alpha =2)$ es una función determinista de la correlación de Pearson.​ Si $a_{k,\ell }$ y $b_{k,\ell }$ son potencias $\alpha$ de las distancias correspondientes, $0<\alpha \leq 2$, entonces la covarianza de la distancia de la muestra $\alpha$ se puede definir como el número no negativo para el que

$\operatorname {dCov} _{n}^{2}(X,Y;\alpha ):={\frac {1}{n^{2}}}\sum _{k,\ell }A_{k,\ell }\,B_{k,\ell }.$

Se puede extender $\operatorname {dCov}$ a un espacio métrico con una variable aleatoria función de $X$ e $Y$: si $X$ tiene la ley $\mu$ en un espacio métrico con la métrica $d$, se define $a_{\mu }(x):=\operatorname {E} [d(X,x)]$, $D(\mu ):=\operatorname {E} [a_{\mu }(X)]$, y (siempre que $a_{\mu }$ sea finito, es decir, $X$ tenga un primer momento finito) $d_{\mu }(x,x'):=d(x,x')-a_{\mu }(x)-a_{\mu }(x')+D(\mu )$. Luego, si $Y$ tiene la ley $\nu$ (en un espacio métrico posiblemente diferente con un primer momento finito), se define

$\operatorname {dCov} ^{2}(X,Y):=\operatorname {E} {\big [}d_{\mu }(X,X')d_{\nu }(Y,Y'){\big ]}.$

Su valor es no negativo para todos los $X,Y$ si ambos espacios métricos tienen un tipo negativo.​ Aquí, un espacio métrico $(M,d)$ tiene tipo negativo si $(M,d^{1/2})$ es isométrico para un subconjunto de un espacio de Hilbert.​ Si ambos espacios métricos tienen un tipo negativo fuerte, entonces $\operatorname {dCov} ^{2}(X,Y)=0$ si $X,Y$ son independientes.​

Definición alternativa de covarianza de la distancia

La covarianza de la distancia original se ha definido como la raíz cuadrada de $\operatorname {dCov} ^{2}(X,Y)$, en lugar del coeficiente cuadrático en sí mismo. $\operatorname {dCov} (X,Y)$ tiene la propiedad de ser la distancia de la energía entre la distribución conjunta de $\operatorname {X} ,Y$ y el producto de sus marginales. Sin embargo, bajo esta definición, la varianza de la distancia, en lugar de la desviación estándar de la distancia de , se mide en las mismas unidades que las distancias $\operatorname {X}$.

Alternativamente, se podría definir la covarianza de la distancia como el cuadrado de la distancia de la energía: $\operatorname {dCov} ^{2}(X,Y).$ En este caso, la desviación estándar de la distancia $X$ se mide en las mismas unidades que la distancia de $X$, y existe un estimador no sesgado para la covarianza de la distancia de la población.​

Bajo estas definiciones alternativas, la correlación de la distancia también se define como el cuadrado $\operatorname {dCor} ^{2}(X,Y)$, en lugar de la raíz cuadrada.

Formulación alternativa: covarianza browniana

La covarianza browniana tiene su origen en la generalización de la noción de covarianza a los procesos estocásticos. El cuadrado de la covarianza de las variables aleatorias X e Y se puede escribir de la siguiente forma:

$\operatorname {cov} (X,Y)^{2}=\operatorname {E} \left[{\big (}X-\operatorname {E} (X){\big )}{\big (}X^{\mathrm {'} }-\operatorname {E} (X^{\mathrm {'} }){\big )}{\big (}Y-\operatorname {E} (Y){\big )}{\big (}Y^{\mathrm {'} }-\operatorname {E} (Y^{\mathrm {'} }){\big )}\right]$

donde E denota la esperanza matemática y las primas (') denotan copias independientes e idénticamente distribuidas. Se necesita la siguiente generalización de esta fórmula: si U(s), V(t) son procesos aleatorios arbitrarios definidos para todas las s y t reales, entonces se define la versión de X centrada en U por

$X_{U}:=U(X)-\operatorname {E} _{X}\left[U(X)\mid \left\{U(t)\right\}\right]$

siempre que exista el valor esperado condicional restado, denotando por Y_V la versión centrada en V de Y.​​​ La covarianza (U, V) de (X, Y) se define como el número no negativo cuyo cuadrado es

$\operatorname {cov} _{U,V}^{2}(X,Y):=\operatorname {E} \left[X_{U}X_{U}^{\mathrm {'} }Y_{V}Y_{V}^{\mathrm {'} }\right]$

siempre que el lado derecho sea no negativo y finito. El ejemplo más importante es cuando U y V son movimientos brownianos / procesos de Wiener independientes con expectativa cero y covarianza | s | + | t | − | s − t | = 2 min(s,t) (para s no negativo, solo t). (Esto es el doble de la covarianza del proceso de Wiener estándar; aquí el factor 2 simplifica los cálculos). En este caso, la covarianza (U, V) se llama covarianza browniana y se denota por

$\operatorname {cov} _{W}(X,Y).$

Se da una coincidencia sorprendente: la covarianza browniana es la misma que la covarianza de la distancia:

$\operatorname {cov} _{\mathrm {W} }(X,Y)=\operatorname {dCov} (X,Y),$

y por lo tanto, correlación browniana es lo mismo que correlación de la distancia.

Por otro lado, si se reemplaza el movimiento browniano con la función de identidad determinista id, entonces Cov_id (X, Y) es simplemente el valor absoluto de la clásica covarianza de Pearson.

$\operatorname {cov} _{\mathrm {id} }(X,Y)=\left\vert \operatorname {cov} (X,Y)\right\vert .$

Métricas relacionadas

Otras métricas correlacionales, incluidas las métricas correlacionales basadas en el núcleo (como el "Criterio de Independencia de Hilbert-Schmidt" o HSIC) también pueden detectar interacciones lineales y no lineales. Tanto la correlación de la distancia como las métricas basadas en el núcleo se pueden usar en métodos como análisis de la correlación canónica y análisis de componentes independientes para obtener un poder estadístico más fuerte.

Véase también

• Coeficiente RV
• Para una estadística de tercer orden relacionada, consúltese distancia oblicua

Bibliografía

• Bickel, P.J. and Xu, Y. (2009) "Discussion of: Brownian distance covariance", Annals of Applied Statistics, 3 (4), 1266–1269. doi 10.1214/09-AOAS312Apdf
• Gini, C. (1912). Variabilità e Mutabilità. Bologna: Tipografia di Paolo Cuppini.
• Pearson, K. (1895). "Note on regression and inheritance in the case of two parents", Proceedings of the Royal Society, 58, 240–242
• Pearson, K. (1920). "Notes on the history of correlation", Biometrika, 13, 25–45.
• Székely, G. J. and Rizzo, M. L. (2009). "Brownian distance covariance", Annals of Applied Statistics, 3/4, 1233–1303. doi 10.1214/09-AOAS312 10.1214/09-AOAS312 pdf
• Kosorok, M. R. (2009) "Discussion of: Brownian Distance Covariance", Annals of Applied Statistics, 3/4, 1270–1278. doi 10.1214/09-AOAS312B pdf
• Székely, G.J. and Rizzo, M.L. (2014) Partial distance correlation with methods for dissimilarities, The Annals of Statistics, 42/6, 2382-2412.[1]pdf.

Enlaces externos

• E-statistics (estadísticas de energía) Archivado el 13 de septiembre de 2019 en Wayback Machine.

• Datos: Q5282862