El paso a paso o código que verás en este post es la resolución más sencilla y efectiva que hallamos a tu duda o dilema.
Solución:
TLDR: una gaussiana isotrópica es aquella en la que la matriz de covarianza está representada por la matriz simplificada $Sigma = sigma^2I$.
Algunas motivaciones:
Considere la distribución gaussiana tradicional:
$$ mathcalN(mu,,Sigma) $$
donde $mu$ es la media y $Sigma$ es la matriz de covarianza.
Considere cómo crece el número de parámetros libres en este gaussiano a medida que crece el número de dimensiones.
$mu$ tendrá un crecimiento lineal. ¡$Sigma$ tendrá un crecimiento cuadrático!
Este crecimiento cuadrático puede ser muy costoso computacionalmente, por lo que $Sigma$ a menudo se restringe como $Sigma = sigma^2I$ donde $sigma^2I$ es una varianza escalar multiplicada por una matriz identidad.
Tenga en cuenta que esto da como resultado $Sigma$ donde todas las dimensiones son independientes y donde la varianza de cada dimensión es la misma. Entonces el gaussiano será circular/esférico.
Descargo de responsabilidad: no soy matemático, y acabo de enterarme de esto, por lo que es posible que me falten algunas cosas 🙂
¡Espero que ayude!
Solo me gustaría agregar un poco de imágenes a las otras respuestas.
Cuando las variables son independientes, es decir, la distribución es isotrópica, significa que la distribución está alineada con el eje.
por ejemplo, para $Sigma = beginpmatrix1 & 0 \ 0 & 30endpmatrix$obtendrías algo como esto:
Entonces, ¿qué sucede cuando es no ¿isotrópico? por ejemplo, cuando $Sigma = beginpmatrix1 y 15 \ 15 y 30endpmatrix$la distribución aparece “girada”, ya no alineada con los ejes:
Tenga en cuenta que esto es sólo un ejemplo, el $Sigma$ anterior no es válido ya que no es PSD.
Código:
import numpy as np
from matplotlib import pyplot as plt
pts = np.random.multivariate_normal([0, 0], [[1,15],[15,31]], size=10000, check_valid='warn')
plt.scatter(pts[:, 0], pts[:, 1], s=1)
plt.xlim((-30,30))
plt.ylim((-30,30))
No soy un estudiante importante de matemáticas, pero intentaré describir mi comprensión: una distribución gaussiana isotrópica significa una distribución gaussiana multidimensional con su matriz de varianza como una matriz de identidad multiplicada por el mismo número en su diagonal. Cada dimensión se puede ver como una distribución gaussiana unidimensional independiente (no existe covarianza).