Después de mucho batallar hemos encontrado el resultado de este enigma que algunos los lectores de este espacio presentan. Si quieres aportar algo más no dudes en aportar tu información.
Solución:
Si la regresión OLS contiene un término constante, es decir, si en la matriz del regresor hay un regresor de una serie de unos, entonces la suma de los residuos es exactamente igual a cero, como una cuestión de álgebra.
Para la regresión simple,
especificar el modelo de regresión $$y_i = a +bx_i + u_i,,; i=1,…,n$$
Entonces el estimador MCO $(hat a, hat b)$ minimiza la suma de los residuos al cuadrado, es decir
$$(sombrero a, sombrero b) : sum_i=1^n(y_i – sombrero a – sombrero bx_i)^2 = min$$
Para que el estimador OLS sea el argmín de la función objetivo, debe darse como condición necesaria, que las primeras derivadas parciales con respecto a $a$ y $b$, evaluadas en $(hat a, hat b)$ sean iguales a cero. Para nuestro resultado, solo necesitamos considerar el wrt parcial $a$:
$$frac parcialparcial a sum_i=1^n(y_i – a – bx_i)^2 Big |_(hat a, hat b) = 0 Rightarrow -2sum_i=1^n(y_i – hat a – hat bx_i) = 0 $$
Pero $y_i – hat a – hat bx_i = hat u_i$, es decir, es igual al residual, entonces tenemos que
$$sum_i=1^n(y_i – hat a – hat bx_i) = sum_i=1^nhat u_i = 0 $$
Lo anterior también implica que si la especificación de regresión no no incluyen un término constante, entonces la suma de los residuos, en general, no será cero.
Para la regresión múltiple,
Sea $mathbf X$ la matriz $n times k$ que contiene los regresores, $hat mathbf u$ el vector residual y $mathbf y$ el vector de la variable dependiente. Sea $mathbf M = I_n-mathbf X(mathbf X’mathbf X)^-1mathbf X’$ la matriz “residual-maker”, llamada así porque tenemos
$$hat mathbf u = mathbf Mmathbf y$$
Se verifica fácilmente que $mathbf M mathbf X = mathbf 0$. También $mathbf M$ es idempotente y simétrico.
Ahora, sea $mathbf i$ un vector columna de unos. Entonces la suma de los residuos es
$$sum_i=1^n hat u_i = mathbf i’hat mathbf u =mathbf i’mathbf Mmathbf y = mathbf i’mathbf M’mathbf y = (mathbf Mmathbf i)’mathbf y = mathbf 0′ mathbf y = mathbf 0$$
Entonces necesitamos que la matriz regresora contenga una serie de unos, de modo que obtengamos $mathbf Mmathbf i = mathbf 0$.
La solución aceptada por Alecos Papadopoulos tiene un error al final. No puedo comentar, así que tendré que enviar esta corrección como solución, lo siento.
Es true que una serie de unos haría el trabajo. Pero no lo es true que lo necesitamos. Nosotros no necesitar el regresor tiene una serie de unos para que $Mi = 0$.
Teorema: Si $existe$ a $p$ X $1$ vector $v$ tal que:
$$Xv = 1_n$$
donde $1_n$ es un $n$ X $1$ vector de unos, entonces $$sum_i=1^ne_i=0$$Prueba:$sum_i=1^ne_i= e^T1_n =e^TX v = (e^TX) v=(X^Te)^T v = (0)^T v = 0 $
Arriba estoy usando el hecho de que $X^Te=0$. Tener una serie de unos en X (también conocida como intercepción) es solo un caso especial de $v$. Si el intercepto está en la primera columna $v$ se vería así PS[1,0,0,0,0,0…]PS
Recuerda que te concedemos decir .