Este documento introduce la regresión lineal múltiple, que es un modelo de regresión donde la variable dependiente se estima como una combinación lineal de múltiples variables independientes. Explica que los coeficientes de regresión se estiman usando el método de mínimos cuadrados para minimizar la suma de los cuadrados de los errores. También describe cómo se generan las ecuaciones normales para estimar los coeficientes de regresión resolviendo un sistema de ecuaciones lineales.

2. REGRESI ´ON LINEAL M ´ULTIPLE
Adriana Quintero Palomino
Departamento de Matem´aticas, F´ısica y Estad´ıstica
Universidad de La Sabana

3. REGRESI ´ON LINEAL M ´ULTIPLE
DEFINICI ´ON: REGRESI ´ON LINEAL M ´ULTIPLE
REGRESI ´ON LINEAL M ´ULTIPLE
Cuando un modelo es lineal en los coefi cientes se denomina modelo de
regresi´on lineal m´ultiple. Para el caso de k variables independientes, el
modelo que da x1, x2, . . . , xk, la media de Y |x1, x2, . . . , xk es el modelo de
regresi´on lineal m´ultiple µY |x1,x2,...,xk
= β0 + β1x1 + . . . + βkxk, y la
respuesta estimada se obtiene a partir de la ecuaci´on de regresi´on muestral
ˆy = b0 + b1x1 + . . . + bkxk
donde cada coeficiente de regresi´on βi se estima por medio de bi, a partir de
los datos muestrales, usando el m´etodo de los m´ınimos cuadrados.

4. REGRESI ´ON LINEAL M ´ULTIPLE
REGRESI ´ON LINEAL M ´ULTIPLE
ESTIMACI ´ON DE LOS COEFICIENTES
Los estimadores de m´ınimos cuadrados de los par´ametros β0, β1, . . . , βk se
calculan mediante el ajuste del modelo de regresi´on lineal m´ultiple
µY |x1,x2,...,xk
= β0 + β1x1 + . . . + βkxk
a los puntos de los datos (x1i, x2i, . . . , xki, yi); i = 1, 2, . . . , n/n > k, donde
yi es la respuesta observada a los valores x1i, x2i,..., xki de las k variables
independientes x1, x2, . . . , xk. Se supone que cada observaci´on
(x1i, x2i, . . . , xki, yi) satisface la siguiente ecuaci´on:
yi = β0 + β1x1i + β2x2i + . . . + βkxki + i

5. REGRESI ´ON LINEAL M ´ULTIPLE
REGRESI ´ON LINEAL M ´ULTIPLE
ESTIMACI ´ON DE LOS COEFICIENTES
o bien,
yi = ˆyi + ei = b0 + b1x1i + b2x2i + . . . + bkxki + ei
donde i y ei son el error aleatorio y el residual, respectivamente, asociados
con la respuesta yi y con el valor ajustado ˆyi.
Como en el caso de la regresi´on lineal simple, se supone que los ηi son
independientes y est´an distribuidos en forma id´entica con media cero y
varianza com´un σ2. Si usamos el concepto de m´ınimos cuadrados para
obtener los estimados b0, b1, . . . , bk, minimizamos la expresi´on
SCE =
n
i=1
e2
i =
n
i=1
(yi − b0 − b1x1i − b2x2i − . . . − bkxki)2
Si, a su vez, diferenciamos la SCE respecto a b0, b1, . . . , bk e igualamos el
resultado a cero, generamos el conjunto de k + 1 ecuaciones normales para la
regresi´on lineal m´ultiple.

6. REGRESI ´ON LINEAL M ´ULTIPLE
REGRESI ´ON LINEAL M ´ULTIPLE
ECUACIONES NORMALES DE ESTIMACI ´ON PARA LA REGRESI ´ON LINEAL
M ´ULTIPLE:
nb0 + b1
n
i=1
x1i + b2
n
i=1
x2i + . . . + bk
n
i=1
xki =
i
b0
n
i=1
x1i + b1
n
i=1
x2
1i + b2
n
i=1
x1ix2i + . . . + bk
n
i=1
x1ixki =
i
...
...
...
b0
n
i=1
xki + b1
n
i=1
xiixki + b2
n
i=1
x1ix2i + . . . + bk
n
i=1
x2
ki =
n
i=1
xkiyi
Estas ecuaciones se pueden resolver para b0, b1, b2, . . . , bk utilizando
cualquier m´etodo apropiado que permita resolver sistemas de ecuaciones
lineales.

7. REGRESI ´ON LINEAL M ´ULTIPLE
BIBLIOGRAF´IA
Walpole, Ronald E and Myers, Raymond H and Myers, Sharon L.
Probabilidad y estad´ıstica para ingenier´ıa y ciencias. Pearson Educaci´on.
Novena edici´on. 2012.
Navidi, William Cyrus. Statistics for engineers and scientists.
McGraw-Hill Higher Education. Third edition. 2011.