Este documento trata sobre el modelo de regresión lineal simple. Explica que este modelo intenta describir la relación entre una variable dependiente y una independiente a través de una recta. Detalla que los parámetros α y β se estiman para minimizar la suma de los cuadrados de los errores entre los valores observados y predichos. Como ejemplo, usa un conjunto de datos sobre la estatura de padres e hijos, calcula los parámetros α y β, y muestra cómo realizar predicciones y medir la variabilidad del modelo.

1. Unidad 9: Regresión Lineal simple
1
Probabilidad y Estadística
Año 2020

2.  Dadas las observaciones: (x1, y1) , (x2, y2) , …, (xn, yn)
 Hacer un Diagrama de Dispersión
 Calcular rXY
 Si se sospecha que hay una relación lineal entre las
variables se propone un modelo:
 Yi = α+ xi β +εi
2

3. Modelo de Regresión Lineal Simple
 yi = α+ xi β +εi
 y es la variable dependiente
 x es la variable independiente
 Los εi son los errores, que se supone tienen media
nula, varianza constante y que son no correlacionados
 α y β son los parámetros a estimar
3

4. Modelo de regresión lineal simple
(formal)
𝐘𝐢= 𝛂 + 𝛃𝐱𝐢 + 𝛆𝐢 𝟏 ≤ 𝐢 ≤ 𝐧
xi fijos
εi aleatorios con:
E(𝜀𝑖) = 0
Varianza 𝜀𝑖 = 𝜎2
Cov εi, εj = 0 para i ≠ j
α, β y σ2son los parámetros a estimar
4

5. yi = α+ xi β +εi
 ¿Por qué lineal?
 ¿Por qué simple?
 ¿Cuál es el parámetro más importante?
 ¿Qué representa β?
 ¿Qué representa α?
 ¿Qué es εi ?
5

6. yi = α+ xi β +εi
 ¿Por qué lineal?
 ¿Por qué simple?
 El parámetro más importante es β, nos indica cuánto
aumenta la media de la variable Y cuando aumenta
una unidad la variable X
 El parámetro α es la ordenada al origen y representa el
valor de la media de Y cuando la variable
independiente toma el valor cero.
 εi es el error y en base a la minimización de este error
se estima α yβ
6

7. Métodos de Mínimos
Cuadrados
 Se trata de minimizar la suma de cuadrados de los
residuos:
7
 

 









n
1
i
2
i
i
n
1
i
2
i )
x
ˆ
ˆ
(
y
e
)
ˆ
,
ˆ
(
h

8. Métodos de Mínimos
Cuadrados
 Como resultado de la aplicación de este criterio se
obtiene que:
8
2
ˆ
( , )
ˆ
ˆ ˆ
Y
XY
x X
Cov X Y
r


 
 
ˆ
ˆ y x
 
 

9.  Otras formas de :
9
2
1 1
2 2
2 2
1
( )
ˆ
( , )
ˆ
ˆ ˆ
( )
n n
i i i
i i
Y
XY XY n
x X
i
i
i
y y x y nxy
Cov X Y
r r
x x x nx


 
 

 
   
 
 

ˆ


10. Fin primera parte
10

11. Ejemplo
 Se desea predecir la estatura del hijo en base a la
estatura del padre. Los datos observados , en cm, son:
11
Padre (X) Hijo (Y)
157 160
162 165
167 171
172 174
177 177
182 180
187 183
192 187
R² = 0.9835
155
160
165
170
175
180
185
190
0 50 100 150 200 250
Altura del hijo
(cm)
Altura del padre (cm)
r=0,992

12. Modelo
𝐘𝐢= 𝛂 + 𝛃𝐱𝐢 + 𝛆𝐢 𝟏 ≤ 𝐢 ≤ 𝐧
xi fijos
εi aleatorios con:
media cero E(𝜀𝑖) = 0
Varianza cte σ𝜀𝑖
2
= cte
Cov εi, εj = 0 para i ≠ j
α, β y σ2
son los parámetros a estimar
12

13. Uso de calculadora
Calculadora símil fx82
 https://www.youtube.co
m/watch?v=NN_eoHgJQ
Qk
Calculadora símil fx570
 https://www.youtube.co
m/watch?v=qyHjD2Ia6D
w
13

14. Uso de Excel
Excel
https://www.youtube.com/watch?v=9L0hfVqWuss
14

15. 15
Padre (X) Hijo (Y) xy x^2
157 160 25120 24649
162 165 26730 26244
167 171 28557 27889
172 174 29928 29584
177 177 31329 31329
182 180 32760 33124
187 183 34221 34969
192 187 35904 36864
1396 1397 244549 244652
ˆ 0.74
 
ˆ 46.24
 
ˆ 46.24 0.74
y x
 

16. Predicciones
 Predicción para x=158
𝑌158 = 46.24 + 0.74x158 =161.99
𝑌150 = 𝑁𝑜 𝑠𝑒 𝑝𝑢𝑒𝑑𝑒 𝑐𝑎𝑙𝑐𝑢𝑙𝑎𝑟
 No se puede extrapolar
16

17. Medida de variabilidad
 La recta de regresión se complementa con una medida
de variabilidad de los datos.
 La diferencia entre la recta de regresión y la
observación es lo que llamamos residuos. Se puede
mostrar que la suma de los residuos es cero.
 La medida de variabilidad de la recta es igual a:
17

 






n
i
i
i
n
i
i y
y
n
e
n 1
2
1
2
2
)
ˆ
(
2
1
2
1
ˆ


18. Ejemplo
 𝜎𝜀
2=1.64, luego
 𝜎𝜀=1.28
18

19. Fin Segunda parte
19
Nos queda por estudiar el Diagnóstico del modelo, que dejamos
para una próxima clase, cuando afiances la definición del Modelo de
Regresión Lineal Simple y cómo ajustarlo