SlideShare una empresa de Scribd logo
1 de 8
Descargar para leer sin conexión
UNIVERSIDAD NORORIENTAL PRIVADA 
GRAN MARISCAL DE AYACUCHO 
DECANATO DE POSTGRADO 
COORDINACIÓN DE POSTGRADO 
NUCLEO EL TIGRE 
MAESTRÍA DE INGENIERIA DE MANTENIMIENTO 
MENCIÓN CONFIABILIDAD INDUSTRIAL 
CATEDRA: ESTADÍSTICA APLICADA 
ESTADIO COGNOSCIENTE II 
FACILITADOR: REALIZADO POR: 
CDA. ESP. CARLENA ASTUDILLO ING. DANIEL ORDAZ. 
ING. ANGEL SALAZAR. 
EL TIGRE, DICIEMBRE DE 2014
Situación N.6 
Calcule el error cuadrático mediante la aplicación de la recta de regresión de 
mínimos cuadrados y la minimización de errores cuadráticos (S), tal que un 
modelo o instrumento es confiable en la medida que S se acerque a cero. Se 
desea verificar el nivel de confiabilidad de un cuestionario para evaluar el 
mantenimiento de una empresa con base a la norma COVENIN 2500-93, con 
una primera aplicación (X) y segunda aplicación (Y) tal como se indica en la 
tabla: 
N X Y XY F(x) 
1 12 15 
2 10 12 
3 10 11 
4 11 13 
5 10 10 
6 10 11 
7 13 17 
8 17 15 
9 10 10 
10 15 12 
Σ 
Solución: 
1. Diagrama de dispersión. 
En la figura Nº 1 se presenta el diagrama de dispersión de los datos de 
X y Y mostrados en la tabla. 
Figura Nº 1. Diagrama de dispersión de la primera aplicación (X) y 
segunda aplicación (Y).
2. Calculo del error cuadrático (S) mediante la aplicación de la recta 
de regresión de mínimos cuadrados. 
2.1. Calculo del coeficiente de correlación lineal (r). 
Cuando no se tiene la información agrupada en una tabla de doble entrada, se 
asume que cada información bivariada tiene una frecuencia unitaria y el 
coeficiente de correlación lineal (r) se calcula por: 
Ec. 1 
Se procede a calcular todas las sumatorias en una hoja de cálculo Excel, 
llenando la tabla de la siguiente manera: 
Tabla Nº 1. Valores de los parámetros y sumatorias necesarias para el 
cálculo del coeficiente de correlación (r). 
N X Y XY F(x) 1 12 15 180 144 225 12,7158273 2 10 12 120 100 144 11,557554 3 10 11 110 100 121 11,557554 4 11 13 143 121 169 12,1366906 5 10 10 100 100 100 11,557554 6 10 11 110 100 121 11,557554 7 13 17 221 169 289 13,294964 8 17 15 255 289 225 15,6115108 9 10 10 100 100 100 11,557554 10 15 12 180 225 144 14,4532374 Σ 118 126 1519 1448 1638 31,75179856 
Se calculan las siguientes sumatorias: 
Σ (X)2 13924 
Σ(Y)2 15876
Se sustituyen todos los valores en la Ec.1 y se obtiene el valor del coeficiente 
de correlación: 
r 0,608279538 
Ya que 0.6< r < 0.8, es una correlación regular. 
2.2. Ajuste rectilíneo. Método de los mínimos cuadrados. 
La forma general de la ecuación de una recta es: 
Ec. 2 
Donde: 
Las estimaciones para los parámetros son: 
Ecs. 3 y 4. 
Para ajustar el modelo rectilíneo para el mantenimiento de la empresa, se 
aprovechan los totales ya calculados anteriormente parta el cálculo del 
coeficiente de correlación (ver tabla Nº 1), se sustituyen en las ecuaciones 3 y 
4, obteniéndose los siguientes valores de a y b: 
b 0,579136691 
a 5,76618705 
Sustituyendo en la Ec. 2, se tiene que la ecuación de la recta es: 
Ec.5 
F(x)= 5,766+0,579X
En la figura Nº 2 se muestra el ajuste lineal realizado. 
Figura Nº 2. Ajuste lineal mediante el método de los mínimos cuadrados. 
2.3. Calculo del error cuadrático (S) 
En la tabla Nº 2, se presentan los valores de Y(calculada) para cada valor de X de 
la tabla, lo cual se realiza sustituyendo los valores de X en la ecuación 5 y el 
error cuadrático para cada par de datos ((Y-F(x))^2). 
Tabla Nº 2. Valores de Y(calculada) mediante el ajuste F(X) y error cuadrático 
((Y-F(x))^2) para cada par de datos. 
N X Y XY F(x) (Y-F(x))^2 
1 12 15 180 144 225 12,7158273 5,217444749 
2 10 12 120 100 144 11,557554 0,195758501 
3 10 11 110 100 121 11,557554 0,310866415 
4 11 13 143 121 169 12,1366906 0,745303038 
5 10 10 100 100 100 11,557554 2,425974328 
6 10 11 110 100 121 11,557554 0,310866415 
7 13 17 221 169 289 13,294964 13,72729155 
8 17 15 255 289 225 15,6115108 0,373945448 
9 10 10 100 100 100 11,557554 2,425974328 
10 15 12 180 225 144 14,4532374 6,01837379 
Σ 118 126 1519 1448 1638 31,75179856
Se calcula el error cuadrático mediante la ecuación: 
Ec.6 
Sustituyendo los valores de la tabla Nº 2 en la ecuación 6, donde Yi es el valor 
real re Y y se le resta el valor de Y(calculado)= F(X) para cada par de datos, se 
obtiene: 
Error cuadrático 
EC(a,b) 3,17517986 
3. Minimización de errores cuadráticos. 
Partiendo de la ecuación 6, se tiene que los valores de a y b que minimizan el 
error cuadrático, se expresan en función de las medias, varianzas y 
covarianzas empíricas de X y de Y. 
Denotamos entonces:
Se procede a calcular cada uno de los parámetros necesarios para obtener el 
error mínimo cuadrático, partiendo de los datos del ejercicio, como se muestra 
en la tabla Nº 3. 
Tabla Nº 3. Parámetros necesarios para el cálculo del error mínimo 
cuadrático. 
N X Y (Xi - media) (Xi - media)^2 (Yi-Ȳ) (Yi-Ȳ)^2 (Xi - media)(Yi-Ȳ) 
1 12 15 0,2 0,04 2,4 5,76 0,48 
2 10 12 -1,8 3,24 -0,6 0,36 1,08 
3 10 11 -1,8 3,24 -1,6 2,56 2,88 
4 11 13 -0,8 0,64 0,4 0,16 -0,32 
5 10 10 -1,8 3,24 -2,6 6,76 4,68 
6 10 11 -1,8 3,24 -1,6 2,56 2,88 
7 13 17 1,2 1,44 4,4 19,36 5,28 
8 17 15 5,2 27,04 2,4 5,76 12,48 
9 10 10 -1,8 3,24 -2,6 6,76 4,68 
10 15 12 3,2 10,24 -0,6 0,36 -1,92 
Σ 118 126 55,6 50,4 32,2 
Obteniéndose; 
Se tiene el siguiente caso:
Sustituyendo los valores de la varianza empírica de Y y el coeficiente de 
correlación lineal en la última ecuación; se obtiene el error mínimo cuadrático: 
EC (A,B) 3,17517986 
Como se puede observar, el error mínimo cuadrático (S) por el método de los 
mínimos cuadrados y por la minimización del error mínimo en función de las 
medias, varianzas y covarianzas empíricas de X y de Y, tiene el mismo 
resultado, lo que indica que es el valor de S que se aproxima más a cero (0). 
Se realizaron evaluaciones a la ecuación de la línea recta (Ec. 5), aumentando 
y disminuyendo el valor de a (corte con el eje Y) y se obtenían valores del error 
cuadrático mayores al estimado por ambos métodos, comprobando de esta 
manera lo anteriormente mencionado. 
Nota: los cálculos se encuentran en la hoja de cálculo de Excel, la cual fue la 
herramienta utilizada.

Más contenido relacionado

La actualidad más candente

Acts 3ª eval mat b
Acts 3ª eval mat b Acts 3ª eval mat b
Acts 3ª eval mat b FcoJavierMesa
 
Tema 0 magnitudes y vectores
Tema 0 magnitudes y vectoresTema 0 magnitudes y vectores
Tema 0 magnitudes y vectoresLaLocaFeliz
 
Semana 04 geometria plana 2021
Semana 04   geometria plana 2021Semana 04   geometria plana 2021
Semana 04 geometria plana 2021elmojsy
 
Practica interpolacion modificada
Practica interpolacion modificadaPractica interpolacion modificada
Practica interpolacion modificadaDeybis Boyer
 
Exercise 3 6-r - mathematical functions
Exercise 3 6-r - mathematical functionsExercise 3 6-r - mathematical functions
Exercise 3 6-r - mathematical functionsEdgar Mata
 
Actividades de repaso unds 1 a 7 mat a
Actividades de repaso unds 1 a 7 mat aActividades de repaso unds 1 a 7 mat a
Actividades de repaso unds 1 a 7 mat aFcoJavierMesa
 
Exercise 3 4-r - mathematical functions
Exercise 3 4-r - mathematical functionsExercise 3 4-r - mathematical functions
Exercise 3 4-r - mathematical functionsEdgar Mata
 
Intersección de la parábola con los ejes cartesianos
Intersección de la parábola con los ejes cartesianosIntersección de la parábola con los ejes cartesianos
Intersección de la parábola con los ejes cartesianosDiana Olea Rodríguez
 
Círculo- Sistema de medición angular
Círculo- Sistema de medición angularCírculo- Sistema de medición angular
Círculo- Sistema de medición angularaldomat07
 
Vectores nuestra señora de la asunción
Vectores nuestra señora de la asunciónVectores nuestra señora de la asunción
Vectores nuestra señora de la asunciónromeljimont
 

La actualidad más candente (18)

Acts 3ª eval mat b
Acts 3ª eval mat b Acts 3ª eval mat b
Acts 3ª eval mat b
 
PRE CALCULO N°14 ESAN
PRE CALCULO N°14 ESANPRE CALCULO N°14 ESAN
PRE CALCULO N°14 ESAN
 
Tema 0 magnitudes y vectores
Tema 0 magnitudes y vectoresTema 0 magnitudes y vectores
Tema 0 magnitudes y vectores
 
PRE CALCULO N°1 ESAN
PRE CALCULO N°1 ESANPRE CALCULO N°1 ESAN
PRE CALCULO N°1 ESAN
 
Semana 04 geometria plana 2021
Semana 04   geometria plana 2021Semana 04   geometria plana 2021
Semana 04 geometria plana 2021
 
Método de Mínimos Cuadrados
Método de Mínimos CuadradosMétodo de Mínimos Cuadrados
Método de Mínimos Cuadrados
 
Practica interpolacion modificada
Practica interpolacion modificadaPractica interpolacion modificada
Practica interpolacion modificada
 
Ejercicios de estudio
Ejercicios de estudioEjercicios de estudio
Ejercicios de estudio
 
Exercise 3 6-r - mathematical functions
Exercise 3 6-r - mathematical functionsExercise 3 6-r - mathematical functions
Exercise 3 6-r - mathematical functions
 
Actividades de repaso unds 1 a 7 mat a
Actividades de repaso unds 1 a 7 mat aActividades de repaso unds 1 a 7 mat a
Actividades de repaso unds 1 a 7 mat a
 
Vectores
VectoresVectores
Vectores
 
Exercise 3 4-r - mathematical functions
Exercise 3 4-r - mathematical functionsExercise 3 4-r - mathematical functions
Exercise 3 4-r - mathematical functions
 
Intersección de la parábola con los ejes cartesianos
Intersección de la parábola con los ejes cartesianosIntersección de la parábola con los ejes cartesianos
Intersección de la parábola con los ejes cartesianos
 
Trabajo verano 2015
Trabajo verano 2015Trabajo verano 2015
Trabajo verano 2015
 
PRE CALCULO N°13 ESAN
PRE CALCULO N°13 ESANPRE CALCULO N°13 ESAN
PRE CALCULO N°13 ESAN
 
Círculo- Sistema de medición angular
Círculo- Sistema de medición angularCírculo- Sistema de medición angular
Círculo- Sistema de medición angular
 
Matrices (1)
Matrices (1)Matrices (1)
Matrices (1)
 
Vectores nuestra señora de la asunción
Vectores nuestra señora de la asunciónVectores nuestra señora de la asunción
Vectores nuestra señora de la asunción
 

Similar a Recta de regresión y error cuadrático para evaluar confiabilidad de cuestionario

Laboratorio de finitos 1
Laboratorio de finitos 1Laboratorio de finitos 1
Laboratorio de finitos 1Jorge Luis
 
Regresion Polinomial
Regresion PolinomialRegresion Polinomial
Regresion PolinomialDiego Egas
 
Estadística Cálculo de Media y desviación 009
Estadística Cálculo de Media y desviación 009Estadística Cálculo de Media y desviación 009
Estadística Cálculo de Media y desviación 009CESAR A. RUIZ C
 
Construccion de graficas y ecuaciones empiricas
Construccion de graficas y ecuaciones empiricasConstruccion de graficas y ecuaciones empiricas
Construccion de graficas y ecuaciones empiricasJhonás A. Vega
 
Manual Casio FX570.pptx
Manual Casio FX570.pptxManual Casio FX570.pptx
Manual Casio FX570.pptxChelitoAngulo
 
Lab. N° 4_Carga y descarga (GRUPO 3).docx
Lab. N° 4_Carga y descarga (GRUPO 3).docxLab. N° 4_Carga y descarga (GRUPO 3).docx
Lab. N° 4_Carga y descarga (GRUPO 3).docxLUCERONATALYPINEDAVA1
 
Actividades de repaso unds 1 2 3 y 4 mat a
Actividades de repaso unds 1  2  3 y 4 mat aActividades de repaso unds 1  2  3 y 4 mat a
Actividades de repaso unds 1 2 3 y 4 mat aFcoJavierMesa
 
Deberes nro 6_2013
Deberes nro 6_2013Deberes nro 6_2013
Deberes nro 6_2013Tefy Ruiz
 
Ejercicios compendio 7 y 8
Ejercicios compendio 7 y 8Ejercicios compendio 7 y 8
Ejercicios compendio 7 y 8Alejandro Suarez
 
Tecnicas instrumentales ejercicios numericos - 1.1 - Determinación polarogr...
Tecnicas instrumentales   ejercicios numericos - 1.1 - Determinación polarogr...Tecnicas instrumentales   ejercicios numericos - 1.1 - Determinación polarogr...
Tecnicas instrumentales ejercicios numericos - 1.1 - Determinación polarogr...Triplenlace Química
 
Taller regresion lineal 2014 a
Taller regresion lineal 2014 aTaller regresion lineal 2014 a
Taller regresion lineal 2014 ainggaitan
 
Texto paralelo correlación
Texto paralelo correlaciónTexto paralelo correlación
Texto paralelo correlaciónElfego Lopez
 
Ejercicios compendio 7 y 8 (1)
Ejercicios compendio 7 y 8 (1)Ejercicios compendio 7 y 8 (1)
Ejercicios compendio 7 y 8 (1)Alejandro Suarez
 
Ejercicios compendio 7 y 8 (1)
Ejercicios compendio 7 y 8 (1)Ejercicios compendio 7 y 8 (1)
Ejercicios compendio 7 y 8 (1)Alejandro Suarez
 

Similar a Recta de regresión y error cuadrático para evaluar confiabilidad de cuestionario (20)

Informe actividad cognoscente ii situacion # 3
Informe actividad cognoscente ii situacion # 3Informe actividad cognoscente ii situacion # 3
Informe actividad cognoscente ii situacion # 3
 
Laboratorio de finitos 1
Laboratorio de finitos 1Laboratorio de finitos 1
Laboratorio de finitos 1
 
Regresion Polinomial
Regresion PolinomialRegresion Polinomial
Regresion Polinomial
 
Estadística Cálculo de Media y desviación 009
Estadística Cálculo de Media y desviación 009Estadística Cálculo de Media y desviación 009
Estadística Cálculo de Media y desviación 009
 
Construccion de graficas y ecuaciones empiricas
Construccion de graficas y ecuaciones empiricasConstruccion de graficas y ecuaciones empiricas
Construccion de graficas y ecuaciones empiricas
 
Manual Casio FX570.pptx
Manual Casio FX570.pptxManual Casio FX570.pptx
Manual Casio FX570.pptx
 
4. ejemplos regresion
4. ejemplos regresion4. ejemplos regresion
4. ejemplos regresion
 
9.problemas aplicados a la ingenieria quimica
9.problemas aplicados a la ingenieria quimica9.problemas aplicados a la ingenieria quimica
9.problemas aplicados a la ingenieria quimica
 
9.problemas aplicados a la ingenieria quimica
9.problemas aplicados a la ingenieria quimica9.problemas aplicados a la ingenieria quimica
9.problemas aplicados a la ingenieria quimica
 
Lab. N° 4_Carga y descarga (GRUPO 3).docx
Lab. N° 4_Carga y descarga (GRUPO 3).docxLab. N° 4_Carga y descarga (GRUPO 3).docx
Lab. N° 4_Carga y descarga (GRUPO 3).docx
 
Actividades de repaso unds 1 2 3 y 4 mat a
Actividades de repaso unds 1  2  3 y 4 mat aActividades de repaso unds 1  2  3 y 4 mat a
Actividades de repaso unds 1 2 3 y 4 mat a
 
Deberes nro 6_2013
Deberes nro 6_2013Deberes nro 6_2013
Deberes nro 6_2013
 
Ejercicios compendio 7 y 8
Ejercicios compendio 7 y 8Ejercicios compendio 7 y 8
Ejercicios compendio 7 y 8
 
Tecnicas instrumentales ejercicios numericos - 1.1 - Determinación polarogr...
Tecnicas instrumentales   ejercicios numericos - 1.1 - Determinación polarogr...Tecnicas instrumentales   ejercicios numericos - 1.1 - Determinación polarogr...
Tecnicas instrumentales ejercicios numericos - 1.1 - Determinación polarogr...
 
E02 tratamiento de_datos_experimentales
E02 tratamiento de_datos_experimentalesE02 tratamiento de_datos_experimentales
E02 tratamiento de_datos_experimentales
 
Taller regresion lineal 2014 a
Taller regresion lineal 2014 aTaller regresion lineal 2014 a
Taller regresion lineal 2014 a
 
Texto paralelo correlación
Texto paralelo correlaciónTexto paralelo correlación
Texto paralelo correlación
 
Ejercicios compendio 7 y 8 (1)
Ejercicios compendio 7 y 8 (1)Ejercicios compendio 7 y 8 (1)
Ejercicios compendio 7 y 8 (1)
 
Ejercicios compendio 7 y 8 (1)
Ejercicios compendio 7 y 8 (1)Ejercicios compendio 7 y 8 (1)
Ejercicios compendio 7 y 8 (1)
 
Regresión Lineal múltiple
Regresión Lineal  múltiple Regresión Lineal  múltiple
Regresión Lineal múltiple
 

Recta de regresión y error cuadrático para evaluar confiabilidad de cuestionario

  • 1. UNIVERSIDAD NORORIENTAL PRIVADA GRAN MARISCAL DE AYACUCHO DECANATO DE POSTGRADO COORDINACIÓN DE POSTGRADO NUCLEO EL TIGRE MAESTRÍA DE INGENIERIA DE MANTENIMIENTO MENCIÓN CONFIABILIDAD INDUSTRIAL CATEDRA: ESTADÍSTICA APLICADA ESTADIO COGNOSCIENTE II FACILITADOR: REALIZADO POR: CDA. ESP. CARLENA ASTUDILLO ING. DANIEL ORDAZ. ING. ANGEL SALAZAR. EL TIGRE, DICIEMBRE DE 2014
  • 2. Situación N.6 Calcule el error cuadrático mediante la aplicación de la recta de regresión de mínimos cuadrados y la minimización de errores cuadráticos (S), tal que un modelo o instrumento es confiable en la medida que S se acerque a cero. Se desea verificar el nivel de confiabilidad de un cuestionario para evaluar el mantenimiento de una empresa con base a la norma COVENIN 2500-93, con una primera aplicación (X) y segunda aplicación (Y) tal como se indica en la tabla: N X Y XY F(x) 1 12 15 2 10 12 3 10 11 4 11 13 5 10 10 6 10 11 7 13 17 8 17 15 9 10 10 10 15 12 Σ Solución: 1. Diagrama de dispersión. En la figura Nº 1 se presenta el diagrama de dispersión de los datos de X y Y mostrados en la tabla. Figura Nº 1. Diagrama de dispersión de la primera aplicación (X) y segunda aplicación (Y).
  • 3. 2. Calculo del error cuadrático (S) mediante la aplicación de la recta de regresión de mínimos cuadrados. 2.1. Calculo del coeficiente de correlación lineal (r). Cuando no se tiene la información agrupada en una tabla de doble entrada, se asume que cada información bivariada tiene una frecuencia unitaria y el coeficiente de correlación lineal (r) se calcula por: Ec. 1 Se procede a calcular todas las sumatorias en una hoja de cálculo Excel, llenando la tabla de la siguiente manera: Tabla Nº 1. Valores de los parámetros y sumatorias necesarias para el cálculo del coeficiente de correlación (r). N X Y XY F(x) 1 12 15 180 144 225 12,7158273 2 10 12 120 100 144 11,557554 3 10 11 110 100 121 11,557554 4 11 13 143 121 169 12,1366906 5 10 10 100 100 100 11,557554 6 10 11 110 100 121 11,557554 7 13 17 221 169 289 13,294964 8 17 15 255 289 225 15,6115108 9 10 10 100 100 100 11,557554 10 15 12 180 225 144 14,4532374 Σ 118 126 1519 1448 1638 31,75179856 Se calculan las siguientes sumatorias: Σ (X)2 13924 Σ(Y)2 15876
  • 4. Se sustituyen todos los valores en la Ec.1 y se obtiene el valor del coeficiente de correlación: r 0,608279538 Ya que 0.6< r < 0.8, es una correlación regular. 2.2. Ajuste rectilíneo. Método de los mínimos cuadrados. La forma general de la ecuación de una recta es: Ec. 2 Donde: Las estimaciones para los parámetros son: Ecs. 3 y 4. Para ajustar el modelo rectilíneo para el mantenimiento de la empresa, se aprovechan los totales ya calculados anteriormente parta el cálculo del coeficiente de correlación (ver tabla Nº 1), se sustituyen en las ecuaciones 3 y 4, obteniéndose los siguientes valores de a y b: b 0,579136691 a 5,76618705 Sustituyendo en la Ec. 2, se tiene que la ecuación de la recta es: Ec.5 F(x)= 5,766+0,579X
  • 5. En la figura Nº 2 se muestra el ajuste lineal realizado. Figura Nº 2. Ajuste lineal mediante el método de los mínimos cuadrados. 2.3. Calculo del error cuadrático (S) En la tabla Nº 2, se presentan los valores de Y(calculada) para cada valor de X de la tabla, lo cual se realiza sustituyendo los valores de X en la ecuación 5 y el error cuadrático para cada par de datos ((Y-F(x))^2). Tabla Nº 2. Valores de Y(calculada) mediante el ajuste F(X) y error cuadrático ((Y-F(x))^2) para cada par de datos. N X Y XY F(x) (Y-F(x))^2 1 12 15 180 144 225 12,7158273 5,217444749 2 10 12 120 100 144 11,557554 0,195758501 3 10 11 110 100 121 11,557554 0,310866415 4 11 13 143 121 169 12,1366906 0,745303038 5 10 10 100 100 100 11,557554 2,425974328 6 10 11 110 100 121 11,557554 0,310866415 7 13 17 221 169 289 13,294964 13,72729155 8 17 15 255 289 225 15,6115108 0,373945448 9 10 10 100 100 100 11,557554 2,425974328 10 15 12 180 225 144 14,4532374 6,01837379 Σ 118 126 1519 1448 1638 31,75179856
  • 6. Se calcula el error cuadrático mediante la ecuación: Ec.6 Sustituyendo los valores de la tabla Nº 2 en la ecuación 6, donde Yi es el valor real re Y y se le resta el valor de Y(calculado)= F(X) para cada par de datos, se obtiene: Error cuadrático EC(a,b) 3,17517986 3. Minimización de errores cuadráticos. Partiendo de la ecuación 6, se tiene que los valores de a y b que minimizan el error cuadrático, se expresan en función de las medias, varianzas y covarianzas empíricas de X y de Y. Denotamos entonces:
  • 7. Se procede a calcular cada uno de los parámetros necesarios para obtener el error mínimo cuadrático, partiendo de los datos del ejercicio, como se muestra en la tabla Nº 3. Tabla Nº 3. Parámetros necesarios para el cálculo del error mínimo cuadrático. N X Y (Xi - media) (Xi - media)^2 (Yi-Ȳ) (Yi-Ȳ)^2 (Xi - media)(Yi-Ȳ) 1 12 15 0,2 0,04 2,4 5,76 0,48 2 10 12 -1,8 3,24 -0,6 0,36 1,08 3 10 11 -1,8 3,24 -1,6 2,56 2,88 4 11 13 -0,8 0,64 0,4 0,16 -0,32 5 10 10 -1,8 3,24 -2,6 6,76 4,68 6 10 11 -1,8 3,24 -1,6 2,56 2,88 7 13 17 1,2 1,44 4,4 19,36 5,28 8 17 15 5,2 27,04 2,4 5,76 12,48 9 10 10 -1,8 3,24 -2,6 6,76 4,68 10 15 12 3,2 10,24 -0,6 0,36 -1,92 Σ 118 126 55,6 50,4 32,2 Obteniéndose; Se tiene el siguiente caso:
  • 8. Sustituyendo los valores de la varianza empírica de Y y el coeficiente de correlación lineal en la última ecuación; se obtiene el error mínimo cuadrático: EC (A,B) 3,17517986 Como se puede observar, el error mínimo cuadrático (S) por el método de los mínimos cuadrados y por la minimización del error mínimo en función de las medias, varianzas y covarianzas empíricas de X y de Y, tiene el mismo resultado, lo que indica que es el valor de S que se aproxima más a cero (0). Se realizaron evaluaciones a la ecuación de la línea recta (Ec. 5), aumentando y disminuyendo el valor de a (corte con el eje Y) y se obtenían valores del error cuadrático mayores al estimado por ambos métodos, comprobando de esta manera lo anteriormente mencionado. Nota: los cálculos se encuentran en la hoja de cálculo de Excel, la cual fue la herramienta utilizada.