Estadística Multivariada

Juan Carlos Castillo

Sociología FACSO - UChile

1er Sem 2022

multivariada.netlify.com

Sesión 4: Regresión simple 2

]

1 / 41

Contenidos1. Siguiendo con regresión simple2.  Ajuste y residuos3. Notas sobre regresión y correlación2 / 41

1. Regresión simple3 / 41

¿Qué buscamos?4 / 41

¿Qué buscamos?
Contrastar empíricamente teorías sociológicas

(con datos cuantitativos)

4 / 41

Hechos sociales son multideterminados

Limitaciones de herramientas bivariadas (tablas de contingencia, coeficiente de correlación)
Necesidad de contar con herramientas más eficientes que incluyan múltiples determinantes
-> MODELO DE REGRESIÓN

5 / 41

por qué "modelo"
por qué "regresión"
partir por un determinante y luego se expande a múltiples determinantes

¿MODELO?= representación simplificada

.scale 110%

6 / 41

¿Regresión?

el modelo de regresión busca representar matemáticamente la relación entre una variable dependiente (Y) y una o más independientes (X)

7 / 41

¿Regresión?

el modelo de regresión busca representar matemáticamente la relación entre una variable dependiente (Y) y una o más independientes (X)
esta relación se expresa en un parámetro $β$ o "beta de regresión"

8 / 41

Regresión simple

esta primera parte del curso veremos modelos con solo 1 variable independiente (X) o regresión simple

$ˆ Y = β_{0} + β_{1} X_{1}$

con este modelo podemos saber el valor de $Y$ si conocemos el valor de $X$ usando el valor de los parámetros $β_{0}$ y $β_{1}$

9 / 41

Componentes de la ecuación de la recta de regresión

$ˆ Y = β_{0} + β_{1} X_{1}$

Donde

$ˆ Y$ es el valor estimado de $Y$
$β_{0}$ es el intercepto de la recta (el valor de Y cuando X es 0)
$β_{1}$ es el coeficiente de regresión, que nos dice cuánto aumenta Y por cada punto que aumenta X

10 / 41

Estimación de los coeficientes de la ecuación:

$b_{1} = \frac{C o v (X Y)}{V a r X}$

$b_{1} = \frac{\frac{\sum_{i = 1}^{n} (x_{i} - ¯ x) (y_{i} - ¯ y)}{n - 1}}{\frac{\sum_{i = 1}^{n} (x_{i} - ¯ x) (x_{i} - ¯ x)}{n - 1}}$

Y simplificando

$b_{1} = \frac{\sum_{i = 1}^{n} (x_{i} - ¯ x) (y_{i} - ¯ y)}{\sum_{i = 1}^{n} (x_{i} - ¯ x) (x_{i} - ¯ x)}$

11 / 41

Estimación de los coeficientes de la ecuación:

Luego despejando el valor de $b_{0}$

$b_{0} = ¯ Y - b_{1} ¯ X$

12 / 41

Ejemplo: ¿Cuántos pasos da un hijo (Y) por cada paso que da su mamá (x)?

##   pasos_mama_x pasos_hijo_y
## 1            3            2
## 2            5            3
## 3            7            2
## 4            9            4

## [1] "pasos_mama_x" "pasos_hijo_y"

13 / 41

$b_{1} = \frac{\sum_{i = 1}^{n} (x_{i} - ¯ x) (y_{i} - ¯ y)}{\sum_{i = 1}^{n} (x_{i} - ¯ x) (x_{i} - ¯ x)}; b_{0} = ¯ Y - b_{1} ¯ X$

14 / 41

$ˆ Y = β_{0} + β_{1} X_{1}$ Reemplazando:

$ˆ Y = 1.25 + 0.25 X$ Entonces:

por cada paso que da la mamá (X), un hij_ (Y) avanza en promedio 0.25 pasos
si una mamá da (por ej) 4 pasos, entonces la cantidad de pasos estimada para su hijo sería 1.25+0.25*4=2.25

15 / 41

$ˆ Y = 1.25 + 0.25 X$

la ecuación del modelo de regresión se puede expresar en una recta de regresión
esta recta representa la predicción de los valores de $Y$ a partir de $X$

16 / 41

Estimación del modelo de regresión simple en `R`

La función para estimar regresión en R es lm (linear model):

objeto <- lm(dependiente ~ independiente, data=datos)

17 / 41

Estimación del modelo de regresión simple en `R`

La función para estimar regresión en R es lm (linear model):

objeto <- lm(dependiente ~ independiente, data=datos)

Donde

objeto: el nombre (cualquiera) que le damos al objeto donde se guardan los resultados de la estimación
dependiente / independiente: los nombres de las variables en los datos
datos = el nombre del objeto de nuestros datos en R

17 / 41

lm(pasos_hijo_y ~ pasos_mama_x, data = datos1)

## 
## Call:
## lm(formula = pasos_hijo_y ~ pasos_mama_x, data = datos1)
## 
## Coefficients:
##  (Intercept)  pasos_mama_x  
##         1.25          0.25

18 / 41

INTERPRETACIÓNpor cada unidad que aumenta X, Y aumenta en Beta19 / 41

Ejemplo

Si tenemos

Y = ingreso al egresar de la universidad
X = puntaje PSU

$I n g r e s o = 200.000 + 400 (p u n t a j e P S U)$

20 / 41

Ejemplo

Si tenemos

Y = ingreso al egresar de la universidad
X = puntaje PSU

$I n g r e s o = 200.000 + 400 (p u n t a j e P S U)$

1 - ¿Cuál es el valor estimado de Ingreso para un puntaje PSU de 500?

20 / 41

Ejemplo

Si tenemos

Y = ingreso al egresar de la universidad
X = puntaje PSU

$I n g r e s o = 200.000 + 400 (p u n t a j e P S U)$

1 - ¿Cuál es el valor estimado de Ingreso para un puntaje PSU de 500?

400.000

20 / 41

Ejemplo

Si tenemos

Y = ingreso al egresar de la universidad
X = puntaje PSU

$I n g r e s o = 200.000 + 400 (p u n t a j e P S U)$

1 - ¿Cuál es el valor estimado de Ingreso para un puntaje PSU de 500?

400.000

2 - ¿Cuál es el valor estimado de Ingreso para un puntaje (hipotético) de PSU=0?

20 / 41

Ejemplo

Si tenemos

Y = ingreso al egresar de la universidad
X = puntaje PSU

$I n g r e s o = 200.000 + 400 (p u n t a j e P S U)$

1 - ¿Cuál es el valor estimado de Ingreso para un puntaje PSU de 500?

400.000

2 - ¿Cuál es el valor estimado de Ingreso para un puntaje (hipotético) de PSU=0?

200.000

20 / 41

Hasta ahora deberíamos saber:21 / 41

Hasta ahora deberíamos saber:

1- Modelo de regresión como una representación simplificada de la relación compleja entre variables

21 / 41

Hasta ahora deberíamos saber:

1- Modelo de regresión como una representación simplificada de la relación compleja entre variables

2- El $β$ de regresión nos dice cuanto aumenta $Y$ (variable dependiente) en promedio por cada punto que aumenta $X$ (variable independiente).

21 / 41

Hasta ahora deberíamos saber:

1- Modelo de regresión como una representación simplificada de la relación compleja entre variables

2- El $β$ de regresión nos dice cuanto aumenta $Y$ (variable dependiente) en promedio por cada punto que aumenta $X$ (variable independiente).

3- El modelo nos permite estimar el puntaje de $Y$ para cada valor de $X$

21 / 41

2. Ajuste y residuos22 / 41

El cuarteto de Anscombe (1973)

Podemos tener un mismo modelo de regresión para relaciones distintas entre datos

23 / 41

¿Qué tan bueno es nuestro modelo?

El cálculo del $β$ busca minimizar los residuos (de ahí "mínimos cuadrados ordinarios")
Una vez minimizados los residuos, se puede evaluar el ajuste
- qué tan bien representa nuestro modelo la realidad
- cuánto error (de predicción) estamos cometiendo con nuestro modelo

24 / 41

Tuve un ataque de artemanía es intenté replicar una recta de regresión. pic.twitter.com/b7OXZrK26J
— Jorge Pacheco Jara (@jorge_pacheco) November 13, 2020

25 / 41

Un modelo es mejor mientras mejor refleje lo que sucede con los datos26 / 41

Un modelo es mejor mientras mejor refleje lo que sucede con los datosEn otras palabras, cuando se parece o ajusta mejor a los datos26 / 41

Un modelo es mejor mientras mejor refleje lo que sucede con los datosEn otras palabras, cuando se parece o ajusta mejor a los datos... y en otras: cuando los residuos son menores26 / 41

Observado, estimado & residuo

observado: $Y$
estimado: $ˆ Y$
residuo: $Y - ˆ Y$

27 / 41

Varianza explicada de Y

¿Qué parte de la varianza de ingreso (Y) se asocia a educación?

28 / 41

Varianza explicada de Y: R2¿Cuánto de los ingresos puedo predecir con educación (regresión) y cuánto me estoy equivocando (residuos)?
29 / 41

Varianza explicada de Y: $R^{2}$

¿Cuánto de los ingresos puedo predecir con educación (regresión) y cuánto me estoy equivocando (residuos)?
el $R^{2}$
- es la proporción de la varianza de Y que se asocia a X
- varía entre 0 y 1, y se puede expresar en porcentaje

29 / 41

Varianza explicada de Y: $R^{2}$

¿Cuánto de los ingresos puedo predecir con educación (regresión) y cuánto me estoy equivocando (residuos)?
el $R^{2}$
- es la proporción de la varianza de Y que se asocia a X
- varía entre 0 y 1, y se puede expresar en porcentaje
Entonces, podemos descomponer la varianza de Y en 2: aquella asociada a X (regresión) y la que no se asocia a X (residuos)

29 / 41

¿Cómo se calcula el $R^{2}$ ?

para saber qué porcentaje de $Y$ se asocia a $X$ vamos a considerar los siguientes valores de $Y$ :

$Y$ = Valor observado de Y

$ˆ Y$ = estimación de Y a partir de X

$¯ Y$ = promedio de Y

30 / 41

Descomponiendo Y

Conceptualmente:

$S S_{t o t} = S S_{r e g} + S S_{e r r o r}$

31 / 41

Descomponiendo Y

$Y = ¯ Y + (ˆ Y - ¯ Y) + (Y - ˆ Y)$

$Σ (y_{i} - ¯ y)^{2} = Σ ({^y}_{i} - ¯ y)^{2} + Σ (y_{i} - {^y}_{i})^{2}$

32 / 41

Varianza explicada

Por lo tanto:

$S S_{t o t} = S S_{r e g} + S S_{e r r o r}$

33 / 41

Varianza explicada

Por lo tanto:

$S S_{t o t} = S S_{r e g} + S S_{e r r o r}$

$\frac{S S_{t o t}}{S S_{t o t}} = \frac{S S_{r e g}}{S S_{t o t}} + \frac{S S_{e r r o r}}{S S_{t o t}}$

33 / 41

Varianza explicada

Por lo tanto:

$S S_{t o t} = S S_{r e g} + S S_{e r r o r}$

$\frac{S S_{t o t}}{S S_{t o t}} = \frac{S S_{r e g}}{S S_{t o t}} + \frac{S S_{e r r o r}}{S S_{t o t}}$

$1 = \frac{S S_{r e g}}{S S_{t o t}} + \frac{S S_{e r r o r}}{S S_{t o t}}$

$\frac{S S_{r e g}}{S S_{t o t}} = 1 - \frac{S S_{e r r o r}}{S S_{t o t}} = R^{2}$

¿Qué quiere decir esto?

33 / 41

Directamente en R

reg1 <-lm(pasos_hijo_y ~ 
              pasos_mama_x, 
              data = datos1)

	Modelo 1
Predictores	β	p
(Intercept)	1.250	0.420
pasos_mama_x	0.250	0.326
Observations	4
R² / R² adjusted	0.455 / 0.182

Un 45.5% de la varianza de Y se relaciona con X

34 / 41

3. Correlación y regresión35 / 41

Equivalencias en regresión y correlación

cor(datos1$pasos_mama_x,datos1$pasos_hijo_y)

## [1] 0.6741999

Correlación entre juegos y puntos al cuadrado

(cor(datos1$pasos_mama_x,datos1$pasos_hijo_y))^2

## [1] 0.4545455

Es decir: correlación de Pearson al cuadrado ( $r^{2}$ ) es $R^{2}$

36 / 41

Diferencias en regresión y correlaciónLa correlación entre X e Y es la misma que entre Y e X

cor(datos1$pasos_mama_x,datos1$pasos_hijo_y)

## [1] 0.6741999
cor(datos1$pasos_hijo_y,datos1$pasos_mama_x)

## [1] 0.6741999
37 / 41

Diferencias en regresión y correlaciónLa regresión entre X e Y no es la misma que entre Y y X

lm(datos1$pasos_hijo_y ~ datos1$pasos_mama_x)$coefficients

##         (Intercept) datos1$pasos_mama_x 
##                1.25                0.25
lm(datos1$pasos_mama_x ~ datos1$pasos_hijo_y)$coefficients

##         (Intercept) datos1$pasos_hijo_y 
##            1.000000            1.818182
38 / 41

RESUMEN- Ajuste del modelo de regresión (R2): porcentaje de la varianza de la variable dependiente (Y) que se asocia a la independiente (X)- Correlación y regresión: primos cercanos, principalmente en regresión simple.39 / 41

Próximas semanas:

Práctica 3: Regresión simple

Práctica 4: Ajuste y residuos

Preparar Evaluación 1

Lectura: Moore: Residuos (144-154)

40 / 41

Estadística Multivariada

multivariada.netlify.com

Sociología FACSO

UChile

1er Sem 2022

41 / 41

Estadística Multivariada

Juan Carlos Castillo

Sociología FACSO - UChile

1er Sem 2022

multivariada.netlify.com

Sesión 4: Regresión simple 2

]

1 / 41

Contenidos1. Siguiendo con regresión simple2.  Ajuste y residuos3. Notas sobre regresión y correlación2 / 41

1. Regresión simple3 / 41

¿Qué buscamos?4 / 41

¿Qué buscamos?
Contrastar empíricamente teorías sociológicas

(con datos cuantitativos)

4 / 41

Hechos sociales son multideterminados

Limitaciones de herramientas bivariadas (tablas de contingencia, coeficiente de correlación)
Necesidad de contar con herramientas más eficientes que incluyan múltiples determinantes
-> MODELO DE REGRESIÓN

5 / 41

por qué "modelo"
por qué "regresión"
partir por un determinante y luego se expande a múltiples determinantes

¿MODELO?= representación simplificada

.scale 110%

6 / 41

¿Regresión?

el modelo de regresión busca representar matemáticamente la relación entre una variable dependiente (Y) y una o más independientes (X)

7 / 41

¿Regresión?

el modelo de regresión busca representar matemáticamente la relación entre una variable dependiente (Y) y una o más independientes (X)
esta relación se expresa en un parámetro $β$ o "beta de regresión"

8 / 41

Regresión simple

esta primera parte del curso veremos modelos con solo 1 variable independiente (X) o regresión simple

$ˆ Y = β_{0} + β_{1} X_{1}$

con este modelo podemos saber el valor de $Y$ si conocemos el valor de $X$ usando el valor de los parámetros $β_{0}$ y $β_{1}$

9 / 41

Componentes de la ecuación de la recta de regresión

$ˆ Y = β_{0} + β_{1} X_{1}$

Donde

$ˆ Y$ es el valor estimado de $Y$
$β_{0}$ es el intercepto de la recta (el valor de Y cuando X es 0)
$β_{1}$ es el coeficiente de regresión, que nos dice cuánto aumenta Y por cada punto que aumenta X

10 / 41

Estimación de los coeficientes de la ecuación:

$b_{1} = \frac{C o v (X Y)}{V a r X}$

$b_{1} = \frac{\frac{\sum_{i = 1}^{n} (x_{i} - ¯ x) (y_{i} - ¯ y)}{n - 1}}{\frac{\sum_{i = 1}^{n} (x_{i} - ¯ x) (x_{i} - ¯ x)}{n - 1}}$

Y simplificando

$b_{1} = \frac{\sum_{i = 1}^{n} (x_{i} - ¯ x) (y_{i} - ¯ y)}{\sum_{i = 1}^{n} (x_{i} - ¯ x) (x_{i} - ¯ x)}$

11 / 41

Estimación de los coeficientes de la ecuación:

Luego despejando el valor de $b_{0}$

$b_{0} = ¯ Y - b_{1} ¯ X$

12 / 41

Ejemplo: ¿Cuántos pasos da un hijo (Y) por cada paso que da su mamá (x)?

##   pasos_mama_x pasos_hijo_y
## 1            3            2
## 2            5            3
## 3            7            2
## 4            9            4

## [1] "pasos_mama_x" "pasos_hijo_y"

13 / 41

$b_{1} = \frac{\sum_{i = 1}^{n} (x_{i} - ¯ x) (y_{i} - ¯ y)}{\sum_{i = 1}^{n} (x_{i} - ¯ x) (x_{i} - ¯ x)}; b_{0} = ¯ Y - b_{1} ¯ X$

14 / 41

$ˆ Y = β_{0} + β_{1} X_{1}$ Reemplazando:

$ˆ Y = 1.25 + 0.25 X$ Entonces:

por cada paso que da la mamá (X), un hij_ (Y) avanza en promedio 0.25 pasos
si una mamá da (por ej) 4 pasos, entonces la cantidad de pasos estimada para su hijo sería 1.25+0.25*4=2.25

15 / 41

$ˆ Y = 1.25 + 0.25 X$

la ecuación del modelo de regresión se puede expresar en una recta de regresión
esta recta representa la predicción de los valores de $Y$ a partir de $X$

16 / 41

Estimación del modelo de regresión simple en `R`

La función para estimar regresión en R es lm (linear model):

objeto <- lm(dependiente ~ independiente, data=datos)

17 / 41

Estimación del modelo de regresión simple en `R`

La función para estimar regresión en R es lm (linear model):

objeto <- lm(dependiente ~ independiente, data=datos)

Donde

objeto: el nombre (cualquiera) que le damos al objeto donde se guardan los resultados de la estimación
dependiente / independiente: los nombres de las variables en los datos
datos = el nombre del objeto de nuestros datos en R

17 / 41

lm(pasos_hijo_y ~ pasos_mama_x, data = datos1)

## 
## Call:
## lm(formula = pasos_hijo_y ~ pasos_mama_x, data = datos1)
## 
## Coefficients:
##  (Intercept)  pasos_mama_x  
##         1.25          0.25

18 / 41

INTERPRETACIÓNpor cada unidad que aumenta X, Y aumenta en Beta19 / 41

Ejemplo

Si tenemos

Y = ingreso al egresar de la universidad
X = puntaje PSU

$I n g r e s o = 200.000 + 400 (p u n t a j e P S U)$

20 / 41

Ejemplo

Si tenemos

Y = ingreso al egresar de la universidad
X = puntaje PSU

$I n g r e s o = 200.000 + 400 (p u n t a j e P S U)$

1 - ¿Cuál es el valor estimado de Ingreso para un puntaje PSU de 500?

20 / 41

Ejemplo

Si tenemos

Y = ingreso al egresar de la universidad
X = puntaje PSU

$I n g r e s o = 200.000 + 400 (p u n t a j e P S U)$

1 - ¿Cuál es el valor estimado de Ingreso para un puntaje PSU de 500?

400.000

20 / 41

Ejemplo

Si tenemos

Y = ingreso al egresar de la universidad
X = puntaje PSU

$I n g r e s o = 200.000 + 400 (p u n t a j e P S U)$

1 - ¿Cuál es el valor estimado de Ingreso para un puntaje PSU de 500?

400.000

2 - ¿Cuál es el valor estimado de Ingreso para un puntaje (hipotético) de PSU=0?

20 / 41

Ejemplo

Si tenemos

Y = ingreso al egresar de la universidad
X = puntaje PSU

$I n g r e s o = 200.000 + 400 (p u n t a j e P S U)$

1 - ¿Cuál es el valor estimado de Ingreso para un puntaje PSU de 500?

400.000

2 - ¿Cuál es el valor estimado de Ingreso para un puntaje (hipotético) de PSU=0?

200.000

20 / 41

Hasta ahora deberíamos saber:21 / 41

Hasta ahora deberíamos saber:

1- Modelo de regresión como una representación simplificada de la relación compleja entre variables

21 / 41

Hasta ahora deberíamos saber:

1- Modelo de regresión como una representación simplificada de la relación compleja entre variables

2- El $β$ de regresión nos dice cuanto aumenta $Y$ (variable dependiente) en promedio por cada punto que aumenta $X$ (variable independiente).

21 / 41

Hasta ahora deberíamos saber:

1- Modelo de regresión como una representación simplificada de la relación compleja entre variables

2- El $β$ de regresión nos dice cuanto aumenta $Y$ (variable dependiente) en promedio por cada punto que aumenta $X$ (variable independiente).

3- El modelo nos permite estimar el puntaje de $Y$ para cada valor de $X$

21 / 41

2. Ajuste y residuos22 / 41

El cuarteto de Anscombe (1973)

Podemos tener un mismo modelo de regresión para relaciones distintas entre datos

23 / 41

¿Qué tan bueno es nuestro modelo?

El cálculo del $β$ busca minimizar los residuos (de ahí "mínimos cuadrados ordinarios")
Una vez minimizados los residuos, se puede evaluar el ajuste
- qué tan bien representa nuestro modelo la realidad
- cuánto error (de predicción) estamos cometiendo con nuestro modelo

24 / 41

Tuve un ataque de artemanía es intenté replicar una recta de regresión. pic.twitter.com/b7OXZrK26J
— Jorge Pacheco Jara (@jorge_pacheco) November 13, 2020

25 / 41

Un modelo es mejor mientras mejor refleje lo que sucede con los datos26 / 41

Un modelo es mejor mientras mejor refleje lo que sucede con los datosEn otras palabras, cuando se parece o ajusta mejor a los datos26 / 41

Un modelo es mejor mientras mejor refleje lo que sucede con los datosEn otras palabras, cuando se parece o ajusta mejor a los datos... y en otras: cuando los residuos son menores26 / 41

Observado, estimado & residuo

observado: $Y$
estimado: $ˆ Y$
residuo: $Y - ˆ Y$

27 / 41

Varianza explicada de Y

¿Qué parte de la varianza de ingreso (Y) se asocia a educación?

28 / 41

Varianza explicada de Y: R2¿Cuánto de los ingresos puedo predecir con educación (regresión) y cuánto me estoy equivocando (residuos)?
29 / 41

Varianza explicada de Y: $R^{2}$

¿Cuánto de los ingresos puedo predecir con educación (regresión) y cuánto me estoy equivocando (residuos)?
el $R^{2}$
- es la proporción de la varianza de Y que se asocia a X
- varía entre 0 y 1, y se puede expresar en porcentaje

29 / 41

Varianza explicada de Y: $R^{2}$

¿Cuánto de los ingresos puedo predecir con educación (regresión) y cuánto me estoy equivocando (residuos)?
el $R^{2}$
- es la proporción de la varianza de Y que se asocia a X
- varía entre 0 y 1, y se puede expresar en porcentaje
Entonces, podemos descomponer la varianza de Y en 2: aquella asociada a X (regresión) y la que no se asocia a X (residuos)

29 / 41

¿Cómo se calcula el $R^{2}$ ?

para saber qué porcentaje de $Y$ se asocia a $X$ vamos a considerar los siguientes valores de $Y$ :

$Y$ = Valor observado de Y

$ˆ Y$ = estimación de Y a partir de X

$¯ Y$ = promedio de Y

30 / 41

Descomponiendo Y

Conceptualmente:

$S S_{t o t} = S S_{r e g} + S S_{e r r o r}$

31 / 41

Descomponiendo Y

$Y = ¯ Y + (ˆ Y - ¯ Y) + (Y - ˆ Y)$

$Σ (y_{i} - ¯ y)^{2} = Σ ({^y}_{i} - ¯ y)^{2} + Σ (y_{i} - {^y}_{i})^{2}$

32 / 41

Varianza explicada

Por lo tanto:

$S S_{t o t} = S S_{r e g} + S S_{e r r o r}$

33 / 41

Varianza explicada

Por lo tanto:

$S S_{t o t} = S S_{r e g} + S S_{e r r o r}$

$\frac{S S_{t o t}}{S S_{t o t}} = \frac{S S_{r e g}}{S S_{t o t}} + \frac{S S_{e r r o r}}{S S_{t o t}}$

33 / 41

Varianza explicada

Por lo tanto:

$S S_{t o t} = S S_{r e g} + S S_{e r r o r}$

$\frac{S S_{t o t}}{S S_{t o t}} = \frac{S S_{r e g}}{S S_{t o t}} + \frac{S S_{e r r o r}}{S S_{t o t}}$

$1 = \frac{S S_{r e g}}{S S_{t o t}} + \frac{S S_{e r r o r}}{S S_{t o t}}$

$\frac{S S_{r e g}}{S S_{t o t}} = 1 - \frac{S S_{e r r o r}}{S S_{t o t}} = R^{2}$

¿Qué quiere decir esto?

33 / 41

Directamente en R

reg1 <-lm(pasos_hijo_y ~ 
              pasos_mama_x, 
              data = datos1)

	Modelo 1
Predictores	β	p
(Intercept)	1.250	0.420
pasos_mama_x	0.250	0.326
Observations	4
R² / R² adjusted	0.455 / 0.182

Un 45.5% de la varianza de Y se relaciona con X

34 / 41

3. Correlación y regresión35 / 41

Equivalencias en regresión y correlación

cor(datos1$pasos_mama_x,datos1$pasos_hijo_y)

## [1] 0.6741999

Correlación entre juegos y puntos al cuadrado

(cor(datos1$pasos_mama_x,datos1$pasos_hijo_y))^2

## [1] 0.4545455

Es decir: correlación de Pearson al cuadrado ( $r^{2}$ ) es $R^{2}$

36 / 41

Diferencias en regresión y correlaciónLa correlación entre X e Y es la misma que entre Y e X

cor(datos1$pasos_mama_x,datos1$pasos_hijo_y)

## [1] 0.6741999
cor(datos1$pasos_hijo_y,datos1$pasos_mama_x)

## [1] 0.6741999
37 / 41

Diferencias en regresión y correlaciónLa regresión entre X e Y no es la misma que entre Y y X

lm(datos1$pasos_hijo_y ~ datos1$pasos_mama_x)$coefficients

##         (Intercept) datos1$pasos_mama_x 
##                1.25                0.25
lm(datos1$pasos_mama_x ~ datos1$pasos_hijo_y)$coefficients

##         (Intercept) datos1$pasos_hijo_y 
##            1.000000            1.818182
38 / 41

RESUMEN- Ajuste del modelo de regresión (R2): porcentaje de la varianza de la variable dependiente (Y) que se asocia a la independiente (X)- Correlación y regresión: primos cercanos, principalmente en regresión simple.39 / 41

↑, ←, Pg Up, k	Go to previous slide
↓, →, Pg Dn, Space, j	Go to next slide
Home	Go to first slide
End	Go to last slide
Number + Return	Go to specific slide
b / m / f	Toggle blackout / mirrored / fullscreen mode
c	Clone slideshow
p	Toggle presenter mode
t	Restart the presentation timer
?, h	Toggle this help
o	Tile View: Overview of Slides
s	Toggle scribble toolbox

Estadística Multivariada

Juan Carlos Castillo

Sociología FACSO - UChile

1er Sem 2022

multivariada.netlify.com

Sesión 4: Regresión simple 2

Contenidos

1. Siguiendo con regresión simple

2. Ajuste y residuos

3. Notas sobre regresión y correlación

1. Regresión simple

¿Qué buscamos?

¿Qué buscamos?Contrastar empíricamente teorías sociológicas

Contrastar empíricamente teorías sociológicas

Hechos sociales son multideterminados

¿MODELO?= representación simplificada

¿Regresión?

¿Regresión?

Regresión simple

Componentes de la ecuación de la recta de regresión

Estimación de los coeficientes de la ecuación:

Estimación de los coeficientes de la ecuación:

Estimación del modelo de regresión simple en R

Estimación del modelo de regresión simple en R

INTERPRETACIÓN

por cada unidad que aumenta X, Y aumenta en Beta

Ejemplo

Ejemplo

Ejemplo

Ejemplo

Ejemplo

Hasta ahora deberíamos saber:

Hasta ahora deberíamos saber:

Hasta ahora deberíamos saber:

Hasta ahora deberíamos saber:

2. Ajuste y residuos

El cuarteto de Anscombe (1973)

¿Qué tan bueno es nuestro modelo?

Un modelo es mejor mientras mejor refleje lo que sucede con los datos

Un modelo es mejor mientras mejor refleje lo que sucede con los datos

En otras palabras, cuando se parece o ajusta mejor a los datos

Un modelo es mejor mientras mejor refleje lo que sucede con los datos

En otras palabras, cuando se parece o ajusta mejor a los datos

... y en otras: cuando los residuos son menores

Observado, estimado & residuo

Varianza explicada de Y

Varianza explicada de Y: R2

Varianza explicada de Y: R2

Varianza explicada de Y: R2

¿Cómo se calcula el R2?

Descomponiendo Y

Descomponiendo Y

Varianza explicada

Varianza explicada

Varianza explicada

¿Qué quiere decir esto?

Directamente en R

3. Correlación y regresión

Equivalencias en regresión y correlación

Diferencias en regresión y correlación

Diferencias en regresión y correlación

RESUMEN

- Ajuste del modelo de regresión (R2): porcentaje de la varianza de la variable dependiente (Y) que se asocia a la independiente (X)

- Correlación y regresión: primos cercanos, principalmente en regresión simple.

Próximas semanas:

Práctica 3: Regresión simple

Práctica 4: Ajuste y residuos

Preparar Evaluación 1

Estadística Multivariada

multivariada.netlify.com

Sociología FACSO

UChile

1er Sem 2022

Contenidos

1. Siguiendo con regresión simple

2. Ajuste y residuos

3. Notas sobre regresión y correlación

Help

Estadística Multivariada

Estadística Multivariada

¿Qué buscamos?
Contrastar empíricamente teorías sociológicas

Estimación del modelo de regresión simple en `R`

Estimación del modelo de regresión simple en `R`

Varianza explicada de Y: $R^{2}$

Varianza explicada de Y: $R^{2}$

Varianza explicada de Y: $R^{2}$

¿Cómo se calcula el $R^{2}$ ?

¿Qué buscamos?
Contrastar empíricamente teorías sociológicas

Estimación del modelo de regresión simple en `R`

Estimación del modelo de regresión simple en `R`

Varianza explicada de Y: $R^{2}$

Varianza explicada de Y: $R^{2}$

Varianza explicada de Y: $R^{2}$

¿Cómo se calcula el $R^{2}$ ?