Esta seção corresponde à seção 3.1.3 de James et al. (2023).
Ajustar uma reta por mínimos quadrados sempre dá um \(\hat\beta_0\) e um \(\hat\beta_1\) — a seção anterior encontrou o par que minimiza RSS para vendas ~ tv e não sobrou nenhum outro candidato menor. A pergunta muda agora: o quanto essa reta serve. Duas medidas respondem isso, cada uma de um jeito, e as duas partem do mesmo RSS.
O erro típico de previsão: RSE
O erro-padrão residual (RSE) resume o RSS como um único número, na mesma unidade da resposta. É a raiz do RSS dividido não por \(n\), e sim por \(n-2\) — a reta já consumiu dois parâmetros, \(\hat\beta_0\) e \(\hat\beta_1\), antes de sobrar erro para medir:
\[
\text{RSE} = \sqrt{\frac{\text{RSS}}{n-2}}
\]
n =len(y)n_menos_2 = n -2rss =float(((y - yhat) **2).sum())rse_mao =float(np.sqrt(rss / n_menos_2))rse_mil_unidades =round(rse_mao *1000)mse_sklearn = mean_squared_error(y, yhat)rse_via_mse =float(np.sqrt(mse_sklearn * n / n_menos_2))vendas_media =float(y.mean())percentual_erro = rse_mao / vendas_media *100( n, n_menos_2,round(rss, 2),round(rse_mao, 4),round(rse_via_mse, 4),bool(np.isclose(rse_mao, rse_via_mse)), rse_mil_unidades,round(vendas_media, 4),round(percentual_erro, 2),)
Duzentos mercados, n_menos_2 = 198 depois de descontar os dois parâmetros que a reta gastou para se ajustar: RSS, 2.102,53, dividido por 198 e com a raiz, dá 3,2587. mean_squared_error calcula o mesmo RSS já dividido por \(n\) — não por \(n-2\) —, então recuperar o RSE a partir dele exige desfazer essa divisão antes de tirar a raiz; feito isso, os dois caminhos batem: 3,2587 nos dois casos, True.
Vendas está em milhares de unidades, então 3,2587 quer dizer que a venda observada de um mercado típico se afasta da reta em cerca de 3.259 unidades — para cima ou para baixo, em média. Contra a venda média de 14,0225 mil unidades, esses 3,2587 mil unidades representam 23,24% dela: é esse o tamanho do erro típico de previsão, relativo à própria escala do que se está prevendo.
R²: a proporção de variância explicada
RSE vem na unidade de vendas, e 3,2587 só diz alguma coisa a quem sabe a escala de vendas — não dá para comparar direto com o RSE de um modelo cuja resposta é medida em outra unidade. R² resolve isso descartando a unidade: é a fração do TSS — a variância total da resposta, antes de qualquer reta — que a regressão explica.
TSS, a variância total de vendas antes de qualquer reta, sai 5.417,15; descontado o RSS de 2.102,53, sobram 3.314,62 de variância que a reta explica. A conta à mão, r2_score e .score() — os três caminhos para o mesmo número — concordam em 0,6119: True. Uma reta que usa só o investimento em TV explica 61,19% da variância de vendas, sem que esse número carregue unidade nenhuma — é isso que o torna comparável entre modelos onde o RSE não é.
O erro-padrão residual (RSE) é a raiz de \(\text{RSS}/(n-2)\): o tamanho típico do resíduo, na unidade da resposta. O R² é \(1 - \text{RSS}/\text{TSS}\): a fração da variância da resposta que o modelo explica, sempre entre 0 e 1 e sem unidade — o que o torna comparável de um modelo para outro, mesmo quando o RSE não é.
R² alto não garante que o modelo seja bom, nem R² baixo que ele seja ruim: os dois dependem de quanto do problema é o \(\mathrm{Var}(\epsilon)\) que o capítulo anterior chamou de piso irredutível — nenhuma reta, nem a melhor possível, explica a parte da variância que é ruído puro.
O que a reta previu contra o que cada mercado vendeu
RSS mais a parte explicada soma de volta o TSS — soma_confere é True — e a parte explicada é maior que a não explicada, explicada_maior_que_rss também True, o mesmo fato que R² > 0,5 já dizia.
Figura 44.1: À esquerda, previsto contra observado para os duzentos mercados de Advertising, com a diagonal de previsão perfeita: a distância vertical de cada ponto até ela é o resíduo daquele mercado. À direita, o TSS decomposto em RSS (não explicada) e a parte que a reta explica, com R² anotado como a fração de cima.
À esquerda, cada ponto é um mercado: quanto mais perto da diagonal, menor o resíduo que a seção anterior somou ao quadrado para formar o RSS. À direita, a mesma barra que soma TSS — verificado acima — dividida nas duas parcelas que R² compara: o pedaço laranja é o RSS que a reta deixou sem explicar, o azul é a fatia que R² = 0,612 mede como proporção do todo.
James, Gareth, Daniela Witten, Trevor Hastie, Robert Tibshirani, e Jonathan Taylor. 2023. An Introduction to Statistical Learning with Applications in Python. Springer.
