Descrever os Dados

Desenho Experimental e Análise Avançada de Dados Ecológicos

João O. Santos

ISPA

Descarregar os dados de qualidade da água.

Uma Pergunta

Como são estas observações?

Primeiro: Quantas?

Código
length(water$Oxygen)
[1] 500
Código
sum(is.na(water$Oxygen))
[1] 0

N · valores em falta

Uma linha é um registo. Antes de resumir, confirmemos que observações representa e se há grupos ou medidas repetidas.

Ver Antes de Resumir

O gráfico mostra a distribuição dos valores observados. Ainda não é um modelo de probabilidades nem um teste.

Centro

média · mediana

Uma Pequena Amostra

5 · 5 · 6 · 6 · 18

Onde fica o centro?

Média

\[ \bar{x}=\frac{1}{n}\sum_{i=1}^{n}x_i \]

somar todos os valores → dividir por \(n\)

Código
mean(water$Oxygen)
[1] 8.3822

Média: O Que Entra na Fórmula?

Para 5 · 5 · 6 · 6 · 18:

\[ \bar{x}=\frac{5+5+6+6+18}{5}=8 \]

Todos os valores contribuem; um valor extremo pode deslocar a média.

Mediana

Ordenar primeiro; depois encontrar a posição central.

Se \(n\) é ímpar:

\[ \tilde{x}=x_{((n+1)/2)} \]

Para 5 · 5 · 6 · 6 · 18, a mediana é 6.

Código
median(water$Oxygen)
[1] 8.4

Mediana com \(n\) Par

Para 5 · 5 · 6 · 18 há dois valores centrais:

\[ \tilde{x}=\frac{x_{(n/2)}+x_{(n/2+1)}}{2} =\frac{5+6}{2}=5.5 \]

A mediana depende sobretudo das posições centrais.

Uma Observação Extrema

5 · 5 · 6 · 6 · 100

O que acontece à média? E à mediana?

Localização

Q1 · mediana · Q3

\[ Q_1=Q_{.25}\qquad Q_2=Q_{.50}\qquad Q_3=Q_{.75} \]

Código
quantile(water$Oxygen)
  0%  25%  50%  75% 100% 
 6.0  7.8  8.4  9.1  9.9 

Quantis são posições na distribuição ordenada; programas podem usar convenções de interpolação diferentes.

Dispersão

amplitude · IQR · variância · desvio-padrão

Amplitude

\[ R=x_{\max}-x_{\min} \]

Usa apenas os dois extremos.

Amplitude Interquartil

\[ IQR=Q_3-Q_1 \]

Largura dos 50% centrais; menos sensível aos extremos do que a amplitude total.

Código
IQR(water$Oxygen)
[1] 1.3

Dos Desvios à Variância

Para cada observação:

\[ d_i=x_i-\bar{x} \]

Mas:

\[ \sum_{i=1}^{n}(x_i-\bar{x})=0 \]

Os desvios positivos e negativos anulam-se.

Variância

Elevamos os desvios ao quadrado:

\[ s^2=\frac{\sum_{i=1}^{n}(x_i-\bar{x})^2}{n-1} \]

desvio → quadrado → somar → dividir por \(n-1\)

O quadrado dá mais peso aos desvios grandes.

Desvio-padrão

Voltamos às unidades originais:

\[ s=\sqrt{\frac{\sum_{i=1}^{n}(x_i-\bar{x})^2}{n-1}} \]

Código
sd(water$Oxygen)
[1] 0.8223964

O SD resume a dispersão em torno da média e dá maior peso a observações mais afastadas.

Um Número Não Basta

assimetria · caudas · grupos · extremos

Uma Regra Conhecida

Numa distribuição unimodal com cauda à direita, é frequente:

moda < mediana < média

Cauda à esquerda → a ordem tende a inverter-se.

A média acompanha mais a cauda; a mediana depende das posições; a moda acompanha o pico.

Dois Picos?

bimodal / multimodal → várias modas possíveis

A regra média–mediana–moda deixa de descrever bem a forma. Olhem para a distribuição.

Assimetria

O coeficiente clássico usa o terceiro momento padronizado:

\[ g_1=\frac{m_3}{m_2^{3/2}}, \qquad m_r=\frac{1}{n}\sum_{i=1}^{n}(x_i-\bar{x})^r \]

negativa ← 0 → positiva

O cubo conserva o sinal e dá muito peso aos valores afastados.

Kurtose

A kurtose clássica usa a quarta potência:

\[ b_2=\frac{m_4}{m_2^2} \]

normal: \(b_2=3\) · excesso de kurtose: \(g_2=b_2-3\)

É especialmente sensível às caudas e aos extremos; não é simplesmente «altura do pico».

Se a Pergunta É a Forma…

mesma média ≠ mesmos dados

mesmo SD ≠ mesmos dados

mesma correlação ≠ mesma relação

mesma assimetria/kurtose ≠ mesma forma

Os números quantificam aspectos da distribuição. O gráfico mostra a sua estrutura.

Anscombe: Mesmos Sumários

Em 1973, Francis Anscombe construiu quatro conjuntos com praticamente os mesmos sumários numéricos.

O que esperariam ver se desenhássemos os quatro?

O Quarteto de Anscombe

Quatro conjuntos nos mesmos eixos: relação aproximadamente linear, curva, recta com um ponto afastado e valores de x quase todos iguais.

Dados: datasets::anscombe; Anscombe (1973), The American Statistician, 27(1), 17–21.

Same Stats, Different Graphs

Matejka & Fitzmaurice (2017), CHI 2017, 1290–1294. Abrir a página original.

Do Quarteto ao Datasaurus

Anscombe (1973) → quatro conjuntos, mesmos sumários, gráficos diferentes

Matejka & Fitzmaurice (2017) → muitos conjuntos visualmente distintos, mantendo praticamente constantes média, SD e correlação

O gráfico mostra a estrutura; os sumários permitem quantificá-la.

Ver Antes de Resumir

Um gráfico pode revelar ao mesmo tempo:

forma · grupos · lacunas · extremos · relações · erros

O ganho está no tempo de interpretação: muitas características ficam visíveis ao mesmo tempo.

O Custo Mudou

Antes, desenhar muitos gráficos dava trabalho.

Hoje podemos gerar histograma + pontos + caixa + relações entre variáveis no mesmo fluxo em segundos.

Vemos primeiro a estrutura global e escolhemos depois o que vale a pena quantificar.

Gráfico + Números

gráfico → estrutura global rapidamente

números → quantificar aspectos específicos

No mesmo fluxo de trabalho podemos gerar e interpretar ambos.

Uma Caixa

Box Plot

Randall Munroe, xkcd 1798: Box Plot, CC BY-NC 2.5.

Fora dos Bigodes

erro? · organismo raro? · condição extrema?

O gráfico não decide.

Distribuição ≠ Relação

observações → como os valores se distribuem

modelo de probabilidade → que resultados o processo admite

relação → como duas variáveis covariam

Uma distribuição observada descreve estes dados; uma distribuição de probabilidade descreve resultados possíveis sob um modelo.

Ainda Não Há Teste

forma da distribuição ≠ nome automático da análise

Primeiro: pergunta, delineamento e o que a resposta representa.

Antes do Exercício: A Tabela

Os exercícios usam colunas de um data.frame.

Introdução aos data.frames

linha → registo · coluna → variável

Um registo pode representar uma unidade ou uma medição repetida da mesma unidade. Confirmem o que cada linha representa.

Se dados$variavel, dados[linhas, colunas] ou a selecção de colunas não forem familiares, usem esta página como referência durante o exercício.

Preparar os Pinguins

Preparação e dados em falta: usem o início da página.

library(ggplot2)
library(dplyr)
ds <- palmerpenguins::penguins

Pacotes no início do script, uma só vez. Instalação, se necessária, na consola.

Resumo por Espécie

ds <- palmerpenguins::penguins
ds |>
  group_by(species) |>
  summarise(
    N = n(),
    N_massa = sum(!is.na(body_mass_g)),
    media = mean(body_mass_g, na.rm = TRUE),
    .groups = "drop"
  )
# A tibble: 3 × 4
  species       N N_massa media
  <fct>     <int>   <int> <dbl>
1 Adelie      152     151 3701.
2 Chinstrap    68      68 3733.
3 Gentoo      124     123 5076.

N: registos · N_massa: massas observadas · média em g

Para separar também por sexo: group_by(species, sex).

Agora: Descritivas

25 minutos · grupos de 3 ou 5

Descritivas no R — Exercícios

Façam 1, 2 e 3.

Não façam o exercício 4 hoje.

O Que o Número Esconde?

Anscombe e o Datasaurus mostraram o problema. Agora procurem-no nos vossos dados.

15 minutos · grupos de 3 ou 5

Gráficos no R — Exercícios

Façam 1 com ds. Do 3, façam hoje só os dados individuais, sem intervalo:

ggplot(ds, aes(species, body_mass_g)) +
  geom_jitter(width = .12, height = 0, na.rm = TRUE) +
  labs(x = "Espécie", y = "Massa corporal (g)")

A estimativa com intervalo fica para depois da introdução à inferência.

Discutir o Gráfico

10 minutos · grupos de 3 ou 5

Escolham uma variável e escrevam:

  1. uma frase sobre o centro;
  2. uma frase sobre a dispersão/forma;
  3. uma coisa que o resumo esconde.

Partilhem uma resposta. A turma decide que gráfico ajudaria a resolver a última dúvida.

Se Precisarem de Teoria

Estatística Descritiva

Usem a secção que responde à dúvida.

Antes da Inferência

ver ↔︎ contar ↔︎ resumir ↔︎ representar

Ainda não estamos a testar nada.

Descrição → Inferência

A descrição organiza aquilo que observámos.

A inferência parte dessas estatísticas para estudar incerteza e generalização.

Primeiro compreendemos o que o número resume; depois estudamos como pode variar para além desta amostra.

Voltar às aulas DEAADE