Medida De Dispersão Estatistica - Medidas de dispersão - Resumo da aula completo - Estatística Básica ...
Medidas de dispersão - Resumo da aula completo - Estatística Básica ...

Medidas de dispersão na prática

Quando eu era novo em análise de dados, fiz uma pesquisa sobre a variação de preços de imóveis em uma região. A média parecia razoável, mas o desvio padrão estava absurdamente alto. Achei que meu código estava quebrado até perceber que havia alguns valores atípicos que estavam destruindo completamente a interpretação. Isso me ensinou uma lição sobre o quão facilmente uma medida de dispersão estatistica mal escolhida pode te levar por um caminho completamente errado. O problema é que existem várias formas de medir dispersão, e cada uma delas responde a uma pergunta diferente sobre seus dados. A média diz onde o centro está. Mas a dispersão diz se esse centro realmente representa algo útil ou se os dados estão tão espalhados que a média perde qualquer significado prático.

O que é medida de dispersão estatistica

Uma medida de dispersão estatistica quantifica o quanto os valores em um conjunto de dados se afastam uns dos outros ou de uma medida central. As mais usadas são o desvio padrão, a variância, o intervalo interquartil, a amplitude e o coeficiente de variação. Cada uma delas tem um comportamento diferente diante de problemas comuns como outliers, distribuições assimétricas e amostras pequenas. A variância é simplesmente a média dos quadrados dos desvios em relação à média. Ela é útil matematicamente, mas raramente é apresentada em relatórios porque suas unidades estão elevadas ao quadrado. Um analista experiente usa a variância como passo intermediário, não como resultado final.

O desvio padrão é a raiz quadrada da variância, o que retorna a unidade para a escala original dos dados. Esse é o motivo pelo qual ele é a medida mais comum em apresentações. Se a média de temperaturas é 22 graus com um desvio padrão de 3,5 graus, você tem uma noção imediata de que a maioria dos valores fica entre 18,5 e 25,5. A regra empírica dos 68-95-99,7% funciona bem nesse caso, desde que a distribuição seja aproximadamente normal.

Os problemas que ninguém conta sobre desvio padrão

Eu trabalhei em um projeto de controle de qualidade onde o desvio padrão de uma linha de produção disparou sem que nenhum produto visivelmente defeituoso tenha sido produzido. Quando tracei o gráfico de controle, percebi que o problema era uma mudança sutil na matéria-prima que criava duas subpopulações dentro do mesmo lote. O desvio padrão media tudo como um só e apontava para uma variação generalizada que simplesmente não existia. A solução foi segmentar os dados por fornecedor e calcular a dispersão dentro de cada grupo separadamente. Isso reduziu o desvio padrão combinado em cerca de 40% e identificou o fornecedor problemático em uma semana. Outro problema recorrente são os outliers. Um único valor extremo em uma amostra de cinquenta pontos pode aumentar o desvio padrão em mais de 50%. A média também é puxada pelo outlier, então você acaba com duas distorções simultâneas. Nesses casos, o desvio padrão interquartil, calculado a partir do desvio absoluto em relação à mediana, é muito mais estável. Esse método, conhecido como MAD, calcula a mediana dos valores absolutos de desvio em relação à mediana. Multiplicando por 1,4826, você obtém uma estimativa consistente do desvio padrão para dados normais, mas que não é destruída por valores extremos.

Para dados que vêm de processos com muitos outliers naturais, como dados financeiros ou medições ambientais, eu sempre reporto pelo menos três números: desvio padrão, intervalo interquartil e amplitude. Dessa forma, quem lê o relatório consegue formar uma imagem completa e não fica dependendo de uma única métrica que pode esconder a realidade.

Quando usar cada medida e por quê

A amplitude é a mais simples e a mais traiçoeira. Ela mede apenas a diferença entre o maior e o menor valor. Uma amplitude grande pode significar dispersão real ou apenas dois outliers isolados. Em amostras pequenas, a amplitude é completamente inadequada porque depende exclusivamente de dois pontos. Eu já vi engenheiros usarem amplitude em amostras de oito observações e concluírem que o processo estava fora de controle quando na verdade a variação dentro do corpo dos dados era perfeitamente aceitável. O coeficiente de variação resolve um problema específico: comparar a dispersão relativa entre dois conjuntos de dados com escalas diferentes. Se você tem o desvio padrão de salários em reais e o desvio padrão de idades em anos, não faz sentido compará-los diretamente. O coeficiente de variação divide o desvio padrão pela média e multiplica por cem, resultando em uma porcentagem. O problema é que ele se quebra quando a média é próxima de zero. Um coeficiente de variação de 200% não é interpretável de forma significativa, e esse é um detalhe que muitos tutoriais ignoram completamente.

👉 Clique no botão abaixo para saber mais sobre o assunto!

A amplitude interquartil, ou IQR, mede a dispersão dos 50% centrais dos dados. Ele é calculado subtraindo o primeiro quartil do terceiro quartil. Diferente do desvio padrão, ele não é afetado por outliers porque ignora automaticamente os 25% mais baixos e os 25% mais altos. Para distribuições assimétricas, o IQR é quase sempre mais informativo do que o desvio padrão. Em uma distribuição de renda com cauda direita longa, o desvio padrão pode ser cinco vezes maior do que o IQR, e essa discrepância por si só já conta uma história sobre a forma da distribuição.

Erros comuns que eu vejo todo dia

A primeira armadilha é calcular dispersão sobre dados que têm múltiplos picos ou subgrupos claros. Se seus dados vêm de dois processos diferentes misturados, qualquer medida de dispersão que você calcular será inflada artificialmente. O diagnóstico é simples: plote um histograma ou um gráfico de densidade antes de confiar em qualquer número. Se o gráfico mostrar dois picos distintos, separe os grupos e calcule a dispersão para cada um individualmente. A segunda armadilha é usar o desvio padrão como se fosse uma limite rígido de aceitação. Um valor que está a três desvios padrão da média não é necessariamente um erro. Em distribuições normais, cerca de 0,27% dos dados ficam fora desse intervalo. Em uma amostra de mil observações, você espera encontrar cerca de três pontos nessa zona. Achar que esses pontos são necessariamente problemas é confundir variabilidade natural com sinal de defeito.

A terceira armadilha é relatar apenas o desvio padrão sem mencionar a média e o tamanho da amostra. Dispersão sem contexto numérico é praticamente inútil. Um desvio padrão de 5 pode ser excelente para uma média de 1000 e terrível para uma média de 10. O coeficiente de variação ajuda, mas como disse, ele tem limitações próprias que precisam ser consideradas.

Alternativas robustas para quando os dados não se comportam

Além do MAD, existe o desvio médio absoluto, que calcula a média dos valores absolutos dos desvios em relação à média. É mais simples de explicar do que o desvio padrão porque não envolve quadrados nem raízes, mas tem um problema: a média não é um bom centro para distribuições assimétricas. Quando os dados são fortemente enviesados, o desvio em relação à média perde o sentido. Nesse cenário, o desvio em relação à mediana, como no MAD, funciona muito melhor. Para distribuições com caudas pesadas, como as que aparecem em finanças, a dispersão baseada em quantis é praticamente obrigatória. O intervalo entre o décimo e o nonagésimo percentil, conhecido como IQR estendido, captura a dispersão de 80% dos dados sem ser distorcido pelos extremos. Esse é um truque que eu apliquei em relatórios de risco onde o desvio padrão padrão subestimava grosseiramente a variabilidade real porque a distribuição tinha caudas muito mais pesadas do que o normal.

Existe ainda a entropia como medida de dispersão para dados categóricos ou discretos. Ela não é comum em cursos introdutórios, mas em contextos específicos, como análise de variabilidade em classificações de clientes, a entropia de Shannon fornece uma medida direta da incerteza na distribuição. O valor varia de zero, quando todas as observações caem em uma única categoria, até o logaritmo do número de categorias, quando a distribuição é perfeitamente uniforme.

Um exemplo rápido de aplicação

Vamos pegar um conjunto de dados bem simples: os tempos de resposta de um servidor em milissegundos. Suponha que você tenha os seguintes valores: 120, 135, 142, 128, 450, 138, 125, 132, 140, 119. A média é 172,9. O desvio padrão é aproximadamente 95,6. O intervalo interquartil é de 124 a 141, resultando em um IQR de 17. O valor de 450 está claramente sendo um outlier, mas ele está inflando o desvio padrão para mais do que o dobro do que seria sem ele. Se você remover o outlier e recalcular, o desvio padrão cai para cerca de 8,2. A diferença é tão grande que a decisão sobre se o servidor está dentro ou fora das especificações pode mudar completamente dependendo de qual medida você escolheu.

Esse é exatamente o tipo de situação em que um analista juniores tende a confiar cegamente no desvio padrão e um analista mais experiente olha para o IQR também, compara os dois e toma uma decisão informada. Medidas de dispersão não são apenas fórmulas para aplicar. Elas são ferramentas que precisam ser escolhidas de acordo com a forma dos dados, o objetivo da análise e o público que vai interpretar o resultado. Conhecer as limitações de cada uma é o que separa alguém que reporta números de alguém que conta a verdade sobre os dados.