O que é Overfitting?

Overfitting (sobreajuste) acontece quando um modelo de machine learning se ajusta excessivamente aos dados de treinamento, capturando não apenas os padrões reais mas também o ruído e as peculiaridades daquela amostra específica. O resultado é um modelo que vai muito bem no treino e mal em dados novos.

A analogia mais útil é a do estudante que decora as respostas da prova anterior em vez de entender a matéria: tira dez no simulado que já viu e reprova na prova de verdade.

Como identificar

O sinal característico é a divergência entre as curvas de erro. Enquanto o erro de treino continua caindo, o erro de validação estaciona e depois começa a subir — o ponto em que ele vira é onde o modelo parou de aprender e começou a decorar.

O que causa

• Modelo complexo demais para a quantidade de dados disponível — parâmetros sobrando para memorizar exemplos.
• Dados de treino insuficientes ou pouco representativos da variedade real.
• Treino prolongado além do ponto em que o modelo já havia generalizado.
• Vazamento de dados — informação do conjunto de teste influenciando o treino, inflando artificialmente o desempenho.
• Atributos irrelevantes que oferecem ruído para o modelo se agarrar.

Técnicas para combater

Cada técnica ataca o problema por um ângulo diferente:

• Mais dados — a solução mais eficaz quando viável; dificulta a memorização.
• Regularização L1 e L2 — penaliza coeficientes grandes, mantendo o modelo mais simples. Base da regressão Ridge e Lasso.
• Validação cruzada — avalia em múltiplas divisões dos dados, dando estimativa mais confiável.
• Early stopping — interrompe o treino quando o erro de validação para de melhorar.
• Dropout — em redes neurais, desativa neurônios aleatoriamente durante o treino, impedindo dependências rígidas.
• Data augmentation — gera variações dos dados existentes (rotação, recorte, ruído) para ampliar a diversidade.

O extremo oposto: underfitting

Combater overfitting com excesso de zelo leva ao problema inverso. No underfitting, o modelo é simples demais para capturar os padrões e vai mal tanto no treino quanto na validação. O equilíbrio entre os dois é conhecido como trade-off viés-variância: modelos simples têm alto viés, modelos complexos têm alta variância, e o objetivo é o ponto intermediário. Técnicas de regularização aplicadas a regressão são detalhadas em tipos de regressão linear.