Hinge loss: o que é a função de perda usada em SVM

Letra

Atualizado em 04/11/2026: texto corrigido: saíram as afirmações sem fonte de que a hinge loss é mais robusta a desbalanceamento e a outliers que a entropia cruzada; a fronteira não linear vem do kernel, não da perda; a função não tem hiperparâmetros próprios. Entraram fórmula, exemplo calculado e fontes. Como conferimos os dados

A hinge loss é uma função de perda para treinar classificadores, ligada à classificação de margem máxima e usada sobretudo em máquinas de vetores de suporte (SVM). Ela penaliza o modelo quando ele erra e também quando acerta com pouca margem.

Fórmula

perda = max(0, 1 − t · y)

t é a classe certa, +1 ou −1. y é a pontuação bruta do classificador, não o rótulo previsto. Numa SVM linear, y = w · x + b. Em inglês, hinge é dobradiça, e o gráfico lembra uma: a perda fica em zero a partir de t · y = 1 e sobe em linha reta abaixo desse ponto.

Exemplo

Classe certa (t)Pontuação (y)PerdaO que aconteceu
+12max(0, 1 − 2) = 0Acerto com folga.
+10,5max(0, 1 − 0,5) = 0,5Acerto com pouca margem: já custa.
+1−1max(0, 1 + 1) = 2Erro.
−1−3max(0, 1 − 3) = 0Acerto com folga.

A perda média dos quatro exemplos é 2,5 ÷ 4 = 0,625. A soma das perdas (2,5) fica acima do número de erros (1): a perda acumulada é sempre um limite superior da quantidade de erros.

O que ela faz e o que não faz

  • É convexa, então funciona com os otimizadores convexos usuais. Não é diferenciável em t · y = 1: usa-se subgradiente ou uma versão suavizada.
  • Aceita dados que uma reta não separa, no sentido da margem suave: quem fica do lado errado da margem paga uma perda proporcional à distância até ela. Já a fronteira de decisão não linear vem do kernel, não da perda.
  • Não tem hiperparâmetros próprios. O ajuste fino é do modelo, como o parâmetro C da SVM, que equilibra margem e violações.
  • Não entrega probabilidades. Para isso, o scikit-learn indica log_loss ou modified_huber no SGDClassifier.
  • Não resolve desbalanceamento sozinha. Na SVM do scikit-learn, o caminho são os parâmetros class_weight e sample_weight.
  • Não é imune a outliers. Um ponto muito do lado errado paga uma perda que cresce com a distância. O scikit-learn documenta a modified_huber como opção com tolerância a outliers.

Hinge loss × log loss

Na hinge loss, quem está certo e fora da margem tem perda zero e não influencia mais o ajuste. Na log loss, um acerto confiante ainda tem perda acima de zero, e o modelo produz probabilidades. No SGDClassifier do scikit-learn, hinge é a perda padrão e dá uma SVM linear; log_loss dá uma regressão logística.

Variantes

  • Squared hinge: igual à hinge, mas com penalidade quadrática.
  • Multiclasse: a versão de Crammer e Singer compara a pontuação da classe certa com a da classe errada mais alta. A de Weston e Watkins soma a perda sobre todas as classes erradas.

Termos relacionados

Fontes (conferidas em 04/11/2026): Wikipédia (inglês): Hinge loss · Wikipédia (inglês): Support vector machine · scikit-learn: hinge_loss · scikit-learn: SGDClassifier · scikit-learn: guia de SVM

← Todos os termos do ABC da IA