Pruning, ou poda, é a técnica de remover pesos pouco importantes de um modelo já treinado, deixando-o menor e mais rápido sem retreiná-lo do zero. A intuição por trás é que redes neurais são largamente redundantes — e a evidência sustenta isso de forma impressionante. Um trabalho de 2018 registra que técnicas de poda conseguem reduzir a contagem de parâmetros em mais de 90% sem comprometer a acurácia. Para modelos de linguagem, que é o caso de quem usa IA em marketing, o número de referência é outro e vem de um método de 2023: modelos da família GPT podem ser podados a pelo menos 50% de esparsidade numa única passada, sem qualquer retreino, com perda mínima. Levando a 60%, mais de 100 bilhões de pesos podem ser ignorados na hora de responder.
⚠️ Não confunda poda com quantização
As duas técnicas reduzem o custo de rodar um modelo e são frequentemente tratadas como sinônimos. São coisas diferentes, e a distinção é simples:
| O que faz | Resultado | |
|---|---|---|
| Pruning | Remove pesos | Menos pesos, mesma precisão em cada um |
| Quantização | Reduz a precisão de cada peso | Mesmo número de pesos, menos bits cada |
E o ponto que decide a estratégia: são combináveis. O próprio método de poda para modelos de linguagem citado acima declara compatibilidade com abordagens de quantização. Podar e depois quantizar reduz mais do que qualquer uma das duas isolada.
Cuidado ao transportar o número dos 90%
Uma ressalva de método que vale mais que o número em si. Os resultados mais espetaculares de poda — os que falam em reduzir para 10% a 20% do tamanho original — foram obtidos em redes pequenas, em tarefas clássicas de visão como reconhecimento de dígitos e classificação de imagens em baixa resolução.
Extrapolar esses 90% para modelos de linguagem seria erro. Para LLMs, o patamar demonstrado sem retreino é a faixa de 50% a 60% — que já é notável, mas é metade do que o número mais citado sugere. Ao avaliar promessa de fornecedor sobre compressão, pergunte em que tipo de modelo aquilo foi medido.
O que isso muda na prática
Como a destilação, a poda é normalmente algo que se consome pronto, não que se executa. Mas saber que ela existe muda duas leituras:
- Modelo pequeno não é necessariamente modelo fraco. Boa parte da diferença de tamanho entre versões de uma mesma família vem de compressão, não de capacidade perdida na mesma proporção.
- Compressão sem retreino é rápida. O método para LLMs citado acima processa modelos de 175 bilhões de parâmetros em menos de quatro horas e meia. Isso significa que fornecedores podem oferecer versões comprimidas logo após um lançamento — e que vale testar a versão menor antes de assumir que precisa da maior.
Para quem opera marketing, a conclusão prática é a mesma das outras técnicas de eficiência: o modelo de topo raramente é necessário para classificar, rotear e extrair. Compare o custo em inferência e teste a alternativa menor com casos reais.
Fontes
- The Lottery Ticket Hypothesis — Frankle e Carbin; os 90%, em redes pequenas de visão
- SparseGPT — poda de 50% a 60% em LLMs sem retreino
- Wanda — método alternativo de poda sem retreino
Leitura das fontes em 17/08/2026.