RNN — sigla de Recurrent Neural Network, rede neural recorrente — é a arquitetura que processa sequências um elemento por vez, carregando um estado interno que resume o que veio antes. Foi a abordagem dominante para texto, áudio e séries temporais até 2017, quando o Transformer a substituiu nas aplicações de linguagem. O motivo da substituição foi prático: por processar em ordem, a recorrência não paraleliza bem — e o treino em larga escala depende de paralelizar. Mas declarar a arquitetura morta seria errado. Em 2023 ela voltou reformulada, e com números: a família Mamba, baseada em modelos de espaço de estados operando em modo recorrente, relata 5 vezes mais throughput de inferência que Transformers e escala linear com o tamanho da sequência — contra o custo quadrático da atenção.
⚠️ A recorrência não era o problema
Este é o achado que reabilita a linhagem. A leitura corrente era que redes recorrentes tinham sido superadas por uma limitação intrínseca — dificuldade com dependências longas, treino instável.
A tese do trabalho que trouxe a recorrência de volta é diferente: a fraqueza dos modelos recorrentes anteriores era a incapacidade de raciocinar com base no conteúdo — o estado interno comprimia tudo igualmente, sem distinguir o que importava. A solução foi tornar os parâmetros do modelo função da própria entrada, dando-lhe seletividade sobre o que reter e o que descartar.
Os resultados relatados são notáveis para uma arquitetura declarada obsoleta: sem mecanismo de atenção e sem os blocos usuais, um modelo de 3 bilhões de parâmetros supera Transformers do mesmo tamanho em modelagem de linguagem, com desempenho que melhora em sequências de até um milhão de elementos, em linguagem, áudio e genômica.
O que isso muda na prática
Para quem contrata IA, a arquitetura interna raramente é escolha — mas duas consequências chegam até você:
- Contexto longo barato provavelmente não é Transformer puro. Se um fornecedor oferece janela enorme a preço baixo, há chance de haver arquitetura híbrida por trás. Vale perguntar qual o efeito sobre a qualidade na sua tarefa — o custo quadrático não desaparece de graça.
- “Obsoleto” descreve mal esta área. Convolução e recorrência foram dadas como superadas e voltaram reformuladas. Ceticismo com anúncios de que uma abordagem “morreu” tem se mostrado a posição mais acertada.
A razão econômica por trás dessa disputa arquitetural está em atenção, e o efeito na fatura em inferência.
Fontes
- Mamba: Linear-Time Sequence Modeling with Selective State Spaces — a recorrência reformulada
- Attention Is All You Need — o trabalho que substituiu as RNNs em linguagem
Leitura das fontes em 17/08/2026.