Alinhamento de IA é o conjunto de técnicas que faz um modelo se comportar conforme a intenção de quem o construiu — ser útil, recusar pedidos nocivos, seguir instruções em vez de apenas continuar o texto de forma plausível. Um modelo recém-treinado prevê a próxima palavra; ele não “quer” ajudar. O método que dominou a área é o aprendizado por reforço com feedback humano: pessoas comparam respostas, esse julgamento treina um modelo de recompensa, e o modelo principal é ajustado para maximizar essa recompensa. É a diferença entre um sistema que completa texto e um assistente que responde ao que foi pedido. E vem com um custo reconhecido pelos próprios pesquisadores que o consolidaram: o imposto do alinhamento — a capacidade que se perde no processo de tornar o modelo obediente.
O imposto do alinhamento
O trabalho que estabeleceu o método registra que o ajuste produzia regressões em tarefas de processamento de linguagem — o modelo ficava melhor em seguir instruções e pior em outras coisas que já sabia fazer.
A solução adotada foi misturar, durante o ajuste, atualizações que puxam o modelo de volta à distribuição original do pré-treino — recuperando parte da capacidade sem perder a preferência dos avaliadores humanos.
Uma ressalva de honestidade: o conceito está confirmado na fonte, mas os números específicos de queda não. Circulam percentuais associados a testes concretos que não conseguimos verificar no texto original — e por isso não os publicamos. Existe literatura dedicada a mitigar esse custo, o que por si só indica que ele é reconhecido como real.
Vale a sinalização: esse trabalho é de um fornecedor de modelo sobre o próprio método.
⚠️ Alinhado não é seguro, nem imparcial
O mal-entendido comercial é tratar “modelo alinhado” como sinônimo de “modelo confiável”. Três medições deste mesmo glossário mostram que não é:
- Alinhamento não impede burla. Ataques adaptativos chegaram a 100% de sucesso contra modelos alinhados de várias famílias, e ataques em múltiplos turnos seguem acima de 50% mesmo nos modelos recentes — ver jailbreak.
- Alinhamento não elimina viés. São problemas distintos: o modelo pode recusar corretamente pedidos nocivos e ainda assim errar sistematicamente mais para um grupo de pessoas — ver viés algorítmico.
- Alinhamento não garante explicação verdadeira. A justificativa que o modelo escreve pode não corresponder ao que determinou a resposta — ver chain-of-thought.
Há ainda uma questão que a expressão “alinhado” esconde: alinhado a quem? Os valores embutidos são os de quem treinou — as diretrizes que os avaliadores seguiram, o público de onde vieram, o contexto cultural em que foram escritas. Para uma operação brasileira, isso significa que as recusas e as sensibilidades do modelo foram calibradas em outro lugar, e nem sempre correspondem ao que faz sentido aqui.
O que isso muda na prática
Para quem opera IA em marketing, três consequências concretas:
- Recusas inesperadas são efeito do alinhamento. Modelos às vezes recusam pedidos legítimos — texto sobre saúde, finanças, temas sensíveis — porque foram calibrados para errar por excesso de cautela. Se isso atrapalha o seu caso, é critério de escolha entre fornecedores, e vale testar antes de contratar.
- Alinhamento do fabricante não substitui a sua política. As regras da sua marca — o que pode ser prometido, que tom usar, que assunto encaminhar a humano — precisam estar no seu system prompt e, quando forem críticas, no seu código.
- Teste o comportamento em português e no seu contexto. O que o modelo recusa, o que ele aceita e como ele reage a um pedido ambíguo foi calibrado com dados majoritariamente em inglês.
A conclusão que atravessa este glossário se aplica aqui também: a garantia do fornecedor é ponto de partida, não de chegada. Sobre a documentação que deveria declarar essas limitações, veja model card.
Fontes
- Training language models to follow instructions with human feedback — pesquisa de fornecedor (OpenAI) sobre o próprio método
- Mitigating the Alignment Tax of RLHF — EMNLP 2024
- AI Risk Management Framework — NIST
Leitura das fontes em 17/08/2026.