Explicabilidade, ou XAI (explainable AI), é o conjunto de técnicas que tenta responder por que um modelo de IA chegou a determinada decisão — quais variáveis pesaram, o que teria mudado o resultado. Em marketing importa quando o sistema nega um benefício, define um preço ou exclui alguém de uma campanha. E aqui há um ponto que quase nenhum material em português acerta: a LGPD não garante revisão humana de decisão automatizada. O texto original de 2018 previa revisão “por pessoa natural”, mas essa expressão foi retirada do artigo 20 na redação que vigora. O direito à revisão existe; a garantia de que um ser humano a faça, não — a revisão pode ser automatizada. Quem promete conformidade citando “direito à explicação humana” está descrevendo uma lei que não é a atual.
O que a lei brasileira realmente exige
Vale ler o que restou, porque continua sendo obrigação real. O artigo 20 assegura ao titular solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado que afetem seus interesses — incluídas as que definem perfil pessoal, profissional, de consumo e de crédito.
E o parágrafo primeiro cria um dever de transparência com um limite importante: o controlador deve fornecer informações claras e adequadas sobre os critérios e procedimentos da decisão automatizada — “observados os segredos comercial e industrial”.
Essa ressalva final é onde a explicabilidade encontra o negócio: a obrigação de explicar esbarra na proteção do segredo. Quem opera precisa saber que os dois textos convivem.
⚠️ Explicar a caixa-preta não é o mesmo que entendê-la
As técnicas mais vendidas de explicabilidade — as que atribuem um peso a cada variável depois que a decisão já foi tomada — são chamadas de pós-hoc. E há uma crítica canônica a elas, publicada na Nature Machine Intelligence, que vai além do que se costuma dizer.
O argumento da autora não é apenas que a explicação pode ser infiel. É mais forte: tentar explicar modelos opacos, em vez de construir modelos interpretáveis desde o início, tende a perpetuar más práticas e pode causar dano grave em decisões de alto risco. A saída proposta é trocar o modelo, não explicá-lo.
O raciocínio por trás disso é elegante: se uma explicação pós-hoc fosse perfeitamente fiel, ela seria o próprio modelo. Como não é, existe sempre uma distância entre a narrativa e o processo — e essa distância é justamente onde mora o risco.
É o mesmo problema estrutural que aparece em chain-of-thought: o texto que o sistema produz sobre o próprio raciocínio não é o raciocínio.
O que isso muda na prática
Para decisões que afetam pessoas — score de crédito, precificação diferenciada, elegibilidade a oferta, exclusão de público —, três orientações:
- Prefira modelo interpretável quando o risco for alto. Uma regressão logística ou uma árvore de decisão que a equipe entende vale mais que um modelo opaco com um painel de explicações por cima. E costuma perder menos desempenho do que se supõe.
- Documente o critério, não só a saída. A obrigação legal é sobre critérios e procedimentos. Isso se resolve com política escrita e registro de decisão — não com biblioteca de explicabilidade.
- Tenha um canal de revisão que funcione. A lei dá ao titular o direito de pedir revisão. Se não há processo, não há conformidade — independentemente de quem executa a revisão.
E uma advertência sobre fornecedor: “nosso sistema é explicável” não é resposta a uma exigência legal. Pergunte o que exatamente é explicado, com que fidelidade isso foi medido, e o que a empresa faz quando alguém contesta. Sobre erro concentrado em subgrupo, veja viés algorítmico; sobre a documentação do fornecedor, model card.
Fontes
- LGPD, artigo 20 — texto oficial no Planalto, com o histórico de redações
- Stop Explaining Black Box Machine Learning Models for High Stakes Decisions — Rudin, Nature Machine Intelligence, 2019
Leitura das fontes em 17/08/2026. Este verbete descreve o texto legal e não substitui orientação jurídica.