Inferência — Inferência é o ato de usar um modelo de IA já treinado para produzir uma resposta — cada pergunta feita ao ChatGPT, cada

Inferência: o custo que decide o projeto de IA

Inferência é usar o modelo treinado para responder. O preço por token cai, mas a conta sobe: um agente com 8 chamadas encadeadas custa 8 vezes um assistente de turno único.

Vector database — Vector database, ou banco de dados vetorial, é o sistema que armazena embeddings — as representações numéricas de signif

Vector database: quando vale ter um banco dedicado

Banco vetorial armazena embeddings e busca por similaridade. Até cerca de 10 milhões de vetores, a extensão do Postgres que você já opera costuma resolver — e elimina um sistema do stack.

Alucinação em IA — Alucinação é quando um modelo de IA produz uma afirmação que soa plausível mas não tem lastro — um dado inventado, uma c

Alucinação em IA: quanto os modelos realmente erram

Alucinação é quando a IA afirma algo sem lastro. Num teste que recompensa dizer não sei, apenas 3 modelos pontuaram acima de zero — a maioria erra mais do que acerta.

Fine-tuning — Fine-tuning, ou ajuste fino, é o processo de continuar o treino de um modelo já pronto usando exemplos próprios, para qu

Fine-tuning: quando ajustar o modelo compensa

Fine-tuning ensina formato e tom de voz, não fatos. Estudo da EMNLP 2024 mostra que tentar ensinar conhecimento novo por essa via aumenta linearmente a alucinação.

Embedding — Embedding é a representação de um texto — palavra, frase ou documento inteiro — como uma lista de números que captura se

Embedding: como funciona a busca semântica

Embedding representa texto como números para permitir busca por significado. Mais dimensões não é melhor: a técnica Matryoshka entrega vetores 14× menores com a mesma acurácia.

Transformer — Transformer é a arquitetura de rede neural que tornou possível a IA generativa moderna.

Transformer: a arquitetura por trás da IA generativa

Transformer é a arquitetura que viabilizou a IA generativa, com mais de 189 mil citações. Seu custo quadrático explica por que contexto longo é caro — e por que já estão removendo partes dela.

LLM — LLM — sigla de Large Language Model, ou modelo de linguagem de grande porte — é o tipo de sistema de IA treinado sobre e

LLM: como escolher sem olhar o tamanho do modelo

LLM é o modelo de linguagem por trás do ChatGPT e do Claude. A regra de que mais parâmetros significa mais capacidade foi refutada em replicação — e um modelo de 32B lidera o ranking de alucinação.

Token — Token é a unidade em que os modelos de linguagem quebram o texto para processá-lo — algo entre uma sílaba e uma palavra.

Token: por que o português custa mais caro em IA

Token é a unidade de cobrança das APIs de IA. Estudo com 25 idiomas mostra que o português consome de 25% a 40% mais tokens que o inglês para dizer a mesma coisa.

GPU e TPU — GPU (unidade de processamento gráfico) e TPU (unidade de processamento tensorial) são os chips que treinam e executam mo

GPU e TPU: quanto custa por hora e qual escolher

H100 de 80 GB entre US$ 2,89 e 3,29 por hora; RTX 4090 por US$ 0,74. A conta que decide o projeto não é o preço da placa, é o tempo que ela fica ociosa.

Quantização — Quantização é a técnica de reduzir a precisão numérica com que os pesos de um modelo de IA são armazenados, para que ele

Quantização: quanta memória economiza e o que se perde

Quantização reduz a precisão dos pesos para o modelo caber em hardware menor. FP8 sai praticamente sem perda; INT8 custa de 1% a 3% de acurácia.

Marketing

Tecnologia

Utilitários

Gerais

Glossário