RLHF
RLHF usa preferência humana para alinhar modelos. Em 2026 o DPO substituiu o reforço clássico — por ser mais estável e mais barato.
17 de agosto de 2026
RLHF usa preferência humana para alinhar modelos. Em 2026 o DPO substituiu o reforço clássico — por ser mais estável e mais barato.
Jailbreak faz a IA ignorar as próprias regras — e a OWASP o classifica como forma de injeção de prompt. Modelos novos caíram para cerca de 20% de sucesso, mas ataques multi-turno passam de 50%.
System prompt é a instrução de base que define o comportamento do modelo. Um estudo com mais de 200 assistentes customizados mostrou que todos eram vulneráveis à extração.
A OpenAI apresentou o alinhamento deliberativo, que ensina o modelo a raciocinar sobre regras de segurança, e abriu acesso antecipado a pesquisadores até 10 de janeiro de 2025.