VídeoA tua IA não ficou mais burra. A tua conversa é que ficou mais longa.
TL;DR Todos os modelos testados se saíram pior numa conversa longa do que numa curta. Começa uma nova e leva um resumo, não o histórico todo.
A tua IA não ficou mais burra. A tua conversa é que ficou mais longa. Investigadores deram a 18 modelos a mesma pergunta de duas maneiras: com o histórico completo da conversa, com 113 000 tokens, ou apenas com os 300 tokens que importavam. Todos os modelos, sem exceção, se saíram melhor com a versão curta.
Porquê? Mais contexto significa dois trabalhos em vez de um: encontrar o que importa e só depois pensar. É na parte de encontrar que falha. E a IA continua sem ter bom senso para perceber que detalhes são importantes.
Quando uma conversa começa a ser comprimida, começa uma nova. Leva um resumo curto, não o histórico todo.
Fontes: Chroma, “Context Rot” (2025); NoLiMa, ICML 2025.
