Clicked Gallery

O que é uma janela de contexto?

Subrayado en un documento técnico real. Explicado por Clicked.

Usado numa frase

Engineering Notes · AI Systems

Requests exceeding the model's context window are rejected, so long documents must be chunked before submission.

O leitor sublinhou uma palavra na documentação. O Clicked tornou o termo técnico «context window» fácil de entender:

Explicado em três níveis

Os mesmos fatos, outra vibe — Modo slang 😎

O método Clicked

●○○

Overview

Uma janela de contexto é a quantidade máxima de texto que um modelo de IA consegue considerar de uma vez, cobrindo tanto a sua entrada quanto a resposta dele. Qualquer coisa além desse limite é invisível para o modelo. Ela é medida em tokens, que são pedaços de palavras, não palavras inteiras.
●○○

Overview

A janela de contexto é a memória de trabalho da IA: quanto texto ela consegue segurar na cabeça de uma vez, incluindo as suas palavras e as dela. Passe do limite e o mais antigo cai para fora em silêncio. 😎

Uma ideia rápida — muitas vezes é tudo de que você precisa.

●●○

Detail

A janela cobre tudo o que está em jogo: a conversa até ali, qualquer documento colado dentro dela e a resposta sendo gerada. Os tamanhos são cotados em tokens, cerca de três quartos de uma palavra cada em inglês, e variam bastante: 128.000 tokens é comum, e alguns modelos anunciam um milhão, o que dá vários romances longos. Quando um chat cresce além da janela, as mensagens mais antigas caem primeiro, e é por isso que uma sessão longa esquece instruções dadas no começo. Janelas maiores também custam mais para rodar, já que o modelo compara cada token com todos os outros, então dobrar o texto quadruplica, mais ou menos, esse trabalho. Modelos também são mais fracos no meio de entradas muito longas, lembrando muito melhor o início e o fim — um efeito medido, conhecido como lost in the middle.
●●○

Detail

Tudo conta contra a janela: o histórico do chat, aquele PDF que você despejou lá e a resposta que ela está escrevendo. Mede-se em tokens, pedaços de cerca de três quartos de uma palavra, e os tamanhos são malucos: 128 mil é o padrão, um milhão vira motivo de gabolice em post de lançamento. Encha demais e as mensagens mais antigas deslizam do penhasco em silêncio — por isso o bot esquece a regra número um de uma hora atrás. Maior também não sai de graça: o modelo confere cada token contra todos os outros, então o dobro do texto é mais ou menos quatro vezes o trabalho, e a sua fatura sente. Mais uma pegadinha: coisa enterrada no meio de um despejo enorme é o que ele lembra pior, então o detalhe matador na página 40 de 80 é exatamente o que ele perde. 😎

Quer mais? Um clique aprofunda.

●●●

Analogy

Um quadro branco numa sala de reunião. Tudo de que a equipe precisa tem que caber nele, e quando ele enche, alguém apaga o canto mais antigo para abrir espaço para as notas novas. O plano rabiscado no primeiro minuto sumiu na terceira hora — não porque alguém escolheu esquecer, mas porque o quadro ficou sem superfície.
Deepest level reached.
●●●

Analogy

A sua mesa em semana de provas. Tudo com que você está de fato trabalhando precisa estar sobre a mesa, e quando ela enche, a pilha mais antiga vai para o chão. A folha de fórmulas de segunda-feira não sumiu porque você é desleixado — sumiu porque mesas têm bordas.
Deepest level reached.

Conceito novo? Um exemplo do dia a dia faz clicar — novas analogias quando quiser.

Explicações de IA podem conter erros · Não é aconselhamento profissional

Definição formal — O mesmo termo, explicado da forma habitual

A janela de contexto designa o comprimento máximo de sequência, em tokens, ao qual um modelo de linguagem baseado em transformer consegue atender numa única passagem para a frente, compreendendo tanto o prompt quanto a saída gerada. A autoatenção escala quadraticamente com o comprimento da sequência, restringindo os tamanhos práticos de janela, e a acurácia empírica de recuperação degrada para informação posicionada no meio da sequência.

Quer que o Clicked explique termos como «context window» direto no seu navegador, até em PDFs?

Adicionar ao Chrome — Grátis

50 explicações grátis · Sem cartão de crédito