Um milhão de tokens de contexto: quando ajuda realmente
Uma janela maior reúne documentos relacionados. Só um teste da tarefa mostra se o contexto adicional melhora a resposta.
Uma investigação depende de uma regra num contrato, de uma exceção no manual e de uma alteração no histórico de decisões. Se o sistema vê apenas um documento, pode responder corretamente sobre o excerto e errar no conjunto.
É neste tipo de tarefa que uma janela maior merece ser testada. A documentação de contexto longo do Gemini descreve modelos com um milhão ou mais de tokens e remete para o limite de cada modelo.
Capacidade não garante utilização correta
A janela limita o material disponível numa execução, segundo as regras do modelo e da API. Não é memória permanente de tudo o que a empresa enviou. Também não garante que cada excerto receba a importância certa.
Antes de ampliar a entrada, defina as relações que a resposta deve estabelecer. “Resuma estes ficheiros” é amplo; “identifique exceções do manual que contradizem o contrato e cite os excertos” permite verificar o resultado.
Compare três formas de fornecer informação
Excertos selecionados: envie apenas documentos ou passagens relevantes. Pode bastar quando a pergunta é localizada e a seleção fiável.
Conjunto completo: forneça material relacionado para análise transversal. Pode ajudar quando as dependências são difíceis de prever, desde que respeite limites e requisitos operacionais.
Pesquisa progressiva: permita encontrar informação durante a investigação. É necessário registar o que foi consultado e o que falta.
As opções podem combinar-se. Um processo pode começar por pesquisa e ampliar a leitura quando surge uma relação importante. A escolha deve responder à pergunta, não à vontade de preencher a janela.
Teste os erros mais relevantes
Prepare perguntas com respostas verificadas por quem conhece os documentos. Inclua detalhes em partes diferentes, versões contraditórias e uma pergunta sem resposta no material. Confirme se o sistema aponta a ausência em vez de completar por suposição.
Peça referências precisas e verifique-as. Uma citação que existe mas não sustenta a conclusão continua errada. Compare acerto, tempo e custo das três opções com as mesmas perguntas.
Organize antes de enviar mais
Identifique documento, data e versão. Retire duplicados e material irrelevante, mantendo a origem dos excertos. Para ficheiros confidenciais, defina processamento e acessos antes da carga.
Use a janela grande quando resolve uma limitação observada. Se uma entrada menor produz o mesmo resultado com menos esforço, não há benefício em enviar o restante apenas porque cabe.
Continue em o que implica operar um modelo open-weight.
Sobre o autor
Tiago F SantiagoComentários
Ainda sem comentários
Partilhe uma dúvida ou experiência relacionada com o artigo.
Artigos relacionados
