Un millón de tokens de contexto: cuándo ayuda de verdad
Una ventana mayor permite reunir documentos relacionados. Una prueba de la tarea muestra si ese contexto adicional mejora la respuesta.
Una investigación depende de una regla contractual, una excepción del manual y un cambio del historial de decisiones. Si el sistema ve solo un documento, puede responder bien sobre ese fragmento y equivocarse en el conjunto.
Ese tipo de tarea merece probar una ventana mayor. La documentación de contexto largo de Gemini describe modelos con un millón o más de tokens y remite al límite de cada modelo.
Capacidad no garantiza uso correcto
La ventana limita el material disponible en una ejecución según las reglas del modelo y de la API. No es memoria permanente de todo lo enviado por la empresa. Tampoco asegura que cada fragmento reciba el peso adecuado.
Antes de ampliar la entrada, escribe qué relaciones debe establecer la respuesta. “Resume estos archivos” es amplio; “identifica excepciones del manual que contradigan el contrato y cita los pasajes” permite verificar el resultado.
Compara tres formas de aportar información
Fragmentos seleccionados: envía solo documentos o pasajes relevantes. Puede bastar cuando la pregunta es localizada y la selección fiable.
Conjunto completo: aporta material relacionado para un análisis transversal. Puede ayudar con dependencias difíciles de prever, si cabe en los límites y requisitos operativos.
Búsqueda progresiva: permite localizar más información durante la investigación. Necesita registrar qué se consultó y qué falta.
Las opciones pueden combinarse. Un flujo puede empezar buscando y ampliar la lectura cuando aparece una relación importante. Decide según la pregunta, no por el deseo de llenar la ventana.
Prueba errores importantes
Prepara preguntas con respuestas revisadas por alguien que conozca los documentos. Incluye datos en partes distintas, versiones contradictorias y una pregunta sin respuesta en el material. Comprueba si el sistema señala la ausencia en vez de completarla por suposición.
Pide referencias precisas y revísalas. Una cita existente que no respalda la conclusión sigue siendo un error. Compara acierto, tiempo y coste entre las tres opciones con las mismas preguntas.
Organiza antes de enviar más
Identifica documento, fecha y versión. Elimina duplicados y contenido irrelevante conservando el origen de los fragmentos. Si hay archivos confidenciales, define recorrido de procesamiento y accesos antes de cargarlos.
Usa la ventana grande cuando resuelva una limitación observada. Si una entrada menor consigue el mismo resultado con menos esfuerzo operativo, enviar todo lo demás no aporta valor solo porque cabe.
Continúa con qué implica operar un modelo open-weight.
Sobre el autor
Tiago F SantiagoComentarios
Todavía no hay comentarios
Comparte una pregunta o una experiencia relacionada con el artículo.
Artículos relacionados
