IA Batch: esperar umas horas e pagar menos

Nem todo pedido à IA tem a mesma pressa. Alguns você faz enquanto escreve e precisa da resposta já; outros poderia lançar antes de fechar o notebook e encontrar prontos no dia seguinte. O NovLore trata esses dois casos de forma diferente, e saber qual é qual economiza créditos.

O que é a IA Batch

A IA Batch coloca seu trabalho numa fila em vez de executá-lo na hora. A resposta chega depois de horas, não de segundos. Em troca da espera, o processamento custa menos: a API que o NovLore usa para esses trabalhos — a Batch API da Claude — é cobrada a cerca de metade do mesmo pedido em tempo real.

Não é uma versão pior do modelo. É o mesmo modelo, com entrega adiada.

Quando a espera é um bom negócio

O batch compensa quando a tarefa é pesada e você não está olhando:

• gerar um capítulo inteiro a partir do roteiro e da bíblia da obra;
• uma passagem ampla pela estrutura do livro;
• trabalhos em bloco que você contaria deixar rodando enquanto faz outra coisa.

Em todos esses casos, ficar na frente da tela com a barra girando não te dava nenhuma vantagem. Melhor mover o trabalho para a fila e pagar menos por ele.

Quando você precisa mesmo da resposta já

O tempo real continua sendo a escolha certa quando a latência é justamente o ponto:

• o chat com a Scintilla, onde você raciocina junto com o assistente;
• a edição de um trecho selecionado, que você faz e revisa em poucos segundos;
• a correção na hora enquanto escreve.

Aqui uma espera de horas quebraria o fluxo de trabalho em vez de ajudar. O custo cheio é o preço da prontidão, e nesses casos a prontidão vale a pena.

Como funciona no NovLore

Você manda o trabalho para a fila, o app registra o job e deixa você seguir escrevendo. Em intervalos ele verifica o estado; quando o resultado está pronto, ele espera por você. Não precisa manter a página aberta nem o computador ligado.

A regra prática é uma só: se você não precisa ver a IA trabalhar, mande para batch. Se está usando para pensar, mantenha em tempo real.

Perguntas frequentes

Quanto tempo eu tenho que esperar, exatamente?

Depende da carga. Em geral são horas, não dias. Foi pensado para o trabalho que você lança e retoma mais tarde, não para algo que precisa na mesma sessão.

O resultado do batch tem qualidade inferior?

Não. O modelo é o mesmo e as instruções são as mesmas: muda só o momento da entrega. O único compromisso é o tempo, não o texto.