Velocidade na resposta das LLMs

Ei! Tudo bem, Wagner?

O ponto principal é: o gargalo quase sempre está no tempo de resposta do modelo, não no n8n em si. E aí entram alguns fatores que explicam a diferença para o que você vê nos vídeos:

• Criadores editam o fluxo para ficar mais dinâmico. Mesmo execuções que demoram 20–40 segundos são aceleradas na edição.
• Muitos usam versões pagas de LLMs ou infraestruturas próprias. As APIs pagas da OpenAI, Google, Anthropic, etc., têm: servidores mais rápidos; prioridade na fila de requisições; modelos mais otimizados. E isso faz muita diferença!
• Nos vídeos, eles mostram o conceito. No mundo real, o prompt costuma ser mais elaborado, e isso aumenta o tempo de processamento.
• No curso, você está usando dados “crus”. Planilhas, textos maiores, mensagens fora do padrão… tudo isso impacta. Nos vídeos, normalmente tudo é preparado para rodar perfeitamente.
• Prompt enxuto, menor quantidade de tokens, modelos mais leves e configurações ajustadas fazem os fluxos ficarem muito mais rápidos.

No fim, o que vemos nos vídeos é uma combinação de edição + APIs mais rápidas + fluxos altamente otimizados + demonstrações simplificadas.
Quando você começa a montar seus próprios workflows, aparecem os tempos reais.

Mas é totalmente normal e conforme você for otimizando prompts e escolhendo modelos mais rápidos, o desempenho melhora bastante.

Espero ter ajudado e qualquer dúvida, compartilhe no fórum.

Até mais!

Muito obrigado pelo esclarecimento Nathalia!