2
respostas

[Dúvida] Como diminuir o tempo de processamento

Nessas 40 análises de sentimentos, durou cerca de 33 segundos.
Mas se eu tivesse 40.000 análises para fazer, duraria cerca de 33.000 segundos ou 9 horas e 10 minutos.
Em produção, esse tempo me parece ser inviável.
Como acelerar esse processamento?

2 respostas

Oi, Sergio, tudo bem?

Esse tempo de espera de 33 segundos para 40 análises é totalmente normal. O que está acontecendo no código da aula é que o programa manda a primeira resenha para a API do Gemini e fica esperando a resposta voltar pela internet. Ele só manda a segunda resenha quando a primeira termina.

Realmente, fazer isso uma por uma para 40.000 análises levaria horas. O tempo que isso vai levar depende sempre de duas coisas:

  1. Da quantidade de solicitações que você está fazendo.
  2. Da capacidade da API (o servidor da inteligência artificial) de receber e devolver essa informação rapidamente.

Em um ambiente real de produção, nós contornamos isso mudando a forma de enviar os dados. Em vez de mandar um texto por vez na fila, nós ajustamos o código para mandar "pacotes" com vários textos juntos de uma vez só, ou fazemos com que o código envie várias perguntas simultaneamente.

O único detalhe é que as APIs têm limites de uso por minuto, então em uma versão gratuita, menor seria sua capacidade e com toda certeza o servidor negaria essa solicitação, então não dá para simplesmente despejar 40.000 textos de uma vez só.

Em resumo, a possibilidade existe, mas vai depender da capacidade da API.

Bons estudos!

Sucesso

Imagem da comunidade

Entendi.
Poderia dar um pequeno exemplo de como seria feito para enviar um "pacote" de vários textos de uma vez e como seriam capturadas as respostas deste pacote?