Fiz a atividade como na aula, mas aparece que cheguei nos limites de rate do groq.
Meio que diz pra tentar novamente em alguns segundos, mas sempre que tento quebra no mesmo ponto e diz que atingi o limite. Conseguem me ajudar?
Fiz a atividade como na aula, mas aparece que cheguei nos limites de rate do groq.
Meio que diz pra tentar novamente em alguns segundos, mas sempre que tento quebra no mesmo ponto e diz que atingi o limite. Conseguem me ajudar?
Olá Marianna! Tudo bem?
Esse erro 429 (Rate Limit) acontece porque o modelo que você está usando (o Llama 70b) tem um limite de "tokens" (o volume de texto) por minuto bem restrito no plano gratuito do Groq. Como sua automação está enviando muita informação de uma vez, você bate no teto antes mesmo da resposta ser gerada.
Para resolver isso, peço que faça o teste de trocar esse modelo llama-3.3-70b-versatile para o outro modelo, como o llama-3-8b-8192. O modelo de 8B é mais leve e possui limites de uso muito mais altos.
Faça esse ajuste e veja se o problema é solucionado.
Espero ter ajudado.
Fico à disposição. Abraços e bons estudos!