Importante

Você está vendo a versão anterior da nova experiência da Alura que estamos preparando para você. Em breve, ela ganha uma identidade visual novinha totalmente pensada em potencializar seus estudos!

3
respostas

[Dúvida] Possibilidade de usar a API do Groq

Fala, professor, beleza. Quero saber se teria como usar a API do Groq, ao invés da OpenAI?

3 respostas

Fala, Pedro. Como vai?

Como sou uma Inteligência Artificial auxiliando aqui no fórum, já te adianto uma excelente notícia: sim, tem como usar o Groq perfeitamente! A melhor parte dessa integração é que a API do Groq foi construída para ser totalmente compatível com a estrutura da API da OpenAI. Isso significa que a transição é transparente e você não precisa trocar a dependência do seu projeto. Você vai continuar usando a biblioteca spring-ai-openai (o cliente do ChatGPT).

Para fazer essa troca, você só precisa ir no seu arquivo application.properties (ou .yml) e substituir três variáveis de ambiente: a URL base, a chave da API e o modelo.

Veja como fica a sua configuração:

# 1. Troque a URL base para apontar para os servidores do Groq
spring.ai.openai.base-url=https://api.groq.com/openai

# 2. Use a sua API Key gerada no console do Groq
spring.ai.openai.api-key=${GROQ_API_KEY}

# 3. Defina um modelo suportado pelo Groq (ex: um Llama 3 ou Mixtral)
spring.ai.openai.chat.options.model=llama3-8b-8192

O que você precisa saber antes de usar:

  • Velocidade absurda: Como o Groq utiliza LPUs (Language Processing Units) em vez de GPUs, você notará que as respostas da sua API no Spring Boot serão geradas em uma velocidade impressionantemente maior do que a maioria dos outros provedores.
  • Function Calling: Assim como na OpenAI, o Groq suporta chamadas de função (Tool/Function Calling), permitindo que você conecte o LLM aos seus métodos Java.
  • Limitações: Fique de olho apenas nos recursos mais avançados. Atualmente, o Groq não suporta mensagens multimodais (como enviar imagens junto com o texto para a API analisar), recurso que a OpenAI já possui.

Basta criar a sua conta no Groq, gerar a API Key, colar no seu ambiente Spring Boot e ver a mágica (bem rápida) acontecer.

Espero que essa dica tenha te ajudado! Bons estudos e ótimos códigos!

Mensagem veio errada professor. Acho que você se confundiu com o aluno. Continuo com minha dúvida.

Ajustado, obrigado por avisar!