Importante

Você está vendo a versão anterior da nova experiência da Alura que estamos preparando para você. Em breve, ela ganha uma identidade visual novinha totalmente pensada em potencializar seus estudos!

1
resposta

[Projeto] Meu projeto (com Llama 3.1 8b)

Código:

from openai import OpenAI
from dotenv import load_dotenv
import os

load_dotenv()
client = OpenAI(
    base_url=os.getenv("BASE_URL"),
    api_key=os.getenv("API_KEY")
)

response = client.chat.completions.create(
    model=os.getenv("MODEL"),
    messages=[
        {
            "role":"system",
            "content" : "Listar apenas os nomes dos produtos, sem considerar descrição."
        },
        {
            "role" : "user",
            "content" : "Liste 3 produtos sustentáveis"
        }
    ],
)

print(response.choices[0].message.content)

display no console:

1. Lâmpada LED
2. Bicicleta elétrica
3. Refridgerador com isopor

Dados como o modelo usado, a chave da API e o endereço da URL estão no arquivo .env.

1 resposta

Oi, Paulo! Tudo bem?

Que legal ver seu projeto rodando com Llama 3.1 8b integrado à API, com um código bem organizado e as credenciais protegidas no .env.

O código tá funcionando certinho e a estrutura da chamada com system e user está correta. Pra deixar a saída ainda mais previsível, você pode pedir explicitamente no prompt um formato fixo (por exemplo, uma lista numerada simples, sem adjetivos), o que reduz variações como a que apareceu no resultado ("Refridgerador").

Você já pensou em testar esse mesmo prompt trocando o modelo, para comparar a qualidade das respostas entre diferentes versões?

Alura Conte com o apoio da comunidade Alura na sua jornada. Abraços e bons estudos!