Oi, Leonardo! Como vai?
Entendo sua dúvida sobre a função configurar_modelo
. Você está certo ao perceber que os parâmetros não estavam sendo utilizados na inicialização do modelo BedrockLLM
.
A alternativa correta é a que cria uma função específica para configurar os parâmetros, inicializando o modelo dentro dela. Assim, você garante que o modelo será ajustado conforme suas necessidades.
Veja este exemplo prático:
def configurar_modelo(client, max_tokens=200, temperature=0.9, top_p=0.9):
return BedrockLLM(
model_id="anthropic.claude-v2",
client=client,
max_tokens=max_tokens, # Usando max_tokens
temperature=temperature, # Usando temperature
top_p=top_p # Usando top_p
)
modelo = configurar_modelo(bedrock_client)
Dessa forma, os parâmetros que você passar para a função serão utilizados na criação do modelo, ajustando o comportamento de forma adequada, o que impacta diretamente na qualidade das respostas geradas.
Espero ter ajudado. Conte com o apoio do Fórum na sua jornada. Fico à disposição.