1
resposta

Função não faz sentido....

Como essa função configura alguma coisa ? Não está fazendo nada com os parâmetros passados para ela (exceto o client) - está só definindo valores padrão para cada um dele que não são usados para nada...o valor de max_tokens, por exemplo, simplesmente não é usado para nada....

def configurar_modelo(client, max_tokens=200, temperature=0.9, top_p=0.9):
    return BedrockLLM(
        model_id='anthropic.claude-v2', 
        client=client
    )
1 resposta

Oi, Leonardo! Como vai?

Entendo sua dúvida sobre a função configurar_modelo. Você está certo ao perceber que os parâmetros não estavam sendo utilizados na inicialização do modelo BedrockLLM.

A alternativa correta é a que cria uma função específica para configurar os parâmetros, inicializando o modelo dentro dela. Assim, você garante que o modelo será ajustado conforme suas necessidades.

Veja este exemplo prático:

def configurar_modelo(client, max_tokens=200, temperature=0.9, top_p=0.9):
    return BedrockLLM(
        model_id="anthropic.claude-v2",
        client=client,
        max_tokens=max_tokens,   # Usando max_tokens
        temperature=temperature, # Usando temperature
        top_p=top_p              # Usando top_p
    )

modelo = configurar_modelo(bedrock_client)

Dessa forma, os parâmetros que você passar para a função serão utilizados na criação do modelo, ajustando o comportamento de forma adequada, o que impacta diretamente na qualidade das respostas geradas.

Espero ter ajudado. Conte com o apoio do Fórum na sua jornada. Fico à disposição.

Imagem da comunidade