1
resposta

como carregar modelo a partir do huggingface

olá,

como faço para carregar um modelo proveniente do huggingface? seria, por exemplo, ao usar este modelo da imagem abaixo, bastaria clicar no copiar indicado na seta onde tem o "Copy model name to clipboard"?

modelo LLLM baseado no Llama2

1 resposta

Olá, Anderson, como vai?

Para simplificar o uso de modelos do Hugging Face, você pode utilizar o pipeline da biblioteca transformers. Ele permite carregar o modelo automaticamente com apenas uma linha, ideal para tarefas específicas, como geração de texto, análise de sentimento, tradução, entre outras.

Usando o modelo da imagem , ficaria algo como:


from transformers import pipeline

# Nome do modelo copiado
model_name = "recogna-nlp/bode-13b-alpaca-pt-br"

# Cria o pipeline para geração de texto
generator = pipeline("text-generation", model=model_name)

# Gera um texto com o modelo
resultado = generator("Era uma vez um desenvolvedor que", max_length=50, num_return_sequences=1)

# Exibe o resultado
print(resultado[0]['generated_text'])

Se quiser usar o pipeline para outra tarefa, como análise de sentimento ou tradução, basta substituir "text-generation" pela tarefa desejada.

Aqui na plataforma temos uma Formação voltada para Hugging Face, caso tenha interesse também temos esse artigo que também fala sobre.

Espero ter ajudado!

Siga firme nos seus estudos e conte com o fórum sempre que precisar!

Abraços :)

Caso este post tenha lhe ajudado, por favor, marcar como solucionado