Essa aula apresenta a instanciação da classe SFTTrainer como o processo de treinamento e não apresenta que, para realmente fazer o fine tunning do modelo é necessário chamar o método SFTTrainer.train() após instanciar a classe de treinador.
"Executando o código
Ao executar a célula com "Ctrl + Enter", o Colab executará todas as etapas do treinamento. Como estamos atualizando apenas alguns pesos e uma parte da base de dados, o treinamento será rápido (demorando menos de 1 minuto) mesmo com um modelo grande de 8 bilhões de parâmetros."
Em referência à célula:
trainer = SFTTrainer(
model = modelo,
tokenizer = tokenizador,
train_dataset = dataset,
dataset_text_field = 'texto',
max_seq_length= 2048,
dataset_num_proc = 2,
packing = False,
args = TrainingArguments(
per_device_train_batch_size = 2,
gradient_accumulation_steps = 4,
warmup_steps = 5,
learning_rate = 2e-5,
max_steps = 60,
fp16 = not is_bfloat16_supported(),
bf16 = is_bfloat16_supported(),
logging_steps = 1,
optim = 'adamw_8bit',
weight_decay = 0.01,
lr_scheduler_type = 'linear',
seed = 10,
output_dir = 'outputs'
)
)
No próprio notebook utilizado como FONTE, a célula seguinte chama o método correto:
Conte com o apoio da comunidade Alura na sua jornada. Abraços e bons estudos!