Olá, Marcelo. Como vai?
Excelente registro! Esse exercício de analisar as palavras de continuação e suas respectivas porcentagens abre a "caixa-preta" de como os modelos de linguagem (LLMs) realmente funcionam por trás dos panos.
Como analista de crédito, você lida diariamente com probabilidade e risco, e o funcionamento de uma inteligência artificial generativa segue uma lógica probabilística bem parecida.
Para enriquecer o seu projeto e consolidar o aprendizado deste capítulo inicial, destaco dois conceitos fundamentais baseados no comportamento que você capturou no print:
1. Modelos de Linguagem são Preditores de Próxima Palavra
Quando você digitou a frase "O amanhã será", o modelo não expressou um sentimento ou uma opinião própria. O que ele fez foi consultar o seu gigantesco banco de dados (treinado com bilhões de textos da internet) e calcular estatisticamente quais palavras costumam aparecer escritas logo após essa sequência.
No caso, a palavra "melhor" ganhou com 42,5% de probabilidade, seguida por "um" (18,3%) e "diferente" (12,1%).
2. O papel dos Parâmetros (Temperatura e Top P)
Nos próximos capítulos do curso, você verá que nós, engenheiros de prompt, podemos controlar como a IA escolhe uma dessas opções através de parâmetros de configuração:
- Temperatura Baixa (0.0 a 0.3): Se configurarmos o modelo com uma temperatura baixa, ele se tornará altamente previsível e escolherá sempre a palavra de maior probabilidade. Toda vez que você digitar "O amanhã será", ele responderá obrigatoriamente "melhor". Isso é ideal para tarefas exatas, como análises de relatórios ou cálculos.
- Temperatura Alta (0.7 a 1.0): Se aumentarmos a temperatura, damos "liberdade" para o modelo arriscar. Ele pode acabar ignorando a primeira opção e escolher as palavras mais abaixo na lista, como "incerto" (6,4%) ou "lindo" (5,2%). Isso é o que gera a sensação de criatividade e originalidade nas respostas.
Compreender que a IA trabalha calculando a probabilidade do próximo token (pedaço de palavra) é o passo mais importante para aprender a criar prompts que direcionem o modelo para a resposta exata que você precisa. Parabéns por concluir a atividade!
Espero que possa ter lhe ajudado!
