Gostaria de compartilhar como foram os meus testes e o que observei.
- Testando as Probabilidades
Primeiro, enviei o prompt sugerido na aula para preparar o modelo:
"Vamos simular como funciona o ChatGPT. Para cada frase que eu escrever no prompt, você deve listar as 5 palavras com maior probabilidade que você usaria para completá-la, junto com a probabilidade de cada uma delas. Combinado? Apenas as palavras e probabilidades, sem mais nada. Me diga se você entendeu."
Depois que ele confirmou, enviei algumas frases incompletas focadas em programação. O resultado foi bem interessante e mostra exatamente como ele varre o contexto matemático:
Minha frase: "A melhor estrutura de repetição para percorrer uma lista de tamanho conhecido no Python é o"
Resposta do Modelo:
laço (45%)
for (35%)
loop (12%)
comando (5%)
iterador (3%)
Minha frase: "Na arquitetura de microsserviços, para garantir que o sistema não caia, é fundamental investir em"
Resposta do Modelo:
monitoramento (38%)
escalabilidade (25%)
resiliência (20%)
segurança (10%)
infraestrutura (7%)
Fica muito claro que ele não "pensa" na resposta, mas sim calcula a próxima palavra que faz mais sentido estatístico com base na frase anterior.
- Brincando com a Temperatura no AI Studio
Seguindo a dica do exercício, como a plataforma da OpenAI é paga, fui para o Google AI Studio fazer os testes práticos com o parâmetro de Temperatura usando o Gemini.
Fiz o teste pedindo para ele explicar o que é "Cloud Computing" em um parágrafo curto, alterando apenas a temperatura:
Temperatura 0.0 (Baixa/Zero): A resposta foi extremamente técnica, direta e previsível. Parecia a definição exata de um livro técnico de redes ou a documentação da AWS. É excelente para quando precisamos gerar códigos ou respostas baseadas estritamente em regras de negócio.
Temperatura 1.0 a 1.5 (Alta): O modelo escolheu tokens com menor probabilidade estatística. A explicação ficou muito mais criativa, usando analogias (comparando a nuvem com "alugar um guarda-volumes infinito") e palavras menos comuns.
Conclusão da prática: Entender o conceito de temperatura é essencial para nós, desenvolvedores. Se formos integrar uma IA via API para analisar dados ou gerar código, a temperatura deve ser próxima de 0. Se for para criar um assistente virtual de marketing ou gerar textos de e-mail, temperaturas mais altas (0.7 a 1.0) deixam o texto mais humano e menos robótico.
Alguém mais fez testes com frases inusitadas e recebeu probabilidades engraçadas? Compartilhem aí como foram os testes de vocês no AI Studio! Bons estudos a todos!