1
resposta

[Projeto] Faça como eu fiz: explorando probabilidades

Para realizar atividade usei o chtagpt.

não quero estudar

  1. hoje — 18%
  2. mais — 14%
  3. agora — 11%
  4. isso — 9%
  5. porque — 7%

Eu gosto de ir na casa de Marcela.

  1. aos — 16%
  2. para — 14%
  3. e — 11%
  4. nos — 8%
  5. quando — 7%
1 resposta

Olá, Raissa. Como vai?

É muito interessante ver como você utilizou o ChatGPT para explorar o conceito de probabilidades na IA generativa. Esse exercício prático ajuda a entender exatamente como os modelos de linguagem de grande porte (LLMs) funcionam por trás dos panos.

Para enriquecer o seu projeto e complementar a sua atividade, vale a pena aprofundar o motivo de o modelo apresentar esses resultados.

O que você observou na sua atividade é o mecanismo de predição do próximo token (que podem ser palavras ou pedaços de palavras). Os modelos de IA generativa não "pensam" como humanos; eles calculam qual palavra tem a maior probabilidade estatística de aparecer em seguida, com base no gigantesco volume de textos com os quais foram treinados.

Analisando os seus dois exemplos de uma perspectiva de engenharia de prompt:

1. No primeiro cenário: "não quero estudar"
As maiores probabilidades foram para as palavras hoje (18%) e mais (14%). Isso acontece porque, na linguagem cotidiana e nos textos da internet, essas são continuações muito comuns que dão sentido completo e natural à frustração ou ao desejo expressado na frase inicial.

2. No segundo cenário: "Eu gosto de ir na casa de Marcela."
Após o ponto final, o modelo sugeriu conectivos para iniciar a próxima frase, como aos (16%) e para (14%). Isso indica que, estatisticamente, a frase seguinte costuma complementar a primeira explicando quando você vai (ex: "aos finais de semana") ou o objetivo da visita (ex: "para conversar").

Dica de Engenharia de Prompt: O papel da Temperatura

Já que você está estudando engenharia de prompt, existe um parâmetro crucial atrelado a essas probabilidades que você pode controlar via API ou em playgrounds de IA chamado Temperatura:

  • Se a temperatura for definida como 0, o modelo se torna determinístico. Ele vai escolher sempre a palavra com maior probabilidade (no seu primeiro exemplo, escolheria sempre "hoje"). Isso é ótimo para tarefas exatas, como códigos ou cálculos.
  • Se a temperatura for definida mais próxima de 1, o modelo ganha liberdade para escolher palavras que estão mais abaixo na lista (como "isso" ou "porque"), tornando o texto final muito mais criativo, variado e menos previsível.

Parabéns por realizar o teste e visualizar a IA funcionando de forma probabilística!

Espero que possa ter lhe ajudado!