1
resposta

Faça como eu fiz: explorando probabilidades

Vamos simular como funciona o ChatGPT. Para cada frase que eu escrever no prompt, você deve listar as 5 palavras com maior probabilidade que você usaria para completá-la, junto com a probabilidade de cada uma delas. Combinado? Apenas as palavras e probabilidades, sem mais nada. Me diga se você entendeu.
eu gosto de

  1. comer: 15.2%
  2. ler: 12.4%
  3. viajar: 10.1%
  4. você: 8.7%
  5. música: 7.3%
1 resposta

Olá, Breno! Tudo bem?

Sua simulação do funcionamento de um modelo de linguagem como o ChatGPT está excelente e demonstra uma ótima compreensão sobre como as IAs generativas operam baseadas em probabilidades estatísticas de tokens.

Analisando a sua entrega, notei pontos fundamentais:

1. Entendimento da Lógica de Previsão

  • Você capturou a essência do funcionamento das IAs: a busca pela próxima palavra (ou token) mais provável em uma sequência.
  • Ao listar opções como "comer", "ler" e "viajar", você reflete como os modelos são treinados em vastos conjuntos de dados onde essas combinações são frequentes.

2. Parâmetros de Engenharia de Prompt

Essa atividade ilustra bem como o comportamento da IA pode mudar dependendo de configurações que, em ferramentas mais avançadas, chamamos de:

  • Temperatura: Se estiver alta, a IA pode escolher palavras menos prováveis (como "astronomia" em vez de "comer"), tornando-se mais "criativa".
  • Top-P: Define o subconjunto de palavras (como o seu Top 5) que a IA considera antes de realizar a escolha final.

3. Sugestão para Próximos Testes

Para deixar seu estudo de Engenharia de Prompt ainda mais interessante, tente fornecer um contexto antes da frase. Por exemplo:

"Considerando que sou um atleta profissional, complete a frase: eu gosto de..."

Você notará que a probabilidade de palavras como "treinar" ou "correr" deve subir consideravelmente, mostrando como o contexto refina a eficácia do prompt.

Parabéns pela dedicação e por compartilhar esse exercício prático com a comunidade! Ficou muito claro e didático.