1
resposta

Faça como eu fiz: explorando probabilidades

Vamos simular como funciona o ChatGPT. Para cada frase que eu escrever no prompt, você deve listar as 5 palavras com maior probabilidade que você usaria para completá-la, junto com a probabilidade de cada uma delas. Combinado? Apenas as palavras e probabilidades, sem mais nada. Me diga se você entendeu.
Eu gosto de

Resultado:
comer — 0,18
viajar — 0,14
aprender — 0,12
ler — 0,11
dormir — 0,09

teste 2:Vamos simular como funciona o ChatGPT. Para cada frase que eu escrever no prompt, você deve listar as 5 palavras com maior probabilidade que você usaria para completá-la, junto com a probabilidade de cada uma delas. Combinado? Apenas as palavras e probabilidades, sem mais nada. Me diga se você entendeu.

Eu gosto de series

de — 0,30
de TV — 0,25
e filmes — 0,15
policiais — 0,15
de comédia — 0,15

1 resposta

Oi, Sérgio. Tudo bem com você?

Os dois testes mostram bem como o contexto influencia as probabilidades. No primeiro, com a frase aberta "eu gosto de", o modelo distribuiu as probabilidades entre palavras mais genéricas, já que não havia contexto suficiente para favorecer nenhuma delas. No segundo, ao adicionar "series", o modelo concentrou as probabilidades em complementos relacionados a esse universo, como "de TV" e "policiais", o que ilustra de forma clara como cada token novo restringe e redireciona as possibilidades seguintes.

Esse exercício é uma forma muito concreta de entender o que está por trás da geração de texto.

Para explorar ainda mais esse comportamento, vale testar frases com contextos mais específicos ou técnicos, como "o algoritmo de machine learning foi treinado com". Quanto mais especializado o contexto, mais concentradas tendem a ser as probabilidades nas palavras mais esperadas para aquele domínio, o que ajuda a perceber como o modelo "pesa" o vocabulário de acordo com o assunto.

Obrigado por compartilhar os resultados com o fórum.

Alura Conte com o apoio da comunidade Alura na sua jornada. Abraços e bons estudos!