Achei interessante que no Chat eu esqueci de colocar o L no final de natura e ele respondeu com opções de finalização, ao invés de tentar seguir com opções de palavras. Ainda que tenha sugerido umas coisas estranhas ali, mas okay.
Achei interessante que no Chat eu esqueci de colocar o L no final de natura e ele respondeu com opções de finalização, ao invés de tentar seguir com opções de palavras. Ainda que tenha sugerido umas coisas estranhas ali, mas okay.
Oi, Ananda, como vai?
O comportamento que você observou provavelmente aconteceu porque os modelos de linguagem não processam o texto caractere por caractere e nem sempre palavra por palavra. O texto enviado é dividido em pedaços chamados de tokens, que podem ser palavras inteiras, sílabas ou até letras isoladas. Quando você enviou a palavra incompleta, o modelo pode ter identificado que o token atual precisava de um sufixo para fazer sentido dentro do vocabulário que ele conhece, por isso ele calculou as maiores probabilidades para completar a estrutura da palavra em si, em vez de sugerir a próxima palavra da frase.
As opções que parecem estranhas são reflexos estatísticos do banco de dados utilizado no treinamento do modelo, onde combinações como o caractere isolado ou outras terminações comuns em português possuem pesos matemáticos calculados com base em contextos que a inteligência artificial já analisou.
Como você acha que a alteração no parâmetro de temperatura influenciaria a escolha dessas terminações para uma palavra incompleta?
Parabéns pelo empenho em testar os limites do modelo e ir além do enunciado proposto, o fórum está sempre à disposição para conversarmos sobre suas descobertas.
Conteúdo relacionado:
Conte com o apoio da comunidade Alura na sua jornada. Abraços e bons estudos!