1
resposta

[Bug] Problemas com o modelo bge-m3:567m

Simplesmente ele não carrega o vectorstore, acredito que seja por conta de caracteres especiais contidos no pdf e por conta disso, estava me retornando o erro:

  1016 @classmethod
   1017 def from_texts(
   1018     cls,
   (...)
   1023     **kwargs: Any,
   1024 ) -> FAISS:
   1025     """Construct FAISS wrapper from raw documents.
   1026 
   1027     This is a user friendly interface that:
   (...)
   1041             faiss = FAISS.from_texts(texts, embeddings)
   1042     """
...
--> 133   raise ResponseError(e.response.text, e.response.status_code) from None
    134 except httpx.ConnectError:
    135   raise ConnectionError(CONNECTION_ERROR_MESSAGE) from None

ResponseError: failed to encode response: json: unsupported value: NaN (status code: 500)

Só consegui resolver trocando o modelo para o embeddinggemma:latest, enfim.. Mais uma vez levando meia hora para tentar contornar um problema pra dar continuidade no curso.

1 resposta

Ei! Tudo bem, Thiago?

Entendo o desgaste de tentar contornar esse tipo de erro. Esse problema com o bge-m3:567m no Ollama pode aconteceruando há tokens inválidos, caracteres especiais ou chunks vazios, o que acaba gerando NaN na etapa de embeddings e quebra o FAISS.

A solução que você aplicou está correta e com certeza ajudará outros colegas e a nós também. A equipe já está ciente dessas instabilidades e estão se preparando para aplicar melhorias no conteúdo para evitar esse tipo de bloqueio na progressão das aulas.

Continue se dedicando aos estudos e qualquer dúvida, compartilhe.

Alura Conte com o apoio da comunidade Alura na sua jornada. Abraços e bons estudos!