Olá, Mike,
Obrigado pelo feedback.
A maior desvantagem de usar o modelo Llama 3.1 8B localmente é a capacidade muito menor de inferência e precisão. Por exemplo, em um exercício com uma planilha contendo números de vendas, apesar de o relatório estar bem elaborado e estruturado, os valores apresentados estavam totalmente errados. Assim, ele acaba servindo mais para prototipagem.
Como minha máquina possui limitações de hardware, não consigo executar modelos mais poderosos. Nesse caso, uma alternativa seria utilizar um serviço online, como o Groq, que oferece gratuitamente alguns modelos maiores.
Outro ponto negativo é que, ao executar o n8n no Docker, não há tantos nós pré-configurados disponíveis.
As maiores vantagens de utilizar um modelo local são a rapidez para colocá-lo em funcionamento e validá-lo com um custo muito baixo, além do maior controle sobre o ambiente. As simulações e o uso de outros recursos ajudam bastante na compreensão do funcionamento dos fluxos, dos parâmetros e da comunicação entre os componentes. Além disso, esse processo me força a buscar alternativas e a pensar de forma mais crítica.