Vitor, tudo bom? A sua pergunta é bem pertinente, e difícil de responder. Vou tentar não me alongar na resposta, que para mim é "depende".
Só para te dar um exemplo coloquei dois links abaixo sobre as duas ferramentas de ML em nuvem mais utilizadas vindas de grandes players nessa área. Uma fala de refazer o modelo, a outra de incrementar o modelo. Dá uma lida:
A gente sabe (ou deveria saber) que o ML é uma ferramenta, fazendo sentido dentro de uma organização se ela tiver um propósito ao negócio. Também sabemos que o negócio muda com o tempo. Por conta do clima, por conta de um novo vírus, um espirro em Taiwan, assim o seu modelo às vezes precisa também ser modificado por conta dessas novas variáveis que apareceram no meio do caminho.
O que eu usaria como critério, e essa é uma opinião pessoal, é lembrar que treinamento tem um custo (relevante ou não). Assim se o seu modelo está ficando muito distante da realidade provavelmente terá muitas mudanças e com isso eu refaria o treinamento. Caso contrário buscaria uma forma de incrementá-lo. Sempre bem atendo às métricas disso. Bom, espero ter ajudado.