Olá, Leandro. Tudo bem?
Esse é o comportamento esperado. Modificações feitas nas variáveis de ambiente não persistem a não ser que você faça algo explícito para isso.
Você pode, por exemplo, adicionar o comando que atualiza a variável de ambiente dentro do arquivo .bashrc, localizado na sua Home, que é executado sempre que uma nova instância do bash é iniciada. Repare que ele começa com um ponto.
Digamos que você tenha uma pasta chamada scripts dentro da sua home. Se você quiser executar os scripts dessa pasta de qualquer lugar, você pode adicionar a linha
export PATH=$PATH:~/scripts
dentro do seu .bashrc.
Espero ter ajudado.