Olá Wemerson, tudo bem?
Desculpe pela demora no retorno!
Tem como remover arquivos do seu repositório com base no seu .gitignore sim.
Como já foi feito o commit dos arquivos, primeiro você deve cancelar o rastreamento dos mesmos antes de adicioná-los na .gitignore. Mas antes, se certifique que não tenha alterações pendentes no seu repositório.
Para isso, realize o seguinte comando no seu terminal, após navegar para o local do seu repositório Git:
git rm --cached NOMEDOARQUIVO
Depois é só fazer o commit:
git add .gitignore
git commit -m 'Mensagem adicionou arquivo no gitignore'
Espero que tenha te ajudado e, qualquer coisa, estou à disposição!
Bons estudos :)