Oi, Pedro, tudo bem?
Nesse caso, o this se refere ao elemento que disparou o evento de clique, ou seja, o botão que foi clicado. O id é uma propriedade desse elemento que contém o valor do atributo id do botão.
Ao utilizar document.getElementById(this.id), estamos buscando o elemento do DOM que possui o ID correspondente ao ID do botão clicado. Por exemplo, se você clicar no botão com id="btnFiltrarLivrosFront", o this.id será igual a "btnFiltrarLivrosFront". E ao utilizar o document.getElementById(this.id), você estará obtendo o elemento do DOM com o id="btnFiltrarLivrosFront".
Em seguida, utilizamos a propriedade value desse elemento para obter a categoria do botão.
Espero ter ajudado. Caso tenha dúvidas, conte com o fórum. Abraços!
Caso este post tenha lhe ajudado, por favor, marcar como solucionado ✓. Bons Estudos!