Solucionado
Entendi que o escopo de test pode ser usado para que a dependência seja usada apenas para compilar testes, mas não entendi como o Maven sabe que algo é um teste. Ele considera tudo que está em src/test/java? Considera tudo que usa a anotação do JUnit @test? Como ele reconhece o que é um teste?
Realmente, é através da anotação @test que o Maven reconhece um teste. O core do maven já é otimizado para reconhecer a anotação
E se eu não utilizar JUnit no meu projeto? O Maven vai reconhecer que meu teste é de fato um teste? Ele tem suporte a outros frameworks de teste no seu core?
Sim ele suporte a maiores dos frameworks de test,
http://geeknizer.com/junit-alternatives-testing-frameworks/
Porem se não utilizar nenhum framework, você teria que criar uma marcação nos seus tests e configurar o maven para reconhecer essas marcações.
Eh uma boa abordagem para aprender como as coisas funcionam, você teria um grande trabalho.
No final a questão e' decidir o que você quer, se vale a pena implementar ou usar o que já esta a mão.