E aí, Wisley! Beleza? Então, você tá pensando certo. Quando a consulta SQL fica muito grande, colocar tudo dentro de uma string no código Java pode ficar uma bagunça, né?
Olha só, pra ler um arquivo .sql no Java, o esquema é mais ou menos assim:
Ler o arquivo: Você pode usar classes como BufferedReader pra ler o arquivo .sql linha por linha. Isso torna o código mais limpo e separa as coisas direitinho.
Armazenar a consulta: Depois de ler o arquivo, você armazena essa consulta em uma string ou em algum objeto que a biblioteca JDBC entenda, como um PreparedStatement.
Executar a consulta: Com a consulta armazenada, é só executar no banco de dados como você faria normalmente.
Mas, se quiser já ir adiantando, dá uma pesquisada no Google que tem vários artigos e tutoriais mostrando como fazer isso passo a passo.