Oiii José, tudo bom?
Depende, se for um uma aplicação pequena tipo um projetinho acadêmico, os dados podem ficar na máquina mesmo. Agora se for um sistema que esta sendo utilizado por uma empresa e grava muitas linhas por dia, o recomendado é ter um servidor para guardar os dados e acessar através do IP externo no SGDB.
Esse banco de dados tem um alto poder de armazenamento. Dependendo da plataforma em que ele vai ser usado, as tabelas podem guardar grandes volumes de dados, o limite vai ficar por conta somente do tamanho máximo de arquivos que a plataforma que estiver sendo utilizada puder manipular.
Tabelas do tipo InooDB, é possível armazenar volumes de dados equivalentes a TB (Terabytes) de tamanho.
O MySQL é um banco de dados muito bom. Com ele é possível realizar bilhões de consultas em um único dia e também fazer o processamento de milhões de transações por minuto.
Espero ter sanado sua dúvida. Qualquer coisa me fala, tá bom? :D
Abraços.