Oi, Felipe. Tudo bem?
A função principal do Route53 é servir DNS, tradução dos domínios para IP's. Claro que você pode usar como uma espécie de Load Balancer, mas por não ser feito para isso, traz algumas limitações. Por exemplo, você não pode usar o 53 para configurar SSL e também não pode fazer redirects. Você precisaria apontar o 53 para um ALB e atrelar ao ALB o certificado SSL. O NGINX tem performace melhor para tratar as requisições HTTP, te permite fazer os redirects, e podem estar atrelados aos certificados SSL.
Melhor seria usar os dois em conjunto, usar o 53 para retornar os endereços para instâncias do NGINX em localizações geográficas diferentes, por exemplo.
Espero ter ajudado. Bons estudos!