Olá, Alisson. Tudo bem?

O nome do modem vem de modulator/demodulator. Modulação é a conversão de dados digitais em sinais analógicos. Demodulação é o processo inverso. Por exemplo, quando provedores de Internet que utilizam a linha telefônica pra servir internet, eles usam sinais analógicos para transferir os dados pelas linhas telefônicas, mas o computador entende sinais digitais e o modem faz essa conversão.

Já o roteador cria um rede local, divide uma conexão com Internet para diversos dispositivos conectados na mesma rede, decide para onde vão os pacotes que saem e entram na rede.

No caso citado acima de usar as linhas telefônicas, o roteador precisaria ser conectado num modem. O que acontece é que para redes domésticas é disponibilizado um dispositivo que une as duas coisa em um só, por isso muitas vezes só tem um um aparelho em casa.

Espero ter ajudado. Se tiver alguma dúvida, é só dizer.