Oie Robert, tudo bem contigo?
O aconteceu ao longo do tempo é que o Java se destacou e se desenvolveu mais para a parte web, possuindo uma comunidade mais ativa que fez com que o Java Web se tornasse o gigante que é hoje, possuindo diversas tecnologias e frameworks modernos que compoem o ecosistema web atual.
Já o Java para desktop ficou parado no tempo, pois foram surgindo outras tecnologias e linguagens mais eficientes que o Java para esse tipo de solução. No entanto, não é que seja impossível fazer bons aplicativos em java para desktop é que existem tecnologias bem melhores e eficientes para isso. Se torna até difícil te falar quais são os prós e contra aplicações desktop java já que nunca tentei mexer com essa parte.
Os três principais frameworks que podem ser usados para desenvolver aplicações Java desktop são:
Achei um artigo (em inglês) que fala sobre os frameworks desktop para Java, super recomendo a leitura.
Espero ter conseguido ajudar!
Se tiver qualquer outra dúvida estarei por aqui :)