Oi, Felipe. Tudo bem?
O Zabbix é uma ferramenta mais antiga, portanto mais estável. Também possui uma abordagem de entregar diversas funcionalidades de fábrica, com dashboards, alertas etc. Já o Prometheus usa uma abordagem mais minimalista, entrega o serviço básico de monitoramento por padrão, mas para ter dashboards complexos, alertas, automação etc depende de integrações com outras ferramentas.
Por um lado, o Prometheus dá mais trabalho para ter tudo que você precisa, por outro te permite flexibilidade de escolher as ferramentas específicas para cada função.
Além disso o Zabbix funciona tanto buscando ativamente as métricas quanto recebendo dos hosts monitorados. Já o Prometheus age buscando ativamente as métricas, apenas.
Outro ponto é que o Prometheus oferece a possibilidade de fazer consultas complexas nas métricas, e ser feito para trabalhar bem com ambientes de microsserviços, onde os recursos vão sendo criados e destruídos mais dinamicamente.
As duas ferramentas possuem suas vantagens, cabe escolher a melhor pro contexto.
Espero ter ajudado. Bons estudos!