Olá, Eric. Tudo bem?
O Kafka, por si só, não possui uma configuração automática para descartar mensagens duplicadas, o que podemos é garantir que o produtor envie mensagens de forma idempotente. Isso significa que, mesmo que uma mensagem seja enviada várias vezes, o efeito no sistema será o mesmo como se tivesse sido enviada apenas uma vez. Podemos fazer isso da seguinte forma:
Properties properties = new Properties();
properties.setProperty(ProducerConfig.ENABLE_IDEMPOTENCE_CONFIG, "true");
Isso ajuda a evitar a duplicação de mensagens durante a produção. Outras de tratar é via código por meio de IDs exclusivos, filas de mensagens, dentre outros.. como mostra neste artigo. Está em inglês, mas, usando o recurso de tradução de páginas do próprio navegador é possível compreender.
Espero ter ajudado.
Caso este post tenha lhe ajudado, por favor, marcar como solucionado ✓.Bons Estudos!