Comparação entre números independente de , ou . ou inteiro e decimal com tratamento para não aceitar outros símbolos que não sejam números:

import java.util.Scanner;

public class ComparaNumero { public static void main(String[] args) { Scanner sc = new Scanner(System.in);

    System.out.print("Digite o primeiro número: ");
    String input1 = sc.nextLine();

    System.out.print("Digite o segundo número: ");
    String input2 = sc.nextLine();

    input1 = input1.replace(",", ".");
    input2 = input2.replace(",", ".");

    try {
        double numero1 = Double.parseDouble(input1);
        double numero2 = Double.parseDouble(input2);

        if (numero1 == numero2) {
            System.out.println("Os números são iguais.");
        } else if (numero1 > numero2) {
            System.out.println("O primeiro número é maior.");
        } else {
            System.out.println("O segundo número é maior.");
        }

    } catch (NumberFormatException e) {
        System.out.println("Erro: Por favor, insira números válidos.");
    }

    sc.close();
}

}