Meu código com uma mudança para ajudar a entender os valores guardados.

Fala galera, costumo fazer essas pequenas mudanças para conseguir entender melhor o código, os valores guardados ciclo após ciclo.

public class TesteFatorial {
    public static void main(String[] args) {
        int fatorial = 1;
        for (int i = 1; i < 11; i++) {
            System.out.print((" (") + fatorial + ("*") + i + (") = "));
            fatorial = fatorial * i;
            System.out.println("Fatorial de " + i + " = " + fatorial);
        }
    }
}

O resultado fica assim :

(1*1) = Fatorial de 1 = 1

(1*2) = Fatorial de 2 = 2

(2*3) = Fatorial de 3 = 6

(6*4) = Fatorial de 4 = 24

(24*5) = Fatorial de 5 = 120

(120*6) = Fatorial de 6 = 720

(720*7) = Fatorial de 7 = 5040

(5040*8) = Fatorial de 8 = 40320

(40320*9) = Fatorial de 9 = 362880

(362880*10) = Fatorial de 10 = 3628800