Olá, Iosley. Tudo bem?
Parece que você está fazendo a seleção em uma camada separada da máscara. Lembre-se que o instrutor menciona que deve estar selecionado a máscara de camada do modelo. Por exemplo:
Espero ter ajudado!
Siga firme nos seus estudos e conte com o fórum sempre que precisar!
Abraços :)