Acho que ainda não entendi os passos para utilizar a mask

Fala Davi, como vai brother, beleza?

Vamos lá, primeiro é entendermos a definição direta do Mask.

Esse recurso é o que possibilita você retirar ou evidenciar áreas de uma imagem, tendo a possibilidade de retornar a visualização dessa área a qualquer momento.

Perceba essa imagem abaixo:

Aqui é uma seleção feita sem o uso da máscara, o objetivo aqui é ta fazendo o destaque da lua da cena. Se notar, durante a seleção ficou um erro na imagem, onde fica uma sobra do cenário logo abaixo da lua, dessa forma será preciso desfazer todo o processo para que assim refaça a seleção de forma eficiente.

Agora olhe o mesmo processo utilizando máscara:

Aqui o objetivo é o mesmo, porém no momento que ocorreu o "erro" de sobrar um pouco do cenário no fundo, como estávamos utilizando o recurso da máscara, eu posso muito bem completar a seleção pintando de preto as áreas que eu quero que não sejam visíveis.

Vale reforçar, que a máscara depende 100% da pigmentação de branco e preto, onde, como pode ver na camada que recebeu a máscara, o branco te mostra a área que ainda está visível e o preto representa as áreas não visíveis da camada.

Espero ter ajudado, qualquer dúvida é só postar que vamos lhe ajudar. Bons estudos ;)