Olá, bom dia Heberth, blz =D
Man, quando você diz criar uma camada, você esta criando aquela camada ao lado da outra não é? Se for isso nomeamos essa camada vinculada a outra de mascara.
O que pode estar acontecendo no seu projeto é o seguinte, uma mascara ela funciona ocultando parte da camada que ele esta vinculado. Onde você pintar de preto nesta mascara, vai ocultar o que existe, e onde pintra de branco vai mostrar novamente.
O professor faz a seleção, vai na mascara (a camada que fica ao lado), e fala que deleta correto? Acontece que ao apertar o delete na camada o que o programa está fazendo é pintar de preto a parte selecionada. E ai que esta o problema, ele pinta de preto por que la nas cores a cor preta é a cor de fundo.
É uma coisa bem sutil, eu vou deixar um vídeo aqui mostrando o que eu estou querendo dizer blz, acho que fica mais fácil mostrar desta forma.
video mascara
Espero que isso ajude ^^
Um abraço e bons estudos =D