Bom dia Nathalia, tudo bem ^^
ANtes de qualquer coisa, parabéns pela conclusão do projeto. 8D
com relação as dúvidas:
1 -> O modify contract não necessáriamente vai suavizar as bordas, ele vai reduzir o seu diametro em X pixeis, então se for uma seleção marcada ela vai continuar muito marcada, apenas menor, o feather é a propriedade mais adequada para definir uma suavização de fato, ok.
2 -> Este circulo que apareceu é chamado de HALO, também aparece em fotografias que possuem o reflexo do céu, no seu caso uma forma de suavizar este circulo é usando o efeito FILTER > BLUR > GLAUSSIAN BLUR para conseguir dar um certo desfoque na camada da luz e este circulo ficar menos marcado.
Mas é um efeito bem natural, mesmo marcado desta forma ^^
Um grande abraço e bons estudos