O Dropout pode ser utilizado para reduzir os mínimos locais, ou seja, a encontrar o mínimo global? Ou ele facilita cair nos mínimos locais?
O Dropout pode ser utilizado para reduzir os mínimos locais, ou seja, a encontrar o mínimo global? Ou ele facilita cair nos mínimos locais?
Boa tarde Mirelle,
O dropout visa uma maior generalização da MLP, desativando alguns perceptrons.
É mais ou menos o seguinte:
Imagine que um indivíduo vai para academia e começa a carregar pesos só com um lado do corpo, no mais ele ficará "superajustado" de um lado, com um tempo ele tem mais facilidade de carregar peso com um lado que com o outro que não foi trabalhado.
Assim como na MLP, pode ser que os dados fluam mais por um determinado caminho e assim evitando uma maior generalização da rede.
Espero ter sido claro com o meu exemplo bobo.