Solucionado (ver solução)
Solucionado
(ver solução)
2
respostas

Função de iniciar camadas

Olá, no video 5 da aula 2, eu percebi que o professor adicionou na função de iniciar camadas o seguinte:

*0.1

No final da função quando estava criando a matriz dos bias. Acredito que ele não explicou o porque, alguém poderia me dizer qual o motivo de multiplicar esse vetor por um escalar, como por exemplo 0.1 ?

Obrigado.

2 respostas
solução!

Obrigado! Não tinha percebido que não expliquei. O motivo é iniciar com valores baixos. Como vamos corrigindo os pesos da rede neural sempre existe a possibilidade deles começaram a aumentar muito. Isso previne a não convergência do algoritmo.

interessante!