O modo de ativação, é a forma como o neurônio vai pensar? Tipo um neurônio de rosenblatt...?
O modo de ativação, é a forma como o neurônio vai pensar? Tipo um neurônio de rosenblatt...?
Olá, Danival! Tudo bem com você?
O conceito de neurônio artificial que temos hoje é totalmente derivado do conceito elaborado lá atrás por Frank Rosenblatt e outros pesquisadores. O neurônio de Rosenblatt é o que ficou conhecido como threshold logic unit (TLU) onde cada entrada é associada a um peso e esse neurônio calcula a soma ponderada dessas entradas e aplica uma função de ativação, e é exatamente isso que o neurônio apresentado está fazendo. A única distinção do nosso neurônio para o TLU é que a função de ativação usada no TLU é a step (degrau) e aqui usamos outras (como Relu, Sigmoid).
Podemos definir a função de ativação como os cálculos que o neurônio realiza com as entradas e os pesos para decidir o que cada entrada representa, se é muito significativa ou menos significativa e dependendo da relevância ativa ou não o neurônio. Existem várias funções de ativação como as demonstradas nesse artigo: 12 Types of Neural Network Activation Functions: How to Choose? (em inglês). Então o que fazemos com a função de ativação é colocar aquele valor da soma ponderada pelos pesos e bias como argumento da função e aí ativa ou não a saída.
Espero ter ajudado e que tenha ficado claro, mas se ainda persistir alguma dúvida estou sempre à disposição e pode nos retornar por aqui.
:)