miniatura|354x354px|Esquema de blocs d'un perceptró: entrades, suma d'entrades, funció d'Activació i sortida miniatura|269x269px|Funció d'Activació Lògica A les xarxes neuronals artificials, la funció d'activació d'un node defineix la sortida d'aquest node donada una entrada o un conjunt d'entrades. Un circuit integrat estàndard es pot veure com una xarxa digital de funcions d'activació que pot ser "ON" (1) o "OFF" (0), segons l'entrada. Això és similar al perceptró lineal de les xarxes neuronals. Tanmateix, només les funcions d'activació no lineals permeten que aquestes xarxes calculin problemes no trivials utilitzant només un nombre reduït de nodes, i aquestes funcions d'activació s'anomenen no linealitats.
Les funcions d'activació més habituals es poden dividir en tres categories: funcions de cresta, funcions radials i funcions de plec.
La taula següent compara les propietats de diverses funcions d'activació més usuals : NomGràficEquacióDerivadaValidesaOrdre de continuïtatDerivableIdentitat/RampaminiaturaSíEsglaó/HeavisideminiaturaNOLògica (o esglaó suau, o sigmoide)miniaturaSíTangent hiperbòlicaminiaturaSíArc tangentminiaturaSíSigne suau miniaturaSíUnitat de rectifició lineal (ReLU)miniaturaSíUnitat de rectificació lineal paramètric (PReLU)miniaturaSíUnitat exponencial lineal (ELU)miniatura siSíUnitat de rectificació lineal suau (SoftPlus)miniaturaSíIdentitat corbaminiaturaSíExponencial suau paramètrica ()Luke B. Godfrey and Gashler, Michael S. A Continuum among Logarithmic, Linear, and Exponential Functions, and Its Potential to Improve Generalization in Neural Networks. In Proceedings of the 7th International Joint Conference on Knowledge Discovery, Knowledge Engineering and Knowledge Management: KDIR, pages 481-486. Lisbon, Portugal, November, 2015, .miniaturaSíSinusoideminiaturaSíSinus cardinalminiaturaSíFunció gaussienneminiaturaSí
Referències
Categoria:Xarxes neuronals artificials