Czytając o algorytmie wstecznej propagacji zazwyczaj spotykam się z tym, że funkcja błędu wygląda w taki sposób: J = 1/2*(z - y)^2
, gdzie z to wynik, który ma zwrócić sieć neuronowa, a y to wynik otrzymany na wyjściu sieci neuronowej.
Natomiast tutaj: home.agh.edu.pl/~horzyk/lectures/biocyb/BIOCYB-SieciNeuronowe.pdf (strona 29)
funkcja błędu jest określona wzorem J = z - y
I teraz pytanie. Czy funkcja błędu może zarówno przyjmować taką postać jaką podałem na początku tego wpisu (J = 1/2(z - y)^2) oraz może po prostu przyjąć taką postać J = z - y? Jeśli tak to jaka jest różnica pomiędzy późniejszym obliczaniem korekty wag według tych dwóch róznych funkcji błędu?