Perda de articulação

Em aprendizagem automática, a perda de articulação é uma função de perda^[1]^[2] usada para classificadores de treinamento.^[3] A perda de articulação é usada para classificação de "margem máxima",^[4]^[5]^[6] principalmente para máquinas de vetores de suporte (SVMs).^[7] Para uma saída pretendida $t = \pm1$ e um escore de classificador $y$ , a perda de articulação da previsão $y$ é definida como:

\ell (y)=\max(0,1-t\cdot y)

Observe que $y$ deve ser a saída "crua" da função de decisão do classificador, não o rótulo da classe prevista. Por exemplo, em SVMs lineares $y=\mathbf {w} \cdot \mathbf {x} +b$ , onde $(\mathbf {w} ,b)$ são os parâmetros do hiperplano e $\mathbf {x}$ é o ponto a ser classificado. Pode-se ver que quando $t$ e $y$ têm o mesmo sinal (que significa que $y$ prediz a classe correta) e $|y|\geq 1$ , a perda de articulação $\ell (y)=0$ , mas quando eles têm sinal oposto, $\ell (y)$ aumenta linearmente com $y$ (erro unilateral).^[8]^[9]^[10]

A em aprendizagem de máquina, a perda de articulação também é conhecida como "hinge loss" ou como "SVM loss".

Ver também editar

Referências

↑ Wald, A. (1950). Statistical Decision Functions. [S.l.]: Wiley
↑ Cramér, H. (1930). On the mathematical theory of risk. Centraltryckeriet. [S.l.: s.n.]
↑ Alpaydin, Ethem (2010). Introduction to Machine Learning. [S.l.]: MIT Press. p. 9. ISBN 978-0-262-01243-0
↑ Boyd, Stephen P.; Vandenberghe, Lieven (2004). Convex Optimization (pdf). [S.l.]: Cambridge University Press. ISBN 978-0-521-83378-3
↑ Golshtein, E. G.; Tretyakov, N.V. (1996). Modified Lagrangians and monotone maps in optimization. [S.l.]: New York: Wiley. p. 6. ISBN 0-471-54821-9
↑ Shimizu, Kiyotaka; Ishizuka, Yo; Bard, Jonathan F. (1997). Nondifferentiable and two-level mathematical programming. [S.l.]: Boston: Kluwer Academic Publishers. p. 19. ISBN 0-7923-9821-1
↑ Rosasco, L.; De Vito, E. D.; Caponnetto, A.; Piana, M.; Verri, A. (2004). «Are Loss Functions All the Same?» (PDF). Neural Computation. 16 (5): 1063–1076. PMID 15070510. doi:10.1162/089976604773135104
↑ Motwani, Rajeev; Raghavan, Prabhakar (1995). Randomized Algorithms. New York: Cambridge University Press. ISBN 0-521-47465-5
↑ Cormen, Thomas H.; Leiserson, Charles E.; Rivest, Ronald L.; Stein, Clifford (2001). «Ch 5. Probabilistic Analysis and Randomized Algorithms». Introduction to Algorithms 2nd ed. Boston: MIT Press and McGraw-Hill. ISBN 0-262-53196-8
↑ Berman, Kenneth A; Paul, Jerome L. (2005). «Ch 24. Probabilistic and Randomized Algorithms». Algorithms: Sequential, Parallel, and Distributed. Boston: Course Technology. ISBN 0-534-42057-5

Este artigo sobre computação é um esboço. Você pode ajudar a Wikipédia expandindo-o.

[1] Wald, A. (1950). Statistical Decision Functions. [S.l.]: Wiley

[2] Cramér, H. (1930). On the mathematical theory of risk. Centraltryckeriet. [S.l.: s.n.]

[3] Alpaydin, Ethem (2010). Introduction to Machine Learning. [S.l.]: MIT Press. p. 9. ISBN 978-0-262-01243-0

[4] Boyd, Stephen P.; Vandenberghe, Lieven (2004). Convex Optimization (pdf). [S.l.]: Cambridge University Press. ISBN 978-0-521-83378-3

[5] Golshtein, E. G.; Tretyakov, N.V. (1996). Modified Lagrangians and monotone maps in optimization. [S.l.]: New York: Wiley. p. 6. ISBN 0-471-54821-9

[6] Shimizu, Kiyotaka; Ishizuka, Yo; Bard, Jonathan F. (1997). Nondifferentiable and two-level mathematical programming. [S.l.]: Boston: Kluwer Academic Publishers. p. 19. ISBN 0-7923-9821-1

[7] Rosasco, L.; De Vito, E. D.; Caponnetto, A.; Piana, M.; Verri, A. (2004). «Are Loss Functions All the Same?» (PDF). Neural Computation. 16 (5): 1063–1076. PMID 15070510. doi:10.1162/089976604773135104

[8] Motwani, Rajeev; Raghavan, Prabhakar (1995). Randomized Algorithms. New York: Cambridge University Press. ISBN 0-521-47465-5

[9] Cormen, Thomas H.; Leiserson, Charles E.; Rivest, Ronald L.; Stein, Clifford (2001). «Ch 5. Probabilistic Analysis and Randomized Algorithms». Introduction to Algorithms 2nd ed. Boston: MIT Press and McGraw-Hill. ISBN 0-262-53196-8

[10] Berman, Kenneth A; Paul, Jerome L. (2005). «Ch 24. Probabilistic and Randomized Algorithms». Algorithms: Sequential, Parallel, and Distributed. Boston: Course Technology. ISBN 0-534-42057-5

[1]

[2]

[3]

[4]

[5]

[6]

[7]

[8]

[9]

[10]