Inferência bayesiana: diferenças entre revisões

Conteúdo apagado Conteúdo adicionado
Rfabbri (discussão | contribs)
Rfabbri (discussão | contribs)
regressao linear como IB
Linha 147:
A especificação de <math>p(h_i)</math> por critérios imprecisos encontra suporte e paralelo da [[lógica difusa]] (fuzzy),
veja a [[#IB, CN e IC|nota sobre IC]].
 
=== Regressão linear (caso específico da IB) ===
Considere evidências IID e nenhuma pista sobre qual hipótese é a mais provável (i.e. <math>p(h)</math> constante).
Segue diretamente da Equação () que:
:<math>h_a = argmax_h \prod_i p(e_i | h)</math>
 
Suponha agora <math>h = N(h', \sigma^2)</math>, i.e. considere como hipóteses <math>h'</math> as médias de
[[distribuição normal|distribuições normais]] com desvio padrão <math>\sigma</math> qualquer.
Segue que:
:<math>h_a = argmax_h \prod_i p(e_i|h) \sim argmax_{h'} \frac{e^{-(e_i - h')^2/(2\sigma^2)}}{\sqrt{2\pi\sigma^2}}=argmin_{h'} \sum_i (e_i - h')^2</math>
 
Ou seja, é encontrada a média que minimiza a soma dos quadrados.
Note que <math>h'</math> pode ser <math>h'=\{h_i\}</math>, e.g. <math>h_i = 5i + (h'').i^2 - 2^{-i}</math>
e escolhido <math>h_a = argmax p(h'' | e)</math>,
caso em que será realizada uma [[regressão linear]] ([[método dos mínimos quadrados]]) sob <math>h_i</math>.
 
Em resumo, a MLE pode ser considerada uma generalização do [[gradiente]],
e realiza a regressão linear se assumida relação gaussiana das hipóteses com relação aos dados.
 
 
=== Aplicação para regressão ou classificação em contexto ruidoso ===