Závisí rozdíl mezi P (A | B) a mezní pravděpodobností P (A) na rozdělení A a B? Například se obvykle dozvíte více, pokud je B spojitý a exponenciální vs. diskrétní a jednotný?


Odpověď 1:

[Edit: 17:33 EST - Promiň, byl jsem ve spěchu, takže jsem byl nedbalý s mojí odpovědí, opravil jsem pár pochybných okamžiků, jako když volám KL metriku, když to není v přísném smyslu, je jeden]

-Disclaimer- Předpokládám, že vás zajímá vztah P (A) a P (A | B) a pokusím se zkontrolovat, zda je P (A) „blízký“ k P (A | B) („rozdíl“ ve vaší otázce ). Neznáte formu P (A | B), ale znáte formu P (A) a P (B)

Vaše modelovací předpoklad je, že P (B) je distribuce určité formy a že P (A) je distribuce určité formy. Ptáte se, zda můžete:

1) spočítejte podmíněné P (A | B) pro libovolné libovolné P (A) a P (B): - Obecně pro jakoukoli formu libovolného rozdělení marginalů se o formě podmíněného příliš neříká, takže odpověď zní ne.

2) vypočítejte rozdíl mezi P (A | B) a P (A), který zná pouze P (A) a P (B), bez jakýchkoli dalších předpokladů pro modelování:

Správná metrika (dobře, nikoli skutečná metrika, ale stejně tak užitečná) distribuční nerovnosti je KL divergence, takže pro její výpočet musíte znát obě distribuce, kterou chcete porovnat.

Protože neznáte P (A | B), nemůžete vypočítat odchylku.