Em teoria da informação, o teorema de Sanov dá um limite à probabilidade de observar uma sequência atípica de amostras a partir de uma dada distribuição de probabilidade.[1]
Definição
Considere
um conjunto de distribuições de probabilidade sobre um alfabeto
e considere
uma distribuição arbitrária sobre
, sendo que
pode ou não estar em
. Suponha que são retiradas
amostras independentes e identicamente distribuídas a partir de
, representadas pelo vetor
. Além disto, deseja-se saber se a distribuição empírica,
, das amostras cai no interior do conjunto
— formalmente, escreve-se
. Então,
![{\displaystyle q^{n}(x^{n})\leq (n+1)^{|X|}2^{-nD_{\mathrm {KL} }(p^{*}||q)},}](https://wikimedia.org/api/rest_v1/media/math/render/svg/310e22e9e318e1f9ec760b5360ac92499544521d)
em que
é uma abreviação para
e
é a projeção de informação de
sobre
.
Em palavras, a probabilidade de retirar uma distribuição atípica é proporcional à divergência de Kullback–Leibler da distribuição verdadeira à distribuição atípica. No caso em que consideramos um conjunto de possíveis distribuições atípicas, há uma distribuição atípica dominante, dada pela projeção de informação.
Além disto, se
for o fecho de seu interior,
[2]
Referências
- ↑ Sanov, I. N. «On the probability of large deviations of random variables». North Carolina State University. Consultado em 17 de janeiro de 2018
- ↑ Cover, Thomas M.; Thomas, Joy A. (28 de novembro de 2012). Elements of Information Theory (em inglês). [S.l.]: John Wiley & Sons. ISBN 9781118585771
|
---|
Tempo discreto | |
---|
Tempo contínuo | |
---|
Ambos | |
---|
Campos e outros | |
---|
Modelos de série temporal | |
---|
Modelos financeiros | - Black–Derman–Toy
- Black–Karasinski
- Chen
- Cox–Ingersoll–Ross (CIR)
- Garman–Kohlhagen
- Heath–Jarrow–Morton (HJM)
- Heston
- Ho–Lee
- Hull–White
- LIBOR market
- Rendleman–Bartter
- SABR volatility
- Vašíček
- Wilkie
|
---|
Modelos atuariais | - Bühlmann
- Cramér–Lundberg
- Sparre–Anderson
|
---|
Modelos de filas | |
---|
Propriedades | |
---|
Teoremas limites | |
---|
Desigualdades | |
---|
Ferramentas | |
---|
Disciplinas | |
---|
- Categoria:Processos estocásticos
|
![Ícone de esboço](//upload.wikimedia.org/wikipedia/commons/thumb/3/35/E-to-the-i-pi.svg/34px-E-to-the-i-pi.svg.png) | Este artigo sobre matemática é um esboço. Você pode ajudar a Wikipédia expandindo-o. |