Un petit modèle probabiliste
L'urne de Polya est un modèle jouet probabiliste très populaire. Prenez une urne dans laquelle se trouve \(N\) boules: \(r_{0}\) rouges et \(b_{0}\) bleus \((r_{0}+b_{0}=N)\). On en tire une aléatoirement (uniformement) et on note sa couleur. On replace alors la boule dans l'urne et on y ajoute en plus une autre boule de cette même couleur. Par exemple pour le premier tirage on a la probabilité \(\frac{r_{0}}{r_{0}+b_{0}}\) d'obtenir une boule rouge. Si on tire effectivement une boule rouge, au deuxième tirage il y aura alors dans l'urne \(N+1\) boules dont \(r_{1}=r_{0}+1\) rouges et \(b_{1}=b_{0}\) bleus. Puis on recommence ainsi autant de fois qu'on le souhaite (après le n ième tirage, on a donc \(r_{n}\) rouges et \(b_{n}\) bleus avec \(r_{n}+b_{n}=N+n)\). Qu'est ce que ça donne la limite \(n\rightarrow\infty\)? Y a t-il (avec grande probabilité) une couleur très majoritaire? C'est à dire \(\frac{b_{n}}{r_{n}+b_{n}}\rightarrow0\) ou \(\frac{r_{n}}{r_{n}+b_{n}}\rightarrow0 \)? Ou bien les deux couleurs s'équilibrent-elles : \(\frac{b_{n}}{r_{n}+b_{n}}\rightarrow\frac{1}{2} \)? La réponse assez surprenante est ni l'une ni l'autre. On a que presque surement il existe x tel que \(\frac{b_{n}}{r_{n}+b_{n}}\rightarrow x\) (et donc \(\frac{r_{n}}{r_{n}+b_{n}}\rightarrow1-x)\) mais x est aléatoire sur [0,1]. On peut montrer que x suit une loi béta \(B(r_{0},b_{0})\). En particulier si il n'y a au départ une seule boule rouge et une seule boule bleu, x sera equidistribué sur [0,1].
Démonstration : Plaçons nous sur le segment [0,1] et tirons \(N-1\) points aléatoirements indépendemment et identiquement distribués que l'on ordonne \(0\leq x_{1}\le x_{2}\leq\cdots\leq x_{N-1}\leq1\). Fixons le point \(x_{r_{0}}\). On appellera \([0,x_{r_{0}}[\) la zone rouge et \(]x_{r_{0}},1]\) la zone bleu. On dira ensuite que \(0,x_{1},\cdots,x_{r_{0}-1}\) sont rouges et que \(x_{r_{0}+1},\cdots,1\) sont bleus. Continuons le tirage de points aléatoire iid uniforme sur [0,1] en fonction de zone où il apparait, il est soit rouge soit bleu. Connaissant \(x_{r_{0}}\) on a une Bernoulli : le point est rouge avec proba \(x_{r_{0}}\) et le point est bleu avec proba \(1-x_{r_{0}}\). La loi des grands nombre nous dit alors que le nombre moyen de point rouge converge vers \(x_{0}\). Et on connait également la loi de \(x_{0}\): c'est une loi béta \(B(r_{0},b_{0})\) (Remarquez puisqu'il y a au départ \(r_{0}-1\) points sur \([0,x_{r_{0}}[\) et \(b_{\text{0 }}-1\) points sur \(]x_{r_{0}},1]\) la fonction de densité est alors proportionnel à \(x_{r_{0}}^{(r_{0}-1)}(1-x_{r_{0}})^{(b_{0}-1)}\). Oublions maintenant que l'on connaisse \(x_{0}\) mais que l'on sait combien de points sont tombés dans la zone rouge (resp bleu). Par définition, après le n-ième tirage \(x_{r_{0}}\) est alors le \(r_{n}\) plus grand point parmi les \(N-1+n\) tirés. Tirons alors un nouveau point. Puisque que tous les tirages sont iid, tous les ordres possibles des différents points sont équiprobable. En particulier ce nouveau point aura \(\frac{r_{n}}{b_{n}+r_{n}}\) d'avoir un rang plus petit ou égale que \(r_{n}\) et \(\frac{b_{n}}{b_{n}+r_{n}}\) d'avoir un rang plus grand que \(r_{n}\). Et on retrouve alors exactement l'urne de Polya! Elle est donc bien équivalente au tirage de Bernoulli iid que l'on vient de décrire.
Le théorème de De Finetti
L'urne de Polya est probablement l'exemple le plus célèbre d'application du théorème de De Finetti. Pouvoir se ramener à des variable iid est extrèmement interessant mathématiquement parlant. On souhaiterait savoir quand cela est-il possible. Plus précisément à partir d'une suite de tirages non indépendent, est on capable de décomposer la loi de ces tirages en une variable aléatoire d'environnement (notre \(x_{0})\) et que conditionnellement à cette variable les tirages soient indépendents (selon une loi qui dépend de l'environnement x_{0}). On peut facilement voir que si cela était vrai, alors les lois des tirages aléatoires ne dépendraient pas de l'ordre de la réalisation du tirage en question. Ceci donne donc une condition nécessaire. Le théorème de De Finetti affirme que cette condition est également suffisante si l'on considère un tirage infini (la proba ne dépend pas d'une permutation fini.). Il s'énonce ainsi pour des Bernoulli: “Soit \(X_{1},X_{2},\cdots\) une suite infini de variable aléatoire de Bernoulli dont la loi de l'ensemble est invariante par permutation fini. Alors il existe une variable aléatoire Y tel que \(\frac{X_{1}+\cdots+X_{n}}{n}\rightarrow Y\) presque surement. De plus conditionnellement à cette limite les variables \(X_{i}\) se comportent comme des variables de Bernoulli indépendantes et identiquement distribuées avec \(\mathbb{P}(X=1|Y=y)=y\) et \(\mathbb{P}(X=0|Y=y)=1-y\).”
Un sujet de recherche actuel: les marches aléatoires renforcées.
Les marches aléatoires sont omniprésentes chez les probabilistes. Un modèle qui retient l'attention de plusieurs groupes de chercheurs actuellement sont les marches aléatoires renforcées (MAR). C'est à dire des marches aléatoires qui ont plus de chance de retourner à un endroit où elles sont déjà passées avant. Plus précisement, on pose quelque chose comme ça : “Si x est voisin de y (x\sim y), la probabilité que la marche saute de X_{n}=x en X_{n+1}=y est de la forme \(\frac{(a+n_{y})}{\sum_{y'\sim x}(a+n_{y'})}\) où \(n_{y}\) est le nombre de fois que la marche a visité y. Il se trouve que l'on peut appliquer une variante du théorème de De Finetti dans ce cas ci. Pour chaque sommet, on compte le nombre de fois que la marche a visité chacun de ses voisins et cela se comporte alors comme une sorte d'urne de Polya. On pourra alors construire un environnement aléatoire sur lequel est définit un processus de Markov qui a la même loi que la MAR. Mais quel est cet environnement aléatoire? La marche reste-elle coincée infinitésiment ou part-elle à l'infini? Et plein d'autres questions sur lesquelles travailler...