Loi des grands nombres

Dans cet article, nous expliquons en quoi consiste la loi des grands nombres et à quoi elle sert en probabilités et en statistiques. Vous pourrez également voir un exemple d’application de la loi des grands nombres et, en plus, quelle est la relation entre cette loi et le théorème central limite.

Quelle est la loi des grands nombres ?

En théorie des probabilités, la loi des grands nombres est une règle qui décrit le résultat de la réalisation d’un grand nombre de fois. Plus précisément, la loi des grands nombres dit que la moyenne des résultats obtenus à partir d’un grand nombre d’essais sera proche de la valeur attendue.

De plus, selon la loi des grands nombres, plus on fait d’expériences, plus les résultats seront proches de la valeur attendue.

Par exemple, il se peut que si nous lançons une pièce cinq fois, nous n’obtenions face qu’une seule fois (20 %). Cependant, si l’on lance la pièce plusieurs fois (plus de 1000 lancers), pratiquement la moitié des résultats seront face (50%) puisque c’est sa valeur attendue. Ceci est un exemple de la loi des grands nombres.

L’origine de la loi des grands nombres se trouve au XVIe siècle avec Gerolamo Cardano, cependant de nombreux auteurs ont participé à l’élaboration de cette loi statistique au cours de l’histoire : Bernoulli, Poisson, Chebyshev, Markov, Borel, Cantelli, Kolmogorov et Khinchin.

Exemple de la loi des grands nombres

Après avoir vu la définition de la loi des grands nombres, nous allons voir un exemple concret pour mieux comprendre sa signification. Dans ce cas, nous analyserons les probabilités des résultats possibles que nous pouvons obtenir en lançant un dé.

Il y a six résultats possibles en lançant un dé (1, 2, 3, 4, 5 et 6), donc la probabilité théorique de chaque événement élémentaire est :

Nous allons donc ensuite simuler le lancement plusieurs fois et enregistrer les résultats dans un tableau de fréquences pour vérifier si la loi des grands nombres est respectée.

Pour que vous puissiez voir l’importance du nombre d’expérimentations réalisées, nous simulerons d’abord dix lancements, puis une centaine et enfin un millier. Ainsi, les résultats obtenus à partir de la simulation de 10 lancers aléatoires de dés sont les suivants :

Comme vous pouvez le constater, les probabilités de fréquence obtenues en simulant seulement dix lancers ne ressemblent pas aux probabilités théoriques.

Mais à mesure que nous augmentons le nombre d’expériences, ces deux mesures deviennent plus similaires, regardez la simulation de 100 lancements :

Désormais, la probabilité de fréquence calculée pour chaque nombre sur le dé est plus similaire à sa probabilité théorique, cependant, nous obtenons toujours des valeurs très différentes.

Finalement, on fait la même procédure mais en simulant 1000 lancements :

Comme on peut le voir dans le dernier tableau, désormais les valeurs des probabilités de fréquence sont très proches des probabilités théoriques.

En résumé, plus on augmente le nombre d’expériences réalisées, plus la valeur de la probabilité fréquentielle d’un événement se rapproche de sa probabilité théorique d’occurrence. Par conséquent, la loi des grands nombres est respectée, car plus nous effectuons d’itérations, plus les valeurs expérimentales sont similaires aux valeurs théoriques.

Limitation de la loi des grands nombres

La loi des grands nombres est valable dans la grande majorité des cas, cependant, certains types de distributions de probabilité ne satisfont pas à ce théorème statistique.

Par exemple, la distribution de Cauchy ou la distribution de Pareto (α<1) ne convergent pas à mesure que le nombre d’essais augmente. Cela est dû aux grandes queues des distributions, qui font qu’elles n’ont aucune valeur attendue.

En revanche, certaines expériences sont biaisées en raison de leurs caractéristiques, de sorte que le chercheur a tendance à modifier les résultats (intentionnellement ou non) pour des raisons rationnelles, psychologiques, économiques, etc. Dans ces cas, la loi des grands nombres n’aide pas à résoudre le biais, mais le biais persistera quelle que soit l’augmentation du nombre d’essais.

Loi des grands nombres et théorème central limite

La loi des grands nombres et le théorème central limite sont deux règles fondamentales de probabilité et de statistique étroitement liées. Dans cette section, nous verrons donc quelle est leur relation et quelle est leur différence.

Le théorème central limite, également appelé théorème central limite, dit que la distribution des moyennes de l’échantillon se rapproche d’une distribution normale à mesure que la taille de l’échantillon augmente, quelle que soit la distribution de probabilité de la population.

La différence entre la loi des grands nombres et le théorème central limite est que la loi des grands nombres dit que la moyenne d’un grand nombre d’essais est proche de sa valeur attendue, mais le théorème central limite dit que la moyenne d’un grand nombre des échantillons se rapproche d’une distribution normale.