Des fréquences aux probabilités

Fréquence, loi des grands nombres et simulation

Une probabilité se calcule ; une fréquence s'observe. Comprendre le lien entre les deux — et sa limite — évite les erreurs de raisonnement les plus répandues.

Fréquence et probabilité

                nombre de fois où A s'est produit
fréquence de A = ---------------------------------      (observée, après coup)
                     nombre d'expériences

probabilité de A = valeur théorique du modèle           (calculée, avant)

La fréquence varie d'une série d'expériences à l'autre ; la probabilité, non. Lancer 100 fois une pièce peut donner 47 piles, puis 53 : la probabilité reste 0,5.

La loi des grands nombres

C'est le théorème qui relie les deux mondes :

Quand le nombre d'expériences augmente, la fréquence observée d'un événement se rapproche de sa probabilité.

fréquence
 de « pile »
   1,0 |
       |  •
   0,5 |----•--•---•----•------•--------•-------------  <- 0,5
       |       •      •     •      •
   0,0 |________________________________________
        10   50   100   500  1000  5000   n (lancers)

  au début : très instable      à la fin : resserré autour de 0,5

Ce que la loi ne dit pas. Elle ne dit pas que les écarts se « rattrapent ». Après dix piles d'affilée, la probabilité d'obtenir face au coup suivant reste exactement 0,5 : la pièce n'a pas de mémoire. Croire le contraire s'appelle l'erreur du joueur, et c'est le raisonnement sur lequel prospèrent les casinos.

Ce qui se stabilise, c'est la fréquence — parce que les dix premiers lancers pèsent de moins en moins lourd dans le total, pas parce qu'un mécanisme corrige quoi que ce soit.

Simuler pour estimer

Quand un calcul exact est trop difficile, on peut simuler l'expérience un grand nombre de fois et lire la fréquence obtenue. C'est la méthode dite de Monte-Carlo.

répéter 1 000 000 de fois :
    tirer un point au hasard dans le carré [0;1] × [0;1]
    compter s'il tombe dans le quart de disque de rayon 1

fréquence obtenue ≈ aire du quart de disque = π/4     ->  estimation de π

    1 +-------------+
      |  ....       |         proportion de points sous l'arc
      | ......      |              ≈ π/4 ≈ 0,785
      |.......      |
      |......  .    |         donc π ≈ 4 × fréquence
    0 +-------------+
      0             1

Cette idée, née avec les premiers ordinateurs, sert aujourd'hui à évaluer des risques financiers, à simuler des réacteurs ou à calculer des intégrales impossibles à traiter formellement.

La précision de l'estimation

Une simulation ne donne jamais la valeur exacte. Sa précision progresse comme 1/√n :

n = 100        ->  précision de l'ordre de 10 %
n = 10 000     ->  environ 1 %
n = 1 000 000  ->  environ 0,1 %

Autrement dit, gagner un chiffre significatif coûte cent fois plus de calculs. C'est la limite structurelle de la méthode.

En résumé