Modèle théorique

Dans le cas le plus courant, le modèle théorique est une famille de fonctions f(x;\theta) d’une ou plusieurs variables muettes x, indexées par un ou plusieurs paramètres \theta inconnus. La méthode des moindres carrés permet de sélectionner parmi ces fonctions, celle qui reproduit le mieux les données expérimentales. On parle dans ce cas d’ajustement par la méthode des moindres carrés. Si les paramètres \theta ont un sens physique, la procédure d’ajustement donne également une estimation indirecte de la valeur de ces paramètres.

La méthode consiste en une prescription (initialement empirique), qui est que la fonction f(x;\theta) qui décrit « le mieux » les données est celle qui minimise la somme quadratique des déviations des mesures aux prédictions de f(x;\theta). Si, par exemple, nous disposons de N mesures (y_i)_{ i = 1,\ldots,N}, les paramètres \theta « optimaux » au sens de la méthode des moindres carrés sont ceux qui minimisent la quantité :

S(\theta) = \sum_{i=1}^N \left(y_i - f(x_i;\theta)\right)^2 = \sum_{i=1}^N r^2_i(\theta)

où les r_i(\theta) sont les résidus du modèle, i.e. r_i(\theta) est l'écart entre la mesure y_i et la prédiction f(x_i;\theta) donnée par le modèle. S(\theta) peut être considéré comme une mesure de la distance entre les données expérimentales et le modèle théorique qui prédit ces données. La prescription des moindres carrés commande que cette distance soit minimale.

Si, comme c'est généralement le cas, on dispose d'une estimation de l'écart-type \sigma_i du bruit qui affecte chaque mesure y_i, on l'utilise pour « peser » la contribution de la mesure au χ². Une mesure aura d'autant plus de poids que son incertitude sera faible :

\chi^2(\theta) = \sum_{i=1}^N \left(\frac{y_i - f(x_i;\theta)}{\sigma_i}\right)^2 = \sum_{i=1}^N w_i \left(y_i - f(x_i;\theta)\right)^2

La quantité w_i , inverse de la variance du bruit affectant la mesure y_i , est appelée poids de la mesure y_i . La quantité ci-dessus est appelée khi carré ou khi-deux. Son nom vient de la loi statistique qu'elle décrit, si les erreurs de mesure qui entachent les y_i sont distribuées suivant une loi normale (ce qui est très courant). Dans ce dernier cas, la méthode des moindres carrés permet de plus d’estimer quantitativement l’adéquation du modèle aux mesures, pour peu que l'on dispose d'une estimation fiable des erreurs \sigma_i. Si le modèle d’erreur est non gaussien, il faut généralement recourir à la méthode du maximum de vraisemblance, dont la méthode des moindres carrés est un cas particulier.

Son extrême simplicité fait que cette méthode est très couramment utilisée de nos jours en sciences expérimentales. Une application courante est le lissage des données expérimentales par une fonction empirique (fonction linéaire, polynômes ou splines). Cependant son usage le plus important est probablement la mesure de quantités physiques à partir de données expérimentales. Dans de nombreux cas, la quantité que l’on cherche à mesurer n’est pas observable et n’apparaît qu’indirectement comme paramètre \theta d’un modèle théorique f(x;\theta). Dans ce dernier cas de figure, il est possible de montrer que la méthode des moindres carrés permet

...