Extremum intérieur et lemme de Fermat

Extremum local

Soit $f$ définie sur un intervalle $I$. On dit que $f$ admet un maximum local en $c$ s'il existe un voisinage de $c$ sur lequel $f(x) \leq f(c)$ ; on définit de même le minimum local. Le mot local est important : rien n'est exigé loin de $c$.

Un extremum est un maximum ou un minimum. Il est dit intérieur lorsque $c$ n'est pas une borne de $I$.

Le lemme de Fermat

Si $f$ est dérivable en $c$, point intérieur à $I$, et si $f$ admet un extremum local en $c$, alors $f'(c) = 0$.

Démonstration, dans le cas d'un maximum local. Pour $h > 0$ assez petit, $f(c + h) \leq f(c)$, donc le taux d'accroissement est négatif :

$$\frac{f(c + h) - f(c)}{h} \leq 0 \qquad \text{d'où} \qquad f'(c) = \lim_{h \to 0^+} \frac{f(c + h) - f(c)}{h} \leq 0$$

Pour $h < 0$ assez petit, le numérateur reste négatif mais le dénominateur change de signe, donc le taux est positif, et en passant à la limite à gauche, $f'(c) \geq 0$.

Les deux inégalités donnent $f'(c) = 0$. Le cas d'un minimum s'en déduit en appliquant ce qui précède à $-f$.

Trois contre-exemples à garder en tête

Situation	Fonction	Ce qui échoue
Extremum au bord	$f(x) = x$ sur $[0 \,;\, 1]$	maximum en $1$, mais $f'(1) = 1 \neq 0$
Fonction non dérivable	$f(x) = \lvert x \rvert$ sur $[-1 \,;\, 1]$	minimum en $0$, pas de nombre dérivé
Réciproque fausse	$f(x) = x^3$ sur $\mathbb{R}$	$f'(0) = 0$ sans extremum en $0$

La troisième ligne mérite d'être retenue telle quelle : $f'(c) = 0$ est une condition nécessaire d'extremum intérieur, jamais suffisante. C'est pourquoi une étude de fonction ne s'arrête pas à l'annulation de la dérivée, mais examine son changement de signe.

Piège classique

Appliquer le lemme de Fermat en une borne de l'intervalle. Sur $[0 \,;\, 1]$, la fonction $x \mapsto x$ atteint bel et bien son maximum, en $1$, sans que la dérivée s'y annule : la démonstration utilise des accroissements $h$ des deux signes, ce qui n'a plus de sens au bord. Vérifiez toujours que le point est intérieur avant d'écrire $f'(c) = 0$.