5 Séparation des convexes (Niveau M1)

Un élément $f\in E^{\prime}$ tel que $f\neq 0$ permet de construire un hyperplan fermé (translation de $Ker(\phi)$ , voir lemma 2.30): $\{x\in E,f(x)=c\}$ . Les deux ensembles $\{x\in E,f(x)\leq c\}$ et $\{x\in E,f(x)\geq c\}$ sont des demi-espaces. On dit que deux ensembles sont séparés (par l’hyperplan) si chaque ensemble est dans un des demi-espaces. On parle de séparation stricte si $C_{1}\subset\{x\in E,f(x)<c\}$ et $C_{2}\subset\{x\in E,f(x)>d\}$ pour $d>c.$

On va obtenir un résultat de séparation en utilisant un résultat abstrait de prolongement :

Théorème B.9 (de prolongement de Hahn-Banach) (admis).

Soient $E$ un espace vectoriel, $p:E\to\mathbb{R}$ une application positivement homogène et sous-additive, c’est-a-dire vérifiant :

‣

$p(tx)=tp(x)x\in E,t>0$
‣

$p(x+y)\leq p(x)+p(y),x,y\in E.$

Soient $G\subset E$ un sous-espace vectoriel et $g:G\to\mathbb{R}$ une application linéaire dominée par $p$ :

\forall x\in G,g(x)\leq p(x).

Alors il existe une forme linéaire $f$ sur $E$ qui prolonge $g$ (c’est-à-dire $\forall x\in G,g(x)=f(x)$ ) et encore dominée par $p$ , c’est-à-dire telle que

\forall x\in E,f(x)\leq p(x).

La version suivante du théorème de Hahn-Banach permet de séparer des ensembles convexes bien choisis.

Théorème B.10 (de séparation de Hahn-Banach).

Soient $A, B$ deux convexes non-vides disjoints d’un e.v.n. $E$ , ils sont séparés par un hyperplan dans les deux cas suivants :

18.

Si $A$ est ouvert, alors il existe $f\in E^{\prime}$ et $c\in\mathbb{R}$ telle que

$\forall x\in A,y\in B:f(x)<c\leq f(y).$
19.

Si $A$ est compact et $B$ est fermé, alors il existe $f\in E^{\prime}$ et $c<d\in\mathbb{R}$ telle que

$\forall x\in A,y\in B:f(x)<c<d<f(y).$

Démonstration :

1) Premier cas : $B=\{x_{0}\}.$

On peut supposer que $0\in A$ pour utiliser la fonctionnelle $\mu_{A}$ comme fonctionnelle sous-additive et positivement homogène $p$ du théorème de Hahn Banach. Soit $G=\mathbb{R}x_{0}$ et $g(tx_{0})=t$ .

On remarque que $\mu_{A}(x_{0})\geq 1$ car $A=Int(A)=\{x:\mu_{A}(x)<1\}$ par le théorème B.7 et $x_{0}\not\in A.$

donc pour t¿0 $g(tx_{0})=t\leq t\mu_{A}(x_{0})=\mu_{A}(tx_{0})$ et pour $t\leq 0$ $g(tx_{0})\leq 0\leq\mu_{A}(tx_{0})$ . Donc on obtient la domination hypothèse de Hahn-Banach :

\forall x\in G,g(x)\leq\mu_{A}(x).

En appliquant le théorème, on obtient donc $f$ linéaire étendant $g$ et telle que (en réutilisant la lipshitzianité obtenue dans la preuve du théorème B.7 (5))

\forall x\in E,f(x)\leq\mu_{A}(x)\leq M||x||.

Ceci implique en particulier $f\in E^{*},$ $f(x)<1$ pour $x\in A$ et $f(x)=1$ sur $B$ . Ce qui donne la séparation.

Second cas : $B$ quelconque.

On pose $C=A-B$ qui est convexe, ouvert (comme union $\cup_{y\in B}A-y$ ) et $0\not\in C$ . Donc d’après le premier cas il existe $f\in E^{\prime}$ telle que $f(z)<0$ pour $z=a-b\in A-B$ soit $f(a)<f(b)$ pour $a\in A$ , $b\in B.$ En passant au sup on obtient :

Sup_{x\in A}f(x)\leq Inf_{y\in B}f(y):=c.

De plus, comme $A$ ouvert on obtient $A\subset Int(\{x:f(x)\leq c\})=\{x:f(x)<c\}.$

2)Vérifions qu’il existe $\epsilon>0$ tel que $A+B(0,\epsilon)$ et $B+B(0,\epsilon)$ soient disjoints (ce sont aussi des convexes ouverts comme au 1). Sinon, on trouve $x_{n}\in A+B(0,1/n)\cap B+B(0,1/n)$ donc $y_{n}\in A,z_{n}\in B$ avec $||y_{n}-x_{n}||,||z_{n}-x_{n}||\leq 1/n$ . En extrayant par compacité une sous-suite $y_{n_{k}}\to y\in A$ on obtient $z_{n_{k}}\to y\in B,$ une contradiction.

Donc on peut appliquer le cas 1) à $A+B(0,\epsilon)$ et $B+B(0,\epsilon)$ . On obtient $f\in E^{\prime}$ non-nulle telle que :

\forall a\in A,\forall z\in B(0,\epsilon),\forall b\in B:\ \ \ f(a)+f(z)\leq% \alpha\leq f(b)+f(z)

En prenant des sup sur la boule unité :

\forall a\in A,\forall b\in B:\ \ \ f(a)+||f||\epsilon\leq\alpha\leq f(b)-||f|% |\epsilon.

Comme $||f||\neq 0$ , il suffit de prendre $c=\alpha-||f||\epsilon/2<d=\alpha+||f||\epsilon/2.$ □

Applications

Il vient de l’application directe au cas $A=\{x\}$ , $B=\{y\}$ qui sont des compacts.

Proposition B.11 (separation des points).

$E^{\prime}$ sépare les points de $E$ : Pour $x\neq y\in E$ il existe $f\in E^{\prime}$ telle que $f(x)\neq f(y).$

Le deuxième cas particulier permet de séparer un point et un espace fermé $\overline{F}$

Proposition B.12.

Si $F\subset E$ un sous-espace vectoriel de l’e.v.n. $E$ . Si $x\not\in\overline{F}$ alors il existe $f\in E^{\prime}$ telle que $f(x)=1$ et $F\subset Ker(f).$

En particulier, $F^{\perp}=0$ ssi $F$ est dense dans $E .$

La proposition précédente a des conséquences intéressantes pour comprendre l’injectivité et la surjectivité (ou plutôt la densité de l’image) des applications linéaires en dimension infinie.

On commence par un préliminaire algébrique sur l’orthogonalité dans les espaces de Banach.

Définition B.6.

Soit $E$ un e.v.n. et $F$ un sous-espace de $E$ et $N$ un sous-espace de $E^{\prime}$ . Les orthogonaux de $F$ et $N$ sont les sous-espaces fermés :

F^{\perp}:=\{f\in E^{\prime},f(x)=0x\in F\},

{}^{\perp}N:=\{x\in E,f(x)=0\forall f\in N\}.

Proposition B.13.

Soient $X, Y$ des e.v.n et $T\in L(X,Y)$ . Alors

Ker(T^{t})=[Im(T)]^{\perp}\ \ \ Ker(T)={}^{\perp}[Im(T^{t})].

Démonstration :

En effet, $y\in Ker(T^{t})$ ssi pour tout $x\in E$ , $0=[T^{t}(y)](x)=y(T(x))$ ssi $y\in[Im(T)]^{\perp}$ .

De même, $y\in Ker(T)$ ssi pour tout $x\in E^{*}$ , $0=x[T(y)]=[T^{t}(x)(y)$ ssi $y\in{}^{\perp}[Im(T^{t})]$ . □

Proposition B.14.

Soient $X, Y$ des e.v.n et $T\in L(X,Y)$ .

20.

$Im(T)$ est dense dans $Y$ si et seulement si $T^{t}$ est injectif.
21.

Si $X\subset Y$ , ${}^{\perp}(X^{\perp})=\overline{X}$ est la fermeture normique de $X$ dans $Y$ .

Démonstration :

Pour 1, $T^{t}$ est injectif si et seulement si $Im(T)^{\perp}=Ker(T^{t})=0$ (proposition B.13) ssi $Im(T)$ est dense par la proposition précédente.

Pour 2, $X\subset{}^{\perp}(X^{\perp})$ donc comme le terme de droite est fermé, l’adhérence est inclus. Réciproquement, soit $x\not\in\overline{X}$ par la conséquence de Hahn-Banach ci-dessus, soit $f\in E^{\prime}$ telle que $f(x)=1$ , et $f\in X^{\perp}$ , on déduit que $x\not\in{}^{\perp}(X^{\perp}).$ □

Le résultat suivant qu’on a utilisé pour les calculs de cônes normaux est un exercice typique d’application de Hahn-Banach.

Proposition B.15.

Soit $\{f_{i}:i=1,2,\cdots,k\}$ un ensemble fini dans $E^{\prime}$ (pour un e.v.n. $E$ ). Les affirmations suivantes sont équivalentes :

(1)

Il n’y a aucun $v\in E$ tel que $f_{i}(v)<0$ pour tout $i\in[1,n]$ ;
(2)

L’ensemble $\{f_{i}:i=1,2,...,k\}$ est positivement linéairement dépendant : il existe un vecteur non-nul $\lambda=(\lambda_{1},\cdots,\lambda_{k})\neq 0$ avec $\lambda_{k}\geq 0$ tel que $\displaystyle\sum_{i=1}^{k}\lambda_{i}f_{i}=0$ .

Démonstration :

Montrons premièrement le sens facile: $(2)\Rightarrow(1)$ . A partir de $\lambda_{i}>0$ , on obtient en appliquant à $v$ , $\displaystyle\sum_{i=1}^{k}\lambda_{i}f_{i}(v)=0$ , Or $f_{i}(v)\leq 0$ pour tout $i$ implique $\displaystyle\sum_{i=1}^{k}\lambda_{i}f_{i}(v)<0$ , donc cela implique (1) par contraposée.

Dans l’autre sens $(1)\Rightarrow(2)$ , on utilise le théorème de séparation de Hahn-Banach pour

K_{1}=\{y\in\mathbb{R}^{k}:y_{i}<0,\forall i\in\{1,2,...,k\}\},\ \ \ K_{2}=\{(% f_{1}(v),f_{2}(v),...,f_{k}(v)):v\in E\}.

Vu que $p_{i}(y)=y_{i}$ est linéaire sur $\mathbb{R}^{k}$ de dimension finie, donc convexe continue, on obtient que $K_{1}=\cap_{i=1}^{k}p_{i}^{-1}(]-\infty,0[)$ est une intersection finie de convexes ouverts, donc un convexe ouvert.

$K_{2}=Im(f_{1},\cdots,f_{k})\ni 0$ est un s.e.v de $\mathbb{R}^{k}$ , donc un convexe non-vide. (1) indique qu’ils sont disjoints. Par conséquent le cas 1 du théorème B.10 s’applique et donne $\lambda=(\lambda_{1},\cdots,\lambda_{k})\in E^{\prime}=\mathbb{R}^{k}$ et $c$ tels que:

\forall x\in K_{1},y\in K_{2},\qquad\qquad\langle\lambda,x\rangle<c\leq\langle% \lambda,y\rangle

Comme $K_{2}$ est un s.e.v., pour $t\to 0$ on a $c\leq t\langle\lambda,y\rangle\to 0$ , donc $c\leq 0$ . De plus $c\leq\pm n\langle\lambda,y\rangle$ et donc $\pm n\langle\lambda,y\rangle\leq-c=|c|$ force $|\langle\lambda,y\rangle|\leq\frac{|c|}{n}\to 0$ donc $\langle\lambda,y\rangle=0$ .

De plus $(-\frac{1}{n},\cdots,-1,\cdots,-\frac{1}{n})\in K_{1}$ so $-\lambda_{i}-\frac{1}{n}\displaystyle\sum_{j\neq i}\lambda_{j}<c\leq 0$ . Donc en passant à la limite, $n\to\infty$ , on obtient $-\lambda_{i}\leq 0$ , donc $\lambda_{i}\geq 0$ . Et $\lambda\neq 0$ vient de $\langle\lambda,(1,\cdots,1)\rangle<0$ .

□