Algèbre linéaire et matricielle 3BIM

Algèbre linéaire et matricielle - Liste d'exercices

1. Espaces vectoriels, endomorphismes, théorème du rang

1.1 Déterminer lesquels des ensembles $E_1, ..., E_4$ sont des sous-espaces vectoriels de $\mathbb{R}^3$. Calculer leurs dimensions.

a) $E_1 = \{(x,y,z) \in \mathbb{R}^3 | x + y - z = x + y + z = 0 \}$.
b) $E_2 = \{(x,y,z) \in \mathbb{R}^3 | x^2 - y^2 = 0 \}$.
c) $E_3 = \{(x,y,z) \in \mathbb{R}^3 | e^x e^y = 0 \}$.
d) $E_4 = \{(x,y,z) \in \mathbb{R}^3 | z(x^2 + y^2) = 0 \}$.

1.2 Soit $(e_i)_{i \in \{1,...,n\}}$ une famille libre. Que peut-on dire de la famille $(e_1 + e_2, e_2 + e_3,...,e_{n-1} + e_n, e_n+e_1)$ ?

1.3 Soit $E = \mathbb{R}_+ = \{ x \in \mathbb{R} | x > 0\}$, muni de la somme interne $\oplus$ définie par $a \oplus b = ab$, pour tout $a, b \in E$ et la loi de multiplication par un scalaire $\otimes$ définie par $\lambda \otimes a = a^\lambda$, pour tout $\lambda \in \mathbb{R}$ et tout $a \in E$. Montrez que $E$ muni de ces deux loi est un e.v. sur $\mathbb{R}$.

1.4 Donnez un exemple d'endomorphisme surjectif mais pas injectif. Donnez un exemple d'endomorphisme injectif mais pas surjectif. (Essayez d'abord sans le théorème du rang).

1.5 Un endomorphisme $u$ d'un e.v. $E$ sur $K$ est nilpotent s'il existe $k \geq 1$ tel que $u^k = 0$. Le plus petit entier $k$ vérifiant cette propriété est appelé indice de nilpotence. (La puissance $u^k$ est la composée de $u$, $k$ fois: $u^2(x) = u(u(x))$. L'égalité $u^k = 0$ est l'égalité de l'application $u^k$ et le l'application $0$, c.-à-d. que $u^k(x) = 0$ pour tout $x \in E$).

Soit $u$ un endomorphisme nilpotent d'un e.v. $E$ sur $\mathbb{R}$ de dimension finie $n$. Soit $k$ l'indice de nilpotence de $u$.

a) Soit $x \in E$ tel que $u^{k-1}(x) \neq 0$. Montrer que la famille $(x, u(x), u^2(x), ..., u^{k-1}(x))$ est libre. En déduire que $k \leq n$.
b) Soit $F_j = \ker u^j$. Montrez que $F_0 \subset F_1 \subset F_2 ...$ S'arrête-t-on à un moment (est-ce qu'il existe $m$ tel que $F_j = F_m$ pour tout $j>m$) ?
c) Supposons que $k=n$. Montrez que la famille $(x, u(x), u^2(x), ..., u^{k-1}(x))$ est une base de $E$.
d) Soit $v$ un endomorphisme de $E$ tel que $uv = vu$. Montrer que $uv$ est nilpotent. Que peut-on dire de son indice de nilpotence ?
e) On pose \begin{align} \exp(u) = \sum_{i=0}^{\infty} \frac{u^i}{i!}. \end{align} Est-ce que cette expression est bien définie ?

1.6 Soit $E$ un e.v. sur $K$ et $(E_i)_{i \in I}$ une famille de s.e.v de $E$. On note $$ \sum_{i \in I} E_i $$ le sous-ensemble des éléments $x \in E$ qui possèdent la propriétés suivante: il existe une famille $(x_i)_{i \in I}$ de $E$ avec $x_i \in E_i$ pour tout $i \in I$ et $x_i = 0$ pour tout $i \in I$ sauf pour un nombre fini de valeurs $i$, et $x = \sum{i \in I} x_i$. C'est l'ensemble des éléments $x \in E$ qui s'expriment comme une somme finie d'éléments de $E_i$. Cet ensemble est appelé somme des sous-espaces vectoriels $E_i$. On dit que la somme est directe si tout $x \in \sum E_i$ admet une décomposition unique sous la forme $x = \sum{i \in I} x_i$ avec $x_i \in E_i$ et $x_i = 0$ sauf pour un nombre fini de valeurs $i$. On note la somme directe des $E_i$ par $$ \bigoplus_{i \in I} E_i. $$ Soit $E_1$ et $E_2$ deux s.e.v. de $E$. Si $E = E_1 + E_2$ et que $E_1 \bigcap E_2 = \{0\}$, alors on dit que $E_2$ est un sous-espace supplémentaire de $E_1$ dans $E$.

a) On considère les vecteurs $v_1 = (1,0,0,1)$, $v_2 = (0,0,1,0)$, $v_3 = (0,1,0,0)$, $v_4 = (0,0,0,1)$ et $v_5 = (0,1,0,1)$ dans $\mathbb{R}^4$. $\mathrm{Vect}\{v_1,v_2\}$ et $\mathrm{Vect}\{v_3\}$ sont-ils supplémentaires dans $\mathbb{R}^4$? Même question pour $\mathrm{Vect}\{v_1,v_3,v_4\}$ et $\mathrm{Vect}\{v_2,v_5\}$. ($\mathrm{Vect}\{x_1,...,x_n\}$ est le s.e.v. engendré par les combinaisons linéaires de $x_1,...,x_n$. C'est donc la somme des s.e.v. $E_i = \{\lambda x_i\}$).
b) Soit $E$ un e.v. sur $K$ et $E_1$ et $E_2$ deux s.e.v. supplémentaires de $E$. Montrer que $E = E_1 \oplus E_2$, c.-à-d. que la somme est directe.

1.7 Soit $\mathbb{R}_n[X]$ l'ensemble des polynômes de degré $\leq n$ sur $\mathbb{R}$.

Montrer que $\mathbb{R}_n[X]$ est un espace vectoriel sur $\mathbb{R}$.
On note $D$ l'opérateur de dérivation (si $p$ est un polynôme en $X$, $p(X)$, alors $Dp = dp/dX$). Montrez que $D$ est un endomorphisme nilpotent. Quel est son indice de nilpotence ?
Soit $x = X^n/n! \in \mathbb{R}_n[X]$. Montrez que $D^{n}x \neq 0$. En déduire que la famille $(x, Dx, D^2x, ..., D^{n}x)$ est une base (voir exercice 6).
Quelle est la matrice de $D$ dans la base canonique ?
Soit l’équation différentielle suivante : $Dy-y = x$, où $x,y \in E$. Trouvez une solution particulière à cette équation (trouvez un polynôme $y$ pour un $x$ donné). (Considérez l’application $D-I$, montrez qu’elle est inversible et calculer son inverse : $y = (D-I)^{-1} x$.) Trouvez une solution particulière de l’équation différentielle $y''-2y= 4x^3+3x^2-1$.

2. Matrices et vecteurs, décomposition en valeurs propres

2.1 Soit $B$ une matrice $4 \times 4$ à laquelle on applique les transformations suivantes :

on double la colonne 1,
on divise la ligne 3 par deux
on additionne la colonne 3 à la colonne 1
on soustrait la ligne 2 des autres lignes
on échanges les colonnes 1 et 4
on remplace la colonne 4 par la colonne 3
on supprime la colonne 1, de sorte que le nombre de colonne est réduit de 1

Ecrivez le résultat comme le produit de 8 matrices. Ecrivez ensuite le résultat comme un produit ABC de 3 matrices.

2.2 Montrez que si $A$ est unitaire et triangulaire, alors elle est diagonale

2.3 Une matrice $[a_{ij}]$ est triangulaire si $a_{ij} = 0$ pour tout $i > j$ (triangulaire supérieure) ou bien si $a_{ij} = 0$ pour tout $i < j$ (triangulaire inférieure). Montrez que si une matrice A est triangulaire et unitaire, alors elle est diagonale

2.4 Une matrice $A$ est hermitienne si $A = A^*$. Montrez que toutes les valeurs propres d’une matrice hermitienne sont réelles. Montrez que si $x$ et $y$ sont des vecteurs propres associés à des valeurs propres distinctes, alors $x$ et $y$ sont orthogonaux.

2.5 Montrez que la multiplicité géométrique de $\lambda$ correspond aussi à la dimension du $\ker (A-\lambda I)$.

2.6 Si $u$ et $v$ sont deux vecteurs de taille $n$, la matrice $A = I + uv^*$ est une matrice de perturbation de rang un de l'identité. Montrez que si $A$ est inversible, alors sont inverse a la forme $A^{-1} = I + \alpha*uv^*$ pour un scalaire $\alpha$. Donnez l'expression de $\alpha$. Pour quelles valeurs de $u$ et $v$ la matrice $A$ est-elle singulière? Si $A$ est singulière, que vaut $\ker A$?

2.7 Soit $S$ une matrice telles que $S^* = - S$.

a) Montrez que les valeurs propres de $S$ sont imaginaires pures
b) Montrez que $I-S$ est inversible
c) Montrez que la matrice $Q = (I-S)^{-1}(I+S)$, connue sous le nom de transformée de Cayley, est unitaire.

3. Décomposition en valeurs singulières

3.1 On considère la matrice $$ A = \left[ \begin{array}{cc} -2 & 11 \\ -10 & 5 \end{array} \right]. $$

a) Déterminez à la main une décomposition en valeurs singulières $A = U\Sigma {}^tV$ réelle. Trouvez les matrices $U$ et $V$ qui minimisent le nombre de signe négatifs dans les coefficients.
b) Listez les valeurs singulières, les vecteurs singuliers à gauche et les vecteurs singuliers à droite. Dessinez correctement la boule unité dans $\mathbb{R}^2$ et sont image sous $A$, avec les vecteurs singuliers et en notant leurs coordonnées.
Trouvez $A^{-1}$ en se servant de la décomposition en valeurs singulières.
d) Trouvez les valeurs propres de $A$.
d) Vérifiez que $\mathrm{det}\, A = \lambda_1 \lambda_2$ et que $|\mathrm{det}\, A| = \sigma_1 \sigma_2$.
e) Quelle est l'aire de l'ellipsoïde image de la boule unité sous $A$?

3.2 Calculez les décompositions en valeurs singulières des matrices suivantes:

a) $$ \left[ \begin{array}{cc} -3 & 0 \\ 0 & -2 \end{array} \right]. $$
b) $$ \left[ \begin{array}{cc} 2 & 0 \\ 0 & 3 \end{array} \right]. $$
c) $$ \left[ \begin{array}{cc} 0 & 2 \\ 0 & 0 \\ 0 & 0 \end{array} \right]. $$
d) $$ \left[ \begin{array}{cc} 1 & 1 \\ 0 & 0 \end{array} \right]. $$
e) $$ \left[ \begin{array}{cc} 1 & 1 \\ 1 & 1 \end{array} \right]. $$

4. Régression linéaire

4.1 Ecrivez en Python une routine pour faire une régression linéaire sur deux vecteurs $x, y \in \mathbb{R}^m$. Dans une régression linéaire, on cherche $a, b \in \mathbb{R}$ tels que $y \sim ax + b$ dans le sens des moindres carrés, c.-à-d. qu'on cherche un vecteur $c = {}^t(a, b)$ tels que la norme $|| y - (ax+b)||$ est minimisée. Pour ce faire, écrire le problème comme un problème d'ajustement polynomial (de degré 1) sous la forme $Ac=y$ et trouver $c$ qui minimise le vecteur de résidus $r = y - Ac$ à l'aide de la décomposition en valeurs singulières et de l'algorithme présenté. Générez des vecteurs $x$ et $y$ et testez votre routine.

4.2 Soit $x,y \in \mathbb{R}^m$. On considère le problème de moindres carrés $y \sim c_1 + c_2 x + c_3*x^2 + c_4*sin(2\pi x)$$.

a) Posez le problème sous la forme $Ac = y$ (Décrivez la matrice $A$.
b) Ecrivez les équations normales
c) Ecrivez un pseudo-code pour résoudre effectuer la régression linéaire à l'aide d'une factorisation QR. Pour ce faire, exprimez $A$ sous la forme $A = QR$, et vérifier que $A^*A = R^*R$. Exprimez ensuite les équations normales sous la forme $R^* R c = A^* y$. Montrez comment on peut résoudre ce systèmes en deux étapes. (La décomposition de la matrice symétrique définie positive $M = A^*A$ en un produit d'une matrice triangulaire inférieure et de sa tranposée R^* R$ est une décomposition de Choleski. La matrice $R^*$ est d'une certaine façon la racine carrée de $M$.)

5 Matrice unitaires, projecteurs, factorisation QR

5.1 Vérifiez que la matrice $U U^*$ est un projecteur orthogonal sur im $A$.

5.2 Que peut-on dire des valeurs propres d'une matrice unitaire?

5.3 Deux matrices $A$ et $B$ sont unitairement équivalentes si il existe une matrice unitaire $Q$ telle que $A = QBQ^*$. Deux matrices sont équivalentes unitairement si et seulement si elles ont les même valeurs singulières, vrai ou faux?

Calcul des valeurs propres

A venir.