Algèbre linéaire et analyse matricielle

Début 18 septembre 2017

À propos du cours

Cette UE permet d’acquérir des bases d'algèbre linéaire avec l'accent mis sur les méthodes de résolution numérique.

Plan du cours

Rappel et introduction

  • Espaces vectoriels, sous-espaces vectoriels
  • Applications linéaires, image, noyau
  • Famille, partie libre, génératrice base, dimension
  • Théorème de la base incomplète
  • Matrices, rang d'une application linéaire
  • Théorème du rang

Matrices et vecteurs

  • Vecteurs et matrices orthogonales
  • Matrice inverse fois vecteur: $A^{-1} b$
  • Valeurs propres et vecteurs propres
  • Décomposition en valeurs propres
  • Multiplicité géométrique
  • Polynôme caractéristique
  • Multiplicité algébrique

Décomposition en valeurs singulières

  • Analyse en composantes principales

Moindres carrés et régression linéaire

  • Interpolation et ajustement polynômial
  • Problème des moindres carrés
  • Pseudo-inverse d'une matrice rectangulaire
  • Projecteur orthogonal
  • Algorithme pour le problème de moindres carrés
  • Régression linéaire

Factorisation QR

  • Factorisation Gram-Schmidt
  • Factorisation Householder
  • Résolution de systèmes linéaires
  • Régression linéaire

Algorithmes pour les valeurs propres

  • Méthode de la puissance pour le calcul des valeurs propres
  • Algorithme QR

Projet de semestre

À déterminer: réduction de dimension, classement, systèmes de recommandation

Evaluations

  • Un Quiz
  • Un DM/partiel
  • Un projet

Références

  • LN Trefethen & D Bau III, Numerical Linear Algebra, 1997 SIAM Philadelphia
  • J Fresnel, Algèbre des matrices, Hermann, Paris

Logiciels/Numérique

Codes Pyhton sur Github

Contact/Questions

Samuel Bernard à bernard@math.univ-lyon1.fr

S2 (25/09) Rappels

Vous trouverez les notes de cours pour la séance ici: Introduction (PDF)

Cette semaine:
  • Espaces vectoriels, sous-espaces vectoriels
  • Applications linéaires, image, noyau
  • Famille, partie libre, génératrice base, dimension
  • Théorème de la base incomplète
  • Matrices, rang d'une application linéaire
  • Théorème du rang

1. Déterminer lesquels des ensembles $E_1, ..., E_4$ sont des sous-espaces vectoriels de $\mathbb{R}^3$. Calculer leurs dimensions. $$E_1 = \{(x,y,z) \in \mathbb{R}^3 | x + y - z = x + y + z = 0 \}$$ $$E_2 = \{(x,y,z) \in \mathbb{R}^3 | x^2 - y^2 = 0 \}$$ $$E_4 = \{(x,y,z) \in \mathbb{R}^3 | z(x^2 + y^2) = 0 \}$$

2. Soit $E = \mathbb{R}_+ = \{ x \in \mathbb{R} | x > 0\}$, muni de la somme interne $\oplus$ définie par $a \oplus b = ab$, pour tout $a, b \in E$ et la loi de multiplication par un scalaire $\otimes$ définie par $\lambda \otimes a = a^\lambda$, pour tout $\lambda \in \mathbb{R}$ et tout $a \in E$. Montrez que $E$ muni de ces deux loi est un e.v. sur $\mathbb{R}$.

3. Donnez un exemple d'endomorphisme surjectif mais pas injectif. Donnez un exemple d'endomorphisme injectif mais pas surjectif. (Essayez d'abord sans le théorème du rang).

4. Soit $E$ un e.v. sur $K$ et $(E_i)_{i \in I}$ une famille de s.e.v de $E$. On note $$ \sum_{i \in I} E_i $$ le sous-ensemble des éléments $x \in E$ qui possèdent la propriétés suivante: il existe une famille $(x_i)_{i \in I}$ de $E$ avec $x_i \in E_i$ pour tout $i \in I$ et $x_i = 0$ pour tout $i \in I$ sauf pour un nombre fini de valeurs $i$, et $x = \sum{i \in I} x_i$. C'est l'ensemble des éléments $x \in E$ qui s'expriment comme une somme finie d'éléments de $E_i$. Cet ensemble est appelé somme des sous-espaces vectoriels $E_i$. On dit que la somme est directe si tout $x \in \sum E_i$ admet une décomposition unique sous la forme $x = \sum{i \in I} x_i$ avec $x_i \in E_i$ et $x_i = 0$ sauf pour un nombre fini de valeurs $i$. On note la somme directe des $E_i$ par $$ \bigoplus_{i \in I} E_i. $$ Soit $E_1$ et $E_2$ deux s.e.v. de $E$. Si $E = E_1 + E_2$ et que $E_1 \bigcap E_2 = \{0\}$, alors on dit que $E_2$ est un sous-espace supplémentaire de $E_1$ dans $E$.

  1. On considère les vecteurs $v_1 = (1,0,0,1)$, $v_2 = (0,0,1,0)$, $v_3 = (0,1,0,0)$, $v_4 = (0,0,0,1)$ et $v_5 = (0,1,0,1)$ dans $\mathbb{R}^4$. $\mathrm{Vect}\{v_1,v_2\}$ et $\mathrm{Vect}\{v_3\}$ sont-ils supplémentaires dans $\mathbb{R}^4$? Même question pour $\mathrm{Vect}\{v_1,v_3,v_4\}$ et $\mathrm{Vect}\{v_2,v_5\}$. ($\mathrm{Vect}\{x_1,...,x_n\}$ est le s.e.v. engendré par les combinaisons linéaires de $x_1,...,x_n$. C'est donc la somme des s.e.v. $E_i = \{\lambda x_i\}$).
  2. Soit $E$ un e.v. sur $K$ et $E_1$ et $E_2$ deux s.e.v. supplémentaires de $E$. Montrer que $E = E_1 \oplus E_2$, c.-à-d. que la somme est directe.

5. Soit $(e_i)_{i \in \{1,...,n\}}$ une famille libre. Que peut-on dire de la famille $(e_1 + e_2, e_2 + e_3,...,e_{n-1} + e_n, e_n+e_1)$ ?

6. Un endomorphisme $u$ d'un e.v. $E$ sur $K$ est nilpotent s'il existe $k \geq 1$ tel que $u^k = 0$. Le plus petit entier $k$ vérifiant cette propriété est appelé indice de nilpotence. (La puissance $u^k$ est la composée de $u$, $k$ fois: $u^2(x) = u(u(x))$. L'égalité $u^k = 0$ est l'égalité de l'application $u^k$ et le l'application $0$, c.-à-d. que $u^k(x) = 0$ pour tout $x \in E$). Soit $u$ un endomorphisme nilpotent d'un e.v. $E$ sur $\mathbb{R}$ de dimension finie $n$. Soit $k$ l'indice de nilpotence de $u$.

  1. Soit $x \in E$ tel que $u^{k-1}(x) \neq 0$. Montrer que la famille $(x, u(x), u^2(x), ..., u^{k-1}(x))$ est libre. En déduire que $k \leq n$.
  2. Soit $F_j = \ker u^j$. Montrez que $F_0 \subset F_1 \subset F_2 ...$ S'arrête-t-on à un moment (est-ce qu'il existe $m$ tel que $F_j = F_m$ pour tout $j>m$) ?
  3. Supposons que $k=n$. Montrez que la famille $(x, u(x), u^2(x), ..., u^{k-1}(x))$ est une base de $E$.
  4. Soit $v$ un endomorphisme de $E$ tel que $uv = vu$. Montrer que $uv$ est nilpotent. Que peut-on dire de son indice de nilpotence ?
  5. On pose
  6. $$ \exp(u) = \sum_{i=0}^{\infty} \frac{u^i}{i!}. $$ Est-ce que cette expression est bien définie ?

7. Soit $\mathbb{R}_n[X]$ l'ensemble des polynômes de degré $\leq n$ sur $\mathbb{R}$.

  1. Montrer que $\mathbb{R}_n[X]$ est un espace vectoriel sur $\mathbb{R}$.
  2. On note $D$ l'opérateur de dérivation (si $p$ est un polynôme en $X$, $p(X)$, alors $Dp = dp/dX$). Montrez que $D$ est un endomorphisme nilpotent. Quel est son indice de nilpotence ?
  3. Soit $x = X^n/n! \in \mathbb{R}_n[X]$. Montrez que $D^{n}x \neq 0$. En déduire que la famille $(x, Dx, D^2x, ..., D^{n}x)$ est une base (voir exercice 6).
  4. Quelle est la matrice de $D$ dans la base canonique ?
  5. Soit l’équation différentielle suivante : $Dy-y = x$, où $x,y \in E$. Trouvez une solution particulière à cette équation (trouvez un polynôme $y$ pour un $x$ donné). (Considérez l’application $D-I$, montrez qu’elle est inversible et calculer son inverse : $y = (D-I)^{-1} x$.) Trouvez une solution particulière de l’équation différentielle $y''-2y= 4x^3+3x^2-1$.

8. Revisitez l'exercice 3 à la lumière du théorème du rang.

Références

LN Trefethen & D Bau III, Numerical Linear Algebra, 1997 SIAM Philadelphia
J Fresnel, Algèbre des matrices, Hermann, Paris