Professional Documents
Culture Documents
Thomas Cluzeau
Matre de Conferences
Organisation :
Cours : 7 seances d1h30
TDs et TPs : 12h
4 seances de TDs d1h30
3 seances de TPs Matlab : 1 de 3h et 2 d1h30.
Evaluation :
Note du TP de 3h (Compte rendu) - 1/4 note finale
1 examen final de 1h30 avec documents - 3/4 note finale
F = y R | y = m et , emin e emax
Pour y 6= 0, on a
d1 d2 dt 1
m et = e ( + 2 + + t ) e = m t1
m = d1 d2 . . . dt = d1 t1 + + dtk k + + dt1 + dt < t
On a donc montre que t1 m < t .
F est un systeme de nombres a virgule flottante (floating point
number system). Notation : F (, t, emin , emax ).
Il depend de quatre parametres :
1 la base (chiffres utilises 0, 1, . . . , 1),
2 la precision t (# chiffres utilises pour representer la mantisse),
3 emin et emax qui definissent le domaine des exposants.
0, 25
0 0, 5 1 2 3 4 5 6 7 8
Definition
On appelle epsilon machine et on note M la distance de 1 au
nombre flottant suivant.
Proposition
Pour F (, t, emin , emax ), on a M = 1t .
Proof.
1
On a 1 = = 10 . . . 0 .
Nombre suivant : 10 . . . 1 = ( 1 + 1
t ) = 1 + 1t .
Lemme
Dans le systeme de nombres a virgule flottante F (, t, emin , emax ),
lecart |y x| entre un nombre flottant x (non nul) et un nombre
flottant y (non nul) adjacent verifie 1 M |x| |y x| M |x|.
Representation physique :
simple precision 32 bits (bit = binary digit), 8 bits sont reserves
a lexposant et 24 bits (dont 1 pour le signe) a la mantisse.
double precision 64 bits, 11 bits sont reserves a lexposant et
53 bits (dont 1 pour le signe) a la mantisse.
Arrondi :
1 par troncature : par exemple avec 3 chiffres, 0, 8573 . . . devient
0, 857.
2 au plus pres : 0, 8573 . . . devient 0, 857.
3 au representant le plus proche dont la derniere decimale est
paire (rounding to even) : 0, 8573 . . . devient 0, 858.
Definition
Soit G = G (, t) = {y R | y = m et } sans conditions sur
lexposant e. Lapplication fl : R G , x 7 fl(x) est appelee
operation darrondi.
Definition
Soit x un reel et x une valeur approchee de x.
Lerreur absolue e est defini par e = |x x|.
Lerreur relative est | xe |.
Le pourcentage derreur est lerreur relative multipliee par 100.
Theoreme
Soit x un reel. Si x est dans le domaine F (, t, emin , emax ), alors il
existe R avec || < u = 12 1t = 12 M tel que fl(x) = x (1 + ).
(x op y ) op z 6= x op (y op z)
P (k 1) Pn .
1 1
10 10 + x 11 = In
11 (n + 1) 10 (n + 1)
1
Approximation In 11 (n+1) valeur de depart pour notre
1
recurrence renversee. Exemple, I46 11 (46+1) , on obtient pour I36
10
une erreur relative meilleure que 10 .
Importance du coefficient damplification derreur
Thomas Cluzeau (Univ. de Limoges - ENSIL) Analyse Numerique
Phenomenes dinstabilite numerique (3)
1130 3000
Explication : solution generale de un = 111 + :
un1 un1 un2
Lemme
on a |i | < u et si k u < 1, alors il existe
Si pour tout i = 1, . . . , k, Q
ku k
k tel que |k | 1k u et i=1 (1 + i ) 1 + k .
Qk
Notation < k >= i=1 (1 + i ) avec < j > . < k >=< j + k >.
a1,1 x1 + a1,2 x2 + + a1,n xn = b1
a2,1 x1 + a2,2 x2 +
+ a2,n xn = b2
(S) .. ..
. .
an,1 x1 + an,2 x2 + + an,n xn = bn
Inconnues : x1 , . . . , xn dans K
(S) A x = b,
a1,1 a1,2 . . . a1,n
..
a2,1 . . .
.
A= . .. Mnn (K)
..
.. . .
an,1 . . . . . . an,n
x1 b1
x = ... Kn , b = ... Kn
xn bn
Dans ce chapitre, A est inversible !
a1,1 . . . a1,(i1) b1 a1,(i+1) . . . a1,n
.. .. ..
. . .
an,1 . . . an,(i1) bn an,(i+1) . . . an,n
i {1, . . . , n}, xi = .
det(A)
Lemme
Le nombre doperations necessaires pour resoudre le systeme a laide
des formules de Cramer est de (n + 1) (n n! 1) operations a virgule
flottante.
1
3ieme equation : x3 = 8
5/2 + 16 x3 1
2ieme equation : x2 = = 8
4
1 2 x2 5 x3 1
1iere equation : x1 = = 8
1
Lemme
La resolution dun systeme dequations lineaires triangulaire se fait
en n2 operations a virgule flottante.
Lemme (Proprietes)
Soient A, B Mnn (K) deux matrices triangulaires superieures. On
a alors les resultats suivants :
1 A B est triangulaire superieur
2 Si A et B sont a diagonale unite (i.e., nont que des 1 sur la
diagonale), alors A B est a diagonale unite
3 Si A est inversible, alors A1 est aussi triangulaire superieure
4 Si A est inversible et a diagonale unite, alors A1 est aussi a
diagonale unite.
Etape 1
(1)
A inversible on suppose (quitte a permuter lignes) a1,1 6= 0.
Cest le premier pivot de lelimination de Gauss
(1)
ai,1
Pour i = 2, . . . , n, on remplace Li par Li gi,1 L1 ou gi,1 = (1)
a1,1
Etape k
Etape n 1
x1 + 2 x2 + 5 x3 = 1,
(1)
(S) = (S ) 3 x1 + 2 x2 x3 = 21 ,
5 x2 + 3 x3 = 1.
(1)
Le premier pivot de lelimination de Gauss est donc a1,1 = 1 et on
(1) (1)
a g2,1 = 3, g3,1 = 0. La premiere etape fournit donc
x1 +
2 x2 + 5 x3 = 1,
(2)
(S ) 4 x2 16 x3 = 52 ,
5 x2 + 3 x3 = 1.
(2)
Le second pivot de lelimination de Gauss est donc a2,2 = 4 et
(2)
on a g3,2 = 54 . On obtient donc le systeme
x1 +
2 x2 + 5 x3 = 1,
(3)
(S ) 4 x2 16 x3 = 52 ,
17 x3 = 17
8 .
1
Algorithme de substitution retrograde x1 = x2 = x3 = 8
Solution x1 = 1
1 , x2 = 12
1
1
Premier pivot , g2,1 = (S (2) ) : A(2) x = b (2) avec
(2) 1 (2) 1
A = 1 , b = 1 .
0 1 2
Lerreur ne provient pas seulement du fait que est tres petit car
si on multiplie la premiere ligne par une puissance de 10 quelconque,
on va trouver la meme erreur ...
On a alors
1 x2 1 x2 x2
x1 = = ,
1
Erreur x1 = x2 sur x1 tres amplifiee par rapport a x2 .
Exemple : pour
x1 + 2 x2 + 5 x3 = 1
(S) : 3 x1 + 2 x2 x3 = 12
5 x2 + 3 x3 = 1
Lemme
A letape k de lelimination de Gauss, on a A(k+1) = Gk A(k) ou
1 (0) 0 ... 0
. .. .. ..
. . (k)
a
(0) 1 0 ... 0 , gi,k = i,k
Gk = 0 . . . 0 gk+1,k 1
(0)
(k)
ak,k
.. .. .. ..
. . . .
0 ... 0 gn,k (0) 1
Theoreme
Soit A Mnn (K) une matrice carree inversible. Les proprietes
suivantes sont equivalentes :
(i) Lelimination de Gauss seffectue sans permutation de lignes ;
(ii) Il existe L Mnn (K) triangulaire inferieure inversible et
U Mnn (K) triangulaire superieure inversible telles que
A = LU ;
(iii) Tous les mineurs fondamentaux de A sont non nuls.
Thomas Cluzeau (Univ. de Limoges - ENSIL) Analyse Numerique
Lien avec la factorisation LU dune matrice (3)
Lemme
Avec les notations precedentes, on a
1 0 ... ... 0
.. ..
g2,1
1 . .
1
(Gn1 Gn2 G1 ) = g3,1 g3,2 1
. . .
.
.
. .
.. ..
.. ..
. .
. . 0
gn,1 gn,2 . . . gn,n1 1
Corollaire
Soit A Mnn (K) une matrice carree inversible. Si tous les
mineurs fondamentaux de A sont non nuls, alors avec les notations
precedentes, lelimination de Gauss fournit la factorisation LU de A
suivante :
1 0 ... ... 0 a
(1)
... ...
(1)
a1,n
.. 1,1
.. (2) (2)
g2,1
1 . 0
.
a2,2 a2,n
A = g3,1
.. .. 0 0
(3)
a3,3
(3)
a3,n
.
g3,2 1 . .
. ..
. .. .. .. . .. .. ..
.. . . . 0 . . . . .
(n)
gn,1 gn,2 ... gn,n1 1 0 ... 0 0 an,n
on a :
1 2 5 1 0 0 1 2 5
3 2 1 = 3 1 0 0 4 16
0 5 3 0 54 1 0 0 17
| {z } | {z }| {z }
A L U
Proposition
Soit A Mnn (K) une matrice carree inversible admettant une
factorisation LU. Alors il existe une unique factorisation LU de A
avec L a diagonale unite.
Definition
On appelle matrice de permutation associee a une permutation
Sn , la matrice P = (i(j) ) ou ij = 1 si i = j, ij = 0 sinon.
Exemple :
0 0 1 0 0
0 1 0 0 0
: (1, 2, 3, 4, 5) 7 (3, 2, 5, 1, 4) P =
0 0 0 0 1 .
1 0 0 0 0
0 0 0 1 0
Multiplier A a gauche (resp. a droite) par une matrice de
permutation revient alors a permuter des lignes (resp. les colonnes)
Les matrices de permutation sont orthogonales : P1 = PT .
Lemme
Soit A Mnn (K) une matrice carree inversible. Resoudre un
systeme lineaire (S) : A x = b via lelimination de Gauss necessite
3
un nombre doperations a virgule flottante equivalent a 2 3n lorsque
n tend vers linfini. Ce cout asymptotique est aussi celui du calcul
de la factorisation LU de A.
Facto. LU de A
puis resolution
successive des 2 K systemes
4 n3 +3 n2 7 n
triangulaires 6 + 2 K n2 flops
Definition
Une matrice A Mnn (K) est dite symetrique si elle est egale a sa
transposee, i.e., AT = A.
Definition
Soit K = R ou C. Le produit scalaire canonique sur Kn est defini
comme lapplication h. , .i : Kn Kn K, (u, v ) 7 hu, v i qui
verifie :
Si K = R, hu, v i = v T u = ni=1 ui vi (produit scalaire
P
euclidien),
Si K = C, hu, v i = v T u = ni=1 ui vi (produit scalaire
P
hermitien).
Proposition
Lalgorithme de Cholesky decrit ci-dessus necessite n extractions de
racines carrees et un nombre doperations a virgule flottante
3
equivalent a n3 lorsque n tend vers linfini.
Definition
On appelle matrice (elementaire) de Householder une matrice H de
la forme Hu = In 2 u u T , ou u Rn est un vecteur unitaire
cest-a-dire de norme 1 pour la normepassociee au produit scalaire
canonique sur Rn definie par kuk = hu, ui.
Proposition
Toute matrice de Householder H est symetrique et orthogonale.
Proposition
Pour tout vecteur u Rn tel que kuk = 1, on a Hu u = u. De
plus, si v Rn est orthogonal a u, i.e., hu, v i = 0, alors Hu v = v .
Proposition
Soit u = (ui ) un vecteur unitaire de Rn tel que u1 = = up = 0
pour p < n. On decompose alors u en deux blocs : u = (0 z)T
avec z Rnp . La matrice de Householder Hu se decompose
alors
Ip 0
par blocs de la maniere suivante : Hu = .
0 Hz
A=
A=
0
H1 A =
0
0
0
0
H1 A =
0
0
0
0
H 2 H1 A =
0 0
0 0
0 0
0
H 2 H1 A =
0 0
0 0
0 0
0
H 3 H2 H1 A =
0 0
0 0 0
0 0 0
0
H 3 H2 H1 A =
0 0
0 0 0
0 0 0
0
H4 H3 H 2 H1 A =
0 0 =R
0 0 0
0 0 0 0
Donc A = (H4 H3 H2 H1 )T R.
Etape 1
1iere colonne de A donnee par (S) : a1 = (2 1 2)T
a1 1
v1 = ka1 k e1 = 3 (1 1 2)T
v1
T
u1 = = 1 1 1 2
kv1 k 6
2 1 2
Matrice de Householder Hu1 = 13 1 2 2
2 2 1
9 5 8 x1 5
A x = b Hu1 A x = Hu1 b 0 1 4 x2 = 1
0 1 1 x3 1
Thomas Cluzeau (Univ. de Limoges - ENSIL) Analyse Numerique
Exemple (2)
Etape 2
Definition
Soit A Mnn (R) une matrice carree reelle inversible. On appelle
factorisation QR de A une factorisation de la forme A = Q R avec
Q Mnn (R) orthogonale et R Mnn (R) triangulaire superieure.
Proposition
La methode de Householder pour resoudre un systeme lineaire
necessite un nombre doperations a virgule flottante equivalent a
4 n3
3 lorsque n tend vers linfini.
n n
!1
2
X X 1
kxk1 = |xi |, kxk2 = |xi |2 = hx, xi 2 , kxk = max |xi |
1in
i=1 i=1
Definition
Une norme k.k sur Mnn (K) est une norme matricielle si elle
verifie : (A, B) Mnn (K)2 , kA Bk kAk kBk.
Theoreme et Definition
Soit k.k une norme vectorielle sur Kn . Pour toute matrice
A Mnn (K), on definit k.kM : Mnn (K) R+ par
kAkM = supxKn \{0} kA xk
kxk . Alors k.kM est une norme matricielle.
Elle est dite norme subordonnee a la norme vectorielle k.k.
p
kAk2 = (A A )
n
X
kAk = max |ai,j |
1in
j=1
ou :
T
A = A designe la matrice adjointe de A
(M) designe le rayon spectral dune matrice M cad le
maximum des modules des valeurs propres de M.
Thomas Cluzeau (Univ. de Limoges - ENSIL) Analyse Numerique
Conditionnement dune matrice : exemple
On remarque que :
A est symetrique
det(A) = 1
la solution de (S) est donnee par x = (1 1 1 1)T
kxk kbk
kA1 k.kAk. .
kxk kbk
kxk kAk
kA1 k.kAk.
kx + xk kAk
Definition
Soit k.k une norme matricielle subordonnee et A une matrice
inversible. Le nombre Cond(A) = kA1 k.kAk sappelle le
conditionnement de A relatif a la norme k.k.
n Cond(Hn ) Cond(Vn )
2 27 8
4 2, 8.104 5, 6.102
6 2, 9.107 3, 7.104
Thomas Cluzeau (Univ. de Limoges - ENSIL) Analyse Numerique
Propriete du conditionnement
Proposition
Soit A une matrice reelle
p et considerons la norme matricielle
subordonnee kAk2 = (A A ). On a
s
(A AT )
Cond2 (A) = kA1 k2 .kAk2 = ,
(A AT )
1 X
h= , u= ui,j i,j
n+1
i,j
1 1 1 1
Pi,j =](i ) h, (i + ) h[](j ) h, (j + ) h[
2 2 2 2
On note alors xi,j = (i h, j h) les nuds du quadrillage.
P2,3
x2,3
h
x
h 1
u u(x + h2 , y ) u(x h2 , y )
,
x h
Xj1 + M Xj Xj+1 = h2 Fj , 1j n
M In 0 ... 0
.. ..
In M In
. .
A X = h2 F , A = 0 In . . . .. Mn2 n2 (R)
. 0
..
.. .. ..
. . . In
.
0 ... 0 In M
(S) B x + c = x
Exemple : A = M N (M inversible), B = M 1 N et c = M 1 b
Definition
Une methode iterative definie par (x (k) )kN pour resoudre un
systeme A x = b est dite convergente si pour toute valeur initiale
x (0) Kn , on a limk+ x (k) = A1 b.
Lemme
Si la methode iterative est convergente et si on note x = A1 b la
solution, alors
x (k) x = B k (x (0) x).
Definition
Considerons un schema iteratif (?) convergent. Soit k.k une norme
matricielle sur Mnn (K) et soit k un entier tel que kB k k < 1. On
appelle taux moyen de convergence associe a la norme k.k pour k
iterations de x (k+1) = B x (k) + c le nombre positif
h i1
k k
Rk (B) = ln kB k .
Definition
Considerons deux methodes iteratives convergentes
(1) x (k+1) = B1 x (k) + c1 , k = 1, 2, . . . ,
(2) x (k+1) = B2 x (k) + c2 , k = 1, 2, . . . .
Soit k un entier tel que kB1k k < 1 et kB2k k < 1. On dit que (1) est
plus rapide que (2) relativement a la norme k.k si Rk (B1 ) Rk (B2 ).
Definition
On appelle taux asymptotique de convergence le nombre
Theoreme
Une methode iterative est dautant plus rapide que son taux
asymptotique de convergence est grand cad que (B) est petit.
2 1 1 2 0 0 0 0 0 0 1 1
2 2 2 = 0 2 0 2 0 0 0 0 2
1 1 2 0 0 2 1 1 0 0 0 0
| {z } | {z } | {z } | {z }
A D E F
On suppose D inversible
Methode de Jacobi : M = D, N = E + F ;
Methode de Gauss-Seidel : M = D E , N = F ;
Methode de relaxation : M = 1 (D E ), N = 1
D +F
avec parametre reel non nul.
A = M N avec M = D inversible et N = E + F
Definition
La matrice BJ = D 1 (E + F ) sappelle la matrice de Jacobi
associee a A.
n
(k+1) 1 X (k)
xi = ( a i,j x j ) + b i
.
ai,i
j=1
j6=i
Theoreme
La methode de Jacobi converge si et seulement si (BJ ) < 1.
2 1 1
Exemple : pour la matrice A = 2 2 2 precedente :
1 1 2
1 1
12
0 0 0
2 0 1 1 2
1
BJ = 2 0 2 = 1 0 1
0 2 0
.
1 1 1 0 1 1
0 0 2 2 2 0
Valeurs propres : 0 et i 2
5
donc (BJ ) = 2
5
> 1 et la methode
de Jacobi diverge
A = M N avec M = D E inversible et N = F
Definition
La matrice BGS = (D E )1 F sappelle la matrice de Gauss-Seidel
associee a A.
i1 n
(k+1) (k+1) (k)
X X
ai,i xi + ai,j xj = ai,j xj + bi ,
j=1 j=i+1
ce qui entrane
n
(k+1) 1 X (k)
x1 = a1,j xj + b1 ,
a1,1
j=2
et pour i = 2, . . . , n,
Thomas Cluzeau (Univ. de Limoges - ENSIL) Analyse Numerique
Gauss-Seidel : mise en uvre et complexite arithmetique
(2)
i1 n
(k+1) 1 X (k)
X (k)
xi = ai,j xj + bi ai,j xj .
ai,i
j=1 j=i+1
Definition
La matrice BR () = (D E )1 [(1 ) D + F ] sappelle la
matrice de relaxation associee a A et est le facteur de relaxation.
Si < 1, on parle de sous-relaxation, si = 1, on retrouve la
methode de Gauss-Seidel et si > 1, on parle de sur-relaxation.
Thomas Cluzeau (Univ. de Limoges - ENSIL) Analyse Numerique
Methode de la relaxation : convergence et exemple
Theoreme
La methode de relaxation converge si et seulement si (BR ()) < 1.
2 1 1
Exemple : pour la matrice A = 2 2 2 precedente :
1 1 2
1
12
1 2
1 2 1 2
BR () = ( 1) 2 + 1 2
1 2
2 ( 1) 4 14 2 + 12
1 3 1 3 3 2
4 4 +1
Theoreme
Soit A une matrice symetrique definie positive et ecrivons
A = M N avec M inversible et M T + N definie positive. Alors la
methode iterative
converge.
Corollaire
Soit A une matrice symetrique definie positive. Alors la methode de
Gauss-Seidel converge.
Theoreme
Soit A une matrice a diagonale strictement dominante. Alors A est
inversible et les methodes de Jacobi et de Gauss-Seidel convergent
toutes les deux.
Thomas Cluzeau (Univ. de Limoges - ENSIL) Analyse Numerique
Methode alternative : gradient conjugue
Le gradient conjugue
0 0
5
10
10
20
15
20 30
25
40
30
50
35
40 60
0 5 10 15 20 25 30 35 40 0 10 20 30 40 50 60
nz = 118 nz = 180
Definition
Soit A Mnn (R) symetrique et definie positive.
On definit la
fonction k kA : Rn R+ comme kxkA = x T Ax.
Proposition
La fonction k kA est une norme vectorielle.
Definition
Soit A Mnn (R) symetrique definie positive. On dit que les
vecteurs u, v Rn sont A-conjugues si u T Av = 0.
Definition
Le gradient de en x = (x1 , . . . , xn )T Rn est le vecteur
T
(x) = , ,..., .
x1 x2 xn
On a
1 1
(x) = Ax + AT x b = Ax b.
2 2
Definition
La quantite r (x) = b Ax = (x) est appelee residu du
systeme (S) en x.
r (k)T p (k)
dou k = p (k)T Ap (k)
.
Proposition
A chaque iteration, le residu r (k+1) est orthogonal au vecteur
direction p (k) utilise a letape precedente: r (k+1) T p (k) = 0.
Thomas Cluzeau (Univ. de Limoges - ENSIL) Analyse Numerique
Methode de la plus forte pente
Theoreme
Pour la methode de la plus forte pente on a, a literation k :
k
Cond2 (A) 1
kx x (k)
kA kx x (0) kA .
Cond2 (A) + 1
1
log 10 du rsidu
6
1 2 3 4 5 6 7 8 9 10 11
indice du rsidu
p (k)T Ap (k1) = 0.
Lemme
A chaque iteration, le residu est orthogonal au residu calcule a
literation precedente : r (k)T r (k1) = 0.
Theoreme
Soit Sk le sous-espace vectoriel de Rn engendre par les vecteurs
p (0) , . . . , p (k1) . Alors le vecteur x (k) defini par la methode du
gradient conjugue minimise (x) sur Sk :
Theoreme
Soit r (0) 6= 0 et h 1 tels que r (k) 6= 0 pour tout k h. Alors pour
k, j = 0, . . . , h, avec k 6= j, on a
Corollaire
Il existe m n tel que r (m) = 0. Autrement dit, le gradient
conjugue calcule la solution x = A1 b en n iterations au plus.
2 r (0) = b Ax (0) ;
si k = 0 alors faire :
0 = 0 ;
p (0) = r (0) ;
sinon faire :
k = r (k)T r (k) /r (k1)T r (k1) ;
p (k) = r (k) + k p (k1) ;
k = r (k)T r (k) /p (k)T Ap (k) ;
x (k+1) = x (k) + k p (k) ;
r (k+1) = r (k) k Ap (k) ;
k =k +1 ;
4 Retourner x = x (k) .
Thomas Cluzeau (Univ. de Limoges - ENSIL) Analyse Numerique
Gradient conjugue: convergence et complexite
Theoreme
p !k
Cond2 (A) 1
kx x (k)
kA 2 p kx x (0) kA
Cond2 (A) + 1
(S) : C 1 A x = C 1 b
(S) : C 1 A(C T )1 C T x = C 1 b
(S) : A x = b,
ou A = C 1 A(C 1 )T , x = C T x et b = C 1 b.
A est aussi symetrique et definie positive, donc on peut
appliquer le gradient conjugue a (S).
Definition
La matrice M = CC T est dite preconditionneur du systeme (S).
AT Ax = AT b
15
10
0
y
10
15
0 0.5 1 1.5 2 2.5 3 3.5
x
15
y=f(x)
y=p(x)
noeuds
10
0
y
10
15
0 0.5 1 1.5 2 2.5 3 3.5
x
1 x0 x02 . . . x0m
0 f (x0 )
1 x1 x 2 . . . x m 1 f (x1 )
1 1
(S) : . .. .. = .
.. ..
.. . . . .
1 xn xn2 . . . xnm m f (xm )
Proposition
Le probleme dinterpolation (I )fm,n admet une unique solution ssi
m = n et les nuds (xi )0in sont deux a deux distincts.
Definition
(n)
Pour j {0, . . . , n}, le polynome Lj defini par
n
(n)
Y x xi (x x0 ) (x xj1 ) (x xj+1 ) (x xn )
Lj (x) = = ,
xj xi (xj x0 ) (xj xj1 ) (xj xj+1 ) (xj xn )
i=0
i6=j
Proposition
(n)
Pour n N fixe, les (Lj (x))0jn forment une base de lespace
vectoriel Pn que lon appelle base de Lagrange.
Proposition
Les interpolants de base de Lagrange verifient les proprietes
suivantes :
1 Pour tout j = 0, . . . , n, si on note gj la fonction de [a, b] dans
R definie par i = 0, . . . , n, gj (xi ) = ij , alors
(n)
Pn (x ; gj ) = Lj (x) ;
Si on pose n+1 (x) = nj=0 (x xj ) Pn+1 , alors, pour tout
Q
2
Theoreme
Soit f : [a, b] R et n + 1 nuds (xi )0in deux a deux distincts.
Le polynome dinterpolation de f aux nuds (xi )0in secrit alors :
n
(n)
X
Pn (x ; f ) = f (xj ) Lj (x).
j=0
x(x 1) x (x + 1)
= f (1) f (0) (x 2 1) + f (1) ,
2 2
f : [4, 4] R, x 7 |x|
8
X (8) 533 2 43 4 11 6 1
P8 (x ; f ) = |xj | Lj (x) = x x + x x 8.
420 144 360 1008
j=0
x
3 2 1 0 1 2 3
Definition
(n)
Les polynomes Nj definis pour j = 0, . . . , n par :
(n)
N0 (x) = 1,
(n)
N1 (x) = (x x0 ),
(n)
= (x x0 ) (x x1 ),
N (x)
2.
..
(n)
Nj (x) = (x x0 ) (x x1 ) (x xj1 ),
..
.
(n)
Nn (x) = (x x0 ) (x x1 ) (x xn1 ),
Proposition
(n)
Pour n N fixe, les (Nj (x))0jn forment une base de lespace
vectoriel Pn .
f (x0 ) f (x1 )
Pn (x1 ; f ) = f (x0 ) + 1 (x1 x0 ) = f (x1 ) = 1 =
x0 x1
f (x0 )f (x1 )
Pn (x2 ; f ) = f (x0 ) + x0 x1
(x2 x0 ) + 2 (x2 x0 ) (x2 x1 ) = f (x2 )
En posant
f (u) f (v )
f [u, v ] = ,
uv
on a alors
f [x0 , x2 ] f [x0 , x1 ] f [x0 , x1 ] f [x1 , x2 ]
1 = f [x0 , x1 ], 2 = = .
x2 x1 x0 x2
Thomas Cluzeau (Univ. de Limoges - ENSIL) Analyse Numerique
Difference divisee
Definition
Pour tout k N, on appelle difference divisee dordre k de f
associee a la suite de points deux a deux distincts (xj )jN la
quantite f [x0 , x1 , . . . , xk ] definie par :
f [x0 , x1 , . . . , xk1 ] f [x1 , x2 , . . . , xk ]
f [x0 ] = f (x0 ), k N , f [x0 , x1 , . . . , xk ] = .
x0 xk
Theoreme
Pn (n)
Pn (x ; f ) = k=0 f [x0 , x1 , . . . , xk ] Nk (x).
Corollaire
(n)
Pn (x ; f ) = Pn1 (x ; f ) + f [x0 , x1 , . . . , xn ] Nn (x).
Corollaire
Soit Sk+1 lensemble des permutations sur {0, 1, . . . , k + 1}. Pour
tout Sk+1 , on a f [x(0) , x(1) , . . . , x(k) ] = f [x0 , x1 , . . . , xk ].
x0 f [x0 ]
&
x1 f [x1 ] f [x0 , x1 ]
& &
x2 f [x2 ] f [x1 , x2 ] f [x0 , x1 , x2 ]
. .
. .
. .
. . .
. . .
. . .
. .
. .
. .
xk2 f [xk2 ]
&
xk1 f [xk1 ] f [xk2 , xk1 ] ... ... f [x0 , . . . , xk1 ]
& & &
xk f [xk ] f [xk1 , xk ] f [xk2 , xk1 , xk ] f [x1 , . . . , xk ] f [x0 , . . . , xk ]
Lemme
Soit (xi )0in tels que, pour tout i = 0, . . . , n, xi [a, b] et soit
Pn (x ; f ) le polynome dinterpolation de f aux nuds (xi )0in .
Alors, avec les notations precedentes, pour tout x [a, b] tel que,
pour tout i = 0, . . . , n, x 6= xi , on a :
Lemme
Si f C n ([a, b]) est de classe C n sur [a, b], alors :
1 (n)
]a, b[, f [x0 , x1 , . . . , xn ] = f ().
n!
Theoreme
Soit (xi )0in tels que, pour tout i = 0, . . . , n, xi [a, b] et soit
Pn (x ; f ) le polynome dinterpolation de f aux nuds (xi )0in . Si
f C n+1 ([a, b]), alors :
1
x [a, b], x ]a, b[, f (x) Pn (x ; f ) = f (n+1) (x ) n+1 (x).
(n + 1)!
Corollaire
Avec les memes hypotheses, on a :
|n+1 (x)|
x [a, b], |f (x) Pn (x ; f )| sup |f (n+1) (y )|.
(n + 1)! y [a,b]
Remarques :
En pratique, on ne connait pas forcement lexpression
symbolique de f ;
La plupart des fonctions nadmettent pas de primitives pouvant
sexprimer a laide de fonctions elementaires.
Z b n1
X
I (f ) = f (x)dx = lim f (j )(xj+1 xj ) , j, j [xj , xj+1 ].
a n+
j=0
| {z }
Somme de Riemann
0 a x1 x2 x3 x4 x5 x6 x7 b x
0 a x1 x2 x3 x4 x5 x6 x7 b x
0 a x1 x2 x3 x4 x5 x6 x7 b x
0 a x1 x2 x3 x4 x5 x6 x7 b x
Ces formules seront donc exactes pour les fonctions constantes sur
[a, b] et en particulier pour f P0 .
Definition
Une methode dintegration numerique est dite dordre N (N N) si
elle est exacte sur PN .
Theoreme
Soit f C n+1 ([a, b]) et I(n) (f ) donnee ci-dessus. Alors on a la
majoration suivante de lerreur dintegration :
Z b
Mn+1
|I (f ) I(n) (f )| |n+1 (x)| dx,
(n + 1)! a
Qn
avec Mn+1 = supx[a,b] |f (n+1) (x)| et n+1 (x) = j=0 (x xj ).
Thomas Cluzeau (Univ. de Limoges - ENSIL) Analyse Numerique
Formules de Newton-Cotes (1)
(n) Rb (n)
Probleme : calcul des Ak = a Lk (x) dx
Proposition
Pour k = 0, 1, . . . , n, on a :
(i)
n n
(b a) (1)nk
Z
(n)
Y
Ak = (y j) dy .
n k! (n k)! 0
j=0
j6=k
(n) (n)
(ii) Ank = Ak .
(1) (1) ba
Cas n = 1, on obtient A0 = A1 = 2 dou
ba
I(1) (f ) = (f (a) + f (b)) (formule des trapezes)
2
(
(1) (1)
A0 + A1 = 2,
(1) (1)
A0 + A1 = 0,
(1) (1)
dou A0 = A1 = 1.
Remarque : cette formule nest pas exacte sur P2 ([1, 1]) puisque
R1
I (x 2 ) = 1 x 2 dx = 23 alors que I(1) (x 2 ) = 2.
Thomas Cluzeau (Univ. de Limoges - ENSIL) Analyse Numerique
Estimation de lerreur
Theoreme
Pn (n)
Considerons lerreur En (f ) = I (f ) i=0 Ai f (xi ). Alors :
1 Si n impair et f C n+1 ([a, b]), alors [a, b] tel que :
n+2 n
f (n+1) ()
ba
Z
En (f ) = t (t 1) (t n) dt.
n (n + 1)! 0
Definition
(n)
La formule dintegration numerique I(n) (f ) = nk=0 Ak f (xk ) est
P
dite stable sil existe M R tel que : n N, (0 , . . . , n )
(n)
Rn+1 , | nk=0 Ak k | M max0kn |k |.
P
Theoreme
Avec les notations precedentes, une condition necessaire et
suffisante de stabilite est quil existe M R (independant de n) tel
(n)
que nk=0 |Ak | M.
P
Z b k1 Z
X ai+1
I (f ) = f (x) dx = f (x) dx
a i=0 ai
| {z }
Ii (f )
ba
avec h = k , a0 = a, ak = b et ai = ai1 + h.
f (4) ()
Si f C 4 ([a, b]), erreur dapproximation k h5 ou
180
ba
h= et [a, b].
k
Thomas Cluzeau (Univ. de Limoges - ENSIL) Analyse Numerique
Exemple
R1 2
On veut calculer numeriquement 0 e x dx avec erreur < 106 .
Combien dintervalles faut-il utiliser ?
2 2
f (x) = e x , f (4) (x) = e x (16x 4 48x 2 + 12), |f ()| 12 [0, 1]
5 (4)
f (4) ()
ba f () 1
erreur = k =
k 180 180k 4 15k 4
6 1/4
1 6 10
on pose < 10 dou k > 16, 0686
15k 4 15
donc k 17.
2 possibilites :
on sait a lavance combien detapes de lalgorithme sont
necessaires
a chaque etape, on verifie une condition nous permettant
darreter le processus apres un nombre fini detapes
Definition
Soit (xn )nN une suite convergente et soit x sa limite.
1 On dit que la convergence de (xn )nN est lineaire de facteur
K ]0, 1[ sil existe n0 N tel que, pour tout n n0 ,
|xn+1 x| K |xn x|.
2 On dit que la convergence de (xn )nN est superlineaire dordre
p N, p > 1 sil existe n0 N et K > 0 tels que, pour tout
n n0 , |xn+1 x| K |xn x|p . Si p = 2, on parle de
convergence quadratique et si p = 3 on parle de convergence
cubique.
Definition
Soit (xn )nN une suite convergent vers une limite x. On dit que la
convergence de (xn )nN est lineaire de facteur K (resp. superlineaire
dordre p) sil existe une suite (yn )nN convergent vers 0, lineaire de
facteur K (resp. superlineaire dordre p) au sens de la definition
precedente telle que |xn x| yn .
Principe :
1 On part dun intervalle [a, b] verifiant la propriete f (a) f (b) < 0
a+b
2 On le scinde en deux intervalles [a, c] et [c, b] avec c = 2
3 On teste les bornes des nouveaux intervalles (on calcule
f (a) f (c) et f (c) f (b)) pour en trouver un (au moins) qui
verifie encore la propriete, i.e., f (a) f (c) < 0 ou/et
f (c) f (b) < 0.
4 On itere ensuite ce procede un certain nombre de fois
dependant de la precision que lon recherche sur la solution.
1
Il suffit en fait de connaitre un moyen devaluer les valeurs de la fonction
Thomas Cluzeau (Univ. de Limoges - ENSIL) Analyse Numerique
Methode de dichotomie : remarques et preuve de lalgo.
Remarques sur lalgorithme precedent :
Il construit une suite de segments embotes contenant tous x
A chaque passage dans la boucle : une evaluation de f
En pratique, avec les arrondis, > 0 et < 0 ne veulent rien dire !
Theoreme
Le nombre minimum diterations de la methode de dichotomie
necessaire pour approcher x a pres est E ln(ba)ln()
ln(2) + 1, ou
E (x) designe la partie entiere dun reel x.
Proof.
ba ln(ba)ln()
2n n ln(2) .
Proposition
La convergence de la dichotomie est lineaire de facteur 12 .
Thomas Cluzeau (Univ. de Limoges - ENSIL) Analyse Numerique
Exemple
Definition
Soit g : R R. On dit que x R est un point fixe de g si
g (x) = x.
Lemme
Soit (xn )nN la suite definie par x0 R donne et xn+1 = g (xn ). Si
(xn )nN est convergente et g est continue, alors la limite de (xn )nN
est un point fixe de g .
Definition
Soit g : R R. On dit que g est lipschitzienne sur de
constante de Lipschitz (ou -lipschitzienne) si pour tout
(x, y ) 2 , on a |g (x) g (y )| |x y |. On dit que g est
strictement contractante sur si g est -lipschitzienne sur avec
< 1.
Proposition
Soit g une fonction derivable sur lintervalle [a, b]. Si sa derivee g 0
verifie maxx[a,b] |g 0 (x)| = L < 1, alors g est strictement
contractante sur [a, b] de constante de Lipschitz L.
Theoreme
Soit g une application strictement contractante sur un intervalle
[a, b] R de constante de Lipschitz < 1. Supposons que
lintervalle [a, b] soit stable sous g , i.e., g ([a, b]) [a, b] ou encore
pour tout x [a, b], g (x) [a, b]. Alors g admet un unique point
fixe x [a, b] et la suite definie par xn+1 = g (xn ) converge
lineairement de facteur vers x pour tout point initial x0 [a, b].
De plus,
n
n N, |xn x | |x1 x0 |.
1
Proposition
Soit x [a, b] un point fixe dune fonction g C 1 ([a, b]).
Si |g 0 (x )| < 1, alors il existe un intervalle [, ] [a, b]
contenant x pour lequel la suite definie par x0 [, ] et
xn+1 = g (xn ) converge vers x ;
Si |g 0 (x )| > 1, alors pour tout x0 6= x , la suite definie par x0
et xn+1 = g (xn ) ne converge pas vers x ;
Si |g 0 (x )| = 1, on ne peut pas conclure.
En pratique, on estime g 0 (x )
Si |g 0 (x )| > 1, alors on elimine la methode,
Si |g 0 (x )| < 1, on cherche un intervalle [, ] [a, b] dans lequel
maxx[,] |g 0 (x)| < 1 et g ([, ]) [, ].
1
pente
f (x0 )
f (x1 )
x0 x1 x2 x x
Thomas Cluzeau (Univ. de Limoges - ENSIL) Analyse Numerique
Premiere methode de resolution de f (x) = 0
1
y f (xn ) = (x xn ),
donc le point dintersection avec laxe des abscisses y = 0 est donne
par
f (xn ) = x xn x = xn f (xn ).
Proposition
On considere lequation g (x) = x ou g est une fonction au moins
p + 1 fois derivable avec p 1. Supposons que les hypotheses du
theoreme du point fixe soient verifiees de sorte que g admette un
unique point fixe x [a, b]. Si
g 0 (x ) = g 00 (x ) = = g (p) (x ) = 0 et g (p+1) (x ) 6= 0, alors la
convergence de la methode xn+1 = g (xn ) est superlineaire dordre
p + 1.
Definition
La fonction diteration de Newton associee a lequation f (x) = 0 sur
[a, b] est
[a, b] R,
N : f (x)
x 7 N (x) = x 0 .
f (x)
Cette fonction est definie pour f derivable sur [a, b] et telle que f 0
ne sannule pas sur [a, b].
Thomas Cluzeau (Univ. de Limoges - ENSIL) Analyse Numerique
Methode de Newton (2)
y
Methode de Newton
tangente
f (x0 )
f (x1 )
x0 x1 x2x x
Theoreme
Soit f une fonction de classe C 2 sur un intervalle [a, b] de R. On
suppose quil existe x [a, b] tel que f (x) = 0 et f 0 (x) 6= 0 (x est
un zero simple de f ). Alors il existe > 0, tel que pour tout
x0 [x , x + ], la suite des iteres de Newton donnee par
xn+1 = N (xn ) pour n 1 est bien definie, reste dans lintervalle
[x , x + ] et converge vers x quand n tend vers linfini. De plus,
cette convergence est (au moins) quadratique.
Si a = 2 et x0 = 1 on obtient :
x0 = 1, 000000000000000
x1 = 1, 500000000000000
x2 = 1, 416666666666667
x3 = 1, 414215686274510
x4 = 1.414213562374690
x5 = 1, 414213562373095
Matlab donne 2 = 1, 414213562373095
Theoreme
Soit f C 2 ([a, b]) verifiant :
f (a) f (b) < 0,
x [a, b], f 0 (x) 6= 0,
x [a, b], f 00 (x) 6= 0.
Alors, en choisissant x0 [a, b] tel que f (x0 ) f 00 (x0 ) > 0, la suite
(xn )nN definie par x0 et xn+1 = N (xn ) converge vers lunique
solution de f (x) = 0 dans [a, b].
Thomas Cluzeau (Univ. de Limoges - ENSIL) Analyse Numerique
Methode de la secante (1)
Methode de la secante
f (x0 )
f (x1 )
x0 x1 x2 x x
Thomas Cluzeau (Univ. de Limoges - ENSIL) Analyse Numerique
Convergence
Theoreme
Soit f une fonction de classe C 2 sur un intervalle [a, b] de R. On
suppose quil existe x [a, b] tel que f (x) = 0 et f 0 (x) 6= 0 (x est
un zero simple de f ). Alors il existe > 0, tel que pour tout
x0 , x1 [x , x + ], la suite des iteres de la methode de la
secante est bien definie, reste dans lintervalle [x , x + ] et
converge vers x quand n tend vers linfini. De plus, cette
1+ 5
convergence est dordre p = 2 1, 618 (nombre dor).
Si a = 2 et x0 = x1 = 1 on obtient :
x0 = 1, 000000000000000
x1 = 1, 000000000000000
x2 = 1, 500000000000000
x3 = 1, 400000000000000
x4 = 1, 413793103448276
x5 = 1, 414215686274510
x6 = 1, 414213562057320
x7 = 1, 414213562373095
+ dit. que Newton mais pas de calcul de derivee
Thomas Cluzeau (Univ. de Limoges - ENSIL) Analyse Numerique
Systemes dequations non lineaires
Rn Rn
f :
x = (x1 . . . xn )T 7 f (x) = (f1 (x1 , . . . , xn ), . . . , fn (x1 , . . . , xn ))T .
Definition
La matrice jacobienne dune fonction f : Rn Rn notee Jf est
definie (lorsquelle existe) par :
f1 f1 f1
x1 (x) x2
(x) . . .
xn
(x)
f2 f2 f2
x1 (x) (x) . . . (x)
x2 xn
x = (x1 . . . xn )T Rn , Jf (x) = .
.. .. .. ..
. . . .
fn fn fn
(x) (x) . . . (x)
x1 x2 xn
1
ou Jf x (n) designe linverse de la matrice jacobienne de f
(n)
evaluee en x .
Theoreme
Soit f : Rn Rn une fonction de classe C 2 sur une boule fermee B
de Rn . On suppose quil existe un zero x de f dans B et que Jf (x)
est inversible. Alors il existe > 0 tel que pour tout x (0) B tel
que kx (0) xk , la suite des iteres de la methode de Newton
ci-dessus est bien definie et converge vers x quand n tend vers
linfini.
x12 + 2 x1 x22 2 = 0,
(S) :
x1 + 3 x1 x22 x23 3 = 0.
3
Matrice jacobienne de f :
2 x1 + 2 2 x2
Jf (x1 , x2 ) = .
3 (x12 + x22 ) 6 x1 x2 3 x22
cest-a-dire
!
(1)
4 2 x1 1 0
(1) = .
6 9 x2 + 1 2
1 (1)
En resolvant ce systeme lineaire, on trouve x1 1 = 12 et
(1) 1 11 5 T
x (1) = 12 6 .
x2 + 1 = 6
En pratique :
Methode de Newton,
p(z) = a0 + a1 z + . . . + an z n ,
ou a0 , a1 , . . . , an C.
Theoreme (fondamental de lalgebre)
Tout polynome non constant a coefficients complexes admet une
racine complexe.
Soit p(z) = z 3 2z + 2.
Literation de Newton associee est
zk3 2zk + 2
zk+1 = zk .
3zk2 2
2p(xk )p 0 (xk )
zk+1 = zk .
2(f 0 (xk ))2 f (xk )f 00 (xk )
(1/p)(d1) (zk )
zk+1 = zk + d
(1/p)(d) (zk )
Theoreme
Le polynome caracteristique de A est un multiple scalaire de p(z).
w (z) = (z 1) (z 2) (z 3) . . . (z 20).