Discussion :

[george216]

Salut les amis,
je voudrais savoir quel est l'algorithm utlisé par défaut par la fonction "fminunc" du toolbox d'optimisation du Matlab? Est ce qu'il s'agit de la méthode de levenberg marquardt ou la méthode FBGS? Esqu'il y a un parmis vous qui peut me donner un résumé clair de cette méthode ou me référer à un site qui n'expose pas cette méthode d'une manière très avancée, svp j'ai besoin de ça dans ma thèse.
Merci d'avance et cordialement.

[Jean Dumoncel]

Salut,

dans le help de fminunc :

Algorithms

Large-Scale Optimization

By default fminunc chooses the large-scale algorithm if you supplies the gradient in fun (and the GradObj option is set to 'on' using optimset). This algorithm is a subspace trust-region method and is based on the interior-reflective Newton method described in [2] and [3]. Each iteration involves the approximate solution of a large linear system using the method of preconditioned conjugate gradients (PCG). See Large Scale fminunc Algorithm, Trust-Region Methods for Nonlinear Minimization and Preconditioned Conjugate Gradient Method.

Medium-Scale Optimization

fminunc, with the LargeScale option set to 'off' with optimset, uses the BFGS Quasi-Newton method with a cubic line search procedure. This quasi-Newton method uses the BFGS ([1],[5],[8], and [9]) formula for updating the approximation of the Hessian matrix. You can select the DFP ([4],[6], and [7]) formula, which approximates the inverse Hessian matrix, by setting the HessUpdate option to 'dfp' (and the LargeScale option to 'off'). You can select a steepest descent method by setting HessUpdate to 'steepdesc' (and LargeScale to 'off'), although this is not recommended.

De même les liens dans cette doc proposent une description des algorithmes utilisés.

[george216]

Merci beaucoup Magelan, c'est très intéressant ce que vous m'avez fourni. Cependant j'ai deux question:
1) Quel est l'avantage du large scale optimization par rapport au medium scale optimization? Esq vous pouvez me fournir avec une référence d'un travail scientifique qui explicite cet avantage?
2) Est ce que vous pouvez me traduire ces termes en français:
2.1: large scale optimization:
2.2: medium scale optimization:
2.3: interior-reflective Newton method:
2.4:preconditioned conjugate gradients:

je suis désolé de mes questions basiques et merci infiniment sur votre aide.