Méthodes de prévision (STT-3220) Section 2 Transformation stabilisatrice de variance; moindres carrés pondérés; moindres carrés repondérés Version: 22 août 2005 Méthodes de prévision (STT-3220)

Transformation stabilisatrice de variance Technique qui vise à contrer certains problèmes d’hétéroskédasticité. Considérons une variable aléatoire yi, et posons également: On considère une certaine fonction et on développe en série de Taylor la fonction autour du point : STT-3220; Méthodes de prévision

Développement au premier ordre On obtient donc: Ici est la dérivée première évaluée en . On applique la variance de chaque côté de la formule précédente: STT-3220; Méthodes de prévision

Résolution d’une petite équation différentielle Ceci suggère de chercher la fonction qui satisfait la relation: Ceci implique: STT-3220; Méthodes de prévision

STT-3220; Méthodes de prévision Exemple 1. Supposons que: Résoudre l’équation donne: On pourrait donc poser et considérer la transformation logarithmique. STT-3220; Méthodes de prévision

STT-3220; Méthodes de prévision Exemple 2. Supposons que: Résoudre l’équation donne: On peut poser et considérer la transformation racine carrée. STT-3220; Méthodes de prévision

Moindres carrés pondérés et repondérés Exemple. Supposons que l’analyste est amené à estimer un modèle de la forme: Pour les fins de l’illustration, la variable dépendante correspond à un nombre d’usagers d’un système (ex: un guichet automatique). STT-3220; Méthodes de prévision

STT-3220; Méthodes de prévision Exemple (suite) Une modélisation possible pourrait être: Dans un tel cas: Puisque le modèle de régression est un modèle transformé: STT-3220; Méthodes de prévision

Moindres carrés pondérés Rappel: Moindres carrés pondérés Dans l’exemple précédent, effectuer les moindres carrés pondérés suggère de résoudre: De plus, la discussion précédente suggère de prendre les poids: Or ces poids ne sont pas connus! STT-3220; Méthodes de prévision

Moindres carrés repondérés Rappel: Moindres carrés repondérés Puisque les poids sont inconnus, on peut tenter de les estimer. La technique des moindres carrés repondérés (en anglais: Iteratively Reweighted Least Squares ou IRLS) est une procédure itérative qui cherche à effectuer des moindres carrés pondérés avec des poids estimés. On doit répéter l’algorithme jusqu’à convergence. STT-3220; Méthodes de prévision

STT-3220; Méthodes de prévision Algorithme pour IRLS On va donner l’algorithme pour notre exemple. Il faut modifier l’algorithme, cas par cas. Étape 1. (Initialisation des poids) Poser Étape 2. (Régression usuelle) Faire une régression usuelle, dans notre exemple de la variable sur . Garder OLS de b Étape 3. (Estimation des poids) Notons l’estimateur courant Calculer les poids. Dans notre exemple: STT-3220; Méthodes de prévision

Algorithme pour IRLS (suite) Étape 3. (suite) On note que les poids sont fonction de On utilise donc les valeurs prédites: Étape 4. (Moindres carrés pondérés) Résoudre en utilisant les poids estimés. Garder WLS de b. Étape 5. Retourner à l’étape 3. On fait les Étapes 3 à 5 jusqu’à convergence. STT-3220; Méthodes de prévision