Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 1 Devoir 3 (aa) on vous demande de déterminer si le de deux variétés de maïs, l’une génétiquement modifiée (OGM), l’autre régulière (R) répondent de la même manière aux méthodes de culture dites plus douces qui utilisent du lisier de porc comme engrais azoté et qui réduisent les quantités d’herbicides utilisées.
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 2 Devoir 3 (a) que la variété OGM présente un rendement avantageux par rapport à la variété régulière si on privilégie l’emploi minimal d’herbicides et le remplacement des engrais chimiques soit par du lisier de porc ou par la supression pure et simple de la fertilisation et (b) qu’il est justifié de privilégier la variété OGM, l’emploi d’herbicide dès le printemps et l’emploi d’engrais chimiques pour maximiser le rendement?
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 3 Régression linéaire simple Ce que ça fait et comment Modèle d’une régression linéaire simple Tests d’hypothèses Analyse des résidus Prédiction inverse, régression avec réplication et régression pondérée Problèmes potentiels Puissance de la régression linéaire simple
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 4 Ce qu’elle fait Ajuste une ligne droite à travers un nuage de points Teste et quantifie l’effet d’une variable indépendante X sur la variable dépendante Y l’intensité de l’effet est donnée par la pente (b) de la régression l’importance de l’effet est donné par le coefficient de détermination (r 2 ) X Y XX YY b = Y X
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 5 Coefficients de corrélation et de régression La pente est obtenue par:Le coefficient de corrélation r: Alors b = r si X et Y ont la même variance… si b = 0, r = 0 et vice versa
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 6 Comment Par la méthode des moindres carrés qui consiste à minimiser la somme des écarts au carré entre les observations et la droite de régression, c’est-à- dire, minimiser les résidus L’écart au carré d’une observation est donnée par: X Y ii Résidu:
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 7 Régression ou corrélation? Corrélation: degré d’association entre deux variables X et Y, pas de relation causale impliquée. Régression: permet de prédire la valeur de la variable dépendante pour une valeur donnée de la variable indépendante. Implique une relation causale.
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 8 Quand utiliser la régression? Ne pas l’utiliser pour déterminer le degré d’association entre deux variables L’utiliser si on veut faire des prédictions X1X1 X2X2 Corrélation X Y Régression
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 9 Modèle d’une régression linéaire simple Le modèle de la régression: alors, toutes les régressions linéaires simples sont décrites par deux paramètres, l’ordonnée à l’origine ( ) et la pente (b) X XX YY b = Y X (pente) (intercept) ii XiXi YiYi Observées Attendues
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 10 Hypothèses implicites Les résidus sont indépendants et normalement distribués La variance des résidus est égale pour tous les X (homoscédasticité) La relation entre Y et X est linéaire Il n’y a pas d’erreur de mesure sur X (régression de type I)
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 11 Erreur de mesure Cette condition peut être vérifiée avant l’analyse on s’en préoccupe si l’erreur est grande par rapport à X ( > 10%) si cette condition n’est pas respectée, utiliser la régression de type II
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 12 Analyse des résidus I: indépendance Regarder s’il y a des tendances sur le graphique des résidus par rapport aux valeurs prédites Valeurs prédites Résidus
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 13 Analyse des résidus II: Normalité Regarder s’il y a des tendances sur le graphique des résidus par rapport aux valeurs prédites Faire un graphique des probabilités normales Vérifier avec le test de Kolmogorov-Smirnov Résidus Normal Pas normal Résidus Valeurs prédites
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 14 Analyse des résidus III: Homoscédasticité Regarder s’il y a des tendances sur le graphique des résidus par rapport aux valeurs prédites Vérifier avec le test de Levene en groupant les valeurs de Y par classe Valeurs prédites Résidus Groupe 1 Groupe 2 Groupe 3 Résidus Valeurs prédites
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 15 Analyse des résidus IV: Linéarité Regarder s’il y a des tendances sur le graphique des résidus par rapport aux valeurs prédites Résidus Valeurs prédites X Y
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 16 Robustesse de la régression aux violations des conditions d’application
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 17 Que faire si les conditions d’applications ne sont pas respectées Essayer de transformer les données en se rappelant que 1) quoiqu’on fasse, certaines données ne peuvent être analysées par régression 2) que la bonne transformation est parfois difficile à trouver. Utiliser une régression non-linéaire.
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay : Longueur (mm) Poids (kg) Les transformations en régression Longueur (mm; log) Poids (kg; log)
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 19 oCoC Cris/min Les transformations en régression oCoC Cris/min (log) La fréquence des cris en fonction de la température chez le criquet mâle Oecanthus fultoni.
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 20 Les transformations en régression Luminosité relative Millivolts Luminosité relative Millivolts Résistance électrique en fonction de la luminosité dans l’oeil d’un céphalopode
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 21 Test d’hypothèse I: répartition de la somme des carrés SC TotaleSC Type I (Expliquée)SC inexpliquée (erreur) Y = +
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 22 Test d’hypothèse I: répartition de la somme des carrés SC régression = s 2 Y et SC erreur = 0 si observées = prédites. Calculer F = SC R /SC e et comparer avec la distribution de F avec 1 et N - 2 dl. H 0 : F = 0.
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 23 Erreur-type de la pente L’erreur-type de la pente s b et l’IC de la pente 100(1- ): Alors pour un N fixe, on peut diminuer s b en augmentant l’étendue des valeurs de X échantillonées Y X Y s b plus grand s b plus petit
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 24 L’erreur-type de l’ordonnée à l’origine L’erreur-type s de l’ordonnée à l’origine : Alors pour un N fixe, on peut diminuer s en augmentant l’étendue des valeurs de X échantillonnées. Y X s plus grand s plus petit Y
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 25 Test d’hypothèses II: test des paramètres du modèle Tester chaque hypothèse par un test de t À noter: C’est un test bilatéral! Y X Y H 02 : b = 0 Y X H 01 : = 0 Y Y = 0 Observées Attendues
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 26 Test d’hypothèses III: Hypothèse unilatérale Une théorie biologique prédit que Y devrait augmenter quand X augmente Alors,H 0 : b 0 (unilatéral) Calculater Rejeter si t b > 0 et p (unilatéral) < YY H 0 rejetée Y X Y H 0 acceptée
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 27 Intervalles de confiance d’une régression L’IC 100 (1- ) pour les valeurs prédites L’IC 100 (1- ) pour les observations
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 28 Intervalles de confiance d’une régression L’IC pour les observations est plus grand que l’IC des valeurs prédites Les IC pour les observations et les valeurs prédites augmentent quand la distance entre les valeurs de X et la moyenne de l’échantillon augmente. Y X Y Valeurs prédites Observations
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 29 Valeurs extrêmes points qui semblent très éloignés de la droite de régression Question 1: est-ce que ces valeurs extrêmes sont de “vraies” valeurs extrêmes? Question 2: est-ce que ces valeurs extrêmes influencent significativement les conclusions statistiques? X Y Extrême?
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 30 Analyse des valeurs extrêmes I: Résidus normalisés Faire un graphique des résidus normalisés en fonction des valeurs prédites Attention aux résidus normalisés > 3.0 Ces résidus contribuent fortement au carré moyen des résidus de la régression LAGE STUDENT
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 31
Call: lm(formula = LFKL ~ LAGE, data = Reg1dat, na.action = na.exclude) Residuals: Min 1Q Median 3Q Max Coefficients: Value Std. Error t value Pr(>|t|) (Intercept) LAGE Residual standard error: on 73 degrees of freedom Multiple R-Squared: F-statistic: on 1 and 73 degrees of freedom, the p-value is 0 5 observations deleted due to missing values Analysis of Variance Table Response: LFKL Terms added sequentially (first to last) Df Sum of Sq Mean Sq F Value Pr(F) LAGE Residuals
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 33 Analyse des résidus II: Leverage Le leverage mesure l’influence potentielle d’un point sur la droite. Déterminé par les valeurs de X seulement, les points très éloignés de la moyenne ont un plus grand leverage. Attention au valeurs de leverage plus grande que 4/N LAGE LEVERAGE X Y Petit leverage Grand leverage
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 34 Analyse des résidus III: distance de Cook La distance de Cook mesure le leverage et la contribution au carré moyen des résidus, c’est-à-dire l’influence réelle d’un point Attention aux valeurs de Cook plus grandes que 1 Petites distances de Cook Grandes distances de Cook ESTIMATE COOK X Y
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 35
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 36 Solutions aux valeurs extrêmes Ont-elles un effet significatif sur les résultats de la régression? Afin de le savoir, les enlever et recalculer la régression. Comparer les résultats. Y-a-t-il des différences significatives entre les pentes, et les ordonnées à l’origine. C’est-à-dire, la nouvelle droite reste-t-elle dans l’IC à 95%? Y X Pas d’effet significatif Y Effet significatif Avec extrêmes Sans extrêmes
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 37 Les effets de l’élimination des valeurs extrêmes Diminue l’effectif de l’échantillon (N), et donc la puissance Diminue la SC e, alors s b diminue et la puissance augmente Si N est petit et qu’on élimine les valeurs extrêmes, on donne trop de poids aux autres… à moins que ces valeurs extrêmes soient vraiment aberrantes. Puissance (1 - ) N plus petit N plus grand s b plus grand s b plus petit s b fixe N fixe 0 0 1
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 38 Prédiction inversée On veut prédire X pour un Y donné. La régression de X en fonction de Y est impossible à cause de l’erreur sur Y ex: courbes de calibration. On veut prédire la concentration à partir de lectures. On se base sur la régression des lectures observées pour des solutions dont on connaissait la concentration. Lectures Concentration Lectures Concentration Erreur sur “X”
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 39 Prédiction inversée Donne la régression de Y sur X. Génère une valeur prédite de X pour un Y donné. Calculer l’IC à 95% pour la valeur prédite de “X” en se basant sur l’IC à 95% sur le “Y” de la régression standard Y “X” prédit Limite inférieure 95% Limite supérieure 95%
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 40 Régression avec réplication Quand on mesure plusieurs Y pour chaque X. Dans ce cas, on peut tester directement en calculant le rapport entre CM causé par les déviations à la linéarité et CM intra-groupe. SC régression SC intra-groupe SC non-linéarité SC groupe SC erreur
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 41 Régression pondérée Utilisée quand la précision sur la mesure de X varie pour un désign avec réplication, la variance de Y pour un X donné peut varier parmi les X comme la taille de l’échantillon (N) Alors, on doit pondérer par N ou l’inverse de la variance de l’échantillon. X Y
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 42 Problèmes potentiels: causalité Une régression statistiquement significative de Y sur X n’implique pas de relation causale entre les deux variables Une régression non significative ne veut pas dire qu’il n’existe pas de relation causale entre les deux, celle-ci peut être non-linéaire Z X Y X Y X Y Accepter H 0 linéaire
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 43 Problèmes potentiels II: petits échantillons Une régression significative peut être obtenue par chance, c’est-à-dire, même si aucune relation causale (linéaire) n’existe. Alors, il faut contrôler e quand on fait plusieurs régression simples. X Y Vraie régression (H 0 acceptée) Régression de l’échantillon (H 0 rejetée)
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 44 Problèmes potentiels III: grands échantillons Si N est grand, de petits coefficients de régression suffisent à rejeter H 0 (la puissance est grande). Alors quand R 2 est petit, éviter de “surinterpréter” la relation observée. X Y Vraie régression (H 0 rejetée mais petit R 2 )
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 45 Porblèmes potentiels IV: extrapolation et interpolation Soyez vigilants quand 1) les prédictions se retrouvent à l’extérieur de l’étendue de l'échantillon; (2) quand les prédictions sont pour des données très éparpillées. X Y X Y Valeur prédite Vraie valeur Observations Relation estimée Vraie relation
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 46 The final word on extrapolation In the space of one hundred and seventy-six years the Lower Mississippi has shortened itself two hundred and forty-six miles. That is an average of a trifle over one mile and a third per year. Therefore, any calm person, who is not blind or idiotic, can see that in the Old Oölitic Silurian period, just a million years ago next November, the Lower Mississippi River was upwards of one million three hundred thousand miles long, and stuck over the Gulf of Mexico like a fishing rod. And by the same token, any person can see that seven hundred and forty-two years from now, the lower Mississippi will be only a mile and three-quarters long, and Cairo and New Orleans will have joined their streets together, and be plodding comfortably along under a single mayor and a mutual board of aldermen. Mark Twain, Life on the Mississippi
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 47 La puissance et la taille de l’échantillon pour la régression linéaire simple. Comme le coefficient de corrélation r et le coefficient de régression b sont très reliés, c’est-à-dire: …on peut transformer b en r et évaluer la puissance en utilisant r. X Y
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 48 La puissance et la taille de l’échantillon pour la régression Si on teste H 0 : b = 0 pour un échantillon de taille n, on peut déterminer 1 - en calculant les valeurs z-transformées pour la valeur critique de r correspondante (au niveau désiré) (z ) et le coefficient de régression de l’échantillon b (z r ), et la probabilité unilatérale normale: X Y
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 49 La puissance et la taille de l’échantillon pour la régression Une fois que Z (1) est déterminé, on peut calculer la probabilité d’obtenir une valeur de Z plus grande ou égale, c’est-à-dire . La puissance est égale à 1- . Z (1) p X Y
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 50 La puissance et la taille de l’échantillon pour la régression: un exemple Effet de l’âge sur la longueur des ailes de 13 oiseaux: Alors, 1 - = 1.00
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 51 Taille de l’échantillon minimum Pour une puissance donnée 1 - , quelle est la taille de l’échantillon requis afin de rejeter H 0 : b = 0 si elle est fausse et que le coefficient de la vraie régression est au moins b Dabord, on doit calculer le coefficient de régression 0 qui correspond à b . X1X1 Y Rejeter H 0 ? Y Observée Attendue si H 0 : b = 0 Vraie régression (b 0 )
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 52 Effectif minimum …ensuite, calculer: X1X1 Observée Attendue si H 0 : b = 0 Vraie régression (b 0 ) X1X1 Y Rejeter H 0 ? Y
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 53 Effectif minimum: un exemple On veut rejeter H 0 : b = 0 99% des fois quand b 0 > 0.2 et (2) =.05 Alors (1) =.01 et pour b =.20, on a...
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :46 54 Effectif minimum Alors… …et Alors on doit utiliser un échantillon de taille égale à au moins 8