Analyse de variance à un critère de classification (ANOVA)

Présentation au sujet: "Analyse de variance à un critère de classification (ANOVA)"— Transcription de la présentation:

1 Analyse de variance à un critère de classification (ANOVA)
Quand utiliser l’ANOVA Les modèles d’ANOVA et la répartition des sommes des carrés ANOVA: test d’hypothèses ANOVA: conditions d’application Alternative non-paramétrique: Kruskall-Wallis Puissance Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

2 Quand utiliser l’ANOVA
Pour tester l’effet d’une variable indépendante “discrète” chaque variable indépendante est appelée un facteur et chaque facteur peut avoir deux ou plusieurs niveaux ou traitements (ex: rendement du maïs fertilisé à l’azote (N) ou au phosphore et à l’azote (P+N) l’ANOVA teste si toutes les moyennes sont égales On l’utilise quand le nombre de niveaux est supérieur à deux Fréquence mC mN mN+P Rendement Contrôle Expérimental (N) Expérimental (N+P) Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

3 Pourquoi ne pas utiliser plusieurs tests de t?
mc :mN mN:mN+P mC: mN+P Rendement Fréquence mC mN mN+P Pour un nombre de comparaisons k , si H0 est vraie, la probabilité de l’accepter pour tous les k est (1 - a)k pour quatre moyennes, (1 - a)k =(0.95)6 = .735 alors, a (pour toutes les comparaisons) = 0.265 alors en comparant les moyennes des quatre échantillons provenant de la même population on s’attend à détecter des différences significatives pour une paire dans 27% des cas Contrôle Expérimental (N) Expérimental (N+ P) Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

4 Possibilités et limites de l’ANOVA
mN+P Fréquence Permet de tester si toutes les moyennes sont égales (au niveau a)... …mais si on rejette H0, l’ANOVA ne dit pas lesquelles mC mN Fréquence Témoin Expérimental (N) Expérimental (N+ P) mC mN mN+P Rendement Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

5 Types d’ANOVA Type I (“effets fixes”): les traitements sont déterminés par le chercheur Type II (“effets aléatoires”): les traitements ne sont pas sous le contrôle de l’expérimentateur Type III (“modèle mixte”): au moins un facteur du Type I et au moins un du Type II Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

6 ANOVA Type I: effet de la température sur le taux de croissance de la truite
3 traitements déterminés par le chercheur la variable dépendante est le taux de croissance (l), et le facteur (X) est la température X étant contrôlé, on peut estimer l’effet de l’augmentation d’une unité de X (température) sur l (le taux de croissance)... …et prédire l pour d’autres températures Température (ºC) 16 20 24 28 0.00 0.04 0.08 0.12 0.16 0.20 Taux de croissance l (cm/jour) Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

7 ANOVA Type II: poids de l’ours noir et dispersion géographique
3 sites (groupes) échantillonnés variable dépendante est le poids, et le site est le facteur (X) Pour des sites différents les facteurs contrôlant la variabilité sont inconnus... …alors, on ne peut prédire le poids pour d’autres sites 120 160 200 240 280 Poids (kg) Riding Kluane Algonquin Mountain Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

8 Différences entre les modèles
Pour le Type I, les facteurs peuvent être manipulés par l’expérimentateur, pas dans le Type II Le Type I nous permet d’estimer l’effet du traitement, de faire des prédictions, pas le Type II Les calculs pour les deux types sont identiques mais seulement pour l’ANOVA à un critère de classification! Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

9 Pourquoi le nom ANOVA? Dans une ANOVA, la variance totale est répartie en deux composantes: intergroupe: variance des moyennes des différents groupes (traitements) intragroupe (erreur): variance des observations autour de la moyenne du groupe Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

10 Statistical analysis as model building
All statistical analyses begin with a mathematical model that supposedly “describes” the data, e.g., regression, ANOVA. “Model fitting” is then the process by which model parameters are estimated. X Linear regression ANOVA e42 m2 a2 Y m Group 1 Group 2 Group 3 Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

11 Least squares estimation (LSE)
SSR An ordinary least squares (OLS) estimate of a model parameter Q is that which minimizes the sum of squared differences between observed and predicted values: OLS Q Predicted values are derived from some model whose parameters we wish to estimate Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

12 Example: LSE of model parameters in simple linear regression
Data consists of a set of n paired observations (x1, y1), …, (xnyn) The “model” for the I th observation is: What is the LSE of the model parameters a and b? Y ei X Residual: Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

13 ANOVA: modèle général Le modèle général:
Y m Le modèle général: Les algorithmes de l’ANOVA suivent ce modèle (par les moindres carrés) afin d’estimer les ai H0: tous les ai = 0 m =m1 = m2 = m3 Y m a1 = a2 = a3= 0 Groupe 1 Groupe 2 Groupe 3 Groupe Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

14 Répartition de la somme des carrés totale
Y m m3 m1 SC Totale SC Modèle (Groupes) SC Erreur Groupe 1 Groupe 2 Groupe 3 Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

15 Tableau d’ANOVA å å ( - Y Y ) å n ( - Y ) Y ( å å Y - ) Yi Sources
de variation Somme des carrés Degré de liberté (dl) Carré moyen (MS) F k n i å å ( - Totale Y Y ) 2 n - 1 SC/dl ij i = 1 j = 1 MSintergroupe MSerreur k Inter- groupe å n ( - Y ) Y 2 k - 1 SC/dl i i i = 1 k n i ( Erreur å å Y - ) 2 Yi n - k SC/dl i j i = 1 j = 1 Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

16 Composantes de la variance et moyennes des groupes
Rendement Frequence mC mN mN+P F plus petit F plus grand MSintergroupe mesure les différences moyennes au carré parmis les moyennes des groupes MSerreur est une mesure de la précision Témoin Expérimental (N) Expérimental (N+ P) Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

17 ANOVA: l’hypothèse nulle
Rendement Frequence mC mN mN+P F plus petit F plus grand H0: les moyennes de tous les groupes sont les mêmes, ou H0: il n’y a pas d’effet des groupes, ai =0 , ou H0: F = MSintergroupe/ MSerreur = 0 pour k groupes et pour un nombre d’observations N, on compare avec la distribution de F au niveau a avec k - 1 et N - k degrés de liberté Témoin Expérimental (N) Expérimental (N+ P) Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

18 Construction du barrage
Exemple (Lab): Variation temporelle de la taille de l’esturgeon (ANOVA type II) Prédiction: la construction d’un barrage a provoqué la perte des esturgeons de grande taille Test: comparer la taille des esturgeons avant et après la construction du barrage H0: la taille moyenne est la même pour toutes les années Construction du barrage Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

19 Variation temporelle de la taille des esturgeons (résultats de l’ANOVA)
*** Analysis of Variance Model *** Short Output: Call: aov(formula = FKLNGTH ~ YEAR, data = Dam10dat, na.action = na.exclude) Terms: YEAR Residuals Sum of Squares Deg. of Freedom Residual standard error: Estimated effects may be unbalanced Type III Sum of Squares Df Sum of Sq Mean Sq F Value Pr(F) YEAR Residuals Conclusion: rejeter H0 Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

20 Conditions d’application de l’ANOVA
Les résidus sont indépendants les uns des autres Les résidus sont distribués normalement La variance des résidus ne varie pas entre les traitements (homoscédasticité) À noter: ces conditions s’appliquent aux résidus et non aux données brutes …on doit tester les conditions d’application après que l’analyse soit faite et que les résidus soient obtenus Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

21 ANOVA: modèle général Le modèle général:
Y m Le modèle général: Les algorithmes de l’ANOVA suivent ce modèle (par les moindres carrés) afin d’estimer les ai H0: tous les ai = 0 m =m1 = m2 = m3 Y m a1 = a2 = a3= 0 Groupe 1 Groupe 2 Groupe 3 Groupe Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

22 Why does observations need to be independent?
If observations are not independent, then the true degrees of freedom is less (sometimes much less) than the calculated degrees of freedom … … the distribution used to calculate p will be wrong … … and p will be smaller than it ought to be. calcuated df true df Probability Calculated t -3 -2 -1 1 2 3 t Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

23 Checking independence of observations (residuals)
Does the experimental design suggest that sampling units may not be independent (e.g. spatiotemporal correlation?) Do autocorrelation plots to check for serial autocorrelation. Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

24 Test de la normalité des résidus
Vérifier la linéarité du graphique des probabilités normales des résidus Si nécessaire et justifié, faire un test de Kolmogorov-Smirnov. Penser à la puissance!! Valeurs extrêmes Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

25 Test d’homoscédasticité I: graphique des résidus par rapport aux estimés
L’étalement des résidus est-il le même pour tous les groupes? Valeur extrême? Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

26 Test de l’homoscédasticité II: test de Levene
Calculer la moyenne absolue des résidus pour chaque groupe Cette moyenne varie-t-elle entre les groupes? Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

27 Test de l’homoscédasticité II: test de Levene (suite)
*** Analysis of Variance Model *** Short Output: Call: aov(formula = absres ~ YEAR, data = Dam10dat, na.action = na.exclude) Terms: YEAR Residuals Sum of Squares Deg. of Freedom Residual standard error: Estimated effects may be unbalanced Df Sum of Sq Mean Sq F Value Pr(F) YEAR Residuals Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

28 Effets de la violation des conditions d’application
1 2 3 4 5 0.0 0.2 0.4 0.6 0.8 1.0 Probabilité Le calcul de p assume que p(F) = p(F*) mais, moins les résidus se conforment aux conditions d’application, plus l’écart entre les deux augmente alors, les valeurs de p sont incorrectes F, peu conforme F, très conforme Vrai F (F*) Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

29 Robustesse de l’ANOVA aux violations des conditions d’application
Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

30 Questions sur l’analyse des résidus
Quelles conditions d’application sont violées? L’ANOVA est-elle robuste à ces violations? Quelle est la taille de l’effectif? Est-ce que la violation des conditions est causée par la présence de valeurs extrêmes? Comment se comparent p et a? Éliminer les valeurs extrêmes et refaire analyse Transformer les données Essayer ANOVA non-paramétrique (recommandé si l’effectif est petit, c’est-à-dire < 10 par groupe) Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

31 L’alternative non-paramétrique: ANOVA de Kruskall-Wallis
Calculer la somme des rangs (Rg) pour chaque groupe H0: RC = R1 = R2 Calculer la statistique K-W H: qui est distribué comme c2 avec k-1 dl si N pour chaque groupe est assez grand, autrement, utiliser la valeur critique de H Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

32 ANOVA: Analyse de puissance
Si H0 est vraie, alors t CMGroupes/CMerreur suit la distribution de F Mais si H0 est fausse, alors CMGroupes/CMerreur suit la distribution non-centrale de F, définie par n1, n2 et f (non-centralité). Témoin Expérimental (N) Expérimental (N+P) Fréquence Rendement mC mN mN+P Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

33 ANOVA: Analyse de Puissance Ce qu’on peut calculer
Puissance d’un test sur k groupes avec n replicats par groupe au niveau a lorsque (1) les moyennes de chaque groupe sont connues; (2) taille minimale de l’effet à détecter est spécifié Effectif minimum ou différence minimale détectable Témoin Expérimental (N) Expérimental (N+P) Fréquence Rendement mC mN mN+P Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

34 Puissance et effectif en ANOVA à un critère de classification
ANOVA avec k groupes et n replicats par groupe au niveau a . Si on a un estimé de la variabilité intragroupe s2 (MSerreur), on peut calculer f: Témoin Expérimental (N) Expéerimental (N+P) Fréquence Rendement mC mN mN+P Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

35 Calculer la puissance à partir de f
n2 décroissant n1 = 2 Pour n1 ,n2, a et f, on peut obtenir 1-b à partir de tableaux ou courbes (e.g. Zar (1996), Appendix Figure B.1) 1-b a = .05 a = .01 f(a = .05) f(a = .01) 2 3 4 5 1 1.5 2 2.5 Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

36 ANOVA type I: différence minimale détectable
Témoin ANOVA type I: différence minimale détectable Expérimental (N) Expérimental (N+P) Frequency Pour détecter une différence entre les deux groupes les plus différents (par au moins d). Pour un test au seuil a avec une puissance de 1 - b on peut calculer l ’effectif minimal requis nmin pour détecter d, compte-tenu de la variance intragroupe s2, et solutionnant itérativement: mC mN mN+P d Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

37 ANOVA type I: Puissance du test
Témoin Expérimental (N) Expérimental (N+P) Fréquence Rendement mC mN mN+P ANOVA type I: Puissance du test Si H0 est acceptée, il est pertinent de calculer la puissance À partir de CMgroupes , s2 (= CMerreur), et k, on peut calculer f. Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

38 Puissance d’un test: exemple
Effet de la température sur le temps de développement d ’un insecte 3 températures (k = 3, n1 = n2 = 4, n3 = 5) Il y a 67% des chances de faire une erreur de type II Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

39 Facteurs déterminant la puissance en ANOVA à un critère de classification
Puissance augmente avec augmentation de f. Donc puissance augmente avec(1) augmentation de l ’effectif n; (2) augmentation des différences entre groupes (CMgroupes); (3) décroissance du nombre de groupes; (4) décroissance de la variance intragroupe s2 (MSerreur). Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

40 Puissance en ANOVA de type II
120 160 200 240 280 Riding Mountain Kluane Algonquin On peut calculer 1- b à partir de la distribution F centrale: À partir de n1, n2, a et CMgroupes, on peut calculer 1 - b. Masse (kg) Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

41 Puissance en ANOVA non-paramétrique à un critère de classification
Si conditions d’application de l’ANOVA sont rencontrée, alors puissance ANOVA non-paramétrique est 3/p = 95% de celle de l’ANOVA. Calculer puissance de l ’ANOVA paramétrique comme estimé de la puissance de l ’ANOVA non-paramétrique. Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

42 Power with G*Power Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20

43 Concepts map Université d’Ottawa - Bio Biostatistiques appliquées © Antoine Morin et Scott Findlay :20