Intervalles de confiance

Présentation au sujet: "Intervalles de confiance"— Transcription de la présentation:

1 Intervalles de confiance
Week 1 Lecture 1 L2 STE Intervalles de confiance et tests statistiques

2 Intervalles de confiance & tests statistiques
Plan Intervalles de confiance & tests statistiques Echantillonnage, rappels Intervalle de confiance Moyenne Variance et écart type Médiane Pourcentage Tests usuels Principe (rappels) Théorie de la statistique de décision (rappels) Comparaison de deux moyennes expérimentales (grands et petits échantillons) Comparaison de moyennes de deux échantillons appariés Comparaison de deux fréquences expérimentales Comparaison de deux variances expérimentales Tests non-paramétriques Conditions d’utilisation Utilisation des rangs Test de signe Test U de Mann-Whitney Test de Wilcoxon Test de Kolmogorov-Smirnov 24/03/2017 Statistiques

3 Echantillonnage – Estimation d’un paramètre
Extraction de n échantillons d’une population P Si l’on extrait plusieurs échantillons représentatifs de taille n fixée, les différences observées entre les résultats obtenus sont dues à des fluctuations d’échantillonnage. A partir d’un échantillon, on n’a donc pas de certitudes mais des estimations de paramètres. L'estimation d'un paramètre peut être faite - par un seul nombre: estimation ponctuelle - par 2 nombres entre lesquels le paramètre peut se trouver: estimation par intervalle

4 Echantillonnage – Estimation d’un paramètre
Estimation ponctuelle d’une moyenne x barre Estimateur sans biais Ecart type de la moyenne

5 Echantillonnage – Estimation d’un paramètre
Pour améliorer la connaissance de la moyenne, il faut augmenter la taille de l’échantillon

6 Echantillonnage – Estimation d’un paramètre
Intervalle de confiance de la moyenne Cas des grands échantillons (variance connue): Soit une population obéissant à une loi normale de moyenne m et d’écart type s.

7 Echantillonnage – Estimation d’un paramètre
Exemple: 45 hommes de Neandertal males adultes à 95% de confiance

8 Echantillonnage – Estimation d’un paramètre

9 Echantillonnage – Estimation d’un paramètre
Intervalle de confiance de la moyenne Cas des petits échantillons: Quand n<30 ou quand la variance est inconnue, on prend la loi de Student. Pour n = n-1 degrés de liberté Finalement on peut toujours utiliser la loi de Student puisque t tend vers la loi normale quand n est grand…

10 La loi de Student: t(n) n degrés de liberté Converge vers la loi Normale quand n augment.

11 La loi de Student: t(n) La probabilité d’obtenir une valeur de t à l’extérieur de l’intervalle (-ta/2 et ta/2) -> TABLES.

12 Echantillonnage – Estimation d’un paramètre

13 Echantillonnage – Estimation d’un paramètre
Exemple: 6 hommes de Neandertal males adultes à 95% de confiance Finalement on peut toujours utiliser la loi de Student puisque t tend vers la loi normale quand n est grand…

14 Echantillonnage – Estimation d’un paramètre
Intervalle de confiance de la variance Soit une population obéissant à une loi normale de moyenne m (inconnue) et d’écart type s (inconnu). Pour n = n-1 degrés de liberté

15 La loi du Khi carré: c2 Si Z1, Z2, Zn sont des variables aléatoires normales centrées réduites et indépendantes entres elles, la somme des carrées de ces varaibles aléatoires obéit à la loi du c2 à n degrés de libertés

16 La loi du Khi carré: c2

17 La loi du Khi carré: c2 En fait, les calculs sont fastidueux -> TABLES

18 La loi du Khi carré: c2

19 Echantillonnage – Estimation d’un paramètre
Intervalle de confiance de l’écart type (idem) Soit une population obéissant à une loi normale de moyenne m et d’écart type s. Pour n = n-1 degrés de liberté

20 Echantillonnage – Estimation d’un paramètre
Intervalle de confiance de la médiane Si un échantillon est extrait d’une population approximativement normale, et si son effectif est relativement grand (n>60), la distribution d’échantillonnage de la médiane s’approche de la loi normale.

21 Echantillonnage – Estimation d’un paramètre
Estimation ponctuelle d’un pourcentage La population est formée d’individus ayant ou non un caractère A. Soit p la probabilité pour qu’un individu pris au hasard dans la population présente le caractère A. Quand on dispose d’un seul échantillon de taille n, la meilleure estimation ponctuelle de P est donc la fréquence p observée sur l’échantillon.

22 Echantillonnage – Estimation d’un paramètre
Intervalle de confiance d’un pourcentage Grands échantillons (n>30), p ni voisin de 0, ni voisin de 1, (np>5, n(1-p)>5) La variable fréquence obéit à une loi normale centrée réduite

23 Echantillonnage – Estimation d’un paramètre
Un problème très fréquent! Un quotidien publie tous les mois la cote du chef du gouvernement à partir d'un sondage réalisé sur un échantillon représentatif de 1000 personnes. En janvier, la cote publiée était de 38% d'opinions favorables, en février de 36%. Un journaliste commente alors ces valeurs par "Le chef du gouvernement perd 2 points !!" En fait: On construit un intervalle de confiance autour des proportions. Avec un seuil de 95%, on obtient respectivement [35;41] et [33;39] pour les valeurs 38% et 36%. Les deux intervalles ayant une intersection non vide, on ne peut pas conclure qu'il y ait eu baisse ou augmentation de la cote du chef de gouvernement.

24 Week 1 Lecture 1 L2 STE Tests statistiques

25 Théorie de la statistique de décision
Quel est le problème…? On sait qu’un homme de Neandertal mesure en moyenne 165 cm. Sur un site on trouve 16 hommes avec une moyenne de 167 et un écart type de 8 cm (e.t. échantillon). Comparaison de la moyenne avec la valeur théorique de 165 cm Possibilités: Moyenne très élevée: Nous pourrons être amenés à croire que ces hommes ont des tailles différentes de 165 cm Moyenne faiblement plus élevée: on ne pourra pas conclure si c’est significativement supérieur à la norme ou si c’est l’effet du hasard.

26 Théorie de la statistique de décision
Question: à partir de quelle limite pouvons nous raisonnablement conclure à une différence? H0: m=165 (il n’y pas de différence) H1: m≠165 Calcul de Sur la table la probabilité pour que la moyenne d’échantillonnage soit différente celle de la population de plus 2,131 de écart-type est de 5%.

27 Théorie de la statistique de décision
Les deux risques d’erreur dans un test. Erreur de 2nde espèce (compliquée) 1-a 1-b Erreur de 1ere espèce A priori on ne sait pas à quel type d’erreur on sera confronté: Le résultat de l’échantillon a révélé 167 cm probablement par pur hasard. On conclue que la moyenne pourrait être 165 cm alors qu’en fait elle est mesurée à 167 cm.

28 Théorie de la statistique de décision
H0 : hypothèse nulle ou principale Ex: Les haches de type A présentent les mêmes teneurs en Sn que les haches de type B. H1 : hypothèse alternative ou contraire … Soumission à une épreuve de vérité! Conclusion : différence attribuable aux fluctuations d’échantillonnage???

29 Théorie de la statistique de décision
Niveau de signification : un peu arbitraire… significatif : 0.05 hautement significatif : 0.01 très hautement significatif : Test bilatéral / unilatéral : bilatéral : différence sans se préoccuper du sens. Unilatéral : > ou <. Zone de rejet d’un seul coté de la distribution de probabilité de référence. Echantillons indépendants ou appariés: Indépendants : aucune influence du 1er ech sur le 2nd. Appariés : prélèvements par paires. Ex : fumeurs H + F.

30 Comparaison de deux moyennes expérimentales–grands échantillons -
Comparaison des moyennes de 2 grands échantillons indépendants (n1 et n2 >30): Deux échantillons qui suivent des lois normales: m1, s21; m2, s22 H0 : m1 = m2 Si H0 est vraie, Zc suit une loi normale N(0,1)

31 Comparaison de deux moyennes expérimentales–grands échantillons -
H1 : m1 ≠ m2 bilatéral

32 Comparaison de deux moyennes expérimentales–grands échantillons -
H1 : m1 > m2 unilatéral

33 Comparaison de deux moyennes expérimentales–grands échantillons -
H1 : m1 < m2 unilatéral

34 Comparaison de deux moyennes expérimentales–grands échantillons -
Pour résumer: Maintenant un exemple...

35 Comparaison de deux moyennes expérimentales–grands échantillons -
Taille des silex sur deux sites Les moyennes de ces deux échantillons prélevés indépendamment l’un de l’autre diffèrent-elles d’une façon hautement significative?

36 Comparaison de deux moyennes expérimentales–grands échantillons -
n1 et n2 grands -> test sur la loi normale H0 : ma = mb H1 : ma  mb (bilatéral) a = 0.01, Za/2 = 2.57

37 Comparaison de deux moyennes expérimentales–grands échantillons -
H0 rejetée au seuil de signification de 1%

38 Comparaison d’une moyenne empirique à une moyenne théorique
Même principe que précédemment (quand n est grand): H0: m=m0 que l’on teste sur la loi normale N(0,1)

39 Comparaison de deux moyennes expérimentales– petits échantillons -
Cas des petits échantillons: Test t Deux populations normales m1 et m2 de même variance (au moins approximativement) s2. Si n1 et n2 sont petits, s2x1 et s2x2 sont des estimateurs peu précis de s2. Dans ce cas, la variable différence centrée réduite n’obéit plus à une loi normale mais à une loi de Student à n=n1+n2-2 degrés de liberté.

40 Comparaison de deux moyennes expérimentales– petits échantillons -
La variance de la distribution des différences de moyennes est estimées par s2D avec

41 Comparaison de deux moyennes expérimentales– petits échantillons -
Ce qui donne… H0 : ma = mb Avec n = n1 + n2 - 2

42 Comparaison de deux moyennes expérimentales– petits échantillons -
Si les variances s’avèrent inégales alors test t modifié. avec

43 Comparaison d’une moyenne empirique à une moyenne théorique
Même principe que précédemment. Suivant si n est petit ou grand, on calcule les variables auxiliaires suivantes: H0: m=m0 que l’on teste sur la loi de Student ou loi normale N(0,1)

44 Comparaison de moyennes de deux échantillons appariés
Fondée sur les différences de chaque paire d’éléments On imagine que la différence obéit à une loi normale, mais en général on utilise une loi de Student à n-1 degrés de liberté:

45 Comparaison de moyennes de deux échantillons appariés
H0 : m1 = m2 ou md = 0 H1: m1  m2 , bilatéral H1: m1 > m2 , unilatéral H1: m1 < m2 , unilatéral t calculé pour n = n-1 degrés de liberté

46 Comparaison de deux fréquences expérimentales
Comparaison des fréquences de 2 grands échantillons indépendants. Deux échantillons : f1, n1; f2, n2 On approxime la loi binomiale par la loi normale mais: n1>30, n2>30, n1f1>5, n2f2>5, n1(1-f1)>5, n2(1-f2)>5 H0 : p1 = p2 = p

47 Comparaison de deux fréquences expérimentales
Sous H0 on peut réunir les deux échantillons, et on est conduit à l’estimation de p Zc devient H1: p1≠p2 H1: p1>p2 H1: p1<p2 Test sur la loi normale N(0,1)

48 Comparaison d’une fréquence empirique et d’une fréquence théorique
La différence entre f (mesuré) et p (théorique) est-elle seulement explicable par les aléas dus à l’échantillonnage? On approxime la loi binomiale par la loi normale mais: n>30, np>5 et nq>5 H0: f = p H1: f≠p H1: f>p H1: f<p Test sur la loi normale N(0,1)

49 Comparaison de deux variances expérimentales
Deux échantillons qui suivent des lois normales: m1, s21; m2, s22 Plus grande variance H0: s21=s22 calcul de : >1 Plus petite variance Si H0 est vraie, Fc suit une loi de Fisher-Snedecor avec n1=n1-1 et n2=n2-1

50 La loi de Fisher - Snedecor : F(n1,n2)
Soit c21 et c22, un couple de variables aléatoires indépendantes suivant respectivement des lois du c2 à n1 et n2 degrés de libertés. Utile pour les tests de variance et de covariance

51 La loi de Fisher - Snedecor : F(n1,n2)

52 Comparaison de deux variances expérimentales
H1: s21>s22 Sous H0: Pr(Fc<Fa)=1-a Accept. H0 rejet H0 Fa

53 Comparaison de deux variances expérimentales
H1: s21≠s22 Sous H0 : Pr(Fc<Fa/2)=1-a Accept. H0 rejet H0 a/2 Fa/2

54 Comparaison de deux variances expérimentales
Table de Fisher- Snedecor

55 Tests non-paramétriques
24/03/2017 Statistiques

56 Conditions d’application Utilisation des rangs
Plan 1. Généralités Conditions d’application Utilisation des rangs 2. Les tests: Le test de signes Le test U de Mann-Whitney Le test de Wilcoxon Le test de Kolmogorov Smirnov 24/03/2017 Statistiques

57 1. Généralités – Conditions d’application
Pourquoi et quand utiliser des statistiques non-paramétriques? Les tests non paramétriques ne font aucune hypothèse sur la distribution sous-jacente des données. On les qualifie souvent de tests distribution free. L’étape préalable consistant à estimer les paramètres des distributions (p.e. moyenne et écart type) avant de procéder au test d’hypothèse proprement dit n’est plus nécessaire. Quand?: L’échelle des données est ordinale plutôt que sous forme d’intervalles ou de rapports. Dans ce cas les opérations arithmétiques n’ont pas de sens! Les mesures sont sur des échelles d’intervalles ou de rapports mais les distributions de fréquences observées sont très éloignées de la distribution normale. 24/03/2017 Statistiques

58 1. Généralités – Conditions d’application
Données Paramétrique Non-paramétrique Distribution normale n grand Précis et fiable Si H0 est rejeté, le résultat devrait être le même qu’avec le test paramétrique Si H0 est accepté, le résultat n’est peut être pas fiable Distribution non normale n petit Résultat absolument pas fiable: souvent un rejet de H0 abusif Meilleur résultat possible avec de telles données 24/03/2017 Statistiques

59 Données Rangs x1 = 4,3 R(x1) = 5 x2 = 9,3 R(x2) = 8 x3 = 0,3 R(x3) = 1
1. Généralités – Utilisation des rangs Maintenant, on ne travaille plus que sur les rangs Données Rangs x1 = 4,3 R(x1) = 5 x2 = 9,3 R(x2) = 8 x3 = 0,3 R(x3) = 1 x4 = 2,9 R(x4) = 3 x5 = 3,2 R(x5) = 4 x6 = 7,7 R(x6) = 7 x7 = 5,0 R(x7) = 6 x8 = 0,4 R(x8) = 2 On pourrait ordonner du plus grand au plus petit. Les rangs seraient différents, mais les tests aboutiraient au mêmes résultats! Si x2 avait été 1000, x2 aurait eu le même rang (donc perte irrémédiable d’information)! 24/03/2017 Statistiques

60 Données Rangs x1 = 4,3 R(x1) = 5 x2 = 9,3 R(x2) = 8 x3 = 0,3 R(x3) = 1
1. Généralités – Utilisation des rangs Données Rangs x1 = 4,3 R(x1) = 5 x2 = 9,3 R(x2) = 8 x3 = 0,3 R(x3) = 1 x4 = 0,4 R(x4) = 2,5 x5 = 3,2 R(x5) = 4 x6 = 7,7 R(x6) = 7 x7 = 5,0 R(x7) = 6 x8 = 0,4 R(x8) = 2,5 Si 2 valeurs ou plus sont identiques, le rang devient la moyenne des rangs de la paire ou du groupe En pratique, souvent peu crucial… 24/03/2017 Statistiques

61 Pour n impair Pour n pair 1. Généralités – Rappels sur la médiane
Si n est impair: médiane = valeur du point avec le rang (n+1)/2 Si n est pair: médiane entre les valeurs des points qui ont les rangs n/2 et (n+2)/2 Valeur pour laquelle la fréquence cumulée est égale à 0.50 ou point qui partage la distribution en 2 parties égales. Pour n impair Pour n pair 24/03/2017 Statistiques

62 2. Les tests – Le test des signes (petits échantillons)
Alternative non-paramétrique au test t Cas d’un petit échantillon Voyons un exemple: ces mesures de mercure dans les sols sont-elles issues d’une population dont la médiane serait 40 ppm? Hg ppm 56 42 61 55 35 39 65 44 51 32 82 41 Signe + - Résultat : 3 (–) et 12 (+) Question: Est-ce significativement différent de 50% (-) et 50% (+)? Il semble qu’il y ait déséquilibre… à voir… 24/03/2017 Statistiques

63 2. Les tests – Le test des signes (petits échantillons)
Imaginons que (+) soit un succès: p = 0,5. On peut appliquer la distribution binomiale, avec x, le nombre d’apparitions, p, la probabilité de succès, n, le nombre de tentatives: Probabilité de 7 succès (ou 8) sur 15 essais = 0,19638 Probabilité de 6 succès (ou 9) sur 15 essais = 0,15274 Probabilité de 5 succès (ou 10) sur 15 essais = 0,09164 Probabilité de 4 succès (ou 11) sur 15 essais = 0,04166 La somme de ces probabilités = 0,9648, donc plus de 95% de chances de se retrouver avec de 4 à 11 (+). 24/03/2017 Statistiques

64 2. Les tests – Le test des signes (petits échantillons)
On pose les hypothèses: H0: la médiane = 40 ppm Hg H1: la médiane ≠ 40 ppm Hg Avec 12(+), on rejette H0 car on a déjà plus de 96% de chances de se trouver entre 4 (+) et 11 (+) par le simple fait du hasard. On en conclue donc que la médiane de la population est significativement différente de 40 ppm de Hg. 24/03/2017 Statistiques

65 2. Les tests – Le test des signes (grands échantillons)
Quand n est suffisamment grand (n>20), on peut utiliser l’approximation normale de la loi binomiale avec une correction de continuité Exemple: Durée de vie supposée d’un foret pétrolier > 250h 15(+), 9(-) H0: médiane de la population = médiane hypothétique spécifiée H1: médiane de la population > médiane hypothétique spécifiée Attention test unilatéral 24/03/2017 Statistiques

66 2. Les tests – Le test des signes (grands échantillons)
Correction de continuité (puisque la loi binomiale est discrète alors que la loi normale est continue): Il faut retrancher 0.5 à X si X>Np et ajouter 0.5 à X si X<Np. Ici c’est un test unilatéral, Z0,05= 1,645. Z<Z0.05, donc H0 n’est pas rejetée. La publicité de la marque n’est pas justifiée!!! 24/03/2017 Statistiques

67 2. Les tests – Le test U de Mann-Whitney
Alternative non-paramétrique du test t à deux échantillons. Probablement le test non-paramétrique le plus utilisé dans la littérature. Il teste l’hypothèse nulle d’égalité des médianes de populations à partir desquelles deux échantillons sont tirés. H0: médiane de la population x = médiane de la population y H1: médiane de la population x ≠ médiane de la population y 24/03/2017 Statistiques

68 2. Les tests – Le test U de Mann-Whitney (petits échantillons)
Le plus simple: traiter un exemple Alliage A (n1=8) Alliage B (n2=10) Etape 1: Transformation en rangs Plus petit effectif = n1 Alliage A Alliage B 2 6 Etape 2 R1:Somme rangs = 106 R2 : somme rangs = 65 24/03/2017 Statistiques

69 2. Les tests – Le test U de Mann-Whitney (petits échantillons)
Pour tester la différence entre les rangs, on utilise la statistique suivante. Calcul de U pour l’échantillon 1 & 2 U = min (U1,U2) Ici Donc U=10 24/03/2017 Statistiques

70 2. Les tests – Le test U de Mann-Whitney (petits échantillons)
Si n1 & n2 < 20: Valeurs limites ma fournie par une table telle que sous H0, P(U<ma)=a On rejette H0 si U<ma Ici U<17, donc H0 est rejeté. Il y a donc une différence significative entre les deux groupes 24/03/2017 Statistiques

71 2. Les tests – Le test U de Mann-Whitney (grands échantillons)
Si n1 & n2 > 20, la distribution U peut être approchée par une distribution normale de telle sorte que avec Ceci se teste tout naturellement sur la loi normale… Accepter H0 si –Za/2<Z<Za/2, sinon rejeter H0 24/03/2017 Statistiques

72 M 5 4 2 3 8 R 6 1 7 Diff -1 -2 2. Les tests – Le test de Wilcoxon
Comparaison de deux échantillons appariés (chaque valeur d’un échantillon est associée à une valeur de l’autre échantillon, les deux ont la même taille). Question: Existe-t-il une différence entre les 2 échantillons? H0: Pas de différence entre les deux groupes H1: Une différence entre les deux groupes M 5 4 2 3 8 R 6 1 7 Diff -1 -2 Calcul de la différence n = nombre de différences non nulles = 9 24/03/2017 Statistiques

73 2. Les tests – Le test de Wilcoxon (petits échantillons)
On classe ensuite les différences par ordre croissant de valeurs absolues Val. -1 1 2 -2 3 4 Rg 2.5 5.5 7.5 9 On affecte à chaque différence son rang dans le classement w+ : somme des rangs des différences positives w- : somme des rangs des différences négatives w+ = = 32 w- = = 13 w = min (w+, w-) = 13 24/03/2017 Statistiques

74 2. Les tests – Le test de Wilcoxon (petits échantillons)
Niveau de signification, test unilatéral 0,025 0,01 0,005 Niveau de signification, test bilatéral 0,05 0,02 6 7 2 8 4 9 3 10 5 11 12 14 13 17 21 16 15 25 20 30 24 35 28 23 18 40 33 19 46 38 32 52 43 59 49 22 66 56 73 62 55 81 69 61 89 77 68 2 cas possibles: Si n<25 (empirique), alors on utilise une table Sous H0, P(W<wa)=a avec a = 0.05 et a = 0.01 On rejette l’hypothèse nulle si w<wa Ici, pour n = 9 et a = 0.05, wa = 6 w > w0.05 donc on ne peut pas rejeter H0. Il n’y a pas de différence significative entre les deux échantillons. 24/03/2017 Statistiques

75 2. Les tests – Le test de Wilcoxon (grands échantillons)
Si n>25, lorsque H0 est vraie, W suit approximativement une loi normale N(m,s) avec On calcule la valeur de la variable normale centrée réduite: La valeur est comparée à la valeur Za de la loi normale. Si –Za/2<Z<Za/2 on accepte H0 24/03/2017 Statistiques

76 2. Les tests – Le test de Kolmogorov Smirnov
Test non paramétrique de conformité de Kolmogorov Smirnov Il consiste à calculer les différences existants entre les distributions de fréquences relatives cumulées de deux échantillons et à vérifier si la plus grande différence peut être fortuite ou pas (Dobs). Pour au moins une valeur de xi Simple sur un exemple… 24/03/2017 Statistiques

77 2. Les tests – Le test de Kolmogorov Smirnov
Domaine vital de l’ours noir (F & M) Sexe Domaine vital (km2) F M 37 72 94 504 60 173 49 18 560 50 274 168 102 20 Question: L’étendue du domaine vital des ours noirs males est-elle différente de celle du domaine des femelles? Hypothèses: Pour au moins une valeur de xi 24/03/2017 Statistiques

78 2. Les tests – Le test de Kolmogorov Smirnov
Freq cum abs. Freq cum rel. Diff. Diff. max. xi Fcum(xiF) Fcum(xiM) Fcum(xiF)/nF (A) Fcum(xiM)/nM (B) (A)-(B) Dobs 18 20 37 49 50 60 72 94 102 168 173 274 504 560 1 2 3 5 6 7 8 9 4 0,111 0,222 0,333 0,555 0,666 0,777 0,888 0,166 0,500 0,833 0,722 24/03/2017 Statistiques

79 2. Les tests – Le test de Kolmogorov Smirnov
24/03/2017 Statistiques

80 2. Les tests – Le test de Kolmogorov Smirnov
Ici cas des petits échantillons nF & nM < 25 (en fait nF=9 et nM=6) On calcule une variable auxiliaire KS = nF nM Dobs = 9.6.0,888 = 47,952 = 48 Dans la table, la valeur critique s’élève à 39 pour a = 0,05 Si KS>KSa, alors on rejete H0 (rejet des valeurs trop grandes) Ici 48>39, donc on rejette H0 Conclusion: L’étendue du domaine vital des mâles diffère significativement de l’étendue du domaine des femelles. 24/03/2017 Statistiques

81 2. Les tests – Le test de Kolmogorov Smirnov
Si au contraire n1 & n2 sont supérieurs à 25 on calcule : Si Dobs > Da, l’hypothèse H0 est refusée au profit de H1 24/03/2017 Statistiques