Atelier QCM - QROC Serge Normand, M.A. Docimologue Faculté de médecine

Présentation au sujet: "Atelier QCM - QROC Serge Normand, M.A. Docimologue Faculté de médecine"— Transcription de la présentation:

1 Atelier QCM - QROC Serge Normand, M.A. Docimologue Faculté de médecine
Bureau d’évaluation Docimologie appliquée aux sciences de la santé Atelier QCM - QROC Serge Normand, M.A. Docimologue

2 Docimologie Faculté de médecine – Bureau d’évaluation
Atelier de formation pédagogique Docimologie 1 Normes recommandées pour la rédaction de questions de type QCM et QROC

3 Docimologie Faculté de médecine – Bureau d’évaluation
Atelier de formation pédagogique Docimologie 2 L’analyse d’items une technique docimologique pour valider des questions d’examen

4 pour la rédaction de questions
Faculté de médecine Bureau d’évaluation Docimologie appliquée aux sciences de la santé Normes recommandées pour la rédaction de questions QCM QROC Serge Normand, M.A. Docimologue avec la collaboration de Michel Girard, MD, MHPE, FRCP(C)

5 La plupart des exemples citées proviennent de ces sources
Références N B M E WOOD, Tim et Gary COLE, L’élaboration de questions à choix multiple pour les examens menant au certificat du Collège royal des médecins et chirurgiens du Canada, Septembre 2001. Directives pour l’élaboration de questions à réponses courtes, Janvier 2003. CASE, Susan M. and David B. SWANSON, Constructing Written Test Questions For the Basic and Clinical Sciences, NBME, Philadelphia, 2001. La plupart des exemples citées proviennent de ces sources Édition

6 Édition

7 Question à réponse ouverte courte
QROC Édition

8 QCM – Questions à choix multiples MCQ – Multiple-Choice Questions QCR – Questions à choix de réponses VRAI ou FAUX LA MEILLEURE RÉPONSE Édition

9 Classification des QCM Utilisation au NBME depuis 1953 …
type R Contexte clinique Une réponse Association Regroupement Appariement type K Raisonnement type B Interprétation type A Rappel de connaissances Édition

10 Types de questions prônées par les organismes de certification ( QCM-A et QCM-R )
VRAI ou FAUX LA MEILLEURE RÉPONSE Édition

11 Difficultés observées avec le modèle VRAI ou FAUX QCM de type K
Un enfant qui souffre d’une crise aiguë de fièvre rhumatismale présente habituellement (1) un temps de sédimentation allongé (2) un intervalle PR allongé (3) un titre d’antistreptolysine O élevé (4) des nodules sous-cutanés Principales critiques 1 F + 2 V  C 1 V + 2 F  B 4 V + 3 F  D 4 F + 2 F  B Difficile d’évaluer le jugement clinique en terme de Vrai ou Faux Difficile d’écrire des compléments absolument vrai ou faux sans tomber dans la futilité Édition

12 Format d’une QCM bien conçue
Vignette ( Stem ) Un patient de 32 ans se plaint de faiblesse des extrémités depuis 4 jours. Sa température est 37,8 C, son pouls est 94/min, sa PA 130/80 mmHg. La respiration est superficielle à 42/min. Il a une faiblesse symétrique des muscles du visage et des muscles proximaux et distaux des extrémités. La sensibilité est normale. Les réflexes ostéo-tendineux sont absents. Les réflexes plantaires sont en flexion. 1 Question ( Lead-in ) 2 Parmi les diagnostics suivants, quel est le plus probable? Compléments ( Options ) A- Encéphalomyélite aiguë disséminée B- Syndrome de Guillain-Barré C- Myasténie grave D- Polyomyélite E- Polymyosite 3 Édition

13 Gabarit d’une QCM bien conçue
Vignette Vignette (corps de la question) LONGUE 1 Question 2 Compléments Complément COURT Les compléments ne doivent pas transmettre de nouvelles informations Il ne devrait pas y avoir de verbes Complément COURT 3 Complément COURT Complément COURT Complément COURT Édition

14 Caractéristique d’une QCM bien conçue
Vignette Question Un patient de 32 ans se plaint de faiblesse des extrémités depuis 4 jours. Sa température est 37,8 C, son pouls est 94/min, sa PA 130/80 mmHg. La respiration est superficielle à 42/min. Il a une faiblesse symétrique des muscles du visage et des muscles proximaux et distaux des extrémités. La sensibilité est normale. Les réflexes ostéo-tendineux sont absents. Les réflexes plantaires sont en flexion. Parmi les diagnostics suivants, quel est le plus probable? Compléments A- Encéphalomyélite aiguë disséminée B- Syndrome de Guillain-Barré C- Myasténie grave D- Polyomyélite E- Polymyosite On peut répondre à la question avant de lire les compléments Édition

15 Caractéristique d’une QCM bien conçue
Vignette Question Un patient de 32 ans se plaint de faiblesse des extrémités depuis 4 jours. Sa température est 37,8 C, son pouls est 94/min, sa PA 130/80 mmHg. La respiration est superficielle à 42/min. Il a une faiblesse symétrique des muscles du visage et des muscles proximaux et distaux des extrémités. La sensibilité est normale. Les réflexes ostéo-tendineux sont absents. Les réflexes plantaires sont en flexion. Parmi les diagnostics suivants, quel est le plus probable? Compléments A- Encéphalomyélite aiguë disséminée B- Syndrome de Guillain-Barré C- Myasténie grave D- Polyomyélite E- Polymyosite Continuum pour la meilleure réponse D C A E B La moins correcte La plus correcte Édition

16 Contexte: Examen physique
Choisir un contexte Sujet: Syndrome de Turner Contexte: Examen physique Une femme de 18 ans présente une aménorrhée primaire. Lequel des signes suivants oriente le mieux vers un diagnostic du syndrome de Turner ? A- Hypertension B- Hirsutisme C- Petite taille D- Épicanthus E- Organes génitaux externes normaux Une femme de 18 ans présente une aménorrhée primaire. À l’examen, vous observez qu’elle mesure 148 cm de hauteur. De plus, vous remarquez l’immaturité de ses organes génitaux externes et l’absence de développement des seins. Quel est votre diagnostic le plus probable ? A- Syndrome de Turner B- Dysgénésie gonadique mixte C- Dysgénésie gonadique pure D- Syndrome de Noonan E- Hermaphrodisme Sujet: Syndrome de Turner Contexte: Diagnostic Édition

17 Gabarits de questions QCM
Le gabarit définit la structure globale d’une question. Il est possible de créer plusieurs questions à l’aide du même gabarit. Par exemple, le gabarit suivant pourrait servir à rédiger une série de questions portant sur l’anatomie macroscopique. Un (description du patient) est incapable de (incapacité fonctionnelle). Où se situe le plus probablement sa blessure? Voici une question qui pourrait être rédigée à l’aide de ce gabarit. Un homme de 65 ans a de la difficulté à se relever d’une position assise et à redresser le torse, mais il n’a aucun problème à fléchir les jambes. La blessure se situe le plus probablement sur lequel des muscles suivants : A. Grand fessier B. Petit fessier C. Ischio-jambier D. Psoas-iliaque E. Obturateur interne Édition

18 Gabarits de questions QCM ( sciences fondamentales )
Plusieurs questions en sciences fondamentales peuvent être présentées dans le contexte d’un scénario donnant le profil du patient, qui peut comporter certaines ou l’ensemble des composantes suivantes : Âge, sexe (par ex. un homme de 45 ans) Contexte des soins (par ex. se présente à l’urgence) Plainte invoquée (par ex. à cause d’un mal de tête) Durée (par ex. qui persiste depuis deux jours). Antécédents du patient (et de sa famille?) Observations physiques +/- Résultats des épreuves diagnostiques +/- Traitement initial, observations subséquentes, etc. Édition

19 Exercice pratique Rédigez une question QCM de type A
Faculté de médecine – Bureau d’évaluation Atelier de formation pédagogique Exercice pratique Rédigez une question QCM de type A

20 QROC – Questions à réponse ouverte courte
Il s'agit d'une question à laquelle on peut répondre en quelques mots ou phrases. Dans le cas d’une question comportant des sous-questions, la réponse à chacune de celles-ci doit pouvoir être exprimée en quelques mots ou phrases. Nommez trois causes possibles de l’indigestion : _________________________ La QROC se distingue surtout de la question à développement court par le fait qu'elle n'exige qu'un seul élément d'information comme réponse. Édition

21 QROC – Questions à réponse ouverte courte
Développement COURT Il faut différencier la question à réponse courte de la question à développement court qui prévoit une réponse plus longue et moins structurée (une ou deux phrases à un ou deux paragraphes). Voici un exemple,d'une question à développement court : « Discutez des avantages du traitement XYZ pour le problème ABC ». La réponse à une question à développement court prévoit plusieurs éléments d'information alors que la QROC n’exige qu'un seul élément d'information comme réponse Édition

22 QROC – Questions à réponse ouverte courte
Un malade âgé de 45 ans, atteint d'un cancer épidermoïde du nasopharynx, présente des métastases ganglionnaires qui compriment tous les nerfs qui traversent le trou déchiré postérieur d'un même côté de la base du crâne. Décrivez brièvement les TROIS signes neurologiques les plus probables chez ce sujet. a) ____________________________________ 3 b) ____________________________________ 3 c) ____________________________________ 3 Édition

23 QROC – Questions à réponse ouverte courte
Un malade âgé de 45 ans, atteint d'un cancer épidermoïde du nasopharynx, présente des métastases ganglionnaires qui compriment tous les nerfs qui traversent le trou déchiré postérieur d'un même côté de la base du crâne. Décrivez brièvement les TROIS signes neurologiques les plus probables chez ce sujet. a) ____________________________________ 3 b) ____________________________________ 3 c) ____________________________________ 3 Modèles de réponse POINTS a) Paralysie de la partie droite du voile du palais 3 b) Paralysie de la corde vocale droite 3 c) Paralysie du sterno-cleido-mastoïdien droit 3 (perte du réflexe nauséeux ou pharyngé à droite) 3 (difficulté à avaler à droite) 2 Édition

24 Exercice pratique Rédigez une question QROC avec modèles de réponses
Faculté de médecine – Bureau d’évaluation Atelier de formation pédagogique Exercice pratique Rédigez une question QROC avec modèles de réponses

25 QCM – Questions à choix multiples MCQ – Multiple-Choice Questions QCR – Questions à choix de réponses QCM Édition

26 Question QCM de type A Quelle est la cause de mort la plus fréquente dans la pancréatite aiguë? A- Le choc. B- La fibrillation ventriculaire. C- L’hémorragie. D- L’infection. E- L’obstruction intestinale. Édition

27 Question QCM de type A (avec vignette)
Un patient de 32 ans se plaint de faiblesse des extrémités depuis 4 jours. Sa température est 37,8 C, son pouls est 94/min, sa PA 130/80 mmHg. La respiration est superficielle à 42/min. Il a une faiblesse symétrique des muscles du visage et des muscles proximaux et distaux des extrémités. La sensibilité est normale. Les réflexes ostéo-tendineux sont absents. Les réflexes plantaires sont en flexion. Quel est le diagnostic le plus probable? A- Encéphalomyélite aiguë disséminée B- Syndrome de Guillain-Barré C- Myasténie grave D- Polyomyélite E- Polymyosite Édition

28 Question QCM de type B Directives
Pour chacun des énoncés identifiés par un chiffre, associez une option identifiée par une lettre. Chaque option peut être choisie une seule fois, plus d’une fois ou pas du tout. A- Coactation de l’aorte B- Persistance du canal artériel C- Tétrallogie de Fallot D- Anneau vasculaire aortique E- Atrésie tricuspidienne 1- Amélioré par une anastomose artérielle systémique-pulmonaire 2- Pathologie congénitale cardiaque cyanogène la plus fréquente 3- Corrigé par résection chirurgicale et anastomose bout-à-bout. 4- Cause possible de dysphagie chez l’enfant 5- Hypertension dans les membres supérieurs et hypotension dans les membres inférieurs Édition

29 Question QCM de type K Un enfant qui souffre d’une crise aiguë de fièvre rhumatismale présente habituellement (1) un temps de sédimentation allongé. (2) un intervalle PR allongé. (3) un titre d’antistreptolysine O élevé. (4) des nodules sous-cutanés. Édition

30 Question QCM de type R Thème: Fatigue Compléments:
H: Sphérocytose congénitale I: Hypothyroïdie J: Déficit en fer K: Maladie de Lyme L: Anémie hémol. microangiopathique M: Tuberculose miliaire N: Déficit en vitamine B12 A: Leucémie aiguë B: Anémie des mal. chroniques C: Insuffisance cardiaque D: Dépression E: Infection virus Epstein-Barr F: Déficit en folate G: Déficit en G-6-PD Pour chacun des patients, présentant de la fatigue, choisir le diagnostic le plus probable. Question: Vignettes: Une femme de 19 ans décrit de la fatigue, de la fièvre et un mal de gorge depuis une semaine. Sa température est 38,3C. Elle présente les adénopathies cervicales et une splénomégalie. Le décompte des leucocytes est 5000/mm3 (80% lympho. dont plusieurs présentent des atypies) … Autres labo ... Un garçon de 15 ans décrit de la fatigue et de la douleur au dos depuis 2 semaines. Il est couvert d’ecchymoses, est pâle et ses vertèbres et fémurs sont sensibles à la palpation. L’hémoglobine est à 70 g/l, les leucocytes à 2000/mm3 et les plaquettes à 15,000 mm3. Édition

31 Évaluer la compétence professionnelle Pyramide de Miller
Comportement Behaviour Savoir Cognition Source : Miller GE. The assessment of clinical kills/competence/performance. Academic Medicine (Supplement) 1990; 65: S63-S7. Édition

32 Évaluer la compétence professionnelle Types d’instruments
Performance in vivo : PS. incognito, Vidéo, Dossiers Portfolio … Performance in vitro : ECOS, Ex. PS. … Épreuves à contenus cliniques : QCM, Q. dév., Ex. oral … Épreuves factuelles : QCM, Ex. écrit, oral … Source : Miller GE. The assessment of clinical kills/competence/performance. Academic Medicine (Supplement) 1990; 65: S63-S7. Édition

33 Instruments d’évaluation Curriculum de Dundee
Portfolio ECOS QCM-R QROC QCM Q. dév. Source : DAVIS, M.H. OSCE: the Dundee experience, Medical Teacher; 2003; 25(3): Édition

34 Caractéristiques d’une QCM bien conçue
Vignette ( Stem ) Un patient de 32 ans se plaint de faiblesse des extrémités depuis 4 jours. Sa température est 37,8 C, son pouls est 94/min, sa PA 130/80 mmHg. La respiration est superficielle à 42/min. Il a une faiblesse symétrique des muscles du visage et des muscles proximaux et distaux des extrémités. La sensibilité est normale. Les réflexes ostéo-tendineux sont absents. Les réflexes plantaires sont en flexion. Question ( Lead-in ) Parmi les diagnostics suivants, quel est le plus probable? Compléments ( Options ) A- Encéphalomyélite aiguë disséminée B- Syndrome de Guillain-Barré C- Myasténie grave D- Polyomyélite E- Polymyosite D C A E B La moins correcte La plus correcte Édition

35 Documentation COLLÈGE ROYAL DES MÉDECINS ET CHIRURGIENS DU CANADA, L’élaboration d’un plan directeur d'un examen ProMEDS, Janvier (Source : PDF) COLLÈGE ROYAL DES MÉDECINS ET CHIRURGIENS DU CANADA, Directives pour l’élaboration de questions à réponses courtes, Janvier (Source : PDF) COLLÈGE ROYAL DES MÉDECINS ET CHIRURGIENS DU CANADA, L’élaboration de questions à choix multiples pour les examens menant au certificat du Collège royal des médecins et chirurgiens du Canada, Septembre 2001.(Source : PDF) CONSEIL MÉDICAL DU CANADA, Rédaction de problèmes à éléments-clé pour l’examen d’aptitude au raisonnement clinique (Q4), Septembre (Source : PDF) CASE, Susan M. and David B. SWANSON, Constructing Written Test Questions For the Basic and Clinical Sciences, NBME, Philadelphia, (Source : PDF) GIRARD, Michel et Serge NORMAND, Guide de lecture d’un rapport d’analyse d’items, Bureau d’évaluation, Faculté de médecine, Université de Montréal, (Source : PDF) NORMAND, Serge, AnItem, Logiciel pour effectuer une analyse d’items via le chiffrier Excel, versions PC et Mac, Bureau d’évaluation, Faculté de médecine, Université de Montréal, (AnItem.xls) (MacAnItem.xls) (Exemple de fichier de saisie.xls) NORMAND, Serge, L’analyse d’items, une technique docimologique pour valider des questions d’examen, Diaporama du mode d’emploi du logiciel AnItem, Bureau d’évaluation, Faculté de médecine, Université de Montréal, (Source : PDF)

36 Merci de votre attention !
Diaporama Documentation