Atelier QCM - QROC Serge Normand, M.A. Docimologue Faculté de médecine Bureau d’évaluation Docimologie appliquée aux sciences de la santé Atelier QCM - QROC Serge Normand, M.A. Docimologue

Docimologie Faculté de médecine – Bureau d’évaluation Atelier de formation pédagogique Docimologie 1 Normes recommandées pour la rédaction de questions de type QCM et QROC

Docimologie Faculté de médecine – Bureau d’évaluation Atelier de formation pédagogique Docimologie 2 L’analyse d’items une technique docimologique pour valider des questions d’examen

pour la rédaction de questions Faculté de médecine Bureau d’évaluation Docimologie appliquée aux sciences de la santé Normes recommandées pour la rédaction de questions QCM QROC Serge Normand, M.A. Docimologue avec la collaboration de Michel Girard, MD, MHPE, FRCP(C)

La plupart des exemples citées proviennent de ces sources Références N B M E WOOD, Tim et Gary COLE, L’élaboration de questions à choix multiple pour les examens menant au certificat du Collège royal des médecins et chirurgiens du Canada, Septembre 2001. Directives pour l’élaboration de questions à réponses courtes, Janvier 2003. CASE, Susan M. and David B. SWANSON, Constructing Written Test Questions For the Basic and Clinical Sciences, NBME, Philadelphia, 2001. La plupart des exemples citées proviennent de ces sources Édition serge.normand@umontreal.ca

www.medbev.umontreal.ca/docimo/medulb.htm Édition serge.normand@umontreal.ca

Question à réponse ouverte courte QROC Édition serge.normand@umontreal.ca

QCM – Questions à choix multiples MCQ – Multiple-Choice Questions QCR – Questions à choix de réponses VRAI ou FAUX LA MEILLEURE RÉPONSE Édition serge.normand@umontreal.ca

Classification des QCM Utilisation au NBME depuis 1953 … type R Contexte clinique Une réponse Association Regroupement Appariement type K Raisonnement type B Interprétation type A Rappel de connaissances Édition serge.normand@umontreal.ca

Types de questions prônées par les organismes de certification ( QCM-A et QCM-R ) VRAI ou FAUX LA MEILLEURE RÉPONSE Édition serge.normand@umontreal.ca

Difficultés observées avec le modèle VRAI ou FAUX QCM de type K Un enfant qui souffre d’une crise aiguë de fièvre rhumatismale présente habituellement (1) un temps de sédimentation allongé (2) un intervalle PR allongé (3) un titre d’antistreptolysine O élevé (4) des nodules sous-cutanés Principales critiques 1 F + 2 V  C 1 V + 2 F  B 4 V + 3 F  D 4 F + 2 F  B Difficile d’évaluer le jugement clinique en terme de Vrai ou Faux Difficile d’écrire des compléments absolument vrai ou faux sans tomber dans la futilité Édition serge.normand@umontreal.ca

Format d’une QCM bien conçue Vignette ( Stem ) Un patient de 32 ans se plaint de faiblesse des extrémités depuis 4 jours. Sa température est 37,8 C, son pouls est 94/min, sa PA 130/80 mmHg. La respiration est superficielle à 42/min. Il a une faiblesse symétrique des muscles du visage et des muscles proximaux et distaux des extrémités. La sensibilité est normale. Les réflexes ostéo-tendineux sont absents. Les réflexes plantaires sont en flexion. 1 Question ( Lead-in ) 2 Parmi les diagnostics suivants, quel est le plus probable? Compléments ( Options ) A- Encéphalomyélite aiguë disséminée B- Syndrome de Guillain-Barré C- Myasténie grave D- Polyomyélite E- Polymyosite 3 Édition serge.normand@umontreal.ca

Gabarit d’une QCM bien conçue Vignette Vignette (corps de la question) LONGUE 1 Question 2 Compléments Complément COURT Les compléments ne doivent pas transmettre de nouvelles informations Il ne devrait pas y avoir de verbes Complément COURT 3 Complément COURT Complément COURT Complément COURT Édition serge.normand@umontreal.ca

Caractéristique d’une QCM bien conçue Vignette Question Un patient de 32 ans se plaint de faiblesse des extrémités depuis 4 jours. Sa température est 37,8 C, son pouls est 94/min, sa PA 130/80 mmHg. La respiration est superficielle à 42/min. Il a une faiblesse symétrique des muscles du visage et des muscles proximaux et distaux des extrémités. La sensibilité est normale. Les réflexes ostéo-tendineux sont absents. Les réflexes plantaires sont en flexion. Parmi les diagnostics suivants, quel est le plus probable? Compléments A- Encéphalomyélite aiguë disséminée B- Syndrome de Guillain-Barré C- Myasténie grave D- Polyomyélite E- Polymyosite On peut répondre à la question avant de lire les compléments Édition serge.normand@umontreal.ca

Caractéristique d’une QCM bien conçue Vignette Question Un patient de 32 ans se plaint de faiblesse des extrémités depuis 4 jours. Sa température est 37,8 C, son pouls est 94/min, sa PA 130/80 mmHg. La respiration est superficielle à 42/min. Il a une faiblesse symétrique des muscles du visage et des muscles proximaux et distaux des extrémités. La sensibilité est normale. Les réflexes ostéo-tendineux sont absents. Les réflexes plantaires sont en flexion. Parmi les diagnostics suivants, quel est le plus probable? Compléments A- Encéphalomyélite aiguë disséminée B- Syndrome de Guillain-Barré C- Myasténie grave D- Polyomyélite E- Polymyosite Continuum pour la meilleure réponse D C A E B La moins correcte La plus correcte Édition serge.normand@umontreal.ca

Contexte: Examen physique Choisir un contexte Sujet: Syndrome de Turner Contexte: Examen physique Une femme de 18 ans présente une aménorrhée primaire. Lequel des signes suivants oriente le mieux vers un diagnostic du syndrome de Turner ? A- Hypertension B- Hirsutisme C- Petite taille D- Épicanthus E- Organes génitaux externes normaux Une femme de 18 ans présente une aménorrhée primaire. À l’examen, vous observez qu’elle mesure 148 cm de hauteur. De plus, vous remarquez l’immaturité de ses organes génitaux externes et l’absence de développement des seins. Quel est votre diagnostic le plus probable ? A- Syndrome de Turner B- Dysgénésie gonadique mixte C- Dysgénésie gonadique pure D- Syndrome de Noonan E- Hermaphrodisme Sujet: Syndrome de Turner Contexte: Diagnostic Édition serge.normand@umontreal.ca

Gabarits de questions QCM Le gabarit définit la structure globale d’une question. Il est possible de créer plusieurs questions à l’aide du même gabarit. Par exemple, le gabarit suivant pourrait servir à rédiger une série de questions portant sur l’anatomie macroscopique. Un (description du patient) est incapable de (incapacité fonctionnelle). Où se situe le plus probablement sa blessure? Voici une question qui pourrait être rédigée à l’aide de ce gabarit. Un homme de 65 ans a de la difficulté à se relever d’une position assise et à redresser le torse, mais il n’a aucun problème à fléchir les jambes. La blessure se situe le plus probablement sur lequel des muscles suivants : A. Grand fessier B. Petit fessier C. Ischio-jambier D. Psoas-iliaque E. Obturateur interne Édition serge.normand@umontreal.ca

Gabarits de questions QCM ( sciences fondamentales ) Plusieurs questions en sciences fondamentales peuvent être présentées dans le contexte d’un scénario donnant le profil du patient, qui peut comporter certaines ou l’ensemble des composantes suivantes : Âge, sexe (par ex. un homme de 45 ans) Contexte des soins (par ex. se présente à l’urgence) Plainte invoquée (par ex. à cause d’un mal de tête) Durée (par ex. qui persiste depuis deux jours). Antécédents du patient (et de sa famille?) Observations physiques +/- Résultats des épreuves diagnostiques +/- Traitement initial, observations subséquentes, etc. Édition serge.normand@umontreal.ca

Exercice pratique Rédigez une question QCM de type A Faculté de médecine – Bureau d’évaluation Atelier de formation pédagogique Exercice pratique Rédigez une question QCM de type A

QROC – Questions à réponse ouverte courte Il s'agit d'une question à laquelle on peut répondre en quelques mots ou phrases. Dans le cas d’une question comportant des sous-questions, la réponse à chacune de celles-ci doit pouvoir être exprimée en quelques mots ou phrases. Nommez trois causes possibles de l’indigestion : _________________________ La QROC se distingue surtout de la question à développement court par le fait qu'elle n'exige qu'un seul élément d'information comme réponse. Édition serge.normand@umontreal.ca

QROC – Questions à réponse ouverte courte Développement COURT Il faut différencier la question à réponse courte de la question à développement court qui prévoit une réponse plus longue et moins structurée (une ou deux phrases à un ou deux paragraphes). Voici un exemple,d'une question à développement court : « Discutez des avantages du traitement XYZ pour le problème ABC ». La réponse à une question à développement court prévoit plusieurs éléments d'information alors que la QROC n’exige qu'un seul élément d'information comme réponse Édition serge.normand@umontreal.ca

QROC – Questions à réponse ouverte courte Un malade âgé de 45 ans, atteint d'un cancer épidermoïde du nasopharynx, présente des métastases ganglionnaires qui compriment tous les nerfs qui traversent le trou déchiré postérieur d'un même côté de la base du crâne. Décrivez brièvement les TROIS signes neurologiques les plus probables chez ce sujet. a) ____________________________________ 3 b) ____________________________________ 3 c) ____________________________________ 3 Édition serge.normand@umontreal.ca

QROC – Questions à réponse ouverte courte Un malade âgé de 45 ans, atteint d'un cancer épidermoïde du nasopharynx, présente des métastases ganglionnaires qui compriment tous les nerfs qui traversent le trou déchiré postérieur d'un même côté de la base du crâne. Décrivez brièvement les TROIS signes neurologiques les plus probables chez ce sujet. a) ____________________________________ 3 b) ____________________________________ 3 c) ____________________________________ 3 Modèles de réponse POINTS a) Paralysie de la partie droite du voile du palais 3 b) Paralysie de la corde vocale droite 3 c) Paralysie du sterno-cleido-mastoïdien droit 3 (perte du réflexe nauséeux ou pharyngé à droite) 3 (difficulté à avaler à droite) 2 Édition serge.normand@umontreal.ca

Exercice pratique Rédigez une question QROC avec modèles de réponses Faculté de médecine – Bureau d’évaluation Atelier de formation pédagogique Exercice pratique Rédigez une question QROC avec modèles de réponses

QCM – Questions à choix multiples MCQ – Multiple-Choice Questions QCR – Questions à choix de réponses QCM Édition serge.normand@umontreal.ca

Question QCM de type A Quelle est la cause de mort la plus fréquente dans la pancréatite aiguë? A- Le choc. B- La fibrillation ventriculaire. C- L’hémorragie. D- L’infection. E- L’obstruction intestinale. Édition serge.normand@umontreal.ca

Question QCM de type A (avec vignette) Un patient de 32 ans se plaint de faiblesse des extrémités depuis 4 jours. Sa température est 37,8 C, son pouls est 94/min, sa PA 130/80 mmHg. La respiration est superficielle à 42/min. Il a une faiblesse symétrique des muscles du visage et des muscles proximaux et distaux des extrémités. La sensibilité est normale. Les réflexes ostéo-tendineux sont absents. Les réflexes plantaires sont en flexion. Quel est le diagnostic le plus probable? A- Encéphalomyélite aiguë disséminée B- Syndrome de Guillain-Barré C- Myasténie grave D- Polyomyélite E- Polymyosite Édition serge.normand@umontreal.ca

Question QCM de type B Directives Pour chacun des énoncés identifiés par un chiffre, associez une option identifiée par une lettre. Chaque option peut être choisie une seule fois, plus d’une fois ou pas du tout. A- Coactation de l’aorte B- Persistance du canal artériel C- Tétrallogie de Fallot D- Anneau vasculaire aortique E- Atrésie tricuspidienne 1- Amélioré par une anastomose artérielle systémique-pulmonaire 2- Pathologie congénitale cardiaque cyanogène la plus fréquente 3- Corrigé par résection chirurgicale et anastomose bout-à-bout. 4- Cause possible de dysphagie chez l’enfant 5- Hypertension dans les membres supérieurs et hypotension dans les membres inférieurs Édition serge.normand@umontreal.ca

Question QCM de type K Un enfant qui souffre d’une crise aiguë de fièvre rhumatismale présente habituellement (1) un temps de sédimentation allongé. (2) un intervalle PR allongé. (3) un titre d’antistreptolysine O élevé. (4) des nodules sous-cutanés. Édition serge.normand@umontreal.ca

Question QCM de type R Thème: Fatigue Compléments: H: Sphérocytose congénitale I: Hypothyroïdie J: Déficit en fer K: Maladie de Lyme L: Anémie hémol. microangiopathique M: Tuberculose miliaire N: Déficit en vitamine B12 A: Leucémie aiguë B: Anémie des mal. chroniques C: Insuffisance cardiaque D: Dépression E: Infection virus Epstein-Barr F: Déficit en folate G: Déficit en G-6-PD Pour chacun des patients, présentant de la fatigue, choisir le diagnostic le plus probable. Question: Vignettes: Une femme de 19 ans décrit de la fatigue, de la fièvre et un mal de gorge depuis une semaine. Sa température est 38,3C. Elle présente les adénopathies cervicales et une splénomégalie. Le décompte des leucocytes est 5000/mm3 (80% lympho. dont plusieurs présentent des atypies) … Autres labo ... Un garçon de 15 ans décrit de la fatigue et de la douleur au dos depuis 2 semaines. Il est couvert d’ecchymoses, est pâle et ses vertèbres et fémurs sont sensibles à la palpation. L’hémoglobine est à 70 g/l, les leucocytes à 2000/mm3 et les plaquettes à 15,000 mm3. Édition serge.normand@umontreal.ca

Évaluer la compétence professionnelle Pyramide de Miller Comportement Behaviour Savoir Cognition Source : Miller GE. The assessment of clinical kills/competence/performance. Academic Medicine (Supplement) 1990; 65: S63-S7. Édition serge.normand@umontreal.ca

Évaluer la compétence professionnelle Types d’instruments Performance in vivo : PS. incognito, Vidéo, Dossiers Portfolio … Performance in vitro : ECOS, Ex. PS. … Épreuves à contenus cliniques : QCM, Q. dév., Ex. oral … Épreuves factuelles : QCM, Ex. écrit, oral … Source : Miller GE. The assessment of clinical kills/competence/performance. Academic Medicine (Supplement) 1990; 65: S63-S7. Édition serge.normand@umontreal.ca

Instruments d’évaluation Curriculum de Dundee Portfolio ECOS QCM-R QROC QCM Q. dév. Source : DAVIS, M.H. OSCE: the Dundee experience, Medical Teacher; 2003; 25(3): 255-261 Édition serge.normand@umontreal.ca

Caractéristiques d’une QCM bien conçue Vignette ( Stem ) Un patient de 32 ans se plaint de faiblesse des extrémités depuis 4 jours. Sa température est 37,8 C, son pouls est 94/min, sa PA 130/80 mmHg. La respiration est superficielle à 42/min. Il a une faiblesse symétrique des muscles du visage et des muscles proximaux et distaux des extrémités. La sensibilité est normale. Les réflexes ostéo-tendineux sont absents. Les réflexes plantaires sont en flexion. Question ( Lead-in ) Parmi les diagnostics suivants, quel est le plus probable? Compléments ( Options ) A- Encéphalomyélite aiguë disséminée B- Syndrome de Guillain-Barré C- Myasténie grave D- Polyomyélite E- Polymyosite D C A E B La moins correcte La plus correcte Édition serge.normand@umontreal.ca

Documentation COLLÈGE ROYAL DES MÉDECINS ET CHIRURGIENS DU CANADA, L’élaboration d’un plan directeur d'un examen ProMEDS, Janvier 2003. (Source : PDF) COLLÈGE ROYAL DES MÉDECINS ET CHIRURGIENS DU CANADA, Directives pour l’élaboration de questions à réponses courtes, Janvier 2003. (Source : PDF) COLLÈGE ROYAL DES MÉDECINS ET CHIRURGIENS DU CANADA, L’élaboration de questions à choix multiples pour les examens menant au certificat du Collège royal des médecins et chirurgiens du Canada, Septembre 2001.(Source : PDF) CONSEIL MÉDICAL DU CANADA, Rédaction de problèmes à éléments-clé pour l’examen d’aptitude au raisonnement clinique (Q4), Septembre 1999. (Source : PDF) CASE, Susan M. and David B. SWANSON, Constructing Written Test Questions For the Basic and Clinical Sciences, NBME, Philadelphia, 2001. (Source : PDF) GIRARD, Michel et Serge NORMAND, Guide de lecture d’un rapport d’analyse d’items, Bureau d’évaluation, Faculté de médecine, Université de Montréal, 2001. (Source : PDF) NORMAND, Serge, AnItem, Logiciel pour effectuer une analyse d’items via le chiffrier Excel, versions PC et Mac, Bureau d’évaluation, Faculté de médecine, Université de Montréal, 2001. (AnItem.xls) (MacAnItem.xls) (Exemple de fichier de saisie.xls) NORMAND, Serge, L’analyse d’items, une technique docimologique pour valider des questions d’examen, Diaporama du mode d’emploi du logiciel AnItem, Bureau d’évaluation, Faculté de médecine, Université de Montréal, 2001. (Source : PDF)

Merci de votre attention ! http://www.medbev.umontreal.ca/docimo serge.normand@umontreal.ca Diaporama Documentation