Les variables qualitatives Ecole Doctorale Marchés et Organisation : Droit – Economie – Gestion Formation d’Économétrie avec Stata Les variables qualitatives Lionel Nesta

Plan du cours : première partie Les variables qualitatives explicatives Création et gestion des variables qualitatives sous STATA Les variables muettes dans le modèle MCO Les modèles à variables qualitative dépendante Le modèle de probabilité linéaire L’estimation par le maximum de vraisemblance La régression logistique

Plan du cours : deuxième partie La régression logistique multinomiale Simple Ordinale Les modèles de comptage Le modèle de Poisson Le modèle négatif binomial

Les variables qualitatives explicatives

1. Les variables qualitatives explicatives Les variables muettes (les dummies) Créer une variable muette avec Stata Interprétation des coefficients dans le modèle MCO Les effets croisés entre variables muettes et continues

Les variables qualitatives Il s’agit de variables qui donnent des informations sur des caractéristiques discrètes. Le nombre de catégories prises par les variables qualitatives est en général petit. Ces valeurs peuvent être numériques mais chaque nombre indique une qualité; une caractéristiques. Une variable discrète peut avoir plusieurs modalités Deux modalités : homme ou femme Trois modalités : nationalité (française, allemande, anglaise) Plus de trois modalités : secteur (automobile, chimie, bureautique, métallurgie, etc.)

Les variables qualitatives Il existe plusieurs manières de coder une variable qualitative à n modalités Codage par une seule variable catégorielle Codage par n - 1 variables muettes Une variable muette ou indicatrice est une variable qualitative qui prend les valeurs 0 ou 1. On parle de variable binaire ou dichotomique. En Anglais, on parle de « dummy variables », ou « dummies »

Les variables qualitatives Codage par une seule variable catégorielle Deux modalités : On crée une variable catégorielle « genre » qui est égale à 1 si l’individu est une femme, 2 si l’individu est un homme. Trois modalités : On crée une variable « nationalité » qui est égale à 1 si l’individu est français, 2 si l’individu est allemand, 3 si l’individu est anglais. Variable à n modalités : On crée une variable « nationalité » qui est égale à 1 si l’individu est français, 2 si l’individu est allemand, 3 si l’individu est anglais, etc. Le codage d’une variable catégorielle nécessité l’utilisation d’un label pour savoir à quelle modalité se réfère ledit numéro.

Labéliser des variables Labéliser les variables est intéressant, fastidieux, ennuyeux. Conséquence importante sur l’interprétation des résultats label variable. Décrit une variable qualitative ou quantitative label variable asset "real capital" label define. Décrit les valeurs (modalité) d’une variable qualitative label define firm_type 1 "biotech" 0 "Pharma" label values Applique le label défini précédemment label values type firm_type

Exemple de labellisation ************************************************************************************* ******* CREATION DES LABELS INDUSTRIES ********* egen industrie = group(isic_oecd) #delimit ; label define induscode 1 "Text. Habill. & Cuir" 2 "Bois" 3 "Pap. Cart. & Imprim." 4 "Coke Raffin. Nucl." 5 "Chimie" 6 "Caoutc. Plast." 7 "Aut. Prod. min." 8 "Métaux de base" 9 "Travail des métaux" 10 "Mach. & Equip." 11 "Bureau & Inform." 12 "Mach. & Mat. Elec." 13 "Radio TV Telecom." 14 "Instrum. optique" 15 "Automobile" 16 "Aut. transp." 17 "Autres"; #delimit cr label values industrie induscode

Exercice Téléchargez la base var_qual.dta Labélisez la variable firm_type Définissez un label pour la variable firm_type, sachant que la modalité 1 qualifie les grandes firmes pharmaceutiques et la modalité 2 qualifie les firmes de biotechnologie.

Les variables qualitatives muettes Codage par des variables muettes Deux modalités. On crée une variable muette « femme » qui est égale à 1 si l’individu est une femme, 0 sinon. On crée une variable muette « homme » qui est égale à 1 si l’individu est une femme, 0 sinon. Or une des deux variables muettes est redondante. A partir du moment où femme = 0, alors homme = 1. Autrement dit pour une variable catégorielle à deux modalités, on a besoin d’une seule variable muette seulement pour avoir la même information.

Les variables qualitatives muettes Codage par n variables muettes Exemple avec trois modalités On crée trois variables muettes, la première étant est égale à 1 si l’individu est français, 0 sinon (variable appelé « FRA »). la deuxième modalité est égale à 1 si l’individu est allemand, 0 sinon (variable appelé « DEU »). la troisième modalité est égale à 1 si l’individu est anglais, 0 sinon (variable appelé « GBR »). Or une des trois variables muettes est redondante. A partir du moment où FRA = 0, DEU = 0, alors GBR = 1. Pour une variable à n modalités, on crée n - 1 variables muettes, chacune représentant une modalité particulière de la variable.

Créer une variable muette sous stata Générer une variable muette à partir d’une variable qualitative. generate DEU = 0 replace DEU = 1 if country==“GERMANY” generate FRA = country==“FRANCE” generate GE = 1 if taille > 100 replace GE =0 if taille < 101 generate GE = taille > 100

Créer une variable muette sous stata Si vous disposez d’une variable qualitative à n modalités, il peut être fastidieux de créer n-1 variables muettes La fonction tabulate a une extension très pratique, puisqu’elle générera autant de variables muettes qu’il y a de modalités d’une variable catégorielle. tabulate varcat, gen(v_) tabulate country, gen(c_) Va créer la variable muette c_1 pour le premier parti, c_2 pour le second, c_3 pour le troisième, etc.

Interprétation des coefficients devant les variables muettes Dans la régression linéaire, le coefficient estimé s’interprète comme la variation de la variable dépendante suite à la variation d’une unité de la variable explicative, toute chose égale par ailleurs. Soit le modèle de fonction de production de connaissance où « y » est le nombre de brevet produit par les firmes et « biotech » est une variable muette égale à 1 pour les firmes de biotechnologie.

Interprétation des coefficients devant les variables muettes Si la firme est une firme de biotechnologie, la variable muette « biotech » est égale à l’unité, donc : Si la firme est une firme pharmaceutique, la variable muette « biotech » est égale à 0, donc :

Interprétation des coefficients devant les variables muettes Quand la variable explicative est muette, le coefficient s’interprète comme variation de la variable dépendante quand la variable muette est égale à 1, relativement à une situation où la variable muette est égale à 0. Pour deux modalités, je dois introduire une variable muette. Pour trois modalités, je dois introduire deux variables muettes. Pour n modalités, je dois introduire (n-1) variables muettes.

Exercice A partir de la base var_qual.dta, régressez le modèle Prédisez la production de brevet pour les firmes de biotechnologie et les firmes pharmaceutiques Etablissez les statiques descriptives de PAT pour chacun des types de firme avec la commande table Qu’observez-vous ?

Interprétation des coefficients devant les variables muettes Pour la forme semi logarithmique (log Y), le coefficient β est interprété comme une approximation du pourcentage de variation de Y pour une variation de 1 de la variable explicative. Cette approximation est acceptable quand β est petit (β < 0.1). Quand β est grand (β ≥ 0.1), alors le pourcentage exact de la différence selon les évènements 0 ou 1 est : 100 × (eβ – 1)

Application 1: modèle de base La fonction de production de connaissances

Application 1: modèle de base

Application 2: Changement de modèle La fonction de production de connaissances

Application 2: Changement de modèle

Application 3: Variable muette La fonction de production de connaissances

Application 3: Variable muette

Application 3: Variable muette Patent ln(PAT) size

Application 4: Variable d’interaction La fonction de production de connaissances

Application 4: Variable d’interaction

Application 4: Variable d’interaction Patent ln(PAT) Size

Les modèles à variable qualitative dépendante

Le modèle de probabilité linéaire

Le modèle de probabilité linéaire Quand la variable qualitative dépendante est binaire ou dichotomique (0/1), le modèle OLS est appelé modèle de probabilité linéaire (par exemple : Y=1 si l’entreprise innove, Y=0 sinon). Y ne prend que 2 valeurs (0;1). Comment interpréter βj? Si E(u|X)=0 alors:

Le modèle de probabilité linéaire Y suit une distribution de Bernoulli d’espérance P. Ce modèle est donc dit MPL car son espérance conditionnelle E(Y|X) peut être interprétée comme la probabilité conditionnelle que l’évènement se produise compte tenu des valeurs de X : β mesure de combien est modifié la probabilité de succès quand X change d’une unité (ΔX=1)

Les limites du modèle de prob. linéaire (1) L’absence de normalité des erreurs OLS6 : Le terme d'erreur est indépendant des variables indépendantes et suit une loi Normale de moyenne nulle et de variance 2 Les erreurs étant le complémentaire par rapport à 1 de la probabilité conditionnelle, elles suivent une distribution de Bernoulli, et non normale.

Les limites du modèle de prob. linéaire (1) L’absence de normalité des erreurs

Les limites du modèle de prob. linéaire (2) L’hétéroscédasticité des erreurs OLS5 : La variance du terme d'erreur est la même, quelle que soiet les valeurs des variables indépendantes Si le terme d’erreur suit une distribution de Bernoulli, alors sa variance dépend de X:

Les limites du modèle de prob. linéaire (2) L’hétéroscédasticité des erreurs

Les limites du modèle de prob. linéaire (3) Des prédictions aberrantes Par définition, une probabilité est toujours comprise entre 0 et 1, si bien que : Or OLS ne garantit en rien cette condition : On peut imaginer des prédictions en dehors de [0;1] L’effet marginal reste constant en permanence car P = E(Y|X) croit linéairement avec X. Ceci n’est pas réaliste (ex: la probabilité d’avoir un enfant en fonction du nombre d’enfants dans la fratrie).

Les limites du modèle de prob. linéaire (3) Des prédictions aberrantes Mauvaises prédictions

Les limites du modèle de prob. linéaire (4) Un coefficient de détermination faible Les valeurs observées de Y sont égales à 1 ou 0, alors que les valeurs prédites appartiennent à l‘ensemble des réels compris enter 0 et 1 : [0;1]. Si on confronte graphiquement les valeurs prédites avec les valeurs observées, l’ajustement linéaire apparaît systématiquement faible.

Les limites du modèle de prob. linéaire (3) Des prédictions aberrantes Mauvaises prédictions qui baissent le R2

Les limites du modèle de probabilité linéaire L’absence de normalité des erreurs L’hétéroscédasticité des erreurs Les prédictions aberrantes La faible valeur du coefficient de détermination

Surmonter les limites du MPL L’absence de normalité des erreurs Augmenter la taille de l’échantillon L’hétéroscédasticité des erreurs Effectuer des estimations robustes Les prédictions aberrantes Effectuer des estimations contraintes ou non linéaires La faible valeur du coefficient de détermination Ne pas utiliser le R2 pour estimer la qualité de l’ajustement

Le MPL et ses utilisations Malgré ses limites, le MPL est assez largement utilisé : Parce qu’il constitue une base exploratoire dont les coefficients sont faciles à interpréter. Parce qu’il marche plutôt bien pour les valeurs des variables indépendantes qui sont proches de la moyenne des données. Parce qu’à la condition de travailler sur des grandes bases de données, il permet d’aborder des problèmes d’estimation que d’autres approches ont du mal à aborder.

Le modèle LOGIT

Probabilités, chances et logit Nous voulons expliquer la réalisation évènement : la variable à expliquer prend deux valeurs : y={0;1}. En fait, on va expliquer la probabilité de réalisation (ou non) de l’évènement: P(Y=y | X) ∈ [0 ; 1]. Il nous faudrait une transformation de P(Y) qui étendent l’intervalle de définition. Nous allons voir que le calcul des chances permet d’envisager cette transformation. Nous comprendrons alors les sources de la fonction logit.

Le modèle Logit (1) Modélisons la probabilité en nous assurant que quelles que soient les valeurs de X, P reste toujours entre 0 et 1.

Le modèle Logit (2) Ecrivons le ratio de chance (odds ratio) et prenons son log: Notons deux caractéristiques importantes et désirées du modèle : Malgré le fait que P soit compris entre 0 et 1, le logit est un réel compris entre -∞ et + ∞ La probabilité n’est pas linéaire en X

Les ratios de chance Ou plus généralement Plutôt que d’expliquer Y (=1 ou =0), on va tenter d’expliquer le ratio de chance (ou odds ratio)

Probabilités, chances et logit P(Y=1) Odds p(y=1) 1-p(y=1) Ln (odds) 0.01 1/99 0,01 -4,60 0.03 3/97 0,03 -3,48 0.05 5/95 0,05 -2,94 0.20 20/80 0,25 -1,39 0.30 30/70 0,43 -0,85 0.40 40/60 0,67 -0,41 0.50 50/50 1,00 0,00 0.60 60/40 1,50 0,41 0.70 70/30 2,33 0,85 0.80 80/20 4,00 1,39 0.95 95/5 19,0 2,94 0.97 97/3 32,3 3,48 0.99 99/1 99,0 4,60

La transformation logit Le précédent tableau fait correspondre une liste de probabilité entre 0 et 1 et son équivalent en termes de chance au logarithme des chances. Si la probabilité varie de 0 à 1, la chance varie de 0 à l’infini. Le log de la chance varie de – ∞ à + ∞ . Remarquez que la distribution des chances et des log est symétrique.

La distribution logistique

La méthode du maximum de vraisemblance Le problème est que nous n’observons pas le ratio de chance. Encore une fois, le modèle MCO ne convient pas. Pour estimer le modèle LOGIT, on a recours à la méthode du maximum de vraisemblance. La méthode MV est une méthode d’estimation alternative à la méthode des moindres carrés. Elle consiste à trouver la valeur des paramètres qui maximisent la vraisemblance des données. La vraisemblance en économétrie est définie comme la probabilité jointe d’observer un échantillon, étant donné les paramètres du processus ayant généré les données.

La méthode du maximum de vraisemblance Supposons que nous disposons d’un échantillon de n observations aléatoires. Soit f(Y) la probabilité que Y=1 ou 0. La probabilité jointe d’observer les n variables de Y est donnée par la fonction de vraisemblance : On doit maintenant spécifier la fonction f(.). Elle découle de la distribution des probabilités d’un événement qui ne peut avoir que deux occurrences: un succès et un échec. Il s’agit de la distribution binomiale :

La fonction de vraisemblance En définitive, la fonction de vraisemblance s’écrit:

La fonction de vraisemblance Parce qu’elle est difficile à manipuler, on utilise généralement le log. Après manipulation, la fonction log de la vraisemblance s’écrit :

La méthode du maximum de vraisemblance Le problème est le suivant: étant donné la forme fonctionnelle de f(.) et les N observations, quelles valeurs des paramètres rendent l’observation de l’échantillon la plus vraisemblable?

La maximisation de la vraisemblance Les estimateurs obtenus en maximisant la vraisemblance sont efficaces. Ou encore en maximisant le log de la vraisemblance. Cette maximisation n’a pas de solution analytique et se résout grâce un algorithme d’itération dit de Newton-Raphson.

L’exemple des chances d’innover Les entreprises de biopharmaceutique : 373 (81%) ont innover et 84 (19%) ne l’ont pas fait. La chance d’innover est d’environ 4 contre 1.En effet 373/84=4.4 Pour les entreprises de biopharmaceutique, la probabilité d’innover est quatre fois plus élevée que la probabilité de ne pas le faire.

Le modèle de régression logistique Application sur la base de données OLS  Instruction Stata : logit logit y x1 x2 x3 … xk [if] [weight] [, options] Options : noconstant : estime le modèle sans constante robust : estime des variances robustes, même en cas d'hétéroscédasticité if : permet de sélectionner les observations sur lesquelles portera la régression weight : permet de pondérer les différentes observations

Interprétation des coefficients (1) Pour avoir la mesure de la variation de probabilité, il faut utiliser la formule du logit pour transformer le logit en probabilité

Interprétation des coefficients (2) Tapons un modèle sans variable explicative et seulement une constante: Tapons logit inno et nous trouvons La constante 1.491 s’interprète comme le log ratio moyen. Calculons la probabilité moyenne d’innover. Tapons : dis exp(_b[_cons])/(1+exp(_b[_cons])) Nous trouvons bien la valeur observée: 81%

Interprétation des coefficients (3) Un signe positif signifie que la probabilité de succès augmentera avec la variable correspondante. Un signe négatif signifie que la probabilité de succès diminuera avec la variable correspondante. Une des difficultés dans l’interprétation des probabilités est leur non linéarité: elles ne varient pas identiquement selon le niveau des variables indépendantes. C’est pourquoi il est fréquent de calculer la probabilité au point moyen de l’échantillon.

Interprétation des coefficients (4) Tapons logit inno rdi size spe pharma A partir du modèle, on peut calculer la probabilité conditionnelle moyenne en utilisant les valeurs moyennes de rdi, size, spe et pharma.

Les effets marginaux (1) Il est souvent utile de connaître l’effet marginal d’une variable explicative sur la probabilité de succès d’un évènement. Puisque la probabilité est une fonction non linéaire des variables explicatives, la variation de la probabilité due à un changement d’une variable explicative (ou son effet marginal) ne sera pas identique selon que les autres variables sont maintenues à leur niveau moyen, ou médian, ou au premier quartile, etc. prvalue produit les probabilité prédites après un modèle logit (ou autre modèle) prvalue prvalue , x(size=10) rest(mean) renvoie pour p(Y=1) : 0.1177 prvalue , x(size=11) rest(mean) renvoie pour p(Y=1) : 0.2622 prvalue , x(size=12) rest(mean) renvoie pour p(Y=1) : 0.4862 prvalue , x(size=10) rest(median) renvoie pour p(Y=1) : 0.0309 prvalue , x(size=11) rest(median) renvoie pour p(Y=1) : 0.0781 prvalue , x(size=12) rest(median) renvoie pour p(Y=1) : 0.1841

Les effets marginaux (2) La commande prchange est bien utile. Elle produit l’effet marginal de chacune des variables explicatives pour la plupart des variations de valeurs désirées. prchange [varlist] [if] [in range] ,x(variables_and_values) rest(stat) fromto prchange prchange, fromto prchange , fromto x(size=10.5) rest(mean)

Qualité de l’estimation Il n’existe pas de mesure comparable au R2 de la régression linéaire. On utilise exclusivement la statistique du log de vraisemblance (LL), cad du log de la probabilité jointe d’observer l’échantillon. Plus il y a d’observation, plus le produit des probabilité jointe tend vers 0. Autrement dit, pour un même modèle, plus il y a d’observations, plus LL tend vers -∞ Pour une même nombre d’observations, plus le modèle est explicatif, plus LL tend vers 0. C’est en comparant deux LL que l’on évalue la qualité d’un ajustement, avec toujours un modèle contraint et un modèle non contraint.

Le McFadden Pseudo R2 On utilise le McFadden Pseudo R2 (1973) en première analyse pour voir la qualité de l’ajustement. Il s’interprète de manière analogue au R2. Toutefois, parce qu’il reste généralement faible, son utilisation reste limitée. Le pseudo-R2 dépend des maxima de vraisemblance obtenus si le modèle n’avait qu’une constante (modèle contraint) et pour le modèle complet (modèle non contraint). Il est compris entre 0 et1. Plus il est proche de 1 et mieux c’est.

Le rapport de vraisemblance (LR test) Le ratio de vraisemblance dépend aussi des maxima de vraisemblance et suit une loi de c2. La probabilité que les variables indépendantes ne sont pas explicatives (H0) est donnée par le test du c2. Le rapport de vraisemblance compare une spécification contrainte à une autre non contrainte: Ce rapport suit une distribution du c 2. Une grande valeur indique que le modèle non contraint apporte une information significative à l’évènement que le modèle veut expliquer.

Autre utilisation du LR test Comme output, STATA présente toujours le LR test, comparant le modèle spécifié avec un modèle sans variable explicative et seulement une constante. On peut réaliser ce test pour comparer deux spécifications pour justifier l’ajout de variables explicatives. Ceci est très utile lorsqu’il s’agit de voir si l’ajout d’une variable apporte de l’information. logit [modèle contraint] est store [nom1] logit [modèle non contraint] est store [nom2] lrtest nom2 nom1

La qualité de la prévision On peut enfin effectuer une comparaison entre les évènements prédits correctement avec ceux prédits avec erreurs. Il faut alors faire une hypothèse: quand la probabilité prédite est supérieure à 0,5, alors la prédiction est que l’évènement a lieu. Sous STATA, ceci est effectuer avec estat class

Autre modélisation du choix binaire Le modèle Logit ne constitue qu’une modélisation possible, même dans le cas où la variable dépendante est une variable binaire. On utilise largement le modèle Probit comme modèle concurrentiel. Ou encore le modèle dit log-log complémentaire dans le cas des probabilité de survie, car il se prête bien à la modélisation de la fonction de hasard.

Autres modélisations de choix binaire Le modèle Probit Le modèle log-log complémentaire

Les fonctions de vraisemblance et commandes STATA Exemple logit inno rdi size spe pharma probit inno rdi size spe pharma cloglog inno rdi size spe pharma

Les fonctions de répartition

Comparaison des modèles OLS Logit Probit C log-log rd - size 0.113 0.757 0.428 0.365 [4.03]*** [3.63]*** [3.55]*** [3.24]*** ln(Actif matériel) 0.126 0.979 0.558 0.495 [8.73]*** [7.43]*** [7.68]*** [7.32]*** ln(spécialisation technologique) 0.051 0.367 0.196 0.131 [1.03] [0.90] [0.87] [0.67] Dummy Pharma -0.447 -3.782 -2.12 -1.836 [7.56]*** [6.63]*** [6.83]*** [6.57]*** Constant -0.407 -7.64 -4.376 -4.264 [2.39]** [5.31]*** [5.44]*** [5.61]*** Observations 457 Absolute t value in brackets (OLS) z value for other models. * 10%, ** 5%, *** 1%

Comparaison des effets marginaux OLS Logit Probit C log-log Intensité de recherche 0.113 0.085 0.093 0.102 Actif matériel 0.126 0.110 0.121 0.137 Spécialisation technologique 0.051 0.040 0.042 0.037 Entreprise Pharmaceutique -0.445 -0.470 -0.466 -0.455 Pour les modèles logit, probit et cloglog, les effets marginaux ont été évalués par une variation d’un point autour de la moyenne, en utilisant les valeurs moyennes des autres variables.

Le modèle LOGIT multinomial

Le modèle multinomial Envisageons maintenant le cas où la variable dépendante est multinomial. Par exemple, dans la cadre des activités d’innovation de la firme: Collabore avec université (modalité 1) Collabore avec grande firme (modalité 2) Collabore avec PME (modalité 3) Ne collabore pas (modalité 4) Ou dans le cadre de la survie des firmes: Survie (modalité 1) Banqueroute (modalité 2) Rachat (modalité 3)

Introduction au modèle multinomial Prenons le cas de la survie des firmes. La première possibilité est d’envisager trois régressions logistiques indépendantes comme suit: Où 1 = survie, 2 = banqueroute, 3 = rachat. 1. Ouvrez le fichier mlogit.dta 2. Pour chaque modalité, estimez la probabilité au point moyen de l’échantillon, conditionnelle à : - temps (log_time) - la taille (log labour) - l’âge (entry_age) - l’indicatrice spinout (spin_out) - l’indicatrice cohorte (cohort_*)

Introduction au modèle multinomial

Le modèle multinomial Premièrement, la somme des probabilités conditionnelles d’occurrence d’évènements exclusifs doit être égale à l’unité. Deuxièmement, pour k modalités différentes, nous n’avons besoin d’estimer que (k – 1) modalités. Donc

Le modèle multinomial Troisièmement, le modèle multinomial est un modèle d’estimation simultanée comparant des ratios de chance pour chaque pair de modalités. Dans le cas de trois modalités:

Le modèle logit multinomial Remarquons qu’il y a redondance d’information dans les trois modèles précédents. En effet : Quatrièmement, l’estimation d’un modèle multinomial revient à estimer conjointement (k – 1) modèles logit en posant la contrainte sur les paramètres à estimer:

Le modèle logit multinomial Dans une modélisation logistique à k modalités, la probabilité d’occurrence de la modalité j s’écrit: Par convention, la modalité 0 est la modalité de base

Le modèle logit multinomial Notez que

Le modèle Logit binomial comme un cas particulier du logit multinomial Réécrivons la probabilité de l’évènement Y=1 On voit bien que le logit binomial est un cas particulier du cas multinomial où seulement deux modalités sont analysées.

La méthode du maximum de vraisemblance Supposons que nous disposons d’un échantillon de n observations aléatoires. Soit f(Y) la probabilité que Y=j. La probabilité jointe d’observer les n variables de Y est donnée par la fonction de vraisemblance : On doit maintenant spécifier la fonction f(.). Elle découle de la distribution des probabilités d’un événement qui peut avoir plusieurs modalités. Il s’agit de la distribution multinomiale :

La fonction de vraisemblance En définitive, la fonction de vraisemblance s’écrit:

La fonction de vraisemblance Après manipulation, la fonction log de la vraisemblance s’écrit

Le modèle de logit multinomial  Instruction Stata : mlogit mlogit y x1 x2 x3 … xk [if] [weight] [, options] Options : noconstant : estime le modèle sans constante robust : estime des variances robustes, même en cas d'hétéroscédasticité if : permet de sélectionner les observations sur lesquelles portera la régression weight : permet de pondérer les différentes observations

Le modèle de logit multinomial use mlogit.dta, clear mlogit type_exit log_time log_labour entry_age entry_spin cohort_* Bloc des description de l’ajustement Paramètres estimés, erreurs standards et probabilités critiques Dans Stata, la modalité de référence est celle qui a la plus grande fréquence empirique

Interprétation des coefficients L’interprétation des coefficients s’effectue toujours en référence à la catégorie de base. La probabilité de rachat décroit-elle avec le temps ? Non!! L’interprétation correcte est: relativement à la survie, la probabilité de rachat décroit avec le temps

Interprétation des coefficients L’interprétation des coefficients s’effectue toujours en référence à la catégorie de base. La probabilité de rachat est elle moins forte pour les « spinoffs » ? Non!! L’interprétation correcte est: relativement à la survie, La probabilité de rachat est moins forte pour les « spinoffs »

Interprétation des coefficients Relativement à la banqueroute, la probabilité de rachat est plus forte pour les « spinoffs » lincom [boughtout]entry_spin – [death]entry_spin

Croiser les références mcross fait le travail pour nous ! Attention à la nouvelle catégorie de référence !! Rachat relativement à la banqueroute Relativement à la banqueroute, la probabilité de rachat est plus forte pour les « spinoffs »

Croiser les références mcross fait le travail pour nous ! Et nous retrouvons notre résultat précédent

L’hypothèse d’indépendances des états non pertinents (IIA) Le modèle repose sur l’hypothèse que pour chaque paire de modalités les réalisations sont indépendantes des autres modalités. Autrement dit, les autres modalités sont non pertinentes (irrelevant). D’un point de vue statistique, cela revient à faire l’hypothèse d’indépendance des termes d’erreur entres les différentes modalités (d’où le nom IIA: Independence of irrelevant alternatives) Une façon simple de tester la propriété IIA est alors d’estimer le modèle en retirant une modalité (pour retreindre les choix), et de comparer les nouveaux paramètres avec ceux du modèle complet Si IIA est valide, les paramètres ne changent pas significativement Si IIA n’est pas valide, les paramètres changent significativement

L’hypothèse d’indépendances des états non pertinents (IIA) H0: La propriété IIA est valide H1: La propriété IIA n’est pas valide La statistique H (H car il s’agit en fait d’un test d’Hausman) suit une distribution du χ² à M degré de liberté (M étant le nombre de paramètres)

Application de IIA H0: La propriété IIA est valide H1: La propriété IIA n’est pas valide mlogtest, hausman Variable omise

Application de IIA H0: La propriété IIA est valide H1: La propriété IIA n’est pas valide mlogtest, hausman Donc on compare les paramètres du modèle « Banqueroute relativement à Rachat » estimé conjointement avec « survie relativement à rachat» avec les paramètres du modèle estimé sans

Application de IIA H0: La propriété IIA est valide H1: La propriété IIA n’est pas valide mlogtest, hausman La conclusion est que la modalité survie modifie significativement l’arbitrage rachat ou banqueroute. En fait pour une firme, le rachat peut être vu comme une modalité de rester en activité avec une perte sur la décision économique d’investissement notamment.

Le LOGIT multinomial ordonné

Le modèle multinomial ordonné Envisageons maintenant le cas où la variable dépendante est une variable discrète, dont la valeur indique une intensité. Typiquement, dans le cadre d’une enquête d’opinion (genre CIS1-4), on a des questions dont la réponse est codée par une échelle de Likert : Obstacles à l’innovation (échelle de 1 à 5) Intensité de collaboration (échelle de 1 à 5) Enquête de marketing (N’apprécie pas (1) – Apprécie (7)) Note d’étudiants Test d’opinion Etc.

La structure ordonnée Ces variables décrivent des échelles verticales – quantitatives, si bien qu’une façon de modéliser le problème est de considérer des intervalles dans lesquels la variable latente y* peut se trouver où αj sont des bornes inconnues à estimer, définissant la frontière des intervalles.

La structure ordonnée On pose ensuite l’hypothèse que la variable latente (non observée) y* est une combinaison linéaire des variables explicatives : où ui admet une fonction de répartition F(.). Les probabilités associées aux réalisations de y (y ≠ y*) sont alors liées à la fonction de répartition de F(.). Regardons la probabilité que y = 1 :

La structure ordonnée Regardons la probabilité que y = 2 : Donc dans l’ensemble, nous avons:

Probabilité dans le modèle ordonné y=1 y=2 y=3 y=k ui

La fonction de vraisemblance En définitive, la fonction de vraisemblance s’écrit:

La fonction de vraisemblance Dans le cas où ui suit une fonction logistique, la fonction log de la vraisemblance s’écrit :

Le logit multinomial ordonnée  Instruction Stata : ologit ologit y x1 x2 x3 … xk [if] [weight] [, options] Options : noconstant : estime le modèle sans constante robust : estime des variances robustes, même en cas d'hétéroscédasticité if : permet de sélectionner les observations sur lesquelles portera la régression weight : permet de pondérer les différentes observations

Le modèle de logit multinomial use est_var_qual.dta, clear ologit innovativeness size rdi spe biotech Qualité de l’ajustement Paramètres estimés Points seuils

Interprétation des coefficients Un signe positif signifie une relation positive entre la variable explicative et le rang (ou l’ordre) Une des difficultés dans l’interprétation est le rôle des variables de seuil. Notre modèle est : Quelle est la probabilité que Y = 1 : P( = 1) ? Quelle est la probabilité que le score soit inférieur au premier seuil ?

Interprétation des coefficients Quelle est la probabilité que Y = 2 : P( Y = 2) ?

Obtenir les probabilité prédites prvalue fait le travail pour nous !

Les modèles de comptage Partie 1. Le modèle de Poisson

Les modèles de comptage Envisageons maintenant le cas où la variable dépendante est une variable discrète positive qui décrit un nombre d’évènement. Typiquement, dans le cadre de l’analyse de l’innovation, on dénombre des innovations, de demande de brevets, des inventions. On pourrait utiliser les MCO mais les MCO peuvent produire des prédictions négatives. Pour les cas où les recensement sont importants (nombre de brevets par pays, et non par firme), alors les MCO peuvent être utilisés. On pourrait utiliser le modèle multinomial ordonné pour le faible dénombrement. Généralement on utilise les modèle de comptage, dont la variable à expliquer suit une loi de Poisson.

Le modèle de Poisson Soit Y variable aléatoire de comptage, la probabilité donnée par la distribution de Poisson que Y soit égale à un entier yi est : Pour introduire les variables explicatives dans le modèle, on conditionne λi en imposant la forme log-linéaire comme suit:

La distribution de Poisson

La fonction de vraisemblance La fonction de vraisemblance s’écrit :

poisson y x1 x2 x3 … xk [if] [weight] [, options] Le modèle de Poisson  Instruction Stata : poisson poisson y x1 x2 x3 … xk [if] [weight] [, options] Options : noconstant : estime le modèle sans constante robust : estime des variances robustes, même en cas d'hétéroscédasticité if : permet de sélectionner les observations sur lesquelles portera la régression weight : permet de pondérer les différentes observations

Le modèle de Poisson Bloc des description de l’ajustement use est_var_qual.dta, clear poisson poisson PAT rdi size spe biotech Bloc des description de l’ajustement Bloc des paramètres estimés

L’interprétation des coefficients Si les variables sont entrées en logarithme, on peut interpréter les coefficients comme des élasticités : L’augmentation de 1% de la taille de l’entreprise est associée à une augmentation de 0.51% du nombre espéré de brevets

L’interprétation des coefficients Si les variables sont entrées en logarithme, on peut interpréter les coefficients comme des élasticités : L’augmentation de 1% de l’investissement en R&D est associée à une augmentation de 0.79% du nombre espéré de brevets

L’interprétation des coefficients Si la variable explicatives n’est pas une transformé logarithmique, l’interprétation change L’augmentation de 1 point du degré de spécialisation est associée à une augmentation de 0.74% du nombre espéré de brevets

L’interprétation des coefficients Pour les variables muettes, l’interprétation est légèrement différentes Les entreprises de biotechnologie ont un nombre espéré de brevets supérieur de 1% aux autres entreprises.

L’interprétation des coefficients Toutes les variables sont extrêmement significatives … mais hélas …

Les modèles de comptage Partie 2. Le modèle négatif binomial

Le modèle négatif binomial Généralement, le modèle de Poisson est invalidé par la présence d’une surdispersion des données qui violent l’hypothèse d’égalité des deux premiers moments de la distribution: la moyenne et la variance. Le modèle négatif binomial pallie à ce problème en ajoutant à la forme log-linéaire un terme d’hétérogénéité non observée:

Le modèle négatif binomial La densité de yi (la probabilité) est obtenue en prenant l’espérance de l’expression par rapport à la densité de ui : En supposant que ui suit une loi Gamma de moyenne 1, la densité de yi devient :

La fonction de vraisemblance Où alpha est le paramètre de surdispersion

Le modèle négatif binomial  Instruction Stata : nbreg nbreg y x1 x2 x3 … xk [if] [weight] [, options] Options : noconstant : estime le modèle sans constante robust : estime des variances robustes, même en cas d'hétéroscédasticité if : permet de sélectionner les observations sur lesquelles portera la régression weight : permet de pondérer les différentes observations

Le modèle de Poisson Qualité de l’ajustement Paramètres estimés use est_var_qual.dta, clear nbreg poisson PAT rdi size spe biotech Qualité de l’ajustement Paramètres estimés Paramètre de surdispersion Test de surdispersion

L’interprétation des coefficients Si les variables sont entrées en logarithme, on pouvons toujours interpréter les coefficients comme des élasticités : L’augmentation de 1% de la taille de l’entreprise est associée à une augmentation de 0.66% du nombre espéré de brevets

L’interprétation des coefficients Si les variables sont entrées en logarithme, on pouvons toujours interpréter les coefficients comme des élasticités : L’augmentation de 1% de la taille des dépenses de R&D est associée à une augmentation de 0.86% du nombre espéré de brevets

L’interprétation des coefficients Si la variable explicatives n’est pas une transformé logarithmique, l’interprétation change: L’augmentation de 1 point du degré de spécialisation est associée à une augmentation de 0.84% du nombre espéré de brevets

L’interprétation des coefficients Et pour les variables muettes : Les entreprises de biotechnologie ont un nombre espéré de brevets supérieur de 1,56% aux autres entreprises.

Le test de surdispersion On utilise le test LR qui compare le modèle négatif binomial avec le modèle de Poisson -1481 - -4536 Le résultat du test (H0: Alpha=0) rejette l’hypothèse de nullité de alpha. Il y a de la surdispersion dans les données. Il faut donc choisir le modèle binomial négatif.

Des erreurs standard plus grandes Des valeurs z plus petites

Extensions

Estimateurs MV Tous les modèles présentés peuvent être étendus à la prise en compte de l’hétérogénéité non observée Effets fixes Effets aléatoires Le modèle d’Heckman Biais de sélection Deux équations, dont la première estime la probabilité d’être observé Les modèles de survie En temps discret: log-log complémentaire, logit En temps continu