INTELLIGENCE ARTIFICIELLE IAR-1001

Contenu du cours 5 Connaissances et Raisonnement Système expert Inférence propositionnelle/premier ordre Moteur d’inférence par chaînage avant Moteur d’inférence par chaînage arrière Autre exemple de système expert Gestion de l’incertitude LECTURES: Chapitres 9 Russell & Norvig Notes de cours (site ftp UQTR)

Connaissances et Raisonnement Système Expert (Inférence propositionnelle/premier ordre) Les systèmes d’inférence logiques modernes permettent, par l’utilisation de règles d’inférence simples pouvant être appliquées aux propositions du premier ordre donc avec des quatificateurs pour revenir à des propositions sans quantificateurs. L’inférence du premier ordre peut être effectuée en convertissant la base de connaissances en propositions logiques et en utilisant les règles d’inférence propositionnelle.

Connaissances et Raisonnement Système Expert (Règles d’inférence sur les quantificateurs) Exemple de proposition de premier ordre Il est alors possible d’inférer que: Nous pouvons écrire formellement les règles d’inférence en utilisant la notion de substitutions sachant que SUBST(θ,α) correspond au résultat découlant de l’application de la substitution θ à la proposition α. Pour chaque variable v et instance g Exemple de substitutions: {x/John}, {x/Richard }, et {x/Father (John)}.

Connaissances et Raisonnement Système Expert (Règles d’inférence sur les quantificateurs) Pour les règles d’instantiation Existentielle, la variable est replacée par un symbole constant unique. Pour chaque proposition α, variable v, et constante k n’apparaissant pas ailleurs dans la base de connaissances. Exemple:

Connaissances et Raisonnement Système Expert (Réduction en propositions logiques) Après l’élimination des quantificateurs, il est possible de réduire les règles d’inférence du premier ordre sous forme de règles d’inférence propositionnelles. D’abord, nous savons qu’une proposition quantifiée sous forme existentielle peut être remplacée par une seule instantiation, et une, sous forme universelle, remplacée par un ensemble des instantiations possibles. Avec les propositions: Après l’application des substitutions possibles ({x/John} et {x/Richard }) tirées du dictionnaire de la base de connaissances, découlant des instantiations universelles sur la première proposition, nous pouvons ainsi réduire cette proposition.

Connaissances et Raisonnement Système Expert (Réduction en propositions logiques) L’inférence que “John is evil”, découle du fait que la substitution {x/John} apporte une solution au prédicat Evil(x), pour utiliser la règle “greedy kings are evil”, cherchons des x tel que x est un “king” et x est “greedy”, et pouvons inférer que x est “evil”. Donc, si une substitution θ existe de telle sorte que chaque conjonction des prémisses d’une implication soit identique à des propositions déjà dans la base de connaissances, nous pouvons alors assumer la conclusion de cette implication, après avoir appliqué θ. Dans ce cas, la substitution θ = {x/John} atteint ce but.

Connaissances et Raisonnement Système Expert (Réduction en propositions logiques) L’inférence peut être poussée un peu plus loin en supposant que d’avoir dans la base de connaissances le fait que Greedy(John), nous savons que tous sont “greedy”: Alors comment conclure que Evil(John), sachant que John est un “king” et que John est “greedy”. Nous devons donc trouver une substitution pour les variables dans l’implication et les variables dans les propositions qui sont dans la base de connaissances. Dans ce cas, en applicant la substitution {x/John, y/John} aux prédicats de l’implication King(x) et Greedy(x) et que les propositions de la base de connaissances King(John) et Greedy(y) les rendent identiques. Il est alors possible d’inférer la conclusion de cette implication.

Connaissances et Raisonnement Système Expert (Modus Ponens) Sachant que les processus d’inférence permettent de déduire des propositions qui sont des conséquences logiques d’autres propositions. Un bon processus d’inférence doit être correct (sound). Toute proposition déduite d’un ensemble de propositions doit être une conséquence logique de ces propositions. Un processus d’inférence doit idéalement être complet. Il doit donc être capable de déduire toute proposition qui est une conséquence logique d’autres propositions. À partir d’une prémisse f1 et l’implication f1 → f2,on peut déduire f2. Si on a (wumpusAhead ∧ wumpusAlive) et la règle (wumpusAhead ∧ wumpusAlive) → shoot alors shoot peut être inféré.

Connaissances et Raisonnement Système Expert (Modus Ponens) À partir de la proposition ∀ x f1 on peut déduire f2 déduit de f1 en remplaçant toutes les occurrences libres (instances) de x par un terme n’ayant pas de variable en commun avec f1. Par exemple: tous les chiens sont des mammifères, Fido est un chien, donc Fido est un mammifère.

Connaissances et Raisonnement Système Expert (Modus Ponens) Ce processus d’inférence peut être représenté par le Modus Ponens Généralisé: Pour les propositions pi , pi’ et q, avec une substitution θ pour laquelle SUBST(θ, pi’) = SUBST(θ, pi), pour tout i. Cette règle comportent n+1 prémisses: les n propositions atomiques pi et une implication. La conclusion est le résultat de l’application de la substitution θ sur la conséquence q.

Connaissances et Raisonnement Système Expert (Modus Ponens) Par exemple: Sachant que pour une substitution θ satisfaisant les conditions de la règle du Generalized Modus Ponens Alors à partir des propositions p1‘,.., pn‘ nous pouvons inférer que: Et de l’implication p1 ∧ . . . ∧ pn ⇒ q nous pouvons inférer:

Connaissances et Raisonnement Système Expert (Modus Ponens) La substitution θ dans la règle Generalized Modus Ponens est définie de telle sorte que SUBST(θ, pi‘)= SUBST(θ, pi ), pour tout i; Donc les premières prémisses correspondent exactement aux secondes (voir les deux premières propositions). Alors , SUBST(θ, q) découle donc par Modus Ponen. Le Generalized Modus Ponens est une “lifted version” du Modus Ponen et généralisant le Modus Ponens d’une logique propositionnelle sans variable libre (variable-free) vers une logique du premier ordre.

Connaissances et Raisonnement Système Expert (Modus Ponens) L’avantage de ces règles d’inférence “lifted” par rapport aux formes propositionnelles sans variables est que juste les substitutions requises sont appliquées pour déduire des inférences particulières.

Connaissances et Raisonnement Système Expert (Principe d’unification) Les règles d’inférence “Lifted” requièrent de trouver les substitutions rendant des expressions logiques identiques. Ce processus est l’unification et est une composante importante des algorithmes d’inférence du premier ordre. L’algorithme UNIFY prend 2 propositions (phrases) et retourne un unifier de ces propositions si un existe:

Connaissances et Raisonnement Système Expert (Principe d’unification) Algorithme UNIFY()

Connaissances et Raisonnement Système Expert (Mise en situation) “La loi stipule que c’est un crime pour un Américain de vendre des armes à des nations hostiles. Le pays Nono, un ennemi des USA, possède des missiles, et ces missiles furent achetés du Colonel West, qui est Américain”. Maintenant comment prouver que le Colonel West est un criminel. Pour ce faire il faut d’abord représenter les faits relatés dans la mise en situation sous forme de propositions logiques du premier ordre.

Connaissances et Raisonnement Système Expert (Mise en situation) “C’est un crime pour un Américain de vendre des armes à des nations hostiles”. “Nono a des missiles.” Cette proposition ∃ x Owns(Nono, x) ∧ Missile(x) est transformée en 2 propositions distinctes par instantiation Existentielle, introduisant une nouvelle constante Mi “Tous leurs missiles furent achetés du Colonel West”: 1 2 3 4

Connaissances et Raisonnement Système Expert (Mise en situation) Nous devons aussi savoir que des missiles sont des armes: Et que les ennemis des USA sont considérés comme “hostile”: Que West est américain: Et que le pays Nono est un ennemi des USA 5 6 7 8

Connaissances et Raisonnement Système Expert (Mise en situation) Les implications sont: (1), (4), (5), et (6). Le processus déductif comporte 2 itérations: Itération 1: la règle (1) a des prémisses insatisfaites. La règle (4) est satisfaite par la substitution {x/M1}, et Sells(West,M1, Nono) est ajouté. La règle (5) est satisfaite par la substitution {x/M1}, et Weapon(M1) est ajouté. La règle (6) est satisfaite par la substitution {x/Nono}, et Hostile(Nono) est ajouté. Itération 2: la règle (1) est satisfaite avec la substitution {x/West, y/M1, z/Nono}, et Criminal (West) est ajouté.

Connaissances et Raisonnement Système Expert (Mise en situation) Itération 2 Itération 1

Connaissances et Raisonnement Système Expert (Moteur d’inférence: chaînage avant) En chaînage avant, le contenu de la mémoire correspond aux données qui peuvent vérifier certaines prémisses des règles, ces règles deviennent des règles candidates à être utilisées dans le raisonnement. Ensuite, le système prend en compte les règles candidates selon un ordre donné et teste si le reste des prémisses sont vérifiées.

Connaissances et Raisonnement Système Expert (Moteur d’inférence: chaînage avant)

Connaissances et Raisonnement Système Expert (Moteur d’inférence: Chaînage arrière) Avec le chaînage arrière, le but est placé au début dans la mémoire du système. Ensuite, le système cherche dans sa base de connaissances les règles dont la conclusion correspond au but recherché. Une des règles est choisie selon une stratégie donnée. Ses prémisses sont empilées dans la mémoire du SE et deviennent les sous-buts actuels à résoudre. Le système continue à travailler de cette façon jusqu’à ce que tous les sous buts placés en mémoire soient vérifiés. Les sous-buts peuvent être résolus en posant des questions à l’expert.

Connaissances et Raisonnement Système Expert (Chaînage arrière) La fonction FOL-BC-ASK(KB,goal ) sera prouvée si la KB contient une proposition (clause) de la forme LHS ⇒ goal, où LHS (Left-Hand-Side) est une listes de conjonctions. Un fait atomique comme American(West) est considérée comme une proposition avec un LHS est vide. Une requête du genre Person(x) peut être prouvée par la substitution {x/John} et aussi {x/Richard }. Nous pouvons implémenter FOL-BC-ASK () sous forme d’un générateur qui est une fonction qui retourne à chaque fois qu’un résultat est possible.

Connaissances et Raisonnement Système Expert (Chaînage arrière) Le chaînage arrière est une recherche de type AND/OR, la partie OR puisque la requête but peut être prouvée par n’importe quelles règles dans la KB, et la partie AND puisque toutes les conjonctions dans le LHS d’une proposition doivent être prouvées. FOL-BC-OR retirent chaque clauses pouvant être unifiées avec le but, standardise les variables dans la proposition, et ensuite, si le RHS de la proposition peut être unifié avec le but, prouver chaque conjonction du lhs, par la fonction FOL-BC-And (). Cette fonction prouve chacune des conjonctions, conservant en même temps l’ensemble des substitutions réussies.

Connaissances et Raisonnement Système Expert (Chaînage arrière: exemple)

Connaissances et Raisonnement Système Expert (Chaînage arrière: exemple) Sachant que l’arbre de preuves découlant du BC permet de prouver que West est un criminel. L’arbre de preuves comme l’algorithme BC sont depth first (profondeur d’abord), de gauche à droite. Pour prouver que Criminal (West), nous devons prouver les 4 conjonctions en dessous. Certaines sont dans la KB, mais d’autres doivent être développées par chaînage arrière. Les unifications réussies sont présentées à côté des sous buts correspondants. Dès qu’un sous but dans une conjonction réussi (devient vrai), ces substitutions sont alors appliquées aux sous buts subséquents (plus hauts). Donc quand FOL-BC-ASK arrive à la dernière conjonction, originalement Hostile(z), sachant que z est déjà associé à Nono lors d’une substitution antérieure.

Connaissances et Raisonnement Système Expert (Chaînage arrière)

Connaissances et Raisonnement Système Expert (Chaînage arrière: Assistant de conduite) Voir la référence: https://www.princeton.edu/~stengel/IGHLCCSM1991.pdf Composantes de l’assistant de conduite intelligent

Connaissances et Raisonnement Système Expert (Chaînage arrière: Assistant de conduite) Composantes du système expert

Connaissances et Raisonnement Système Expert (Chaînage arrière: Assistant de conduite) Composantes du système expert: Sous systèmes: Situations normales et urgentes

Connaissances et Raisonnement Système Expert (Chaînage arrière: Assistant de conduite) Composantes du système expert: Base de règles Exemple de règle codée en Lisp

Connaissances et Raisonnement Système Expert (Chaînage arrière: Assistant de conduite) Composantes du système expert: Diagramme logique de la conduite normale

Connaissances et Raisonnement Système Expert (Chaînage arrière: Assistant de conduite) Composantes du système expert: Chaînage arrière pour valider un changement de voie à gauche

Connaissances et Raisonnement Autre exemple de système Expert: Gestion de prêt hypothécaire Voir la référence: Zahedi, F., Intelligent systems for Business, Wadsworth Publishing, Belmont, California, 1993. AI Expert, October 1991 – presents applications of expert systems Dans les systèmes experts à base de règles, la connaissance est representée par des règles de la forme: IF <condition> THEN < conclusion> Les LHS et RHS sont les antécédents et conséquents respectivement. Les antécédents et conséquents sont des exemples de propositions ou énoncés en logique propositionnelle, et sont la base du raisonnement.

Connaissances et Raisonnement Autre exemple de système Expert: Gestion de prêt hypothécaire Base de connaissances de cet expert: To get a mortgage loan, the applicant must have a steady job, acceptable income, and good credit ratings; and the property should be acceptable. If an applicant does not have a steady job, then he must have adequate assets. The amount of loan cannot be more than 80 percent of the property value, and the applicant must have 20 percent of the property value in cash. The definition of a steady job is that the applicant should have been at the present job for more than two years.

Connaissances et Raisonnement Autre exemple de système Expert: Gestion de prêt hypothécaire Base de connaissances de cet expert: The definition of adequate assets is that the applicant’s properties must be valued at ten times the amount of the loan, or the applicant must have liquid assets valued at five times the amount of the loan. An acceptable property is one that either is located in the bank’s lending zone with no legal constraints, or is on the bank’s exception list. The definition of adequate income is as follows. If the applicant is single, then the mortgage payment must be less than 70 percent of his net income. If the applicant is married, then the mortgage payment must be less than 60 percent of the family net income.

Connaissances et Raisonnement Autre exemple de système Expert: Gestion de prêt hypothécaire Représentation des informations dans la KB sous forme de propositions et de règles: 1. IF the applicant has a steady job AND the applicant has adequate income AND the property is acceptable AND the applicant has good credit ratings AND the amount of loan is less than 80% of the property value AND the applicant has 20% of the property value in cash THEN approve the loan

Connaissances et Raisonnement Autre exemple de système Expert: Gestion de prêt hypothécaire Représentation des informations dans la KB sous forme de propositions et de règles: 2. IF the applicant has adequate assets AND the applicant has adequate income AND the property is acceptable AND the applicant has good credit ratings AND the amount of loan is less than 80% of the property value AND the applicant has 20% of the property value in cash THEN approve the loan

Connaissances et Raisonnement Autre exemple de système Expert: Gestion de prêt hypothécaire Représentation des informations dans la KB sous forme de propositions et de règles: 3. IF the applicant has a job AND the applicant has been more than two years at the present job THEN the applicant has a steady job 4. IF the property is in the bank’s lending zone OR the property is on exception list THEN the property is acceptable

Connaissances et Raisonnement Autre exemple de système Expert: Gestion de prêt hypothécaire Représentation des informations dans la KB sous forme de propositions et de règles: 5. IF the family income is adequate OR the single income is adequate THEN the applicant has adequate income  6. IF the applicant is married AND mortgage payment is less than 60 percent of the family net income THEN the family income is adequate

Connaissances et Raisonnement Autre exemple de système Expert: Gestion de prêt hypothécaire Représentation des informations dans la KB sous forme de propositions et de règles: 7. IF NOT the applicant is married AND mortgage payment is less than 70 percent of the applicant’s net income THEN the single income is adequate 8. IF the applicant has properties with a value greater than 10 times the loan OR the applicant has liquid assets greater than 5 times the loan THEN the applicant has adequate assets.

Connaissances et Raisonnement Autre exemple de système Expert: Gestion de prêt hypothécaire: Raisonnement et principales règles d’inférence Le Modus ponens signifie que pour une règle donnée, nous pouvons déterminer que si l’antécédant est vrai, nous pouvons alors conclure que le conséquent est aussi vrai. IF X THEN Y X is true Conclude: Y is true  

Connaissances et Raisonnement Autre exemple de système Expert: Gestion de prêt hypothécaire: Raisonnement et principales règles d’inférence Le Syllogisme hypothétique signifie que si le conséquent d’une règle est l’antécédent d’une seconde règle, alors nous pouvons conclure qu’une troisième règle avec le même antécédent que la première règle et le conséquent celui de la seconde règle. IF X THEN Y IF Y THEN Z Conclude: IF X THEN Z  

Connaissances et Raisonnement Autre exemple de système Expert: Gestion de prêt hypothécaire: Raisonnement et principales règles d’inférence Le Modus tollens est utilisé quand la négation d’un fait (proposition) est établie. Donc étant donné que qu’un conséquent n’est pas vrai, nous pouvons conclure que l’antécédent n’est pas. IF X THEN Y Y is false Conclude: X is false  

Connaissances et Raisonnement Autre exemple de système Expert: Gestion de prêt hypothécaire: Raisonnement et principales règles d’inférence Chaînage Avant: Les faits associés au problème sont fournis au système. Le module d’inférence par un processus de substitution (appariement) des faits avec les antécédents sélectionne les règles dont les antécédents appariés aux faits sont vrais. Ces propositions ainsi vérifiées permettent ensuite de déduire que le conséquent d’une règle est vrai, cette règle est ajoutée à la base de faits connus (vérifiés) Ce processus d’inférence continu tant que toutes les conclusions possibles soient extraites

Connaissances et Raisonnement Autre exemple de système Expert: Gestion de prêt hypothécaire: Raisonnement et principales règles d’inférence  Exemple. Avec les règles suivantes: IF A THEN C IF D THEN E IF B AND C THEN F IF E OR F THEN G Sachant que les faits connus à priori A et B sont vrais, le moteur d’inférence utilise A et la règle 1 et conclus que C est vrai. Alors le moteur utilise B et C et la règle 3 et conclus que F est vrai. Sachant que F est vrai et la règle 4 permettent de conclure que G est vrai.  

Connaissances et Raisonnement Gestion de l’incertitude Dans les situations réelles de la vie courante il arrive qu’un expert ne soit pas certain à 100% du résultat des règles puisque les faits et les inférences ne sont pas nécessairement strictement vrais ou faux. De plus les faits ne sont pas nécessairement complètement fiables. Donc les systèmes intelligents, doivent gérer les connaissances et le raisonnement inexactes (avec incertitude).   Sources d’incertitude: Connaissance L’expert L’utilisateur

Connaissances et Raisonnement Gestion de l’incertitude  Sources d’incertitude: Connaissance Connaissances peut être imparfaite et/ou incomplète. Exemple: no one knows with certainty the profile (in terms of income, asset, job history and other attributes) of a loan applicant who will become a defaulter. Connaissance vague. Par exemple, la règle “IF the applicant has a steady job THEN applicant is more likely to pay back loan” les mots “steady” et “more likely” sont conceptuellement vague. Connaissance incertaine à cause d’erreur de mesure. Par exemple: L’estimation des avoirs d’un appliquant peut ne pas être précise. L’incertitude peut être introduite par le disparité des opinions des experts.

Connaissances et Raisonnement Gestion de l’incertitude  Sources d’incertitude: L’expert et l’utilisateur Un expert pourrait assigner une certitude de 90% à une règle L’utilisateur peut avoir de l’incertitude sur les données introduite dans le système.

Connaissances et Raisonnement Gestion de l’incertitude  Utilisation de l’incertitude IF applicant has properties with a value greater than 10 times the loan OR the applicant has liquid assets greater than 5 times the loan THEN the applicant has adequate assets (Rule cf=0.95) Quand une règle a un conséquent incertain et que les conditions dans ce antécédent sont appariés avec des faits qui sont eux-mêmes incertains, quelle devrait être l’incertitude associées à la conclusion de cette règle. Par exemple, avec les 2 conditions des antécédents de la règle ci-haut, les données d’un appliquant pourraient avoir un cf de.90 et .85 respectivement. Nous devons d’abord avoir ces cf sur les antécédents pour pouvoir déduire celui du conséquent.

Connaissances et Raisonnement Gestion de l’incertitude  Utilisation de l’incertitude Avec P1 et P2, deux propositions et cf(P1) et cf(P2) dénotent respectivement leurs paramètres de certitude. Alors cf(P1 AND P2) = min(cf(P1), cf(P2)) cf(P1 OR P2) = max(cf(P1), cf(P2)) Avec la règle: IF P1 THEN P2 (Rule cf=C) Then certainty of the consequent P2 is given by cf(P2) = cf(P1) * C

Connaissances et Raisonnement Gestion de l’incertitude  Utilisation de l’incertitude Exemple: IF interest rates fall (cf=0.6) AND taxes are reduced (cf=0.8) THEN stock market rises (Rule cf=0.9)   Donc la cf de la conclusion que: “the stock market is rising” peut être calculé par: (min(0.6,0.8) * 0.9 = 0.6 * 0.9 = 0.54  Si plusieurs règles arrivent à la même conclusion, la conclusion finale est celle avec la valeur max des cf des règles sélectionnées.