La présentation est en train de télécharger. S'il vous plaît, attendez

La présentation est en train de télécharger. S'il vous plaît, attendez

TASFR T30527-b-fr Contrôle de la conformité des comportements individuels dagents cognitifs autonomes Caroline Chopinaud Amal El Fallah Seghrouchni Patrick.

Présentations similaires


Présentation au sujet: "TASFR T30527-b-fr Contrôle de la conformité des comportements individuels dagents cognitifs autonomes Caroline Chopinaud Amal El Fallah Seghrouchni Patrick."— Transcription de la présentation:

1 TASFR T30527-b-fr Contrôle de la conformité des comportements individuels dagents cognitifs autonomes Caroline Chopinaud Amal El Fallah Seghrouchni Patrick Taillibert 23/25 Novembre 2005 – JFSMA05 (Calais)

2 2 Contexte et Problématique Systèmes critiques Systèmes embarqués, temps réels Conception au moyen des systèmes multiagents Confiance dans le comportement du SMA En accord avec les spécifications Pas de comportements inattendus.

3 3 Problème de confiance Caractère imprévisible des SMA Autonomie des agents Prendre seul ses décisions [Barber 99] Émergence du comportement du système Comportements attendus Comportements inattendus Possible échec de lapplication Apparition de comportements indésirables

4 4 Problème supplémentaire Bugs du système Vérification classique pas sûre à 100% Model Checking sur un modèle du système (très coûteux) Tests non exhaustifs Démonstration automatique lourde et complexe SMA accroît les difficultés de validation Modélisation (explosion détats) Indéterminisme Distribution Communication asynchrone Apparition derreurs en conditions réelle dexécution

5 5 Objectif! Garantir quun SMA ne génèrera pas de comportements indésirables

6 6 Plan de lexposé Le contrôle dagent La description du contrôle Génération des agents autocontrôlés

7 7 Le contrôle dagent 3 étapes : Surveillance du comportement des agents Détection des comportements indésirables Régulation du comportement des agents problématiques

8 8 Surveillance du comportement Monitoring (software) : Observation et compréhension du comportement dun programme au cours de son exécution Instrumentation des programmes pour observer les événements Insertion de sondes logicielles Manuelle ou automatique Instrumentation automatique Comportement des agents Facilite le travail du développeur Réduit le risque derreur

9 9 Le contrôle dagent 3 étapes : Surveillance du comportement des agents Détection des comportements indésirables Régulation du comportement des agents problématiques

10 10 Détection des comportements indésirables (1) Normes Définition des comportements ou des situations idéales Contraintes/indications sur le comportement Éviter des conflits Restreindre les possibilités daction des agents Confiance entre les agents Accepter et respecter les normes au moment de la prise de décision

11 11 Détection des comportements indésirables (2) Utilisation de lois Normes non prises en compte au moment de la prise de décision Séparation de la définition du contrôle et de limplémentation des agents Matérialisent les exigences significatives du fonctionnement du système Définissent les comportements souhaités ou redoutés Détection de transgression des lois

12 12 Le contrôle dagent 3 étapes : Surveillance du comportement des agents Détection des comportements indésirables Régulation du comportement des agents problématiques

13 13 Régulation du comportement Effectuée par les agents eux-mêmes Capacité de raisonnement Informations de transgression Stratégie de régulation Fournie par le développeur Associée à la transgression dune loi

14 14 Plan de lexposé Le contrôle dagent La description du contrôle La génération des agents autocontrôlés

15 15 Description des lois Fournit un ensemble de concepts de base Utilisés dans les lois Utilisés pour décrire lapplication et le modèle dagent Étendus pour raffiner la description Par le concepteur du modèle et de lapplication Reliés à limplémentation du modèle dagent Définition de liens par les concepteurs Fournit un langage de lois Description dactions ou détats Redoutés Souhaités Notion de temps ou de relation temporelle

16 16 Concepts de base Agent Caractéristique Message Objet But Plan Connaissance Action CreationAgent ReceptionMessage EnvoiMessage Migration

17 17 Langage de description (1) Opérateurs déontiques. Interdiction (FORBIDDEN) Obligation (OBLIGED) Actions Agent do Action Action ou changement de valeur dune Caractéristique Etats Agent be State Etat résultant dune Action ou valeur dune Caractéristique Notion temporelle BEFORE/AFTER (une action ou un temps) IF (un état) Enchaînement dactions/états THEN Conjonction dactions/états AND

18 18 Langage de description (2) Sémantique Logique déontique dynamique [Meyer85] Variante de la logique déontique [vonWright51] Logique modale Obligation / Interdiction / Permission / Facultatif Exprime la différence en lidéal et le réel (violation) Relation temporelle entre actions et états du monde

19 19 Langage de description (3) Logique déontique dynamique Soit A1,A2 des actions et E, un état du monde A1 ; A2 : A1 est suivie de A2 A1 & A2 : A1 et A2 sont simultanées E A1/A2 : si E alors A1 sinon A2 A1 U A2 : A1 ou A2 A1 : not A1 [A1]E : E est vrai après lexécution de A1 E : Il existe un moyen dexécuter A1 pour que E soit vraie F : Interdiction O : Obligation P : Permission

20 20 Langage de description (4) Sous ensemble de la logique déontique dynamique Ne permet pas dexprimer Permission Négation dopérateurs déontiques E A1 U A2 Permet dexprimer des lois du type: FORBIDDEN (agt do EnvoiMessage) AFTER (agt do EnvoiMessage) AND BEFORE (1) FORBIDDEN (agA do Migration) IF (agB be Migration) OBLIGED (agA do EnvoiMessage and content = A) AND (agA do EnvoiMessage and content = B)

21 21 Plan de lexposé Le contrôle dagent La description du contrôle La génération des agents autocontrôlés

22 22 Agent autocontrôlés (1) Génération automatique à partir de Programme de comportement Ensemble de lois associées Liens entre les concepts et limplémentation Autocontrôle Principe de lobservateur Architecture dagent spécifique

23 23 Principe de lobservateur PROGRAMME SOUS SURVEILLANCE MODELE CONTROLEUR CONNEXIONS

24 24 Principe de lobservateur MODELEPROGRAMME Début S1 Début S2 Fin S1 Fin S2

25 25 Agent autocontrôlé (2) Principe de lobservateur [Diaz 1994] Installer au sein des agents Modélisation des lois sous forme de réseau de Petri Relier les lois au programme des agents par des points de contrôle

26 26 Génération automatique (1) Insertion des points de contrôle (instrumentation) Utilisation du tissage Principe de la programmation par aspect [Wampler 2003] Injection de code à partir de la définition de point de jonction. Au niveau des événements décrits dans les lois A partir de la description des liens concepts/implémentation

27 27 Génération automatique (2) Génération automatique du réseau de Petri. LOI {Réseaux de Petri} RESEAU DE PETRI Utilisation dune table de correspondance langage/réseau de Petri

28 28 Génération automatique (3) FORBIDDEN (ACT2) AFTER (ACT1) AND BEFORE (1) [ACT1]F(ACT2)[time(ACT1,1)] ACT1ACT2 [1,1] [ACT1][time(1)]F(ACT2) [ACT1]…[time(ACT1,1)]

29 29 Architecture de contrôle Partie Comportement Partie Contrôle Informations Infos transgression Stratégies de Régulation Comportement Surveillance du comportement Détection de transgression

30 30 Fonctionnement du contrôle ClauseAction1(…) PC(EV1) … PC(EV2) ClauseAction2(…) Code de lagent [1,1] Information de transgression FORBIDDEN (agent do action2) after (agent do action1) and before (1)

31 31 Conclusion Contrôle dagent Au moyen des lois Effectué par les agents eux-mêmes Concepts de base pour décrire le système Langage de description des concepts Langage de description des liens concepts/code Langage de description des lois Générateur dagent Instrumentation du code par tissage pour détecter les événements décrit dans les lois Génération de réseau de Petri représentant la loi pour vérifier son respect grâce à la méthode de lobservateur

32 32 Perspectives Application à des lois multiagents (contrôle distribué) Répartition des réseaux de Petri entre les agents Echange entre les parties contrôle pour détecter les transgressions (flux des jetons) Implémentation du framework SCAAR Le langage de loi Les langages de descriptions des concepts et des liens Le générateur dagent (instrumentation et architecture de contrôle) Régulation des comportements

33 33 …MERCI!!! Fin…


Télécharger ppt "TASFR T30527-b-fr Contrôle de la conformité des comportements individuels dagents cognitifs autonomes Caroline Chopinaud Amal El Fallah Seghrouchni Patrick."

Présentations similaires


Annonces Google