La présentation est en train de télécharger. S'il vous plaît, attendez

La présentation est en train de télécharger. S'il vous plaît, attendez

Méthodes hybrides dans les réseaux de contraintes pondérées Simon de Givry, Thomas Schiex, INRA Toulouse Gérard Verfaillie, Sylvain Bouveret, ONERA Toulouse.

Présentations similaires


Présentation au sujet: "Méthodes hybrides dans les réseaux de contraintes pondérées Simon de Givry, Thomas Schiex, INRA Toulouse Gérard Verfaillie, Sylvain Bouveret, ONERA Toulouse."— Transcription de la présentation:

1 Méthodes hybrides dans les réseaux de contraintes pondérées Simon de Givry, Thomas Schiex, INRA Toulouse Gérard Verfaillie, Sylvain Bouveret, ONERA Toulouse Remerciements à Javier Larrosa, UPC Barcelone et Martí Sànchez, CSIC Barcelone

2 INRA Toulouse Unité de Biométrie et Intelligence Artificielle (33 pers.) Equipe Statistique et informatique appliquées à la génétique et à la biologie moléculaire (16 pers.) Réseaux de contraintes pondérées Recherche de motifs dARN fonctionnels dans les séquences génomiques (~millions nucléotides) Détection et correction derreurs de génotypage dans les pedigrees danimaux ( individus) Projet ANR sur les méthodes hybrides ( )

3 Réseau de contraintes pondérées Mélange de contraintes dures (modèle physique) et de contraintes pondérées (préférences) Fonction retournant un coût qui dépend de la valeur de ses variables ex.: W : D(Xi) D(Xj) [ 0, k ] (variables à domaines finis) somme But: trouver une affectation complète qui minimise la somme des coûts des contraintes (< k=T) NP-difficile En général, problème NP-difficile Cadre général incluant SAT (T=1), CSP (T=1), Max-CSP, Max-SAT, MPE, Min-COL, Max-Clique,…

4 Méthodes complètes usuelles Recherche arborescente Depth-First Branch and Bound Inférence complète Elimination de variables

5 Depth-First Branch and Bound (LB) Minorant (UB) Majorant Si UB alors coupe variables Approximation inférieure de loptimum du sous-arbre = meilleure solution trouvée Chaque nœud est un sous-réseau de contraintes pondérées LB = T Temps: (exp(n)) Espace: (n) n : nombre de variables

6 Depth-First Branch and Bound DFBB(X,D,C) if (X= ) then Top :=f else x j := selectVar(X) forall a D j do f S C s.t. x j S f := f[x j =a] f := g S C s.t. S= g S if (LB

7 Elimination de variables Résout le problème par une séquence de transformations du problème (sans retour-arrière) Chaque étape conduit à un problème avec une variable de moins et le même optimum Lorsque toutes les variables ont été éliminées, le problème est résolu (inférence complète) Une/toutes les solutions optimales du problème original peuvent être obtenues

8 OPT Elimination de variables Choisis une variable x i Calcule lensemble K i des contraintes qui portent sur la variable Ajoute Supprime la variable et K i Temps: (exp(deg i +1)) Espace: (exp(deg i )) X 4 X 3 X5X5 X 2 X 1

9 Influence de lordre délimination Ordre G,D,F,B,C,A Najoute pas de contraintes induites Ordre G,B,C,D,F,A Ajoute ACFD (4-clique)

10 Largeur induite Soit un graphe et un ordre délimination donné, le plus grand degré rencontré est la largeur induite du graphe ordonné : w = max(deg i ) + 1 Complexité de lalgorithme délimination de variables Temps: (n.exp(w)) Espace: (n.exp(w)) Minimiser la largeur induite est NP-dur Heuristiques Max Cardinality Search (optimal si graphe chordal) Min Fill, Min Degree,…

11 A quoi cela ressemble ? Un graphe ayant une largeur induite k équivaut à un k-arbre partiel Un k-arbre est soit une k-clique soit un k-arbre ayant un sommet supplémentaire connecté à tous les sommets dune k-clique à lintérieur du k-arbre 1-arbre 2-arbre

12 Inférence incomplète Compromis entre complétude et espace/temps Produire seulement certaines classes de contraintes induites Dans le but de produire un minorant de loptimum Habituellement polynomial en temps/espace 1. Contraintes induites externes au réseau : algorithme délimination de variables approché (Dechter 97) 2. Contraintes induites ajoutées au réseau : maintien de cohérence locale (Schiex 2000)

13 Elimination complète / approchée de X Produit un minorant de loptimum Complexité/puissance contrôlé par le nombre maximum de variables dans chaque sous-ensemble Elimination de variables approchée (Dechter 97) x x

14 Comparaison entre recherche et inférence Recherche (DFBB) Élimination de variables Complexité temporelle asymptotique O(exp(n)) O(n.exp(w)) w n Complexité temporelle moyenne Meilleure quau pire cas Identique au pire cas Complexité spatiale asymptotique O(n)O(n.exp(w)) Hybridation de méthodes !

15 Hybridation de recherche et élimination de variables DFBB-VE

16 Recherche avec élimination de variable (Larrosa 2003) A chaque noeud Choisir une variable non affectée X i Si degré i k Alors élimine X i Sinon énumération des valeurs de X i Propriétés DFBB-VE(-1) équivaut à DFBB DFBB-VE(w) équivaut à VE DFBB-VE(1) équivaut à lalgorithme Coupe-Cycle Temps: (exp(l))avec w* l n Espace: (n.exp(k))

17 Algorithme Coupe-Cycle Les problèmes dont le graphe de contraintes est un arbre sont faciles à résoudre Branchement sur les variables jusquà ce quil ny ait plus de cycle Résolution de larbre restant par élimination de variables Complexité temporelle exponentielle en la taille du coupe-cycle Trouver un coupe-cycle de taille minimum est NP-dur Complexité spatiale identique à DFBB

18 Exemple DFBB-VE(2)

19

20 Hybridation de recherche et décomposition arborescente (élimination darbre de clusters) CTE BTD BTD+ Lc-BTD+ Lc-BTD*

21 x1x1 x2x2 x3x3 x5x5 x4x4 x6x6 x8x8 x7x7 x9x9 Décomposition arborescente

22 x9x9 x1x1 x2x2 x3x3 x5x5 x4x4 x6x6 x8x8 x7x7

23 x9x9 x1x1 x2x2 x3x3 x5x5 x4x4 x6x6 x8x8 x7x7

24 x9x9 x1x1 x2x2 x3x3 x5x5 x4x4 x6x6 x8x8 x7x7 Largeur darbre (w) : nombre maximum de variables dans un cluster = largeur induite du graphe triangulé

25 x7x7 x1x1 x2x2 x5x5 x4x4 x6x6 x3x3 x5x5 x6x6 x8x8 x2x2 x3x3 x5x5 x6x6 x9x9 x8x8 Décomposition arborescente u r v p w 1. chaque variable apparaît dans un seul chemin

26 x7x7 x1x1 x2x2 x5x5 x4x4 x6x6 x3x3 x5x5 x6x6 x8x8 x2x2 x3x3 x5x5 x6x6 x9x9 x8x8 Décomposition arborescente pour CSP u r v p w 2. Chaque contrainte est dans au moins un cluster

27 x7x7 x1x1 x2x2 x5x5 x4x4 x6x6 x3x3 x5x5 x6x6 x8x8 x2x2 x3x3 x5x5 x6x6 x9x9 x8x8 Décomposition arborescente u r v p w 2. Chaque contrainte est dans exactement un cluster

28 x7x7 x1x1 x2x2 x5x5 x4x4 x6x6 x3x3 x5x5 x6x6 x8x8 x2x2 x3x3 x5x5 x6x6 x9x9 x8x8 u r v p w Cluster Tree Elimination

29 x7x7 x1x1 x2x2 x5x5 x4x4 x6x6 x3x3 x5x5 x6x6 x8x8 x2x2 x3x3 x5x5 x6x6 x9x9 x8x8 u r v p w

30 x7x7 x1x1 x2x2 x5x5 x4x4 x6x6 x3x3 x5x5 x6x6 x8x8 x2x2 x3x3 x5x5 x6x6 x9x9 x8x8 u r v p w Un message peut être envoyé en sortie dun cluster lorsque tous les autres messages entrants sont arrivés

31 x7x7 x1x1 x2x2 x5x5 x4x4 x6x6 x3x3 x5x5 x6x6 x8x8 x2x2 x3x3 x5x5 x6x6 x9x9 x8x8 u r v p w Cluster Tree Elimination

32 x7x7 x1x1 x2x2 x5x5 x4x4 x6x6 x3x3 x5x5 x6x6 x8x8 x2x2 x3x3 x5x5 x6x6 x9x9 x8x8 u r v p w

33 x7x7 x1x1 x2x2 x5x5 x4x4 x6x6 x3x3 x5x5 x6x6 x8x8 x2x2 x3x3 x5x5 x6x6 x9x9 x8x8 u r v p w Temps: (n.exp(w)) Espace: (n.exp(s)) s : taille du plus grand séparateur

34 x7x7 x1x1 x2x2 x5x5 x4x4 x6x6 x3x3 x5x5 x6x6 x8x8 x2x2 x3x3 x5x5 x6x6 x9x9 x8x8 u r v p w BTD (Terrioux & Jégou, 2003) Backtrack with Tree Decomposition Ordre daffectation des variables du cluster racine aux clusters fils u, w, (v & p) résolus indépendamment. Ils ne dépendent que de r. Temps : (exp(h)) Espace : (n)h : hauteur darbre Hybridation recherche et décomposition arborescente

35 x7x7 x1x1 x2x2 x5x5 x4x4 x6x6 x3x3 x5x5 x6x6 x8x8 x2x2 x3x3 x5x5 x6x6 x9x9 x8x8 u r v p w Mémorise loptimum de chaque sous-problème + ) (majorant initial = + ) Opt(u[A]) Opt(w[A]) Opt(p[A]) Opt(v[A]) BTD (Terrioux & Jégou, 2003) Temps: (n.exp(w)) Espace: (n.exp(s))

36 x7x7 x1x1 x2x2 x5x5 x4x4 x6x6 x3x3 x5x5 x6x6 x8x8 x2x2 x3x3 x5x5 x6x6 x9x9 x8x8 u r v p w Amélioration du majorant local: BTD+ Soit solution trouvée Optimum prouvé Soit pas de solution Minorant seulement! LB(A[p]) = UBp Théo.: répétition bornée UBp UBr – Cost(A,r) – Cost(A,v) – Opt(A[u]) – Opt(A[w]) Temps: (UBr.n.exp(w)) Espace: (n.exp(s))

37 Introduction aux cohérences locales souples But: transformer un problème en un problème équivalent dont le minorant soit plus explicite Établir des propriétés de cohérence locale par des opérations de déplacement des coûts contrainte binaire contrainte unaire contrainte zéro W (minorant) X1X2X3X4X5 W =0 GUB=2 a b Hybridation recherche, propagation et décomposition

38 Introduction aux cohérences locales souples X1X2X3X4X5 W =0 GUB=2 AC (Schiex, 2000) projection a b

39 Introduction aux cohérences locales souples X1X2X3X4X5 W =0 GUB=2 AC (Schiex, 2000) projection a b

40 Introduction aux cohérences locales souples X1X2X3X4X5 W =0 GUB=2 AC (Schiex, 2000) a b projections

41 Introduction aux cohérences locales souples X1X2X3X4X5 W =0 GUB=2 AC (Schiex, 2000) a b

42 Introduction aux cohérences locales souples X1X2X3X4X5 W =0 GUB=2 NC* (Larrosa, 2002) a b projection

43 Introduction aux cohérences locales souples X1X2X3X4X5 1 W = 1 GUB=2 NC* (Larrosa, 2002) a b

44 Introduction aux cohérences locales souples X1X2X3X4X5 1 W = 1 GUB=2 NC* (Larrosa, 2002) Suppression de valeur a b

45 Introduction aux cohérences locales souples X1X2X3X4X5 1 W = 1 GUB=2 NC* (Larrosa, 2002) a b

46 Introduction aux cohérences locales souples X1X2X3X4X5 W = 1 GUB=2 NC* (Larrosa, 2002) a b

47 Introduction aux cohérences locales souples X1X2X3X4X5 W = 1 GUB=2 NC* (Larrosa, 2002) a b

48 Introduction aux cohérences locales souples X1X2X3X4X5 W = 1 GUB=2 NC* (Larrosa, 2002) a b

49 Hiérarchie NC * O(nd) AC * O(n 2 d 3 )DAC * O(ed 2 ) FDAC * O(end 3 ) AC NC DAC Cas spécial : CSP (T=1) d : taille du plus grand domaine e : nombre de contraintes EDAC O(ed 2.max(UB,nd)) (ijcai 2005)

50 BT MNC MAC/MDAC MFDAC MEDAC

51 x7x7 x1x1 x2x2 x5x5 x4x4 x6x6 x3x3 x5x5 x6x6 x8x8 x2x2 x3x3 x5x5 x6x6 x9x9 x8x8 u r v p w Lc-BTD+ : BTD+ avec cohérence locale souple Mouvements de coûts invalident les minorants mémorisés W = 1 GUB=2 Une augmentation de W peut avoir un impact sur nimporte quel cluster pas de garantie de trouver loptimum dun sous problème

52 Trois approches possibles Propagation restreinte à lintérieure de chaque cluster Backward Checking et Forward Checking e.g. FC-BTD (Terrioux&Jégou, 2003) Propagation restreinte à lintérieure de chaque sous problème Lc-BTD+ Lc-BTD+ (de Givry et al., 2005) Propagation sans aucune restriction Lc-BTD* Lc-BTD* (de Givry et al., 2005)

53 Lc-BTD* Suppression de valeurs Ck Coupe locale : W Xi (a) + Cj descend. of Ck W Cj UBk C1 Coupe globale : W Xi (a) + Cj descend. of C1 W Cj GUB Idée: collecter des minorants et majorants à tous les nœuds de la frontière dexploration de larbre de recherche Répétition non bornée Temps: (exp(h)) Espace: (n.exp(s)) Optimum Nouvelle solution Frontière

54 Trois approches possibles MéthodeComplexité tempsComplexité espace Lc-BTD (n.exp(w)) (n.exp(s)) Lc-BTD+ (GUB.n.exp(w)) (n.exp(s)) Lc-BTD* (exp(h)) (n.exp(s)) GUB = majorant global n = nombre de variables h = hauteur darbre w = largeur darbre s = taille séparateur maximale s w h n

55 Résultats expérimentaux Still-Life DIMACS (SAT) Arbres de cliques aléatoires Allocation de fréquences CELAR Réseaux Bayésiens (MPE)

56 Still-Life (problème académique) Instance: n=14 #variables:196, #valeurs:2 CP / IP (Ilog Solver) (Bosch&Trick 2002) 5 jours Variable Elimination (Larrosa 2003) 1 jour DFBB-VE(2) (Larrosa 2005) 2 secondes

57 DIMACS (SAT)

58 Arbres de cliques aléatoires Résultats identiques entre FDAC-BTD+ et FDAC-BTD* FDAC-BTD+ FC-BTD FC-BTD+ NC-BTD-BJ+ FDAC-BTD-BJ+ FC-BTD FC-BTD+, NC-BTD-BJ+ FDAC-BTD-BJ+ FDAC-BTD+ Décomposition arborescente avec heuristique Maximum Cardinality Search Ordre choix variable domain/degree compatible avec la décomposition Répétition dans BTD+ : moyenne 2.6, maximum = 14

59 Allocation de fréquences (CELAR SCEN06)

60 Allocation de fréquences But: Affectation de fréquences à des liens radio de telle sorte que les liens fonctionnent sans interférences notables (Cabon et al., 1999) SUBCELAR1SUBCELAR3SCEN-06-24rSCEN r n=14, d=44 w=9, h=14 n=18, d=44 w=12, h=15 n=99, d=20 w=10, h=37 n=196, d=14 w=12, h=32 timespacetimespacetimespacetimespace FC-BTD 7,4894,34423,56069,808-*3,002, ,311,451 NC-BTD-BJ+ 2,6474,34411,3429,0249,2316,326,85438 (5) 83,557 FDAC-BTD-BJ ,78965,27015 (3) 5,874 FDAC-BTD-BJ* ,57364,57130 (12) 9,247 MFDAC * - : Time limit of 10 hours exhausted or 4 billion nodes expanded Tree decomposition with min degree heur. 2-sided Jeroslow DVO (rep.)

61 Réseaux bayésiens (MPE) Ordres délimination : min-degree(FDAC-BTD+), min-fill(VE,s-AOMB) s-AOMB (Dechter & Marinescu, 2005)

62 Conclusion

63 Comparaison des méthodes MéthodesDVOPropa.Complexité en temps Complexité en espace DFBBoui (exp(n)) (n) VEnon (n.exp(w)) DFBB-VE(k)oui Inférieure à (exp(n)) (n.exp(k)) CTEnon (n.exp(w)) (n.exp(s)) Lc-BTDnonoui (n.exp(w)) (n.exp(s)) Lc-BTD+nonoui (GUB.n.exp(w)) (n.exp(s)) Lc-BTD*nonoui (exp(h)) (n.exp(s)) s w h n

64 Compromis temps/mémoire paramétrable MéthodesComplexité en temps Complexité en espace DFBB (exp(n)) (n) VE (n.exp(w)) DFBB-VE(k)Inférieure à (exp(n)) (n.exp(k)) CTE (n.exp(w)) (n.exp(s)) Lc-BTD(k) (n.exp(w)) (n.exp(k)) Lc-BTD+(k) (GUB.n.exp(w)) (n.exp(k)) Lc-BTD*(k) (exp(h)) (n.exp(k)) s w w h n Cache uniquement pour des tailles de séparateur k

65 toolbar, toulbar2 et site Web interactif Librairie open source Accessible depuis un wiki Implémente NC,AC,DAC,FDAC,EDAC et BAC Implémente DFBB, VE, DFBB-VE(2) et Lc-BTD+ wcspcnf ergo Lecture des formats Max-CSP wcsp, Max-SAT cnf (avec ou sans pondérations) et réseaux bayésiens MPE ergo Nombreux benchmarks dans des formats standardisés Source forge à


Télécharger ppt "Méthodes hybrides dans les réseaux de contraintes pondérées Simon de Givry, Thomas Schiex, INRA Toulouse Gérard Verfaillie, Sylvain Bouveret, ONERA Toulouse."

Présentations similaires


Annonces Google