La présentation est en train de télécharger. S'il vous plaît, attendez

La présentation est en train de télécharger. S'il vous plaît, attendez

Des réseaux de contraintes valuées aux problèmes de décision séquentielle Thomas Schiex INRA – Toulouse France Cédric Pralet ONERA - Toulouse France Javier.

Présentations similaires


Présentation au sujet: "Des réseaux de contraintes valuées aux problèmes de décision séquentielle Thomas Schiex INRA – Toulouse France Cédric Pralet ONERA - Toulouse France Javier."— Transcription de la présentation:

1 Des réseaux de contraintes valuées aux problèmes de décision séquentielle Thomas Schiex INRA – Toulouse France Cédric Pralet ONERA - Toulouse France Javier Larrosa UPC - Barcelone

2 Juillet 2007IA Fondamentale – GDR I32 Plan (partie 1) 1.Formalisme VCSP Générique, instances, usages 2.Algorithmes pour les VCSP Recherche complète et incomplète Inférence complète et incomplète 3.Complexité, classes polynomiales

3 Juillet 2007IA Fondamentale – GDR I33 Réseaux de contraintes, SAT : Problèmes de décision (booléens) définis par un ensemble de relations locales (contraintes, clauses). Réseaux valués : Ajout de préférences, incertitudes définies par des fonctions locales => optimisation... Pourquoi les VCSP ?

4 Juillet 2007IA Fondamentale – GDR I34 Exemple Affectation de fréquences Un réseau de télécommunication sans fil Sous contraintes techniques …trouver pour chaque lien la meilleure fréquence possible. Meilleure peut être : Qui minimise la fréquence maximum (max) Qui minimise les interférences entre paires de liens (somme)

5 Juillet 2007IA Fondamentale – GDR I35 Exemple Traitement de réseaux dinformations probabiliste (produit), possibiliste (max)… Une distribution jointe définie par un GOSC (DAG) de plausibilités conditionnelles Des observations (contraintes) …trouver lexplication la plus plausible des observations (max- produit, min-max) Génétique, image, signal (champs markoviens, graphes de facteurs)

6 Réseaux de contraintes… ValuéesPondérées Semi-anneauFlou Probabiliste

7 Juillet 2007IA Fondamentale – GDR I37 Réseau de fonctions de coûts (X,D,C) X={x 1,..., x n } variables D={D 1,..., D n } domaines finis C={f,...} fonctions de coût locales f S, f ij, f i f portée S,{x i,x j },{x i }, f S (t): E (ordonné par, T ) Fonction jointe: F(X)= f S (X[S]) Solution: F(t) T Requête: Minimiser la fonction jointe neutre commutatif associatif monotone absorbant

8 Juillet 2007IA Fondamentale – GDR I38 Exemple CSP classique (3-coloriage) x3x3 x2x2 x5x5 x1x1 x4x4 Pour chaque arête (contrainte) xixi xjxj f(x i,x j ) bbT bg br gb ggT gr rb rg rrT

9 Juillet 2007IA Fondamentale – GDR I39 Réseau pondéré (WCSP, = +) x3x3 x2x2 x5x5 x1x1 x4x4 F(X): nombre de sommets qui ne sont pas bleus Pour chaque sommet xixi f(x i ) b0 g1 r1

10 Juillet 2007IA Fondamentale – GDR I310 Structures de coûts et formalismes bool é en {,T} Totalement ordonn é Semi-anneau Valu é s idempotent multi crit è re treillis multiple

11 Juillet 2007IA Fondamentale – GDR I311 Idempotence a a = a (pour tout a ) Si f S dominée par la fonction jointe de (X,D,C) (X,D,C) (X,D,C {f S }) Contraintes: = et Possibilistes: = max …

12 Recherche systématique Branch & bound(s) Séparation et évaluation

13 Juillet 2007IA Fondamentale – GDR I313 I - Affectation ( conditioning ) xixi xjxj f(x i,x j ) bbT bg0 br3 gb0 ggT gr0 rb0 rg0 rrT f[x i =b] xjxj bT g0 r3 g(x j ) g[x j =r] 0 3 h

14 Juillet 2007IA Fondamentale – GDR I314 Recherche systématique (LB) Minorant (UB) Majorant Si alors couper variables Sous estimation de la meilleure solution dans le sous-arbre = meilleure solution connue Chaque nœud est un sous-problème VCSP LBf = f = T UBT

15 Recherche incomplète (locale) Rien de vraiment spécifique

16 Inférence complète Elimination de variable ( bucket elimination ) Programmation dynamique (non sérielle)

17 Juillet 2007IA Fondamentale – GDR I317 II - Combinaison (avec, + ici ) xixi xjxj f(x i,x j ) bb6 bg0 gb0 gg6 xjxj xkxk g(x j,x k ) bb6 bg0 gb0 gg6 xixi xjxj xkxk h(x i,x j,x k ) bbb12 bbg6 bgb0 bgg6 gbb6 gbg0 ggb6 ggg = 0 6

18 Juillet 2007IA Fondamentale – GDR I318 III - Projection (élimination avec Min ici ) xixi xjxj f(x i,x j ) bb4 bg6 br0 gb2 gg6 gr3 rb1 rg0 rr6 f[x i ] xixi g(x i ) b g r g[ ] h 0 Min

19 Juillet 2007IA Fondamentale – GDR I319 Propriétés Remplacer deux fonctions par leur combinaison ne change pas le problème Si f S est la seule fonction impliquant x, remplacer f par f[S-{x}] préserve loptimum

20 Juillet 2007IA Fondamentale – GDR I320 Elimination dune variable 1.Choisir une variable 2.Combiner les fonctions qui limplique 3.Eliminer la variable par projection Complexité Temps: (exp(deg+1)) Espace: (exp(deg))

21 Juillet 2007IA Fondamentale – GDR I321 Elimination de variables (bucket elimination) Eliminer les variables une par une. Quand toutes sont éliminées, le problème est résolu Les solutions optimales peuvent être retrouvées Complexité: exponentielle en la largeur darbre (treewidth, k-tree number, induced width, dimension…) Dépend de lordre délimination

22 Juillet 2007IA Fondamentale – GDR I322 SAT: résolution direct. ( Davis & Putnam, 60 ) RO: Pr. dyn. non sérielle ( Bertelé Brioschi, 72 ) SGBD: BD acyclique ( Beeri et al 1983 ) Réseaux bayésiens: Belief propagation, Join-tree ( Pearl 88, Lauritzen et Spiegelhalter 88 ) CSP: cohérence adapt… ( Dechter & Pearl 88 ) Algébrisée ( Shenoy et Shafer 91, Bistarelli et al. 95, GDL 2000 ) Histoire / terminologie

23 Inférence incomplète Cohérence locale, filtrage, propagation

24 Juillet 2007IA Fondamentale – GDR I324 le coût optimal Inférence incomplète Compromis espace/temps - complétude Limiter linférence à la production de certaines classes de fonctions de coûts En espace/temps polynomial Cohérences locales: noeud, arc… Produire un problème équivalent Produire un minorant sur la cohérence

25 Juillet 2007IA Fondamentale – GDR I325 Cohérence darc classique Un CSP est AC ssi x i, c ij, (c ij c j )[x i ] napporte pas dinformation sur x i w v v w ij T T xixi xjxj c ij vv vw wvT wwT xixi c(x i ) v wT c ij c j (c ij c j )[x i ]

26 Juillet 2007IA Fondamentale – GDR I326 Extension « naïve » au cas valué w v v w ij 2 1 xixi xjxj f ij vv0 vw0 wv2 ww1 XiXi f(x i ) v0 w1 f ij f j 1 Toujours équivalent ssi est idempotent Pour tout x i et f ij f=(f ij f j )[x i ] napporte pas dinformation sur x i (f ij f j )[x i ] SINON EQUIVALENCE PERDUE

27 Juillet 2007IA Fondamentale – GDR I327 Combinaison+Projection+Soustraction: « Equivalence Preserving Transformation » IV – Soustraction de fonctions de coûts 2 w v v w ij

28 Juillet 2007IA Fondamentale – GDR I328 Production de minorants non naïfs w 0 1 yx v w 0 0 v 1 f =

29 Juillet 2007IA Fondamentale – GDR I329 Confluence perdue La recherche dun point-fixe qui maximise f est NP-difficile (2004). Il est possible de faire mieux en temps polynomial (OSAC, 2007) w 0 1 yx v w 0 0 v f =

30 Juillet 2007IA Fondamentale – GDR I330 Hierarchie NC * O(nd) AC * O(n 2 d 3 )DAC * O(ed 2 ) FDAC * O(end 3 ) AC NC DAC Cas CSP classique (Top=1) EDAC * O(ed 2 max{nd,T}) OSAC * (Prog. Linéaire)

31 Juillet 2007IA Fondamentale – GDR I331 BT MNC MAC/MDAC MFDAC MEDAC

32 Juillet 2007IA Fondamentale – GDR I332 Accélérer la recherche systématique par cohérence locale Affectation de fréquence CELAR6-sub4 (22 var, 44 val, 477 cost func): MNC* 1 an estimé MFDAC* 1 heure CELAR6 (100 var, 44 val, 1322 cost func): MEDAC+ structure 3 heures (toolbar-BTD)

33 Complexité, classes polynomiales Arbres, largeur darbre bornée Idempotent ou non…

34 Juillet 2007IA Fondamentale – GDR I334 Classes polynomiales Réseaux min-max (possibilistes/flous) Les -coupes permettent de généraliser les classes pol. classiques Il suffit que la classe polynomiale soit conservée par -coupe CSP temporel simple (avec des 1-intervalles de temps) : x i -x j [a ij,b ij ] STCN flous: pol. si toute coupe des fonctions de coût est un 1-intervalle (semi-convexe)

35 Juillet 2007IA Fondamentale – GDR I335 Cas additif (weighted/boolean) MaxSat est MAXSNP complet (pas de PTAS) Langages pol. totalement caractérisés pour MaxSAT (Creignou 2001) MaxCSP: (x = y) ? 0 : 1 est NP-dur Fonctions sous-modulaires: polynomial (OSAC) (u x, v y f(u,v)+f(x,y) f(u,y)+f(x,v)) (Cohen et al.)

36 Juillet 2007IA Fondamentale – GDR I336 Librairies Open source Toolbar & Toulbar2 Accessible depuis le wiki Soft : carlit.toulouse.inra.fr/cgi-bin/awki.cgi/SoftCSP Alg: BE-VE,MNC,MAC,MDAC,MFDAC,MEDAC,MPIC,BTD Connexion ILOG solver, large domaines/problèmes… Formats MaxCSP/SAT (pondérés) et ERGO (BN) Des milliers de benchmarks, format documenté Pointeurs vers dautres outils (MaxSAT/CSP) Forge mulcyber.toulouse.inra.fr/projects/toolbar (toulbar2) mulcyber.toulouse.inra.fr/projects/toolbartoulbar2 Pwd: bia31

37 Juillet 2007IA Fondamentale – GDR I337 Plus sur le sujet… Handbook of Constraint Programming Elsevier 978 pages, Août 2006

38 Juillet 2007IA Fondamentale – GDR I338 Un point Beaucoup reste à faire Techniques: symétries, apprentissage, compilation… Algorithmes: meilleurs minorants, nouvelles cohérences locales, dominance, fonctions de coûts globales, structure du problème. Implémentation: intégration avec les outils classiques (Choco, Solver, Minion…) Applications: modélisation, résolution, heuristiques (guider), résolution incomplète... Extension: à dautres problèmes que loptimisation (compter, quantifier…)

39 Juillet 2007IA Fondamentale – GDR I339 Changement Min Combinaison Projection/Elimination

40 Juillet 2007IA Fondamentale – GDR I340 Discussion WCSP et CSP Un WCSP peut se modéliser comme un CSP Une fonction de coût f S Une nouvelle variable x f Une contrainte R f x f = f S (…) Pourquoi sintéresser aux WCSP ?

41 Juillet 2007IA Fondamentale – GDR I341 Discussion Les modèles « graphiques » omniprésents? IAF (SAT, CSP, BN…) Planification / Décision séquentielle Analyse dimage (Champs Markov) Théorie du signal (Factor graphs) Statistique, machine learning Modélisation de systèmes complexes Un modèle fédérateur ?

42 Juillet 2007IA Fondamentale – GDR I342 Discussion Si les modèles graphiques le permettent Ny a-t-il pas un intérêt scientifique à fédérer les formalismes, propriétés, algorithmes ? Comment peut-on faire ? Sans séloigner des objectifs (applications) de chacun deux. Cela est-il incompatible avec le « Publish or Perish » ?

43 Juillet 2007IA Fondamentale – GDR I343 Discussion IA fondamentale et mise en oeuvre: Ne faut-il pas dédier une partie plus importante des efforts de lIAF à la résolution jusquau boutiste de problèmes « pratiques » ? Incohérent avec le côté fondamental ? Quels problèmes ? Visibilité ?

44 Juillet 2007IA Fondamentale – GDR I344 Des références S.M. Aji, R.J. McEliece. The Generalized Distributive Law. IEEE Trans. Inform. Theory, 46(2). Mars 2000, pages S. Bistarelli, U. Montanari and F. Rossi, Semiring-based Constraint Satisfaction and Optimization, Journal of ACM, vol.44, n.2, pp , March 1997.Semiring-based Constraint Satisfaction and Optimization S. Bistarelli, H. Fargier, U. Montanari, F. Rossi, T. Schiex, G. Verfaillie. Semiring-Based CSPs and Valued CSPs: Frameworks, Properties, and Comparison. CONSTRAINTS, Vol.4, N.3, September 1999.Semiring-Based CSPs and Valued CSPs: Frameworks, Properties, and Comparison S. Bistarelli, R. Gennari, F. Rossi. Constraint Propagation for Soft Constraint Satisfaction Problems: Generalization and Termination Conditions, in Proc. CP 2000Constraint Propagation for Soft Constraint Satisfaction Problems: Generalization and Termination Conditions C. Blum and A. Roli. Metaheuristics in combinatorial optimization: Overview and conceptual comparison. ACM Computing Surveys, 35(3): , 2003.Metaheuristics in combinatorial optimization: Overview and conceptual comparison T. Schiex, Arc consistency for soft constraints, in Proc. CP2000. M. Cooper, T. Schiex. Arc consistency for soft constraints, Artificial Intelligence, Volume 154 (1-2), Arc consistency for soft constraints M. Cooper. Reduction Operations in fuzzy or valued constraint satisfaction problems. Fuzzy Sets and Systems 134 (3) A. Darwiche. Recursive Conditioning. Artificial Intelligence. Vol 125, No 1-2, pages R. Dechter. Bucket Elimination: A unifying framework for Reasoning. Artificial Intelligence, October, R. Dechter, Mini-Buckets: A General Scheme For Generating Approximations In Automated Reasoning In Proc. Of IJCAI97

45 Juillet 2007IA Fondamentale – GDR I345 References S. de Givry, F. Heras, J. Larrosa & M. Zytnicki. Existential arc consistency: getting closer to full arc consistency in weighted CSPs. In IJCAI 2005.Existential arc consistency: getting closer to full arc consistency in weighted CSPs W.-J. van Hoeve, G. Pesant and L.-M. Rousseau. On Global Warming: Flow-Based Soft Global Constraints. Journal of Heuristics 12(4-5), pp , P. Jégou & C. Terrioux. Hybrid backtracking bounded by tree-decomposition of constraint networks. Artif. Intell. 146(1): (2003)Artif. Intell. 146 F.R. Kschischang, B.J.Frey, H-A Loeliger. Factor Graphs and the Sum-Product Algorithm. IEEE Trans. Inf. Theory. 47(2), Février pages J. Larrosa & T. Schiex. Solving Weighted CSP by Maintaining Arc Consistency. Artificial Intelligence. 159 (1-2): 1-26, 2004.Solving Weighted CSP by Maintaining Arc Consistency J. Larrosa and T. Schiex. In the quest of the best form of local consistency for Weighted CSP, Proc. of IJCAI'03In the quest of the best form of local consistency for Weighted CSP J. Larrosa, P. Meseguer, T. Schiex Maintaining Reversible DAC for MAX-CSP. Artificial Intelligence.107(1), pp R. Marinescu and R. Dechter. AND/OR Branch-and-Bound for Graphical Models. In proceedings of IJCAI'2005. J.C. Regin, T. Petit, C. Bessiere and J.F. Puget. An original constraint based approach for solving over constrained problems. In Proc. CP'2000. T. Schiex, H. Fargier et G. Verfaillie. Valued Constraint Satisfaction Problems: hard and easy problems In Proc. of IJCAI 95.Valued Constraint Satisfaction Problems: hard and easy problems G. Shafer, P. Shenoy. Local computations in hyper-trees. Working paper 201. Juillet G. Verfaillie, M. Lemaitre et T. Schiex. Russian Doll Search Proc. of AAAI'96.Russian Doll Search

46 Juillet 2007IA Fondamentale – GDR I346 References (SAT) M. Bonet, J. Levy and F. Manya. A complete calculus for max-sat. In SAT M. Davis & H. Putnam. A computation procedure for quantification theory. In JACM 3 (7) I. Rish and R. Dechter. Resolution versus Search: Two Strategies for SAT. In Journal of Automated Reasoning, 24 (1-2), F. Heras & J. Larrosa. New Inference Rules for Efficient Max-SAT Solving. In AAAI 2006.New Inference Rules for Efficient Max-SAT Solving J. Larrosa, F. Heras. Resolution in Max-SAT and its relation to local consistency in weighted CSPs. In IJCAI 2005.Resolution in Max-SAT and its relation to local consistency in weighted CSPs C.M. Li, F. Manya and J. Planes. Improved branch and bound algorithms for max- sat. In AAAI H. Shen and H. Zhang. Study of lower bounds for max-2-sat. In proc. of AAAI Z. Xing and W. Zhang. MaxSolver: An efficient exact algorithm for (weighted) maximum satisfiability. Artificial Intelligence 164 (1-2) 2005.

47 Juillet 2007IA Fondamentale – GDR I347 Exemples Un ensemble de photos à acquérir, dimportances variables … sélectionner le meilleur ensemble de photos compatibles … … sous les ressources : 3 appareils embarqués Bande passante (bus), capacité mémoire, temps de préparation, orbite Meilleur = somme des importances max. Ordonnancement de prise de vues satellite

48 Juillet 2007IA Fondamentale – GDR I348 Exemple Actions combinatoires Ensembles G de biens et B denchères… Enchère (b i,v i ), b i biens, v i valeur … trouver le meilleur sous-ensemble denchères compatibles meilleur = maximiser le revenu (somme) G1G1 G3G3 G2G2 G5G5 G6G6 G4G4 G8G8 G7G7 b1v1b1v1 b4v4b4v4 b 2 v 2 b 3 v 3


Télécharger ppt "Des réseaux de contraintes valuées aux problèmes de décision séquentielle Thomas Schiex INRA – Toulouse France Cédric Pralet ONERA - Toulouse France Javier."

Présentations similaires


Annonces Google