Thomas Schiex INRA – Toulouse France

Présentation au sujet: "Thomas Schiex INRA – Toulouse France"— Transcription de la présentation:

1 Thomas Schiex INRA – Toulouse France
Des réseaux de contraintes valuées aux problèmes de décision séquentielle Thomas Schiex INRA – Toulouse France Cédric Pralet ONERA - Toulouse France Javier Larrosa UPC - Barcelone

2 Plan (partie 1) Formalisme VCSP Algorithmes pour les VCSP
Générique, instances, usages Algorithmes pour les VCSP Recherche complète et incomplète Inférence complète et incomplète Complexité, classes polynomiales Juillet 2007 IA Fondamentale – GDR I3

3 Pourquoi les VCSP ? Réseaux de contraintes, SAT :
Problèmes de décision (booléens) définis par un ensemble de relations locales (contraintes, clauses). Réseaux valués : Ajout de préférences, incertitudes définies par des fonctions locales => optimisation... Juillet 2007 IA Fondamentale – GDR I3

4 Exemple Affectation de fréquences
Un réseau de télécommunication sans fil Sous contraintes techniques …trouver pour chaque lien la meilleure fréquence possible. Meilleure peut être : Qui minimise la fréquence maximum (max) Qui minimise les interférences entre paires de liens (somme) Juillet 2007 IA Fondamentale – GDR I3

5 Exemple Traitement de réseaux d’informations probabiliste (produit), possibiliste (max)… Une distribution jointe définie par un GOSC (DAG) de plausibilités conditionnelles Des observations (contraintes) …trouver l’explication la plus plausible des observations (max-produit, min-max) Génétique, image, signal (champs markoviens, graphes de facteurs) Juillet 2007 IA Fondamentale – GDR I3

6 Réseaux de contraintes…
Valuées Pondérées Semi-anneau Flou Probabiliste

7 Réseau de fonctions de coûts
(X,D,C) X={x1,..., xn} variables D={D1,..., Dn} domaines finis C={f,...} fonctions de coût locales fS, fij, fi f∅ portée S,{xi,xj},{xi}, ∅ fS(t):  E (ordonné par ≼, ≼T) Fonction jointe: F(X)= fS (X[S]) Solution: F(t)  T Requête: Minimiser la fonction jointe neutre absorbant commutatif associatif monotone Juillet 2007 IA Fondamentale – GDR I3

8 Exemple CSP classique (3-coloriage)
xi xj f(xi,xj) b T g  r x1 x2 x4 Pour chaque arête (contrainte) x5 Juillet 2007 IA Fondamentale – GDR I3

9 Réseau pondéré (WCSP,  = +)
Pour chaque sommet x3 xi f(xi) b g 1 r x1 x2 x4 x5 F(X): nombre de sommets qui ne sont pas bleus Juillet 2007 IA Fondamentale – GDR I3

10 Structures de coûts et formalismes
treillis idempotent Valués multiple booléen {,T} Semi-anneau multi critère Totalement ordonné Juillet 2007 IA Fondamentale – GDR I3

11 Si fS dominée par la fonction jointe de (X,D,C)
Idempotence a  a = a (pour tout a) Si fS dominée par la fonction jointe de (X,D,C) (X,D,C) ≡ (X,D,C{fS}) Contraintes:  = et Possibilistes:  = max … Juillet 2007 IA Fondamentale – GDR I3

12 Recherche systématique
Branch & bound(s) Séparation et évaluation

13 I - Affectation (conditioning)
xi xj f(xi,xj) b T g r 3 xj b T g r 3 f[xi=b] g(xj) g[xj=r] 3 h Juillet 2007 IA Fondamentale – GDR I3

14 Recherche systématique
Chaque nœud est un sous-problème VCSP variables (LB) Minorant = f Sous estimation de la meilleure solution dans le sous-arbre Si  alors couper f LB UB T = T (UB) Majorant = meilleure solution connue Juillet 2007 IA Fondamentale – GDR I3

15 Recherche incomplète (locale)
Rien de vraiment spécifique

16 Inférence complète Elimination de variable (bucket elimination)
Programmation dynamique (non sérielle)

17 II - Combinaison (avec , + ici)
xi xj f(xi,xj) b 6 g xj xk g(xj,xk) b 6 g  xi xj xk h(xi,xj,xk) b 12 g 6 = 0  6 Juillet 2007 IA Fondamentale – GDR I3

18 III - Projection (élimination avec Min ici)
xi xj f(xi,xj) b 4 g 6 r 2 3 1 Min f[xi] xi g(xi) b g r g[] h 2 Juillet 2007 IA Fondamentale – GDR I3

19 Propriétés Remplacer deux fonctions par leur combinaison ne change pas le problème Si fS est la seule fonction impliquant x, remplacer f par f[S-{x}] préserve l’optimum Juillet 2007 IA Fondamentale – GDR I3

20 Elimination d’une variable
Choisir une variable Combiner les fonctions qui l’implique Eliminer la variable par projection Complexité Temps: (exp(deg+1)) Espace: (exp(deg)) Juillet 2007 IA Fondamentale – GDR I3

21 Elimination de variables (bucket elimination)
Eliminer les variables une par une. Quand toutes sont éliminées, le problème est résolu Les solutions optimales peuvent être retrouvées Complexité: exponentielle en la largeur d’arbre (treewidth, k-tree number, induced width, dimension…) Dépend de l’ordre d’élimination Juillet 2007 IA Fondamentale – GDR I3

22 Histoire / terminologie
SAT: résolution direct. (Davis & Putnam, 60) RO: Pr. dyn. non sérielle (Bertelé Brioschi, 72) SGBD: BD acyclique (Beeri et al 1983) Réseaux bayésiens: Belief propagation, Join-tree (Pearl 88, Lauritzen et Spiegelhalter 88) CSP: cohérence adapt… (Dechter & Pearl 88) Algébrisée (Shenoy et Shafer 91, Bistarelli et al. 95, GDL 2000) Juillet 2007 IA Fondamentale – GDR I3

23 Cohérence locale, filtrage, propagation
Inférence incomplète Cohérence locale, filtrage, propagation

24 Inférence incomplète Compromis espace/temps - complétude
Limiter l’inférence à la production de certaines classes de fonctions de coûts En espace/temps polynomial Cohérences locales: noeud, arc… Produire un problème équivalent Produire un minorant sur la cohérence le coût optimal Juillet 2007 IA Fondamentale – GDR I3

25 Cohérence d’arc classique
Un CSP est AC ssi xi,  cij, (cij ⋈ cj)[xi] n’apporte pas d’information sur xi cij ⋈ cj (cij ⋈ cj)[xi] xi xj cij v  w T v  v  T xi c(xi) v  w T w   w T i j Juillet 2007 IA Fondamentale – GDR I3

26 Extension « naïve » au cas valué
Pour tout xi et fij f=(fij  fj)[xi] n’apporte pas d’information sur xi fij  fj (fij  fj)[xi] xi xj fij v w 2 1 v v 2 Xi f(xi) v w 1 w 1 w 1 i j Toujours équivalent ssi  est idempotent SINON EQUIVALENCE PERDUE Juillet 2007 IA Fondamentale – GDR I3

27 IV – Soustraction de fonctions de coûts
2 1 w 1 w 1 i j Combinaison+Projection+Soustraction: « Equivalence Preserving Transformation » Juillet 2007 IA Fondamentale – GDR I3

28 Production de minorants non naïfs
x y 1 v v 1 1 f = 1 w 1 w 1 Juillet 2007 IA Fondamentale – GDR I3

29 Confluence perdue La recherche d’un point-fixe qui maximise f
y 1 v v 1 f = w 1 1 w 1 La recherche d’un point-fixe qui maximise f est NP-difficile (2004). Il est possible de faire mieux en temps polynomial (OSAC, 2007) Juillet 2007 IA Fondamentale – GDR I3

30 Hierarchie NC DAC AC NC* O(nd) AC* O(n 2d 3) DAC* O(ed 2)
Cas CSP classique (Top=1) NC NC* O(nd) DAC AC* O(n 2d 3) DAC* O(ed 2) FDAC* O(end 3) AC EDAC* O(ed2 max{nd,T}) OSAC* (Prog. Linéaire) Juillet 2007 IA Fondamentale – GDR I3

31 MEDAC MFDAC MAC/MDAC MNC BT Juillet 2007 IA Fondamentale – GDR I3

32 Accélérer la recherche systématique par cohérence locale
Affectation de fréquence CELAR6-sub4 (22 var, 44 val, 477 cost func): MNC*1 an estimé MFDAC*  1 heure CELAR6 (100 var, 44 val, 1322 cost func): MEDAC+ structure  3 heures (toolbar-BTD) Juillet 2007 IA Fondamentale – GDR I3

33 Complexité, classes polynomiales
Arbres, largeur d’arbre bornée Idempotent  ou non…

34 Classes polynomiales Réseaux min-max (possibilistes/flous)
Les -coupes permettent de généraliser les classes pol. classiques Il suffit que la classe polynomiale soit conservée par -coupe CSP temporel simple (avec des 1-intervalles de temps) : xi-xj∊[aij,bij] STCN flous: pol. si toute coupe des fonctions de coût est un 1-intervalle (semi-convexe) Juillet 2007 IA Fondamentale – GDR I3

35 Cas additif (weighted/boolean)
MaxSat est MAXSNP complet (pas de PTAS) Langages pol. totalement caractérisés pour MaxSAT (Creignou 2001) MaxCSP: (x = y) ? 0 : 1 est NP-dur Fonctions sous-modulaires: polynomial (OSAC) (u ≤ x, v ≤ y f(u,v)+f(x,y) ≤ f(u,y)+f(x,v)) (Cohen et al.) Juillet 2007 IA Fondamentale – GDR I3

36 Librairies Open source Toolbar & Toulbar2
Accessible depuis le wiki Soft : carlit.toulouse.inra.fr/cgi-bin/awki.cgi/SoftCSP Alg: BE-VE,MNC,MAC,MDAC,MFDAC,MEDAC,MPIC,BTD Connexion ILOG solver, large domaines/problèmes… Formats MaxCSP/SAT (pondérés) et ERGO (BN) Des milliers de benchmarks, format documenté Pointeurs vers d’autres outils (MaxSAT/CSP) Forge mulcyber.toulouse.inra.fr/projects/toolbar (toulbar2) Pwd: bia31 Juillet 2007 IA Fondamentale – GDR I3

37 Handbook of Constraint Programming
Plus sur le sujet… Handbook of Constraint Programming Elsevier 978 pages, Août 2006 Juillet 2007 IA Fondamentale – GDR I3

38 Un point Beaucoup reste à faire
Techniques: symétries, apprentissage, compilation… Algorithmes: meilleurs minorants, nouvelles cohérences locales, dominance, fonctions de coûts globales, structure du problème. Implémentation: intégration avec les outils classiques (Choco, Solver, Minion…) Applications: modélisation, résolution, heuristiques (guider), résolution incomplète... Extension: à d’autres problèmes que l’optimisation (compter, quantifier…) Juillet 2007 IA Fondamentale – GDR I3

39 Changement    Min Combinaison Projection/Elimination Juillet 2007
IA Fondamentale – GDR I3

40 Discussion WCSP et CSP Un WCSP peut se modéliser comme un CSP
Une fonction de coût fS Une nouvelle variable xf Une contrainte Rf xf= fS(…) Pourquoi s’intéresser aux WCSP ? Juillet 2007 IA Fondamentale – GDR I3

41 Discussion Les modèles « graphiques » omniprésents?
IAF (SAT, CSP, BN…) Planification / Décision séquentielle Analyse d’image (Champs Markov) Théorie du signal (Factor graphs) Statistique, machine learning Modélisation de systèmes complexes Un modèle fédérateur ? Juillet 2007 IA Fondamentale – GDR I3

42 Discussion Si les modèles graphiques le permettent
N’y a-t-il pas un intérêt scientifique à fédérer les formalismes, propriétés, algorithmes ? Comment peut-on faire ? Sans s’éloigner des objectifs (applications) de chacun d’eux. Cela est-il incompatible avec le « Publish or Perish » ? Juillet 2007 IA Fondamentale – GDR I3

43 Discussion IA fondamentale et mise en oeuvre:
Ne faut-il pas dédier une partie plus importante des efforts de l’IAF à la résolution jusqu’au boutiste de problèmes « pratiques » ? Incohérent avec le côté fondamental ? Quels problèmes ? Visibilité ? Juillet 2007 IA Fondamentale – GDR I3

44 Des références S.M. Aji, R.J. McEliece. The Generalized Distributive Law. IEEE Trans. Inform. Theory, 46(2). Mars 2000, pages S. Bistarelli, U. Montanari and F. Rossi, Semiring-based Constraint Satisfaction and Optimization, Journal of ACM, vol.44, n.2, pp , March 1997. S. Bistarelli, H. Fargier, U. Montanari, F. Rossi, T. Schiex, G. Verfaillie. Semiring-Based CSPs and Valued CSPs: Frameworks, Properties, and Comparison. CONSTRAINTS, Vol.4, N.3, September 1999. S. Bistarelli, R. Gennari, F. Rossi. Constraint Propagation for Soft Constraint Satisfaction Problems: Generalization and Termination Conditions , in Proc. CP 2000 C. Blum and A. Roli. Metaheuristics in combinatorial optimization: Overview and conceptual comparison. ACM Computing Surveys, 35(3): , 2003. T. Schiex, Arc consistency for soft constraints, in Proc. CP’2000. M. Cooper, T. Schiex. Arc consistency for soft constraints, Artificial Intelligence, Volume 154 (1-2), M. Cooper. Reduction Operations in fuzzy or valued constraint satisfaction problems. Fuzzy Sets and Systems 134 (3) 2003. A. Darwiche. Recursive Conditioning. Artificial Intelligence. Vol 125, No 1-2, pages 5-41. R. Dechter. Bucket Elimination: A unifying framework for Reasoning. Artificial Intelligence, October, 1999. R. Dechter, Mini-Buckets: A General Scheme For Generating Approximations In Automated Reasoning In Proc. Of IJCAI97 Juillet 2007 IA Fondamentale – GDR I3

45 References S. de Givry, F. Heras, J. Larrosa & M. Zytnicki. Existential arc consistency: getting closer to full arc consistency in weighted CSPs. In IJCAI 2005. W.-J. van Hoeve, G. Pesant and L.-M. Rousseau. On Global Warming: Flow-Based Soft Global Constraints. Journal of Heuristics 12(4-5), pp , 2006. P. Jégou & C. Terrioux. Hybrid backtracking bounded by tree-decomposition of constraint networks. Artif. Intell. 146(1): (2003) F.R. Kschischang, B.J.Frey, H-A Loeliger. Factor Graphs and the Sum-Product Algorithm. IEEE Trans. Inf. Theory. 47(2), Février pages J. Larrosa & T. Schiex. Solving Weighted CSP by Maintaining Arc Consistency. Artificial Intelligence. 159 (1-2): 1-26, 2004. J. Larrosa and T. Schiex. In the quest of the best form of local consistency for Weighted CSP, Proc. of IJCAI'03 J. Larrosa, P. Meseguer, T. Schiex Maintaining Reversible DAC for MAX-CSP. Artificial Intelligence.107(1), pp R. Marinescu and R. Dechter. AND/OR Branch-and-Bound for Graphical Models. In proceedings of IJCAI'2005. J.C. Regin, T. Petit, C. Bessiere and J.F. Puget. An original constraint based approach for solving over constrained problems. In Proc. CP'2000. T. Schiex, H. Fargier et G. Verfaillie. Valued Constraint Satisfaction Problems: hard and easy problems In Proc. of IJCAI 95. G. Shafer, P. Shenoy. Local computations in hyper-trees. Working paper 201. Juillet 1991. G. Verfaillie, M. Lemaitre et T. Schiex. Russian Doll Search Proc. of AAAI'96. Juillet 2007 IA Fondamentale – GDR I3

46 References (SAT) M. Bonet, J. Levy and F. Manya. A complete calculus for max-sat. In SAT 2006. M. Davis & H. Putnam. A computation procedure for quantification theory. In JACM 3 (7) 1960. I. Rish and R. Dechter. Resolution versus Search: Two Strategies for SAT. In Journal of Automated Reasoning, 24 (1-2), 2000. F. Heras & J. Larrosa. New Inference Rules for Efficient Max-SAT Solving. In AAAI 2006. J. Larrosa, F. Heras. Resolution in Max-SAT and its relation to local consistency in weighted CSPs. In IJCAI 2005. C.M. Li, F. Manya and J. Planes. Improved branch and bound algorithms for max-sat. In AAAI 2006. H. Shen and H. Zhang. Study of lower bounds for max-2-sat. In proc. of AAAI 2004. Z. Xing and W. Zhang. MaxSolver: An efficient exact algorithm for (weighted) maximum satisfiability. Artificial Intelligence 164 (1-2) 2005. Juillet 2007 IA Fondamentale – GDR I3

47 Exemples Ordonnancement de prise de vues satellite
Un ensemble de photos à acquérir, d’importances variables … sélectionner le meilleur ensemble de photos compatibles … … sous les ressources : 3 appareils embarqués Bande passante (bus), capacité mémoire, temps de préparation, orbite Meilleur = somme des importances max. Juillet 2007 IA Fondamentale – GDR I3

48 Exemple Actions combinatoires Ensembles G de biens et B d’enchères…
Enchère (bi,vi), bi biens, vi valeur … trouver le meilleur sous-ensemble d’enchères compatibles meilleur = maximiser le revenu (somme) G1 G3 G2 G5 G6 G4 G8 G7 b1 v1 b4 v4 b2 v2 b3 v3 Juillet 2007 IA Fondamentale – GDR I3