Thomas Schiex INRA – Toulouse France Des réseaux de contraintes valuées aux problèmes de décision séquentielle Thomas Schiex INRA – Toulouse France Cédric Pralet ONERA - Toulouse France Javier Larrosa UPC - Barcelone

Plan (partie 1) Formalisme VCSP Algorithmes pour les VCSP Générique, instances, usages Algorithmes pour les VCSP Recherche complète et incomplète Inférence complète et incomplète Complexité, classes polynomiales Juillet 2007 IA Fondamentale – GDR I3

Pourquoi les VCSP ? Réseaux de contraintes, SAT : Problèmes de décision (booléens) définis par un ensemble de relations locales (contraintes, clauses). Réseaux valués : Ajout de préférences, incertitudes définies par des fonctions locales => optimisation... Juillet 2007 IA Fondamentale – GDR I3

Exemple Affectation de fréquences Un réseau de télécommunication sans fil Sous contraintes techniques …trouver pour chaque lien la meilleure fréquence possible. Meilleure peut être : Qui minimise la fréquence maximum (max) Qui minimise les interférences entre paires de liens (somme) Juillet 2007 IA Fondamentale – GDR I3

Exemple Traitement de réseaux d’informations probabiliste (produit), possibiliste (max)… Une distribution jointe définie par un GOSC (DAG) de plausibilités conditionnelles Des observations (contraintes) …trouver l’explication la plus plausible des observations (max-produit, min-max) Génétique, image, signal (champs markoviens, graphes de facteurs) Juillet 2007 IA Fondamentale – GDR I3

Réseaux de contraintes… Valuées Pondérées Semi-anneau Flou Probabiliste

Réseau de fonctions de coûts (X,D,C) X={x1,..., xn} variables D={D1,..., Dn} domaines finis C={f,...} fonctions de coût locales fS, fij, fi f∅ portée S,{xi,xj},{xi}, ∅ fS(t):  E (ordonné par ≼, ≼T) Fonction jointe: F(X)= fS (X[S]) Solution: F(t)  T Requête: Minimiser la fonction jointe neutre absorbant commutatif associatif monotone Juillet 2007 IA Fondamentale – GDR I3

Exemple CSP classique (3-coloriage) xi xj f(xi,xj) b T g  r x1 x2 x4 Pour chaque arête (contrainte) x5 Juillet 2007 IA Fondamentale – GDR I3

Réseau pondéré (WCSP,  = +) Pour chaque sommet x3 xi f(xi) b g 1 r x1 x2 x4 x5 F(X): nombre de sommets qui ne sont pas bleus Juillet 2007 IA Fondamentale – GDR I3

Structures de coûts et formalismes treillis idempotent Valués multiple booléen {,T} Semi-anneau multi critère Totalement ordonné Juillet 2007 IA Fondamentale – GDR I3

Si fS dominée par la fonction jointe de (X,D,C) Idempotence a  a = a (pour tout a) Si fS dominée par la fonction jointe de (X,D,C) (X,D,C) ≡ (X,D,C{fS}) Contraintes:  = et Possibilistes:  = max … Juillet 2007 IA Fondamentale – GDR I3

Recherche systématique Branch & bound(s) Séparation et évaluation

I - Affectation (conditioning) xi xj f(xi,xj) b T g r 3 xj b T g r 3 f[xi=b] g(xj) g[xj=r] 3 h Juillet 2007 IA Fondamentale – GDR I3

Recherche systématique Chaque nœud est un sous-problème VCSP variables (LB) Minorant = f Sous estimation de la meilleure solution dans le sous-arbre Si  alors couper f LB UB T = T (UB) Majorant = meilleure solution connue Juillet 2007 IA Fondamentale – GDR I3

Recherche incomplète (locale) Rien de vraiment spécifique

Inférence complète Elimination de variable (bucket elimination) Programmation dynamique (non sérielle)

II - Combinaison (avec , + ici) xi xj f(xi,xj) b 6 g xj xk g(xj,xk) b 6 g  xi xj xk h(xi,xj,xk) b 12 g 6 = 0  6 Juillet 2007 IA Fondamentale – GDR I3

III - Projection (élimination avec Min ici) xi xj f(xi,xj) b 4 g 6 r 2 3 1 Min f[xi] xi g(xi) b g r g[] h 2 Juillet 2007 IA Fondamentale – GDR I3

Propriétés Remplacer deux fonctions par leur combinaison ne change pas le problème Si fS est la seule fonction impliquant x, remplacer f par f[S-{x}] préserve l’optimum Juillet 2007 IA Fondamentale – GDR I3

Elimination d’une variable Choisir une variable Combiner les fonctions qui l’implique Eliminer la variable par projection Complexité Temps: (exp(deg+1)) Espace: (exp(deg)) Juillet 2007 IA Fondamentale – GDR I3

Elimination de variables (bucket elimination) Eliminer les variables une par une. Quand toutes sont éliminées, le problème est résolu Les solutions optimales peuvent être retrouvées Complexité: exponentielle en la largeur d’arbre (treewidth, k-tree number, induced width, dimension…) Dépend de l’ordre d’élimination Juillet 2007 IA Fondamentale – GDR I3

Histoire / terminologie SAT: résolution direct. (Davis & Putnam, 60) RO: Pr. dyn. non sérielle (Bertelé Brioschi, 72) SGBD: BD acyclique (Beeri et al 1983) Réseaux bayésiens: Belief propagation, Join-tree (Pearl 88, Lauritzen et Spiegelhalter 88) CSP: cohérence adapt… (Dechter & Pearl 88) Algébrisée (Shenoy et Shafer 91, Bistarelli et al. 95, GDL 2000) Juillet 2007 IA Fondamentale – GDR I3

Cohérence locale, filtrage, propagation Inférence incomplète Cohérence locale, filtrage, propagation

Inférence incomplète Compromis espace/temps - complétude Limiter l’inférence à la production de certaines classes de fonctions de coûts En espace/temps polynomial Cohérences locales: noeud, arc… Produire un problème équivalent Produire un minorant sur la cohérence le coût optimal Juillet 2007 IA Fondamentale – GDR I3

Cohérence d’arc classique Un CSP est AC ssi xi,  cij, (cij ⋈ cj)[xi] n’apporte pas d’information sur xi cij ⋈ cj (cij ⋈ cj)[xi] xi xj cij v  w T v  v  T xi c(xi) v  w T w   w T i j Juillet 2007 IA Fondamentale – GDR I3

Extension « naïve » au cas valué Pour tout xi et fij f=(fij  fj)[xi] n’apporte pas d’information sur xi fij  fj (fij  fj)[xi] xi xj fij v w 2 1 v v 2 Xi f(xi) v w 1 w 1 w 1 i j Toujours équivalent ssi  est idempotent SINON EQUIVALENCE PERDUE Juillet 2007 IA Fondamentale – GDR I3

IV – Soustraction de fonctions de coûts 2 1 w 1 w 1 i j Combinaison+Projection+Soustraction: « Equivalence Preserving Transformation » Juillet 2007 IA Fondamentale – GDR I3

Production de minorants non naïfs x y 1 v v 1 1 f = 1 w 1 w 1 Juillet 2007 IA Fondamentale – GDR I3

Confluence perdue La recherche d’un point-fixe qui maximise f y 1 v v 1 f = w 1 1 w 1 La recherche d’un point-fixe qui maximise f est NP-difficile (2004). Il est possible de faire mieux en temps polynomial (OSAC, 2007) Juillet 2007 IA Fondamentale – GDR I3

Hierarchie NC DAC AC NC* O(nd) AC* O(n 2d 3) DAC* O(ed 2) Cas CSP classique (Top=1) NC NC* O(nd) DAC AC* O(n 2d 3) DAC* O(ed 2) FDAC* O(end 3) AC EDAC* O(ed2 max{nd,T}) OSAC* (Prog. Linéaire) Juillet 2007 IA Fondamentale – GDR I3

MEDAC MFDAC MAC/MDAC MNC BT Juillet 2007 IA Fondamentale – GDR I3

Accélérer la recherche systématique par cohérence locale Affectation de fréquence CELAR6-sub4 (22 var, 44 val, 477 cost func): MNC*1 an estimé MFDAC*  1 heure CELAR6 (100 var, 44 val, 1322 cost func): MEDAC+ structure  3 heures (toolbar-BTD) Juillet 2007 IA Fondamentale – GDR I3

Complexité, classes polynomiales Arbres, largeur d’arbre bornée Idempotent  ou non…

Classes polynomiales Réseaux min-max (possibilistes/flous) Les -coupes permettent de généraliser les classes pol. classiques Il suffit que la classe polynomiale soit conservée par -coupe CSP temporel simple (avec des 1-intervalles de temps) : xi-xj∊[aij,bij] STCN flous: pol. si toute coupe des fonctions de coût est un 1-intervalle (semi-convexe) Juillet 2007 IA Fondamentale – GDR I3

Cas additif (weighted/boolean) MaxSat est MAXSNP complet (pas de PTAS) Langages pol. totalement caractérisés pour MaxSAT (Creignou 2001) MaxCSP: (x = y) ? 0 : 1 est NP-dur Fonctions sous-modulaires: polynomial (OSAC) (u ≤ x, v ≤ y f(u,v)+f(x,y) ≤ f(u,y)+f(x,v)) (Cohen et al.) Juillet 2007 IA Fondamentale – GDR I3

Librairies Open source Toolbar & Toulbar2 Accessible depuis le wiki Soft : carlit.toulouse.inra.fr/cgi-bin/awki.cgi/SoftCSP Alg: BE-VE,MNC,MAC,MDAC,MFDAC,MEDAC,MPIC,BTD Connexion ILOG solver, large domaines/problèmes… Formats MaxCSP/SAT (pondérés) et ERGO (BN) Des milliers de benchmarks, format documenté Pointeurs vers d’autres outils (MaxSAT/CSP) Forge mulcyber.toulouse.inra.fr/projects/toolbar (toulbar2) Pwd: bia31 Juillet 2007 IA Fondamentale – GDR I3

Handbook of Constraint Programming Plus sur le sujet… Handbook of Constraint Programming Elsevier 978 pages, Août 2006 Juillet 2007 IA Fondamentale – GDR I3

Un point Beaucoup reste à faire Techniques: symétries, apprentissage, compilation… Algorithmes: meilleurs minorants, nouvelles cohérences locales, dominance, fonctions de coûts globales, structure du problème. Implémentation: intégration avec les outils classiques (Choco, Solver, Minion…) Applications: modélisation, résolution, heuristiques (guider), résolution incomplète... Extension: à d’autres problèmes que l’optimisation (compter, quantifier…) Juillet 2007 IA Fondamentale – GDR I3

Changement    Min Combinaison Projection/Elimination Juillet 2007 IA Fondamentale – GDR I3

Discussion WCSP et CSP Un WCSP peut se modéliser comme un CSP Une fonction de coût fS Une nouvelle variable xf Une contrainte Rf xf= fS(…) Pourquoi s’intéresser aux WCSP ? Juillet 2007 IA Fondamentale – GDR I3

Discussion Les modèles « graphiques » omniprésents? IAF (SAT, CSP, BN…) Planification / Décision séquentielle Analyse d’image (Champs Markov) Théorie du signal (Factor graphs) Statistique, machine learning Modélisation de systèmes complexes Un modèle fédérateur ? Juillet 2007 IA Fondamentale – GDR I3

Discussion Si les modèles graphiques le permettent N’y a-t-il pas un intérêt scientifique à fédérer les formalismes, propriétés, algorithmes ? Comment peut-on faire ? Sans s’éloigner des objectifs (applications) de chacun d’eux. Cela est-il incompatible avec le « Publish or Perish » ? Juillet 2007 IA Fondamentale – GDR I3

Discussion IA fondamentale et mise en oeuvre: Ne faut-il pas dédier une partie plus importante des efforts de l’IAF à la résolution jusqu’au boutiste de problèmes « pratiques » ? Incohérent avec le côté fondamental ? Quels problèmes ? Visibilité ? Juillet 2007 IA Fondamentale – GDR I3

Des références S.M. Aji, R.J. McEliece. The Generalized Distributive Law. IEEE Trans. Inform. Theory, 46(2). Mars 2000, pages 325-343. S. Bistarelli, U. Montanari and F. Rossi, Semiring-based Constraint Satisfaction and Optimization, Journal of ACM, vol.44, n.2, pp. 201-236, March 1997. S. Bistarelli, H. Fargier, U. Montanari, F. Rossi, T. Schiex, G. Verfaillie. Semiring-Based CSPs and Valued CSPs: Frameworks, Properties, and Comparison. CONSTRAINTS, Vol.4, N.3, September 1999. S. Bistarelli, R. Gennari, F. Rossi. Constraint Propagation for Soft Constraint Satisfaction Problems: Generalization and Termination Conditions , in Proc. CP 2000 C. Blum and A. Roli. Metaheuristics in combinatorial optimization: Overview and conceptual comparison. ACM Computing Surveys, 35(3):268-308, 2003. T. Schiex, Arc consistency for soft constraints, in Proc. CP’2000. M. Cooper, T. Schiex. Arc consistency for soft constraints, Artificial Intelligence, Volume 154 (1-2), 199-227 2004. M. Cooper. Reduction Operations in fuzzy or valued constraint satisfaction problems. Fuzzy Sets and Systems 134 (3) 2003. A. Darwiche. Recursive Conditioning. Artificial Intelligence. Vol 125, No 1-2, pages 5-41. R. Dechter. Bucket Elimination: A unifying framework for Reasoning. Artificial Intelligence, October, 1999. R. Dechter, Mini-Buckets: A General Scheme For Generating Approximations In Automated Reasoning In Proc. Of IJCAI97 Juillet 2007 IA Fondamentale – GDR I3

References S. de Givry, F. Heras, J. Larrosa & M. Zytnicki. Existential arc consistency: getting closer to full arc consistency in weighted CSPs. In IJCAI 2005. W.-J. van Hoeve, G. Pesant and L.-M. Rousseau. On Global Warming: Flow-Based Soft Global Constraints. Journal of Heuristics 12(4-5), pp. 347-373, 2006. P. Jégou & C. Terrioux. Hybrid backtracking bounded by tree-decomposition of constraint networks. Artif. Intell. 146(1): 43-75 (2003) F.R. Kschischang, B.J.Frey, H-A Loeliger. Factor Graphs and the Sum-Product Algorithm. IEEE Trans. Inf. Theory. 47(2), Février 2001. pages 498-519. J. Larrosa & T. Schiex. Solving Weighted CSP by Maintaining Arc Consistency. Artificial Intelligence. 159 (1-2): 1-26, 2004. J. Larrosa and T. Schiex. In the quest of the best form of local consistency for Weighted CSP, Proc. of IJCAI'03 J. Larrosa, P. Meseguer, T. Schiex Maintaining Reversible DAC for MAX-CSP. Artificial Intelligence.107(1), pp. 149-163. R. Marinescu and R. Dechter. AND/OR Branch-and-Bound for Graphical Models. In proceedings of IJCAI'2005. J.C. Regin, T. Petit, C. Bessiere and J.F. Puget. An original constraint based approach for solving over constrained problems. In Proc. CP'2000. T. Schiex, H. Fargier et G. Verfaillie. Valued Constraint Satisfaction Problems: hard and easy problems In Proc. of IJCAI 95. G. Shafer, P. Shenoy. Local computations in hyper-trees. Working paper 201. Juillet 1991. G. Verfaillie, M. Lemaitre et T. Schiex. Russian Doll Search Proc. of AAAI'96. Juillet 2007 IA Fondamentale – GDR I3

References (SAT) M. Bonet, J. Levy and F. Manya. A complete calculus for max-sat. In SAT 2006. M. Davis & H. Putnam. A computation procedure for quantification theory. In JACM 3 (7) 1960. I. Rish and R. Dechter. Resolution versus Search: Two Strategies for SAT. In Journal of Automated Reasoning, 24 (1-2), 2000. F. Heras & J. Larrosa. New Inference Rules for Efficient Max-SAT Solving. In AAAI 2006. J. Larrosa, F. Heras. Resolution in Max-SAT and its relation to local consistency in weighted CSPs. In IJCAI 2005. C.M. Li, F. Manya and J. Planes. Improved branch and bound algorithms for max-sat. In AAAI 2006. H. Shen and H. Zhang. Study of lower bounds for max-2-sat. In proc. of AAAI 2004. Z. Xing and W. Zhang. MaxSolver: An efficient exact algorithm for (weighted) maximum satisfiability. Artificial Intelligence 164 (1-2) 2005. Juillet 2007 IA Fondamentale – GDR I3

Exemples Ordonnancement de prise de vues satellite Un ensemble de photos à acquérir, d’importances variables … sélectionner le meilleur ensemble de photos compatibles … … sous les ressources : 3 appareils embarqués Bande passante (bus), capacité mémoire, temps de préparation, orbite Meilleur = somme des importances max. Juillet 2007 IA Fondamentale – GDR I3

Exemple Actions combinatoires Ensembles G de biens et B d’enchères… Enchère (bi,vi), bi biens, vi valeur … trouver le meilleur sous-ensemble d’enchères compatibles meilleur = maximiser le revenu (somme) G1 G3 G2 G5 G6 G4 G8 G7 b1 v1 b4 v4 b2 v2 b3 v3 Juillet 2007 IA Fondamentale – GDR I3