Introduction à la Calculabilité Cours LFI2 (Master Académique)

Présentation au sujet: "Introduction à la Calculabilité Cours LFI2 (Master Académique)"— Transcription de la présentation:

1 Introduction à la Calculabilité Cours LFI2 (Master Académique)
2007/2008

2 Plan 1- Introduction 2- Intérêt d’étudier la calculabilité
3- Notion de Problème 4- Notion de Programme (procédure de calcul) 5- Notion de Décidabilité 6- Notion de Calculabilité 7- Notion de dénombrabilité 8- Notion de codage 9- Formalisation des problèmes 10- Formalisation du calcul

3 Introduction

4 Chaque science a ses limites théoriques& pratiques
Introduction Chaque science a ses limites théoriques& pratiques Mathématiques Mécanique Physique …. Qu’en est-il pour l’Informatique? L’informatique, est-elle limitée ?

5 A la recherche des limites de l’informatique
Introduction A la recherche des limites de l’informatique Deux Questions principales se posent: Limites théoriques ? Limites pratiques ?

6  Théorie de la calculabilité
Introduction Limites théoriques ? • Est-ce qu’il y a des problèmes qu’on ne peut pas résoudre par ordinateur ? par ordinateur = par moyen algorithmique indépendamment des ressources disponibles limites absolues  Théorie de la calculabilité

7  Théorie de la complexité
Introduction Limites pratiques ? Est-ce qu’il y a des problèmes qu’on ne peut pas résoudre de façon efficace ? en présence de ressources (temps, espace) limites relatives  Théorie de la complexité

8 Il existe des problèmes qui n’ont pas une solution algorithmique
Introduction En effet: Il existe des problèmes qui n’ont pas une solution algorithmique Il existe des problèmes qui n’ont pas de solution satisfaisante en terme d’efficacité

9 Complexité Calculabilité Limites Limites théoriques ?
Introduction Limites Limites théoriques ? Limites pratiques ? Complexité Calculabilité Dans ce cours on s’intéresse seulement à la théorie de la Calculabilité

10 Intérêt d’étudier la calculabilité

11 Intérêt d’étudier la calculabilité
Quand un informaticien tente de résoudre un problème et qu’il n’arrive pas à avoir un algorithme. Que fait-il ? Il corrige quelques détails de l’algorithme, Il ajoute de nouveaux cas …..etc. Il se dit: « je vais y arriver , j’essaye encore» Il cherche une autre méthode de résolution Il se dit : « j’ai mal démarré, je recommence à zéro »

12 Après avoir suivi ce cours:
Intérêt d’étudier la calculabilité Après avoir suivi ce cours: Il se rendra peut être compte que le problème qu’il est censé résoudre n’a pas de solution algorithmique. Il économise ses efforts dés le départ.

13 Comprendre les limites de l’informatique:
Intérêt d’étudier la calculabilité L’intérêt d’étudier la théorie de calculabilité Comprendre les limites de l’informatique: Ne pas essayer de résoudre un problème qu’on ne peut pas résoudre Disposer des méthodes qui permettent de montrer que certains problèmes ne peuvent pas être résolus Obtenir des résultats indépendants de la technologie employée pour construire les ordinateurs.

14 – La notion de programme exécuté sur un ordinateur.
Intérêt d’étudier la calculabilité Quels problèmes sont solubles par un programme exécuté sur un ordinateur ? Il faut préciser : – La notion de problème, – La notion de programme exécuté sur un ordinateur.

15 Notion de problème

16 Problème est une question générique.
Notion de problème Définition Problème est une question générique. (i.e. un problème contient des paramètres ou variables libres. Lorsqu’on attribue des valeurs à ces variables on obtient une instance du problème) Un problème existe indépendamment de toute solution ou de notion de programme pour le résoudre. Un problème peut avoir plusieurs solutions: Plusieurs algorithmes différents peuvent résoudre le même problème.

17 Des Exemples de Problèmes…
Notion de problème Des Exemples de Problèmes…

18 Problème: Trier un tableau de nombres
Notion de problème Problème: Trier un tableau de nombres - Méthodes de tri basé sur la recherche du min (ou max) et des opérations de permutation C’est donc un problème « décidable »

19 Problème: Déterminer si un nombre est premier
Notion de problème Problème: Déterminer si un nombre est premier Crible d’Eratosthène: Construire la liste des nombres premiers jusqu’à N: Écrire tous les entiers jusqu’à N, éliminer tous les multiples de 2, puis parmi les nombres qui restent, tous les multiples de 3 etc. C’est donc un problème « décidable »

20 Problème: Déterminer si pour tout entier n>2,
Notion de problème Problème: Déterminer si pour tout entier n>2, il existe des entiers positifs a, b, c tels que: an + bn = cn La réponse négative à cette question constitue le désormais célèbre « dernier théorème de Fermat » La question est restée ouverte jusqu’en 1996 (Andrew Wiles)

21 Problème: Conjecture de Goldbach
Notion de problème Problème: Conjecture de Goldbach Tout nombre pair supérieur à 0 peut s’écrire comme la somme de deux nombres premiers Exemple: 4 = 2+2, 6=3+3, 8=5+3, 10=5+5, 12=5+7 100=97+3 … etc. Non Décidable

22 Problème: Équations diophantiennes (10ème problème de Hilbert 1900)
Notion de problème Problème: Équations diophantiennes (10ème problème de Hilbert ) Déterminer si une équation de la forme P=0, où P est un polynôme à coefficients entiers, possède des solutions entières Exemples : x2 + y2 – 1 = 0, x2 – 991y2 – 1 = 0 etc… Ce problème n’est pas « décidable » Démontré en 1970 par Yuri Matijasevic  Il n’existe aucun algorithme qui indique, pour chaque équation diophantienne, si elle a ou non des solutions

23 Problème: Les mots correspondants (1)
Notion de problème Problème: Les mots correspondants (1) Etant donnés deux suites de mots, est-il possible de former un nouveau mot en concaténant une série de la première suite de façon telle que l’on retrouve le même mot en concaténant la même série de mots de la deuxième suite Une instance du problème 1 2 3 4 5 abb a bab baba aba bbab aa ab Groupe-1 Groupe-2 Oui il y a la série: a abb abb baba abb aba = aabbabbbabaabbaba aa bbab bbab aa bbab a = aabbabbbabaabbaba

24 Problème: Les mots correspondants (2)
Notion de problème Problème: Les mots correspondants (2) Une autre instance du problème 1 2 3 4 5 bb a bab baba aba aa ab Groupe-1 Groupe-2 Pas de Solution En général le problème n’est pas soluble.

25 C’est un problème « indécidable »
Notion de problème Problème: Déterminer si un programme P, pris au hasard, calcule une fonction donnée non nulle f(n) (n entier) C’est un problème « indécidable » Il n’existe pas d’algorithme général tel qu’étant donné un programme P et une fonction f de N dans N, il soit capable de dire si P calcule effectivement f

26 C’est un problème « indécidable »
Notion de problème Problème: Déterminer si deux programmes calculent la même chose (sont équivalents) C’est un problème « indécidable » Il n’existe pas d’algorithme général permettant de dire, étant donnés deux programmes P et P’ qu’ils font la même chose.

27 C’est un problème « indécidable »
Notion de problème Problème: Déterminer si un programme quelconque, sur une donnée représentée par un entier n, ne va pas boucler indéfiniment (Problème de terminaison) C’est un problème « indécidable » Il n’existe pas d’algorithme général qui, étant donné un programme P et un entier n, permette de dire que P ne va pas boucler indéfiniment sur l’entrée n

28 Notion de programme

29 Notion de programme Définition Un programme (ou encore algorithme) est une procédure effective pour résoudre un problème (toutes les instances du problème) Une caractéristique importante d’une procédure effective est qu’elle contient exactement la marche à suivre pour résoudre le problème, et qu’aucune décision supplémentaire ne doit être prise lors de l’exécution de la procédure. Une procédure effective doit se terminer pour toutes les instances du problème

30 Exemple de Procédure non effective (1)
Notion de programme Exemple de Procédure non effective (1) Pour résoudre le problème de terminaison (l’arrêt) d’un programme Soit la procédure qui consiste à « déterminer si le programme n’a pas de boucles ou de séquences d’appels récursifs infinies.” Cette procédure n’est pas une procédure effective car on ne sait pas comment détecter les boucle infinie , ni les appels récursif infinis

31 Exemple de Procédure non effective (1)
Notion de programme Exemple de Procédure non effective (1) Fonction Calcul (n: integer ):integer ; begin if n = 1 then 1 else if pair(n) then Calcul (n ÷ 2) else Calcul(3 × n+1); end. Calcul(1) =1, Calcul (2)=1, Calcul(3)=Calcul(10)=Calcul(5)=Calcul(16)=Calcul(8)=Calcul(4) = Calcul(2)=Calcul(1)=1 Calcul(7)=Calcul(22)=Calcul(11)=Calcul(34)=Calcul(17) = Calcul(3*17+1) ……

32 Notion de Décidabilité

33 Décidabilité Définition:
Notion de Décidabilité Décidabilité Définition: Soit un prédicat P (une propriété), applicable à un entier n P est décidable si et seulement si il existe une méthode (un algorithme) permettant de dire au bout d’un temps fini (i.e.: un nombre fini de pas de calcul) si P(n) est vrai ou si P(n) est faux

34 Exemples: Propriété P1(n) = « L’entier n est pair » P1 est décidable
Notion de Décidabilité Exemples: Propriété P1(n) = « L’entier n est pair » P1 est décidable Propriété P2(n) = « L’entier n a au moins un nombre premier qui lui est strictement supérieur » P2 non décidable

35 Notion de Calculabilité

36 Calculabilité Définition: Soit f une fonction de N dans N,
Notion de Calculabilité Calculabilité Définition: Soit f une fonction de N dans N, f est calculable si et seulement si il existe une méthode de calcul (un algorithme) permettant pour tout entier n d’obtenir f(n) si nDom(f) et  si nDom(f)

37 Notion de Calculabilité
Exemples: Les opérations simples (addition, produit…) sont des fonctions « calculables »: parce que nous connaissons des algorithmes pour les effectuer, cela signifie que nous sommes capables de réduire ces tâches à des opérations encore plus simples, que nous combinons entre elles.

38 Exemple: addition entière
Notion de Calculabilité Exemple: addition entière décomposé en : faire (table d’addition)  2, retenue de 1 faire (la retenue) etc.

39 1- De telles actions font appel à des opérations encore plus simples
Notion de Calculabilité Remarques: 1- De telles actions font appel à des opérations encore plus simples 2- Noter aussi que nos algorithmes de calcul (addition, produit…) reposent sur certaines conventions (choix d’un mode de représentation des nombres, choix d’une base…) et sur une définition implicite des opérations

40 3- Tout ne se ramène pas à des calculs sur les entiers…
Notion de Calculabilité Remarques: 3- Tout ne se ramène pas à des calculs sur les entiers… Par exemple: prendre deux mots d’inégale longueur et chercher à savoir si le plus petit figure à l’intérieur du plus grand (pattern-matching) Vérifier si une expression contenant des parenthèses est correctement parenthésée

41 - Les couples d’entiers
Notion de Calculabilité Remarques: 4- Dans la définition de calculabilité et de décidabilité la fonction f et le prédicat P sont définis sur N , Qu’en est-il pour les autres types de données ? - Les couples d’entiers Les suites d’entiers Les entiers relatifs Les fractions Les nombres réels Les chaînes de caractères Les arbres ….

42 Notion de Calculabilité
Les définitions s’étendent aux prédicats et fonctions qui s’appliquent à des ensembles dénombrables

43 Notion de dénombrabilité

44 Dénombrabilité Définition:
Notion de Dénombrabilité Dénombrabilité Définition: Un ensemble dénombrable est un ensemble dont les éléments peuvent être énumérés, ou numérotés : on peut les arranger de telle sorte qu’il y ait un premier, un deuxième, un troisième, etc. L’ensemble  est considéré comme étant un ensemble dénombrable

45 Exemples {0, 1, 2, 3, 4} est dénombrable
Notion de Dénombrabilité Exemples {0, 1, 2, 3, 4} est dénombrable {Ali, Sara, Mohamed, Brahim} est dénombrable (il suffit de choisir un classement arbitraire, par exemple par ordre d’âge) {xN; x<100} est dénombrable {0,1, 2, 3}{0, 1, 2, 3} est dénombrable (classer les couples dans l’ordre lexicographique, avec 0<1<2<3) {0, 1, 2, 3}n est dénombrable pour tout n (même raison)

46 Notion de Dénombrabilité
Exemples L’ensemble des mots utilisant les lettres de l’alphabet Français et de longueur inférieure ou égale à 26 est dénombrable N est dénombrable P = {xN, x est pair} est infini dénombrable: Il existe une bijection de P vers N (donc une numérotation possible des entiers pairs)

47 Z (l’ensemble des entiers relatifs) est infini dénombrable…
Notion de Dénombrabilité Exemples Z (l’ensemble des entiers relatifs) est infini dénombrable… on peut classer les relatifs comme suit: 0; -1; +1; -2; +2; -3; +3; -4; +4; -5 etc. La fonction qui donne la numérotation est: f(0) = 1 f(-n) = 2n (n0) f(+n) = 2n+1

48 Q- est infini dénombrable,
Notion de Dénombrabilité Exemples NN est infini dénombrable On peut classer les couples (m, n) comme suit: (0,0);(1,0);(0,1);(0,2);(1,1);(2,0);(3,0);(2,1); (1,2);(0,3);(0,4);(1,3);(2,2);(3,1);(4,0) etc. Q+ est infini dénombrable, Q- est infini dénombrable, Q aussi

49 Exemples R non dénombrable
Notion de Dénombrabilité Exemples R non dénombrable Les réels contiennent les rationnels et les irrationnels, ces derniers se caractérisent par le fait qu’ils n’ont aucune représentation sous forme d’un objet fini, Donc… comment espérer avoir une réponse en un temps fini lorsqu’on part d’un objet qui n’a aucune représentation finie?

50 Tout ensemble fini est dénombrable.
Notion de Dénombrabilité Remarques Tout ensemble fini est dénombrable. Un ensemble fini est dénombrable parce qu’il est toujours possible de définir une bijection de cet ensemble vers une partie finie de N (c’est-à-dire un ensemble de la forme {0,1,...n}) L’union de deux ensembles dénombrables est dénombrable. Le produit d’ensembles dénombrables est dénombrable. (ex: Nk pour tout entier k)

51 Notion de Codage

52 Soit E: un ensemble dénombrable N: l’ensemble des entiers naturels
Notion de Codage Remarque Soit E: un ensemble dénombrable N: l’ensemble des entiers naturels f: une fonction de numérotation de EN Si f est bijective alors les éléments de E peuvent être codés par des entiers et vice versa N E codage

53 Des chaînes aux nombres entiers
Notion de Codage Des chaînes aux nombres entiers Les chaînes de caractères (les mots sur un alphabet donné A) constituent un ensemble infini dénombrable: on peut donc associer à chaque chaîne un entier Cet entier peut être: - le numéro d’ordre dans un classement quelconque des chaînes - Le numéro calculé selon un code attribuant un chiffre à chaque caractère (cf. code ASCII),….

54 Des chaînes aux nombres entiers
Notion de Codage Des chaînes aux nombres entiers Chaînes de caractères N codage  Tout calcul sur les chaînes peut donc se ramener à un calcul sur des entiers

55 Des nombres entiers aux chaînes
Notion de Codage Des nombres entiers aux chaînes Pour procéder à des calculs sur les nombres entiers, il faut leur donner une représentation sous forme de chaîne (ou mot). Une représentation possible est une représentation dans le système binaire : sous forme de suite de 0 et 1 Donc les calculs sur des entiers se ramènent à des calculs sur des chaînes.

56 Les instances d’un problème sont des symboles (des chaînes)
Notion de Codage Remarque Finalement, tout algorithme et tout calcul se ramène à manipuler des suites de symboles ( donc des chaînes). Les instances d’un problème sont des symboles (des chaînes)

57 Si par exemple on a représenté les nombres entiers en binaire
Notion de Codage Exemple-1 Si par exemple on a représenté les nombres entiers en binaire Le problème « est-ce que n est pair? » se ramène au problème « est-ce que la représentation de n appartient à l’ensemble des représentations des entiers pairs? »

58 « est-ce qu’il existe des solutions entières de l’équation xn+yn=zn? »
Notion de Codage Exemple-2 Le problème « est-ce qu’il existe des solutions entières de l’équation xn+yn=zn? » se ramène au problème « savoir si un certain ensemble de chaînes est non vide. »

59 Formalisation des problèmes

60 Il est nécessaire de rappeler certaines définitions:
Formalisation des problèmes Les instances d’un problème sont représentées par des chaînes de symboles (mots) Il est nécessaire de rappeler certaines définitions: alphabet, mot, langage,…etc.

61 Alphabet Définition: Un alphabet  est un ensemble fini de symboles.
Formalisation des problèmes Alphabet Définition: Un alphabet  est un ensemble fini de symboles. Exemples • = {a, b, c} • = {,, } • = {0,1, 2, 3,4,5,6,7,8,9} • = {♠,♣,♥,●}

62 Formalisation des problèmes
Mot Définition: Un Mot sur un alphabet  est une séquence finie d’éléments de cet alphabet. Mot vide est désigné par  ou  Longueur du mot w est notée |w| Exemples • a, abs, zt, bbbssnbnzzyyyyddtrra, grosseguindaille sont des mots sur l’alphabet = {a, , z}. • 4♠3●5  2 , ♠  sont des mots sur l’alphabet ={0, , 8, ♠, ●,  }.

63 Formalisation des problèmes
Langages Définition: Un langage est ensemble (fini ou non) de mots définis sur le même alphabet. Exemples • {aab, aaaa, , a, b, abababababbbbbbbbbbbb}, { , aaa, a, bbb} et  sont des langages sur l’alphabet {a, b}. •{0, 1, 00, 01, 10, 11, 000, 001, 010, 011, 100,101,111,…} est le langage contenant tous les mots de l’alphabet {0, 1}. • L’ensemble des mots représentant les programmes C qui s’arrêtent toujours. Remarque:   {}

64 Opérations sur les langages
Formalisation des problèmes Opérations sur les langages Soit deux langages L1 et L2. Union • L1  L2 = {w /w  L1 ou w  L2} Concaténation L1 · L2 = {w/ w = xy , x  L1 et y  L2} Complément L1 = {w  * / w  L1}= * \ L1 Fermeture itérative (fermeture de Kleene) • L1* = {w/  k  0 et w1, ,wk  L1 et w = w1w wk}

65 Formalisation du Calcul

66 Tout ensemble de chaînes est défini comme un langage
Formalisation du calcul Tout ensemble de chaînes est défini comme un langage Les problèmes se ramènent à des problèmes de reconnaissance de l’appartenance à un certain langage: Etant donné un langage L et un mot w Est-ce que wL ?

67 Problème P(n) : L’entier n est-il pair
Formalisation du calcul Exemple Problème P(n) : L’entier n est-il pair Se ramène au problème wL Où w: est la chaîne de caractères qui représente l’entier n L: langage dont les éléments sont les chaînes représentant tous les entiers pairs

68 Comment procéder à la reconnaissance de mot d’un langage?
Formalisation du calcul Comment procéder à la reconnaissance de mot d’un langage? Il faut donc déterminer le plus petit ensemble possible d’opérations élémentaires, suffisamment générales pour que le maximum de calculs (sur des entiers, des chaînes quelconques etc.) puissent se ramener à des combinaisons de ces opérations.

69 Plusieurs solutions Modèles de Calcul
Formalisation du calcul Plusieurs solutions Modèles de Calcul Machines de Turing Automates Machines RAM fonctions récursives (Church) Lambda – calcul …

70 FIN