L'éthique de l'ingénieur face aux technologies et aux attentes de la Société Dominique Vinck FABI - 21 avril 2016

Des valeurs éthiques dans l’ingénierie FABI - 21 avril 2016

« Je ne décris pas ma méthode pour rester sous l'eau ni combien de temps je peux y rester sans manger. Et je ne les publie et ne les divulgue pas, en raison de la nature maléfique des hommes, qui les utiliseraient pour l'assassinat au fond de la mer en détruisant les navires en les coulant, eux et les hommes qu'ils transportent »  Leonardo da Vinci (Prolégomène et introdcution général au livre sur la peinture) FABI - 21 avril 2016 Sous-marin de Leonardo da Vinci ( )

Innovation, solidarité, convivialité, esthétique et économie des ressources = valeurs éthiques qui influent la conception et le calcul des solutions FABI - 21 avril 2016 Gustave Eiffel ( )

Mi-20 ème siècle Utilitarisme et pragmatisme Mobilisation des sciences Recherche d’applications immédiates Former des hommes nouveaux = mission de l’Ecole des Mines de Medellín Rationalisation, y compris de l’Etat FABI - 21 avril 2016 Alejandro López ( ) Alberto Mayor Mora, Etica, trabajo y productividad en Antioquia. Una interpretación Sociológica sobre la influencia de la Escuela de minas en la vida, costumbres e industrialización regionales, Ed. Tercer Mundo, Bogotá, 1984

Grandes valeurs éthiques classiques en ingénierie - Contribution au progrès humain et social - Rationalité dans l’analyse, la conception, la gestion… - Utilité et efficacité - Fiabilité, robustesse et sécurité - Économie des ressources - Dépassement des intérêts particuliers (bien commun) FABI - 21 avril A9tri%C3%A8res_et_treillis_pour_le_calcul_de_l%27ossature.J PG

Évolution des valeurs et influences de la société L’employeur Public (intérêt général, indépendance de la Nation…) Privé (projet entrepreneurial, valeur économique…) Les convictions personnelles Équité, respect de l’environnement… Le contexte juridique et institutionnel Risque acceptable, soutien de l’Etat Le contexte social et les débats entourant les technologies Pressions environnementalistes FABI - 21 avril content/uploads/2015/06/Evolution-des- dieux.jpg

Cas de conscience FABI - 21 avril ARTFIG00023-affaire-volkswagen- des-ingenieurs-avouent-avoir-installe-le-logiciel- tricheur.php ingénieurs confrontés à des problèmes concrets & pris dans des jeux d’acteurs

Réflexion éthique en ingénieure  19 ème : les associations professionnelles proposent des codes d’éthique  20 ème : face aux inquiétudes portant sur les risques des nouvelles technologies  Bombe atomique en 1945, accidents nucléaires de Three Mile Island…, explosions de Seveso, Bhopal…  Les écoles d’ingénieurs (MIT…) développent des réflexions critiques concernant les relations entre technologies et sociétés FABI - 21 avril 2016

Réflexion éthique dans les écoles d’ingénieurs Analyse de cas Les ingénieurs doivent faire des compromis entre  Rationalité technique  Contribution au bien commun de l’humanité  Et pressions des employeurs  Politiques publiques  Intérêts privés FABI - 21 avril 2016

Thèmes de réflexion éthique Conflits d’intérêts Secret industriel, commercial, militaire ou étatique Limites au maintien des bonnes relations avec les partenaires Loyauté vis-à-vis de l’employeur / la profession / la société Devoir de lanceur d’alertes FABI - 21 avril 2016

Proposition en tant que groupe professionnel - France : Charte de l'ingénieur (Conseil national des ingénieurs et scientifiques de France - CNISF) - Insiste sur le rôle social (securité) et le développement durable - Définit un idéal pour la profession sans préciser d’obligations spécifiques - Allemagne : la réflexion répond aux critiques de l’après guerre - Se présentent comme acteurs du développement technique et citoyen, préoccupés par l’évolution de la société - USA : l’engineering ethics répond aux fortes critiques à l’égard des technologies et à la nécessité d’en faire une évaluation sociétale (technology assessment) FABI - 21 avril 2016

Proposition en tant que groupe professionnel (COPNIA, 2014) Promouvoir l’intégrité de la profession - Devoirs vis-à-vis de la société - S’intéresser au bien public […] pour servir l’humanité - Coopérer au progrès de la société - Étudier attentivement qui sera affecté par chaque proposition […] afin d’assurer la meilleur qualité de vie pour la population - Offrir bénévolement ses services en cas de catastrophe publique - Protéger la vie et la santé des communautés, en évitant les risques non nécessaires dans la réalisation du travail - Agir pour la protection de l’intégrité de patrimoine FABI - 21 avril 2016

Dans les faits : de la déontologie plus que de l’éthique Au niveau individuel, une éthique des bonnes relations - Avec les collègues : éviter les conflits - Avec les employés et partenaires : p.ex. ne pas dénigrer leurs compétences FABI - 21 avril Sécurité et conditions de travail -Ne pas exposer les employés à des pressions inutiles -Qualité du travail -Information de la hiérarchie en cas de problème ennemi-ou-mon-ami_b_135.html

Déontologie plus qu’éthique FABI - 21 avril Ce qui compte -La façon d’agir, la confiance et la loyauté vis-à-vis de l’employeur, du secteur et de la profession -Plus que les préoccupations sociétales et les finalités -L’employeur compte plus que la profession -Les affaires dominent les considérations éthiques ennemi-ou-mon-ami_b_135.html

Un échec de l’éthique professionnelle ? L’éthique promue dans la littérature professionnelle - Ne se traduit guère dans les faits - Ne s’intègre pas dans les situations concrètes de travail - Sauf lorsque : - Il y a une forte pression externe (p.ex. si des victimes déposent plaintes) - Ils pensent que les solutions viennent de l’ingénierie (p.ex. développement durable) La critique éthique vise les autres professions, en particulier les commerciaux et la finance FABI - 21 avril 2016

Pouvoir se regarder dans le miroir Individuellement, disent : - Avoir des problèmes de conscience à travailler dans certains secteurs - P.ex. l’industrie de l’armement ou du tabac - Ne se sentent pas à l’aise de participer au développement de produits dangereux pour le consommateur - Ne pas savoir comment aborder ces questions - Que le problème vient du contexte économique et organisationnel - Inversement, être fiers de contribuer à sauver des vies - p.ex. senseurs pour libérer les airbags - Avoir l’impression que ce qu’ils font est bien FABI - 21 avril 2016

Face aux nouvelles technologies FABI - 21 avril 2016

Technology Assessment  Pugwash : évaluation éthique des technologies  1962–grands programmes technologiques : quels bénéfices ?  Étendre les méthodes d’analyse coûts- bénéfices : intégrer ce qui n’entre pas dans le calcul économique  Office of Technology Assessment  Anticiper les impacts  Préparer l’adaptation de la société (éducation, législation, organisation)  Anticiper les risques et conséquences négatives  Identifier les opportunités pour tirer un meilleur profil tes technologies FABI - 21 avril 2016

TA : rôle des ingénieurs  Participent à l’évaluation  avant l’introduction des nouvelles technologies  mais seulement à l’issue de leur développement, une fois la technologie définie dans ses principales caractéristiques  Fournisseurs de connaissances sur la technologie, les risques et les conditions de bon fonctionnement  l’expertise venant de l’ingénierie domine l’évaluation  mais est interpellée par la volonté d’avoir aussi une évaluation des impacts économiques, sociaux et environnementaux FABI - 21 avril 2016

Confrontés à de nouvelles approches  L’évaluation est complétée par d’autres expertises  Compétition entre expertises  Remise en cause des approches, théories et méthodes préalablement utilisées  Contestation du rôle des experts et des méthodologues  Prise en compte du processus de décision politique et des limites de l'expertise  Prise en compte d’une large variété de perspectives  Intégration de la controverse (potentielle) sous une forme dépassionnée  Participation des publics FABI - 21 avril 2016

Modèle de la trajectoire balistique Trajectoire et impact calculables et déterminés par les conditions initiales : qualités techniques intrinsèques, conditions de lancement… FABI - 21 avril 2016

Modèle du déterminisme technologique  Développement technologique autonome  Ne dépend pas de la société  Explique le changement = impact sur la société FABI - 21 avril 2016

Conséquences pour l’évaluation  Ex post – une fois qu’on connaît les caractéristiques de la technologique  Évaluer pour choisir entre technologies  Alerter sur les risques : early warning system  Éventuellement, empêcher l’introduction  Préparer la société pour l’adapter au changement  Accompagner l’introduction et le changement  Réguler pour maximiser les bénéfices & minimiser les effets néfastes  N’oriente pas le développement FABI - 21 avril 2016

La prise en compte des questions éthiques et sociétales dans la R&D et l’innovation est devenue, depuis un demi siècle, un sujet de préoccupation important, notamment pour les chercheurs et les ingénieurs FABI - 21 avril 2016

1 er défi pour les ingénieurs Trouver le bon compromis  Réduire les conséquences néfastes pour la société et la planète  Tout en maximisant les bénéfices pour la majorité  Bénéfices et effets néfastes inégalement répartis FABI - 21 avril 2016

Critique du déterminisme technologique  Des acteurs influencent le développement technologique d ès la R&D et la conception  Les impacts dépendent de multiples facteurs  Il est possible d’agir en amont FABI - 21 avril 2016

Cheminement de l’innovation Incertain : fait d’évènements contingents et de bifurcations Les trajectoires d’innovations, depuis la recherche fondamentale jusqu’à l’introduction de nouvelles technologies dans la société, sont émaillées de myriades de décisions, délibérées ou pas, qui infléchissent ces trajectoires et ont des effets plus ou moins durables, importants et irréversibles. FABI - 21 avril 2016

Confrontés à de nouveaux problèmes S&T ouvrent de nouvelles possibilités sources d’incertitudes quant aux usages, aux risques, aux effets inattendus FABI - 21 avril question-de-culture-entrepreneuriale/

Dépendance de sentier Contraintes progressivement accumulées et inscrites dans le réseau sociotechnique Investissements Apprentissages Externalités de réseau FABI - 21 avril 2016 Risque d’irréversibilité

Dilemme de Collingridge FABI - 21 avril 2016 Degré de liberté Connaissances

Modèle de la coévolution des technologies & des sociétés FABI - 21 avril 2016  Constructive TA  Co-construction des normes  Implication précoce des porteurs d’enjeux (early engagement)  Expérimentation collective  Real-time TA

2 ème défi pour les ingénieurs Réduire les risques liés à l’irréversibilité FABI - 21 avril 2016

Comment faire pour disposer des meilleurs technologies pour une société meilleure tout en réduisant le coût humain, social et environnemental des essais et erreurs que nous commettrons en apprenant à façonner ces technologies ? FABI - 21 avril 2016

Face aux exigences de la société L’ingénieur ou le chercheur engagé dans des projets de R&D est de plus en plus souvent confronté à des questions éthiques et sociétales, c’est-à-à-dire celles qui portent sur le devenir des sociétés et de leur environnement, les options entre lesquelles choisir et les évolutions qu’il conviendrait d’éviter. FABI - 21 avril 2016

Nouvelles exigences de la société  >1960 : la croyance optimiste dans le progrès s’effrite  Prise de conscience des limites de la croissance et d’effets néfastes ou inattendus  Pollution, encombrement des villes, détérioration de l’environnement  Des protestations s’élèvent contre des technologies et questionnent leur légitimité  Énergie nucléaire, génie génétique FABI - 21 avril 2016

Nouvelles exigences de la société  Diminution de la confiance placée dans les experts  Un débat de fond et durable s’instaure quand à la manière de gouverner les S&T émergentes qui transforment la société  Souci de trouver dispositifs et méthodes permettant à la société d’exercer un contrôle démocratique sur les orientations technologiques en cours de définition  Vers une approche plus prudente : precautionary approach  Des entreprises craignent les réactions du publics (acceptabilité sociale) et les risques de retournement des marchés  Surtout en cas de désastre FABI - 21 avril 2016

Pour une innovation responsable Intégrer les préoccupations sociétales dès la R&D - ELSA (ethical, legal and social aspects of technology) - ELSI (ethical, legal and social implications of technology) Mobiliser des chercheurs en sciences sociales dans les projets de R&D pour que les ingénieurs intègrent ces préoccupations dans leurs décisions FABI - 21 avril 2016

Notion de recherche et innovation responsable (UE): - Implique la participation des porteurs d’enjeux et des intéressés - Dès le début des activités de recherche - Les considérations éthiques sont considérées comme moteurs de l’innovation plus que des limites FABI - 21 avril 2016

Intégrer les problématiques sociétales dans la R&D  Jadis héros associés à la science et au progrès technique et moral, les ingénieurs seraient désormais suspects de succomber au vertige de la prouesse technique  Or, l'ingénierie développe une capacité de transformation du monde qui pose la question de son orientation et de ses finalités  Traiter questions et enjeux sociétaux précocement, avant que des irréversibilités problématiques ne se soient produites FABI - 21 avril 2016

3 ème défi pour les ingénieurs Construire la co-responsabilité FABI - 21 avril 2016  Le Code de conduite (EU) pour une recherche responsable dans les nanos invite les innovateurs à devenir co-responsables de ce qu’ils font, avec les autres acteurs de la société

1. Evaluer les promesses  Organiser leur discussion et évaluation  Avec les parties intéressées et les groupes potentiellement concernés, directement et indirectement FABI - 21 avril 2016

 Dès l’amont, acteurs S&T se font une idée de l’utilité potentielle  L’expriment pour convaincre partenaires et investisseurs  Leur vision gagne en consistance  Arguments, images, démos, données, connaissances, prototype…  Elle circule et se traduit sous forme de lignes budgétaires, d’investissements, de mobilisation d’acteurs  Elle oriente les premiers pas du développement technologique FABI - 21 avril 2016

2. Travailler avec les publics  La prise en compte des différentes positions du public  En amont, permet de peser sur la définition de la technologie en cours de développement et de s’assurer qu’elle intègre dans sa conception les éléments de son évaluation éthique et sociétale  Mais ne va pas de soi  Le public n'est pas nécessairement intéressé à participer  La notion de public est polymorphe  Comment avec les groupes indirectement affectés mais pas constitués ? FABI - 21 avril 2016

3. Une responsabilité collective pour la profession  Difficile de traiter ces questions au niveau individuel Prise de conscience, connaissance Résistance aux pressions  Définir des responsabilités collectives  Concevoir des méthodes et des ressources qui puissent être intégrées dans la pratique FABI - 21 avril 2016

Presses Polytechniques et Universitaires Fédérales, Lausanne, 2015 À paraître en janvier 2017: Vinck D., Prise en compte précoce des questions éthiques et sociétales dans la R&D, Editions Techniques de l’ingénieur