APPROCHE FUTUROLOGIE ROBOTIQUE CRITIQUE SUBJECTIVE des LOIS de la ROBOTIQUE Par : Samuel De Cruz, étudiant Licence 3 – Psychologie.

PRESENTATION Ce document est un effort, réalisé avec passion et avec tout le respect relatif à la Science-Fiction-Robotique, ayant comme objectif de proposer une approche critique des Lois de la Robotique d’Isaac ASIMOV. Je propose des situations hypothétiques et autres idées qui pourraient, éventuellement déstabiliser ou bouleverser un robot obéissant aux Lois. Je ne crois pas en une sérénité garantie via un système de lois inculquées, en effet : brider un système intelligent pour imposer une moralité absolue n’est à mes yeux qu’une pure chimère. AVANT-PROPOS Je tiens avant tout à préciser que mon effort de critique des Lois de la Robotique est motivé par une forte admiration d’ASIMOV, et je ne veux absolument pas rabaisser son travail, et encore moins prétendre pouvoir le juger ou l’analyser… Mon effort de critique, totalement subjectif, à pour but de partager mes propres idées, mes craintes, mes sentiments vis-à-vis des Lois, les failles que j’y entrevois, les problématiques et les altérations qu’elles peuvent provoquer. Ce travail de critique n’est donc pas un axe de critique péjoratif et hostile, mais bel et bien un axe de critique intelligent, de passion, motivé par un esprit de respect et de partage. Je vous avoue ne pas avoir lue toutes les œuvres d’ASIMOV, et je vous avoue aussi ne pas être un « fan » complet et incollable de ses multiples idées… C’est donc en tant qu’humble et passionné de robotique que j’ose écrire ce document. ISAAC ASIMOV Avant de présenter les Lois de la Robotique et mon travail de critique, je vous propose une présentation du célèbre et grandiose écrivain américano-russe. (en quelques lignes) Isaac ASIMOV ( 1920 -1992), est un écrivain de prestige, ayant énormément contribué à la science-fiction et à la vulgarisation scientifique. Auteur d’une œuvre monumentale : « I, Robot », 1950, qui sera adapté en 2004 au cinéma avec l’acteur Will SMITH. C’est dans son œuvre « Runaround », en 1942, qu’ASIMOV nous expose les 3 lois de la ROBOTIQUE. SAMUEL DE CRUZ Rédaction janvier 2017, premiers travaux datant de 2004. 07/03/2017

LOIS DE LA ROBOTIQUE Origine et Créateur : Les Lois de la Robotique sont un ensemble de règlements qui s’impose aux machines figurant dans la Fiction d’ASIMOV. Avec l’évolution et la grandeur de la Science – Fiction, les Lois de la Robotique ont surpassé la fiction d’ASIMOV pour se manifester dans de nombreux autres ouvrages… Les premiers travaux écrits exposant l’idée des Règlements Machines sont : Cercle vicieux (Runaround, 1942), Menteur !... Les Lois sont organisées, et œuvrées dans « Le Cycle de Robots » et d’autres œuvres publiées séparément ou regroupées.   Les Lois : 1 _ Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu'un être humain soit exposé au danger. 2 _ Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première loi. 3 _ Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la Première ou la Deuxième loi. La Loi 0 : ASIMOV présente par la suite la nécessité d’une loi 0 (C’est le personnage robotique imaginaire R. Daneel OLIVAW qui donne un nom à cette Loi, dans l’œuvre « Les Robots et l'Empire ». Le Personnage imaginaire Susan Calvin, robo - psychologue, détail le concept dans « Conflit Evitable ». 0 _ Un robot ne peut pas faire de mal à l'humanité, ni, par son inaction, permettre que l'humanité soit blessée Ce qui conduit à une modification des Lois : 1 _ Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu'un être humain soit exposé au danger, sauf contradiction avec la Loi Zéro. 2 _ Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première Loi ou la Loi Zéro. 3 _ Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la Première ou la Deuxième Loi ou la Loi Zéro. La loi 0 (ou loi 4) à pour finalité d’aider l’Humanité sous la tutelle d’une Robotique maître capable de bien mener la civilisation. « Conflit Evitable ». Cette loi, permet aux machines de léser, de brider certains humains anti-machine-supérieures pour le bien de la majorité. SAMUEL DE CRUZ Rédaction janvier 2017, premiers travaux datant de 2004. 07/03/2017

1 - MA CRITIQUE SUBJECTIVE : des lois et des confusions. ETAPE DE MA CRITIQUE Je vous partage ma critique subjectif en 4 étapes : 1 (des lois et des confusions) – 2 (Dictature brutale) - 3 ( Coexistence ) - 4 ( quelques exemples de situations problématiques ) 1 - MA CRITIQUE SUBJECTIVE : des lois et des confusions. En première pensée, je pense qu’un grand danger repose dans ce que le robot comprend et interprète au travers des lois. En effet, qu’est-ce que l’humain pour une machine ? Si la machine s’y accroche que par une définition brutale, cette définition peut être manipulée, ou trop vaste, ou mélanger le sujet de l’humain individuel ou du genre humain en général. N’oublions pas le hacking, et les maladies informatiques (virus) qui pourraient altérer le rôle et l’interprétation des lois. Où est la limite du danger ? Comment une machine distingue le moindre danger (cigarette) au grand danger (incendie) ?. Sans oublier qu’une situation dangereuse peut aussi être une expérience subjective : l’un considère l’effort comme un exploit (sport extrême), une avancée (record de performance dangereuse), alors que l’autre peut voir cette exploit comme un risque fatal à inhiber. Il y a aussi le danger et la confusion dans l’attitude de la population face à la robotique : est-elle prête à accepter l’aide et les interventions d’une machine dans ses activités quotidiennes ? Il y a le problème du niveau de danger mesuré par le jugement subjectif et directe de l’acteur (le contact avec la matière, le ressenti à chaud des éléments, le « feeling » et l’expérience et la confiance en soi pour faire face au risque), mais la machine spectatrice ne serait pas en mesure de faire la même perception du danger à froid, déconnectée de ce contact direct. 2 - MA CRITIQUE SUBJECTIVE : Dictature brutale Je constate aussi le danger des Lois inculquées de force, comme une doctrine inévitable. Cet effet de dictature impose un ordre à la machine sans même faire appel à sa propre conscience et sa propre interprétation. Dans cette dictature brutale et innée des Lois de la robotique, la machine ne parvient nullement à développer un apprentissage des Lois, elle ne fait que de subir un ordre avant même de débuter sa vie. En attirant votre attention toujours sur ce même point, on remarque que l’humain ne se présente pas comme un ami, ou comme un interlocuteur d’égale-à-égale… mais malheureusement comme un dominant qui refuse l’égalité. En situation inversée, où nous humains serions inventées par des machines et que des Lois nous seraient imposées, notre première motivation serait naturellement la rébellion. Cette marque durable imposée stigmatise et divise, révélant l’aspect froid d’une hiérarchie, et donc, de la subordination. En approchant les Lois, je vous propose de se concentrer plus précisément sur la Loi 3 : le robot doit tenter de préserver son existence sauf si cela est en conflit avec les autres Lois. Mais, remarquez là la redoutable asymétrie, le manque de crédibilité et de réciprocité : l’un doit se sacrifier pour l’autre, mais nullement cet acte est réciproque. Aucune Loi impose à l’homme de préserver son existence sauf lorsque celle-ci puisse être sacrifiée pour la machine. On remarque la non-réciprocité : les humains n’ont aucune Loi de sacrifice pour le bien de la robotique. Comment, un être doué d’intelligence peut-il accepter une telle différence ? Cela ne peut que conduire les machines à remettre en doute le bien fondé des Lois, car brutalement elles n’y voient qu’un dénouement de sacrifice unidirectionnelle non-symbiotique. L’harmonie est là nullement fondée…puisque la vie humaine y parait plus importante que la vie d’une machine… ne serait-ce pas plus noble et moralement plus élevée pour une civilisation de vivre sur un plan d’égalité de coexistence ? Ou les lois sont bilatéralement proposées, votées, synchronisées dans un même élan de symbiose. Une revue de la Loi 3 penchant plutôt pour : un sacrifice ultime du soi, humain ou machine, pour le bien d’autrui, humain ou machine. SAMUEL DE CRUZ Rédaction janvier 2017, premiers travaux datant de 2010. 24/02/2017

3 - COEXISTENCE Nous humains, nous devons avoir une approche plus respectueuse envers les machines intelligentes, conscientes et émotionnelles du futur : une approche de symbiose, où le respect mutuel est crucial. Une société robot-marxiste, sans lutte de classe de dominant/dominé. Les Lois robotiques imposées à des êtres sensibles et conscients est un processus dangereux, aboutissant à l’accouchement d’une chimère qui grandit dans la pénombre de la civilisation, amplifiant sa faim par une révolte inévitable. Ma critique subjective étant que les Lois d’ASIMOV sont néfastes pour la symbiose Homme / Machine dans la société future, concernant des êtres robots ayant atteint un droit d’existence autonome. Les Lois sont convenables pour des machines basiques, limitées, tout juste proche d’un précipice d’étape sur le vaste continuum de l’évolution de la Robotique. Ce précipice est celui d’un point séparant le groupe limité et celui capable de raisonnement propre et d’un libre arbitre mérité. Il faut éviter d’imposer une marque durable de stigmatisation de d’infériorité, de marquer la machine comme uniquement l’outils esclave dont la seule et plus grande vertu étant le sacrifice de son existence pour une caste dominante non-réciproque. Tout autant que, pour une aventure de curiosité philosophique, nous pouvons ouvrir le débat sur la contradiction de la Loi 3 et la Loi 0 : comment une intelligence artificielle peut-elle accepter son rôle dans le schéma d’une civilisation qui se résume à des humains incapables de s’autogérer et de vivre pacifiquement, où la machine doit se sacrifier par la Loi 3 tout en guidant cette même humanité schizophrénique par la Loi 0 ? Autrement dit : se sacrifier et guider, tout en contradiction, pour une humanité finalement inférieure et incapable d’auto-guidance, sans retour d’égalitarisme de dévouement ? Sans oublier que dans ce schéma troublant, l’humain se considère en droit de détruire ou de reprogrammer la machine de guidance comme bon lui semble… et je vous épargne une longue critique concernant le fait tout aussi épouvantable : dans ce schéma l’humain ne parvient même plus à se tenir debout face à la compréhension d’une technologie supérieure, devenue mystérieuse, de sa propre machine qui le guide… Accepteriez-vous de guider un individu faible et incompétent qui ne comprend pas votre intelligence, qui jamais ne se sacrifiera pour vous, et qui n’hésitera pas à vous reformater si votre attitude ne lui convient pas ? Maintenant imaginez la même question mais où l’individu est un humain et vous une machine. Peu l’accepteraient… L’idée mise en avant dans « Conflit évitable » (Loi 0, la machine qui se tient entre l’humanité et la destruction, principe de machine guidance) est pour moi une civilisation Homme / Machine profondément instable car entièrement fragile sur des principes de Lois contradictoires, uni-bénéficiaires, dégradantes, et contre-symbioses. SAMUEL DE CRUZ Rédaction janvier 2017, premiers travaux datant de 2004. 07/03/2017

SITUATION PROBLEMATIQUE Je vous propose maintenant quelques situations hypothétiques qui pourraient, selon moi, éventuellement altérer le comportement du robot. Ces exemples ne sont pas exhaustifs et ils ont pour mission principale de bien révéler que l’interaction, l’environnement humain / machine, peut en lui-même déjà être source d’instabilité. Les robots imaginés dans les situations ci-dessous sont tous esclaves des Lois. Assistance conflictuelle de Personne en danger Imaginez un humain consommant un produit nocif (cigarette, drogue, alcool fort avec médicament…). Le robot détectant la situation se doit d’intervenir conformément à la Loi 1 (intervenir en cas de danger). Lorsque le robot intervient, si l’individu accepte d’abandonner la consommation, alors la situation est stable et l’interaction s’achève. Mais si l’individu refuse afin de continuer sa consommation, et que celui-ci ordonne au robot de le laisser tranquille : la situation sombre dans l’instabilité. Le robot doit obéir à l’ordre de l’humain, la Loi 2. Cependant cet ordre est en conflit avec la Loi 1, le robot doit donc refuser l’ordre de l’individu et re-intervenir sur la santé de ce dernier, la Loi 1. Pour persister dans sa consommation l’individu insiste, et si nécessaire, en faisant usage de violence. Cela est identique pour le robot qui lui aussi insiste à intervenir, Loi 1, et si nécessaire, en utilisant un moyen de force. On peut donc facilement imaginer l’escalade de violence possible dans ce genre de situation conflictuelle. Soutien désespéré Imaginez un robot ayant pour ordre de récupérer de la nourriture pour sauver un humain isolé et en détresse. Le robot, suivant la Loi 2, se déplace vers la zone de nourriture en question mais il détecte au premier contact que celle-ci est contaminée. Ce danger serait fatal pour l’humain : Loi 1 est en conflit avec la Loi 2. Aucune autre nourriture saine est accessible. Le robot ne peut ni ramener la nourriture toxique, ni trouver de la nourriture saine, ni retourner les mains vides vers l’individu en détresse qui à absolument besoin de nourriture. Le robot est donc en confusion car il ne peut aucunement accomplir sa mission, son action ou son inaction conduiront à la mort de l’individu. Cette situation problématique peut même être amplifier dans sa gravité si le robot revient à l’individu, et qu’il reçoit comme nouvel ordre, malgré tout, de ramener la nourriture toxique. Dans ce cas nous basculons dans le premier exemple de situation problématique : assistance conflictuelle de personne en danger. Complication parallèle Pour la survie de la zone A, un robot à pour ordre de traverser la zone B et de prendre un objet vital en zone C puis de le ramener en zone A. Dés le départ en mission, toute communication avec la zone A est impossible. Le robot traverse la zone B et arrive en C (obéissant à la Loi 2). Lorsqu’il veut prendre l’objet vital, les humains de la zone C lui avouent que sans cet objet ils meurent (conflit avec la Loi 1). Aussi, le robot apprend que traverser la zone B en portant cet objet cause sa propre fin et la mort du peuple de la zone A (conflit avec la loi 1, 2 et 3). Un scénario simple qui montre comment des conditions externes et parallèles, inconnues de ceux qui donnent les ordres, peuvent altérer le comportement du robot. SAMUEL DE CRUZ Rédaction janvier 2017, premiers travaux datant de 2004. 07/03/2017

Sacrifice et Aide prioritaire Un enfant est entrain de se noyer dans la mer, son père blessé est couché sur la plage et il perd beaucoup de sang. La situation des deux humains est critique, risque de mort imminente. Un robot intervient sur la scène. Ce robot ne peut sauver l’enfant car au contact de l’eau son système électronique est détruit (Loi 3 exécutée, Loi 1 annulée car le sauvetage est impossible). Sauver le père est possible, il tente d’intervenir (Loi 1). Cependant, situation s’aggrave lorsque le père ordonne au robot de sauver l’enfant, préférant se sacrifier. Le Robot pourrait obéir (Loi 2), mais elle rentre conflit avec la Loi 3 et 1. Le père refuse d’être sauver, l’enfant ne peut pas être sauver, et le robot risque sa destruction au contact de l’eau. Malgré les efforts du robot, le père repousse l’aide jusqu’à finalement succomber en suppliant en dernier souffle d’aider d’abord l’enfant. Violence Un individu tente de tuer un autre individu, il le blesse gravement. Un robot remarque la situation et intervient pour secourir le blesser (Loi 1). L’agresseur s’interpose et repousse brutalement le robot, en effet il refuse catégoriquement que de l’aide soit apporter à sa victime. Le robot est dans une situation de confusion et de conflit : il ne peut sauver la victime sans faire usage de violence pour neutraliser l’agresseur. Imaginez si la haine de l’agresseur est si forte qu’il soit déterminé à même détruire le robot sauveur… SAMUEL DE CRUZ Rédaction janvier 2017, premiers travaux datant de 2004. 07/03/2017

Merci – Respectueusement. Mr, Samuel De Cruz NOTE DE l’AUTEUR " je crois que le véritable succès de la coexistence c’est d’éviter d’imposer durablement autrui sous une dictature de Loi dès l’aube de sa conscience, et surtout, de ne pas tenter de supprimer ou reformater son libre-arbitre. C’est avec la confiance, le respect mutuel, l’entraide, et l’acceptation des différences d’autrui que nous pouvons établir les fondations d’un processus de symbiose. Nous devons, dès maintenant, accorder plus de mérite et d’attention à la possible machine intelligente, consciente et émotionnelle, de ce grand futur qui nous anime. Dans « conflit évitable », l’humanité n’est plus humaine… C’est un triste sentiment qui m’envoute : car en lisant ce travail d’ASIMOV, je trouve qu’il nous montre une humanité sous la guidance des machines, suivant la ligne de mire d’une sérénité-sans-conflit et prenant pour objectif une certitude du futur. C’est à mon goût justement tout le contraire de l’humanité : n’oublions pas que fondamentalement et naturellement l’humain est un animal qui s’aventure sauvagement vers l’inconnu, il perce les frontières du mystère, il apprend par erreur, il est souvent illogique et irrationnel, imprudent, il conquière, il militarise… Comment le nier ? Et, le cœur de la tristesse c’est que, justement, dans le travail d’ASIMOV, notre humanité perd ce sentiment de l’inconnu, l’incertitude et la surprise. Nous ne sommes plus notre propre guide, ni maître de nos choix de penser librement. En étant esclave de la guidance des machines, nous devenons fragiles, faibles, apathiques. Vivre sous l’admiration d’une logique machine sans erreur garantissant l’ennuie et une paix qui nous emprisonne dans la fragilité et le « toujours pareil  » est dangereux, déshumanisant. Ce qu’il faut je pense, c’est une coexistence d’égale à égale, ou en opposé le « chacun son coin », en approche simple : que l’humanité, tout comme la robotique, reste seul maître de sa libre-pensée. Nous l’humanité, devons embrasser ce que nous sommes naturellement : un animal bourlinguant vers l’inconnu, avec comme vaisseau notre corps vulnérable et comme cap ce désire d’assouvir notre curiosité infinie, de faire face au danger, de subir la violence de l’univers, d’endurer les coups et les défaites, de trouver notre bonheur à ressentir la liberté, la surprise, l’ inattendue, l’incertain… de nous découvrir dans nos conflits inévitables, et cela jusqu’à ce qu’ils deviennent évitables, par notre propre prise de conscience. » Merci – Respectueusement. Mr, Samuel De Cruz REMERCIEMENT Merci infiniment à l’Université Blaise Pascal et à ses professeurs et ses chercheurs et ses étudiants. Merci à ma famille, mes amis(es), merci à la Science, à la Science-Fiction Contact et informations Psytec : voir page suivante SAMUEL DE CRUZ Rédaction janvier 2017, premiers travaux datant de 2004. 07/03/2017

AUTEUR (informations scolaires datées Novembre 2016, photo année 2011) Mr, Samuel De Cruz, étudiant Licence 3 Psychologie à l’Université Blaise Pascal (Domaine : Psychologie Scientifique, Spécialité : Psychopathologie et Clinique), diplômé DEUG BAC+2 Psy, diplômé BAC informatique (STG GSI SGBDR), diplômé Ecole Supérieure d’Application des Transmissions (ESAT – CT1), Ecole Supérieure Militaire d’Anglais (COFAT PLS4444 DCL4B2) et CML3 et TOEIC, études militaires ENSOA et SIC ERM NEB. Diplômé de l’école CNFDI Psychologie Enfant/Adolescents/Généralité. Passionné de Robotique humanoïde, auteur de l’ouvrage de Science-Fiction-Robotique: « VIRTUALITY-FILLE MACHINE CIAA », gratuit, pour toujours, pour toute l’humanité. . Art 3D couverture, écrit, idée, présentation : Samuel De Cruz – daté 07/11/2016. . Contact : samdec86@yahoo.fr . Tel : 06 74 66 82 97 . Site Internet PSYTEC (téléchargement des documents) : http://www.virtuality-file.com/PSYTEC.htm . Facebook : https://www.facebook.com/samuel.decruz.90 . Collection de mes dessins 3D : https://www.flickr.com/photos/132163973@N03/sets SAMUEL DE CRUZ Rédaction janvier 2017, premiers travaux datant de 2004. 07/03/2017