ven, 01/05/2009 - 10:33 par Miroslav

Type:

Dossier

Sujet:

Normes sociales et robots...

Présentation

Les normes sociales sont-elles implémentables aux agents autonomes non humains ? Voici un essai que vous pouvez commenter sans hésiter! Si vous utiliser des extraits de cet article, veillez à citer l'auteur.

L'intégralité de ce dossier a été sanctionné de la note maximale A dans le cadre de l'UV SC01, Université de Technologie de Compiègne

Plan

Article

Avant de commencer....

Les normes sociales sont-elles implémentables à des agents autonomes non humains? Une réflexion poussée sur les conditions de l'acceptation sociale et des normes, notamment comportementales et psychologiques.

Article

Introduction

Introduction au dossier 'Les normes sociales sont-elles implémentables aux agents autonomes non humains'.

Article

I/ Qu'est-ce qu'une norme?

Qu'est-ce qu'une norme? Définition de la norme selon les domaines: psychologie, juridique, sociale, etc...

Article

II/ Interactions chez les agents autonomes

Interactions chez les agents autonomes; études dans les cas d'interactions simples et complexes, normes et comportement. Etude des conditions de l'anthropomorphisme.

Article

III/ Normes et agents

Normes et agents: des contraintes de programmation aux contraintes comportementales: cognition, psychologie, apprentissage, émotions.

Article

Conclusion

Conclusion au dossier 'Les normes sociales sont-elles implémentables aux agents autonomes non humains'.

retour sommaire

Vous avez aimé ? Offrez-nous le café !

Pas tout compris? Laissez un commentaire ou contactez-nous !

Signaler un bug ou une erreur

Si vous apercevez un bug ou souhaitez voir une addition sur la page courante, n'hésitez pas à nous envoyer un message.
Si vous souhaitez une réponse, merci d'indiquer également votre adresse mail.

Envoyer

Commentaires

dominique59

ven, 01/10/2010

19:46

Re: Normes sociales et robots...

Article intéressant, utile, abordant des thèmes très complexes que vous rendez en fait très clair
Une remarque : quand vous évoquez les normes suprêmes auxquelles vous soumettez les robots (ne pas nuire à l'humanité par exemple) vous comparez un robot non soumis à une telle norme à un homme à trois bras. Mais il me semble que cette norme doit être supérieure à la norme de santé (2 bras), parce que la personne en situation de handicap peut continuer à participer à la vie sociale alors que le robot ne le devrait pas.
Votre démonstration autour des ISO-politesse qui montrent que les normes implémentables ne sont que des normes techniques est réjouissante : mais inversement l'"implémentation"de normes de qualité dans nos institutions est-elle implémentation de normes techniques que l'acteur ne peut ni transgresser, ni transformer ou restent-elles des normes sociales évolutibles ?
Par contre je n'ai pas bien compris le passage sur le dilemme du wagonnet : le robot doit-il apprendre à pouvoir précipiter le passant qui en se faisant écraser arrêtera le wagon, o doit-il partager l'affect qui l'en empêcherait ?
Merci de votre réponse

dominique59

répondre

Miroslav

ven, 01/10/2010

21:03

Re: Normes sociales et robots...

Dominique59,

J'avoue avoir écrit ce texte il y a longtemps et ne plus très bien me rappeler de toutes les implications de mes pensées d'alors. Voici toutefois quelques précisions sur ce qui est écrit:

- Je compare le robot non soumis aux lois de la robotique d'Asimov a un danger pour l'humanité. Je propose donc que ces lois-ci soient considérées comme des vérités intrinsèques à l'espèce, des lois que l'on pourrait qualifier de "naturelles". D'où ma comparaison: la norme biologique ou naturelle pour un humain est d'avoir deux bras. Cette norme n'est pas remise en question puisque nous ne pouvons pas et -qu'il est inutile- d'aller outre ces normes (sans rentrer dans le débat de la génétique avancée). Je proposais alors qu'un robot ne suivant pas ces lois de la robotique ne soit pas considéré comme un robot de même qu'un homme à trois bras n'est pas un homme. En l'occurence ma comparaison n'est effectivement pas très heureuse puisque même avec trois bras un homme reste un homme. Peut-être aurais-je dû alors dire "de même qu'un chat de 3 tonnes et une trompe n'est plus un chat mais un éléphant". Disons alors que ces 3 lois de la robotique soient alors des normes psychatriques: de même qu'un humain "tueur psychopathe" doit être interné du fait de sa dangereusité pour la société, un robot ne suivant pas les trois lois de la robotique doit l'être également de par sa dangeureusité comme démontrer par Asimov dans ses écrits.

- Pour votre seconde question, je ne me rappelle pas avoir évoqué les "normes de qualités dans nos institutions" et j'avoue ne pas comprendre ce à quoi vous allusion. Cette question toutefois fait référence il me semble à la fin du paragraphe "Des contraintes de programmation" en partie II. Précédement, j'avais montré l'importance de l'implémentation des normes sociales à d'éventuels robots. En effet, je montrais que leur intégration dans la société ne pourrait être fait qu'au prix d'un pointilleux respect de ces règles des robots à notre égard. Seulement l'implémentation de ces normes sociales pour un robot revient à leur transformation en normes techniques (d'où l'ISO-politesse) ce qui du coup trahit leur nécessité première: être des normes sociales. Le fait que le robot se comporte exactement parfaitement vis-à-vis de la politesse sachant que celle-ci est programmée va à l'encontre de son intégration puisqu'elle n'est plus le gage d'une adaptation volontaire du robot à notre univers. En ce sens, je suppose que ma réponse à votre question est donc: elle devrait rester une réponse sociale évolutive mais est malheureusement par nature contrainte à l'implémentation sous forme de normes techniques d'où le dilemne expliqué.

- Pour votre troisième question, voici justement tout le dilemne! Une IA forte ne doit pas être différentiable d'un être humain. Elle doit donc pouvoir répondre de manière similaire à un être humain. L'acceptation sociale du robot passe par ceci. Pour appuyer cette idée, je cite l'expérience conduite avec le dilemne du prisonnier entre des joueurs humains et non humains et la réponse du cerveau de l'humain observée à l'IRM. Cette expérience prouve que le cerveau peut répondre identiquement à une machine et à un humain pourvu que celle-ci puisse être anthropomorphisée affectivement. Comme je l'explique dans le texte, je pense que le robot doit pouvoir aller outre la rationnalité du dilemne du wagonnet et ne pas pousser l'homme sur le pont. Bien-sûr cinq personnes mourraient au lieu d'une, mais au moins a-t-il agit comme un hummain l'aurait fait et n'est donc pas reprochable. Celà dit, je conçois que cette thèse est personnelle et comme dit dans le texte, je n'ai pas trouvé de situation ou d'étude pour l'appuyer.

J'espère avoir répondu selon vos attentes à ces questions toutefois pas simples.

To the engineer, the world is a toy box full of suboptimized and feature-poor toys. (Adams Scott)
www.axiomcafe.fr

répondre

Miroslav

ven, 01/10/2010

21:12

Re: Normes sociales et robots...

Je me permet un petit ajout:

Les trois lois de la robotique ne sont elles-même pas à prendre pour acquises et il faut précédément les considérer en tant que le message qu'elles veulent faire passer et non leur teneur réelle. En effet, le message et l'idée est bonne et encourageable mais les lois elles-mêmes (comme toutes lois) peuvent être sujettes à interprétation et conduire à des applications négatives sur le long terme tout en les respectant. Isaac Asimov et d'autres ont passés leurs vies à réfléchir sur ses lois, à les améliorer et à chercher des moyens de les contourner.

Pour quelques lectures supplémentaires à ce sujet :

https://fr.wikipedia.org/wiki/Trois_lois_de_la_robotique

https://fr.wikipedia.org/wiki/Intelligence_artificielle

To the engineer, the world is a toy box full of suboptimized and feature-poor toys. (Adams Scott)
www.axiomcafe.fr

répondre

dominique59

sam, 02/10/2010

08:48

Re: Normes sociales et robots...

Merci d'avoir pris le temps de me répondre, je n'avais aucune idée de la date à laquelle vous aviez écrit cet article. Vos réponses sont éclairantes : vous n'aviez effectivement pas fait référence à l'implémentation de normes qualité, mais en lisant votre texte j'avais essayé de faire un rapprochement, puisque bien souvent les démarches qualités sont perçues comme "top down" et ne laissant aucune marge de manœuvre et d'adaptation aux acteurs de terrain. En ce sens là le risque de devenir des normes techniques me paraissait important.
Sur ce sujet : l'émergence des normes dans le domaine de l'IA et des SMA auriez vous des conseils de lecture ? Je suis enseignant chercheur dans un centre d'éthique médicale et intéressé par votre point de vue sur la manière de concevoir l'émergence des normes.
merci par avance
DB

dominique59

répondre

Miroslav

sam, 02/10/2010

21:38

Re: Normes sociales et robots...

Bonjour,

Malheureusement, je ne saurais vous conseiller beaucoup plus que les différentes références présentées au long des parties de ce texte. Voici toutefois quelques idées supplémentaires :

- Anthropomorphism and The Social Robot, B. Duffy

- Theory of Mind (ToM) on Robots, Hegel et al.

sont toutes deux des travaux sur l'anthropomorphisation des robots, dans les conditions, la mise en place ou la caractérisation.

- Des systèmes autonomes aux systèmes multi-agents, J.P. Muller: traite à la résolution des problèmes liés aux systèmes multi-agents, notamment dans la normalisation et le partage de leur représentation du monde.

- Des moutons et des hommes, Pierre Arnaud: traite des mécanismes de collaboration dans des SMA, ici en l'occurence de la résolution de tâches par un collectif de robots.

Tout ceci toutefois s'intéresse à des normes techniques et non à l'émergence spontanée de normes. Le travail de K. Warwick sur le couplage vivant-machine peut sembler alors une perspective à creuser. Relativement récemment, son équipe à réussit à coupler des neurones de rats à des effecteurs mécaniques. Le robot résultant ayant été capable de "s'auto-programmer" pour éviter des obstacles dans un espace.

- http://news.bbc.co.uk/2/hi/technology/7559150.stm

- http://www.reading.ac.uk/news-and-events/releases/PR16530.aspx

Enfin, dans un domaine plus léger: le roman "Do Androids Dream of Electric Sheep" de P.K.Dick offre toutefois d'interessant angles à aborder (du moins il me semble).

Cela dit, mon avis reste celui d'un jeune étudiant et je ne puis que vous inviter à re-vérifier chacun de mes propos !

To the engineer, the world is a toy box full of suboptimized and feature-poor toys. (Adams Scott)
www.axiomcafe.fr

répondre

dominique59

dim, 03/10/2010

08:24

Re: Normes sociales et robots...

Bonjour,

Vos renseignements sont précieux... je continuerai à suivre votre site, découvert par hasard, mais très intéressant!
Tous mes vœux pour votre carrière !
Très cordialement

dominique59

répondre

Miroslav

dim, 03/10/2010

09:06

Re: Normes sociales et robots...

Merci beaucoup!

Au plaisir de vous revoir sur ce site.

N'hésitez pas à noter les articles grâce aux petites étoiles de la barre d'outils de droite. En théorie cette notation permettra aux visiteurs d'avoir une meilleure appréciation du crédit à porter aux articles et ainsi à mieux se diriger dans leur recherche.

To the engineer, the world is a toy box full of suboptimized and feature-poor toys. (Adams Scott)
www.axiomcafe.fr