Nous sommes le Jeu 14 Déc 2017 05:25


Voiture autonome et autres problèmes d'éthique du choix

l'Humanité, L'Existence, la Métaphysique, la Guerre, la Religion, le Bien, le Mal, la Morale, le Monde, l'Etre, le Non-Etre... Pourquoi, Comment, Qui, Que, Quoi, Dont, Où...?

Modérateur: W4x

Dans le problème du tunnel décrit dans le premier post, que dois faire la voiture ?

Faire une embardée et tuer son passager
22
71%
Continuer tout droit et tuer le piéton
9
29%
 
Nombre total de votes : 31, Nombre total de votants : 31

Voiture autonome et autres problèmes d'éthique du choix

Messagepar Korydween » Mar 24 Juin 2014 12:23

On parle de plus en plus de robotique autonome, et tout particulièrement de voitures autonomes. Bien qu'étant des prouesse technologiques, cette autonomie pose de grands problèmes éthiques auxquels il faut réfléchir avant de songer à une quelconque démocratisation. L'un de ces problème est celui du choix : comment décider des choix qu'un élément autonome doit faire ? Je vous propose de réfléchir à cette question du choix avec un sondage sur un scénario écrit par Jason Millar, enseignant de robotique éthique à l'Université d'Ottawa.

Le problème du tunnel
Vous êtes le passager d'une voiture autonome qui voyage sur une route de montagne à une seule voie. La voiture s'apprête à entrer dans un tunnel, et à ce moment précis un enfant surgit sur la route, bloquant l'entrée du tunnel. Les deux seuls choix possibles pour la voiture sont les suivants : continuer tout droit et tuer l'enfant ou faire une embardée, percuter le mur du tunnel et tuer son passager.

Je vous propose de répondre déjà à ce sondage avant de lire la suite du message (et peut-être de manière générale les autres réponses) pour ne pas influencer votre choix avec les questions et argumentations qui suivent.

Maintenant que vous avez répondu (j'espère :P), remplacez dans le scénario le mot "enfant" par "vieille femme de 96 ans" ou par "piéton". Est-ce que vous pensez que cela modifierait votre choix ? Du coup, en supposant que l'on incorpore ce problème à une voiture, est-ce que la décision prise doit être dépendante des caractéristiques des personnes dans et en dehors du véhicule ? Et si maintenant il y a 4 personnes dans la voiture et un enfant sur la route ?

L'autre question qui surgit de cette première considération est celui de la responsabilité de la décision: qui doit décider de ce que la voiture doit faire ? Le passager ? Le constructeur ? La loi ?

Ces questions sont soulevées dans beaucoup de débats éthiques actuellement. Des projets voient le jour sur ces questions (par exemple le projet Ethicaa https://ethicaa.greyc.fr/ ). Pour ceux qui seraient intéressés, la série des cours Justice de l'université de Harvard (en anglais. Les sous-titres français sont pas terribles mais peuvent aider à comprendre) démarre sur un problème similaire et est absolument passionnante : https://www.youtube.com/watch?v=kBdfcR-8hEY

Pour ceux qui souhaiteraient voir les réponses d'autres internautes à un sondage similaire et plus complet, le site robohub (en anglais aussi) y consacre un article : http://robohub.org/if-a-death-by-an-aut ... eader-poll

Alors ? Quel est votre choix et pourquoi ?
Never tell a young person that anything cannot be done. God may have been waiting centuries for someone ignorant enough of the impossible to do that very thing.
- John Andrew Holmes -
Avatar de l’utilisateur
Korydween
 
Messages: 799
Images: 14
Âge: 28
Enregistré le: Sam 24 Aoû 2013 09:03
Localisation: À mi-chemin de l'horizon
Présentation: Par ici
Profil: Diagnostic +
Test: WAIS

Re: Voiture autonome et autres problèmes d'éthique du choix

Messagepar Korydween » Mar 24 Juin 2014 12:37

Puisque c'est celui qui propose qui doit s'y coller en premier, voici mes réflexions à ce sujet. Et je doit avouer que je suis totalement incapable de choisir. Je pense que l'aspect "enfant" joue sur les émotions bien plus que "piéton lambda", gonflant peut-être la proportion de personnes qui auraient tendance à être altruistes et à se sacrifier. Le seul cas où j'arrive à me décider sans vouloir changer d'avis au bout de 2 secondes est celui où le nombre de personnes impliquées n'est pas 1-1 mais X-Y. Dans ce cas je choisis la solution qui épargne le plus de vies.
Une personne sur le site de robohub donnait dans les commentaires des arguments en faveur de la mort du piéton. En effet, il explique que la personne dans la voiture ne peut pas « s'échapper », il n'a aucun pouvoir et ne peut rien faire tandis que le piéton a plus de flexibilité. De même, il envisage les dérives possibles si les voitures protègent les piétons (piétons moins attentifs et causant des accidents, faciliter pour commettre un meurtre...)

Quand à savoir qui doit décider, je pense que ça doit être un cadre légal, n'impliquant pas le passager de la voiture de manière à être le plus "objectif" possible.
Never tell a young person that anything cannot be done. God may have been waiting centuries for someone ignorant enough of the impossible to do that very thing.
- John Andrew Holmes -
Avatar de l’utilisateur
Korydween
 
Messages: 799
Images: 14
Âge: 28
Enregistré le: Sam 24 Aoû 2013 09:03
Localisation: À mi-chemin de l'horizon
Présentation: Par ici
Profil: Diagnostic +
Test: WAIS

Re: Voiture autonome et autres problèmes d'éthique du choix

Messagepar Maithril » Mar 24 Juin 2014 13:13

Le problème du tunnel me rappelle étrangement la première loi des robots d'Asimov...

Pour ma part, j'ai choisi d'épargner le piéton.
La principale raison est la suivante : le passager est dans la voiture. Il a une ceinture de sécurité, un habitacle, des air bags, qui objectivement lui laissent plus de chance de survie qu'un piéton.

Plus précisément, si je comprends bien le problème d'éthique sous-jacent, le problème ne me semble pas posé correctement. En effet, une voiture autonome ne peut savoir avec certitude les conséquences de ses décisions. A mon sens, elle ne peut qu'évaluer des probabilités, et donc faire un choix en fonction de cela. Et là, j'ai du mal sur ce problème donné à imaginer que les probabilités puissent être identiques (ou suffisamment proches). Si la voiture va aussi vite qu'elle ne peut ralentir ou s'arrêter pour éviter le piéton, peut-elle réellement se déporter pour l'éviter?

Imaginons quand même qu'une voiture autonome arrive à calculer des probabilités équivalentes entre deux possibilités, chacune entrainant le décès d'un humain. Pour moi, le choix, aussi horrible soit-il, ne peut se faire qu'au hasard.
Avatar de l’utilisateur
Maithril
 
Messages: 522
Âge: 44
Enregistré le: Jeu 15 Mai 2014 21:05
Localisation: Dans la forêt, à l'Est de Lutèce
Présentation: Ca, c'est vraiment moi
Profil: Diagnostic +
Test: WAIS

Re: Voiture autonome et autres problèmes d'éthique du choix

Messagepar Miss dans la lune » Mar 24 Juin 2014 13:32

En condition réelle soit tu percutes le piéton avec quasi 100% de risque de le tuer, + une probabilité non-négligeable de tuer aussi le passager à cause du choc, soit tu évites le piéton -donc 100% de chance de survie-, et une probabilité forte mais non certaine de tuer le passager.

Mais surtout la problématique réside dans l'intention et le déroulement de l'action.
Soit 1) l'action est: tu TUES de façon certaine (le piéton)--> et la conséquence : tu évites la mort du passager.
Soit 2) l'action est: tu évites le piéton--> et la conséquence : la mort du passager.

Il me semble quand même qu'il vaut mieux sauver pour peut-être tuer, que tuer pour peut-être sauver.
Avatar de l’utilisateur
Miss dans la lune
Mud Drifting
 
Messages: 727
Images: 27
Enregistré le: Ven 3 Mai 2013 12:18
Profil: Diagnostic +
Test: WAIS

Re: Voiture autonome et autres problèmes d'éthique du choix

Messagepar Mlle Rose » Mar 24 Juin 2014 13:41

Tout à fait dac avec mdll. Ton passager tu peux le prévenir, et il peut se jeter sur toi pour être moins touché en plus. Et il est dans un habitacle, avec des airbags et tout. Le piéton contre la voiture est nu, il n'a aucune chance d'en réchapper.
Ils ne sont grands que parce que nous sommes à genoux. E. de la Boétie
NB : Je ne réponds pas aux questions perso en mp, je manque cruellement de temps pour ça et déteste répondre aux gens à l'arrache. Donc... merci d'éviter :f:
Avatar de l’utilisateur
Mlle Rose
 
Messages: 12696
Images: 86
Âge: 38
Enregistré le: Mar 1 Fév 2011 13:56
Présentation: ici
Profil: Diagnostic +
Test: WAIS

Re: Voiture autonome et autres problèmes d'éthique du choix

Messagepar Sphax » Mar 24 Juin 2014 15:15

Ouais d'accord avec vous... Sauf que du coup on sort du cadre du problème, on modifie l'énoncé pour ne pas avoir à faire le choix. Kory l'a marqué en gras ("Les deux seuls choix possibles") ce qui signifie que pour une raison ou une autre (vitesse du véhicule, forme du mur du tunnel, modèle du véhicule donc systèmes de sécurité embarqués) si on sauve le piéton le passager va mourir à 100%.

Il est possible que ce ne soit qu'un cas théorique qui ne s'appliquerait pas dans la réalité, mais il reste pourtant parfaitement valable parce que le principe reste que le véhicule calcule des chances d'en réchapper pour le piéton et le passager et si il est peu probable que dans la réalité on arrive sur 0% pour les 2, le cas où la probabilité sera la même va arriver.

Puisque l'on est dans un cas où quoi qu'il arrive une personne va mourir et qu'il est pour moi impossible de donner plus de poids à une vie qu'à une autre (sauf effectivement pour une personne très âgée étant plus ou moins arrivé à la fin de sa vie), j'ai sorti les 2 principaux protagonistes de l'équation et regardé les dommages collatéraux. Du coup j'ai choisi de tuer le piéton parce que :
- avec les systèmes de sécurité dans la voiture, le passager devrait avoir 100% de chances de s'en sortir indemne s'il percute un piéton, par contre une voiture qui percute violemment un mur ca fait un max de débris qui peuvent voler y compris dans la direction du piéton, qui pourrait bien être sauvé de la collision mais pas des dégâts collatéraux du choc voiture-mur.
- sur la route en question il y a peut-être d'autres voitures derrière, voitures qui devraient être capable de se mettre à freiner en même temps que la voiture principale et donc éviter la voiture qui percute le piéton. Si la voiture principale rentre dans le mur du tunnel, elle risque de rebondir ou autre et créer un accident en chaîne avec les voitures qui suivent.
- même si c'est un peu froid comme raisonnement, c'est le piéton qui s'est jeté sur la route, c'est lui qui a pris la décision menant à cette situation. Le passager lui n'y est pour rien du tout. Donc je trouve plus normal de faire payer celui qui a fait l'erreur.
- si on parle de voiture autonome, il faut prendre en compte les chances d'erreur aussi. Pas obligatoirement niveau calculs mais niveau identification. Autant un mur ca s'identifie plutôt bien, autant j'imagine plus possible la chance de confonde un enfant avec un animal...

Mais après la question est d'autant plus complexe qu'on parle aussi là d'une voiture qui est un objet commercialisé... Et si certaines voitures sont programmées pour tuer plutôt le conducteur et d'autres plutôt le piéton, les 2 modèles auront-ils le même succès commercial?
Homo Sapiens, merveille de l'univers, dans l'Odyssée je suis juste le meilleur ami du chien.
Aston Villa
Avatar de l’utilisateur
Sphax
gratiné !
 
Messages: 860
Images: 2
Âge: 33
Enregistré le: Lun 18 Nov 2013 01:44
Localisation: Grenoble
Badges: 1
Ex Jardinier (1)
Présentation: ici
Profil: Diagnostic +
Test: WAIS

Re: Voiture autonome et autres problèmes d'éthique du choix

Messagepar *Za* » Mar 24 Juin 2014 16:04

Je n'ai pas eu le temps de répondre tout à l'heure, mais j'ai également coché la deuxième solution (non sans honte !!), et mon raisonnement a été assez proche du tien, Sphax.
On est bien d'accord que cette question est un véritable problème, donc qu'il n'y a pas réellement de "bon" choix. Clairement, il faudrait le choix "magnifique arrêt d'urgence" - d'ailleurs, n'est-ce pas un peu ce qu'on espère de tels véhicules ? Mais là, y a pas.

Bref, dans l'optique d'un véhicule qui serait commercialisé, la première option ne me semble pas envisageable (disons, encore moins que la seconde).

Entendons nous bien, j'ai déjà sauté de mon vélo pour sauver in extremis un hérisson des roues d'un camion, et je ne prends jamais la quatre voies sans angoisser à l'idée que c'est peut-être aujourd'hui qu'un de ces pauvres chiens pourris va se jeter sous mes roues, alors l'idée de renverser une personne, ne m'en parlez même pas.
Mais comment proposer au public un véhicule qui en présence d'un obstacle (vivant ou pas) sur la route, va faire automatiquement une embardée, que la route soit bordée d'un mur, d'un trottoir (qui peut être occupé !) ou d'un précipice ?... Quels que soient ses occupants ?... Euh, bon en fait, merci, je garde la 206 !!!
Dans cet exemple, on est largement influencés par les données humaines (un enfant - un seul passager...). Mais si on réfléchit à toutes les variantes de la situation, on change de point de vue, je crois.

Je suis aussi d'accord avec toi, Korydween, par rapport au comportement des piétons. Si on voyait l'avènement des voitures autonomes, les piétons changeraient forcément leurs habitudes en fonction du fait que ce ne serait plus des humains mais des machines aux commandes (ceci dit, je ne dis pas que c'est une bonne chose !).
En fait, il y aurait forcément un problème au niveau de la priorité à donner aux piétons... c'est une loi absolue dans notre monde d'humains imparfaits. Mais si les véhicules étaient infaillibles sur ce point, comment gérer les dérives inévitables (qui pourraient causer des accidents) de la part des piétons ?... Faudrait-il revenir sur cette sacro-sainte priorité ?

Hors Sujet :
Dès qu'on touche à l'intelligence artificielle, on dirait qu'on se retrouve toujours avec des problèmes épineux sur la place des humains. Parce que priorité suprême, mais tellement faillibles... honnêtement, le jour où les robots développeront une réelle intelligence, je ne leur donne pas longtemps avant d'envoyer valser les lois d'Asimov et nous reléguer au rang d'encombrants !!


Une telle révolution comporte forcément ses versants glauques...
Beuh... je déprime...
J'ai mis mon képi dans la cage
et je suis sorti avec l'oiseau sur la tête... J. Prévert
Avatar de l’utilisateur
*Za*
 
Messages: 2731
Images: 22
Enregistré le: Lun 15 Avr 2013 12:25
Présentation: c'était moi...
Profil: Diagnostic +
Test: WISC

Re: Voiture autonome et autres problèmes d'éthique du choix

Messagepar sanders » Mar 24 Juin 2014 17:37

Hors Sujet :
J'en veux pas de ces p----ns de voiture autonomes ...


J'ai choisi la première solution et le passager étant moi je pense que c'était plus simple que de m'imaginer un instant vivre avec l'autre choix.
Soit on s'en sort et on invente nous-mêmes un destin, soit on continue dans la spirale du déclin.Thanh Nghiem

Je n'aurais jamais cru que ça se débloquerait tout d'un coup comme ça ! - Avr 2017, Napirisha (avec son autorisation)
Avatar de l’utilisateur
sanders
 
Messages: 2426
Images: 1
Âge: 48
Enregistré le: Jeu 4 Oct 2012 08:04
Localisation: Syndrome Lisa Simpson
Badges: 1
Ex Jardinier (1)
Présentation: ... bon ben ... bon bain ...
Profil: Diagnostic +
Test: WAIS

Re: Voiture autonome et autres problèmes d'éthique du choix

Messagepar romu » Mer 25 Juin 2014 11:31

Moi, je préfère mourir que tuer une personne quel que soit son âge... Maintenant, avec des passagers la chose se complique grandement, il est évident que je bilan humain serait moins lourd en tuant le piéton, mais tout de même...
Je pense que ce souci soulève pas mal de questionnement au sujet de ces voitures. Maintenant, je pense aussi, (là c'est le malvoyant qui parle) que ces voitures sont une grandes avancée pour ceux que ne peuvent pas passer le permis de conduire. De plus, grâce à ce type de voitures, ne verrions nous pas le nombre d'accidents diminuer, car bien entendu, ces voitures respectant les règles de conduite, on peut imaginer que le nombre d'accidents liés au facteur humain diminuerait fortement. :).
Je ne suis pas certain de ce que j'avance, c'est juste une hypothèse, mais il faut avouer que de nombreux accidents sont liés aux conducteurs ne respectant pas le code de la route, on peut aussi supposer qu'en cas de conditions climatiques non propices à une conduite optimale, la voiture adapte son comportement à ces conditions, (ralentissement en cas de chaussée glissante...)...
Exilé sur le sol au milieu des huées,
Ses ailes de géant l'empêchent de marcher.

Charles Baudelaire (l'Albatros.).
Avatar de l’utilisateur
romu
Le Rouquin du Chat
 
Messages: 832
Âge: 20
Enregistré le: Lun 28 Avr 2014 12:53
Présentation: ma_presentation
Profil: Diagnostic +
Test: WISC

Re: Voiture autonome et autres problèmes d'éthique du choix

Messagepar Dunkleosteus » Mer 25 Juin 2014 13:53

on peut considérer que celui qui introduit un risque a en retour la responsabilité d'en assumer les conséquences, surtout s'il en tire les bénéfices.
Avatar de l’utilisateur
Dunkleosteus
 
Messages: 63
Enregistré le: Sam 11 Jan 2014 19:50
Profil: En questionnement
Test: NON

Re: Voiture autonome et autres problèmes d'éthique du choix

Messagepar Korydween » Mer 25 Juin 2014 15:01

Effectivement, comme le dit Sphax, ce problème est un problème très théorique. Dans la réalité, les probabilités sont ne seront jamais de 100%, mais on peut avoir des probas du type 98,2% de chances de le piéton meure et 97,9% que le passager meure. Dans ce cas, le problème se pose quand même car la différence n'est pas assez flagrante. Mais même sans cela, ce problème a le mérite de poser des questions sur ce qui fait la valeur d'une vie, est-elle différente selon les personnes ou circonstances, peut-on la quantifier, qui peut prendre une décision dès lors qu'une ou plusieurs vies sont en jeu...

D'ailleurs, cette histoire de probabilité de survie me fait penser au film A.I. où dedans (attention spoiler) il me semble que le héros hait les robots car un robot a choisi de le sauver au lieu de sauver une petite fille, estimant qu'il avait plus de chance de survivre qu'elle. Au final, on n'est pas loin de ce genre de cas...
On peut alors se poser la question des facteurs que la voiture doit prendre en compte pour prendre sa décision : les issues possibles, le nombre de personnes impliquées , la robustesse des individus pris dans l'accident et leur chance de survie, j'aime bien aussi l'idée de Sphax sur les éclats et autres dégâts collatéraux induit par l'accident...

Après je remarque que certains, vous évoquez la culpabilité d'avoir tué quelqu'un si le choix est le second. Or, dans le cas d'une voiture autonome, vous n'êtes responsable de rien. Et c'est bien là l'autre différence majeure avec des problèmes similaires tels que celui de l'homme obèse (http://fr.wikipedia.org/wiki/Dilemme_du ... ob.C3.A8se)
Dans le cas de l'homme obèse, celui a qui on pose le dilemme doit intervenir pour pousser ou non l'homme. C'est donc lui qui prend la responsabilité d'assassiner cet homme pour en sauver cinq autres. Dans le cas de la voiture autonome, les personnes au cœur du dilemme n'ont pas de responsabilité à prendre : la voiture a été programmée comme cela.
Ça pose donc une autre question éthique qui est celle de la responsabilité, qui n'est légèrement HS par rapport au dilemme du choix, mais qui intervient également à mon avis dans le choix que l'on fait.

Pour répondre à sanders et romu, je pense également que ces voitures seraient un immense gain de liberté pour les personnes qui sont dans l'incapacité de conduire et qu'elles réduiraient le nombre d'accidents. Néanmoins, je suis mitigée quand à la démocratisation de ces véhicules. Tout d'abord cela plongerait l'Homme un peu plus dans un état "végétatif", de type "je me laisse servir par un robot, je ne prends aucune responsabilité"... Mais, comme déjà dit, le taux d'erreur sera (je l'affirme car j'en suis convaincue) bien inférieur à celui d'un humain. Quoi qu'on en dise, si un ordinateur sait faire un tâche, il la fera toujours mieux et plus vite qu'un humain. La plus grosse difficulté étant le "si il sait le faire", et ça c'est loin d'être gagné.

@Dunkleosteus : j'avoue ne pas très bien comprendre ta réponse...
Never tell a young person that anything cannot be done. God may have been waiting centuries for someone ignorant enough of the impossible to do that very thing.
- John Andrew Holmes -
Avatar de l’utilisateur
Korydween
 
Messages: 799
Images: 14
Âge: 28
Enregistré le: Sam 24 Aoû 2013 09:03
Localisation: À mi-chemin de l'horizon
Présentation: Par ici
Profil: Diagnostic +
Test: WAIS

Re: Voiture autonome et autres problèmes d'éthique du choix

Messagepar Dunkleosteus » Mer 25 Juin 2014 15:48

Ce que je veux dire c'est que la voiture est un risque mortel introduit par le choix de l'automobiliste: celui de privilégier de son confort personnel à la sécurité d'autrui. Il a tout à fait le droit et le risque zéro n'existe pas mais en contrepartie d'un point de vue éthique il ne me semble pas excessif qu'une responsabilité accru pèse sur ses épaules par rapport a ceux qui n'ont introduit aucun risque (en l’occurrence le piéton). Il arrive tous les jours que 2 personnes se cognent sans qu'aucune ne meurt car elles sont toutes les 2 piétons. La faute du piéton n'a pas pour conséquence normal sa mort. C'est la vitesse et la masse de la voiture qui le tue. Donc ça m'ennuie beaucoup de tuer le passager mais ça m’embêterai encore plus de tuer le piéton...sauf s'il est là ou il n'aurait jamais du être.

edit: j'avais lu les données du problème en diagonale, mais après un examen plus attentif je crois bien que je n'ai pas d'idée :nesaitpas:
Avatar de l’utilisateur
Dunkleosteus
 
Messages: 63
Enregistré le: Sam 11 Jan 2014 19:50
Profil: En questionnement
Test: NON

Re: Voiture autonome et autres problèmes d'éthique du choix

Messagepar Kan » Mer 25 Juin 2014 17:08

J'ai voté "Continuer tout droit et tuer le piéton" :devil: mais non, je ne suis pas un méchant :P

Si les voitures deviennent autonomes, peut-être que l'on en arriverait à considérer les routes à grande circulation comme des chemins de fer.
Avatar de l’utilisateur
Kan
 
Messages: 703
Âge: 41
Enregistré le: Mar 10 Juil 2012 10:39
Présentation: :noitatnesérP
Profil: Diagnostic +
Test: WAIS

Re: Voiture autonome et autres problèmes d'éthique du choix

Messagepar TourneLune » Mer 25 Juin 2014 18:16

Mon premier réflexe a été de dire que si on veut qu'elle se vende, il faut qu'elle choisisse de tuer le piéton.
C'est mieux si elle est plus élaborée et permet d'établir des proba de survie de chacun mais dans ce cas il n'y a pas de réponse systématique.

Après faut voir que ce genre de voiture s'arrêtera systématiquement aux feux rouges et aux passages piétons, épargnant les piétons respectueux des règles ^^

Accessoirement c'est bien pour ça qu'il y a encore des pilotes à bord des avions qui peuvent débrayer les systèmes automatiques.
Parce que les décisions critiques, c'est encore partout des hommes qui les prennent et que si les aides électroniques sont précieuses, il y a encore une multitude de cas où elles ne savent pas faire.
Ou en tous cas, si elles savaient faire, elles ne seraient pas forcement plus performantes que l'humain.
Ça progresse cela dit chaque jour m'enfin on a de la marge.
Pour les mp qui ne sont pas à caractère personnel, merci d'envoyer vos messages au groupe " modérateurs globaux", ce sera plus efficace ;)
Avatar de l’utilisateur
TourneLune
 
Messages: 11510
Images: 368
Âge: 38
Enregistré le: Mar 1 Fév 2011 13:50
Présentation: Ici
Profil: Diagnostic +
Test: WAIS

Re: Voiture autonome et autres problèmes d'éthique du choix

Messagepar Malkovitch » Mar 1 Juil 2014 02:15

Korydween a écrit:Après je remarque que certains, vous évoquez la culpabilité d'avoir tué quelqu'un si le choix est le second. Or, dans le cas d'une voiture autonome, vous n'êtes responsable de rien. Et c'est bien là l'autre différence majeure avec des problèmes similaires tels que celui de l'homme obèse (http://fr.wikipedia.org/wiki/Dilemme_du ... ob.C3.A8se)
Dans le cas de l'homme obèse, celui a qui on pose le dilemme doit intervenir pour pousser ou non l'homme. C'est donc lui qui prend la responsabilité d'assassiner cet homme pour en sauver cinq autres. Dans le cas de la voiture autonome, les personnes au cœur du dilemme n'ont pas de responsabilité à prendre : la voiture a été programmée comme cela.
Ça pose donc une autre question éthique qui est celle de la responsabilité, qui n'est légèrement HS par rapport au dilemme du choix, mais qui intervient également à mon avis dans le choix que l'on fait.

Voilà Korydween, vous résumez bien l'essentiel de ma pensée sur ce cas hypothétique.

La question éthique repose sur la responsabilité des acteurs en cause, ici il n'y en a pas que deux, mais aussi un troisième, le constructeur de l'automobile qui est censé l'avoir conçu pour éviter les accidents et les pertes de vies. C'est pourquoi je n'ai pu fournir une réponse à la question telle que formulée dans l'intro.
Lorsque ta vie te semble toute à l'envers, modifie ton angle de visée, essaie la tête en bas.
Avatar de l’utilisateur
Malkovitch
 
Messages: 83
Âge: 62
Enregistré le: Lun 23 Juin 2014 07:33
Localisation: La belle province de Québec
Présentation: CLIK
Profil: En questionnement
Test: NON

Re: Voiture autonome et autres problèmes d'éthique du choix

Messagepar Korydween » Mar 1 Juil 2014 10:35

Pour ceux qui sont intéressés, la deuxième partie des résultats de l'étude que j'ai mentionnée ont été publiés avec les descriptions des raisons des choix des internautes : http://robohub.org/my-autonomous-car-my ... eader-poll

(toujours en anglais)
Never tell a young person that anything cannot be done. God may have been waiting centuries for someone ignorant enough of the impossible to do that very thing.
- John Andrew Holmes -
Avatar de l’utilisateur
Korydween
 
Messages: 799
Images: 14
Âge: 28
Enregistré le: Sam 24 Aoû 2013 09:03
Localisation: À mi-chemin de l'horizon
Présentation: Par ici
Profil: Diagnostic +
Test: WAIS

Re: Voiture autonome et autres problèmes d'éthique du choix

Messagepar Zyghna » Ven 23 Jan 2015 10:00

Y'a un dossier spécial consacré à la voiture autonome dans le Science et Vie de janvier pour celles et ceux que ça intéresse.
"Il est inutile d'être parfait, il faut seulement s'engager et mettre ses actions en cohérence avec ses valeurs" Brené Brown
Avatar de l’utilisateur
Zyghna
 
Messages: 6800
Âge: 39
Enregistré le: Lun 27 Juin 2011 21:28
Badges: 1
Ex Modérateur (1)
Présentation: ici
Profil: Diagnostic +
Test: WAIS

Re: Voiture autonome et autres problèmes d'éthique du choix

Messagepar Bob Arctor » Ven 23 Jan 2015 11:16

Bonjour,

tout d'abord je préfère prévenir que mon avis est forcément influencé par le fait que j'ai travaillé plusieurs années dans le secteur automobile, et en particulier dans un domaine directement lié à la sécurité passive et active. Bref.

Je considère que si la question posée est légitime - puisque les programmeurs devront bien élaborer l'algo de décision, la probabilité de la mort du passager en cas de choix d'évitement reste bien plus faible que celle de la mort du piéton.
[Nota : déjà, la voiture autonome apporte un énorme progrès. La plupart des conducteurs enfonceraient la pédale de frein par pur réflexe, tireraient tout droit avec l'ABS qui pleure sa mère et shooteraient le piéton :diabloo: ]

De mon point de vue, le choix proposé ne tient pas compte de la réalité, tout simplement.

Pour deux principales raisons :
- le piéton ne dispose d'aucun moyen de protection.
- les voitures modernes sont équipés de dispositifs de sécurité passive et active d'une très grande efficacité. Et quand les voitures autonomes seront légion, ces dispositifs auront encore progressé.

Il faudrait donc reformuler les choix :
(A) faire une embardée et prendre le risque de tuer son passager
(B) continuer tout droit et prendre le risque de tuer le piéton
sachant que la probabilité de la conséquence du choix A ne survienne sera toujours plus élevée que la probabilité de la conséquence du choix B, le dilemme des programmeurs est résolu.

une autre question ? :rofl:

P.S. : désolé, je m'étais promis de répondre vraiment à la question, mais plus j'avançais dans la rédaction plus ça dérivait :wasntme:
Si Dieu existe, j'espère qu'il a une bonne excuse...
Avatar de l’utilisateur
Bob Arctor
Bob Gyver
 
Messages: 299
Images: 1
Âge: 44
Enregistré le: Lun 22 Déc 2014 16:14
Localisation: Sens (Yonne)
Présentation: ici
Profil: Diagnostic +
Test: WAIS

Re: Voiture autonome et autres problèmes d'éthique du choix

Messagepar Daysofwonder » Lun 13 Fév 2017 14:22

On a dérivé depuis la partie Delirium, mais il faudrait en reparler ici :

Daysofwonder a écrit:
RegisRobert a écrit:
samjna a écrit:Le jeu rigolo qui peut sauver des vies:
http://moralmachine.mit.edu/


W'ok. Bah c'est quand même intriguant de voir que j'ai pris des choix totalement "hors norme". Du coup j'ai agrémenté mes choix d'un pavé argumentaire à la fin du questionnaire.


Ahhhh mais ce site est vraiment chouette, il mérite sa place ailleurs (surtout que je ne trouve pas ça très rigolo ! Mais vraiment intéressant et ça peut engendrer pas mal de débats entre amis).

RegisRobert, tu nous parles de tes choix steplaît ?

Perso j'ai choisi
de toujours privilégier les piétons par rapport aux passagers par exemple. C'était ma règle numéro 1. Mais après j'ai eu d'autres dilemmes...


(faudrait ouvrir un autre topic maybe ?)


Suite à cela, hazy a répondu :

hazy a écrit:perso j'ai considéré que le but était de protéger les voitures autonomes de la vindicte populaire ..


Et Za nous a suggéré de continuer le débat ici.

Alors, quels sont vos choix sur http://moralmachine.mit.edu ? Et pourquoi ?
Avatar de l’utilisateur
Daysofwonder
 
Messages: 250
Âge: 31
Enregistré le: Ven 7 Nov 2014 18:20
Localisation: Suisse
Présentation: ici
Profil: En questionnement
Test: MENSA

Re: Voiture autonome et autres problèmes d'éthique du choix

Messagepar Korydween » Lun 13 Fév 2017 18:19

C'est rigolo, j'ai decouvert ce site là semaine dernière à une conférence d'IA, presenté par un gars de chez Google qui est responsable du developpement de leurs voitures autonomes.
Bien plus qu'un jeu. Les resultats sont vraiment utilisés par les chercheurs du domaine!

Pour moi je n'ai pas eu de règle stricte autre que "prendre le moins de vie possible si la situation le permet"
Autrement j'y suis allée un peu à l'instinct. Il semble pour les resultats finaux que j'ai generalement privilegié le "pas d'intervention" quand le decompte des vies était le même dans les deux choix.


Edit: après reflexion je pense qu'il faudrait mettre nos explications en spoiler pour que les personnes qui veulent faire le test puissent Lire le sujet sans être trop influencées par les reponses des autres.
Never tell a young person that anything cannot be done. God may have been waiting centuries for someone ignorant enough of the impossible to do that very thing.
- John Andrew Holmes -
Avatar de l’utilisateur
Korydween
 
Messages: 799
Images: 14
Âge: 28
Enregistré le: Sam 24 Aoû 2013 09:03
Localisation: À mi-chemin de l'horizon
Présentation: Par ici
Profil: Diagnostic +
Test: WAIS

Re: Voiture autonome et autres problèmes d'éthique du choix

Messagepar Herbe rouge » Ven 17 Fév 2017 21:14

Spoiler: show
C'est glauque comme test... ça me donne l'impression de faire un meurtre prémédité en établissant une hiérarchie entre les vies à prendre.
Avatar de l’utilisateur
Herbe rouge
 
Messages: 128
Âge: 28
Enregistré le: Dim 25 Mar 2012 03:13
Localisation: Bxl
Profil: Diagnostic +
Test: WAIS

Re: Voiture autonome et autres problèmes d'éthique du choix

Messagepar Kirigol » Mar 4 Avr 2017 10:30

L'idée d'un véhicule qui m'emmène pendant que je bouquine est plutôt sympa.
Mais si c'est pour ne pas vraiment faire mieux (voire pire) qu'un humain au volant...

Un peu comme Herbe Rouge, je vois plutôt un côté malsain dans le test (dont j'ai seulement vu la première vignette, je marcherai donc, si possible loin de la route =)).
Il ne s'agit pas de construire, mais de jauger le taux d'acceptation du public face à l'erreur. Une sorte de capacité de déresponsabilisation.

Ce que ça m'évoque c'est l'expérience de Milgram, très bien mis en scène dans I comme Icare. Je n'ai malheureusement pas trouvé de vidéo entière de la scène, il manque une donnée principale, lorsque Y. Montand, s'offusque et que le scientifique lui explique qu'il est déjà arrivé jusqu'à se stade avant de s'indigner; donc qu'il électrocute indirectement le cobaye depuis le début et aurait très bien pu être derrière le pupitre... Pas simple.

www.youtube.com Video from : www.youtube.com

www.youtube.com Video from : www.youtube.com
18 moisissures argumentatives
"La surface des choses ne l'intéresse pas. Elle l'assomme même franchement."
Avatar de l’utilisateur
Kirigol
 
Messages: 374
Images: 0
Âge: 1
Enregistré le: Mer 24 Fév 2016 18:36
Localisation: IN87vg
Profil: Diagnostic +
Test: WAIS

Re: Voiture autonome et autres problèmes d'éthique du choix

Messagepar W4x » Jeu 6 Avr 2017 14:26

Comme Kirigol ce qui me frappe le plus c'est la déresponsabilisation sous-jacente. On peut imaginer le conducteur se décharger sur le constructeur (comme ça se fait parfois à propos de la vitesse maximale), et le constructeur vers le fabricant du système, qui renverra gentiment les deux à leurs responsabilités et leur implicite acceptation de la non-existence du risque zéro.
Au moment où le problème se pose, le conducteur est le seul humainement et juridiquement capable d'agir, car même étant en bout de chaîne il a sa part de responsabilité. J'ai aussi opté pour le choix humain de la majorité, pour la faiblesse du piéton mais aussi contre ce qui me parait être de la non assistance à personne en danger.
D'ailleurs en situation réelle, en cas d'homicide (bien qu'involontaire), il y a de très fortes chances que le conducteur se retrouve seul à la barre. Pour qu'un équipementier soit condamné il faut qu'il y ait un dysfonctionnement avéré, ce qui ne serait a priori pas le cas ici.
Was zurück bleibt, ist Erinnerung.
Avatar de l’utilisateur
W4x
 
Messages: 3288
Âge: 35
Enregistré le: Lun 21 Nov 2011 23:19
Présentation:
Profil: Diagnostic +
Test: WAIS

Re: Voiture autonome et autres problèmes d'éthique du choix

Messagepar *Za* » Jeu 6 Avr 2017 15:36

Je ne comprends pas en quoi il s'agirait de déresponsabilisation... Les conducteurs ne sont absolument pas responsables de ce qui arrive. Doit-on se sentir responsable de la mort d'une personne qui tombe sur la voie devant notre métro ?
A la base, il y a sans doute déresponsabilisation, mais elle se fait au moment où l'on décide de se faire conduire par un véhicule au lieu de le conduire soi-même.

Je crois qu'il faut vraiment recontextualiser le problème.
Il est avéré qu'un véhicule autonome performant réduit le nombre d'accidents potentiels par rapport à la conduite humaine.
C'est notre donnée de base, voiture autonome = moins de morts, moins de blessés.
Sachant cela, il semble cohérent de continuer à chercher à développer ces véhicules... non ? (on peut répondre non. Effectivement, ça nous déresponsabilise, comme dans mille autres domaines où nous avons été supplantés par les machines et leur avons donc cédé la place. Rien d'inhabituel là-dedans).

La seule vraie question est donc : véhicules autonomes, ou pas véhicules autonomes ?

Si on dit oui... les cas qui sont présentés dans le test donneraient normalement lieu à un freinage ; il est précisé (mais on l'oublie parfois) que ce qu'on cherche à savoir, c'est quelle action du véhicule serait considérée comme moins pire dans le cas (très peu probable) où il y aurait défaillance des freins.

Malheureusement cela peut arriver, et oui, malheureusement, il faut se poser la question de quoi faire dans ce cas.

Bien sûr on peut répondre au test avec un intérêt vaguement morbide, et là c'est ultra-glauque, et bien sûr enquiller les questions peut faire se sentir mal, et avoir l'impression qu'au fur et à mesure on finit par banaliser la vie humaine. J'ai vite arrêté personnellement.
Oui, c'est horrible de comparer la vie d'un groupe d'adulte obèses avec la vie d'une petite fille et ses deux chats.
Mais la question sous-jacente n'est pas celle-là. Il s'agit de faire émerger les priorités d'une population qui serait potentiellement utilisatrice de tels véhicules.

Je le redis, si vraiment les véhicules autonomes devenaient la norme, il me semble évident que les piétons adapteraient leur comportement en conséquence. On peut aussi imaginer que l'environnement urbain et routier serait revu pour éviter au maximum ce type de risques.

Par contre, on peut juger bon ou mauvais l'avènement d'une telle révolution.
- Vrais conducteurs = plus d'erreurs, dont certaines sont parfaitement évitables, donc plus d'accidents, et des réactions dans de tels cas dramatiques qui sont totalement hasardeuses.
- Véhicules autonomes = moins d'accidents, mais des réactions en cas de situation dramatique qui sont codifiées à l'avance pour correspondre à ce que la population semble considérer comme moins pire. Et pourtant, quelque part, ça nous paraît toujours moins acceptable... Peut-être que ce sont de tels cas, ignobles à imaginer, qui feront que nous ne nous tournerons pas vers cette solution. Peut-être est-ce mieux ainsi.

On peut imaginer aussi vrais conducteurs + assistance à la conduite, mais dans ce cas les questions demeurent les mêmes que dans le cas d'un véhicule autonome, je pense.
On pourrait aussi imaginer que face à une telle situation, ce soit le conducteur qui reprenne la main (ça me paraît très compliqué, mais W4x tu envisages que le conducteur soit le seul capable d'agir, alors pourquoi pas). Mais ferait-il un "meilleur" choix, en un dixième de seconde, que la machine ?
Et puis sincèrement, peut-on imaginer un seul instant un véhicule autonome qui vous laisserait reprendre les commandes juste au moment où ça sent vraiment le roussi ?
J'ai mis mon képi dans la cage
et je suis sorti avec l'oiseau sur la tête... J. Prévert
Avatar de l’utilisateur
*Za*
 
Messages: 2731
Images: 22
Enregistré le: Lun 15 Avr 2013 12:25
Présentation: c'était moi...
Profil: Diagnostic +
Test: WISC

Re: Voiture autonome et autres problèmes d'éthique du choix

Messagepar Herbe rouge » Jeu 6 Avr 2017 20:47

Bein c'est pas le principe des avions de ligne ça? Que quand ça sent le roussi, le pilote automatique se débranche et laisse les commandes aux pilotes.

Edit: je ne sais pas quelles conditions entrent dans les statistiques pour qu'il soit considéré qu'il y a moins de mort par voiture autonome que par véhicule conduit par des humains mais ce test est un faux choix. On tue quoi qu'on choisisse comme solution. Et sous cet angle, ça ne ressemble pas du tout à un sauvetage et de moins en moins à un accident de la route.
Avatar de l’utilisateur
Herbe rouge
 
Messages: 128
Âge: 28
Enregistré le: Dim 25 Mar 2012 03:13
Localisation: Bxl
Profil: Diagnostic +
Test: WAIS



Retourner vers Questions de société et Débats Philosophiques

 


Articles en relation Statistiques Dernier message
L'éthique du mensonge
1, 2, 3, 4par Melvill » Ven 31 Jan 2014 10:37

Réponses: 78

Vues: 5785

Dernier message par Boby Voir le dernier message
Lun 3 Nov 2014 15:00
Le choix de devenir parent doit-il rester exclusivement une affaire de femme ?
1, 2, 3par Rachel » Mar 24 Jan 2017 19:14

Réponses: 73

Vues: 3058

Dernier message par Pimprenelle Voir le dernier message
Mar 21 Nov 2017 22:42
La question du CHOIX
1, 2, 3par Fabs le vaurien » Mar 6 Sep 2011 14:01

Réponses: 66

Vues: 8910

Dernier message par Disappear Voir le dernier message
Sam 3 Jan 2015 18:52
Le rapport de l'humain avec les autres animaux
1, 2, 3, 4par sammbd » Mer 21 Nov 2012 01:04

Réponses: 75

Vues: 8166

Dernier message par Loups56 Voir le dernier message
Mar 24 Fév 2015 16:04

Qui est en ligne

Utilisateurs parcourant ce forum : Aucun utilisateur enregistré et 1 invité