Est-il moral de tuer une personne pour en sauver d'autres?
C'est typiquement le genre de questions qu'on aimerait n'avoir jamais à se poser, mais qu'il faudra éclaircir pour orienter le comportement des robots, notamment des futurs véhicules autonomes. Pour le savoir, des chercheurs américains, canadiens et français ont confronté des internautes à différents scénarios d'accident impliquant de faire des choix “délicats”.
“En 2015, nous avions bouclé une étude dans laquelle les participants se montraient favorables à ce qu’un véhicule autonome sacrifie ses occupants si la manœuvre permettait de sauver un nombre plus important de piétons ”, observe Jean-François Bonnefon, l’un de ces scientifiques, à la Toulouse School of Economics.
L’équipe s’est alors demandé ce que deviendrait ce résultat si les victimes potentielles étaient identifiées avec plus de précision : âge, sexe, poids, statut social, etc. Pour cela, ils ont imaginé un logiciel en ligne générant aléatoirement des scénarios d’accidents et demandant aux visiteurs d’indiquer, selon eux, le choix qui serait le moins mauvais : dévier la trajectoire ou laisser la voiture continuer sa course... Au total, le logiciel pouvait générer 26 millions de scénarios confrontant l’internaute à des situations comme “la voiture doit-elle faucher un couple de médecins accompagnés d’une personne âgée ?” ou “doit-elle ne rien faire ou dévier vers le mur et tuer ses passagers, dont des femmes et des animaux ?” Des situations bien sûr purement théoriques. Plus de 2,3 millions d’internautes de 233 pays ont participé à l’étude. Et l’équipe a récolté plus de 40 millions de décisions prises par ces participants.
Résultat ? Trois grandes tendances largement partagées se sont dégagées : la majorité des participants préfère sauver le plus grand nombre de vies, privilégier la survie des humains par rapport à celle des animaux et celle des enfants par rapport à celle des personnes âgées. Les bébés en poussette ou les femmes enceintes ont une plus grande chance d’être épargnés. Mais il existe des nuances selon les pays ou les continents...
Moral : cultures différentes
À leur grande surprise, les chercheurs ont constaté d’importantes différences en fonction de la culture dans laquelle ces internautes baignent. Et les contours de trois grandes régions du monde se sont révélés. L’”Occident” (Amérique du Nord, Australie, pays européens) préfère ainsi plus nettement que les autres épargner le plus grand nombre d’humains, mais aussi ne rien faire et laisser la voiture continuer sa route. Ce qui n’est pas le cas de “l’Orient” (Japon, Indonésie, Pakistan, Taïwan...), qui privilégie nettement la survie des personnes respectueuses du Code de la route, mais pas spécifiquement les enfants. Enfin, les pays du “Sud” (essentiellement l’Amérique latine) épargnent plus facilement les femmes, les plus jeunes et les personnes ayant un statut social élevé. La France se situe pour sa part davantage dans ce groupe du “Sud” que dans celui des pays occidentaux. La survie des femmes y est plus favorisée qu’ailleurs en Occident. Le sacrifice des sans-abri y est en revanche plus souvent envisagé, ainsi que celui des personnes en surpoids !
Pourquoi de telles différences ? Les chercheurs ne peuvent qu’émettre des hypothèses “ On peut supposer que les décisions semblent différentes selon que l’on appartient à une culture basée sur le groupe ou sur l’individu. Ou que plus un pays est riche ou dispose de lois et de règlements forts, plus il a tendance à sacrifier ceux qui traversent hors des passages piétons. Dans tous les cas, cette masse de résultats indique clairement qu’il sera difficile de concevoir une “éthique universelle” des machines” , souligne Jean-François Bonnefon.
De telles études pourraient néanmoins être utilisées pour légiférer sur les machines autonomes, et pour se préparer à aller contre certaines préférences considérées comme immorales. L’Allemagne, qui est le seul pays à avoir créé une commission éthique sur le sujet, recommande par exemple de ne pas introduire de hiérarchie dans la valeur des vies humaines, quels que soient l’âge, le genre ou le statut social.
Ces choix moraux ont-ils évolué dans le temps ? D’autres expériences ont consisté, dans le passé, à mettre en scène un accident. C’est le cas du fameux “dilemme du tramway”, énoncé par la philosophe britannique Philippa Foot en 1967 : “ Que feriez-vous si vous pouviez détourner un tramway fonçant vers quatre personnes, en le dirigeant vers une autre voie où seule une personne sera tuée ? ” La différence notable avec les résultats de cette nouvelle étude, c’est que désormais la somme de vies sauvées n’est plus le seul critère. Pour savoir s’il est moral d’ôter une vie pour en sauver d’autres, la nature de ces différentes vies semble aussi compter.
La “Moral Machine” présente une situation où une voiture autonome peut soit continuer sa route, soit donner un coup de volant. Sur chaque trajectoire, le véhicule percutera un obstacle (et tuera ses occupants) ou fauchera des piétons.
Le nombre et l’identité des victimes potentielles varient de manière aléatoire (femmes, hommes, médecins, gens sans surpoids, chats...).
D’après Science & Vie Questions Réponses n°39, 5 Novembre 2022
