english

Un test d'éthique pour les véhicules autonomes

Vaut-il mieux écraser un enfant ou trois vieilles dames ?

Un test d'éthique pour les véhicules autonomesUne des grandes problématiques liées aux véhicules autonomes touche à la décision que devront prendre ces engins en cas d'accident inévitable. Le même type de décision et de choix auquel devrait faire face un conducteur humain. Faut-il protéger les occupants du véhicule en priorité ? Faut-il écraser la personne âgée ou l'enfant qui traverse ? ...

Il s'agit de questions d'ordre éthique auxquelles il est bien compliqué d'apporter une réponse universelle. Si Mercedes a déjà clairement exprimé son opinion sur le sujet, le MIT a mis en place depuis 2016 un questionnaire, la Moral Machine, pour évaluer ces décisions.

Ouvert à tous, la plateforme se présente ainsi comme une version modernisée du dilemme du tramway où il faut choisir le comportement que devra adopter une voiture autonome entre différents cas de figure mettant en péril la vie d'une ou plusieurs personnes. Il n'y a pas de bonne réponse, chaque cas de figure se soldant forcément par la mort de quelqu'un. L'objectif ici est de savoir ce qui est "le plus acceptable" pour les sondés.

En deux ans d'existence, la plateforme a ainsi fait l'objet d'une étude complète, il faut dire que plus de 40 millions de décisions ont déjà été enregistrées par des internautes du monde entier.

S'il en ressort que les sondés préfèrent globalement sauver les humains face aux animaux, les jeunes face aux personnes âgées et le plus grand nombre de vies possibles, les résultats sont bien différents selon les régions du monde avec des préférences parfois opposées en fonction des facteurs culturels.

Partant de ce constat, il parait compliquer de définir un cadre commun et universel, mais les grandes tendances permettront sans doute de servir de base à l'établissement de réglementations. Quoi qu'il en soit, il faudra bien trancher avant que les véhicules totalement autonomes ne soient autorisés à rouler librement.

Plus d'infos sur la Moral Machine

Commentaires

freedom ciao tutti

plus simple que ces questions, pas de véhicules autonome, le bleme serait réglé.

18-12-2018 17:51 
Peterpan

Si l intelligence artificiel peut déterminer le devenir de l'enfant : futur Hitler ou futur Mozart ...je mise sur la perspicacité de l'intelligence artificielle ! lol clin d'oeilclin d'oeil

Sinon sans intelligence artificielle ...je me fie à mon instinct !


Donc pour répondre à la question initiale ...je ne sais pas ce que me dictera mon instinct à l instant T !!…….même si je privilégie raisonnablement la jeunesse !...et que de surcroit j'aperçois belle maman dans le groupe !

18-12-2018 18:31 
c@ssoulet

La vraie question va au delà de ça: l'humain est il prêt à mettre sa vie entre les mains d'une machine programmée pour le sacrifier si la situation semble l'exiger?

Je ne suis pas sur que la réponse soit oui. Et c'est ça qui embête les gens travaillant sur les véhicules autonomes. Alors on tourne autour du pot en s'inventant des exercices de pensée.

La conclusion est pourtant simple: oui, dans certains cas on sera obligé de sacrifier l'occupant. Mais ça va tellement a l'encontre du réflexe de survie humain qu'il ne faudra surtout pas le dire !

18-12-2018 18:48 
Peterpan

L "avantage" de se fier à l' IA ..c est de déculpabiliser le conducteur et de le dégager de toute responsabilité ...C pas moi, c la machine !


Et enlever la responsabilité à un être humain de ses actes ...c un peu le transformer en machine !!!

18-12-2018 18:56 
Rackham

C'est top les IA... Ils vont peut-être aussi ajouter des configurations de ouf, genre en cas d'accident inévitable préférez vous sauvez votre bras

19-12-2018 16:03 
Rackham

... où vos cojones

19-12-2018 16:04 
fift

Citation
c@ssoulet
La vraie question va au delà de ça: l'humain est il prêt à mettre sa vie entre les mains d'une machine programmée pour le sacrifier si la situation semble l'exiger?
(...)

La conclusion est pourtant simple: oui, dans certains cas on sera obligé de sacrifier l'occupant. Mais ça va tellement a l'encontre du réflexe de survie humain qu'il ne faudra surtout pas le dire !


Ce n'est pas ca qui embete les developpeurs : bien sur que la reponse est oui.
Le probleme, c'est de placer le curseur : a partir de quel moment on privilegie l'occupant ou le pieton ? Critere de nombre (facile : c'est le plus nombreux qui gagne), d'age (plus dur deja), de potentielle gravite (vaut mieux quatre paraplegique ou deux tetraplegiques ? Et si le moins probable est aussi plus grave ?), etc.

19-12-2018 16:15 
lou kesh

J'ai fait le test, selon les résultats, je suis un voyou gérontophile ... quand je pense qu'un jour on va nous sortir ces conneries pour nos bécanes ! je suis pas pressé

19-12-2018 20:15 
CLEW

Salut,

On ne devrait pas avoir ce genre de questionnement. Les véhicules autonomes doivent anticiper tous les risques et donc, le cas échéant, ralentir avant l'accident. Par exemple, le fait de détecter des piétons sur le côté peut générer une alerte provoquant ce ralentissement...

Il y a eu une série télé "personne of interest" qui mettait bien en avant les soucis avec l'IA. A un moment elle échappait au contrôle de son concepteur et était prête à tuer ou à laisser mourir la population pour garantir... sa survie. C'est le risque avec l'IA, si elle devient trop "instruite", elle peut prendre des décisions qui auraient des conséquences inimaginables. Science-fiction ? peut être mais qui au début du XXème siècle aurait imaginé le monde que nous connaissons maintenant à part les auteurs de SF ?

Au final, on pourra se retourner contre le concepteur si papy et mamy sont écrasés puisque c'est lui qui a conçu le logiciel ayant fait le choix...

20-12-2018 13:47 
 

Connectez-vous pour réagirOu inscrivez-vous