[actu] Voiture autonome : avec Mercedes, c'est toi le maillon faible !

L'arrivée de la voiture autonome va poser de vraies questions informatiques et philosophiques. En cas de risque d'accident, qui protéger ? Le motard ou les occupants de la voiture ? Mercedes a pris position

... [www.lerepairedesmotards.com]

Dur choix !

Du coup, BMW va devoir travailler sur des équipements du futur pour sa Vision Next 100 alors ?

Ceci dit, les constructeurs travaillent sur leurs véhicules autonomes justement pour éviter que ce genre de situation ne se produise et que le véhicule soit capable d'anticiper et de réagir dans un maximum de cas.

Pourquoi ?
N'est-ce pas déjà le cas avec les véhicules non-autonomes ?
Si une situation d'urgence nécessite une manoeuvre réflexe, la décision du conducteur, dictée par son instinct de survie, ne se fait-elle pas déjà au détriment de la sécurité des éléments extérieurs ?

Isaac Asimov a écrit les 3 lois de la robotique il quelques temps de cela (1942) :

1) «Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu’un être humain soit exposé au danger.»

2) «Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la première loi.»

3) «Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.»

En appliquant ces lois, la Mercedes ne pourrait ni tuer le conducteur ou ses passagers ni tuer une ou plusieurs personnes extérieures à la Mercedes, et de plus, le conducteur ne pourrait pas reprendre le contrôle du véhicule.

Mon grain de sel :

D'abord, on est encore à plusieurs décennies du moment où cette question deviendra pertinente, en admettant qu'elle le devienne un jour.

Ensuite, je ne pense pas que cette décision revienne au constructeur. Ils ont du faire une étude et ils se sont rendu compte que leur client étaient des connards égoïstes et égocentrique pour qui attachent plus de valeur à leur vie qu'à celle d'une 15ène d'enfants. Soit. Mais si on parle de mettre sur les route des machines qui peuvent dans des situations exceptionnel s'autoriser à tuer des gens, c'est à la société toute entière de répondre à la question « Qui tuer ? Qui sauver ? ».

Mon autre gain de sel (d'informaticien) :

> Entrer dans de sinistres jeux comptables et décider qui doit avoir le plus de chances, comme ça, au détour d'un programme informatique ? En cas d'embrouille, vos probabilités de survie sont liées à une ligne de code commençant par c majuscule, deux points, deux slashs, pondue par un geek n'ayant même pas le permis et n'ayant pas vu le soleil depuis six mois, survivant grâce à des pizzas surgelées dans sa cave. Flippant.

Alors, si le programme de votre voiture est un batch MS-DOS (le C:\). Cherchez pas, tout le monde mourra.

Comme je l'ai dis juste au dessus. L'informatique n'en est pas là. C'est une science très difficile, toutes les choses cool qu'on voudrait faire sont soit très difficile à faire, soit impossibles à faire. Conduire, c'est difficile, déjà en situation normale. Si on ajoute à ça des situations exceptionnelle, ça l'est encore plus. Dans le vrai monde (pas celui des marketeux de mercedes). La question qui est pertinente là, c'est pas « est-ce que la vie d'un enfant a plus de valeur que celle d'un vieux ». C'est « Comment faire pour que la voiture ne tue pas connement quelqu'un parce qu'elle a confondu un cycliste avec un panneau ».

Enfin, j'ai le permis, je ne vis pas dans une cave, et j'ai un four, donc je mange mes pizza décongelées (C'est moins croustillant comme ça).

Aurais-je forcé le trait sur ma caricature du geek ?

Philippe