"La conduite autonome de niveau 3 est encore plus controversée. La principale différence est que, bien que le conducteur doive toujours rester vigilant et prêt à intervenir en cas d'urgence, la responsabilité de toutes les fonctions de sécurité critiques passe du conducteur à la voiture. Cela inquiète beaucoup d'ingénieurs. L'expérience n'a pas été bonne avec les systèmes de contrôle qui relèguent l'opérateur à un rôle de gestionnaire en dehors de la boucle de rétroaction, avec pour seule fonction d'intervenir en cas d'urgence.

C'est ce genre de raisonnement qui a permis à un accident survenu dans la centrale nucléaire de Three Mile Island, en 1979, de dégénérer en une véritable fusion. Les opérateurs de la centrale n'ont pas réagi correctement lorsqu'une vanne s'est bloquée et a entraîné la perte d'eau de refroidissement du réacteur. Ils ont ensuite aggravé la situation en neutralisant le système automatique de refroidissement d'urgence, pensant qu'il y avait trop d'eau dans le réacteur au lieu de pas assez. Le rapport d'accident a mis en cause une formation inadéquate des opérateurs et une interface informatique mal conçue.

Des défaillances humaines similaires ont été à l'origine d'innombrables accidents aériens, le plus récent étant celui de la compagnie Asiana Airlines à San Francisco en 2013. Le recours excessif à l'automatisation et le manque de compréhension des systèmes par les pilotes lorsqu'ils devaient intervenir ont été cités comme des facteurs majeurs ayant contribué à l'accident d'Asiana. Certains constructeurs automobiles craignent que, plus encore que les opérateurs de réacteurs ou les pilotes professionnels, les automobilistes non formés ne fassent qu'aggraver le problème lorsqu'ils doivent soudainement prendre le contrôle d'un système par ailleurs entièrement automatisé. Ford estime qu'il est préférable de sauter le niveau 3 et de passer directement au niveau 4, même si cela prend plus de temps.

La route longue et sinueuse des voitures sans conducteur
https://www.economist.com/news/science-and-technology/21722628-forget-hype-about-autonomous-vehicles-being-around-cornerreal-driverless-cars-will
via Instapaper