"A condução autónoma de nível 3 é ainda mais controversa. A principal diferença é que, embora o condutor deva permanecer vigilante e pronto a intervir em caso de emergência, a responsabilidade por todas as funções críticas de segurança é transferida do condutor para o automóvel. Este facto preocupa muitos engenheiros. A experiência não tem sido boa com sistemas de controlo que relegam o operador para um papel de gestão fora do circuito de feedback, com a única função de intervir em caso de emergência.

Foi este tipo de pensamento que permitiu que um acidente numa central nuclear em Three Mile Island, em 1979, se transformasse numa fusão total. Os operadores da central não reagiram corretamente quando uma válvula se abriu e fez com que o reator perdesse água de refrigeração. Depois, agravaram a situação ao anularem o sistema automático de arrefecimento de emergência, pensando que havia água a mais no reator e não a menos. O relatório do acidente atribuiu a culpa a uma formação inadequada dos operadores e a uma interface informática mal concebida.

Falhas humanas semelhantes levaram a inúmeros acidentes aéreos - mais recentemente, o acidente da Asiana Airlines em São Francisco em 2013. O excesso de confiança na automação e a falta de compreensão dos sistemas por parte dos pilotos quando precisavam de intervir foram citados como os principais factores que contribuíram para o acidente da Asiana. Alguns fabricantes de automóveis receiam que - ainda mais do que os operadores de reactores ou os pilotos profissionais - os condutores sem formação possam apenas agravar o problema quando subitamente tiverem de assumir o controlo de um sistema totalmente automatizado. A Ford acredita que é melhor saltar completamente o Nível 3 e passar diretamente para o Nível 4, mesmo que demore mais tempo".

O longo e sinuoso caminho para os automóveis sem condutor
https://www.economist.com/news/science-and-technology/21722628-forget-hype-about-autonomous-vehicles-being-around-cornerreal-driverless-cars-will
via Instapaper