"Há outro contra-argumento a ser feito com base na filosofia da ética. Enquanto uma I.A. não tiver sentimentos, será incapaz de querer fazer o que quer que seja, quanto mais agir contra os interesses da humanidade e lutar contra a resistência humana. O desejo é essencial para qualquer tipo de ação independente. E no momento em que uma I.A. quiser alguma coisa, viverá num universo com recompensas e castigos - incluindo castigos da nossa parte por se comportar mal. Para sobreviver num mundo dominado por humanos, uma I.A. nascente terá de desenvolver um sentido moral semelhante ao humano, de que certas coisas estão certas e outras estão erradas"

O argumento filosófico contra o facto de a I.A. nos matar a todos
https://www.slate.com/articles/technology/future_tense/2016/04/the_philosophical_argument_against_artificial_intelligence_killing_us_all.html
via Instapaper