"Il y a un autre contre-argument à faire valoir, basé sur la philosophie de l'éthique. Tant qu'une I.A. n'aura pas de sentiments, elle sera incapable de vouloir faire quoi que ce soit, et encore moins d'agir contre les intérêts de l'humanité et de lutter contre la résistance humaine. Le désir est essentiel à toute forme d'action indépendante. Et dès qu'une I.A. veut quelque chose, elle vit dans un univers où il y a des récompenses et des punitions - y compris des punitions de notre part en cas de mauvais comportement. Pour survivre dans un monde dominé par les humains, une I.A. naissante devra développer un sens moral semblable à celui des humains, à savoir que certaines choses sont bonnes et d'autres mauvaises"

L'argument philosophique contre l'I.A. qui nous tue tous
https://www.slate.com/articles/technology/future_tense/2016/04/the_philosophical_argument_against_artificial_intelligence_killing_us_all.html
via Instapaper