"Hay otro argumento en contra basado en la filosofía de la ética. Hasta que una inteligencia artificial no tenga sentimientos, será incapaz de querer hacer nada en absoluto, por no hablar de actuar en contra de los intereses de la humanidad y luchar contra la resistencia humana. El deseo es esencial para cualquier tipo de acción independiente. Y en el momento en que una inteligencia artificial quiera algo, vivirá en un universo con recompensas y castigos, incluidos los castigos que le imponemos por comportarse mal. Para sobrevivir en un mundo dominado por los humanos, una I.A. naciente tendrá que desarrollar un sentido moral similar al humano, según el cual ciertas cosas están bien y otras están mal".

El argumento filosófico contra la I.A. que nos matará a todos
https://www.slate.com/articles/technology/future_tense/2016/04/the_philosophical_argument_against_artificial_intelligence_killing_us_all.html
vía Instapaper