"A primera vista, el objetivo parece sencillo: crear una IA que se comporte de forma éticamente responsable; sin embargo, es mucho más complicado de lo que parece en un principio, ya que hay una cantidad asombrosa de factores que entran en juego. Como señala el proyecto de Conitzer, "los juicios morales se ven afectados por derechos (como la privacidad), roles (como en las familias), acciones pasadas (como las promesas), motivos e intenciones, y otras características moralmente relevantes". Estos diversos factores aún no se han incorporado a los sistemas de IA"".

La evolución de la IA: ¿Puede programarse la moralidad? - FLI - Instituto del Futuro de la Vida
https://futureoflife.org/2016/07/06/evolution-of-ai/
vía Instapaper

Mi respuesta, por cierto, sería un rotundo NO. Como expongo en mi nuevo libro 'Tecnología contra humanidad… "Creo que la tecnología es totalmente nihilista respecto a las cosas que realmente nos importan a los humanos. Tiendo a creer que no puede ni debe ascender en la pirámide de la jerarquía de necesidades de Maslow desde la ayuda a las necesidades básicas hacia el amor y la pertenencia, la autoestima o la autorrealización".