"Los investigadores de la seguridad de la inteligencia artificial discrepan rotundamente: No hay motivos para creer que seremos capaces de controlar sistemas generalmente inteligentes, y mucho menos superinteligentes. De hecho, no tenemos ni idea de cómo sería un mundo con máquinas (super)inteligentes. Pero al menos tenemos una buena idea de escenarios potencialmente dañinos -como, por ejemplo, que una inteligencia artificial adquiera el control unilateral de todos los recursos-, así que cuanto antes empecemos a pensar en ello, mejor".

Las amenazas que realmente preocupan a los investigadores en inteligencia artificial
https://www.slate.com/articles/technology/future_tense/2016/04/the_threats_that_artificial_intelligence_researchers_actually_worry_about.html
vía Instapaper