"Os investigadores de segurança da I.A. discordam totalmente: Não há razão para acreditar que seremos capazes de controlar sistemas geralmente inteligentes, quanto mais superinteligentes. De facto, não fazemos ideia de como seria um mundo com máquinas (super)inteligentes. Mas temos, pelo menos, uma boa ideia de cenários potencialmente prejudiciais - como, por exemplo, uma I.A. ganhar o controlo unilateral de todos os recursos - por isso, quanto mais cedo começarmos a pensar nisso, melhor."

As ameaças que preocupam os investigadores da Inteligência Artificial
https://www.slate.com/articles/technology/future_tense/2016/04/the_threats_that_artificial_intelligence_researchers_actually_worry_about.html
via Instapaper