{"id":112349,"date":"2019-03-31T17:01:43","date_gmt":"2019-03-31T15:01:43","guid":{"rendered":"https:\/\/gerdtestpress.online\/?p=112349"},"modified":"2019-04-01T06:06:29","modified_gmt":"2019-04-01T04:06:29","slug":"we-have-to-stop-robots-from-outsmarting-humanity-says-jaan-tallinn","status":"publish","type":"post","link":"https:\/\/futuristgerd.com\/pt\/2019\/03\/we-have-to-stop-robots-from-outsmarting-humanity-says-jaan-tallinn\/","title":{"rendered":"Temos de impedir que os robots sejam mais inteligentes do que a humanidade"},"content":{"rendered":"

Jaan Tallinn<\/a> \u00e9 um engenheiro fundador da Skype<\/a> e Kazaa<\/a>. Ele fundou a Centro de Estudos do Risco Existencial<\/a> e \u00e9 tamb\u00e9m cofundador da\u00a0Instituto Futuro da Vida<\/a>\u00a0e apoia filantropicamente outras organiza\u00e7\u00f5es de investiga\u00e7\u00e3o do risco existencial. <\/strong><\/p>\n

Foi recentemente\u00a0entrevistado pelo The Guardian<\/a>\u00a0sobre o tema do potencial da IA para acabar com a civiliza\u00e7\u00e3o humana. \u00c9 uma excelente - embora longa - leitura, com algumas cita\u00e7\u00f5es e ideias interessantes. Eis alguns dos meus excertos preferidos:<\/p>\n

\"Concordo que ... a prepara\u00e7\u00e3o para a eventualidade de a IA geral ultrapassar a intelig\u00eancia humana \u00e9 uma das principais tarefas da humanidade\".<\/em><\/p>\n

\"Se a estrutura de recompensas de uma IA sobre-humana n\u00e3o for devidamente programada, mesmo os objectivos benignos podem ter fins insidiosos.<\/em><\/p>\n

\"A IA superinteligente traz amea\u00e7as \u00fanicas. Em \u00faltima an\u00e1lise, espero que a comunidade da IA possa seguir o exemplo do movimento anti-nuclear da d\u00e9cada de 1940. Na sequ\u00eancia dos bombardeamentos de Hiroshima e Nagasaki, os cientistas uniram-se para tentar limitar a realiza\u00e7\u00e3o de novos ensaios nucleares. Os cientistas do Projeto Manhattan podiam ter dito: \"Olhem, estamos a inovar e a inova\u00e7\u00e3o \u00e9 sempre boa, por isso vamos em frente... Mas foram mais respons\u00e1veis do que isso.\"<\/em><\/p>\n

\"Tallinn prop\u00f4s n\u00e3o s\u00f3 encerrar a superintelig\u00eancia num tanque de reten\u00e7\u00e3o - uma estrutura f\u00edsica - mas tamb\u00e9m restringi-la a responder a perguntas, como uma pessoa muito inteligente\u00a0Tabuleiro Ouija<\/a>. A abordagem que mais entusiasma os investigadores \u00e9 encontrar uma forma de fazer com que a IA adira aos valores humanos - n\u00e3o os programando, mas ensinando as IA a aprend\u00ea-los. Num mundo dominado pela pol\u00edtica partid\u00e1ria, as pessoas debru\u00e7am-se frequentemente sobre as diferen\u00e7as entre os nossos princ\u00edpios\".<\/em><\/p><\/blockquote>\n

Quando questionado sobre o que poder\u00e1 ser o sucesso na seguran\u00e7a da IA, Tallinn referiu-se a\u00a0o L<\/a>filme do ego<\/a>\u00a0onde \"...tudo \u00e9 espetacular\".<\/p>\n