{"id":112349,"date":"2019-03-31T17:01:43","date_gmt":"2019-03-31T15:01:43","guid":{"rendered":"https:\/\/gerdtestpress.online\/?p=112349"},"modified":"2019-04-01T06:06:29","modified_gmt":"2019-04-01T04:06:29","slug":"we-have-to-stop-robots-from-outsmarting-humanity-says-jaan-tallinn","status":"publish","type":"post","link":"https:\/\/futuristgerd.com\/es\/2019\/03\/we-have-to-stop-robots-from-outsmarting-humanity-says-jaan-tallinn\/","title":{"rendered":"Tenemos que impedir que los robots sean m\u00e1s listos que la humanidad"},"content":{"rendered":"

Jaan Tallin<\/a> es ingeniero fundador de Skype<\/a> y Kazaa<\/a>. Fund\u00f3 la Centro para el Estudio del Riesgo Existencial<\/a> y tambi\u00e9n es cofundador de la\u00a0Instituto del Futuro de la Vida<\/a>\u00a0y apoya filantr\u00f3picamente a otras organizaciones de investigaci\u00f3n del riesgo existencial. <\/strong><\/p>\n

Recientemente fue\u00a0entrevistado por The Guardian<\/a>\u00a0sobre el potencial de la IA para acabar con la civilizaci\u00f3n humana. Se trata de una lectura excelente, aunque larga, con algunas citas y reflexiones jugosas. He aqu\u00ed algunos de mis fragmentos favoritos:<\/p>\n

\"Estoy de acuerdo en que ... prepararse para el caso de que la IA general supere la inteligencia humana es una de las principales tareas de la humanidad\".<\/em><\/p>\n

\"Si la estructura de recompensas de una IA sobrehumana no est\u00e1 bien programada, incluso los objetivos benignos podr\u00edan tener fines insidiosos\".<\/em><\/p>\n

\"La IA superinteligente conlleva amenazas \u00fanicas. En \u00faltima instancia, espero que la comunidad de la IA siga el ejemplo del movimiento antinuclear de los a\u00f1os cuarenta. Tras los bombardeos de Hiroshima y Nagasaki, los cient\u00edficos se unieron para intentar limitar las pruebas nucleares. \"Los cient\u00edficos del Proyecto Manhattan podr\u00edan haber dicho: 'Mirad, aqu\u00ed estamos innovando, y la innovaci\u00f3n siempre es buena, as\u00ed que adelante... Pero fueron m\u00e1s responsables que eso\".<\/em><\/p>\n

\"Tallinn propuso no s\u00f3lo amurallar la superinteligencia en un tanque de contenci\u00f3n -una estructura f\u00edsica-, sino tambi\u00e9n restringirla a responder preguntas, como una\u00a0Tablero ouija<\/a>. Lo que m\u00e1s entusiasma a los investigadores es encontrar la forma de que la IA se adhiera a los valores humanos, no program\u00e1ndolos, sino ense\u00f1\u00e1ndoles a aprenderlos. En un mundo dominado por la pol\u00edtica partidista, la gente suele insistir en las diferencias entre nuestros principios\".<\/em><\/p><\/blockquote>\n

A la pregunta de c\u00f3mo puede ser el \u00e9xito en la seguridad de la IA, Tallinn hizo referencia a\u00a0la L<\/a>pel\u00edcula sobre el ego<\/a>\u00a0donde \"...todo es impresionante\".<\/p>\n