Jaan Tallin es ingeniero fundador de Skype y Kazaa. Fundó la Centro para el Estudio del Riesgo Existencial y también es cofundador de la Instituto del Futuro de la Vida y apoya filantrópicamente a otras organizaciones de investigación del riesgo existencial.

Recientemente fue entrevistado por The Guardian sobre el potencial de la IA para acabar con la civilización humana. Se trata de una lectura excelente, aunque larga, con algunas citas y reflexiones jugosas. He aquí algunos de mis fragmentos favoritos:

"Estoy de acuerdo en que ... prepararse para el caso de que la IA general supere la inteligencia humana es una de las principales tareas de la humanidad".

"Si la estructura de recompensas de una IA sobrehumana no está bien programada, incluso los objetivos benignos podrían tener fines insidiosos".

"La IA superinteligente conlleva amenazas únicas. En última instancia, espero que la comunidad de la IA siga el ejemplo del movimiento antinuclear de los años cuarenta. Tras los bombardeos de Hiroshima y Nagasaki, los científicos se unieron para intentar limitar las pruebas nucleares. "Los científicos del Proyecto Manhattan podrían haber dicho: 'Mirad, aquí estamos innovando, y la innovación siempre es buena, así que adelante... Pero fueron más responsables que eso".

"Tallinn propuso no sólo amurallar la superinteligencia en un tanque de contención -una estructura física-, sino también restringirla a responder preguntas, como una Tablero ouija. Lo que más entusiasma a los investigadores es encontrar la forma de que la IA se adhiera a los valores humanos, no programándolos, sino enseñándoles a aprenderlos. En un mundo dominado por la política partidista, la gente suele insistir en las diferencias entre nuestros principios".

A la pregunta de cómo puede ser el éxito en la seguridad de la IA, Tallinn hizo referencia a la Lpelícula sobre el ego donde "...todo es impresionante".

Post invitado del comisario de contenidos de The Futures Agency Petervan

Otros recursos