Cuando las máquinas tengan un coeficiente intelectual de 50.000, ¿qué pasará con los valores humanos y la ética?

Por Gerd Leonhard Futurista , Autor Tecnología contra humanidad

La asociación sobre IA acaba de anunciar algunos nuevos miembros y un consejo de administración, y Apple se ha unido por fin a Facebook, Google / Deep Mind, IBM, Amazon y Microsoft. Esta evolución me ha impulsado a actualizar mi carta abierta inicial (publicada vía Wired.co.uk el 26 de octubre de 2016) y para aclarar mis mensajes clave a la Asociación. (En aras de una divulgación completa, tenga en cuenta que he dado discursos y charlas para casi todas las empresas a las que se dirige esta carta abierta en los últimos 10 años).

Estimado Consejo de Administración y empresas miembros de La Asociación sobre IA en beneficio de las personas y la sociedad,

La "Asociación sobre IA en beneficio de las personas y la sociedad" es un cambio bienvenido respecto a la celebración de la industria tecnológica de la disrupción y la "transformación digital". Pero, ¿fomentará también su iniciativa un debate serio sobre la ética de la era digital, y sobre hasta dónde debemos llegar en esta la próxima convergencia del hombre y la máquina?

Está claro que los datos ya son el nuevo petróleo, pero el progreso explosivo de la inteligencia artificial, el aprendizaje profundo y la computación cognitiva seguramente aumentará enormemente el poder de los que tienen todos esos datos en sus "cerebros globales", y hasta proporciones literalmente inimaginables. Pero a diferencia de lo que ocurre con los gigantes de la era de los combustibles fósiles, como BP o Exxon-Mobile, hay poca supervisión sobre qué es exactamente lo que usted y sus compañeros pueden hacer y harán con este poder, y qué reglas tendrán que seguir una vez que hayan construido esa IA omnipotente en el cielo, encarnada por robots y máquinas, y quién hace las reglas, para empezar. ¿Se manifestará esta asociación en una administración previsora, y significa que sus empresas están por fin preparadas para aceptar la responsabilidad de las consecuencias de estos inventos que cambian la humanidad? ¿Se esforzarán por mejor combinación de precaución y acción¿Qué es lo que más le interesa, uno que anteponga la prosperidad humana? ¿Considerarías renunciar a algunos beneficios importantes porque un nuevo proyecto mágico podría tener demasiadas consecuencias negativas (aunque no fueran intencionadas)?

En un mundo no muy lejano en el que las máquinas tienen un coeficiente intelectual de 50.000 y el Internet de las Tuando la tecnología alcance los 500.000 millones de dispositivos, ¿qué ocurrirá con los contratos sociales, los valores y la ética que sustentan aspectos esenciales del ser humano como la autodeterminación, la privacidad y el libre albedrío? ¿Se debatirán pronto importantes limitaciones humanas, como el envejecimiento o incluso la muerte, a medida que la tecnología avance a toda velocidad?

Me parece evidente que la cuestión ya no es si la tecnología puede hacer algo, sino por qué. ¿Quién decide¿lo es?  ¿Quién es el "control de la misión para la humanidad"?

Múltiples cambios de paradigma están transformando la sociedad a una velocidad vertiginosa, y sus organizaciones están en el ojo del huracán provocado por lo que yo denomino el MegashiftsLa digitalización, la cognitivización, la automatización, la desintermediación y la virtualización, por citar sólo las más destacadas. Se trata de cambios de juego exponenciales y combinatorios que transforman múltiples ámbitos simultáneamente, y que pueden conducirnos a un futuro muy brillante (imaginemos la derrota del cáncer o la obtención de energía o agua en abundancia). ética digital también podría crear un tipo especial de infierno.

Resulta preocupante que la ética digital no se encuentre actualmente en mejor situación que la sostenibilidad corporativa (RSC) en lo que respecta a la agenda de Silicon Valley y Big Tech. El paradigma por defecto sigue siendo, como dijo Bert Brecht, "primero la cena, luego la moral". Esto es claramente insostenible.

Es cierto que la ética es culturalmente relativa, pero algunos principios universales son evidentes, como la capacidad de seguir existiendo o la búsqueda de la felicidad. Y por supuesto, el beneficio y el crecimiento son elementos críticos en la mayoría de las civilizaciones, y sociedades como el Imperio Romano que perdieron su base de beneficios se marchitaron rápidamente. Pero, ¿y si su próxima fase de evolución no sólo le permitiera disponer de un código ético digital, sino también de un código de conducta? obligatorio una? ¿Podría ser la próxima gran narrativa corporativa la generalización del comportamiento digital ético? No esperemos a tener máquinas inteligentes con un coeficiente intelectual de 50.000 para resolver estos dilemas éticos.

He aquí cuatro puntos esenciales que quiero someter a debate:

1) Nos encontramos en el punto de inflexión de la curva exponencial: las cosas pronto serán inimaginablemente diferentes gracias a la IA y a las "máquinas pensantes". Esta es una gran oportunidad para que usted y sus empresas adopten un nuevo tipo de administración para la humanidad, y un enfoque más holístico para el florecimiento humano basado en la aceptación de sus nuevas responsabilidades centradas en la IA sería novedoso. Un área difusa, sin duda, pero ¿no es ahí donde suelen empezar las cosas?

2) La tecnología no es nuestro objetivo: es nuestra herramienta, nuestro método. La tecnología no debe ser qué buscamos sino cómo que buscamos. Los seres humanos somos creadores de herramientas, no creadores de herramientas, y creo que debemos seguir siéndolo. Así pues, ¿sus innovaciones en IA nos harán abdicar de nuestro pensamiento y nuestra humanidad, o servirán realmente para hacer avanzar el florecimiento humano? ¿Cómo piensa garantizarlo?

3) Está claro que tenemos que adoptar la tecnología, pero personalmente creo que no debemos convertirnos en ella. ¿Qué cree usted? ¿Cree que la humanidad se encamina hacia una simbiosis total con la tecnología, es decir, que pronto seremos incapaces de existir sin aumentarnos a nosotros mismos? ¿Es inevitable la convergencia hombre-máquina? ¿Cuál es su posición sobre La Singularidad y el llamado transhumanismo?

4) Todo gran algoritmo necesita también su correspondiente métrica humana: lo que yo llamo androritmos, un factor de equilibrio para proteger y fomentar aquello que nos hace únicamente humanos. Quizá la cuestión ya no sea solo qué puede automatizarse, sino también qué no debe automatizarse o robotizarse.

La Asociación para la IA es un concepto muy prometedor. Hagamos que la ética digital deje de ser una difusa zona gris y se convierta en una carta mundial de derechos.

Atentamente, Gerd Leonhard

Más información sobre mi nuevo libro Tecnología contra humanidadlea el Hoja de trucos TVHcompre el libro en Amazon (este enlace le lleva automáticamente a su sitio local de amazon), o pídalo directamente de mi editor (todos los formatos; pedidos al por mayor con descuento)

Materiales relacionados

Mi reciente vídeo sobre el Cerebro Global

 

Cambio exponencial