Porque tenemos que actuar ahora para garantizar que el progreso tecnológico exponencial siga siendo beneficioso para la humanidad y el planeta.. ENGLISH versión aquí.

• 

• 

La tecnología ha sido, sin duda, un éxito para nosotros. Los sistemas de IA son ahora capaces de detectar algunas formas de cáncer de piel con mayor exactitud que los médicos humanos. Los robots realizan exámenes de ultrasonido y cirugía, a veces con poca o ninguna intervención humana. Los pilotos automáticos vuelan y aterrizan aeronaves en las condiciones más adversas y en poco tiempo pueden ser capaces de pilotar vehículos aéreos tripulados. Los sensores recogen datos en tiempo real de las máquinas y de sus "parámetros digitales" para prevenir fallos futuros o avisar de reparaciones críticas. En Impresoras 3D son capaces de cuspir picos sobrantes, mejorando las opciones de mantenimiento en lugares remotos.

Sin embargo, a medida que la tecnología y los IA systems en particular se hacen cada vez más poderosos, la desvantagem de acelerar exponencialmente el progreso tecnológico también entra en gran foco. Contextualizando a Marshall McLuhan (¡57 años atrás!), cada vez que ampliamos nuestras capacidades, también reducimos las nuestras. Hoy en día, los medios de comunicación social prometen "alargarnos", permitiéndonos a todos compartir nuestros pensamientos en línea, pero también nos "amputan", convirtiéndonos en aliados fáciles de localización y manipulación. Ganamos alcance, pero perdemos privacidad.

El impacto del cambio exponencial es increíblemente difícil de imaginar

Debemos tener en cuenta que aunque el progreso tecnológico de hoy parece a menudo muy impresionante y útil, en su mayoría inofensivo y fácilmente controlable, sería de hecho muy tolo asumir que esto permanecerá igual en el futuro próximo, ya que estamos literalmente a saltar la curva exponencial de 4 a 8 a 16 y así por diante. 30 pasos lineales podrían llevarme a atravesar la ría, 30 pasos exponenciales equivalen a 26 viajes a la vuelta al mundo. El alcance de la magnitud es totalmente diferente y el que quiera que haya funcionado antes del punto de giro puede revelarse desastroso más tarde.

En este momento, también estamos en el punto de partida de muchas de las ciencias y tecnologías fundamentales del siglo XXI, desde la inteligencia artificial y el aprendizaje profundo hasta la edición del genoma humano, pasando por la geoingeniería, la longevidad y la apertura humana: toda nuestra estructura está a punto de cambiar. ¡y no sólo la imagen!

• 

• 

• 

• 

• 

Durante la próxima década, cada una de las viviendas antes mencionadas (esta a la que muchas veces chamo de Game-Changers) tiene más cambios previstos de los que hemos asistido en todo el siglo pasado, en total. A la ficción científica se está convirtiendo cada vez más en un hecho científico - y como los humanos son biológicos (de momento) y no progresan exponencialmente, tenemos muchas veces mucha dificultad en comprender hacia dónde va todo esto. Lo que puede ser realmente espantoso, mágico y "bom" para nosotros hoy en día, puede en breve convertirse en "demasiado bom", y pasar de ser una ferramenta a ser el propósito, de ser una dádiva de Deus a ser una máquina del juicio final.

¿Quieres mejorar la condición humana, concebir quimeras o robots que vayan a la guerra? los próximos 10 años variará la mayoría de nuestras nociones sobre el progreso gradual y elevará nuestra visión sobre cómo la innovación tecnológica normalmente y tal vez también inadvertidamente promueve lo bueno común.

Definiendo 'O Bom Futuro

En mi opinión, esto es lo que he oído recientemente "o bom futuro" (o sí, una utopía o mejor aún una protopía en oposición a una distopía) está ahora en juego, y no podemos darnos el lujo de afastarnos del trabajo duro, cómo definir colectivamente lo que un "buen futuro" significa realmente para nosotros, colectivamente y como especie, y cómo podemos moldearlo mejor, juntos. Por mucho que pueda parecer que existe un consenso sobre la cuestión del "futuro", el futuro debe crearse colectivamente o no tendrá nada, al menos no uno que nos envuelva a nosotros los humanos (véase el tratado nuclear / analogías del TNP más abajo).

En este momento, cuando vemos un poco de luz al final del túnel pandémico, es un buen momento para entablar un debate honesto y abierto sobre nuestros objetivos comunes y nuestros valores. telos (ou seja, o objectivo), e sobre as políticas de que precisaremos para criar esse "Bom Futuro". Una cosa es cierta: La duplicación del mercado de la vivienda nos ha fallado recientemente al menos dos veces (durante la crisis financiera de 2007 y durante la crisis de Covid), y el papel del gobierno como agente del mercado será mucho más prominente en la próxima década. No es de extrañar que el Bom Futuro surja con un gran capitalismo a la antigua usanza, y tampoco será introducido por la tecnología. Por el contrario, es una cuestión de ética, valores y las políticas que elaboramos a partir de ellos.

¡Ha llegado la hora de rehumanizar!

Ahora es el momento de pensar y actuar en "civilizar" o "re-humanizar" y sí, regular (pero no estrangular) los gigantescos globos de la tecnología - porque en esta era de cambio exponencial avanzado, las incríveis descobertas de hoje pueden muy bem vir a revelar-se grandes problemas não muito longos. Lo que parece estar bien en "1" puede no estarlo cuando alcanzamos "16" en la curva exponencial (o incluso después de 5 repeticiones). Necesitamos urgentemente avanzar mucho más a medida que avanzamos hacia el futuro a una velocidad vertiginosa. Previsão é simplesmente uma missão crítica agora e não apenas "agradável de se ter". "El futuro se está convirtiendo en un punto de la agenda diaria de cada dirigente y funcionario público.

Por lo tanto, vamos a dejar de preguntarnos "qué será del futuro" - puede en breve, muy literalmente, trazar casi todo lo que podamos imaginar. Y así sucesivamente, precisamos de perguntar: "¿qué tipo de futuro queremos?

La impresionante hazaña de desarrollar no sólo una, sino varias vacunas eficaces contra el SRA-CoV-2, es un caso ejemplar que pone de relieve nuestro estado de aceleración exponencial. Lo que costó una década y más, ahora sólo dura 12 meses, gracias en gran parte a las capacidades globales de computación en la nube y de IA. Dentro de una década, es probable que este ciclo de desarrollo se reduzca a seis semanas o menos.  Imaginem só.

Contudo, esta realização não deve desviar a verdade básica de que a tecnologia sempre tem usos duplos; pode ser boa e não tão boa ao mesmo tempo: É "moralmente neutra até a utilizarmos" (W. Gibson). "Demasiado bom" descreve muito bem este enigma: algo bastante útil pode rapidamente tornar-se algo profundamente prejudicial e corrosivo para a sociedade - como recentemente evidenciado nos meios de comunicação social, que sofrem de obsessão de monetização excessiva e de total falta de responsabilização.

• 

• 

• 

• 

• 

• 

• 

Por eso creo que la Comisión Europea va por el buen camino con sus propuestas. últimos esfuerzos para regular la IA y la tecnología. Sim, é complicado, é doloroso e pode, por vezes, ser demasiado tolerante - mas, de alguma forma, temos de começar a olhar para além dos factores económicos e do crescimento a todo o custo, e avançar para aquilo a que tenho vindo a chamar o quádruplo resultado de "personas, planeta, propósito y prosperidad" (ampliando el trabajo realizado por Elkington y otros en el triplo resultado).

"Demasiadas coisas boas" - ¿te suena?

No es casualidad que el uso excesivo y la dependencia de dispositivos y servicios en línea se consideren a menudo un vicio. Muchos de nosotros consumimos drogas de alguna forma, desde alcohol y tabaco hasta sustancias controladas. Las sociedades aprenden a lidiar con estos productos a través de leyes, reglamentos y una serie de contratos sociales destinados a limitar su alcance e impacto negativo. La tecnología no es diferente en la medida en que el uso excesivo o la sobreexposición también arruinan vidas. Numerosos estudios han demostrado que los usuarios de las redes sociales suelen encabezar las listas de propensos al suicidioy que el FOMO (miedo a perder algo) puede provocar graves trastornos de ansiedad. Pero basta con esperar a que lleguen los términos 5G y las aplicaciones de realidad virtual generalizadas y los "objetos inteligentes".

Há um perigo palpável de que este progresso tecnológico rápido e saltitante possa não ser governado sabiamente antes que as suas capacidades em constante expansão nos dominem, e nos apresente um futuro de facto que a maioria de nós não desejaria para os seus filhos. Necesitamos, por tanto, una mezcla de "nuevas normas" y contratos sociales, responsabilidad demostrada y responsabilidad en los negocios y en la industria, y salvaguardas reales como regulación, leyes y tratados. Nuestra respuesta debe ser amplia y flexible, justa y democrática, pero decisiva cuando se trata de actuar por el lado de la precaución.

Imagínese, por ejemplo, lo que se convertirá en breve posible cuando la mayoría de nosotros tengamos nuestros datos de salud almacenados en la nube e interactuar regularmente con asistentes digitales y chatbots para cuestiones como la ayuda a la salud mental. La recopilación de grandes conjuntos de datos derivados del genoma humano, la biología y las observaciones del comportamiento (por ejemplo, cuando se utiliza un dispositivo móvil o un dispositivo inteligente o cuando se utiliza un conjunto de RV) puede darnos herramientas para detectar enfermedades degenerativas y, posiblemente, hasta... pre-diagnóstico de cáncer. Sin embargo, las consecuencias de las violaciones de la privacidad en este ámbito también pueden ser mil veces peores que las de las acciones armadas, por ejemplo, cuando se capturan ilegalmente los datos de localización de las personas. Más de una vez, como dice la canción: "Ainda não se viu nada“.

La regulación y el reto de un consenso global: la analogía nuclear

Existe un ejemplo útil de cómo lidiamos con la amenaza de la proliferación nuclear. Infelizmente, se necesitaron dos bombas nucleares y casi 25 años de arduo trabajo antes de que el TNP global entró en vigor en 1970. Hoy en día, dada la rapidez y amplitud de los avances tecnológicos, ya no tendremos el lujo de una pista tan larga - y es mucho más difícil construir una bomba nuclear de lo que escrever en código. O bien -teniendo una visión más frágil- ¿podría ser que, en un futuro no muy lejano, tuviéramos que experimentar primeros incidentes catastróficos causados por una dependencia excesiva de "máquinas inteligentes" inadecuadas e inseguras, o enfrentarnos aún más al colapso del ecosistema debido a las experiencias precipitadas con la geoingeniería?

A nivel local, nacional, regional e inevitablemente a escala mundial, necesitamos ponernos de acuerdo sobre las líneas de fondo que podemos acordar, y establecer límites realistas de "menor denominador común" para los que ciertas aplicaciones tecnológicas no puedan prosperar sólo "porque podemos" o porque puedan conseguirse enormes beneficios económicos. Uno de estos ejemplos de consenso alcanzable es la prohibición de sistemas de armas autónomos que matam sem supervisão humana, ou a proibição do uso do reconhecimento facial que, mais recentemente, afectam o reconhecimento para fins comerciais duvidosos. Se trata de otra cuestión que la Comisión de la UE ha empezado a abordar.

La única pregunta que realmente importa: ¿Qué tipo de mundo queremos dejar a nuestros hijos?

Tenemos que darnos cuenta de que en esta próxima década no se trata del futuro que podemos construir, sino más bien del futuro del futuro. futuro que queremos construir. Ya no se trata sólo de gran ingeniería o de economía inteligente, sino más bien de valores, ética y propósito. Las limitaciones científicas y tecnológicas seguirán avanzando a un ritmo acelerado, mientras que las implicaciones éticas y sociales se convertirán en el verdadero centro de atención. Como dijo el famoso E.O. Wilson: "El verdadero problema de la humanidad es el siguiente: tenemos emociones paleolíticas; instituciones medievales; y tecnología semejante a Deus".

Para além disto, Winston Churchill proclamou: "Siempre hay que contar con los americanos para hacer algo seguro, después de haber intentado todo lo demás.", y yo adapto a menudo esta cita para hablar de "humanos" en lugar de estadounidenses. Pero habrá inevitablemente cosas que nunca deberían intentarse porque podrían tener consecuencias irreversibles y existenciales para los seres humanos y para nuestro planeta, y esta la lista se hace cada día más larga. La búsqueda de la inteligencia general artificial, la geoingeniería y la edición del genoma humano: todas estas tecnologías pueden tener un gran potencial. ser o paraíso, ou podem ser o infierno. ¿Y quién será el "control de missão"¿para la humanidad?

En particular, el abordaje bien documentado de Silicon Valley para experimentar casi todo y pedir autorización más tarde ("Avance rápido y quebraderos de cabeza", en el lenguaje pré-IPO de Zuckerberg) nos llevará por un camino muy peligroso. Esta noción puede haber sido tolerable o incluso excitante al principio de la curva exponencial (donde parece casi lo mismo que una curva lineal), pero avanzar con este paradigma es decididamente inadecuado para ayudar a trazar "el buen futuro". Pedir el perdón sencillamente no funciona cuando la tecnología puede trazar rápidamente amenazas existentes que pueden estar muy cerca del desafío al que nos enfrentamos con las armas nucleares.

Llevar la idea de hacer a los humanos "sobre-humanos" de alguna forma, persiguiendo la longevidad extrema o ligando a nuestros colegas en Internet (sim, Elon Musk parece clamar para convertirse en el principal proveedor de estas ideas). Recibimos el riesgo de acabar con soluciones mal diseñadas introducidas por corporaciones con fines lucrativos mientras el público tiene que apañar las piezas y reparar las externalidades - todo en nombre del progreso.

Estamos en un callejón sin salida: el futuro es nuestra elección, por acción o por omisión.

El tiempo es esencial. Temos dez curtos anos para debatir, acordar e implementar nuevos cuadrantes y redes globales (o al menos territoriales) que hagan hincapié en la gobernanza de las tecnologías exponenciales. 

Si no llegamos a un acuerdo sobre al menos los denominadores comunes más pequeños (como las probabilidades claras de sistemas de armas autónomas leales, o las probabilidades de utilización de la ingeniería genética humana con fines militares) me preocupa que los externalidades del crecimiento tecnológico desenfrenado y no supervisado por la AIEl cambio climático, la edición del genoma humano y la geoingeniería se revelan tan perjudiciales como los que se crearon por el crecimiento casi irrestricto de la economía de los combustibles fósiles. En lugar del cambio climático, será el "cambio humano" el que nos colocará ante desafíos muy perversos si no aplicamos aquí algo más "pensamiento de precaución“.

En el futuro, nadie estará autorizado a terceirizar las externalidades negativas de su negocio, ya sea en energía, publicidad, investigación, medios de comunicación social, computación en la Nube, en Internet, IA o con Realidad Virtual. 

Cuando una empresa como Google, de Alphabet, quiere transformar un barrio interior de Toronto en su laboratorio inteligente de la ciudad (Laboratorio de paseos laterales), es el negocio inicial -no la comunidad ni la sociedad civil- el que tiene que responsabilizarse de los cambios sociales que siguen provocando la conectividad y el rastreo generalizados, tanto buenos como malos. Empresas como Google se han dado cuenta de que esta era exponencial (o mejor dicho, "además de pivote de pontón") son de hecho responsables de lo que inventan y de la forma en que lo aplican. Todas las cuestiones tecnológicas son ahora también una cuestión ética, y el éxito en la tecnología ya no se trata sólo de "gran ciencia, ingeniería espantosa y modelos de negócio escaláveis" (y talvez nunca lo ha sido).

Además, la responsabilidad de hacer frente a los peligros potencialmente graves (y cada vez más) es cada vez mayor. existenceis) deben considerarse en cada modelo de negación, desde el principio, y deben tenerse en cuenta todos los posibles efectos secundarios durante todo el proceso de concepción de la negación y todas las fases posteriores de aplicación. Precisamos descartar o "jantar primeiro, depois a moral"de Silicon Valley o sus equivalentes chinos. Los enfoques holísticos (es decir, los modelos que benefician a la sociedad, la industria, las empresas y la humanidad en general) deben sustituir a las actitudes de "avanzar deprimido y quebrar las costumbres", y la lógica de las partes interesadas debe sustituir a primazia do accionista (*assistir Paul Polman, antigo CEO da Unilever, falar sobre isto, aquí)  

En los próximos cinco años, pensamos que asistiremos a la aparición de nuevas bolsas de valores (como la aún incipiente LTSE em São Francisco) onde serão catadas empresas que operam com base na premisa "Pessoas, Planeta, Propósito e Prosperidade". EUROPA debe aprovechar esta oportunidad y ¡asumir el liderazgo!

Soy optimista o utópico, pero estoy convencido de que aún podemos definir y moldear un "buen futuro" para toda la humanidad, así como para nuestro planeta.

Aquí tiene algunas sugerencias para orientar este debate:

1. Las cuestiones éticas de las tecnologías exponenciales deben considerarse tan importantes como los beneficios económicos que pueden reportar. La tecnología no es la respuesta a todos los problemas, y sería imprudente pretender que la tecnología "lo resuelva todo". Si hay algo que he aprendido en mis 20 años como futurista, es lo siguiente: La tecnología no resolverá los problemas sociales, culturales o humanos, como la (in)igualdad o la injusticia. Por el contrario, muchas veces mejora la situación porque la tecnología conduce a la eficiencia independientemente de sus consecuencias morales. O Facebook es el mejor ejemplo de ello: una idea realmente poderosa, muy ingeniosa, que funciona a la perfección (tal y como se concibió) y, sin embargo, profundamente corrosiva para nuestra sociedad (echa un vistazo a mis conversaciones sobre este tema), aquí). El CEO de Apple, Tim Cook, acerta en cheio quando diz: "La tecnología puede hacer grandes cosas, pero no quiere hacer grandes cosas. No quiero hacer nada". El "querer" es nuestro trabajo, y no debemos huir de esta responsabilidad sólo porque sea enfadonho o pueda abrandar la monetización.
2. Os seres humanos devem permanecer no topo (HITL): En un futuro previsible, y hasta que estemos mucho más cerca de nosotros mismos (y no sólo de nuestro cerebro) y seamos capaces de controlar las tecnologías que pueden potencialmente "ser como nosotros" (como IAG ou IAS), creo firmemente que debemos mantener a los humanos en el circuito, aunque sea menos eficiente, más lento o más prescindible. En caso contrario, podemos estar en el camino de la desumanización mucho más deprimidos de lo que pensamos. A pró-acção e a precaução deben considerarse cuidadosamente y equilibrarse constantemente.
3. Debemos seguir pensando en el futuro inmediato y nos acostumbramos a tener una visión tanto exponencial como a largo plazo - recordando al mismo tiempo el hecho de que los human beings are organic (o lo que es lo mismo, el precio exponencial). Como ya se ha mencionado, ahora también estamos avanzando por esa línea mágica en la que el ritmo de los foguetes de cambio se eleva: 1-2-3 puede parecerse mucho a 1-2-4, pero saltar de 4 a 8 y a 16 es muy diferente de ir de 3 a 4 y a 5. Tenemos que aprender y practicar cómo vivir linealmente, pero imaginar exponencialmente; una perna en el presente y una perna en el futuro.
4. Necesitamos nuevos "tratados de no proliferación".. La inteligencia artificial general (IAG), la geoingeniería o la edición del genoma humano son tanto oportunidades mágicas como amenazas existenciales significativas (como la energía nuclear, argumentan algunos), pero probablemente no nos ocuparemos de ellas. El lujo de viajar con IAG y después recuperamos el fracaso. Uma "explosión de inteligencia"en IA puede ser un acontecimiento irreversible, y lo mismo puede ocurrir con las modificaciones del genoma humano en la línea germinal. Por consiguiente, precisaremos de normas prospectivas, vinculativas y colectivas, acompañadas de un memorando internacional sobre la GAI. 
5. Tenho falado muito sobre a necessidade de um "Conselho de Ética Digital" durante los últimos cinco años, a venirçar pelo meu livro de 2016 "Tecnologia vs Humanidade". Muchos países, estados y ciudades han creado recientemente organismos similares, como el Consejo Europeo de Inteligencia Artificial de la UE. Necesitamos más de ellos, a nivel regional, nacional, internacional y mundial.

Por eso, aquí estamos en 2021, en esta fatídica y también muy esperanzadora encrucijada en el camino. Todos debemos elegir el camino correcto y empezar a construir el "buen futuro".

¡No es demasiado tarde - tenham esperança, tenham coragem e persigam a sabedoria!