Por qué debemos trabajar hoy para garantizar que el avance tecnológico exponencial sea una victoria para la humanidad y el planeta. (ir a 1TP3VERSIÓN ESPAÑOLA)

• 

• 

Gerd Leonhard, futurista y humanista. Zürich, Schweiz 17. Mai 2021. Publicado también en Mundo cognitivo.

La tecnología nos resulta muy útil. Los sistemas KI están hoy en día en condiciones de reconocer ciertas formas de caballos con una alta probabilidad de convertirse en seres humanos. Los robots llevan a cabo investigaciones y operaciones a gran escala, aunque con muy poca o ninguna influencia humana. Los pilotos automáticos vuelan y aterrizan los aviones en las condiciones más variadas y pueden, incluso, controlar la autonomía de vuelo. Los sensores captan datos en tiempo real de las máquinas y sus "componentes digitales" para advertir de averías o reparaciones importantes. Las impresoras 3D están preparadas para realizar recambios y mejorar así las posibilidades de funcionamiento en entornos complejos.

Sin embargo, la tecnología y, en particular, los sistemas KI, ofrecen un nivel de rendimiento sin precedentes, lo que pone de relieve la creciente importancia de los avances tecnológicos. En relación con Marshall McLuhan (hace 57 años)!): Cada vez que ampliamos nuestras posibilidades, también amputamos otras.. Heute versprechen die sozialen Medien, uns zu "erweitern", indem sie uns allen erlauben, unsere Gedanken online zu teilen, doch sie "amputieren" uns auch, indem sie uns zu leichten Zielen für Verfolgung und Manipulation machen. Ganamos la Reichweite, pero verlieren die Privatsphäre.

Los efectos de los cambios exponenciales son muy difíciles de predecir.

Tenemos que darnos cuenta de que el actual avance tecnológico, que a menudo resulta fascinante y fascinante, casi siempre es inofensivo y poco controlable, es muy tedioso, por lo que debemos pensar que en el futuro será así, ya que la curva exponencial de 4 a 8 a 16 y aún más aumentará. 30 Schritte linear mögen mich über die Straße bringen, 30 exponentielle Schritte entsprechen 26 Reisen um den Globus. El orden de magnitud es muy diferente, y lo que no funcionó hasta el momento del despegue puede convertirse en una catástrofe.

Aquí y ahora nos encontramos en el punto de partida de muchas de las ciencias y tecnologías fundamentales del siglo XXI. Jahrhunderts, von künstlicher Intelligenz und Deep Learning über die Bearbeitung des menschlichen Genoms bis hin zu Geo-Engineering, Langlebigkeit und Human Enhancement - unsere gesamten Rahmenbedingungen werden sich ändern -. nicht nur das Bild!

• 

• 

• 

• 

• 

En los últimos años, cada uno de los sectores mencionados (que a menudo he utilizado como Game-Changers bezeichne) mehr verändern als im gesamten letzten Jahrhundert. La ciencia-ficción se acerca cada vez más a la ciencia-ficción, y si el ser humano (antes) es biológico y no es un ser humano, la ciencia-ficción se convierte en ciencia. nicht exponentiell weiterentwickelt, fällt es uns oft sehr schwer zu verstehen, wohin das alles führt. Lo que hoy en día es increíble, mágico y "bueno" para nosotros, puede ser "demasiado bueno" y pasar de ser un artefacto a ser el centro de atención, de ser un símbolo de Dios a ser una máquina de dominar el mundo.

Ya se trate de exterminar a los seres humanos, fabricar chimeneas o destruir robots en la guerra: Lo que ha sucedido en los últimos 10 años ha sido el punto de partida de la mayoría de nuestras reflexiones sobre el cambio climático y nuestras ideas sobre cómo impulsar la innovación tecnológica de una forma normal y, a veces, incluso involuntaria.

Definir el "buen futuro

Meiner Meinung nach steht jetzt das auf dem Spiel, was ich seit kurzem "die gute Zukunft" also "El buen futuro"(por ejemplo, una utopía o, mejor aún, una protopía en contraposición a una distopía), y no podemos dejar de entender, antes de abandonar nuestro trabajo, por ejemplo, cómo definir conjuntamente lo que significa un "buen futuro" para nosotros, colectivamente y como especie, y cómo podemos gestionarlo de la mejor manera posible. Por lo tanto, si se llega a un consenso sobre la cuestión de los "Guten", el futuro debe hacerse de forma cooperativa o, de lo contrario, no habrá nada, y mucho menos nada que podamos hacer nosotros mismos (véanse más adelante las analogías con los TNP).

Gerade jetzt, wo wir vielleicht endlich so etwas wie ein Licht am Ende des Pandemietunnels sehen, ist ein guter Zeitpunkt, um eine ehrliche und offene Diskussion über unsere gemeinsamen Ziele und unser Telos (d.h. den Zweck) zu beginnen, und über die Politik, die wir brauchen, um diese "gute Zukunft" zu schaffen. Una palabra es segura: En los últimos tiempos, el mercado libre se ha hundido casi dos veces (durante la crisis financiera de 2007 y la subida de los precios de los alimentos), y el papel del Estado como gestor del mercado se intensificará aún más en los próximos años. El buen futuro no dependerá en absoluto de la política exterior y de seguridad común. guten alten Kapitalismus y no se basa en la tecnología. Se trata más bien de una cuestión ética, política y de valores, que nosotros gestamos sobre esta base.

¡Zeit zur Rehumanisierung!

Ahora es el momento de hablar de "civilización" o " civilización".Wiederhumanisierung"Y sí, la regulación (pero no la estrangulación) de las empresas tecnológicas mundiales se ha convertido y se está gestionando, ya que en esta época de cambio exponencial acelerado, los avances tecnológicos de hoy en día no se verán en un futuro del todo lejano como grandes problemas. Was bei "1" noch gut aussieht, ist vielleicht (oder sogar wahrscheinlich) nicht mehr in Ordnung, wenn wir "16" auf der Exponentialkurve erreichen (d.h. nach 5 Verdopplungen). Wir müssen also dringend viel weiter vorausschauen, denn wir bewegen uns mit Warp-Drive in die Zukunft. FORESIGHT es ahora muy interesante y ya no es sólo "agradable de tener". "Die Zukunft" (El futuro) es uno de los principales puntos de referencia para cualquier estrategia de desarrollo y para cualquier responsable de la toma de decisiones.

Hören wir also endlich auf zu fragen: "¿Qué nos traerá el futuro?" - sie kann bald, im wahrsten Sinne des Wortes, fast alles bringen, was wir uns vorstellen können. Stattdessen müssen wir fragen: "Welche Zukunft WOLLEN wir“?

La extraordinaria capacidad para desarrollar no sólo una, sino hasta varias sustancias activas contra el SARS-CoV-2, es un buen ejemplo de nuestra difícil situación exponencial. Lo que antes duraba varios siglos o más, ahora sólo dura 12 meses, sobre todo gracias a las posibilidades globales de la computación en nube y la inteligencia artificial. En el transcurso de los próximos años, este ciclo de desarrollo durará unas semanas o menos.

Sin embargo, estos errores no deben atribuirse a la realidad fundamental de que la tecnología siempre tiene un doble uso. kann gleichzeitig gut und nicht so gut sein: Sie ist "moralisch neutral, bis wir sie benutzen" (W. Gibson). "Zu viel des Guten" bzw. 'demasiado de algo bueno' describe muy bien este dilema: Cualquier cosa que no sea genuina puede convertirse rápidamente en algo muy perjudicial y perjudicial para la sociedad, como ha ocurrido recientemente con los medios de comunicación social, que se han visto sometidos a un excesivo control y a una gran carga de trabajo voluntario.

• 

• 

• 

• 

• 

• 

• 

Deshalb denke ich, dass die La Comisión Europea con sus últimos logros para regular el conocimiento y la tecnología por el buen camino. Ja, es ist kompliziert, es ist schmerzhaft und kann manchmal auch geradezu anmaßend sein - aber irgendwie müssen wir anfangen, über wirtschaftliche Faktoren und Wachstum um jeden Preis hinauszublicken und uns auf das zuzubewegen, was ich die vierfache Bottomline von "Menschen, Planet, Zweck und Wohlstand" / Personas Planeta Propósito Prosperidad nenne (in Erweiterung der Arbeit von Elkington und anderen zu 'people planet profit' und der triple resultado).

"¡Zu viel des Guten" - das kommt uns bekannt vor!

Es ist kein Zufall, dass die übermäßige Nutzung und Abhängigkeit von Internet und Online-Diensten oft als Sucht bezeichnet wird. Muchos de nosotros consumimos "drogas" en todas sus formas, desde alcohol hasta tabaco, pasando por sustancias más o menos controladas. Nuestra sociedad se ha visto obligada a luchar contra estas sustancias y ha adoptado leyes, reglamentos y una serie de medidas sociales para reducir su impacto y sus consecuencias negativas. La tecnología no es lo único que nos afecta, sino que también arruina potencialmente nuestra vida. Varios estudios han demostrado que los usuarios avanzados de las redes sociales ocupan un lugar muy destacado en la lista de personas que se preocupan por sí mismas, y que el miedo a perderse algo (FOMO, por sus siglas en inglés) puede llevarles a sufrir graves angustias. Sin embargo, ¡esperemos a que el 5G y todas las aplicaciones de realidad virtual y las "gafas inteligentes" estén disponibles!

Existe el peligro de que este avance tecnológico tan rápido y veloz no llegue a buen puerto, lo que nos permitiría ampliar sus posibilidades cada vez más amplias y hacer realidad una realidad que la mayoría de nosotros no desea para sus hijos o ni siquiera para sus hijos. Por lo tanto, deseamos una combinación de nuevas normas y directrices empresariales, fomento de la confianza y respeto de los derechos en la economía y la industria, y normas de protección más estrictas, así como reglamentos, leyes y reglamentos. Nuestra respuesta debe ser breve y flexible, justa y democrática, pero dennoch sehr entschieden, wenn es um unsere Menschlichkeit geht.

Por ejemplo, si la mayoría de nosotros tiene sus datos de salud en la nube e interactúa de forma regular con asistentes digitales y chatbots para, por ejemplo, ayudar a resolver problemas psíquicos. La combinación de datos de riesgo procedentes del genoma humano, la biología y los hábitos de conducta (p. ej., en la alimentación, el ejercicio físico, etc.). B. bei der Nutzung eines Mobilgeräts oder einer Smartwatch oder beim Tragen eines VR-Sets) abgeleitet werden können, wird uns neue Werkzeuge bringen, mit denen wir degenerative Krankheiten erkennen und möglicherweise sogar Krebs im Voraus diagnostizieren können. Sin embargo, las consecuencias de las alteraciones de la protección de datos en este ámbito pueden ser mucho más leves que los diversos problemas actuales, por ejemplo, cuando los datos de referencia de las personas no están disponibles correctamente. Como dice la canción "Aún no has visto nada".

Regulación y necesidad de un sentido común global: analogía con las armas nucleares

Un ejemplo interesante es la forma en que nos enfrentamos a la proliferación de las armas atómicas. Sin embargo, tuvieron que pasar dos bombas atómicas y casi 25 años de trabajo, hasta que en 1970 se puso en marcha el tren de la energía atómica en todo el mundo. Gracias a los rápidos y breves avances tecnológicos, hoy en día ya no tenemos el lujo de un tren de arranque tan largo, y es mucho más difícil fabricar una bomba atómica que escribir un código. Oder - etwas düsterer betrachtet - könnte es sein, dass wir in einer nicht allzu fernen Zukunft zuerst auch erst einmal katastrophale Zwischenfälle erleben müssen, die durch übermäßiges Vertrauen auf untaugliche und unsichere "Máquinas inteligentes"¿O nos vemos confrontados a una mayor integración de los ecosistemas a través de experimentos más amplios de geoingeniería?

A nivel local, nacional, regional y, en menor medida, mundial, debemos centrarnos en los fundamentos comunes y en soluciones realistas para los "pequeños ciudadanos comunes", sobre los que no se pueden desarrollar aplicaciones tecnológicas a medida, aunque "podamos hacerlo" o porque pueden surgir enormes ventajas económicas. Un buen ejemplo de ello es el Tratado de Lisboa. sistemas autónomos de defensa, die ohne menschliche Aufsicht töten, oder das Verbot der Verwendung von Gesichts- und neuerdings auch Affekterkennung para zonas de gran densidad de población (éste es un tema con el que la Comisión Europea ya se ha comprometido).

Die einzige Frage, die wirklich zählt: ¿Qué mundo queremos para nuestros hijos?

Debemos asegurarnos de que, en los próximos años, no se produzca ningún cambio en nuestro futuro, sino que se produzcan cambios. welche Zukunft que queremos diseñar. Ya no se trata sólo de tecnología avanzada, "transformación digital" o economía inteligente, sino de valores, ética y sentido (Propósito). Wissenschaftliche und technologische Begrenzungen werden weiterhin in rasantem Tempo wegfallen, während die ethischen und gesellschaftlichen Implikationen in den Mittelpunkt rücken werden. Como dijo E.O. Wilson: "El gran problema de la humanidad es el siguiente: tenemos emociones paleolíticas, instituciones mitralterales y tecnología única".

Winston Churchill dijo una vez: "Man kann sich immer darauf verlassen, dass die Amerikaner das Richtige tun - nachdem sie alles andere versucht haben", und ich passse dieses Zitat often an "Menschen" statt Amerikaner zu lesen. Sin embargo, se trata de hechos inauditos que no pueden evitarse, ya que pueden tener consecuencias irreversibles y duraderas para nosotros y nuestro planeta, y esta lista se amplía cada día. Conectados a través de la red künstlicher allgemeiner Intelligenz (AGI)La geoingeniería y la edición genómica humana son tecnologías que pueden ser potencialmente "himmílicas" o que pueden dar lugar a conflictos. Y quién será el "Control de Misión" de la humanidad?

En particular, el planteamiento de los gigantes de Silicon Valley, muy bien documentado, de experimentar y, más tarde, de aprender ("Muévete rápido y rompe cosas", en Zuckerbergs Parole vor dem Börsengang), wird uns auf einem sehr gefährlichen Weg führen. Esta afirmación se produjo al comienzo de la Exponentialkurve (wo sie fast genauso aussieht wie eine lineare Kurve) erträglich oder sogar aufregend gewesen sein, aber ansonsten ist dieses Paradigma entschieden ungeeignet, um "eine gute Zukunft". Para que funcione correctamente, es necesario que la tecnología cumpla con rapidez los requisitos existentes, que se aproximan a las necesidades que nos planteamos con Atomwaffen hace poco.

Mantengamos esta idea, las personas son iguales "übermenschlich"para hacerla realidad, si queremos aumentar nuestra productividad o combinar nuestra empresa con Internet (sí, Elon Musk quiere que esta idea se convierta en una realidad). A menudo me preguntaba si nos enfrentábamos al reto de acabar con soluciones a medio camino entre las soluciones de las empresas ganadoras, mientras que la capacidad de absorción de la OMC y la capacidad de absorción de los costes externos debían mantenerse, todo ello con el único objetivo de mejorar los resultados materiales.

Wir befinden uns an einer Weggabelung: El futuro está en nuestras manos, con o sin mano

Llevamos sólo unos pocos años debatiendo, elaborando y aplicando nuevas normas y reglamentos globales (o incluso territoriales) que regulen la dirección y el control de las empresas. tecnologías exponenciales angeht. 

Wenn wir uns nenigstens auf den kleinsten gemeinsamen Nenner einigen können (wie z.B. klare Verbote von tödlichen autonomen Waffensystemen oder Verbote des Einsatzes von Gentechnik am Menschen für militärische Zwecke), sage ich voraus, dass sich die externen Effekte des ungehemmten und unkontrollierten technologischen Wachstums von KI, menschlicher Genom-Editierung und Geo-Engineering als ebenso schädlich erweisen werden wie die, die durch das nahezu ungebremste Wachstum der fossilen Wirtschaft entstanden sind. Statt des Klimawandels wird es der "menschliche Wandel" sein, der uns vor sehr harte Herausforderungen stellen wird, wenn wir hier nicht etwas mehr "Vorsichtsdenken" walten lassen.

En el futuro, nadie podrá evitar los efectos negativos externos de su actividad, ya sea en los ámbitos de la energía, el comercio, la búsqueda, los medios sociales, la computación en nube, el IoT, la KI o la realidad virtual. 

Si una empresa como Google de Alphabet incorpora todo un distrito urbano de Toronto a su Smart-City-Labor (Side Walks Lab), la empresa iniciadora -y no la administración municipal, el Estado o la sociedad civil- deberá hacer frente a las alteraciones sociales que se produzcan, como el aumento de la actividad comercial y el seguimiento de la misma. Las empresas como Google deben saber que, en esta era exponencial (p. ej., "en la era de la nube"), siempre es posible trabajar con ellas, encontrar lo que buscan y hacer lo que hacen. En la cuestión tecnológica es ahora también una cuestión éticaY el éxito de la tecnología no es sólo "ciencia avanzada, técnica avanzada y modelos de negocio perfectos" (y esto no era así en absoluto).

En cualquier caso, es necesario tener en cuenta la posibilidad de que se produzcan efectos adversos desde el principio en cada modelo de empresa, así como las posibles repercusiones durante todo el proceso de desarrollo de la empresa en su conjunto y en todas las fases futuras de su aplicación. Nos regiremos por el lema "Erst das Essen, dann die Moral" de Silicon Valley (o incluso de los colgantes chinos). Ansätze ganzheitliche (d.h. (por ejemplo, los modelos de sociedad, industria, economía y sociedad en general) deben limitarse al "muévete rápido y rompe cosas", y a los "no". Stakeholder-Logik muss das Shareholder-Primat ersetzen (*hier können Sie Paul Polman, den ehemaligen CEO von Unilever, darüber sprechen seehen)  

3 de mis 6 prioridades para el futuro

En los últimos cinco años, mi interés se ha centrado en la creación de nuevas empresas (por ejemplo, LTSE en San Francisco), en las que se han identificado empresas que trabajan bajo el lema "Personas, Planeta, Propósito y Prosperidad". EUROPA debe aprovechar esta oportunidad y crear un papel de liderazgo!

Nennen Sie mich einen Optimisten oder Utopisten, aber ich bin überzeugt, dass wir immer noch eine "gute Zukunft" für die gesamte Menschheit sowie für unseren Planeten definieren können und gestalten.

He aquí algunas sugerencias para orientar este debate:

1. Las cuestiones éticas de las tecnologías exponenciales deben considerarse tan importantes como los beneficios económicos que pueden aportar. La tecnología no es la respuesta a todos los problemas, y nos sentimos mal cuando buscamos en ella la "solución para todo". Si existe un concepto, que yo mismo he desarrollado en mis 20 años como futurista, es éste: La tecnología no resolverá problemas sociales, culturales o humanos como la (in)felicidad o la injusticia. Por otra parte, a menudo reduce estos problemas, ya que la tecnología aumenta la eficacia sin tener en cuenta las consecuencias morales. Facebook es el mejor ejemplo para esta problemática: un concepto muy sencillo, muy fácil de construir, que funciona a la perfección (¡tal y como está redactado!) - y muy útil para nuestra sociedad (consulte mis artículos sobre este tema, hier). Tim Cook, el consejero delegado de Apple, lo pone de manifiesto al afirmar: "La tecnología puede hacer grandes cosas, pero no hará grandes cosas. No hará nada". El "querer" es nuestro trabajo, y no debemos desviarnos de esta tarea, a menos que sea imposible o que la monetarización sea imposible.
2. Der Mensch muss in-the-loop (HITL) bleiben: Para el futuro y hasta que estemos mucho mejor, nosotros mismos (y por eso no me refiero sólo a nuestra identidad) y en condiciones de controlar las tecnologías y las máquinas, que pueden ser "como somos" ("wie wir sein könnten").alias AGI oder ASI), glaube ich fest daran, dass wir den HITL haben müssen, auch wenn es weniger effizient, langsamer oder kostspieliger ist. Sin embargo, el camino hacia la comprensión es mucho más rápido de lo que pensamos: Pro-Aktion und Precaution müssen sorgfältig abgewogen werden und ständig in Balance sein.
3. Debemos aceptar esta breve descripción y nos animan a tener una visión tanto exponencial como a largo plazo, y a respetar ese objetivo, dass der Mensch organisch ist (d. h. das Gegenteil von exponentiell). Como se ha explicado anteriormente, se trata de una fuerza mágica que hace que el ritmo de la variación sea más alto: 1-2-3 es lo mismo que 1-2-4, pero el paso de 4 a 8 y de 8 a 16 es totalmente distinto al de 3 a 4 y de 4 a 5. Wir müssen lernen und üben, linear zu leben, aber exponentiell zu denken; ein Bein in der Gegenwart und ein Bein in der Zukunft.
4. Queremos nuevas "Herramientas para la no violación".: La Inteligencia Genómica Computacional (AGI), la Geoingeniería o la Edición Genómica Humana son tanto posibilidades mágicas como posibilidades reales (por ejemplo, el Atomkraft, como algunos de nuestros colegas argumentan), pero no podemos darnos el lujo de hacerlo, uns in AGI auszutoben und uns dann von einem Misserfolg zu erholen. Eine "IntelligenzexplosionEn la IC puede producirse un fenómeno irreversible, al igual que la alteración del genoma humano en la "línea germinal". Por ello, necesitamos normas futuras, verbales y colectivas, empezando por un Memorándum internacional sobre la AGI. 
5. Ich habe in den letzten fünf Jahren viel über die Notwendigkeit eines "Ética digital", empezando por mi libro "Tecnología vs. Humanidad", publicado en 2016. En los últimos tiempos, varios Estados y ciudades han comenzado a promover iniciativas similares, como por ejemplo el Consejo Europeo de Inteligencia Artificial de la UE. Queremos más, a escala regional, nacional, internacional y mundial.

Aquí nos encontramos también en el año 2021 y nos dirigimos a este camino apasionante y a la vez muy gratificante. A todos nos incumbe seguir el camino correcto y comenzar a construir el "futuro próspero".

No es demasiado tarde - ¡hazte ilusiones, hazte la vida y vete a la vida!