Warum wir jetzt aktiv werden müssen, um zu gewährleisten, dass der exponentielle technische Fortschritt für die Menschheit und den Planeten von Nutzen ist ENGLISH Version hier. Portugiesische Fassung hier.

• 

• 

No cabe duda de que la tecnología se ha portado bien con nosotros. Die IA-Systeme sind heute in der Lage, einige Formen von Hautkrebs mit größerer Genauigkeit zu erkennen als menschliche Ärzte. Die Roboter führen Ultraschalluntersuchungen und Zirugien durch, oft mit weniger oder gar keinem menschlichen Eingriff. Los pilotos automáticos vuelan y aterrizan aviones en las condiciones más adversas y pronto podrán dirigir taxis aéreos personales. Los sensores recopilan datos en directo de la maquinaria y de sus "gemelos digitales" para predecir próximos fallos o avisar de reparaciones cruciales. Las 3D-Impresoras sind in der Lage, Ersatzteile zu entladen, was die Möglichkeiten der Wartung an abgelegenen Orten verbessert.

Dennoch werden in dem Maße, in dem die Technologie und die los sistemas de IAund vor allem stärker werden, wird auch die negative Seite der exponentiellen Beschleunigung des technischen Fortschritts wieder sichtbar werden. Siguiendo a Marshall McLuhan (¡hace 57 años!), cada vez que ampliamos nuestras capacidades, también amputamos otras. Hoy en día, las redes sociales prometen "ampliarnos" al permitirnos a todos compartir nuestros pensamientos en línea, pero también nos "amputan" al convertirnos en objetivos fáciles de rastrear y manipular. Wir gewinnen an Reichweite, aber wir verlieren an Privatheit.

El impacto del cambio exponencial es increíblemente difícil de imaginar

Debemos tener en cuenta que, si bien el progreso tecnológico actual parece a menudo muy impresionante y útil, en su mayor parte inofensivo y fácilmente manejable, sería muy insensato suponer que esto seguirá siendo así en un futuro próximo, ya que estamos saltando literalmente hacia arriba en la curva exponencial de 4 a 8 a 16 y así sucesivamente. 30 pasos lineales pueden llevarme a cruzar la calle, 30 pasos exponenciales equivalen a 26 viajes alrededor del mundo. Die Reichweite der Größenordnung ist völlig unterschiedlich, und was vor dem Gipfeltreffen funktioniert hat, kann sich später als katastrophal erweisen.

Aquí y ahora estamos en el punto de despegue de muchas de las ciencias y tecnologías fundacionales del siglo XXI, desde la inteligencia artificial y el aprendizaje profundo hasta la edición del genoma humano, pasando por la geoingeniería, la longevidad y la mejora humana: todo nuestro marco está a punto de cambiar, ¡no solo la imagen!

• 

• 

• 

• 

• 

In der nächsten Dekade werden alle zuvor erwähnten Bereiche (die bisher als Spielveränderer) tiene más cambios previstos que los que presenciamos en todo el siglo anterior, en total. La ciencia ficción se está convirtiendo cada vez más en una realidad científicaund da die Menschen biológisch sind (von jetzt an) y no progresan exponencialmente, a menudo nos cuesta mucho entender hacia dónde va todo esto. Lo que hoy puede ser realmente asombroso, mágico y "bueno" para nosotros, puede convertirse pronto en "demasiado de algo bueno", y pasar de ser una herramienta a ser el propósito, de ser un envío de Dios a ser una máquina del juicio final.

Sei es, um die Menschen zu verbessern, um Quimeras zu konstruieren oder um Roboter in den Krieg zu schicken: Was während des Krieges passieren wird die nächsten 10 Jahre wird die meisten unserer Vorstellungen von einem schrittweisen Fortschritt über den Haufen werfen und unsere Vorstellung davon, wie die technische Innovation das Gemeinwohl fördern kann, auch wenn wir sie nicht fordern, in den Hintergrund drängen.

Die "gute Zukunft" definieren

En mi opinión, lo que recientemente he empezado a llamar "el buen futuro" (es decir, una utopía o, mejor aún, una protopía en contraposición a una distopía) está ahora en juego, y no podemos permitirnos el lujo de rehuir el duro trabajo de definir colectivamente lo que significa realmente un "buen futuro"para nosotros, colectivamente y como especie, y cómo podemos darle la mejor forma, juntos. Por muy arduo que pueda parecer el consensuso sobre la cuestión del "bien", el futuro debe crearse colectivamente o no habrá ninguno, al menos no uno que nos involucre a los humanos (véanse las analogías con el tratado nuclear y el TNP más adelante).

En este momento, en el que vemos algo parecido a una luz al final del túnel de la pandemia, es un buen momento para iniciar un debate honesto y abierto sobre nuestros objetivos compartidos y nuestro telos (es decir, el propósito), y sobre las políticas que necesitaremos para crear ese "Buen Futuro". Una cosa es cierta: La doctrina del libre mercado nos ha fallado recientemente al menos dos veces (durante la crisis financiera de 2007, y durante la crisis de Covid), y el papel del gobierno como controlador del mercado está destinado a ser mucho más prominente en la próxima década. No es probable que el Buen Futuro se produzca con un capitalismo a la antigua usanza, y tampoco lo hará la tecnología. Se trata más bien de una cuestión de ética, de valores, y de las políticas que elaboramos a partir de ellos.

Ha llegado el momento de rehumanizarse

Ahora es el momento de pensar y actuar para "civilizar" o "rehumanisieren"y, sí, regular (pero no estrangular) a los gigantes globales de la tecnología, porque en esta era de cambios exponenciales avanzados, los sorprendentes avances de hoy pueden convertirse en grandes problemas en un futuro no muy lejano. Lo que parece estar bien en "1" puede dejar de estarlo cuando lleguemos a "16" en la curva exponencial (es decir, después de 5 duplicaciones). Necesitamos urgentemente mirar mucho más allá, ya que avanzamos hacia el futuro a una velocidad de vértigo. La previsión es ahora simplemente una misión crítica y ya no es solamente "agradable de tener". El "futuro" se está convirtiendo en un tema de la agenda diaria de todos los líderes y funcionarios públicos.

Así que dejemos de preguntarnos "qué nos deparará el futuro", que pronto puede traer, literalmente, casi cualquier cosa que podamos imaginar. En su lugar, debemos preguntarnos: "¿qué tipo de futuro QUEREMOS?

Das enorme Risiko, nicht nur eine, sondern mehrere wirksame Impfungen gegen SARS-CoV-2 zu entwickeln, ist ein Beispiel für unsere beschleunigte Entwicklung. Lo que antes tardaba una década y más, ahora tarda apenas 12 meses, gracias en gran parte a las capacidades globales de la computación en la nube y la IA. Es ist wahrscheinlich, dass sich dieser Entwicklungszyklus innerhalb von einem Jahrzehnt auf bis zu sechs Monate verkürzt.  Imagínese.

Sin embargo, este logro no debe distraer la atención de la verdad básica de que la tecnología siempre tiene un doble uso; puede ser buena y no tan buena al mismo tiempo: Es "moralmente neutra hasta que la usamos" (W. Gibson). "Ein bisschen viel des Guten" beschreibt muy bien este enigma: algo bastante útil puede convertirse rápidamente en algo profundamente dañino y corrosivo para la sociedad, como se ha puesto de manifiesto recientemente con las redes sociales, que sufren una obsesión por la monetización excesiva y una absoluta falta de responsabilidad.

• 

• 

• 

• 

• 

• 

• 

Por eso creo que la Comisión Europea va por el buen camino con sus Jüngste Bemühungen um die Regulierung von IA und Technologie. Sí, es complicado, es doloroso y a veces puede ser prepotente - pero de alguna manera, debemos empezar a mirar más allá de los factores económicos y el crecimiento a toda costa, y avanzar hacia lo que he estado llamando la cuádruple línea de fondo de "las personas, el planeta, el propósito y la prosperidad"(Erweiterung der von Elkington und anderen durchgeführten Arbeit über die dreifache Grundfläche).

"Demasiado de algo bueno", ¿les suena?

Es ist kein Zufall, dass der exzessive Konsum und die Abhängigkeit von Online-Devices und -Dienstleistungen oft als Sucht angesehen werden. Muchos de nosotros consumimos drogas de alguna forma, desde alcohol y tabaco hasta incluso sustancias controladas. Las sociedades han aprendido a lidiar con esas adicciones mediante leyes, reglamentos y una serie de contratos sociales diseñados para limitar su alcance y su impacto negativo. La tecnología no es diferente en el sentido de que el uso excesivo o la sobreexposición también arruina vidas. Viele Studien haben dokumentiert, dass die intensiven Nutzer der sozialen Netzwerke sollten die Listen der Selbstmordgefährdung erstellenund dass FOMO (far of missing out) schwerwiegende Angstzustände hervorrufen kann. Aber wir müssen nur darauf warten, dass wir 5G und virtuelle, allgegenwärtige Anwendungen und "intelligente Taschen" bekommen.

Es besteht ein greifbares Risiko, dass dieser rasante und schnelle technische Fortschritt nicht bewusst gesteuert wird, bevor seine ständig wachsenden Kapazitäten uns überfordern und uns eine Zukunft bescheren, die die meisten von uns für ihre Kinder nicht wünschen würden. Deshalb brauchen wir eine Mischung aus "neuen Normen" und Sozialverträgen, nachgewiesener Verantwortung und Abrechnungen in den Unternehmen und der Industrie sowie realen Schutzmaßnahmen wie Regulierung, Gesetzen und Verträgen. Unsere Antwort muss umfassend und flexibel, gerecht und demokratisch sein, aber auch entschlossen, wenn es darum geht, auf der Seite der Vorsorge zu handeln.

Imaginemos, por ejemplo, lo que pronto será posible cuando la mayoría de nosotros tengamos nuestros Sanitärdaten, die in der Datenbank gespeichert werden e interactuemos regularmente con asistentes digitales y chatbots para cosas como el apoyo a la salud mental. Die Zusammenstellung massenhafter Daten aus dem menschlichen Genom, dem Biom und den Verhaltensbeobachtungen (z. B. bei der Nutzung eines mobilen Geräts oder eines intelligenten Rollstuhls oder bei der Nutzung einer RV-Kombination) kann uns dabei helfen, degenerative Erkrankungen und möglicherweise auch Krankheiten zu erkennen. Krebsvordiagnose. Dennoch können die Folgen von Datenschutzverletzungen in diesem Bereich um ein Vielfaches schlimmer sein als die aktuellen Betrügereien, z. B. wenn die Ortsdaten von Personen unbemerkt erfasst werden. De nuevo, como dice la canción "Aún no has visto nada“.

La regulación y el reto de un consensuso global: la analogía nuclear

Existe un ejemplo útil en la forma en que tratamos la amenaza de la proliferación nuclear. Desgraciadamente, se necesitaron dos bombas nucleares y casi 25 años de duro trabajo antes de que Das weltweite TNP wird 1970 in Kraft treten.. Hoy en día, dado lo rápido y amplio que avanza la tecnología, ya no podremos permitirnos el lujo de una pista tan larga, y es mucho más difícil construir una bomba nuclear que escribir un código. O, adoptando una visión más sombría, ¿podría ser que en un futuro no muy lejano tengamos que experimentar primero incidentes catastróficos causados por confiar demasiado en "máquinas inteligentes" no aptas e inseguras, o enfrentarnos a un colapso aún mayor de los ecosistemas debido a experimentos precipitados de geoingeniería?

Auf lokaler, nationaler, regionaler und - unvermeidlich - weltweiter Ebene müssen wir uns über die Grenzen dessen verständigen, was wir vereinbaren können, und realistische Grenzwerte für den "kleinsten gemeinsamen Nenner" festlegen, die nicht nur "weil wir es können" oder um enorme wirtschaftliche Vorteile zu erzielen, erreicht werden können. Un ejemplo de consensus alcanzable es das Verbot der autonomen Waffensysteme (sistemas de armas autónomas) que matan sin supervisión humana, o prohibir el uso del reconocimiento facial y, más recientemente, del reconocimiento de afectos con dudosos fines comerciales. Es ist eine weitere Frage, mit der sich die Kommission der EU befasst hat.

La única pregunta que realmente importa: ¿Qué tipo de mundo queremos dejar a nuestros hijos?

Debemos darnos cuenta de que en esta próxima década ya no se tratará de qué futuro podemos construir, sino de qué futuro queremos konstruieren. Ya se tratará sólo de una gran ingeniería o de una economía inteligente, sino de valores, ética y propósito. Las limitaciones científicas y tecnológicas seguirán desapareciendo a un ritmo acelerado, mientras que las implicaciones éticas y sociales se convertirán en el verdadero centro de atención. Como dijo el famoso E.O. Wilson: "Das wahre Problem der Menschheit ist das folgende: Wir haben paläolithische Emotionen, mittelalterliche Institutionen und göttliche Technologie.“

Además, Winston Churchill proclamó: "Siempre se puede contar con que los estadounidenses harán lo correcto, después de haber intentado todo lo demás", y yo suelo adaptar esta cita para que diga "humanos" en lugar de estadounidenses. Pero inevitablemente habrá cosas que no deberían probarse nunca porque pueden tener consecuencias irreversibles y existenciales para los seres humanos y nuestro planeta, y Diese Liste wird jeden Tag erweitert. Empezando por la búsqueda de la inteligencia artificial general, la geoingeniería y la edición del genoma humano: todas estas tecnologías podrían ser potentialmente el cielo, o podrían ser el infierno. ¿Y quién será el "Kontrolle der Mission" de la humanidad?

Insbesondere der gut dokumentierte Ansatz von Silicon Valley, mit jeder beliebigen Sache zu experimentieren und anschließend um Erlaubnis zu bitten ("Muévete rápido y rompe cosas", im Zuckerberg-Jahresrückblick vor dem OPI) nos llevará por un camino muy peligroso. Esta noción puede haber sido tolerable o incluso emocionante al principio de la curva exponencial (donde se ve casi igual que una curva lineal), pero en el futuro este paradigma es decididamente inadecuado para ayudar a conseguir "el buen futuro". Pedir perdón sencillamente no funciona cuando la tecnología puede provocar rápidamente amenazas existenciales que pueden ir mucho más allá del desafío al que nos enfrentamos con las armas nucleares.

Zum Beispiel die Idee, die Menschen in "Übermenschen" zu verwandeln, indem man die extreme Langlebigkeit oder die Verbindung unserer Gehirne mit dem Internet (sí, Elon Musk parece estar clamando por convertirse en el principal proveedor de estas ideas). Me temo que corremos el riesgo de acabar con soluciones a medias introducidas por corporaciones con ánimo de lucro mientras el público tiene que recoger los pedazos y arreglar las externalidades, todo en aras del progreso.

Nos encontramos en una bifurcación del camino: El futuro es nuestra elección, por acción o por inacción

El tiempo es esencial. Tenemos diez años escasos zur Erörterung, Vereinbarung und Anwendung neuer globaler (oder zumindest territorialer) Regeln und Normen in Bezug auf die Verwaltung von Spitzentechnologien. 

Si no logramos ponernos de acuerdo al menos en los mínimos denominadores comunes (como prohibiciones claras de sistemas de armas autónomas letales, o prohibiciones del uso de la ingeniería genética de los seres humanos con fines militares) me preocupa que die externen Auswirkungen des technologischen Wachstums, das von der IA nicht überwacht wirdDie Entwicklung des menschlichen Genoms und der Geoingenieurswesen sind so schädlich wie die, die mit dem fast unkontrollierten Wachstum der Brennstoffwirtschaft einhergingen. En lugar del cambio climático, será el "cambio humano" el que nos plantee retos muy perversos si no aplicamos un poco más de "vorbeugendes Nachdenken“.

In Zukunft darf niemand mehr die negativen externen Effekte seines Unternehmens unterdrücken, sei es in Bezug auf Energie, Werbung, Internet, soziale Netzwerke, Computer im Netz, IoT, KI oder virtuelle Realität. 

Wenn ein Unternehmen wie Google von Alphabet ein Stadtviertel in Toronto in sein Labor für intelligente Städte umwandeln will (Side Walks Labor), es la empresa iniciadora -y no la comunidad y la sociedad civil- la que tiene que rendir cuentas de los consiguientes cambios sociales que la conectividad y el seguimiento omnipresentes provocan, tanto buenos como malos. Empresas como Google deben darse cuenta de que en esta era exponencial (es decir, "más allá del punto de giro") son realmente responsables de lo que inventan y de cómo lo despliegan. Cada problema tecnológico es ahora también un problema ético, y el éxito en la tecnología ya no consiste únicamente en "una gran ciencia, una ingeniería asombrosa y modelos de negocio escalables" (y quizás nunca lo fue).

En su lugar, las responsabilidades para abordar los inconvenientes potencialmente graves (y cada vez más existenciales) müssen von Anfang an in jedes Geschäftsmodell integriert werden, und es müssen alle möglichen Sekundäreffekte während des gesamten Geschäftsentwicklungsprozesses und in allen späteren Phasen des Abstiegs berücksichtigt werden. Tenemos que descartar la doctrina por defecto de "primero la cena y luego la moral" aus dem Silicon Valley oder ihren chinesischen Pendants. Los enfoques holísticos (es decir, los modelos que beneficiar a la sociedad, la industria, la empresa y la humanidad en general) deben reemplazar las actitudes de "sich schnell zu bewegen und Dinge zu erledigen", y la lógica de las partes interesadas debe reemplazar la primacía de los accionistas (*vea a Paul Polman, ex director general de Unilever, hablar sobre esto, aquí)  

En los próximos cinco años, creo que vamos a ver cómo surgen nuevos mercados de valores (como el todavía incipiente LTSE de San Francisco) en los que cotizarán las empresas que operen bajo la premisa de "Personas, Planeta, Propósito y Prosperidad". EUROPA sollte diese Gelegenheit nutzen y tomar la delantera.

Llámenme optimista o utópico, pero estoy convencido de que todavía podemos definir y dar forma a un "buen futuro" para toda la humanidad y para nuestro planeta.

He aquí algunas sugerencias para orientar este debate:

1. Las cuestiones éticas de las tecnologías exponenciales deben considerarse tan importantes como los beneficios económicos que puedan generar. La tecnología no es la respuesta a todos los problemas, y haríamos mal en esperar que la tecnología lo "resuelva todo". Si hay algo que he aprendido en mis 20 años como futurista es esto: La tecnología no va a resolver problemas sociales, culturales o humanos como la (in)igualdad o la injusticia. Al contrario, a menudo empeora las cosas porque la tecnología impulsa la eficiencia sin tener en cuenta sus consecuencias morales. Facebook es el mejor ejemplo de este efecto: un concepto realmente poderoso, ingeniosamente diseñado, que funciona increíblemente bien (tal y como se diseñó) y, sin embargo, profundamente corrosivo para nuestra sociedad (vea mis charlas sobre este tema, aquí). El consejero delegado de Apple, Tim Cook, da en el clavo cuando dice: "La tecnología puede hacer grandes cosas, pero no quiere hacer grandes cosas. No quiere nada". Das "Fragen" ist unsere Aufgabe, und wir sollten uns dieser Verantwortung nicht entziehen, nur weil es langwierig ist oder den Gewinn schmälern könnte.
2. Los humanos deben permanecer en el bucle (HITL): En el futuro previsible y hasta que estemos mucho más avanzados en la comprensión de nosotros mismos (y no sólo de nuestros cerebros) y seamos capaces de controlar las tecnologías que potencialmente podrían "ser como nosotros" (también auch bekannt als IAG oder IAS), creo firmemente que debemos mantener a los humanos en el bucle, aunque sea menos eficiente, más lento o más costoso. De lo contrario, podemos estar en el camino hacia la deshumanización mucho más rápido de lo que pensamos. La pro-acción und la precaución deben ser cuidadosamente consideradas y constantemente equilibradas.
3. Tenemos que prohibir el pensamiento a corto plazo und uns dazu bringen, sowohl eine exponentielle als auch eine langfristige Vision zu haben, wobei die Tatsache berücksichtigt werden muss, dass menschliche Wesen sind organisch (d.h. das Gegenteil von exponentiell). Como ya se ha dicho, ahora estamos cruzando esa línea mágica en la que el ritmo del cambio se dispara: 1-2-3 puede parecerse mucho a 1-2-4, pero saltar de 4 a 8 a 16 es muy diferente de pasar de 3 a 4 a 5. Debemos aprender y practicar cómo vivir linealmente pero imaginar exponencialmente; una pierna en el presente y otra en el futuro.
4. Necesitamos nuevos "tratados de no proliferación". La inteligencia general artificial (IAG), la geoingeniería o la edición del genoma humano son tanto oportunidades mágicas como amenazas existenciales significativas (al igual que la energía nuclear, argumentan algunos), pero probablemente no tendremos Die Freude, in das IAG einzudringen y luego recuperarnos del fracaso. Una "explosión de inteligencia" in der IA könnte ein irreversibler Vorgang sein, genauso wie die Veränderungen des menschlichen Genoms in seiner Keimbahn. Deshalb brauchen wir gemeinsame, verbindliche und zukunftsorientierte Normen, die durch ein internationales Memorandum über die IAG eingeleitet werden. 
5. He hablado mucho de la necesidad de un "Consejo de Ética Digital" durante los últimos cinco años, a partir de mi libro de 2016 "Tecnología vs Humanidad". Viele Länder, Staaten und Städte haben begonnen, ähnliche Organisationen zu gründen, wie z. B. der Europäische Rat für künstliche Intelligenz der EU. ¡Necesitamos más de estos, a nivel regional, nacional, internacional y mundial!

Así que aquí estamos, en 2021, ante esta fatídica y también muy esperanzadora bifurcación del camino. Nos corresponde a todos elegir el camino correcto y empezar a construir el "buen futuro".

No es demasiado tarde: ¡tengan esperanza, tengan valor y busquen la sabiduría!