Denn wir müssen jetzt handeln, um zu gewährleisten, dass der exponentielle technische Fortschritt weiterhin ein Gewinn für die Menschheit und den Planeten ist.. ENGLISH Version hier.

• 

• 

A tecnologia tem sido, sem dúvida, boa para nós. Die IA-Systeme sind heute in der Lage, einige Formen von Hautkrebs mit einer größeren Genauigkeit zu erkennen als menschliche Ärzte. Os robôs realizam exames de ultra-som e cirurgia, por vezes com pouca ou nenhuma intervenção humana. Automatische Piloten fliegen und landen unter widrigen Umständen und sind in der Lage, in kurzer Zeit Flugzeuge zu steuern. Os sensores recolhem dados ao vivo de máquinas e dos seus "gémeos digitais" para prever falhas futuras ou avisar de reparações cruciais. Wie impressoras 3D sind in der Lage, auch in abgelegenen Gegenden die Arbeit zu erleichtern und zu verbessern.

Dennoch, sobald die Technologie und die IA-Systemen Da insbesondere die Unternehmen immer zahlreicher werden, steht auch der Wunsch, den technischen Fortschritt exponentiell zu beschleunigen, im Vordergrund. Kontextualisierung von Marshall McLuhan (57 anos atrás!), cada vez que alargamos as nossas capacidades, também amputamos outras. Heute versprechen die sozialen Kommunikationsmittel, "uns zu vergrößern", indem sie uns erlauben, unsere Gedanken online zu teilen, aber sie "amputieren" uns auch, indem sie uns zu fähigen Lokalisierern und Manipulatoren machen. Wir haben den Zugang, aber wir haben auch unsere Privatsphäre.

O impacto da mudança exponencial é incrivelmente difícil de imaginar

Devemos ter em conta que embora o progresso tecnológico de hoje pareça frequentlyemente muito impressionante e útil, na sua maioria inofensivo e facilmente controlável, seria de facto muito tolo assumir que isto permanecerá o mesmo num futuro próximo, pois estamos literalmente a saltar a curva exponencial de 4 para 8 para 16 e assim por diante. 30 lineare Pässe können mich dazu bringen, die Erde zu durchqueren, 30 exponentielle Pässe entsprechen 26 Reisen auf dem Globus. Die Größenordnung ist völlig unterschiedlich und die Frage, ob sie vor dem Pivot-Punkt funktioniert hat, kann sich schneller als erwartet als katastrophal erweisen.

Im Moment befinden wir uns an der Schwelle zur Entdeckung vieler grundlegender Wissenschaften und Technologien des XXI Jahrhunderts, von der künstlichen Intelligenz und der tiefgreifenden Bildung bis hin zur Aufbereitung des menschlichen Erbguts, von der Geo-Engineering-Technologie über die Langlebigkeit und das menschliche Bewusstsein - die gesamte Welt wird sich verändern. e não apenas a imagem!

• 

• 

• 

• 

• 

In der nächsten Dekade wird jedes der oben genannten Häuser (das in vielen Fällen durch die Spielveränderer) tem mais mudanças previstas do que assistimos em todo o século anterior, no total. A Die Wissenschaftsliteratur wird immer mehr zu einem wissenschaftlichen Faktum. - e como os humanos são biológicos (por agora) und não progridem exponencialmente, temos muitas vezes muita dificuldade em compreender para onde tudo isto vai. Was für uns heute wirklich spannend, großartig und "bombig" sein kann, kann sich in kurzer Zeit als "zu bombig" erweisen und von einem Hindernis zu einem Ziel werden, von einer Diva Gottes zu einem Spielball des Schicksals.

Quer se trate de melhorar o ser humano, de conceber quimeras ou robôs que vão para a guerra: O que irá acontecer durante Die nächsten 10 Jahre irá varrer a maioria das nossas noções sobre o progresso gradual e elevar a nossa visão sobre a inovação tecnológica normalmente e talvez até inadvertidamente promove o bem comum.

Definition von 'O Bom Futuro'

Na minha opinião, aquilo a que recentemente comecei a chamar "o bom futuro" (ou seja, uma utopia ou melhor ainda uma protopia em oposição a uma distopia) está agora em jogo, e não nos podemos dar ao luxo de nos afastarmos do trabalho árduo, como definir colectivamente o que um "bom futuro" significa realmente para nós, colectivamente e como espécie, e como podemos melhor moldá-lo, juntos. Es ist schwer vorstellbar, dass ein Konsens über die Frage nach einer "guten" Zukunft erzielt werden kann, denn die Zukunft muss kollektiv gestaltet werden, oder sie wird nichts bringen - zumindest nichts, was uns Menschen betrifft (ver o tratado nuclear / analogias do TNP abaixo).

Neste momento, como vemos alguma semelhança de luz no fim do túnel pandémico, é um bom momento para iniciar uma discussão honesta e aberta sobre os nossos objectivos comuns e os nossos telos (ou seja, o objectivo), e sobre as políticas de que precisaremos para criar esse "Bom Futuro". Uma coisa é certa: A doutrina do mercado livre falhou-nos recentemente pelo menos duas vezes (durante a crise financeira de 2007, e durante a crise da Covid), e o papel do governo como agente de mercado deverá ser muito mais proeminente na próxima década. Não é provável que o Bom Futuro venha a surgir com um bom capitalismo à moda antiga, e também não será introduzido pela tecnologia. Im Gegenteil, es ist eine Frage der Ethik, der Werte - und der Politik, die wir auf deren Grundlage entwickeln.

Está na hora de Rehumanizar!

Jetzt ist es an der Zeit, über "Zivilisierung" oder "Wiederherstellung" nachzudenken und zu handeln.humanisieren" e sim, regular (mas não estrangular) os gigantes globais da tecnologia - porque nesta era de mudança exponencial avançada, as incríveis descobertas de hoje podem muito bem a revelar-se grandes problemas não muito longe. Was bei "1" gut zu sein scheint, kann bei "16" in der exponentiellen Kurve (oder nach 5 Duplikaten) nicht mehr gut sein. Precisamos urgentemente de olhar muito mais à frente à medida que avançamos para o futuro a uma velocidade vertiginosa. Previsão é simplesmente uma missão crítica agora e não apenas "agradável de se ter". "O Futuro" está a tornar-se um ponto da agenda diária para cada líder e funcionário público.

Portanto, vamos parar de perguntar "o que trará o futuro" - pode em breve, muito literalmente, trazer quase tudo o que possamos imaginar. Em vez disso, precisamos de perguntar: "que tipo de futuro queremos?

O espantoso feito de desenvolver não apenas uma mas várias vacinas eficazes contra a SRA-CoV-2 é um caso exemplar no que diz respeito ao nosso estado exponencial accelerado. O que costumava demorar uma década e mais, agora demorou apenas 12 meses, graças em grande parte às capacidades globais da computação na Cloud e da IA. Es ist davon auszugehen, dass sich dieser Entwicklungszyklus nach einer Dekade um bis zu sechs Monate verkürzen wird.  Imaginem só.

Dennoch darf diese Erkenntnis nicht von der einfachen Tatsache ablenken, dass Technologie immer doppelt genutzt werden kann; sie kann sowohl gut als auch schlecht sein: Sie ist "moralisch neutral, bis sie genutzt wird" (W. Gibson). "Demasiado bom" descreve muito bem este enigma: algo bastante útil pode rapidamente tornar-se algo profundamente prejudiciale e corrosivo para a sociedade - como recentemente evidenciado nos meios de comunicação social, que sofrem de obsessão de monetização excessiva e de total falta de responsabilização.

• 

• 

• 

• 

• 

• 

• 

É por isso que eu penso que a Comissão Europeia está no bom caminho com os seus Jüngste Bemühungen um die Regulierung von IA und Technologie. Sim, é complicado, é doloroso e pode, por vezes, ser demasiado tolerante - mas, de alguma forma, temos de começar a olhar para além dos factores económicos e do crescimento a todo o custo, e avançar para aquilo a que tenho vindo a chamar o quádruplo resultado de "pessoas, planeta, propósito e prosperidade" (alargando o trabalho feito por Elkington e outros no triplo resultado).

"Demasiadas coisas boas" - soa familiar?

Es ist kein Zufall, dass der übermäßige Konsum und die Abhängigkeit von Online-Geräten und -Dienstleistungen häufig als Suchtmittel angesehen werden. Viele von uns konsumieren Drogen in irgendeiner Form, von Alkohol und Tabak bis hin zu kontrollierten Substanzen. Die Gesellschaft lernt, mit diesen Drogen durch Gesetze, Vorschriften und eine Reihe von Gesellschaftsverträgen umzugehen, die darauf abzielen, ihre Verbreitung und negativen Auswirkungen zu begrenzen. Die Technik ist in dem Maße, in dem eine übermäßige Nutzung oder eine Überbeanspruchung ebenfalls Leben zerstört, nicht anders. Viele Studien belegen, dass Die Nutzer von sozialen Netzwerken stehen häufig an der Spitze der Liste der Selbstmordgefährdeten.und dass FOMO (die Sehnsucht, etwas zu verpassen) zu einer schweren Störung des Wohlbefindens führen kann. Warten wir ab, bis die Begriffe 5G und virtuelle Realitätsanwendungen und "intelligente Autos" fallen.

Es besteht die Gefahr, dass der rasante technologische Fortschritt nicht sabiamente regiert werden kann, bevor seine sich ständig ausweitenden Kapazitäten uns beherrschen und uns eine Zukunft präsentieren, die die meisten von uns für ihre Kinder nicht wünschen. Wir brauchen daher eine Mischung aus "neuen Normen" und Gesellschaftsverträgen, demonstrierter Verantwortung und Verantwortlichkeit in Unternehmen und in der Industrie sowie Rettungsmaßnahmen wie Regulierung, Gesetze und Verträge. A nossa resposta deve ser ampla e flexível, justa e democrática, mas decisiva quando se trata de agir pelo lado da precaução.

Stellen Sie sich zum Beispiel vor, wie schnell es möglich wird, wenn ein Großteil von uns unsere in der Cloud gespeicherte Gesundheitsdaten regelmäßig mit digitalen Assistenten und Chatbots zu interagieren, z. B. zur Unterstützung der psychischen Gesundheit. Die Zusammenführung großer Datenmengen aus menschlichem und biologischem Erbgut sowie aus Verhaltensbeobachtungen (z. B. bei Verwendung eines mobilen Geräts, eines intelligenten Computers oder einer VR-Anwendung) kann uns helfen, degenerative Erkrankungen zu erkennen und möglicherweise sogar zu heilen. Krebsfrüherkennung. Allerdings können die Folgen von Datenschutzverletzungen in diesem Bereich um ein Vielfaches schlimmer sein als aktuelle Waffen, zum Beispiel, wenn die Ortsdaten von Personen illegal erfasst werden. Mais uma vez, como diz a canção: "Ainda não se viu nada“.

A regulação e o desafio de um consensuso global: a analogia nuclear

Es gibt ein nützliches Beispiel für die Art und Weise, wie wir mit einer Atombombenverbreitung umgehen. Infelizmente, foram precisas duas bombas nucleares e quase 25 anos de trabalho árduo antes que o TNP global entrasse em vigor em 1970. Heute, da der technologische Fortschritt so schnell und weitreichend ist, haben wir nicht mehr den Luxus eines so langen Flugplatzes - und es ist viel schwieriger, eine Atombombe zu bauen, als sie in einen Text zu schreiben. Ou - tendo uma visão mais fraca - poderá ser que, num futuro não muito distante, tenhamos de experimentar primeiro incidentes catastróficos causados por uma dependência excessiva de "máquinas inteligentes" inaptas e inseguras, ou enfrentar ainda mais o colapso do ecossistema devido a experiências precipitadas com a geo-engenharia?

Auf lokaler, nationaler, regionaler und zwangsläufig auch auf globaler Ebene müssen wir uns über die Grundlagen, auf die wir uns einigen können, einig werden, e estabelecer limiares realistas de "menor denominador comum" para além dos quais certas aplicações tecnológicas não podem ser prosseguidas apenas "porque podemos" ou porque podem ser alcançáveis enormes benefícios económicos. Um desses exemplos de consenso alcançável é a Proibição von autonomen Waffensystemen die ohne menschliche Aufsicht durchgeführt werden, oder ein Verbot des Einsatzes der Gesichtsaufklärung, die in jüngster Zeit die Aufklärungsarbeit für andere Zwecke beeinträchtigt. Trata-se de outra questão que a Comissão da UE começou a abordar.

A única questão que realmente importa: Que tipo de mundo queremos deixar aos nossos filhos?

Wir müssen erkennen, dass es in der nächsten Dekade nicht um die Zukunft geht, die wir aufbauen können, sondern um die futuro que queemos konstruieren. Es geht nicht nur um große Ingenieurskunst oder intelligente Wirtschaft, sondern auch um Werte, Ethik und Selbstwertgefühl. Die Grenzen von Wissenschaft und Technik werden sich in einem schnelleren Tempo verschieben, und die Auswirkungen auf Wirtschaft und Gesellschaft werden in den Brennpunkt gerückt. Como disse o famoso E.O. Wilson: "O verdadeiro problem da humanidade é o seguinte: temos emoções paleolíticas; instituições medievais; e tecnologia semelhante a Deus".

Para além disto, Winston Churchill proclamou: "Man muss sich immer mit den Amerikanern in Verbindung setzen, um etwas Bestimmtes zu erreichen - nachdem man alles andere ausprobiert hat.", e eu adapto frequentemente esta citação para ler "humanos" em vez de americanos. Mas haverá inevitavelmente coisas que nunca devem ser tentadas porque podem ter consequências irreversíveis e existenciais para os seres humanos e para o nosso planeta, e essa Die Liste wird von Tag zu Tag länger. Die Suche nach allgemeiner künstlicher Intelligenz, Geo-Engineering und die Bearbeitung des menschlichen Erbguts - all diese Technologien haben das Potenzial, die Welt zu verändern. ser o paraíso, ou podem ser o inferno. E quem será o "Kontrolle de missão"para a humanidade?

Em particular, a abordagem bem documentada de Silicon Valley para experimentar quase tudo e pedir autorização mais tarde ("Avance rápido e quebre coisas", na linguagem pré-IPO de Zuckerberg) führt uns auf eine sehr schwierige Strecke. Diese Einstellung kann zu Beginn der exponentiellen Kurve tolerierbar oder sogar aufregend gewesen sein (das ist fast dasselbe wie bei einer linearen Kurve), aber der Fortschritt mit diesem Paradigma ist entschieden unzureichend, um uns dabei zu helfen, "die beste Zukunft" zu finden. Pedir perdão simplesmente não funciona quando a tecnologia pode trazer rapidamente ameaças existenciais que podem estar muito além do desafio que enfrentamos com armas nucleares.

Die Idee, Menschen auf irgendeine Art und Weise zu "übermenschlichen" Menschen zu machen, indem man auf extreme Langlebigkeit oder Ligando os nossos cérebros à Internet (wie z.B. Elon Musk, der sich anschickt, der Hauptlieferant dieser Ideen zu werden). Receio que corramos o risco de acabar com soluções mal cozinhadas introduzidas por corporações com fins lucrativos enquanto o público tem de apanhar as peças e reparar as externalidades - tudo em nome do progresso.

Wir befinden uns in einer Krise auf der Straße: Die Zukunft ist eine eigene Wahl, ob durch Handeln oder durch Unterlassen

O tempo é essencial. Temos dez curtos anos zur Erörterung, Vereinbarung und Umsetzung neuer globaler (oder zumindest territorialer) Quadros und Regras, die sich auf die Verwaltung von Spitzentechnologien beziehen. 

Se não chegarmos a acordo sobre pelo menos os menores denominadores comuns (tais como proibições claras de sistemas de armas autónomas letais, ou proibições de utilização da engenharia genética humana para fins militares) preocupa-me que as externalidades do crescimento tecnológico desenfreado e não supervised da IADer Klimawandel, die Entwicklung des menschlichen Genoms und die Geo-Engineering-Aktivitäten sind so schädlich wie das fast ungebremste Wachstum der fossilen Brennstoffe. Em vez da mudança climática, será a "mudança humana" que nos colocará desafios muito perversos se não aplicarmos aqui mais algum "pensamento de precaução“.

In Zukunft wird niemand mehr befugt sein, die negativen Auswirkungen seines Geschäfts zu vernachlässigen, sei es in den Bereichen Energie, Öffentlichkeit, Forschung, soziale Kommunikation, Cloud Computing, Internet, IA oder virtuelle Realität. 

Wenn ein Unternehmen wie Alphabet's Google ein ganzes Stadtviertel in Toronto in ein intelligentes Stadtlabor umwandeln möchte (Side Walks Labor), é o negócio inicial - não a comunidade e a sociedade civil - que tem de ser responsabilizado pelas mudanças societais que se seguem que a conectividade e o rastreio generalizados provocam - tanto boas como más. Unternehmen wie Google haben erkannt, dass dieses Zeitalter exponentiell ist (oder besser gesagt, "neben dem Ponton-Drehpunkt") sind de facto dafür verantwortlich, was sie erfinden und wie sie es umsetzen. Alle technischen Fragen sind heute auch eine ästhetische Frage, und der Erfolg in der Technologie hängt nicht nur von "großer Intelligenz, ausgeklügelter Technik und erfolgreichen Geschäftsmodellen" ab (und war es auch nie).

Darüber hinaus ist die Verantwortung für die Bewältigung potenziell schwerwiegender Gefahren (und immer mehr existenciais) müssen in jedem Verhandlungsmodell von Anfang an berücksichtigt werden, und zwar alle möglichen Nebenwirkungen während des gesamten Prozesses der Verhandlungskonzeption und in allen nachfolgenden Phasen der Umsetzung. Precisamos de descartar o "jantar primeiro, depois a moral" - doutrina de Silicon Valley ou seus equivalentes Chineses. Ganzheitliche Ansätze (d. h. Modelle, die der Gesellschaft, der Industrie, dem Handel und der Menschheit im Allgemeinen zugute kommen) müssen die Einstellung "depressiv werden und die Stimmung auflockern", e a lógica das partes interessadas deve substituir a primazia do accionista (*Unterstützen Sie Paul Polman, den ehemaligen CEO von Unilever, bei der Suche nach diesem Thema, aqui)  

Nos próximos cinco anos, penso que vamos assistir ao aparecimento de novas bolsas de valores (como a ainda incipiente LTSE em São Francisco), wo Unternehmen, die auf der Grundlage der Prämisse "Personen, Planeta, Propósito e Prosperidade" tätig sind, ihre Plätze einnehmen. A EUROPA muss diese Chance nutzen e assumir a liderança!

Chamem-me optimista ou utópico, mas estou convencido de que ainda podemos definir e moldar um "bom futuro" para toda a humanidade, bem como para o nosso planeta.

Aqui estão algumas sugestões para orientar este debate:

1. Die technischen Fragen, die sich mit der exponentiellen Technologie stellen, sind ebenso wichtig wie die wirtschaftlichen Vorteile, die sie bringen können. A tecnologia não é a resposta para todos os problemas, e seria imprudente procurar a tecnologia para "resolver tudo". Se há uma coisa que aprendi nos meus 20 anos como Futurista, é a seguinte: A tecnologia não resolverá problemas sociais, culturais ou humanos, tais como (in)igualdade ou injustiça. Im Gegenteil, oft verbessert sie die Situation, weil die Technologie unabhängig von ihren moralischen Folgen zu mehr Effizienz führt. O Facebook é o melhor exemplo para estefeito: um conceito realmente poderoso, muito engenhoso, que funciona incrivelmente bem (tal como concebido) - e no entanto profundamente corrosivo para a nossa sociedade (veja as minhas conversas sobre este tópico, aqui). O CEO da Apple, Tim Cook, acerta em cheio quando diz: "A tecnologia pode fazer grandes coisas, mas não quer fazer grandes coisas. Não quer fazer nada". O "quer" é o nosso trabalho, e não devemos fugir a essa responsabilidade só porque é enfadonho ou pode abrandar a monetização.
2. Os seres humanos devem permanecer no topo (HITL): Num futuro previsível, e até que estejamos muito mais longe na compreensão de nós próprios (e não apenas do nosso cérebro) e capazes de controlar as tecnologias que poderiam potencialmente "ser como nós" (como IAG oder IAS), acredito firmemente que precisamos de manter os humanos no circuito, mesmo que seja menos eficiente, mais lento ou mais dispendioso. Im umgekehrten Fall könnten wir uns auf dem Weg der Desumanisierung befinden, der viel deprimierender ist als der, an den wir denken. A pró-acção e a precaução devem ser cuidadosamente consideradas e constantemente equilibradas.
3. Wir müssen das Nachdenken über den aktuellen Stand der Dinge fördern. e habituarmo-nos a ter uma visão tanto exponencial como a longo prazo - respeitando ao mesmo tempo o facto de os humanos serem orgânicos (bzw. das Exponenzial-Opus). Wie bereits erwähnt, sind wir heute schon dabei, diese Linie zu durchlaufen, in der sich der Rhythmus der Veränderungen ändert: 1-2-3 kann wie 1-2-4 aussehen, aber der Sprung von 4 nach 8 nach 16 ist ein großer Unterschied zu 3 nach 4 nach 5. Wir müssen lernen und üben, wie man linear lebt, aber sich auch exponentiell vorstellen kann; eine Pause in der Gegenwart und eine Pause in der Zukunft.
4. Wir brauchen neue "Null-Proliferação-Tatbestände".. Inteligência artificial geral (IAG), geo-engenharia ou edição do genoma humano são tanto oportunidades mágicas como ameaças existenciais significativas (tal como a energia nuclear, alguns argumentariam), mas provavelmente não teremos Der Luxus, mit der IAG zusammenzuarbeiten e depois recuperarmos do fracasso. Uma "explosão de inteligência" na IA pode muito bem ser um evento irreversível, e o mesmo pode acontecer com as modificações do genoma humano na lineha germinal. Aus diesem Grund sollten wir prospektive, verbindliche und kollektive Normen festlegen und ein internationales Memorandum über die IAG erstellen. 
5. Tenho falado muito sobre a necessidade de um "Conselho de Ética Digital" durante os últimos cinco anos, a começar pelo meu livro de 2016 "Tecnologia vs Humanidade". Viele Länder, Staaten und Städte haben in den letzten Jahren ähnliche Organisationen gegründet, wie z. B. den Europäischen Rat für künstliche Intelligenz der EU. Wir brauchen mehr davon, auf regionaler, nationaler, internationaler und globaler Ebene!

Deshalb befinden wir uns hier im Jahr 2021, in einer verhängnisvollen, aber auch sehr hoffnungsvollen Entwicklung auf dem Weg. Cabe a todos nós escolher o caminho certo e começar a construir o "bom futuro".

Não é demasiado tarde - tenham esperança, tenham coragem e persigam a sabedoria!