O que devemos fazer agora para garantir que o exponencial avanço tecnológico seja uma vitória para a humanidade e o planeta. (ir para 1TP3VERSÃO INGLESA)

• 

• 

Gerd Leonhard, Futurista e Humanista. Zurique, Suíça 17. maio de 2021. Também publicado em Mundo Cognitivo.

A tecnologia é muito boa para nós. Os sistemas KI estão agora em condições de reconhecer algumas formas de seres humanos com uma qualidade de vida mais elevada como doentes humanos. Os robots realizam investigações e operações ultra-rápidas, sempre com pouco ou nenhum efeito humano. Os pilotos automáticos fazem aterrar e aterrar aviões nas mais variadas condições e podem, por vezes, também controlar a sua própria velocidade de voo. Os sensores captam dados em tempo real das máquinas e das suas "ferramentas digitais", para avisar sobre a utilização de aparelhos anteriores ou sobre reparações necessárias. Os 3D-Drucker estão na posição de auscultar os substitutos e aumentar assim as possibilidades de trabalho em locais específicos.

No entanto, a tecnologia e, em particular, os sistemas KI, têm uma capacidade de resistência muito maior do que a dos sistemas KI, o que também é importante para a evolução exponencial da tecnologia. Em Anlehnung an Marshall McLuhan (há 57 anos)!): Jedes Mal, wenn wir unsere Möglichkeiten erweitern, amputieren wir auch andere. Heute versprechen die sozialen Medien, uns zu "erweitern", indem sie uns allen erlauben, unsere Gedanken online zu teilen, doch sie "amputieren" uns auch, indem sie uns zu leichten Zielen für Verfolgung und Manipulation machen. Ganhámos o Reichweite, mas também a privacidade.

Os efeitos das varinhas mágicas exponenciais são extremamente difíceis de detetar

Wir sollten realisieren dass der heutige technologische Fortschritt zwar often sehr beeindruckend und nützlich, meist harmlos und leicht kontrollierbar erscheint, es aber sehr töricht wäre, anzunehmen, dass dies in naher Zukunft so bleiben wird, da wir buchstäblich die Exponentialkurve von 4 auf 8 auf 16 und weiter hochspringen. 30 Schritte linear mögen mich über die Straße bringen, 30 exponentielle Schritte entsprechen 26 Reisen um den Globus. Die Größenordnung ist völlig anders und was vor dem Take-Off-Punkt noch irgendwie funktioniert hat, kann sich später als katastrophal erweisen.

Genau hier und jetzt befinden wir uns am Startpunkt für viele der grundlegenden Wissenschaften und Technologien des 21. Jahrhunderts, von künstlicher Intelligenz und Deep Learning über die Bearbeitung des menschlichen Genoms bis hin zu Geo-Engineering, Langlebigkeit und Human Enhancement - unsere gesamten Rahmenbedingungen werden sändern - não apenas o desenho!

• 

• 

• 

• 

• 

No último ano, o tema foi abordado em cada uma das áreas anteriormente mencionadas (que muitas vezes eu não conhecia como Mudanças no jogo bezeichne) mehr verändern als im gesamten letzten Jahrhundert. A ficção científica é, em última análise, uma ficção científica; e se o homem é (antes de mais) biologicamente e se é não exponentiell weiterentwickelt, fällt es uns often sehr schwer zu verstehen, wohin das alles führt. O que hoje em dia é muito erótico, mágico e "bom" para nós, pode ser "zu viel des Guten" e de um Werkzeug para um Zweck, de um Gottesgeschenk para uma Weltuntergangs-Maschine.

Se se trata de ver homens a serem reduzidos, de criar chimpanzés ou de utilizar robôs na guerra: O que se passou nos últimos 10 anos foi que a maioria das nossas opiniões sobre o tema foram alteradas e as nossas perspectivas sobre a forma como a inovação tecnológica, normalmente e até mesmo sem recurso ao trabalho em equipa, está a ser implementada.

Definir o "bom futuro"

A minha intenção é, agora, a de jogar, o que me levou, desde há algum tempo, a dizer "die gute Zukunft".O bom futuro" nenne (d.h. eine Utopie oder besser noch eine Protopie im Gegensatz zu einer Dystopie), und wir können es uns nicht leisten, vor der harten Arbeit zurückzuschrecken, z.B. gemeinsam zu definieren, was eine "gute Zukunft" für uns, kollektiv und als Spezies, tatsächlich bedeutet und wie wir sie am besten gemeinsam gestalten können. Assim, se for possível chegar a um consenso sobre a questão dos "Guten", o futuro deve ser coletivo, ou então não será possível obter nada - pelo menos nada que nos interesse a nós, seres humanos (ver os análogos dos NPT).

Até agora, onde nós em breve endlich so etwas wie ein Licht am Ende des Pandemietunnels sehen, ist ein guter Zeitpunkt, um ehrliche und offene Diskussion über unsere gemeinsamen Ziele und unser Telos (d.h. den Zweck) zu beginnen, und über die Politik, die wir brauchen, um diese "gute Zukunft" zu schaffen. Eine Sache ist sicher: A Doutrina dos Mercados Livres foi, nos últimos tempos, quase duas vezes completamente destruída (durante a crise financeira de 2007 e a crise da Covid), e o papel dos Estados como reguladores dos mercados será, nos próximos anos, muito mais acentuado. O futuro será mais fácil se não for através de o bom e velho capitalismo e não será apenas através da tecnologia. É também uma questão de ética, de pensamento e de política, que nós desenvolvemos a partir desta base.

Tempo para a rehumanização!

Jetzt ist es an der Zeit, über die "Zivilisierung" oder "Mais humanidade" e ja, die Regulierung (aber nicht Strangulierung) der globalen Technologieriesen nachzudenken und zu handeln - denn in diesem Zeitalter des fortgeschrittenen exponentiellen Wandels könnten sich die erstaunlichen Durchbrüche von heute in nicht allzu ferner Zukunft als große Probleme herausstellen. Was bei "1" noch gut aussieht, ist vielleicht (oder sogar wahrscheinlich) nicht mehr in Ordnung, wenn wir "16" auf der Exponentialkurve erreichen (d.h. nach 5 Verdopplungen). Também temos de continuar a discutir este assunto, pois estamos a trabalhar com Warp-Drive in die Zukunft. FORESIGHT é hoje em dia muito importante e não apenas "agradável de ter". "Die Zukunft" é um ponto de partida para qualquer tipo de trabalho e qualquer tipo de atividade.

Hören wir also endlich auf zu fragen: "O que é que o Zukunft vai trazer?" - sie kann bald, im wahrsten Sinne des Wortes, fast alles bringen, was wir us vorstellen können. Stattdessen müssen wir fragen: "Qual é o futuro do WOLLEN?“?

Die erstaunliche Leistung, nicht nur einen, sondern gleich mehrere wirksame Impfstoffe gegen SARS-CoV-2 zu entwickeln, ist ein gutes Beispiel für unseren beschleunigten exponentiellen Status. O que há alguns anos ou mais era esperado, hoje é apenas 12 meses, sobretudo graças às possibilidades globais da computação em nuvem e da inteligência artificial. No início de cada ano, o desenvolvimento deste projeto será feito em apenas seis semanas ou menos!

Estas situações de erro não podem, no entanto, ser consideradas como uma consequência do facto de a tecnologia ter sempre uma dupla utilidade. pode ser sempre bom e não tão bom: Sie ist "moralisch neutral, bis wir sie benutzen" (W. Gibson). "Zu viel des Guten" bzw. 'demasiado de uma coisa boa' beschreibt dieses Dilemma sehr gut: Etwas recht Nützliches kann schnell zu etwas zutiefst Schädlichem und zersetzendem für die Gesellschaft werden - wie jüngst bei den sozialen Medien zu sehen war, die unter exzessivem Goldrausch und völligem Mangel an Verantwortlichkeit leiden.

• 

• 

• 

• 

• 

• 

• 

Deshalb denke ich, dass die A Comissão Europeia com as suas mais recentes acções para a regulamentação da indústria e da tecnologia no caminho certo. Ja, es ist kompliziert, es ist schmerzhaft und kann manchmal auch geradezu anmaßend sein - aber irgendwie müssen wir anfangen, über wirtschaftliche Faktoren und Wachstum um jeden Preis hinauszublicken und uns auf das zuzubewegen, was ich die vierfache Bottomline von "Menschen, Planet, Zweck und Wohlstand" / Pessoas Planeta Propósito Prosperidade nenne (em complemento do trabalho de Elkington e outros sobre "people planet profit" e sobre a triplo resultado).

"Zu viel des Guten" - das kommt uns bekannt vor!

Não é de excluir que a utilização e abuso excessivos da Internet e dos dispositivos em linha sejam frequentemente designados como tal. Viele von uns nehmen in irgendeiner Form 'Drogen', von Alkohol über Tabak bis hin zu mehr oder weniger kontrollierten Substanzen. Unsere Gesellschaft hat gelernt, mit diesen Süchten umzugehen, indem sie Gesetze, Vorschriften und eine Reihe von sozialen Verträgen erlassen hat, um ihre Reichweite und negativen Auswirkungen zu begrenzen. A tecnologia não é única, mas também arruína potencialmente a nossa vida com um impacto muito grande. Diversos estudos demonstraram que os utilizadores de redes sociais estão muito acima da lista de utilizadores que se preocupam com si próprios e que o FOMO (medo de ficar de fora) pode levar a angústias mais graves. Aber warten Sie nur, bis wir 5G und allgegenwärtige Virtual-Reality-Anwendungen und "Smart Glasses" zur Verfügung haben!

A questão que se coloca é a de saber se esta tecnologia de ponta não está a ser utilizada, se as suas possibilidades de sucesso estão a ser ultrapassadas e se estamos a preparar uma sorte de facto, que a maioria dos nossos filhos ou parentes não desejam. Queremos, portanto, uma combinação de novas normas e normas de gestão, de proteção e de responsabilidade social na economia e na indústria, bem como de novas normas de gestão, normas e regulamentos. Unsere Antwort muss breit und flexibel sein, fair und demokratisch, aber dennoch sehr entschieden, wenn es um unsere Menschlichkeit geht.

Por exemplo, o que é possível fazer, se a maioria de nós tem os seus dados de saúde na nuvem e interage regularmente com assistentes digitais e chatbots, para resolver problemas psicológicos. A junção de dados mais sensíveis, provenientes do genoma humano, da biomedicina e de experiências de consumo (z. B. bei der Nutzung eines Mobilgeräts oder einer Smartwatch oder beim Tragen eines VR-Sets) abgeleitet werden können, wird uns neue Werkzeuge bringen, mit denen wir degenerative Krankheiten erkennen und möglicherweise sogar Krebs im Voraus diagnostizieren können. Doch die Folgen von Datenschutzverletzungen in diesem Bereich könnten auch tausendmal schlimmer sein als die diversen heutigen Probleme z. B. wenn die Standortdaten von Menschen unrechtmäßig erfasst werden. Wie der Song schon sagt "You ain't seen nothing yet".

Regulamentação e necessidade de um consenso global: a analogia com as armas nucleares

Um exemplo interessante é a arte e a forma como nos encontramos com a situação de emergência devido ao enfraquecimento da produção de átomos. No entanto, foram necessárias duas bombas atómicas e quase 25 anos de trabalho, para que o projeto Atomwaffensperrvertrag 1970 se tornasse realidade. Angesichts des schnellen und breiten technologischen Fortschritts haben wir heute nicht mehr den Luxus einer so langen Startbahn - und es ist wohl auch viel schwieriger, eine Atombombe zu bauen als Code zu schreiben. Oder - etwas düsterer betrachtet - könnte es sein, dass wir in einer nicht allzu fernen Zukunft zuerst auch erst einmal katastrophale Zwischenfälle erleben müssen, die durch übermäßiges Vertrauen auf untaugliche und unsichere "máquinas inteligentes", ou será que estamos a trabalhar em conjunto com um maior número de sistemas de ecossistemas, através de experiências mais abrangentes com a geo-engenharia?

Auf lokaler, nationaler, regionaler und zwangsläufig auch auf globaler Ebene müssen wir wir deshalb dringend auf die gemeinsamen Grundlinien einigen und realistische Schwellenwerte für den "kleinsten gemeinsamen Nenner" festlegen, über die hinaus bestimmte technologische Anwendungen nicht verfolgt werden sollten, nur "weil wir es können" oder weil enorme wirtschaftliche Vorteile damit erzielt werden könnten. Ein gutes Beispiel für einen solchen erreichbaren Konsens ist das Verbot von sistemas Waffens autónomos, die ohne menschliche Aufsicht töten, oder das Verbot der Verwendung von Gesichts- und neuerdings auch Affekterkennung für zweifelhafte kommerzielle Zwecke (auch das ist ein Thema, mit dem sich die EU-Kommission bereits beschäftigt).

A única questão que se coloca é a seguinte: O que é que queremos fazer para o nosso mundo?

Temos de nos certificar de que, nos próximos anos, não se trata mais de saber qual o futuro que queremos construir, mas sim qual o futuro wir designen wollen. Não se trata apenas de uma tecnologia de ponta, de uma "transformação digital" ou de uma economia inteligente, mas sim de uma atitude, uma ética e um sentimento (Objetivo). Wissenschaftliche und technologische Begrenzungen werden weiterhin in rasantem Tempo wegfallen, während die ethischen und gesellschaftlichen Implikationen in den Mittelpunkt rücken werden. Como E.O. Wilson disse: "O principal problema da humanidade é o seguinte: temos emoções paleolíticas, instituições medievais e tecnologia global"

Winston Churchill dizia: "Man kann sich immer darauf verlassen, dass die Amerikaner das Richtige tun - nachdem sie alles andere versucht haben", und ich passe dieses Zitat often an "Menschen" statt Amerikaner zu lesen. Aber es wird unweigerlich Dinge geben, die niemals ausprobiert werden sollten, weil sie irreversible und existenzielle Folgen für us und unseren Planeten haben könnten - und diese Liste wird jeden Tag länger. Angefangen mit dem Streben nach Inteligência geral de carácter histórico (AGI), Geo-Engenharia e edição do genoma humano - todas estas tecnologias podem ser potencialmente "Himmlisch", ou podem trazer Hölle. E quem será o "controlo da missão" para a humanidade??

Além disso, o bom exemplo dos Gigantes do Vale do Silício, que se esforçam por experimentar e, mais tarde, por quebrar o Erlaubnis ("Mexer-se depressa e partir coisas", in Zuckerbergs Parole vor dem Börsengang), wird uns auf einen sehr gefährlichen Weg führen. Esta declaração foi feita no início do Exponentialkurve (wo sie fast genauso aussieht wie eine lineare Kurve) erträglich oder sogar aufregend gewesen sein, aber ansonsten ist dieses Paradigma entschieden ungeeignet, um "eine bom futuro" zu bringen. Um 'danach schnell um Vergebung' zu bitten, funktioniert einfach nicht, wenn die Technologie schnell existenzielle Bedrohungen herbeiführen kann, die weit über die Herausforderung hinausgehen, der wir uns mit Atomwaffen bereits gegenübersehen.

Não temos esta ideia, os homens são irresponsáveis "übermenschlich" zu machen, indem wir extreme Langlebigkeit anstreben oder unsere Gehirne mit dem Internet verbinden (ja, Elon Musk scheint sich anschicken zu wollen, führender Verfechter dieser Ideen zu werden). Eu acreditava muitas vezes que teríamos de acabar com soluções meio-garras, que foram criadas por empresas que se tornaram vencedoras, enquanto a empresa pode então criar os seus próprios cenários e os efeitos externos - tudo isto apenas com base em factores materiais.

Encontramo-nos num Etiquetagem: O futuro é a nossa escolha, através da ajuda ou da negligência

Wir haben nur zehn kurze Jahre Zeit, um neue, globale (oder zumindest territoriale) Rahmenbedingungen und Regeln zu diskutieren, zu vereinbaren und zu implementieren, was die Steuerung und Kontrolle von tecnologias exponenciais angeht. 

Se não quisermos ser muito sensíveis às mais pequenas ameaças conjuntas (como, por exemplo, as grandes apostas em sistemas de defesa autónomos para pessoas tóxicas ou as apostas em tecnologias genéticas para homens para fins militares), é importante que os efeitos externos dos progressos tecnológicos não controlados e não generalizados da inteligência artificial, da edição genómica e da geoengenharia sejam tão graves como os que resultam dos progressos não generalizados da economia fóssil. Em vez de alterações climáticas, estamos a falar de um "vento da humanidade", que nos coloca perante exigências muito difíceis, se não tivermos ainda mais "preocupações".

No futuro, não será mais necessário evitar que os efeitos negativos externos da sua gestão se tornem mais graves, seja no domínio da energia, do trabalho, do sucesso, dos meios de comunicação social, da computação em nuvem, da IoT, da KI ou da realidade virtual. 

Quando uma empresa como a Google da Alphabet quer transformar uma cidade inteira em Toronto no seu Smart-City-Labor (Side Walks Lab), deve ser a empresa iniciadora - e não o Stadtverwaltung, o Statt ou a Zivilgesellschaft - a ser responsabilizada pelas alterações resultantes da atividade económica e do rastreio que ela traz consigo. As empresas como a Google devem ter em conta que, nesta era exponencial (por exemplo, "com o Drehpunkts"), são sempre muito importantes, o que descobrem e como o fazem. Cada a questão tecnológica é agora também uma questão éticaO sucesso no domínio da tecnologia não é apenas uma questão de "ciência, tecnologia avançada e modelos de gestão mais sofisticados" (e isso já não era novidade).

A possibilidade de se encontrarem potenciais ameaças (e, em última análise, existentes) em todos os modelos de gestão deve ser considerada, e todos os possíveis efeitos negativos devem ser identificados durante o processo de desenvolvimento da gestão e em todas as fases seguintes. Devemos respeitar o lema "Primeiro a essência, depois a moral" do Silicon Valley (ou também dos pingentes chineses). Ganzheitliche Ansätze (d.h. Modelle, die der Gesellschaft, der Industrie, der Wirtschaft und der Menschheit insgesamt zugutekommen) müssen die "move fast and break things"- Haltung ersetzen, und die Lógica das partes interessadas muss das Shareholder-Primat ersetzen (*hier können Sie Paul Polman, den ehemaligen CEO von Unilever, darüber sprechen sehen)  

3 dos meus 6 objectivos para o futuro

Nos últimos cinco anos, a minha intenção é aproximar-me de novas empresas (como, por exemplo, a LTSE em São Francisco), nas quais se notam empresas que trabalham sob o lema "Pessoas, Planeta, Objetivo e Prosperidade". O EUROPA pretende aproveitar esta oportunidade e criar um controlo financeiro!

Se me consideram um otimista ou um utópico, estou convencido de que podemos definir e gerir um "bom futuro" para toda a humanidade e para o nosso planeta.

Eis algumas sugestões para orientar este debate:

1. Os desafios éticos das tecnologias exponenciais devem ser igualmente importantes para a sua compreensão, tal como os ganhos económicos que elas podem trazer. A tecnologia não é a resposta para todos os problemas, e nós ficámos muito preocupados quando a tecnologia nos deu a "solução para tudo". Quando existe uma frase, que eu nos meus 20 anos como futurista tinha, é esta: A tecnologia não pode resolver problemas sociais, culturais ou humanos, como a (in)felicidade ou a insegurança. Em geral, ela limita muitas vezes estes problemas, uma vez que a tecnologia não pode ser eficaz sem ter em conta as consequências morais. Facebook ist das best Beispiel für diese Problematik: ein wirklich mächtiges Konzept, sehr klug konstruiert, unglaublich gut funktionierend (genau wie entworfen !) - und doch zutiefst zersetzend für unsere Gesellschaft (sehen Sie sich meine Vorträge zu diesem Thema an, hier). Tim Cook, o diretor executivo da Apple, coloca a questão, ao afirmar: "A tecnologia pode fazer coisas extraordinárias, mas não fará nada de extraordinário. Ela não vai fazer nada". Das "Wollen" ist unser Job, und wir sollten uns nicht vor dieser Verantwortung drücken, nur weil sie mühsam ist oder die Monetarisierung verlangsamen könnte.
2. O homem tem de estar no circuito (HITL): Para o futuro próximo e para nos tornarmos muito melhores, nós próprios zu verstehen (und damit meinen ich nicht nur unser Gehirn) und in der Lage sind, die Technologien und Maschinen zu kontrollieren, die potenziell "wie wir sein könnten" (também conhecido por AGI oder ASI), glaube ich fest daran, dass wir den HITL haben müssen, auch wenn es weniger effizient, langsamer oder kostspieliger ist. De qualquer forma, estamos muito mais perto do caminho para a compreensão, como dizemos: Pro-Aktion e Precaution devem ser considerados como estando em conformidade e estar sempre em equilíbrio.
3. Devemos fazer uma breve descrição do que se passa und uns angewöhnen, sowohl eine exponentielle als auch eine langfristige Sichtweise einzunehmen - und dabei trotzdem die Tatsache respektieren, dass der Mensch organisch ist (d. h. das Gegenteil von exponentiell). Wie oben erwähnt, überschreiten wir gerade die magische Grenze, an der das Tempo der Veränderung in die Höhe schießt: 1-2-3 mag wie 1-2-4 aussehen, aber der Sprung von 4 auf 8 auf 16 ist etwas ganz anderes als der von 3 auf 4 auf 5. Temos de aprender e compreender, linearmente, mas exponencialmente; um ser na Gegenwart e um ser no Zukunft.
4. Queremos novas "Vertentes de não violação": Künstliche allgemeine Intelligenz (AGI), Geo-Engineering oder menschliches Genom-Editing sind sowohl magische Möglichkeiten als auch erhebliche existenzielle Bedrohungen (genau wie die Atomkraft, würden einige Kollegen argumentieren), aber wir werden wahrscheinlich nicht den Luxus haben, nos em AGI auszutoben und uns dann von einem Misserfolg zu erholen. Eine "Explosão de inteligência" in der KI könnte durchaus ein irreversibles Ereignis sein, ebenso wie die Veränderung des menschlichen Genoms in der 'germ-line'. Pretendemos, por conseguinte, adotar normas mais abrangentes, abrangentes e colectivas, começando por um memorando internacional sobre a AGI. 
5. Nos últimos cinco anos, tenho-me preocupado muito com o facto de não ser útil para os "Ética digital" gesprochen, beginnend mit meinem 2016 erschienenen Buch "Technology vs Humanity". Viele Länder, Staaten und Städte haben in letzter Zeit begonnen, ähnliche Gremien zu gründen, wie zum Beispiel das European Artificial Intelligence Board der EU. Queremos mais a nível regional, nacional, internacional e global!

Hier stehen wir also im Jahr 2021 und stehen an dieser schicksalhaften und auch sehr hoffnungsvollen Weggabelung. A nossa missão é a de encontrar o caminho certo e começar a construir a "Boa Nova"!

Es ist noch nicht zu spät - haben Sie Hoffnung, haben Sie Mut und streben Sie nach Weisheit!