Novo: Experimente o meu bot de IA novo filme

Demasiado de algo bom pode ser muito mau: O futuro da tecnologia

Por que razão devemos agir agora para garantir que o progresso tecnológico exponencial continue a ser um benefício para a humanidade e o planeta Versão ENGLISH aqui. Versão portuguesa aqui.

Não há dúvida de que a tecnologia está a ser bem utilizada connosco. Os sistemas de IA são agora capazes de detetar algumas formas de cancro da pele com maior precisão do que os médicos humanos. Os robôs realizam exames de ultrassom e cirurgia, às vezes com pouca ou nenhuma intervenção humana. Os pilotos automáticos pilotam e aterram aviões nas condições mais adversas e em breve poderão dirigir táxis aéreos pessoais. Os sensores recopilam dados em direto da maquinaria e dos seus "gemelos digitais" para prever as próximas quedas ou avisar de reparações cruciais. Os impressoras 3D são capazes de escovar peças de reposição, melhorando as opções de manutenção em locais remotos.

Sin embargo, a medida que la tecnología y os sistemas de IASe, por outro lado, o aumento da produtividade do sector da energia, em particular, se tornar mais potente, o lado negativo da aceleração exponencial do progresso tecnológico também está a desaparecer. Seguindo o Marshall McLuhan (¡hace 57 años!), cada vez que ampliamos nossas capacidades, também amputamos outras. Hoy en día, las redes sociales prometen "ampliarnos" al permitirnos a todos compartir nuestros pensamientos en línea, pero también nos "amputan" al convertirnos en objetivos fáciles de rastrear y manipular. Ganhamos em alcance, mas perdemos em privacidade.

O impacto da mudança exponencial é incrivelmente difícil de imaginar

Debemos tener en cuenta que, si bien el progreso tecnológico atual parece a menudo muy impresionante y útil, en su mayor parte inofensivo y fácilmente manejable, seria muito insensato supor que isto seguirá sendo assim em um futuro próximo, já que estamos saltando literalmente hacia arriba na curva exponencial de 4 a 8 a 16 e assim sucessivamente. 30 passos lineares podem levar-me a cruzar a rua, 30 passos exponenciais equivalem a 26 viagens ao redor do mundo. O alcance da magnitude é totalmente diferente e o que tiver funcionado antes do ponto de giro pode resultar desastroso mais adiante.

Agora estamos no ponto de despejo de muitas das ciências e tecnologias fundamentais do século XXI, desde a inteligência artificial e a aprendizagem profunda até à edição do genoma humano, passando pela geoingenieria, a longevidade e a melhoria humana: todo o nosso marco está prestes a mudar, Não é só a imagem!

Durante a próxima década, cada uno de los ámbitos mencionados anteriormente (lo que a menudo llamo los Mudanças no jogo) tiene más cambios previstos que los que presenciamos en todo el siglo anterior, en total. O a ficção científica está a transformar-se cada vez mais numa realidade científica, e como os seres humanos são biológicos (por ahora) e não progridem exponencialmente, a menudo nos cuesta mucho entender hacia dónde va todo esto. Lo que hoy puede ser realmente asombroso, mágico y "bueno" para nosotros, puede convertirse pronto en "demasiado de algo bueno", y pasar de ser una herramienta a ser el propósito, de ser un envío de Dios a ser una máquina del juicio final.

Seja para melhorar os humanos, para desenhar quimeras ou para que os robôs entrem na guerra: O que ocorrerá durante os próximos 10 anos barrerá la mayoría de nuestras nociones sobre el progreso gradual y pondrá patas arriba nuestra visión sobre cómo la innovación tecnológica suele favorecer el bien común, incluso sin quererlo.

Definir o "bom futuro

Na minha opinião, o que recentemente ele empezou a chamar de "o bom futuro" (es decir, una utopía o, mejor aún, una protopía en contraposición a una distopía) está ahora en juego, y no podemos permitirnos el lujo de rehuir el duro trabajo de definir coletivamente lo que significa realmente un "bom futuro" para nosotros, coletivamente y como especie, y cómo podemos darle la mejor forma, juntos. Por muito difícil que possa parecer o consenso sobre a questão do "bem", o futuro deve ser criado coletivamente ou não existirá nenhum, pelo menos nenhum que envolva os seres humanos (veja as analogias com o tratamento nuclear e o TNP mais adiante).

Neste momento, em que vemos algo parecido com uma luz no final do túnel da pandemia, é um bom momento para iniciar um debate honesto e aberto sobre os nossos objectivos comuns e o nosso telos (es decir, el propósito), y sobre las políticas que necesitaremos para crear ese "Buen Futuro". Uma coisa é certa: La doctrina del libre mercado nos ha fallado recientemente al menos dos veces (durante la crisis financiera de 2007, y durante la crisis de Covid), y el papel del gobierno como controlador del mercado está destinado a ser mucho más prominente en la próxima década. No es probable que el Buen Futuro se produzca con un capitalismo a la antigua usanza, y tampoco lo hará la tecnología. Se trata más bien de una cuestión de ética, de valores, y de las políticas que elaboramos a partir de ellos.

Chegou o momento de rehumanizar-se

Agora é o momento de pensar e atuar para "civilizar" ou "rehumanizar" e, sí, regular (pero no estrangular) a los gigantes globales de la tecnología, porque en esta era de cambios exponenciales avanzados, los sorprendentes avances de hoy pueden convertirse en grandes problemas en un futuro no muy lejano. O que parece estar bem em "1" pode deixar de o ser quando chegarmos a "16" na curva exponencial (ou seja, depois de 5 duplicações). Necesitamos urgentemente mirar mucho más allá, ya que avanzamos hacia el futuro a una velocidad de vértigo. La previsión es ahora simplemente una misión crítica y ya no es solamente "agradable de tener". O "futuro" está a converter-se num tema da agenda diária de todos os líderes e funcionários públicos.

Por isso, deixemos de perguntar "o que nos trará o futuro", que em breve trará, literalmente, quase tudo o que possamos imaginar. Em seu lugar, devemos perguntar-nos: "Que tipo de futuro QUEREMOS?

A enorme dificuldade de desenvolver não apenas uma, mas várias vacinas eficazes contra o SARS-CoV-2 é um exemplo da nossa acelerada situação exponencial. O que antes demorava uma década e mais, agora demora apenas 12 meses, graças, em grande parte, às capacidades globais da computação no tubo e na IA. Dentro de uma década, é provável que este ciclo de desenvolvimento se reduza para seis semanas ou menos.  Imagínese.

Sin embargo, este logro no debe distraer la atención de la verdad básica de que la tecnología siempre tiene un doble uso; puede ser buena y no tan buena al mismo tiempo: Es "moralmente neutra hasta que la usamos" (W. Gibson). "Demasiado de algo bom" descreve muito bem este enigma: algo bastante útil pode converter-se rapidamente em algo profundamente prejudicial e corrosivo para a sociedade, como se tem manifestado recentemente com as redes sociais, que sofrem uma obsessão pela monetização excessiva e uma absoluta falta de responsabilidade.

Por conseguinte, a Comissão Europeia está a seguir um bom caminho com as suas recentes esforços de regulação da IA e da tecnologia. Sí, es complicado, es doloroso y a veces puede ser prepotente - pero de alguna manera, debemos empezar a mirar más allá de los factores económicos y el crecimiento a toda costa, y avanzar hacia lo que he estado llamando la cuádruple línea de fondo de "as pessoas, o planeta, o objetivo e a prosperidade"(ampliando o trabalho realizado por Elkington y otros sobre la triple línea de fondo).

"Demasiado de algo bom", ¿les suena?

Não é uma coincidência que o uso excessivo e a dependência de dispositivos e serviços em linha sejam considerados, em muitos casos, uma adicção. Muchos de nosotros consumimos drogas de alguna forma, desde alcohol y tabaco hasta incluso sustancias controladas. Las sociedades han aprendido a lidiar con esas adicciones mediante leyes, reglamentos y una serie de contratos sociales diseñados para limitar su alcance y su impacto negativo. A tecnologia não é diferente no sentido de que o uso excessivo ou a sobre-exposição também arruinam vidas. Muitos estudos documentaram que os utilizadores intensivos das redes sociais devem encabeçar as listas de propensão para o suicídio, e que o FOMO (far of missing out) pode provocar graves transtornos de ansiedade. Mas só temos de esperar a que tenhamos 5G e aplicações de realidade virtual omnipresentes e "gafas inteligentes".

Existe um perigo palpável de que este progresso tecnológico rápido e rápido não seja governado sabiamente antes de que as suas capacidades em constante expansão nos abram, e nos apresentem um futuro de facto que a maioria de nós não deseja para os seus filhos. Por isso, precisamos de uma mistura de "novas normas" e contratos sociais, responsabilidade demonstrada e prestação de contas nas empresas e na indústria, e salvaguardas reais como a regulamentação, as leis e os tratados. A nossa resposta deve ser ampla e flexível, justa e democrática, mas decisiva quando se trata de atuar pelo lado da precaução.

Imaginemos, por exemplo, o que será possível em breve quando a maioria de nós tivermos os nossos dados sanitários armazenados no tubo e interactuamos regularmente com assistentes digitais e chatbots para coisas como a ajuda à saúde mental. O agrupamento de conjuntos de dados massivos derivados do genoma humano, do bioma e das observações do comportamento (por exemplo, quando se utiliza um dispositivo móvel ou um relógio inteligente ou quando se lê um conjunto de RV) pode proporcionar-nos ferramentas para detetar doenças degenerativas e, possivelmente, até pré-diagnosticar o cancro. Sin embargo, las consecuencias de las violaciones de la privacidad en este ámbito también podrían ser mil veces peores que las trampas actuales, por ejemplo, cuando se capturan ilícitamente los datos de localización de las personas. De nuevo, como dice la canción "Aún no has visto nada“.

A regulação e o objetivo de um consenso global: a analogia nuclear

Existe um exemplo útil na forma como tratámos a ameaça da proliferação nuclear. Desgraçadamente, foram necessários duas bombas nucleares e quase 25 anos de trabalho árduo antes de que o TNP mundial entra em vigor em 1970. Hoy en día, dado lo rápido y amplio que avanza la tecnología, ya no podremos permitirnos el lujo de una pista tan larga, y es mucho más difícil construir una bomba nuclear que escribir un código. O, adoptando uma visão mais sombria, ¿podría ser que num futuro não muito lejano tengamos que experimentar primero incidentes catastróficos causados por confiar demasiado em "máquinas inteligentes" não aptas e inseguras, o enfrentarnos a un colapso aún mayor de los ecosistemas debido a experimentos precipitados de geoingeniería?

A nivel local, nacional, regional e, inevitavelmente, a escala mundial, tenemos que ponernos de acuerdo sobre los límites de lo que podemos acordar, y establecer umbrales realistas de "mínimo común denominador" más allá de los cuales no se pueden llevar a cabo determinadas aplicaciones tecnológicas sólo "porque podemos" o porque se pueden obtener enormes beneficios económicos. Um exemplo de consenso alcançável é a proibição dos sistemas de armas autónomas que matan sin supervisión humana, o prohibir el uso del reconocimiento facial y, más recientemente, del reconocimiento de afectos con dudosos fines comerciales. Es otra cuestión que la Comisión de la UE ha empezado a abordar.

A única pergunta que realmente importa: Que tipo de mundo queremos deixar aos nossos filhos?

Devemos ter em conta que, nesta próxima década, não se tratará de que futuro podemos construir, mas sim de qué futuro queremos construir. Agora não se trata apenas de um grande engenho ou de uma economia inteligente, mas sim de valores, ética e propósito. As limitações científicas e tecnológicas desaparecerão a um ritmo acelerado, ao passo que as implicações éticas e sociais se converterão no verdadeiro centro de atenção. Como disse o famoso E.O. Wilson: "O verdadeiro problema da humanidade é o seguinte: temos emoções paleolíticas; instituições medievais; e tecnologia divina

Además, Winston Churchill proclamó: "Sempre se pode contar com que os estadounidenses façam o que é correto, depois de terem tentado tudo o resto", y yo suelo adaptar esta cita para que diga "humanos" en lugar de estadounidenses. Mas é inevitável que haja coisas que não devem ser feitas nunca porque podem ter consequências irreversíveis e existenciais para os seres humanos e para o nosso planeta, e esta lista alarga-se a cada dia. Empezando pela busca da inteligência artificial geral, a geoingeniería e a edição do genoma humano: todas estas tecnologias poderiam ser potencialmente o céu, ou ser o fogo. ¿Y quién será el "controlo da missão" da humanidade?

Em particular, o bem documentado enfoque de Silicon Valley de experimentar com quase qualquer coisa e pedir permissão depois ("Muévete rápido y rompe cosas", na cerimónia de Zuckerberg antes da OPI) nos llevará por un camino muy peligroso. Esta noción puede haber sido tolerable o incluso emocionante al principio de la curva exponencial (donde se ve casi igual que una curva lineal), pero en el futuro este paradigma es decididamente inadecuado para ayudar a conseguir "el buen futuro". Pedir perdão não funciona quando a tecnologia pode provocar rapidamente amenazas existenciais que podem ir muito mais longe do que o desafio que enfrentamos com as armas nucleares.

Por exemplo, a ideia de converter os seres humanos em "super-humanos", perseguindo a longevidade extrema ou conectando os nossos cérebros à Internet (sí, Elon Musk parece estar a clamar por converter-se no principal fornecedor destas ideias). Me temo que corremos o risco de acabar com soluções a medias introduzidas por corporações com ánimo de lucro mientras el público tiene que recoger los pedazos y arreglar las externalidades, todo en aras del progreso.

Encontramo-nos numa bifurcação do caminho: O futuro é a nossa eleição, por ação ou por inatividade

O tempo é essencial. Tenemos diez años escasos para debater, acordar e aplicar novos marcos e normas globais (ou pelo menos territoriais) no que respeita ao governo das tecnologias exponenciais. 

Si no logramos ponernos de acuerdo al menos en los mínimos denominadores comunes (como prohibiciones claras de sistemas de armas autónomas letales, o prohibiciones del uso de la ingeniería genética de los seres humanos con fines militares) me preocupa que as externalidades do crescimento tecnológico desenfrenado e não supervisionado da AIA edição do genoma humano e a geoingeniería resultam tão prejudiciais como as que se criaram com o crescimento quase irrestrito da economia dos combustíveis fósseis. Em vez da mudança climática, será a "mudança humana" que nos trará retos muito perversos se não aplicarmos um pouco mais de "pensamento preventivo“.

No futuro, não se deve permitir que ninguém subcontrate as externalidades negativas do seu negócio, seja na energia, na publicidade, nas buscas, nas redes sociais, na computação em nuvem, na IoT, na IA ou na realidade virtual. 

Quando uma empresa como a Google, da Alphabet, pretende converter todo um bairro de Toronto no seu laboratório de cidade inteligente (Laboratório de passeios laterais), es la empresa iniciadora -y no la comunidad y la sociedad civil- la que tiene que rendir cuentas de los consiguientes cambios sociales que la conectividad y el seguimiento omnipresentes provocan, tanto buenos como malos. Empresas como a Google devem ter em conta que nesta era exponencial (ou seja, "mais além do ponto de viragem") são realmente responsáveis por aquilo que inventam e por como o fazem. Cada problema tecnológico é agora também um problema ético, e o sucesso na tecnologia já não consiste apenas numa "grande ciência, numa engenhosidade descomunal e em modelos de negócio escaláveis" (e talvez nunca o tenha sido).

Em seu lugar, as responsabilidades para abordar os inconvenientes potencialmente graves (e cada vez mais existenciais) deben ser incorporadas a cada modelo de negocio, desde el principio, y se deben tener en cuenta todos los posibles efectos secundarios durante todo el proceso de diseño del negocio y todas las fases posteriores de despliegue. Temos que descartar a doutrina por defeito de "primeiro a cena e depois a moral" de Silicon Valley ou seus equivalentes Chinos. Os enfoques holísticos (ou seja, os modelos que beneficiam a sociedade, a indústria, a empresa e a humanidade em geral) devem substituir as atitudes de "mover-se rapidamente e fazer coisas", e a lógica das partes interessadas deve substituir a primacía de los accionistas (*vea a Paul Polman, ex-diretor geral da Unilever, hablar sobre esto, aqui)  

3 de mis 6 principios del futuro

Nos próximos cinco anos, creio que vamos ver como surgem novos mercados de valores (como o ainda incipiente LTSE de San Francisco) nos quais cotizarão as empresas que operam sob a premissa de "Personas, Planeta, Propósito y Prosperidad". O EUROPA deve aproveitar esta oportunidade e tomar o delantera.

Sou otimista ou utópico, mas estou convencido de que hoje podemos definir e dar forma a um "bom futuro" para toda a humanidade e para o nosso planeta.

Eis algumas sugestões para orientar este debate:

  1. As questões éticas das tecnologias exponenciais devem ser consideradas tão importantes como os benefícios económicos que podem gerar. A tecnologia não é a resposta a todos os problemas, e seria mau esperar que a tecnologia "resolvesse tudo". Se há algo que aprendi nos meus 20 anos como futurista é isto: A tecnologia não vai resolver problemas sociais, culturais ou humanos como a (in)igualdade ou a injustiça. Pelo contrário, na maior parte das vezes empeora as coisas porque a tecnologia impulsiona a eficiência sem ter em conta as suas consequências morais. Facebook es el mejor ejemplo de este efecto: un concepto realmente poderoso, ingeniosamente diseñado, que funciona increíblemente bien (tal y como se diseñó) y, sin embargo, profundamente corrosivo para nuestra sociedad (vea mis charlas sobre este tema, aqui). El consejero delegado de Apple, Tim Cook, da en el clavo cuando dice: "A tecnologia pode fazer grandes coisas, mas não quer fazer grandes coisas. Não quer nada". O "querer" é o nosso trabalho, e não devemos fugir a essa responsabilidade só porque é cansativo ou porque pode ralentizar a monetização.
  2. Os humanos devem permanecer no núcleo (HITL): No futuro previsível e até ao momento em que estivermos mucho más avanzados en la comprensión de nosotros mismos (y no sólo de nuestros cerebros) y seamos capaces de controlar las tecnologías que potencialmente podrían "ser como nosotros" (también conocidas como IAG o IAS), creo firmemente que debemos mantener a los humanos en el bucle, aunque sea menos eficiente, más lento o más costoso. De lo contrario, podemos estar en el camino hacia la deshumanización mucho más rápido de lo que pensamos. O pro-acción y la precaución devem ser cuidadosamente consideradas e constantemente equilibradas.
  3. Temos de proibir o pensamento a curto prazo e acostumar-nos a ter uma visão tanto exponencial como a longo prazo, respeitando o facto de que os seres humanos são orgânicos (es decir, lo contrario de exponencial). Como já foi dito, agora estamos a atravessar esta linha mágica em que o ritmo do câmbio se dispara: 1-2-3 pode parecer muito com 1-2-4, mas saltar de 4 a 8 a 16 é muito diferente de passar de 3 a 4 a 5. Temos de aprender e praticar como viver linearmente e imaginar exponencialmente; uma pierna no presente e outra no futuro.
  4. Precisamos de novos "tratamentos de não proliferação". A inteligência geral artificial (IAG), a geoingenieria ou a edição do genoma humano são tanto oportunidades mágicas como ameaças existenciais significativas (tal como a energia nuclear, argumentam alguns), mas provavelmente não teremos o prazer de incursionar no IAG e depois recuperar-nos do fracasso. Una "explosão de inteligência" en la IA podría ser un acontecimiento irreversible, al igual que las modificaciones del genoma humano en su línea germinal. Por lo tanto, necesitaremos normas colectivas, vinculantes y con visión de futuro, empezando por un memorando internacional sobre la IAG. 
  5. Falei muito sobre a necessidade de um "Conselho de Ética Digital" durante los últimos cinco años, a partir de mi libro de 2016 "Tecnología vs Humanidad". Muchos países, estados y ciudades han comenzado a establecer organismos similares últimamente, como el Consejo Europeo de Inteligencia Artificial de la UE. ¡Necesitamos más de estos, a nivel regional, nacional, internacional y mundial!

Así que aquí estamos, en 2021, ante esta fatídica y también muy esperanzadora bifurcación del camino. Nos corresponde a todos elegir el camino correto y empezar a construir el "buen futuro".

Não é demasiado tarde: ¡tengan esperanza, tengan valor y busquen la sabiduría!

3069

Vistas


Etiquetas

boletim informativo

* indica a necessidade
último livro