The Internet of Things and its unintended consequences: why we should proceed with caution – Gerd Leonhard Futurist Humanist Author Keynote Speaker

Descarregar a versão PDF: A Internet das Coisas e as suas consequências indesejadas: porque é que devemos agir com cautela Descarregue todos os meus outros materiais através de GerdCloud/Dropbox

O Internet das coisas (IoT) / Internet of Everything / Internet Industrial é escaldante. Onde quer que eu vá, as pessoas perguntam-me sobre o assunto. Em quase todos os eventos em que participo, algumas das maiores empresas de tecnologia e TI do mundo falam dos seus planos para a IdC e dos seus investimentos de milhares de milhões de dólares.

Por isso, achei que esta era uma boa altura para esclarecer algumas coisas e apresentar aquilo a que chamo #OppChalls (oportunidade -desafios) que se avizinham com a IoT.

Primeiro: sim, o potencial da IoT é espantoso
Permitam-me que comece por reiterar que os benefícios da conetividade omnipresente, de dados muito grandes e em tempo real, de assistentes digitais verdadeiramente inteligentes, da computação cognitiva, da aprendizagem profunda e da robótica são óbvios para qualquer pessoa com poderes de imaginação básicos. não tentam tirar partido deste enorme potencial. A premissa central da IdC é simples: quando tudo fica ligado, quando os dados são recolhidos em tempo real, em todo o lado e a toda a hora, podemos medir, analisar, antecipar ou mesmo prever acontecimentos e "verdades" que antes estavam escondidos à superfície. Podemos tornar as coisas e os processos muito mais eficientes e poupar triliões de dólares no processo; e, possivelmente, resolver também o problema do aquecimento global (segundo alguns especialistas).

Claramente, um Cloud-OS / rede neural na nuvem em rápida evolução de dispositivos, sensores, hardware e processos interligados pode muito bem dar início a uma nova era de otimização e hiper-eficiência nos sectores da energia, alimentação, transporte marítimo e logística, meios de comunicação social, tráfego, construção civil e construção. A situação pode ser enorme.

Meta-Inteligência e abundância
A IoT promete enormes poupanças de custos através da eficiência nos sectores da energia, dos serviços públicos e dos transportes. As iniciativas da Uber com veículos autónomos e a expansão da Tesla para segmentos de negócio vizinhos (ou seja, baterias e energia) são apenas dois dos exemplos mais interessantes. Uma implantação global das aplicações da IdC poderá conduzir a um efeito de salto dramático na consecução de sustentabilidade e realização "economia circular num futuro próximo. Uma abundância global de energia, alimentos e, claro, de conteúdo e conhecimento pode estar ao nosso alcance (como o fundador do XPrize e autor do livro "Abundância", Peter Diamandis continua a chamar a atenção - ver o seu gráfico à direita).

Ao ligar toda a gente e "tudo" e ao implementar a inteligência artificial e a análise preditiva, muitos dos grandes fornecedores globais de IoT esperam alcançar uma espécie de meta-inteligência através de uma capacidade exponencialmente melhor de ler, compreender e aplicar dados.

Esta nova meta-inteligência pode permitem-nos poupar cerca de 30-50% de custos globais de logística e expedição/transporte, 30-70% de custos de mobilidade e transporte pessoais, 40-50% de despesas de energia, aquecimento e ar condicionado, etc.
A conetividade é claramente eficiência, e os benefícios económicos são extremamente tentadores. Sem dúvida, a IoT é uma missão gigantesca e vai ultrapassar a anterior Internet "humanos + computadores". Estão em jogo milhares de milhões de euros e, obviamente, aqueles de nós que se inclinam para o otimismo tecnológico encontrarão aqui novos prazeres. A superinteligência parece estar ao nosso alcance; a abundância está próxima, o mundo é um sítio melhor graças à tecnologia.

Ou não.

Nada de vasto entra na vida dos mortais sem uma maldição (*Sofocles)
A IdC será certamente muito mais poderosa - e, por conseguinte, infinitamente mais suscetível de produzir uma série de consequências indesejadas - do que a "Internet humana" de hoje. Já estamos a enfrentar algumas questões muito espinhosas e em grande parte não abordadas (dica: privacidade, segurança, ética digitaluma possível explosão da IA, perdas de emprego através de automatização etc.), mas estes problemas perversos serão certamente ampliados em 100 vezes nos próximos 5 a 7 anos, à medida que o conceito de "tudo ligado, toda a gente, em todo o lado" se tornar uma realidade.

Desafios de Hellven
Na minha opinião, a realização da IoT pode ser o céu ou o inferno (aka HellVen), mas, de qualquer modo, a bússola para esta viagem está a ser calibrada neste momento. Em primeiro lugar, admitamos que a boa e velha Internet pré-IoT de cerca de 2,8 mil milhões de pessoas também já não é só pêssegos, concebida e podada para "tornar o mundo um lugar melhor". É evidente que a Internet foi total e muitas vezes impiedosamente comercializada, com todos os desafios que daí advêm e com toda a desilusão que resulta da perda do seu benefício coletivo (pelo menos para alguns de nós).

Pensemos no seguinte: Há 5 anos, utilizámos o Google para procurar no mundo informação; agora somos nós que ser revistado pelo Google. Há 3 anos, usávamos o Facebook para nos ligarmos a amigos (uma palavra que agora parece ter perdido o seu significado) e socializar com eles; agora, nós próprios tornámo-nos o conteúdo de que o Facebook literalmente se alimenta enquanto tenta rentabilizar de inúmeras formas não intencionais que parecem bastante, bem, associal para muitos de nós. Há 2 anos, tweetávamos alegremente para partilhar notícias, comentários e opiniões; agora, podemos dar por nós a ser assinalados ou a ser considerados suspeitos, a ser escolhidos por funcionários dos serviços de imigração ou a ser colocados em listas de exclusão aérea, se um algoritmo sofisticado numa nuvem secreta concluir que os nossos tweets não agradam aos poderes instituídos (como é frequente acontece na Turquia, por exemplo).

Poderá a IoT transformar-se nós em coisas?
Será que os elogiados instrumentos de democratização, de libertação da informação e da chamada "economia da partilha" criaram inadvertidamente uma espécie de feudalismo digital ou pcapitalismo latente? Será que os gigantes da Internet aperfeiçoaram silenciosamente a arte da vigilância
facilitando um gigantesco panopticon global? E como é que os fornecedores de soluções IoT vão exatamente evitar que estes problemas muito reais assumam proporções distópicas? Será que uma marca global de 'Ideologia da Califórnia' ("a tecnologia vai resolver todos os problemas da humanidade - e ganhar muito dinheiro com o progresso") conseguem dominar?

Sejamos generosos (ou ingénuos) e partamos do princípio de que a "grande Internet" não planeou, de facto, a ocorrência destes efeitos secundários perversos; que não era seu objetivo viciar-nos nas suas doces tentações digitais e nas suas suculentas pechinchas faustianas, que as consequências não intencionais da hipervigilância, da perda de privacidade e da obesidade digital não estavam, de facto, previstas. Perante a adoção global da IdC, temos agora de começar a perguntar-nos quanto mais poder (ou seja, acesso a dados e à IA para os processar) queremos que os fornecedores destas soluções, ferramentas, motores e plataformas tenham, daqui para a frente, e como é que tudo isso será conseguido sem uma (auto)regulação global e uma supervisão independente. Isto parece ser um convite ao desastre se não for controlado.

A dar uma corrida ao dinheiro de George Orwell?

Dado que as principais plataformas de Internet, os fornecedores de serviços de computação em nuvem e outras empresas de tecnologia sediadas nos EUA nem sequer conseguem impedir a NSA e outros "funcionários" de "analisar tudo", só porque podem, atualmente; como é que este desafio se desenrolaria daqui a 5-7 anos, quando pudéssemos ter mais de 200 mil milhões de dispositivos ligados, e quando as nações BRIC / CIVET / MINT, recentemente capacitadas, pudessem facilmente fazer o mesmo? Na sua variante mais distópica, a IdC poderia conduzir a um clímax de pensamento maquinal, o SO de espionagem mais perfeito alguma vez concebido, a maior rede de vigilância em tempo real alguma vez criada pelo homem, impondo a total conformidade humana e acabando com a mais pequena pretensão de anonimato.

Sejamos realistas: A IdC pode ser o céu (ver acima) ou pode ser o inferno; mas sem regras reais, ética ou contratos sociais válidos, será quase de certeza o inferno. E o inferno, diria eu, também não é bom para os negócios - mesmo a entidade mais obcecada pelo lucro não poderia ver isso como um bom resultado.

Imaginem um mundo, não muito distante, em que o vosso carro conectado comunica todos os dados do veículo (e a vossa má utilização/manipulação dos mesmos) em tempo real/local, em que todos os vossos pagamentos estão ligados aos vossos dispositivos inteligentes, sendo as carteiras e os cartões de crédito uma coisa do passado; um mundo em que o vosso médico sabe quanto ou quão pouco andaram esta semana, qual foi o vosso ritmo cardíaco enquanto dormiam no avião; um mundo em que os seus cérebros externos (ou seja, os dispositivos móveis) estão agora diretamente ligados ao seu "wetware" e ao seu cérebro através de wearables, BCIs ou implantes, em que tudo e todos se tornam um farol de dados que gera milhares de gigabytes por dia, recolhidos e filtrados na nuvem, com exércitos de Watsons a aplicarem incansavelmente as suas mentes profundas famintas e de auto-aprendizagem a cada segundo. É quase certo que a eficiência superaria a humanidade em todos os aspectos. bem-vindo a um sistema operativo gigante que se auto-aprende e se alimenta literalmente da nossa produção até deixar de precisar dela para existir.

Reflictamos sobre uma questão simples: se nós, hoje, nem sequer conseguimos chegar a acordo sobre o que é o regras e ética de uma "Internet das pessoas e dos seus dispositivos informáticos", como chegaríamos a acordo sobre algo que é potencialmente 100 vezes maior? E não deveríamos, por isso, ser extremamente cautelosos em avançar "só porque podemos"?

Quem é exatamente o responsável por isto?
Temos directrizes ou acordos existentes sobre o que é permitido na bio-tecnologia e na bio-engenharia (como o Acordo de 1975 Orientações de Asilomar sobre ADN recombinante) e temos TNP (acordos de proliferação nuclear) que estão efetivamente a ser aplicados. No entanto, apesar do facto de os dados se estarem a tornar rapidamente no mais poderoso motor económico, ainda não temos um tratado global sobre o que é permitido fazer com os dados pessoais de milhares de milhões de utilizadores da Internet, nem um tratado sobre computação cognitiva ou inteligência artificial geral (AGI). É evidente que esta é uma das omissões mais gritantes da nossa sociedade atual e que temos de corrigir o mais rapidamente possível. Os políticos têm de acordar para aquele que é provavelmente o maior desafio da humanidade nos próximos 20-50 anos: a relação entre o homem e a máquina.

Atualmente, os megadados, a IA e a IdC são espaços em grande parte não regulamentados, ao mesmo tempo que a sua potência ultrapassa a da energia nuclear. Se os dados são, de facto, o novo petróleo (desculpem... bocejem se quiserem), quem se certifica de que as "grandes empresas petrolíferas de dados" estão a fazer o que é correto e quem se certifica de que a "grande IoT" fará o "que é correto para todos os interessados"? Uma vez que "a coisa errada" pode ter resultados potencialmente catastróficos, eu diria que isto não é algo que possa ser tomado de ânimo leve.

Humaritmos, o imperativo humano e o princípio da precaução
O que impedirá aqueles que gerem estes sistemas operativos globais de nos transformarem em "coisas", seja por acidente ou por desígnio? Não obstante a alegria da indústria tecnológica com a IdC e os seus benefícios óbvios, este é um risco que não devemos correr sem extrema cautela e consideração. Na minha opinião, cada algoritmo poderoso precisará daquilo a que proponho chamar umhumaritmo', ou seja, a inserção de amortecedores e equilibradores que asseguram uma O processo de desenvolvimento da tecnologia é um processo que tem em conta as preocupações humanas, que coloca uma chave de fendas humana entre os 0s e os 1s que começam a dominar as nossas vidas. Sugiro a aplicação de uma espécie de princípio da precaução às entidades que querem dar poder e proporcionar as benesses da Internet das coisas: o ónus de provar (e garantir) que não pode ser involuntariamente prejudicial para aqueles que a ela estão sujeitos deve ser-lhes atribuído, antes de irmos demasiado longe nesta via.

É hora de agir!
Vamos ouvir algumas ideias sobre isso, caros investidores, comerciantes, fornecedores e motores da IoT, e não apenas sobre quanto dinheiro que a Internet das coisas nos vai poupar, ou quanta riqueza nova será gerada. Falemos de uma espécie de bem-estar nacional brutoNão nos preocupemos apenas com o crescimento e não sacrifiquemos a nossa humanidade apenas para nos tornarmos máquinas eficientes.