{"id":132735,"date":"2023-01-31T15:47:05","date_gmt":"2023-01-31T14:47:05","guid":{"rendered":"https:\/\/gerdtestpress.online\/?p=132735"},"modified":"2023-04-01T13:37:28","modified_gmt":"2023-04-01T11:37:28","slug":"generative-ai-chatgpt-dalle2-et-al-knowledge-without-wisdom-is-like-water-in-the-sand-analysis-by-futurist-humanist-gerd-leonhard","status":"publish","type":"post","link":"https:\/\/futuristgerd.com\/pt\/2023\/01\/generative-ai-chatgpt-dalle2-et-al-knowledge-without-wisdom-is-like-water-in-the-sand-analysis-by-futurist-humanist-gerd-leonhard\/","title":{"rendered":"IA generativa, ChatGPT, Dalle2 et al: \"O conhecimento sem sabedoria \u00e9 como \u00e1gua na areia\". An\u00e1lise do futurista\/humanista Gerd Leonhard (ACTUALIZADA)"},"content":{"rendered":"

IA generativa, ChatGPT, Dalle2 e outros: \"O conhecimento sem sabedoria \u00e9 como \u00e1gua na areia\" - Um coment\u00e1rio entusiasmado mas cr\u00edtico do futurista Gerd Leonhard<\/h3>\n\n\n\n

* Veja o meu novo t\u00f3pico sobre GenerativeAI e ChatGPT<\/a> e ver a grava\u00e7\u00e3o da transmiss\u00e3o em direto<\/a> da minha sess\u00e3o de livestream de 30 de janeiro de 2023 sobre este tema (algumas das imagens que utilizei na palestra est\u00e3o na galeria abaixo)<\/p>\n\n\n\n

Atualizado em 1 de abril de 2023 - novos v\u00eddeos abaixo!<\/strong><\/p>\n\n\n\n

O burburinho \u00e9 incr\u00edvel: Alguns especialistas dizem que IA generativa<\/a>e, nomeadamente ChatGPT<\/a>, Dalle2, Midjourney e Est\u00e1velDifus\u00e3o<\/a>, representam um revolu\u00e7\u00e3o<\/a> e vai dar in\u00edcio \u00e0 pr\u00f3xima edi\u00e7\u00e3o da Web, \u00e0 semelhan\u00e7a do que aconteceu com a chegada da Internet m\u00f3vel. Ser\u00e1 que o ChatGPT vai ser t\u00e3o grande como o iPhone? Ser\u00e1 que isto vai criar o primeiro verdadeiro concorrente do Google<\/a>? \u00c9 por isso que a MSFT est\u00e1 a investir $10 mil milh\u00f5es na OpenAI? Mais concretamente, ser\u00e1 que isto significa que a fim do ensaio universit\u00e1rio<\/a>? Ir\u00e1 ChatGPT aumentar o pl\u00e1gio<\/a> e pregui\u00e7a editorial geral? Ser\u00e1 que vamos assistir a uma inunda\u00e7\u00e3o de (ainda mais) livros electr\u00f3nicos gerados mais ou menos pela IA<\/a>? Ser\u00e1 que as aplica\u00e7\u00f5es de escrita com IA ser\u00e3o o fim do jornalismo<\/a> como a conhecemos (de novo)? Ser\u00e1 que vamos ver ainda mais sint\u00e9ticos 'media da treta<\/a>', manipula\u00e7\u00e3o e ru\u00eddo. Como as redes sociais, mas 500 vezes pior? A IA generativa ser\u00e1 uma \u00f3ptima companheira para os chamados Metaverso<\/a>para que todos possamos desfrutar das nossas simula\u00e7\u00f5es perfeitas? Ser\u00e1 este um grande passo em dire\u00e7\u00e3o a AGI<\/a> e ser\u00e1 que isso significa realmente Apagar das luzes para a humanidade<\/a> Ou \u00e9 tudo s\u00f3 por divers\u00e3o<\/a>?<\/p>\n\n\n\n

\n

Primeiro, uma defini\u00e7\u00e3o r\u00e1pida: \"A intelig\u00eancia artificial (IA) generativa descreve algoritmos (como o ChatGPT) que podem ser utilizados para criar novos conte\u00fados, incluindo \u00e1udio, c\u00f3digo, imagens, texto, simula\u00e7\u00f5es e v\u00eddeos. As recentes descobertas neste dom\u00ednio parecem ter o potencial de alterar drasticamente a forma como abordamos a cria\u00e7\u00e3o de conte\u00fados...\"<\/p>\nVia Investopidea<\/cite><\/blockquote>\n\n\n\n

Aqui ficam alguns dos meus coment\u00e1rios, conclus\u00f5es, esperan\u00e7as, preocupa\u00e7\u00f5es e inquieta\u00e7\u00f5es. Note-se que, de momento, estou ambivalente quanto aos potenciais pr\u00f3s e contras - n\u00e3o se esque\u00e7a de se manter em contacto atrav\u00e9s da minha newsletter.<\/a><\/p>\n\n\n

\n
\"\"
IA generativa: papagaios estoc\u00e1sticos?<\/figcaption><\/figure>\n<\/div>\n\n\n
    \n
  1. N\u00e3o \u00e9 bem assim que<\/em> novo<\/strong>: A ci\u00eancia e a metodologia (nomeadamente, aprendizagem profunda<\/a>) por detr\u00e1s do ChatGPT e de outras IA generativas n\u00e3o \u00e9 assim t\u00e3o novo<\/a> (como refere Yann LeCun da Meta) - mas ter uma interface aberta e p\u00fablica para a experimentar (bem... se n\u00e3o estiver em baixo), e APIs que a utilizem, \u00e9 uma dimens\u00e3o totalmente nova. Respostas do p\u00fablico<\/a> variam entre o entusiasmo grandioso, a cr\u00edtica dura e medo<\/a>. Pessoalmente, acho que \u00e9 uma jogada corajosa do seu criador, OpenAI<\/a>e isso fez com que a bola come\u00e7asse a rolar para eles:) Mas arrisco-me a dizer que n\u00e3o vai continuar a estar dispon\u00edvel t\u00e3o abertamente como est\u00e1 agora, porque eles mexeram claramente num ninho de vespas.<\/li>\n\n\n\n
  2. \u00c9 impressionante, mas a maior parte do texto Aplica\u00e7\u00f5es de IA generativa<\/a> produzir ainda soa muito \"bin\u00e1rio<\/strong>\u2018. ChatGPT <\/a>em particular, faz um \u00f3timo trabalho no que diz respeito \u00e0 gera\u00e7\u00e3o de textos simples (como uma listagem de im\u00f3veis<\/a>), mas quando se mergulha mais fundo nele, para al\u00e9m das colagens de palavras perfeitamente elaboradas, as suas defici\u00eancias aparecem rapidamente. Eis algumas delas:<\/li>\n\n\n\n
  3. ChatGPT n\u00e3o \u00e9 em tempo real <\/strong>(ainda) - os seus dados de forma\u00e7\u00e3o terminam em 2021. N\u00e3o obter\u00e1 quaisquer respostas relacionadas com assuntos actuais, not\u00edcias ou - OMG, esse \u00e9 o meu territ\u00f3rio - observa\u00e7\u00f5es futuras ou previs\u00f5es. Tamb\u00e9m n\u00e3o fa\u00e7o ideia de como a OpenAI faria isto funcionar com dados em tempo real - isso seria 1000 vezes mais do que o atual sumo de processamento de que necessitaria, n\u00e3o? <\/li>\n\n\n\n
  4. O problema do papagaio estoc\u00e1stico:<\/strong> Uma vez que o ChatGPT basicamente remonta trechos, palavras e frases dos seus dados de treino \u00e0 medida que tenta fornecer respostas rapidamente, muitas vezes confunde-se entre as respostas correctas e as verdades sugeridas (ver os exemplos aqui<\/a>), o que indica que o discernimento entre verdadeiro e falso n\u00e3o \u00e9 atualmente o seu ponto forte - apenas procura dar a melhor e mais plaus\u00edvel resposta o mais rapidamente poss\u00edvel. Este facto levou a que muitos especialistas classificassem o ChatGPT um \"papagaio estoc\u00e1stico\" sofisticado<\/a>'. Tal como um papagaio, n\u00e3o faz a m\u00ednima ideia do que diz, limitando-se a regurgitar os excertos de que se \"lembra\". Por outras palavras, muitas vezes, pode parecer muito inteligente e bem sucedido, mas n\u00e3o passa de uma combina\u00e7\u00e3o de factos aleat\u00f3rios, recorrendo mesmo, por vezes, a gaguejos sem sentido.<\/a> MAS: Se ChatGPT e outros como ele<\/a> podem ser utilizados como aldrab\u00f5es muito competentes, basta pensar nas implica\u00e7\u00f5es para redes sociais<\/a>! Eu fecho.<\/li>\n\n\n\n
  5. Achei que o conte\u00fado gerado pelo ChatGPT \u00e9 maioritariamente bastante gen\u00e9rico<\/strong> e, muitas vezes, um pouco r\u00edgida, embora tamb\u00e9m seja bastante h\u00e1bil em algum tipo de humor<\/a>e capaz de aprofundar os pormenores ap\u00f3s uma investiga\u00e7\u00e3o mais aprofundada. Impressionante, de facto, mas longe do que eu consideraria a escrita realmente poderosa e \u00fanica que valeria o meu tempo. A prop\u00f3sito, experimentei uma plataforma muito fixe chamada Sudowrite<\/a> que utiliza a API GPT3 da OpenAI (penso eu) e est\u00e1 orientado para ajudar os escritores a descobrir novos \u00e2ngulos sobre o que est\u00e3o a escrever. Achei isto muito \u00fatil, de facto - ajudou-me a escrever melhor e mais depressa e, em geral, muito mais fluido. Mas, mais uma vez, tamb\u00e9m pode encorajar a minha pregui\u00e7a...<\/li>\n\n\n\n
  6. A inevit\u00e1vel quest\u00e3o da confian\u00e7a:<\/strong> Ser\u00e1 que podemos, ser\u00e1 que vamos, devemos<\/em> confian\u00e7a IAs de conversa\u00e7\u00e3o<\/a> e \/ ou aplica\u00e7\u00f5es como o ChatGPT? Este dilema \u00e9 semelhante ao do Google Maps, na medida em que gostamos de o utilizar, mas estamos sempre a pensar se est\u00e1 realmente a mostrar-nos a melhor forma de chegar ao nosso destino (independentemente das muitas formas diferentes como o Google Maps enganou-nos<\/a>, embora provavelmente de forma inadvertida:). O que interessa \u00e9 que quando estamos \u00e0 procura de respostas (n\u00e3o liga\u00e7\u00f5es para as respostas<\/em>(como na pesquisa), a l\u00f3gica por si s\u00f3 \u00e9 absolutamente insuficiente e o acesso profundo a dados e informa\u00e7\u00f5es n\u00e3o \u00e9 suficiente para gerar respostas definitivas e correctas. Em termos simples, o maior problema \u00e9 que a IA n\u00e3o tem atualmente aquilo a que chamoandror\u00edtmico<\/a><\/strong> compreens\u00e3o<\/a><\/strong>Ou seja, n\u00e3o conhece (e n\u00e3o pode?) os valores, as preocupa\u00e7\u00f5es, os sentimentos e a \u00e9tica subjacentes \u00e0s decis\u00f5es humanas (e, portanto, \u00e0s respostas, hist\u00f3rias ou narrativas humanas). E recordemos O ser humano n\u00e3o pensa com o c\u00e9rebro<\/a> (apenas) - pensamos com o corpo. A reducionista<\/a> A abordagem da IA geradora \u00e0 vida real pode rapidamente tornar-se um problema social grave, a n\u00e3o ser que cheguemos a acordo sobre algum tipo de norma global que indique a utiliza\u00e7\u00e3o da IA geradora quando lemos ou vemos algo.<\/li>\n\n\n\n
  7. A este prop\u00f3sito, o prov\u00e9rbio guineense \"Conhecimento sem Sabedoria \u00e9 como \u00e1gua na areia\"<\/strong> descreve muito bem o problema da maior parte da produ\u00e7\u00e3o do ChatGPT. De facto, esse pode ser o mesmo problema que muitos escritores humanos enfrentam tamb\u00e9m: se n\u00e3o tivermos nada para dizer, sem ideias originais, sem mensagem, sem miss\u00e3o, sem prop\u00f3sito... acabamos simplesmente por regurgitar o que j\u00e1 foi dito noutro lado, apenas de formas ligeiramente diferentes. Isto pode ser bom para algumas tarefas muito simples, como escrever o texto de um s\u00edtio web para um site wordpress r\u00e1pido, ou para an\u00fancios imobili\u00e1rios b\u00e1sicos, etc. Mas, para outras utiliza\u00e7\u00f5es, a minha experi\u00eancia diz-me que os textos do ChatGPT s\u00e3o t\u00e3o gen\u00e9ricos e emocionalmente planos que precisam de muita edi\u00e7\u00e3o humana. No entanto, prevejo que muitos escritores ir\u00e3o utilizar uma IA generativa para obter ideias e explorar possibilidades - o que parece ser uma coisa boa (por enquanto). <\/li>\n\n\n\n
  8. Penso que \u00e9 importante compreender que o ChatGPT n\u00e3o tem (e n\u00e3o ter\u00e1) n\u00e3o?) criar novos conhecimentos<\/strong> (n\u00e3o importa o que eu chamo de telos<\/em> ou seja, sabedoria<\/a>), que \u00e9 incapaz de imagina\u00e7\u00e3o e de previs\u00e3o (ou seja, de compreender o que ainda n\u00e3o existe) e que carece de qualquer multin\u00e1rio<\/a> compreens\u00e3o da Vida Real (que \u00e9 onde a maioria dos humanos reside de facto *para al\u00e9m de Zuckerberg<\/a>). Estas s\u00e3o limita\u00e7\u00f5es bastante significativas - mas, por outro lado, \u00e9 por isso que n\u00f3s, humanos, vamos n\u00e3o se tornar \"in\u00fatil<\/a>\ud83d\ude42<\/li>\n\n\n\n
  9. Relativamente a perda de postos de trabalho devido a uma automatiza\u00e7\u00e3o ainda mais acelerada pela tecnologia<\/strong>: J\u00e1 ouvimos os argumentos para o inevit\u00e1vel meme \"as m\u00e1quinas v\u00e3o tirar-nos os empregos\"; como em \"se uma m\u00e1quina pode conduzir um carro (ou um cami\u00e3o), porque \u00e9 que precisamos de condutores humanos<\/em>\". Mas, at\u00e9 \u00e0 data, isso n\u00e3o aconteceu de facto. Sim, temos alguns<\/em> autom\u00f3veis aut\u00f3nomos<\/a> e cami\u00f5es, nalguns locais, em determinadas condi\u00e7\u00f5es, mas, ao mesmo tempo, os seres humanos continuam a ser respons\u00e1veis por 99,9% de todos os trabalhos de condu\u00e7\u00e3o. Ser\u00e1 isto uma fal\u00e1cia<\/a>ou estamos a bater \u00e0 porta errada? Pessoalmente, penso que n\u00edveis 2 ou 3 de condu\u00e7\u00e3o aut\u00f3noma<\/a> seria uma grande conquista, e talvez o n\u00edvel 4 e definitivamente o n\u00edvel 5 sejam uma narrativa que devemos deixar de enfatizar, por enquanto. Talvez o meme dose uma m\u00e1quina (uma IA) pode escrever um bom artigo, porque \u00e9 que precisamos de escritores humanos<\/em>' seguir\u00e1 a mesma trajet\u00f3ria - o que significa que, com certeza, se estiver a fazer um trabalho de rotina total<\/a> (ou tarefa), a m\u00e1quina acabar\u00e1 por o fazer por si, mas, caso contr\u00e1rio, a vida real n\u00e3o \u00e9 assim t\u00e3o simples. Para j\u00e1.<\/li>\n\n\n\n
  10. Isto leva-me \u00e0 minha maior preocupa\u00e7\u00e3o: onde \u00e9 que isto vai parar? Estaremos a caminhar para um tipo bizarro deFuturo sint\u00e9tico<\/a>\u2018<\/strong>? Primeiro, a escrita sint\u00e9tica, depois, as imagens e os v\u00eddeos sint\u00e9ticos, depois, os media sint\u00e9ticos (filmes, podcasts e m\u00fasica<\/a>) seguido de amigos sint\u00e9ticos (ver Replika<\/a>), e finalmente, humanos sint\u00e9ticos<\/a> e um ... mundo sint\u00e9tico. H\u00e1 um perigo evidente de que a nossa pregui\u00e7a nos leve a delegar muito do trabalho pesado (ou qualquer outro trabalho menos excitante) nas m\u00e1quinas e de que deixemos de nos esfor\u00e7ar. Para qu\u00ea escrever um artigo de opini\u00e3o quando a IA pode cri\u00e1-lo em segundos (mais uma vez, ma\u00e7\u00e3s e laranjas, mas ainda assim um grande problema). Porqu\u00ea preocupar-se em fazer com que as suas fotografias tenham bom aspeto quando a IA pode gerar qualquer cena realista a pedido, em qualquer local do globo? Para qu\u00ea preocuparmo-nos com todos os desafios de uma rela\u00e7\u00e3o na vida real com outro ser humano, se podemos ter uma WifeLike<\/a> IA? Aten\u00e7\u00e3o; alguma pregui\u00e7a \u00e9 muitas vezes bem-vinda e conveniente (como o Google Maps ou o Uber-Eats, talvez?), mas levada ao extremo conduziria a um aumento da desumaniza\u00e7\u00e3o da sociedade<\/a> e uma falta de sentido geral, na minha opini\u00e3o. Eu calo-me, mais uma vez.<\/li>\n\n\n\n
  11. Um mundo ut\u00f3pico, tornado poss\u00edvel pela IA? <\/strong>Diz o diretor executivo da OpenAI, Sam Altman<\/a>: \"\u00c0 medida que a IA produz a maior parte dos bens e servi\u00e7os b\u00e1sicos do mundo, as pessoas ficar\u00e3o livres para passar mais tempo com as pessoas de quem gostam, cuidar das pessoas, apreciar a arte e a natureza ou trabalhar para o bem social\". Concordo que a tecnologia poderia eventualmente<\/em> criar esses protopiano<\/a> mas, no fim de contas, a tecnologia n\u00e3o resolver\u00e1 os problemas sociais, culturais ou pol\u00edticos - para isso, precisamos da colabora\u00e7\u00e3o e da sabedoria humanas, e \u00e9 isso que mais nos falta!<\/a><\/li>\n<\/ol>\n\n\n\n
    \n

    \"Veremos o ChatGPT e ferramentas semelhantes serem utilizadas de forma adversa, com o objetivo de minar a confian\u00e7a nos ambientes de informa\u00e7\u00e3o, afastando as pessoas do discurso p\u00fablico para comunidades cada vez mais homog\u00e9neas.\"<\/p>\nJanet Haven<\/a>, Diretor Executivo, Data & Society, via Nieman Lab<\/cite><\/blockquote>\n\n\n\n

    \n\n\n\n
    \n