Português (AO90) 
English 
Deutsch 
Español 
Français 
IA generativa, ChatGPT, Dalle2 e outros: "O conhecimento sem sabedoria é como água na areia" - Um comentário entusiasmado mas crítico do futurista Gerd Leonhard
* Veja o meu novo tópico sobre GenerativeAI e ChatGPT e ver a gravação da transmissão em direto da minha sessão de livestream de 30 de janeiro de 2023 sobre este tema (algumas das imagens que utilizei na palestra estão na galeria abaixo)
Atualizado em 1 de abril de 2023 - novos vídeos abaixo!
O burburinho é incrível: Alguns especialistas dizem que IA generativae, nomeadamente ChatGPT, Dalle2, Midjourney e EstávelDifusão, representam um revolução e vai dar início à próxima edição da Web, à semelhança do que aconteceu com a chegada da Internet móvel. Será que o ChatGPT vai ser tão grande como o iPhone? Será que isto vai criar o primeiro verdadeiro concorrente do Google? É por isso que a MSFT está a investir $10 mil milhões na OpenAI? Mais concretamente, será que isto significa que a fim do ensaio universitário? Irá ChatGPT aumentar o plágio e preguiça editorial geral? Será que vamos assistir a uma inundação de (ainda mais) livros electrónicos gerados mais ou menos pela IA? Será que as aplicações de escrita com IA serão o fim do jornalismo como a conhecemos (de novo)? Será que vamos ver ainda mais sintéticos 'media da treta', manipulação e ruído. Como as redes sociais, mas 500 vezes pior? A IA generativa será uma óptima companheira para os chamados Metaversopara que todos possamos desfrutar das nossas simulações perfeitas? Será este um grande passo em direção a AGI e será que isso significa realmente Apagar das luzes para a humanidade Ou é tudo só por diversão?
Primeiro, uma definição rápida: "A inteligência artificial (IA) generativa descreve algoritmos (como o ChatGPT) que podem ser utilizados para criar novos conteúdos, incluindo áudio, código, imagens, texto, simulações e vídeos. As recentes descobertas neste domínio parecem ter o potencial de alterar drasticamente a forma como abordamos a criação de conteúdos..."
Via Investopidea
Aqui ficam alguns dos meus comentários, conclusões, esperanças, preocupações e inquietações. Note-se que, de momento, estou ambivalente quanto aos potenciais prós e contras - não se esqueça de se manter em contacto através da minha newsletter.
- Não é bem assim que novo: A ciência e a metodologia (nomeadamente, aprendizagem profunda) por detrás do ChatGPT e de outras IA generativas não é assim tão novo (como refere Yann LeCun da Meta) - mas ter uma interface aberta e pública para a experimentar (bem... se não estiver em baixo), e APIs que a utilizem, é uma dimensão totalmente nova. Respostas do público variam entre o entusiasmo grandioso, a crítica dura e medo. Pessoalmente, acho que é uma jogada corajosa do seu criador, OpenAIe isso fez com que a bola começasse a rolar para eles:) Mas arrisco-me a dizer que não vai continuar a estar disponível tão abertamente como está agora, porque eles mexeram claramente num ninho de vespas.
- É impressionante, mas a maior parte do texto Aplicações de IA generativa produzir ainda soa muito "binário‘. ChatGPT em particular, faz um ótimo trabalho no que diz respeito à geração de textos simples (como uma listagem de imóveis), mas quando se mergulha mais fundo nele, para além das colagens de palavras perfeitamente elaboradas, as suas deficiências aparecem rapidamente. Eis algumas delas:
- ChatGPT não é em tempo real (ainda) - os seus dados de formação terminam em 2021. Não obterá quaisquer respostas relacionadas com assuntos actuais, notícias ou - OMG, esse é o meu território - observações futuras ou previsões. Também não faço ideia de como a OpenAI faria isto funcionar com dados em tempo real - isso seria 1000 vezes mais do que o atual sumo de processamento de que necessitaria, não?
- O problema do papagaio estocástico: Uma vez que o ChatGPT basicamente remonta trechos, palavras e frases dos seus dados de treino à medida que tenta fornecer respostas rapidamente, muitas vezes confunde-se entre as respostas correctas e as verdades sugeridas (ver os exemplos aqui), o que indica que o discernimento entre verdadeiro e falso não é atualmente o seu ponto forte - apenas procura dar a melhor e mais plausível resposta o mais rapidamente possível. Este facto levou a que muitos especialistas classificassem o ChatGPT um "papagaio estocástico" sofisticado'. Tal como um papagaio, não faz a mínima ideia do que diz, limitando-se a regurgitar os excertos de que se "lembra". Por outras palavras, muitas vezes, pode parecer muito inteligente e bem sucedido, mas não passa de uma combinação de factos aleatórios, recorrendo mesmo, por vezes, a gaguejos sem sentido. MAS: Se ChatGPT e outros como ele podem ser utilizados como aldrabões muito competentes, basta pensar nas implicações para redes sociais! Eu fecho.
- Achei que o conteúdo gerado pelo ChatGPT é maioritariamente bastante genérico e, muitas vezes, um pouco rígida, embora também seja bastante hábil em algum tipo de humore capaz de aprofundar os pormenores após uma investigação mais aprofundada. Impressionante, de facto, mas longe do que eu consideraria a escrita realmente poderosa e única que valeria o meu tempo. A propósito, experimentei uma plataforma muito fixe chamada Sudowrite que utiliza a API GPT3 da OpenAI (penso eu) e está orientado para ajudar os escritores a descobrir novos ângulos sobre o que estão a escrever. Achei isto muito útil, de facto - ajudou-me a escrever melhor e mais depressa e, em geral, muito mais fluido. Mas, mais uma vez, também pode encorajar a minha preguiça...
- A inevitável questão da confiança: Será que podemos, será que vamos, devemos confiança IAs de conversação e / ou aplicações como o ChatGPT? Este dilema é semelhante ao do Google Maps, na medida em que gostamos de o utilizar, mas estamos sempre a pensar se está realmente a mostrar-nos a melhor forma de chegar ao nosso destino (independentemente das muitas formas diferentes como o Google Maps enganou-nos, embora provavelmente de forma inadvertida:). O que interessa é que quando estamos à procura de respostas (não ligações para as respostas(como na pesquisa), a lógica por si só é absolutamente insuficiente e o acesso profundo a dados e informações não é suficiente para gerar respostas definitivas e correctas. Em termos simples, o maior problema é que a IA não tem atualmente aquilo a que chamoandrorítmico compreensãoOu seja, não conhece (e não pode?) os valores, as preocupações, os sentimentos e a ética subjacentes às decisões humanas (e, portanto, às respostas, histórias ou narrativas humanas). E recordemos O ser humano não pensa com o cérebro (apenas) - pensamos com o corpo. A reducionista A abordagem da IA geradora à vida real pode rapidamente tornar-se um problema social grave, a não ser que cheguemos a acordo sobre algum tipo de norma global que indique a utilização da IA geradora quando lemos ou vemos algo.
- A este propósito, o provérbio guineense "Conhecimento sem Sabedoria é como água na areia" descreve muito bem o problema da maior parte da produção do ChatGPT. De facto, esse pode ser o mesmo problema que muitos escritores humanos enfrentam também: se não tivermos nada para dizer, sem ideias originais, sem mensagem, sem missão, sem propósito... acabamos simplesmente por regurgitar o que já foi dito noutro lado, apenas de formas ligeiramente diferentes. Isto pode ser bom para algumas tarefas muito simples, como escrever o texto de um sítio web para um site wordpress rápido, ou para anúncios imobiliários básicos, etc. Mas, para outras utilizações, a minha experiência diz-me que os textos do ChatGPT são tão genéricos e emocionalmente planos que precisam de muita edição humana. No entanto, prevejo que muitos escritores irão utilizar uma IA generativa para obter ideias e explorar possibilidades - o que parece ser uma coisa boa (por enquanto).
- Penso que é importante compreender que o ChatGPT não tem (e não terá) não?) criar novos conhecimentos (não importa o que eu chamo de telos ou seja, sabedoria), que é incapaz de imaginação e de previsão (ou seja, de compreender o que ainda não existe) e que carece de qualquer multinário compreensão da Vida Real (que é onde a maioria dos humanos reside de facto *para além de Zuckerberg). Estas são limitações bastante significativas - mas, por outro lado, é por isso que nós, humanos, vamos não se tornar "inútil🙂
- Relativamente a perda de postos de trabalho devido a uma automatização ainda mais acelerada pela tecnologia: Já ouvimos os argumentos para o inevitável meme "as máquinas vão tirar-nos os empregos"; como em "se uma máquina pode conduzir um carro (ou um camião), porque é que precisamos de condutores humanos". Mas, até à data, isso não aconteceu de facto. Sim, temos alguns automóveis autónomos e camiões, nalguns locais, em determinadas condições, mas, ao mesmo tempo, os seres humanos continuam a ser responsáveis por 99,9% de todos os trabalhos de condução. Será isto uma faláciaou estamos a bater à porta errada? Pessoalmente, penso que níveis 2 ou 3 de condução autónoma seria uma grande conquista, e talvez o nível 4 e definitivamente o nível 5 sejam uma narrativa que devemos deixar de enfatizar, por enquanto. Talvez o meme dose uma máquina (uma IA) pode escrever um bom artigo, porque é que precisamos de escritores humanos' seguirá a mesma trajetória - o que significa que, com certeza, se estiver a fazer um trabalho de rotina total (ou tarefa), a máquina acabará por o fazer por si, mas, caso contrário, a vida real não é assim tão simples. Para já.
- Isto leva-me à minha maior preocupação: onde é que isto vai parar? Estaremos a caminhar para um tipo bizarro deFuturo sintético‘? Primeiro, a escrita sintética, depois, as imagens e os vídeos sintéticos, depois, os media sintéticos (filmes, podcasts e música) seguido de amigos sintéticos (ver Replika), e finalmente, humanos sintéticos e um ... mundo sintético. Há um perigo evidente de que a nossa preguiça nos leve a delegar muito do trabalho pesado (ou qualquer outro trabalho menos excitante) nas máquinas e de que deixemos de nos esforçar. Para quê escrever um artigo de opinião quando a IA pode criá-lo em segundos (mais uma vez, maçãs e laranjas, mas ainda assim um grande problema). Porquê preocupar-se em fazer com que as suas fotografias tenham bom aspeto quando a IA pode gerar qualquer cena realista a pedido, em qualquer local do globo? Para quê preocuparmo-nos com todos os desafios de uma relação na vida real com outro ser humano, se podemos ter uma WifeLike IA? Atenção; alguma preguiça é muitas vezes bem-vinda e conveniente (como o Google Maps ou o Uber-Eats, talvez?), mas levada ao extremo conduziria a um aumento da desumanização da sociedade e uma falta de sentido geral, na minha opinião. Eu calo-me, mais uma vez.
- Um mundo utópico, tornado possível pela IA? Diz o diretor executivo da OpenAI, Sam Altman: "À medida que a IA produz a maior parte dos bens e serviços básicos do mundo, as pessoas ficarão livres para passar mais tempo com as pessoas de quem gostam, cuidar das pessoas, apreciar a arte e a natureza ou trabalhar para o bem social". Concordo que a tecnologia poderia eventualmente criar esses protopiano mas, no fim de contas, a tecnologia não resolverá os problemas sociais, culturais ou políticos - para isso, precisamos da colaboração e da sabedoria humanas, e é isso que mais nos falta!
"Veremos o ChatGPT e ferramentas semelhantes serem utilizadas de forma adversa, com o objetivo de minar a confiança nos ambientes de informação, afastando as pessoas do discurso público para comunidades cada vez mais homogéneas."
Janet Haven, Diretor Executivo, Data & Society, via Nieman Lab
