{"id":132735,"date":"2023-01-31T15:47:05","date_gmt":"2023-01-31T14:47:05","guid":{"rendered":"https:\/\/gerdtestpress.online\/?p=132735"},"modified":"2023-04-01T13:37:28","modified_gmt":"2023-04-01T11:37:28","slug":"generative-ai-chatgpt-dalle2-et-al-knowledge-without-wisdom-is-like-water-in-the-sand-analysis-by-futurist-humanist-gerd-leonhard","status":"publish","type":"post","link":"https:\/\/futuristgerd.com\/es\/2023\/01\/generative-ai-chatgpt-dalle2-et-al-knowledge-without-wisdom-is-like-water-in-the-sand-analysis-by-futurist-humanist-gerd-leonhard\/","title":{"rendered":"Generative AI, ChatGPT, Dalle2 et al: \"El conocimiento sin sabidur\u00eda es como agua en la arena\". An\u00e1lisis del futurista y humanista Gerd Leonhard (ACTUALIZADO)"},"content":{"rendered":"

Generative AI, ChatGPT, Dalle2 et al: \"El conocimiento sin sabidur\u00eda es como agua en la arena\" - Un comentario ilusionado pero cr\u00edtico del futurista Gerd Leonhard<\/h3>\n\n\n\n

* Echa un vistazo a mi nuevo tema en GenerativeAI y ChatGPT<\/a> y ver la grabaci\u00f3n en directo<\/a> de mi sesi\u00f3n de livestream del 30 de enero de 2023 sobre este tema (algunas de las im\u00e1genes que utilic\u00e9 en la charla est\u00e1n en la galer\u00eda de abajo)<\/p>\n\n\n\n

Actualizado el 1 de abril de 2023 - \u00a1nuevos v\u00eddeos a continuaci\u00f3n!<\/strong><\/p>\n\n\n\n

La expectaci\u00f3n es incre\u00edble: Algunos expertos dicen IA Generativa<\/a>y, en particular ChatGPT<\/a>, Dalle2, Midjourney y Difusi\u00f3nEstable<\/a>representan un revoluci\u00f3n<\/a> y marcar\u00e1 el comienzo de la pr\u00f3xima edici\u00f3n de la web, de forma similar a lo que ocurri\u00f3 con la llegada de Internet m\u00f3vil. \u00bfSer\u00e1 ChatGPT tan grande como el iPhone? \u00bfCrear\u00e1 el primer competidor de Google<\/a>? \u00bfEs por eso que MSFT est\u00e1 invirtiendo $10 mil millones en OpenAI? M\u00e1s abajo a la tierra, \u00bfsignifica esto la fin del ensayo universitario<\/a>? Will ChatGPT impulsar el plagio<\/a> y la pereza editorial en general? \u00bfVeremos una avalancha de (a\u00fan m\u00e1s) cosas sin sentido ebooks generados m\u00e1s o menos por la IA<\/a>? \u00bfSupondr\u00e1n las aplicaciones de fin del periodismo<\/a> tal y como la conocemos (otra vez)? \u00bfVeremos a\u00fan m\u00e1s sint\u00e9ticos 'medios de comunicaci\u00f3n de mierda<\/a>manipulaci\u00f3n y ruido. \u00bfComo las redes sociales, pero 500 veces peor? \u00bfSer\u00e1 la IA generativa una gran compa\u00f1era de la llamada Metaverso<\/a>\u00bfpara que todos podamos disfrutar de nuestras simulaciones perfectas? \u00bfEs este un gran paso hacia AGI<\/a> y eso significar\u00eda realmente se apagan las luces para la humanidad<\/a> \u00bfO es todo s\u00f3lo por diversi\u00f3n<\/a>?<\/p>\n\n\n\n

\n

Primero, una definici\u00f3n r\u00e1pida: \"La inteligencia artificial generativa (IA) describe algoritmos (como ChatGPT) que pueden utilizarse para crear nuevos contenidos, incluidos audio, c\u00f3digo, im\u00e1genes, texto, simulaciones y v\u00eddeos. Los recientes avances en este campo parecen tener el potencial de cambiar dr\u00e1sticamente la forma en que abordamos la creaci\u00f3n de contenidos...\"<\/p>\nV\u00eda Investopidea<\/cite><\/blockquote>\n\n\n\n

He aqu\u00ed algunos de mis comentarios, conclusiones, esperanzas, preocupaciones e inquietudes. Tenga en cuenta que, por el momento, soy ambivalente en cuanto a los posibles pros y contras... Mant\u00e9ngase en contacto a trav\u00e9s de mi bolet\u00edn.<\/a><\/p>\n\n\n

\n
\"\"
Inteligencia artificial generativa: \u00bfloros estoc\u00e1sticos?<\/figcaption><\/figure>\n<\/div>\n\n\n
    \n
  1. No es realmente que<\/em> nuevo<\/strong>: La ciencia y la metodolog\u00eda (en particular, aprendizaje profundo<\/a>) detr\u00e1s de ChatGPT y otras GenerativeAI no es realmente tan nuevo<\/a> (como se\u00f1ala Yann LeCun, de Meta), pero disponer de una interfaz abierta y p\u00fablica para probarlo (bueno... si no est\u00e1 ca\u00eddo), y de API que lo aprovechen, es una dimensi\u00f3n completamente nueva. Respuestas del p\u00fablico<\/a> van desde el entusiasmo grandilocuente a la dura cr\u00edtica miedo<\/a>. Personalmente, creo que es una jugada arriesgada por parte de su creador, OpenAI<\/a>y seguro que les ha puesto las pilas:) Pero me atrever\u00eda a decir que no se mantendr\u00e1 tan abiertamente disponible como lo est\u00e1 ahora, ya que claramente han agitado un avispero aqu\u00ed.<\/li>\n\n\n\n
  2. Es impresionante, pero la mayor parte del texto Aplicaciones GenerativeAI<\/a> producir sigue sonando muy \"binario<\/strong>\u2018. ChatGPT <\/a>en particular hace un gran trabajo en cuanto a la generaci\u00f3n de textos sencillos (como un anuncio inmobiliario<\/a>), pero una vez que se profundiza en \u00e9l, m\u00e1s all\u00e1 de los collages de palabras perfectamente elaborados, sus defectos afloran con bastante rapidez. He aqu\u00ed algunos de ellos:<\/li>\n\n\n\n
  3. ChatGPT no es en tiempo real <\/strong>(Los datos de formaci\u00f3n se acaban en 2021. No obtendr\u00e1s ninguna respuesta relacionada con asuntos de actualidad, noticias o - OMG ese es mi terreno - observaciones futuras o previsiones. Tampoco tengo ni idea de c\u00f3mo OpenAI podr\u00eda hacer que esto funcionara con datos en tiempo real, eso supondr\u00eda 1000 veces el jugo de procesamiento actual que necesitar\u00eda, \u00bfno? <\/li>\n\n\n\n
  4. El problema estoc\u00e1stico del loro:<\/strong> Dado que ChatGPT b\u00e1sicamente reensambla fragmentos, palabras y frases de sus datos de entrenamiento mientras intenta proporcionar respuestas r\u00e1pidamente, a menudo se confunde entre las respuestas correctas y las verdades sugeridas (v\u00e9anse los ejemplos aqu\u00ed<\/a>), lo que indica que discernir lo verdadero de lo falso no es actualmente su punto fuerte, sino que se limita a ofrecer la mejor y m\u00e1s plausible respuesta lo m\u00e1s r\u00e1pido posible. Esto ha llevado a muchos expertos a etiquetar ChatGPT un elegante \"loro estoc\u00e1stico<\/a>'. Como un loro, no tiene ni idea de lo que dice, s\u00f3lo regurgita los fragmentos que \"recuerda\". En otras palabras, a menudo puede parecer muy inteligente y logrado, pero no es m\u00e1s que una combinaci\u00f3n de hechos aleatorios, a veces incluso recurriendo a balbuceos sin sentido.<\/a> PERO: Si ChatGPT y otros como este<\/a> pueden ser utilizados como mentirosos muy logrados, s\u00f3lo piense en la implicaci\u00f3n para redes sociales<\/a>\u00a1! Cierro.<\/li>\n\n\n\n
  5. Encontr\u00e9 que el contenido que genera ChatGPT en su mayor\u00eda bastante gen\u00e9rico<\/strong> y a menudo un poco r\u00edgido, aunque tambi\u00e9n es bastante h\u00e1bil para alg\u00fan tipo de humor<\/a>y capaz de profundizar en los detalles a poco que se indague. Impresionante, desde luego, pero lejos de lo que yo considerar\u00eda una escritura realmente poderosa y \u00fanica que merecer\u00eda mi tiempo. Por cierto, he probado una plataforma muy interesante llamada Sudowrite<\/a> que utiliza la API GPT3 de OpenAI (creo) y est\u00e1 orientado a ayudar a los escritores a descubrir nuevos \u00e1ngulos sobre lo que est\u00e1n escribiendo. A m\u00ed me ha resultado muy \u00fatil: me ha ayudado a escribir mejor y m\u00e1s r\u00e1pido, y en general con mucha m\u00e1s fluidez. Pero tambi\u00e9n puede fomentar mi pereza...<\/li>\n\n\n\n
  6. La inevitable cuesti\u00f3n de confianza:<\/strong> \u00bfPodemos? \u00bfLo haremos? \u00bfDeber\u00edamos<\/em> conf\u00ede en IA conversacional<\/a> y\/o aplicaciones como ChatGPT? Este dilema es similar al de Google Maps, en el sentido de que nos encanta usarlo pero siempre nos preguntamos si realmente nos est\u00e1 mostrando el mejor camino para llegar a nuestro destino (no importa las muchas maneras diferentes en que Google Maps nos ha enga\u00f1ado<\/a>aunque probablemente sin querer:). La conclusi\u00f3n es que cuando buscamos respuestas (no enlaces a las respuestas<\/em>(como en la b\u00fasqueda), la l\u00f3gica por s\u00ed sola es totalmente insuficiente, y el acceso profundo a datos e informaci\u00f3n no basta para generar respuestas definitivas y correctas. En pocas palabras, el mayor problema es que la IA carece actualmente de lo que yo llamo 'andror\u00edtmico<\/a><\/strong> comprensi\u00f3n<\/a><\/strong>Es decir, no conoce (\u00bfni puede conocer?) los valores, preocupaciones, sentimientos y \u00e9tica que subyacen a las decisiones humanas (y, por tanto, a las respuestas, historias o relatos humanos). Y recordemos Los humanos no piensan con el cerebro<\/a> (s\u00f3lo) - pensamos con el cuerpo. A reduccionista<\/a> a la vida real podr\u00eda convertirse r\u00e1pidamente en un grave problema social, a menos que acordemos alg\u00fan tipo de norma global que denote el uso de IA generativa cuando leemos o vemos algo.<\/li>\n\n\n\n
  7. A este respecto, el proverbio guineano \"El conocimiento sin sabidur\u00eda es como agua en la arena\"<\/strong> describe muy bien el problema de la mayor parte de la producci\u00f3n de ChatGPT. De hecho, ese puede ser el mismo problema al que se enfrentan muchos escritores humanos: si no tienes nada que decir, ni ideas originales, ni mensaje, ni misi\u00f3n, ni prop\u00f3sito... simplemente acabas regurgitando lo que ya se ha dicho en otro sitio, s\u00f3lo que de formas ligeramente diferentes. Esto puede estar bien para algunas tareas muy sencillas, como la redacci\u00f3n de textos para un sitio web r\u00e1pido en wordpress, o para listados inmobiliarios b\u00e1sicos de diez centavos por docena, etc. Pero para otros usos, mi experiencia ha sido que los textos de ChatGPT son tan gen\u00e9ricos y emocionalmente planos que necesitan mucha edici\u00f3n humana. No obstante, preveo que muchos escritores utilizar\u00e1n una IA generativa para extraer ideas y explorar posibilidades, lo que parece algo positivo (por ahora). <\/li>\n\n\n\n
  8. Creo que es importante entender que ChatGPT no hace (ni har\u00e1) lo siguiente no?) crear nuevos conocimientos<\/strong> (no importa c\u00f3mo llame a telos<\/em> es decir, sabidur\u00eda<\/a>), que es incapaz de imaginaci\u00f3n y previsi\u00f3n (es decir, de comprensi\u00f3n de lo que no est\u00e1 ya aqu\u00ed) y que carece de toda multinario<\/a> comprensi\u00f3n de la Vida Real (que es donde la mayor\u00eda de los humanos residen realmente *aparte de Zuckerberg<\/a>). Se trata de limitaciones bastante importantes, pero por eso los humanos no volverse \"in\u00fatil<\/a>\ud83d\ude42<\/li>\n\n\n\n
  9. En relaci\u00f3n con p\u00e9rdidas de empleo debidas a una automatizaci\u00f3n a\u00fan m\u00e1s acelerada por la tecnolog\u00eda<\/strong>: Ya hemos o\u00eddo antes los argumentos a favor del inevitable meme de que \"las m\u00e1quinas nos quitar\u00e1n el trabajo\"; como en \"si una m\u00e1quina puede conducir un coche (o un cami\u00f3n), \u00bfpor qu\u00e9 necesitamos conductores humanos?<\/em>\". Pero hasta ahora no ha ocurrido realmente. S\u00ed, hemos algunos<\/em> coches aut\u00f3nomos<\/a> y camiones, en algunos lugares, en determinadas condiciones, pero al mismo tiempo los humanos siguen encarg\u00e1ndose del 99,9% de todos los trabajos de conducci\u00f3n. \u00bfEs esto una falacia<\/a>\u00bfo estamos ladrando al \u00e1rbol equivocado? Personalmente, creo que niveles 2 o 3 en conducci\u00f3n aut\u00f3noma<\/a> ser\u00eda un gran logro, y tal vez el nivel 4 y definitivamente el nivel 5 es una narrativa que deber\u00edamos dejar de enfatizar, por ahora. Quiz\u00e1 el meme de 'si una m\u00e1quina (una IA) puede escribir un buen art\u00edculo, \u00bfpor qu\u00e9 necesitamos escritores humanos?<\/em>' seguir\u00e1 la misma trayectoria - lo que significa que seguro, si usted est\u00e1 haciendo un trabajo rutinario total<\/a> (o tarea), la m\u00e1quina acabar\u00e1 haci\u00e9ndolo por ti, pero por lo dem\u00e1s la vida real no es tan sencilla. De momento.<\/li>\n\n\n\n
  10. Esto me lleva a mi mayor preocupaci\u00f3n: \u00bfhacia d\u00f3nde va esto? \u00bfNos dirigimos hacia un extra\u00f1o tipo de 'Futuro sint\u00e9tico<\/a>\u2018<\/strong>? Primero, escritura sint\u00e9tica; despu\u00e9s, im\u00e1genes y v\u00eddeos sint\u00e9ticos; despu\u00e9s, medios de comunicaci\u00f3n sint\u00e9ticos (pel\u00edculas, podcasts y m\u00fasica<\/a>) seguido de los amigos sint\u00e9ticos (eche un vistazo Sustituci\u00f3n<\/a>), y por \u00faltimo, humanos sint\u00e9ticos<\/a> y un mundo... sint\u00e9tico. Existe el peligro de que nuestra pereza nos lleve a delegar gran parte del \"trabajo pesado\" (o cualquier otro trabajo menos emocionante) en las m\u00e1quinas y dejemos de esforzarnos. Por qu\u00e9 escribir hasta las tripas para conseguir un buen art\u00edculo cuando la IA puede generarlo en segundos (de nuevo, manzanas y naranjas, pero sigue siendo un gran problema). \u00bfPor qu\u00e9 molestarse en hacer buenas fotos cuando la IA puede generar cualquier escena realista a la carta, en cualquier lugar del mundo? \u00bfPor qu\u00e9 preocuparse por todos los retos de una relaci\u00f3n real con otro ser humano, si podemos conseguir una WifeLike<\/a> \u00bfAI? Eso s\u00ed; cierta pereza es a menudo bienvenida y conveniente (como Google Maps o Uber-Eats, \u00bfquiz\u00e1?) pero llevada al extremo conducir\u00eda a un aumento de la deshumanizaci\u00f3n de la sociedad<\/a> y una falta general de sentido, en mi opini\u00f3n. Me callo, otra vez.<\/li>\n\n\n\n
  11. \u00bfUn mundo ut\u00f3pico, posible gracias a la IA? <\/strong>Dice el director general de OpenAI, Sam Altman<\/a>: \"A medida que la IA produzca la mayor\u00eda de los bienes y servicios b\u00e1sicos del mundo, las personas quedar\u00e1n liberadas para pasar m\u00e1s tiempo con las personas que les importan, cuidar de la gente, apreciar el arte y la naturaleza o trabajar por el bien social\". Estoy de acuerdo en que la tecnolog\u00eda podr\u00eda posiblemente<\/em> crear esos protopia<\/a> beneficios para nosotros, pero al final, la tecnolog\u00eda no resolver\u00e1 los problemas sociales, culturales o pol\u00edticos - para eso, necesitamos la colaboraci\u00f3n humana y la sabidur\u00eda, y \u00a1eso es lo que m\u00e1s nos falta!<\/a><\/li>\n<\/ol>\n\n\n\n
    \n

    \"Veremos c\u00f3mo ChatGPT y herramientas similares se utilizan de forma adversaria con la intenci\u00f3n de socavar la confianza en los entornos de informaci\u00f3n, alejando a la gente del discurso p\u00fablico hacia comunidades cada vez m\u00e1s homog\u00e9neas.\"<\/p>\nJanet Haven<\/a>Director Ejecutivo, Datos y Sociedad, v\u00eda Nieman Lab<\/cite><\/blockquote>\n\n\n\n

    \n\n\n\n
    \n