Español 
English 
Deutsch 
Français 
Português (AO90) 
Generative AI, ChatGPT, Dalle2 et al: "El conocimiento sin sabiduría es como agua en la arena" - Un comentario ilusionado pero crítico del futurista Gerd Leonhard
* Echa un vistazo a mi nuevo tema en GenerativeAI y ChatGPT y ver la grabación en directo de mi sesión de livestream del 30 de enero de 2023 sobre este tema (algunas de las imágenes que utilicé en la charla están en la galería de abajo)
Actualizado el 1 de abril de 2023 - ¡nuevos vídeos a continuación!
La expectación es increíble: Algunos expertos dicen IA Generativay, en particular ChatGPT, Dalle2, Midjourney y DifusiónEstablerepresentan un revolución y marcará el comienzo de la próxima edición de la web, de forma similar a lo que ocurrió con la llegada de Internet móvil. ¿Será ChatGPT tan grande como el iPhone? ¿Creará el primer competidor de Google? ¿Es por eso que MSFT está invirtiendo $10 mil millones en OpenAI? Más abajo a la tierra, ¿significa esto la fin del ensayo universitario? Will ChatGPT impulsar el plagio y la pereza editorial en general? ¿Veremos una avalancha de (aún más) cosas sin sentido ebooks generados más o menos por la IA? ¿Supondrán las aplicaciones de fin del periodismo tal y como la conocemos (otra vez)? ¿Veremos aún más sintéticos 'medios de comunicación de mierdamanipulación y ruido. ¿Como las redes sociales, pero 500 veces peor? ¿Será la IA generativa una gran compañera de la llamada Metaverso¿para que todos podamos disfrutar de nuestras simulaciones perfectas? ¿Es este un gran paso hacia AGI y eso significaría realmente se apagan las luces para la humanidad ¿O es todo sólo por diversión?
Primero, una definición rápida: "La inteligencia artificial generativa (IA) describe algoritmos (como ChatGPT) que pueden utilizarse para crear nuevos contenidos, incluidos audio, código, imágenes, texto, simulaciones y vídeos. Los recientes avances en este campo parecen tener el potencial de cambiar drásticamente la forma en que abordamos la creación de contenidos..."
Vía Investopidea
He aquí algunos de mis comentarios, conclusiones, esperanzas, preocupaciones e inquietudes. Tenga en cuenta que, por el momento, soy ambivalente en cuanto a los posibles pros y contras... Manténgase en contacto a través de mi boletín.
- No es realmente que nuevo: La ciencia y la metodología (en particular, aprendizaje profundo) detrás de ChatGPT y otras GenerativeAI no es realmente tan nuevo (como señala Yann LeCun, de Meta), pero disponer de una interfaz abierta y pública para probarlo (bueno... si no está caído), y de API que lo aprovechen, es una dimensión completamente nueva. Respuestas del público van desde el entusiasmo grandilocuente a la dura crítica miedo. Personalmente, creo que es una jugada arriesgada por parte de su creador, OpenAIy seguro que les ha puesto las pilas:) Pero me atrevería a decir que no se mantendrá tan abiertamente disponible como lo está ahora, ya que claramente han agitado un avispero aquí.
- Es impresionante, pero la mayor parte del texto Aplicaciones GenerativeAI producir sigue sonando muy "binario‘. ChatGPT en particular hace un gran trabajo en cuanto a la generación de textos sencillos (como un anuncio inmobiliario), pero una vez que se profundiza en él, más allá de los collages de palabras perfectamente elaborados, sus defectos afloran con bastante rapidez. He aquí algunos de ellos:
- ChatGPT no es en tiempo real (Los datos de formación se acaban en 2021. No obtendrás ninguna respuesta relacionada con asuntos de actualidad, noticias o - OMG ese es mi terreno - observaciones futuras o previsiones. Tampoco tengo ni idea de cómo OpenAI podría hacer que esto funcionara con datos en tiempo real, eso supondría 1000 veces el jugo de procesamiento actual que necesitaría, ¿no?
- El problema estocástico del loro: Dado que ChatGPT básicamente reensambla fragmentos, palabras y frases de sus datos de entrenamiento mientras intenta proporcionar respuestas rápidamente, a menudo se confunde entre las respuestas correctas y las verdades sugeridas (véanse los ejemplos aquí), lo que indica que discernir lo verdadero de lo falso no es actualmente su punto fuerte, sino que se limita a ofrecer la mejor y más plausible respuesta lo más rápido posible. Esto ha llevado a muchos expertos a etiquetar ChatGPT un elegante "loro estocástico'. Como un loro, no tiene ni idea de lo que dice, sólo regurgita los fragmentos que "recuerda". En otras palabras, a menudo puede parecer muy inteligente y logrado, pero no es más que una combinación de hechos aleatorios, a veces incluso recurriendo a balbuceos sin sentido. PERO: Si ChatGPT y otros como este pueden ser utilizados como mentirosos muy logrados, sólo piense en la implicación para redes sociales¡! Cierro.
- Encontré que el contenido que genera ChatGPT en su mayoría bastante genérico y a menudo un poco rígido, aunque también es bastante hábil para algún tipo de humory capaz de profundizar en los detalles a poco que se indague. Impresionante, desde luego, pero lejos de lo que yo consideraría una escritura realmente poderosa y única que merecería mi tiempo. Por cierto, he probado una plataforma muy interesante llamada Sudowrite que utiliza la API GPT3 de OpenAI (creo) y está orientado a ayudar a los escritores a descubrir nuevos ángulos sobre lo que están escribiendo. A mí me ha resultado muy útil: me ha ayudado a escribir mejor y más rápido, y en general con mucha más fluidez. Pero también puede fomentar mi pereza...
- La inevitable cuestión de confianza: ¿Podemos? ¿Lo haremos? ¿Deberíamos confíe en IA conversacional y/o aplicaciones como ChatGPT? Este dilema es similar al de Google Maps, en el sentido de que nos encanta usarlo pero siempre nos preguntamos si realmente nos está mostrando el mejor camino para llegar a nuestro destino (no importa las muchas maneras diferentes en que Google Maps nos ha engañadoaunque probablemente sin querer:). La conclusión es que cuando buscamos respuestas (no enlaces a las respuestas(como en la búsqueda), la lógica por sí sola es totalmente insuficiente, y el acceso profundo a datos e información no basta para generar respuestas definitivas y correctas. En pocas palabras, el mayor problema es que la IA carece actualmente de lo que yo llamo 'androrítmico comprensiónEs decir, no conoce (¿ni puede conocer?) los valores, preocupaciones, sentimientos y ética que subyacen a las decisiones humanas (y, por tanto, a las respuestas, historias o relatos humanos). Y recordemos Los humanos no piensan con el cerebro (sólo) - pensamos con el cuerpo. A reduccionista a la vida real podría convertirse rápidamente en un grave problema social, a menos que acordemos algún tipo de norma global que denote el uso de IA generativa cuando leemos o vemos algo.
- A este respecto, el proverbio guineano "El conocimiento sin sabiduría es como agua en la arena" describe muy bien el problema de la mayor parte de la producción de ChatGPT. De hecho, ese puede ser el mismo problema al que se enfrentan muchos escritores humanos: si no tienes nada que decir, ni ideas originales, ni mensaje, ni misión, ni propósito... simplemente acabas regurgitando lo que ya se ha dicho en otro sitio, sólo que de formas ligeramente diferentes. Esto puede estar bien para algunas tareas muy sencillas, como la redacción de textos para un sitio web rápido en wordpress, o para listados inmobiliarios básicos de diez centavos por docena, etc. Pero para otros usos, mi experiencia ha sido que los textos de ChatGPT son tan genéricos y emocionalmente planos que necesitan mucha edición humana. No obstante, preveo que muchos escritores utilizarán una IA generativa para extraer ideas y explorar posibilidades, lo que parece algo positivo (por ahora).
- Creo que es importante entender que ChatGPT no hace (ni hará) lo siguiente no?) crear nuevos conocimientos (no importa cómo llame a telos es decir, sabiduría), que es incapaz de imaginación y previsión (es decir, de comprensión de lo que no está ya aquí) y que carece de toda multinario comprensión de la Vida Real (que es donde la mayoría de los humanos residen realmente *aparte de Zuckerberg). Se trata de limitaciones bastante importantes, pero por eso los humanos no volverse "inútil🙂
- En relación con pérdidas de empleo debidas a una automatización aún más acelerada por la tecnología: Ya hemos oído antes los argumentos a favor del inevitable meme de que "las máquinas nos quitarán el trabajo"; como en "si una máquina puede conducir un coche (o un camión), ¿por qué necesitamos conductores humanos?". Pero hasta ahora no ha ocurrido realmente. Sí, hemos algunos coches autónomos y camiones, en algunos lugares, en determinadas condiciones, pero al mismo tiempo los humanos siguen encargándose del 99,9% de todos los trabajos de conducción. ¿Es esto una falacia¿o estamos ladrando al árbol equivocado? Personalmente, creo que niveles 2 o 3 en conducción autónoma sería un gran logro, y tal vez el nivel 4 y definitivamente el nivel 5 es una narrativa que deberíamos dejar de enfatizar, por ahora. Quizá el meme de 'si una máquina (una IA) puede escribir un buen artículo, ¿por qué necesitamos escritores humanos?' seguirá la misma trayectoria - lo que significa que seguro, si usted está haciendo un trabajo rutinario total (o tarea), la máquina acabará haciéndolo por ti, pero por lo demás la vida real no es tan sencilla. De momento.
- Esto me lleva a mi mayor preocupación: ¿hacia dónde va esto? ¿Nos dirigimos hacia un extraño tipo de 'Futuro sintético‘? Primero, escritura sintética; después, imágenes y vídeos sintéticos; después, medios de comunicación sintéticos (películas, podcasts y música) seguido de los amigos sintéticos (eche un vistazo Sustitución), y por último, humanos sintéticos y un mundo... sintético. Existe el peligro de que nuestra pereza nos lleve a delegar gran parte del "trabajo pesado" (o cualquier otro trabajo menos emocionante) en las máquinas y dejemos de esforzarnos. Por qué escribir hasta las tripas para conseguir un buen artículo cuando la IA puede generarlo en segundos (de nuevo, manzanas y naranjas, pero sigue siendo un gran problema). ¿Por qué molestarse en hacer buenas fotos cuando la IA puede generar cualquier escena realista a la carta, en cualquier lugar del mundo? ¿Por qué preocuparse por todos los retos de una relación real con otro ser humano, si podemos conseguir una WifeLike ¿AI? Eso sí; cierta pereza es a menudo bienvenida y conveniente (como Google Maps o Uber-Eats, ¿quizá?) pero llevada al extremo conduciría a un aumento de la deshumanización de la sociedad y una falta general de sentido, en mi opinión. Me callo, otra vez.
- ¿Un mundo utópico, posible gracias a la IA? Dice el director general de OpenAI, Sam Altman: "A medida que la IA produzca la mayoría de los bienes y servicios básicos del mundo, las personas quedarán liberadas para pasar más tiempo con las personas que les importan, cuidar de la gente, apreciar el arte y la naturaleza o trabajar por el bien social". Estoy de acuerdo en que la tecnología podría posiblemente crear esos protopia beneficios para nosotros, pero al final, la tecnología no resolverá los problemas sociales, culturales o políticos - para eso, necesitamos la colaboración humana y la sabiduría, y ¡eso es lo que más nos falta!
"Veremos cómo ChatGPT y herramientas similares se utilizan de forma adversaria con la intención de socavar la confianza en los entornos de información, alejando a la gente del discurso público hacia comunidades cada vez más homogéneas."
Janet HavenDirector Ejecutivo, Datos y Sociedad, vía Nieman Lab
