Generative AI, ChatGPT, Dalle2 et al : "La connaissance sans la sagesse est comme de l'eau dans le sable" - Un commentaire enthousiaste mais critique du futuriste Gerd Leonhard

* Découvrez mon nouveau sujet de conférence sur GenerativeAI et ChatGPT et regarder l'enregistrement du livestream de ma session livestream du 30 janvier 2023 sur ce sujet (certaines des images que j'ai utilisées dans l'exposé se trouvent dans la galerie ci-dessous)

Mise à jour le 1er avril 2023 - nouvelles vidéos ci-dessous !

L'engouement est incroyable : Certains experts affirment que IA générativeet en particulier ChatGPTDalle2, Midjourney et StableDiffusion, représentent un révolution et inaugurera la prochaine édition du web, comme cela s'est produit lors de l'arrivée de l'internet mobile. Le ChatGPT sera-t-il aussi important que l'iPhone ? Sera-t-il à l'origine du premier véritable concurrent de Google? Est-ce la raison pour laquelle MSFT investit $10 milliards dans OpenAI ? Plus terre à terre, est-ce que cela annonce la fin de la dissertation universitaire? Will ChatGPT renforcer le plagiat et la paresse éditoriale générale ? Allons-nous assister à un déluge d'articles (encore plus) dénués de sens ? ebooks générés plus ou moins par l'IA? Les applications d'écriture par l'IA vont-elles fin du journalisme comme nous le connaissons (à nouveau) ? Verrons-nous encore plus de produits synthétiques ?médias à la conLes médias sociaux, c'est un peu comme les médias sociaux, mais c'est 500 fois plus grave. Comme les médias sociaux - mais 500 fois plus mauvais ? L'IA générative fera-t-elle un excellent compagnon pour les soi-disant Métaverspour que nous puissions tous vivre nos simulations parfaites ? S'agit-il d'un grand pas vers AGI et cela signifierait-il vraiment L'humanité s'éteint Ou est-ce tout juste pour le plaisir?

Tout d'abord, une brève définition : "L'intelligence artificielle générative (IA) décrit des algorithmes (tels que ChatGPT) qui peuvent être utilisés pour créer un nouveau contenu, y compris de l'audio, du code, des images, du texte, des simulations et des vidéos. De récentes percées dans ce domaine semblent pouvoir changer radicalement notre façon d'aborder la création de contenu..."

Via Investopidea

Voici quelques-uns de mes commentaires, de mes conclusions, de mes espoirs, de mes inquiétudes et de mes préoccupations. Veuillez noter que, pour le moment, je suis ambivalent quant aux avantages et aux inconvénients potentiels. ne manquez pas de rester en contact avec moi via ma lettre d'information.

1. Ce n'est pas vraiment que nouveau: La science et la méthodologie (en particulier, apprentissage profond) à l'origine de ChatGPT et d'autres projets d'IA générative. n'est pas vraiment nouveau (comme le souligne Yann LeCun de Meta), mais le fait de disposer d'une interface ouverte et publique pour l'essayer (enfin... si elle n'est pas en panne), et d'API qui s'en servent, constitue une toute nouvelle dimension. Réponses du public Les questions de sécurité vont de l'excitation grandiose à la critique acerbe, en passant par les questions de santé et de sécurité au travail. peur. Personnellement, je pense que c'est une décision courageuse de la part de son créateur, OpenAIet cela leur a permis d'ouvrir le bal :) Mais je me risquerais à dire qu'il ne restera pas aussi librement accessible qu'il l'est actuellement, car il est clair qu'ils ont mis le feu aux poudres.
2. C'est impressionnant, mais la majeure partie du texte Applications GenerativeAI produire sonnent encore très "binaires".‘. ChatGPT en particulier, fait un excellent travail en ce qui concerne la génération de textes simples (comme une annonce immobilière), mais dès que l'on s'y plonge un peu plus, au-delà des collages de mots parfaitement élaborés, ses défauts apparaissent assez rapidement. En voici quelques-unes :
3. ChatGPT n'est pas en temps réel (pour l'instant) - les données de formation s'arrêtent en 2021. Vous n'obtiendrez aucune réponse en rapport avec l'actualité, les nouvelles ou - OMG, c'est mon domaine - les observations futures ou les prévisions. Je n'ai aucune idée de la manière dont OpenAI pourrait faire fonctionner ce système avec des données en temps réel - cela représenterait 1000 fois le jus de traitement actuel dont il aurait besoin, non ?
4. Le problème du perroquet stochastique : Étant donné que ChatGPT réassemble essentiellement des bribes, des mots et des phrases à partir de ses données d'apprentissage lorsqu'il tente de fournir rapidement des réponses, il se trompe souvent entre les réponses correctes et les vérités suggérées (voir les exemples ici), ce qui indique que la distinction entre le vrai et le faux n'est actuellement pas son point fort - il cherche simplement à fournir la réponse la meilleure et la plus plausible le plus rapidement possible. C'est ce qui a conduit de nombreux experts à qualifier ChatGPT un "perroquet stochastique" fantaisiste'. Comme un perroquet, il n'a aucune idée de ce qu'il dit, il se contente de régurgiter les bribes dont il "se souvient". En d'autres termes, il peut souvent sembler très intelligent et accompli, mais il ne fait que combiner des faits aléatoires, parfois même en recourant à la technique de l'"appel d'air". des bavardages insignifiants. MAIS : Si ChatGPT et d'autres l'apprécient peuvent être utilisés comme des menteurs accomplis, il suffit de penser à l'implication des médias sociaux! Je me tais.
5. J'ai trouvé que le contenu généré par ChatGPT était principalement assez générique et souvent un peu raide, même s'il est également très habile à une forme d'humouret capable d'entrer dans les détails si l'on s'y intéresse de plus près. Impressionnant, certes, mais loin de ce que je considérerais comme des écrits vraiment puissants et uniques qui vaudraient la peine que je m'y attarde. J'ai, entre autres, tâté d'une plateforme assez cool appelée Sudowrite qui utilise l'API GPT3 d'OpenAI (je crois) et vise à aider les écrivains à découvrir de nouveaux angles sur ce qu'ils écrivent. J'ai trouvé cela très utile, en effet - cela m'a aidé à écrire mieux et plus vite, et globalement de manière beaucoup plus fluide. Mais encore une fois, cela peut aussi encourager ma paresse...
6. L'inévitable problème de confiance : Pouvons-nous, allons-nous, devrions-nous confiance IA conversationnelles et / ou des applications comme ChatGPT ? Ce dilemme est similaire à celui de Google Maps, en ce sens que nous aimons l'utiliser mais que nous nous demandons toujours s'il nous indique vraiment la meilleure façon d'arriver à notre destination (sans parler des nombreuses façons différentes dont Google Maps nous a induits en erreurmais probablement par inadvertance :). L'essentiel est que lorsque nous cherchons des réponses (et non des liens vers les réponses(comme dans la recherche), la logique seule est tout à fait insuffisante, et l'accès profond aux données et aux informations ne suffit pas à générer des réponses définitives et correctes. En d'autres termes, le plus gros problème est que l'IA manque actuellement de ce que j'appelle "l'intelligence artificielle".etrorithmique compréhensionC'est-à-dire qu'il ne connaît pas (et ne peut pas connaître ?) les valeurs, les préoccupations, les sentiments et l'éthique qui sous-tendent les décisions humaines (et donc les réponses, les histoires ou les récits humains). N'oublions pas non plus que L'homme ne pense pas avec son cerveau (seulement) - nous pensons avec le corps. A réductionniste dans la vie réelle pourrait rapidement devenir un grave problème de société, à moins que nous ne nous mettions d'accord sur une sorte de norme mondiale indiquant l'utilisation de l'IA générative lorsque nous lisons ou regardons quelque chose.
7. A ce propos, le proverbe guinéen "La connaissance sans la sagesse est comme l'eau dans le sable". décrit bien le problème de la plupart des productions de ChatGPT. En fait, c'est peut-être le même problème auquel sont confrontés de nombreux rédacteurs humains : si vous n'avez rien à dire, pas d'idées originales, pas de message, pas de mission, pas d'objectif... vous finissez simplement par régurgiter ce qui a déjà été dit ailleurs, mais de manière légèrement différente. Cela peut convenir pour certaines tâches très simples, comme la rédaction d'un texte pour un site wordpress rapide, ou pour des annonces immobilières à la pelle... Mais pour d'autres usages, mon expérience m'a appris qu'il n'est pas possible de rédiger un texte original. Mais pour d'autres utilisations, j'ai constaté que les textes de ChatGPT sont tellement génériques et émotionnellement plats qu'ils nécessitent beaucoup d'édition humaine. Néanmoins, je m'attends à ce que de nombreux écrivains utilisent une IA générative pour trouver des idées et explorer des possibilités - ce qui semble être une bonne chose (pour l'instant).
8. Je pense qu'il est important de comprendre que ChatGPT ne fait pas (et ne fera pas) pas ?) créer de nouvelles connaissances (sans se soucier de ce que j'appelle télos c'est-à-dire la sagesse), qu'il est incapable d'imagination et de prévoyance (c'est-à-dire de comprendre ce qui n'est pas encore là) et qu'il est dépourvu d'une quelconque capacité d'adaptation. multinaire la compréhension de la vie réelle (qui est l'endroit où la plupart des humains résident réellement)à part Zuckerberg). Il s'agit là de limitations assez importantes - mais, une fois encore, c'est la raison pour laquelle nous, les humains, allons ne pas devenir "inutiles🙂
9. En ce qui concerne les pertes d'emplois dues à une automatisation encore plus accélérée par la technologie: Nous avons déjà entendu les arguments en faveur de l'inévitable "les machines vont prendre nos emplois" ; comme dans "...".si une machine peut conduire une voiture (ou un camion), pourquoi aurions-nous besoin de conducteurs humains ?". Mais jusqu'à présent, cela ne s'est pas vraiment produit. Oui, nous avons certains voitures autonomes et des camions, dans certains endroits, dans certaines conditions, mais dans le même temps, les humains continuent de gérer 99,9% de tous les emplois de conduite. S'agit-il d'un erreurou sommes-nous en train de faire fausse route ? Personnellement, je pense que niveaux 2 ou 3 en matière de conduite autonome serait une réalisation majeure, et peut-être que le niveau 4 et certainement le niveau 5 est un récit que nous devrions mettre de côté, pour l'instant. Peut-être que la notion desi une machine (une IA) peut écrire un bon article, pourquoi avons-nous besoin de rédacteurs humains ?suivra la même trajectoire - ce qui signifie que, bien sûr, si vous faites un total emploi de routine (ou tâche), la machine finira par le faire à votre place, mais sinon la vie réelle n'est pas aussi simple. Pour l'instant.
10. Cela m'amène à ma plus grande inquiétude : où cela va-t-il nous mener ? Sommes-nous en train de nous diriger vers une sorte d'étrange "...Futur synthétique‘? D'abord, l'écriture synthétique, puis les images et vidéos synthétiques, puis les médias synthétiques (films, podcasts, etc.). musique) suivi par les amis synthétiques (voir Replika), et enfin, humains synthétiques et un ... monde synthétique. Il existe un risque certain que notre paresse nous incite à déléguer une grande partie du "travail de fond" (ou tout autre travail moins passionnant) aux machines, et que nous cessions de faire des efforts nous-mêmes. Pourquoi écrire un article de fond quand l'IA peut le produire en quelques secondes (encore une fois, des pommes et des oranges, mais c'est quand même un gros problème). Pourquoi se préoccuper de la qualité de vos photos quand l'IA peut générer n'importe quelle scène réaliste à la demande, dans n'importe quel endroit du globe ? Pourquoi s'embêter à relever tous les défis d'une relation réelle avec un autre être humain, si l'on peut faire appel à l'intelligence artificielle ? WifeLike L'IA ? Une certaine paresse est souvent bienvenue et pratique (comme Google Maps ou Uber-Eats, peut-être ?), mais poussée à l'extrême, elle conduirait à une augmentation de l'utilisation de l'intelligence artificielle. déshumanisation de la société et un manque général de sens, à mon avis. Je me tais à nouveau.
11. Un monde utopique, rendu possible par l'IA ? déclare le PDG d'OpenAI, Sam Altman: "L'IA produisant la plupart des biens et services de base dans le monde, les gens seront libérés pour passer plus de temps avec leurs proches, s'occuper des autres, apprécier l'art et la nature, ou œuvrer pour le bien social. Je suis d'accord pour dire que la technologie pourrait éventuellement créer ces protopienne Mais en fin de compte, la technologie ne résoudra pas les problèmes sociaux, culturels ou politiques - pour cela, nous avons besoin de la collaboration et de la sagesse de l'homme, et de l'expérience de l'homme. c'est ce qui nous manque le plus !

"Nous verrons ChatGPT et d'autres outils de ce type utilisés à des fins antagonistes dans le but de saper la confiance dans les environnements d'information, ce qui éloignera les gens du discours public et les poussera vers des communautés de plus en plus homogènes.

Janet HavenDirecteur exécutif, Data & Society, via Nieman Lab

---

Combinant l'intelligence artificielle et l'art, Fabio Comparelli a préparé une très belle vidéo décrivant l'aventure de l'art et de la science depuis les premiers âges jusqu'à aujourd'hui avec l'intelligence artificielle.pic.twitter.com/w1Kog2UDAn

- L'innovation en médecine (@Innov_Medicine) 20 janvier 2023