Je suis très inquiet après avoir lu l'article de Marc Andreessen intitulé "L'avenir de l'Europe". dernière pièce (6 juin 2023) sur l'IA et la façon dont elle sauvera le monde. Marc est l'une des personnes les plus influentes dans le domaine de la technologie et l'un des investisseurs les plus puissants au monde... et ce n'est pas un homme avec qui il est bon de croiser le fer. Hélas, il m'a déjà bloqué sur Twitter (probablement après mon premier commentaire sur cet article pro-AI incroyablement bizarre). J'ai donc peu de sympathie à perdre avec lui lorsque je déclare ici que je trouve son point de vue sur l'IA et l'avenir de l'humanité grossièrement trompeur et malavisé. Je suis consterné qu'une personne de sa connaissance et de son expérience puisse publier un tel article.

Je citerai quelques extraits de cette pièce et ajouterai mes commentaires ci-dessous, afin que vous puissiez vous faire une idée par vous-même.

dit Marc :

• "Chaque enfant aura un tuteur IA qui sera infiniment patient, infiniment compatissant, infiniment informé et infiniment utile. Le tuteur IA sera aux côtés de chaque enfant à chaque étape de son développement, l'aidant à maximiser son potentiel avec la version machine de l'amour infini"
• Ma réponse : Il s'agit d'un charabia technologique total et complet et d'une excellente réductionnisme. Bien que l'apprentissage en ligne ait des applications puissantes et présente de nouvelles possibilités pour certaines situations d'apprentissage, les gens apprennent avec/depuis/par l'intermédiaire d'autres personnes, et non avec des robots logiciels. C'est essentiel pour le développement humain ! remplacer les enseignants par l'IA ? Vraiment?
• "Chaque personne aura un assistant/coach/mentor/formateur/conseiller/thérapeute IA qui sera infiniment patient, infiniment compatissant, infiniment bien informé et infiniment utile. L'assistant IA sera présent lors de toutes les opportunités et de tous les défis de la vie, maximisant ainsi les résultats de chaque personne.
• Ma réponse: Même la simulation la plus étonnante de la COMPASSION n'est qu'une simulation. Pourquoi cette obsession de l'infini... peu importe... ? Cela n'existe pas, même dans la Silicon Valley.
• "Chaque scientifique aura un assistant/collaborateur/partenaire en IA qui élargira considérablement le champ de ses recherches et de ses réalisations scientifiques. Chaque artiste, chaque ingénieur, chaque homme d'affaires, chaque médecin, chaque soignant aura la même chose dans son monde".
• Ma réponse : Cela ressemble à une dépendance totale et absolue. L'homme n'aura-t-il plus rien à faire par lui-même ? Pouvons-nous encore exister sans nous connecter à Internet ?
• "Tous les dirigeants - PDG, fonctionnaires, présidents d'organisations à but non lucratif, entraîneurs sportifs, enseignants - auront la même chose. Les effets d'amplification de meilleures décisions prises par les dirigeants sur les personnes qu'ils dirigent sont énormes, de sorte que cette augmentation de l'intelligence peut être la plus importante de toutes".
• Ma réponse : La connaissance sans la sagesse est comme l'eau dans le sable - et l'inutilité totale seront le résultat de machines guidant les décisions politiques - dans le meilleur des cas !
• "La croissance de la productivité dans l'ensemble de l'économie s'accélérera de manière spectaculaire, stimulant la croissance économique, la création de nouvelles industries, la création de nouveaux emplois et la croissance des salaires, et débouchant sur une nouvelle ère de prospérité matérielle accrue sur l'ensemble de la planète".
• Ma réponse: Ce serait en effet formidable si les bénéfices d'une augmentation aussi spectaculaire du PIB se répercutaient sur tout le monde - et pas seulement sur ceux qui possèdent les autoroutes numériques (ou ceux qui investissent dans ces autoroutes) - voir les graphiques ci-dessous.
• "Les percées scientifiques, les nouvelles technologies et les nouveaux médicaments vont se développer de manière spectaculaire, car l'IA nous aide à décoder davantage les lois de la nature et à les exploiter à notre profit"
• Ma réponse : ACCORD (bon :)
• "Les arts créatifs entreront dans un âge d'or, car les artistes, musiciens, écrivains et cinéastes augmentés par l'IA auront la possibilité de réaliser leurs visions beaucoup plus rapidement et à plus grande échelle que jamais auparavant"
• Ma réponse: Les artistes et les créateurs n'ont jamais eu la vie plus facile (économiquement) simplement parce que les outils se sont améliorés - il s'agit d'une question de POLITIQUE et de rémunération équitable, et pas seulement d'outils plus performants. Il s'agit d'une question de POLITIQUE et de rémunération équitable, et pas seulement d'outils plus performants. C'est un argument bon marché pour jeter un os aux artistes, je pense, et il pue le bâton et la carotte.
• "Je pense même que l'IA va améliorer la guerre, lorsqu'elle doit avoir lieu, en réduisant considérablement les taux de mortalité en temps de guerre. Chaque guerre est caractérisée par des décisions terribles prises sous une pression intense et avec des informations très limitées par des dirigeants humains très limités. Désormais, les commandants militaires et les dirigeants politiques disposeront de conseillers en IA qui les aideront à prendre de bien meilleures décisions stratégiques et tactiques, en minimisant les risques, les erreurs et les effusions de sang inutiles"
• Ma réponse : il s'agit d'une attitude insensible et déshumanisante. Si nous automatisons la guerre et que l'IA se charge de tuer, c'est un avantage ??? Quoi, vous êtes pour Drones tueurs d'IAaussi ?
• "Et il ne s'agit pas seulement d'intelligence ! La qualité la plus sous-estimée de l'IA est peut-être l'humanisation qu'elle peut apporter. L'art de l'IA donne à des personnes qui n'ont pas de compétences techniques la liberté de faire de l'art. créer et partager leurs idées artistiques. Parler à un ami IA empathique améliore vraiment les choses leur capacité à faire face à l'adversité. Et les chatbots médicaux d'IA sont déjà plus empathique que leurs homologues humains. Plutôt que de rendre le monde plus dur et plus mécanique, l'IA infiniment patiente et sympathique rendra le monde plus chaleureux et plus agréable".
• Ma réponseL'idée de l'humanisation, c'est de dire que c'est de la foutaise, pour être franc. Ce qui est HUMANISANT, ce sont les autres humains, le respect de l'humanité, la vraie compassion, la vraie empathie, les VRAIS HUMAINS.

Vous pouvez également essayer ce WordTune AI-made résumé (: :) pour obtenir l'essentiel des délibérations de Marc.

Mise à jour, 28 juin : Ne manquez pas de lire ces articles connexes - il y a eu beaucoup de commentaires sur le discours de Marc depuis que j'ai publié cet article: :)

L'IA ne sauvera pas le monde : Marc Andreessen veut que vous fassiez confiance à l'IA - pour rentabiliser son investissement

La tentative de Marc Andreessen de démonter les prophètes de malheur de l'IA est erronée et stupide et pas vraiment un takedown du tout

Contre Marc Andreessen sur l'IA : "L'affirmation selon laquelle vous contrôlerez totalement tout système que vous construisez est manifestement fausse, et un hacker comme Marc devrait le savoir.

Marc Andreessen a (en grande partie) tort cette fois-ci : Le principal investisseur en capital-risque de la Silicon Valley tente d'élaborer le récit de l'IA générative et, ce faisant, met à nu ses contradictions (WIRED.com). Extraits :

"Il y a ici deux angles morts. La première est l'hypothèse selon laquelle ces acolytes de l'IA seront "infiniment compétents", ce qui est extrêmement exagéré compte tenu du fait qu'à l'heure actuelle, la plupart des gens n'ont pas accès à l'information et à la technologie. Les LLM inventent régulièrement des faits Ils continuent parfois à le faire même lorsque leurs utilisateurs humains leur signalent les erreurs. (Ils agissent ainsi parce que, comme nous l'avons mentionné plus haut, les LLM ne sont que des modèles statistiques de mots, sans aucune conception de la réalité qui se cache derrière les mots).

Plus troublante est l'hypothèse selon laquelle les humains utiliseraient même une IA bien supérieure pour prendre de "meilleures" décisions. Meilleures pour qui ? Un coach IA "infiniment patient" et "infiniment serviable" pourrait tout aussi bien aider son maître humain à perpétrer un génocide que concevoir un processus de fabrication plus efficace ou un cadre d'avantages sociaux plus équitable..... Une grande partie de son billet est consacrée à l'une des grandes craintes suscitées par l'IA : la diffusion de discours haineux et d'informations erronées. Pour être clair, il ne prétend pas que c'est le cas. ne le fera pas diffuser des discours haineux et de la désinformation. Il se contente de dire que le contrôle des médias sociaux a été difficile et compliqué (c'est vrai !), que les personnes qui croient en ce contrôle se situent principalement à gauche (c'est également vrai !), et que le contrôle de l'IA sera encore plus difficile, parce que "Il est très probable que l'IA devienne la couche de contrôle de tout ce qui existe dans le monde. (humm, OK ?) et par conséquent, il ne devrait pas être contrôlé, quelles qu'en soient les conséquences...".

Bruce Schneier via Foreign Policy (lien Archive.ph) :

Construire l'IA par le peuple, pour le peuple. Washington doit retirer les investissements dans l'IA des mains des entreprises privées. Bruce Schneier, spécialiste des technologies de sécurité et conférencier à la Harvard Kennedy School.

CI-DESSOUS : Images et statistiques connexes pour illustrer mon propos :