Generative KI, ChatGPT, Dalle2 et al: "Wissen ohne Weisheit ist wie Wasser im Sand" - Ein begeisterter und zugleich kritischer Kommentar des Futuristen Gerd Leonhard

* Sehen Sie sich mein neues Vortragsthema auf GenerativeAI und ChatGPT an und die Aufzeichnung des Livestreams ansehen aus meiner Livestream-Sitzung vom 30. Januar 2023 zu diesem Thema (einige der Bilder, die ich in dem Vortrag verwendet habe, finden Sie in der Galerie unten)

Aktualisiert am 1. April 2023 - neue Videos unten!

Die Aufregung ist unglaublich: Einige Experten sagen Generative KIund insbesondere ChatGPT, Dalle2, Midjourney und StableDiffusionrepräsentieren eine Revolution und wird die nächste Ausgabe des Webs einläuten, ähnlich wie es bei der Einführung des mobilen Internets geschah. Wird ChatGPT so groß werden wie das iPhone? Wird dies die erste echte Konkurrent für Google? Ist das der Grund, warum MSFT $10 Milliarden in OpenAI investiert? Etwas nüchterner gefragt: Ist das der Grund für die Ende des College-Aufsatzes? Wird ChatGPT Förderung des Plagiats und allgemeine redaktionelle Faulheit? Werden wir eine Flut von (noch mehr) nichtssagenden mehr oder weniger von AI generierte ebooks? Werden KI-Schreib-Apps das Ende bedeuten? Ende des Journalismus wie wir sie kennen (wieder)? Werden wir noch mehr synthetische 'Bullshit-Medien', Manipulation und Lärm. Wie soziale Medien - nur 500x so schlimm? Wird generative KI ein großartiger Begleiter für die sogenannte Metaversedamit wir alle unsere perfekten Simulationen genießen können? Ist dies ein großer Schritt in Richtung AGI und würde das wirklich bedeuten Licht aus" für die Menschheit Oder ist das alles nur zum Spaß?

Zunächst eine kurze Definition: "Generative künstliche Intelligenz (KI) beschreibt Algorithmen (wie ChatGPT), die zur Erstellung neuer Inhalte, einschließlich Audio, Code, Bilder, Text, Simulationen und Videos, verwendet werden können. Jüngste Durchbrüche auf diesem Gebiet scheinen das Potenzial zu haben, die Art und Weise, wie wir an die Erstellung von Inhalten herangehen, drastisch zu verändern..."

Über Investopidea

Hier sind einige meiner Kommentare, Schlussfolgerungen, Hoffnungen, Sorgen und Bedenken. Bitte beachten Sie, dass ich im Moment ambivalent bin, was die möglichen Vor- und Nachteile angeht. halten Sie sich über meinen Newsletter auf dem Laufenden.

1. Es ist nicht wirklich dass Look Up Now (2023): Die Wissenschaft und Methodik (insbesondere, Deep Learning) hinter ChatGPT und anderen GenerativeAI ist eigentlich nicht so neu (wie Yann LeCun von Meta hervorhebt) - aber eine offene und öffentliche Schnittstelle zu haben, um sie auszuprobieren (nun ja... wenn sie nicht ausgefallen ist), und APIs, die sie anzapfen, ist eine ganz neue Dimension. Öffentliche Antworten reichen von grandioser Begeisterung über harsche Kritik bis hin zu Angst. Ich persönlich halte es für einen mutigen Schachzug seines Schöpfers, OpenAIund das hat den Stein für sie ins Rollen gebracht:) Aber ich wage zu behaupten, dass es nicht so offen zugänglich bleiben wird, wie es im Moment ist, da sie hier eindeutig in ein Wespennest gestochen haben.
2. Beeindruckend, aber der größte Teil des Textes GenerativeAI-Anwendungen am laufenden Band produzieren immer noch sehr 'binär' klingen‘. ChatGPT leistet insbesondere bei der Erstellung einfacher Texte gute Arbeit (wie zum Beispiel ein Immobilienangebot), aber sobald man tiefer in das Buch eintaucht, werden jenseits der perfekt gestalteten Wortcollagen schnell seine Schwächen deutlich. Hier sind einige von ihnen:
3. ChatGPT ist nicht echtzeitfähig (noch) nicht - die Trainingsdaten enden im Jahr 2021. Sie werden keine Antworten erhalten, die sich auf aktuelle Angelegenheiten, Nachrichten oder - OMG, das ist mein Revier - zukünftige Beobachtungen oder Voraussagen beziehen. Ich habe auch keine Ahnung, wie OpenAI dies mit Echtzeitdaten bewerkstelligen würde - das wäre das 1000-fache des aktuellen Verarbeitungssaftes, den es bräuchte, oder?
4. Das stochastische Papageienproblem: Da ChatGPT im Grunde genommen Schnipsel, Wörter und Sätze aus seinen Trainingsdaten neu zusammensetzt, während es versucht, schnell Antworten zu geben, kommt es oft zu Verwechslungen zwischen richtigen Antworten und vorgeschlagenen Wahrheiten (siehe die Beispiele hier), was darauf hindeutet, dass die Unterscheidung zwischen wahr und falsch derzeit nicht seine Stärke ist - es versucht lediglich, so schnell wie möglich die beste und plausibelste Antwort zu geben. Dies hat dazu geführt, dass viele Experten ChatGPT als ein ausgefallener "stochastischer Papagei'. Wie ein Papagei hat er keine Ahnung, was er sagt - er spuckt nur die Fetzen aus, an die er sich "erinnert". Mit anderen Worten: Es mag oft sehr klug und gekonnt klingen, aber es ist nur eine Kombination von zufälligen Fakten, die manchmal sogar auf nichtssagendes Gestammel. BUT: Wenn ChatGPT und andere wie sie als sehr geschickte Schwindler eingesetzt werden können, denken Sie nur an die Folgen für soziale Medien! Ich schließe.
5. Ich fand den Inhalt, den ChatGPT generiert, meist recht allgemein gehalten und oft ein wenig steif, obwohl sie auch sehr geschickt darin ist eine Art von Humorund in der Lage, bei weiterem Nachforschen in Details zu gehen. Beeindruckend, in der Tat, aber weit entfernt von dem, was ich als wirklich leistungsstarke und einzigartige Texte ansehen würde, die meine Zeit wert wären. Übrigens habe ich mich mit einer ziemlich coolen Plattform namens Sudowrite das die GPT3-API von OpenAI verwendet (glaube ich) und darauf ausgerichtet ist, Autoren dabei zu helfen, neue Blickwinkel auf das zu entdecken, worüber sie schreiben. Ich fand das in der Tat sehr nützlich - es hat mir geholfen, besser und schneller zu schreiben, und insgesamt viel flüssiger. Aber vielleicht fördert es auch meine Faulheit...
6. Die unvermeidliche Vertrauensfrage: Können wir, werden wir, sollten wir Vertrauen Dialogfähige KIs und / oder Anwendungen wie ChatGPT? Dieses Dilemma ähnelt dem von Google Maps, da wir es gerne benutzen, uns aber immer fragen, ob es uns wirklich den besten Weg zu unserem Ziel zeigt (ganz zu schweigen von den vielen verschiedenen Möglichkeiten, die Google Maps hat uns in die Irre geführtwenn auch wahrscheinlich unabsichtlich:). Die Quintessenz ist, dass wir, wenn wir nach Antworten suchen (nicht Links zu den Antworten(wie bei der Suche) ist Logik allein völlig unzureichend, und ein tiefer Zugang zu Daten und Informationen reicht nicht aus, um endgültige und richtige Antworten zu finden. Kurz gesagt, das größte Problem ist, dass es der KI derzeit an dem fehlt, was ich alsundrorithmische Verständnis', d. h. sie kennt nicht (und kann nicht?) die Werte, Anliegen, Gefühle und die Ethik, die den menschlichen Entscheidungen (und damit den menschlichen Antworten, Geschichten oder Erzählungen) zugrunde liegen. Und vergessen wir nicht Der Mensch denkt nicht mit dem Gehirn (nur) - wir denken mit dem Körper. A reduktionistisch könnte schnell zu einem ernsten gesellschaftlichen Problem werden, es sei denn, wir einigen uns auf eine Art globalen Standard, der den Einsatz generativer KI beim Lesen oder Betrachten von Inhalten kennzeichnet.
7. In diesem Sinne ist das guineische Sprichwort "Wissen ohne Weisheit ist wie Wasser im Sand". beschreibt sehr schön das Problem der meisten ChatGPT-Beiträge. In der Tat könnte das das gleiche Problem sein, mit dem auch viele menschliche Autoren konfrontiert sind: Wenn man nichts zu sagen hat, keine originellen Ideen, keine Botschaft, keinen Auftrag, kein Ziel... dann käut man am Ende einfach nur wieder, was bereits anderswo gesagt wurde, nur auf etwas andere Weise. Das mag für einige sehr einfache Aufgaben in Ordnung sein, z. B. beim Schreiben von Website-Texten für eine schnelle Wordpress-Site oder für einfache Immobilienanzeigen usw. Aber für andere Zwecke sind die ChatGPT-Texte meiner Erfahrung nach so allgemein und emotional flach, dass sie viel menschliche Bearbeitung brauchen. Nichtsdestotrotz gehe ich davon aus, dass viele Autoren eine generative KI nutzen werden, um Ideen auszugraben und nach Möglichkeiten zu suchen - was (vorerst) eine gute Sache zu sein scheint.
8. Ich denke, es ist wichtig zu verstehen, dass ChatGPT nicht (und wird nicht?) neues Wissen schaffen (egal wie ich es nenne telos d.h. Weisheit), dass sie nicht fähig ist, sich etwas vorzustellen und vorauszuschauen (d. h. zu verstehen, was noch nicht da ist), und dass es ihr an jeglicher multinär Verständnis des realen Lebens (in dem sich die meisten Menschen tatsächlich aufhalten)abgesehen von Zuckerberg). Das sind ziemlich bedeutende Einschränkungen - aber das ist auch der Grund, warum wir Menschen nicht "nutzlos" werden🙂
9. In Bezug auf Arbeitsplatzverluste durch noch mehr technologiebeschleunigte Automatisierung: Wir haben die Argumente für das unvermeidliche "Maschinen werden unsere Arbeitsplätze übernehmen"-Memo schon einmal gehört; wie in "Wenn eine Maschine ein Auto (oder einen Lkw) fahren kann, warum brauchen wir dann noch menschliche Fahrer?". Aber bis jetzt ist das nicht wirklich passiert. Ja, wir haben einige selbstfahrende Autos und Lastkraftwagen, an einigen Orten, unter bestimmten Bedingungen, aber gleichzeitig erledigen Menschen immer noch 99,9% aller Fahraufträge. Ist dies ein Irrtumoder sind wir hier auf dem Holzweg? Persönlich denke ich Level 2 oder 3 beim autonomen Fahren wäre eine große Errungenschaft, und vielleicht ist Stufe 4 und auf jeden Fall Stufe 5 ein Narrativ, das wir vorerst nicht so sehr betonen sollten. Vielleicht ist das Mem vonWenn eine Maschine (eine KI) einen guten Artikel schreiben kann, warum brauchen wir dann noch menschliche Autoren?' die gleiche Entwicklung nehmen - was bedeutet, dass Sie natürlich, wenn Sie eine reine Routinearbeit (oder Aufgabe), wird die Maschine es irgendwann für Sie tun, aber ansonsten ist das wirkliche Leben einfach nicht so einfach. Für den Moment.
10. Das bringt mich zu meiner größten Sorge: Wohin soll das führen? Sind wir auf dem Weg zu einer bizarren Art vonSynthetische Zukunft‘? Zuerst synthetische Schrift, dann synthetische Bilder und Videos, dann synthetische Medien (Filme, Podcasts und Musik), gefolgt von synthetischen Freunden (siehe Replika), und schließlich, synthetische Menschen und eine ... synthetische Welt. Es besteht die Gefahr, dass unsere Faulheit uns immer mehr dazu verleitet, einen Großteil der "Routinearbeit" (oder auch weniger aufregende Arbeiten) an Maschinen zu delegieren, und dass wir aufhören, uns selbst zu bemühen. Warum sollte man sich die Mühe machen, einen großartigen Artikel zu schreiben, wenn KI ihn in Sekundenschnelle erstellen kann (auch hier sind Äpfel und Birnen gleich, aber es ist trotzdem ein großes Problem). Warum sollten Sie sich die Mühe machen, Ihre Fotos gut aussehen zu lassen, wenn KI bei Bedarf jede realistische Szene an jedem beliebigen Ort auf der Welt erzeugen kann? Warum sollten wir uns die Mühe machen, eine echte Beziehung zu einem anderen Menschen aufzubauen, wenn wir eine Wie eine Ehefrau KI? Wohlgemerkt: Ein gewisses Maß an Faulheit ist oft willkommen und praktisch (z. B. Google Maps oder Uber-Eats), aber wenn man es auf die Spitze treibt, würde dies zu einem erhöhten Entmenschlichung der Gesellschaft und ein allgemeiner Mangel an Bedeutung, imho. Ich zittere schon wieder.
11. Eine utopische Welt, die durch KI ermöglicht wird? Sagt der CEO von OpenAI, Sam Altman: "Da die KI den Großteil der grundlegenden Güter und Dienstleistungen der Welt produziert, werden die Menschen mehr Zeit haben, um mit den Menschen, die ihnen wichtig sind, zusammen zu sein, sich um Menschen zu kümmern, Kunst und Natur zu schätzen oder sich für das Gemeinwohl einzusetzen". Ich neige dazu, zuzustimmen, dass die Technologie möglicherweise schaffen diese protopisch Vorteile für uns, aber letztendlich wird die Technologie keine sozialen, kulturellen oder politischen Probleme lösen - dafür brauchen wir menschliche Zusammenarbeit und Weisheit, und Das ist es, was wir am meisten vermissen!

"Wir werden erleben, dass ChatGPT und ähnliche Tools in einer feindseligen Art und Weise eingesetzt werden, die das Vertrauen in Informationsumgebungen untergraben soll und die Menschen weg vom öffentlichen Diskurs hin zu immer homogeneren Gemeinschaften treibt."

Janet HavenExec Director, Daten & Gesellschaft, über Nieman Lab

---

Fabio Comparelli, der künstliche Intelligenz und Kunst miteinander verbindet, hat ein sehr schönes Video erstellt, das das Abenteuer von Kunst und Wissenschaft von den Anfängen bis zur Gegenwart mit Hilfe künstlicher Intelligenz beschreibt.pic.twitter.com/w1Kog2UDAn

- Die Innovation | Medizin (@Innov_Medicine) Januar 20, 2023