ChatGPT ist beeindruckend, keine Frage. Aber dazu gehört auch ein Zaubertrick. Genau wie bei jedem guten Magier gilt es, immer Herr der Situation zu sein. Ohne den geringsten Zweifel an den eigenen Fähigkeiten. Misslingt etwas – wird es als gewolltes Ergebnis überspielt.
Ähnlich agiert auch ChatGPT. Der Sprachkünstler hat kein echtes Verständnis für Falsch und Richtig. Er kann die absurdesten Aussagen mit vollster Überzeugung von sich geben.
Das erinnert mich an die Definition im Buch "On Bullshit" von Harry Frankfurt. So heißt es:
Ähnlich agiert auch ChatGPT. Der Sprachkünstler hat kein echtes Verständnis für Falsch und Richtig. Er kann die absurdesten Aussagen mit vollster Überzeugung von sich geben.
Das erinnert mich an die Definition im Buch "On Bullshit" von Harry Frankfurt. So heißt es:
Den Bullshitter interessiert es nicht, ob seine Aussagen wahr oder falsch sind; er versucht nicht einmal, eine sorgfältige Beschreibung der Realität zu geben.
Dem Bullshitter geht es also um Selbstdarstellung. Es ist keine bewusste Irreführung, die er betreibt. Er lügt nicht. Es ist eher eine
an Lüge nicht ganz heranreichende, irreführende Falschdarstellung der eigenen Gedanken, Gefühle oder Einstellungen, besonders durch anmaßende Worte oder Taten.
ChatGPT ist anmaßend. Er möchte uns auf jede Frage eine Antwort liefern. Ich habe viel mit dem Bot herumgespielt und er hat nie zugegeben, dass er die Antwort nicht (genau) weiß. Er äußert keine Zweifel und präsentiert nur selten mehrere mögliche Sichtweisen.
Dabei könnte er technisch wahrscheinlich differenzierter agieren. Ist seine Datengrundlage widersprüchlich, müsste er eigentlich resignieren. Aber er macht es nicht, weil er trainiert wurde, überzeugenden Text zu erstellen. Er ist nicht darauf trainiert, nur wahre Statements zu produzieren.
ChatGPT vermittelt uns eine Illusion. Nur wenn wir dies verstehen, können wir die Technologie sinnvoll und ohne Gefahr einsetzen.