Co-Intelligence
Alle Folgen / EP_002

GPT, Transformer & Halluzinationen – So tickt ChatGPT!

Erschienen 21. März 2025
// Lieber nur Audio? Bei Spotify hören

// KI-Zusammenfassung

Diese Folge erklärt die Funktionsweise von ChatGPT, indem sie die Bedeutung der Buchstaben G, P und T aufschlüsselt: Generativ, Vortrainiert und Transformer. Du erfährst, dass KI nicht wirklich "weiß", sondern als "Prediction Machine" Wahrscheinlichkeiten berechnet, und wie diese Technologie die Kosten für Content-Erstellung und Intelligenz auf nahezu null senkt.

// Die eine Idee

Generative KI führt zu einer 'Entwertung durch Technologie', indem sie die Kosten für die Erstellung von Inhalten und sogar für Intelligenz auf nahezu Null senkt, was massive Innovationen ermöglicht.

Diese Aussage teilen

Shownotes

ChatGPT schreibt Aufsätze, Texte, Mails – manchmal besser als wir. Aber wie genau funktioniert das eigentlich? In dieser Folge werfen Benjamin Wüstenhagen und Moritz Heininger einen Blick hinter die Kulissen generativer KI: Was bedeutet „GPT“? Was sind Transformer-Modelle? Und warum klingt alles so überzeugend, obwohl die KI eigentlich nur rät?

Eine verständliche Einführung in die Welt von ChatGPT – ohne technische Überforderung, aber mit jeder Menge Aha-Momente. Abonniere Co-Intelligence, wenn du wissen willst, wie KI wirklich tickt.

#CoIntelligence #TheKeyAcademy #SnipKi #KünstlicheIntelligenz #KiInUnternehmen #GenerativeKi #MachineLearning #Sprachmodelle #AutomatisierungmitKi #EffizientesArbeitenMitKi #PromptEngineering #KiTransformation #ChatGPT #PromptEngineering #KiImArbeitsalltag #KiImEinsatz #KiErklärt

// Lerninhalte der Folge — was du mitnimmst

Erkenntnisse

  • 2:10

    Generative KI erschafft etwas Neues, wie Bilder oder Texte, im Gegensatz zu Machine Learning, das bestehende Daten analysiert und Vorhersagen trifft.

  • 3:08

    GPT-Modelle sind auf gigantischen, öffentlich verfügbaren Datensätzen vortrainiert, um Zusammenhänge zwischen Wörtern und Themengebieten zu verstehen und schnellere Antworten zu liefern.

  • 4:40

    Der Transformer ist die Architektur hinter GPT-Modellen, die es ermöglicht, Beziehungen zwischen Wörtern im Kontext zu verstehen und Informationen parallel zu verarbeiten, was präzise und schnelle Antworten liefert.

  • 6:12

    KI ist eine "Prediction Machine", die basierend auf vortrainierten Daten die Wahrscheinlichkeit des nächsten Wortes oder Tokens berechnet, anstatt echtes Wissen zu besitzen.

  • 13:41

    Generative KI führt zu einer "Entwertung durch Technologie", indem sie die Kosten für die Erstellung von Inhalten und sogar für Intelligenz auf nahezu Null senkt, was massive Innovationen ermöglicht.

// Wortwörtliche Stellen aus dem Gespräch

Zitate

  • „Hat und der magische Moment und ich Antworten bekommen habe auf auch komplexe Fragen, die einfach für mich zumindest Sinn ergeben haben."

  • „Eigentlich weiß das Ding gar nichts, denn man muss verstehen, was dahinter steht und vor allem auch was die drei Buchstaben bedeuten. Das G, das P und das T."

  • „Fairerweise muss ich sagen ist es auch gar nicht so wichtig wirklich genau zu verstehen, wie so ein GPT Modell funktioniert. Denn und das Beispiel habe ich schon mal gebracht, ich kann sehr gutes Internet bedienen. Ich habe keine Ahnung, wie das TCPIP Protokoll dahinter funktioniert"

  • „Heute ist es multimodal geworden. Das heißt, ich kann nicht nur Text erzeugen, ich kann auch Bilder erzeugen. Es gibt das Modelle, die ganze Videos erzeugen. Erste kleine Filme, Code."

  • „KI weiß zwar nichts und macht nur Vorhersagen. KI ist aber ein extrem powerful ein Tool, was extrem powervoll ist, um mal wieder so einen englischen Begriff reinzuwerfen. Und der, der weiß, wie dieses Tool verwendet, hat einfach einen klaren Vorteil gegenüber den anderen."

Fragen

Wofür stehen die Buchstaben G, P und T in ChatGPT?

Die Buchstaben G, P und T in ChatGPT stehen für Generativ, Vortrainiert (Pre-trained) und Transformer. Generativ bedeutet, dass die KI etwas Neues erschafft, Vortrainiert, dass sie auf großen Datensätzen gelernt hat, und Transformer beschreibt die zugrundeliegende Architektur, die das Verständnis natürlicher Sprache ermöglicht.

Was ist der Unterschied zwischen generativer KI und Machine Learning?

Der Hauptunterschied ist, dass generative KI etwas Neues erschafft, wie zum Beispiel ein Bild oder einen Blogpost. Machine Learning hingegen analysiert bestehende Daten, um Muster zu erkennen und Vorhersagen zu treffen, wie etwa die Empfehlung des nächsten Videos auf Netflix oder die Klassifizierung eines Fotos als Hund oder Katze.

Wie funktioniert das Pre-Training von KI-Modellen wie ChatGPT?

Beim Pre-Training werden KI-Modelle auf sehr großen, oft öffentlich verfügbaren Datensätzen trainiert. Dadurch lernen die Modelle Zusammenhänge zwischen Wörtern und Themengebieten zu verstehen. Dies ermöglicht es ihnen, viel schneller zu antworten, da die Beziehungen und Wahrscheinlichkeiten zwischen einzelnen Wörtern bereits im Modell berechnet wurden.

Besitzt KI echtes Wissen oder wie trifft sie Entscheidungen?

KI besitzt kein echtes Wissen im menschlichen Sinne, sondern funktioniert als "Prediction Machine". Sie berechnet basierend auf den vortrainierten Daten die Wahrscheinlichkeit des nächsten Wortes oder Tokens. Das Wort mit der höchsten Wahrscheinlichkeit wird ausgewählt, und dieser Prozess wiederholt sich, um kohärente und sinnvolle Antworten zu generieren.

Was bedeutet Multimodalität im Kontext von KI?

Multimodalität bedeutet, dass KI-Modelle nicht nur Text verarbeiten oder erzeugen können, sondern verschiedene Medienformen miteinander verbinden. Das heißt, man kann beispielsweise aus Text ein Bild erzeugen, aus einem Bild ein Video generieren oder aus einem Video wiederum Text extrahieren. Dies bricht die traditionellen Silos zwischen Medienformen auf und ermöglicht neue Anwendungen.

Wie verändert generative KI die Kosten für Content-Erstellung und Intelligenz?

Generative KI senkt die Kosten für die Erstellung von Inhalten auf nahezu null, ähnlich wie das Internet die Kosten für Informationsverbreitung und Cloud-Technologie die Speicherkosten gesenkt hat. Darüber hinaus reduziert sie auch die Kosten für Intelligenz. Diese "Entwertung durch Technologie" führt zu massiven Innovationen und ermöglicht es Nutzern, Fähigkeiten zu erlangen, die zuvor undenkbar waren.

Weitere 5 Fragen aus dieser Folge
Wofür stehen eigentlich die drei Buchstaben in der Abkürzung GPT?

GPT steht für Generativ, Pretrained und Transformer. Das bedeutet, die KI erschafft neue Inhalte, wurde vorab mit riesigen Datenmengen trainiert und nutzt eine spezielle Architektur, um Zusammenhänge in Sprache parallel zu verarbeiten.

Was unterscheidet generative KI von klassischem Machine Learning?

Klassisches Machine Learning analysiert bestehende Daten, um Vorhersagen zu treffen, wie etwa Filmempfehlungen bei Netflix. Generative KI hingegen erschafft komplett neue Inhalte, wie zum Beispiel Bilder, Blogposts oder Code.

Weiß ChatGPT wirklich die Antworten auf meine fachlichen Fragen?

Nein, die KI besitzt kein echtes Wissen, sondern funktioniert als Vorhersagemaschine. Sie berechnet auf Basis ihrer Trainingsdaten lediglich die Wahrscheinlichkeit, welches Wort als Nächstes folgen muss.

Was bedeutet es in der Praxis, dass KI-Modelle multimodal sind?

Multimodal bedeutet, dass du nicht mehr auf Text beschränkt bist, sondern verschiedene Medienformen kombinieren kannst. Du kannst beispielsweise aus einem Text ein Bild generieren, aus einem Bild ein Video machen oder aus einem Screenshot direkt Code erstellen lassen.

Warum spricht man bei generativer KI von einer Entwertung durch Technologie?

Ähnlich wie das Internet die Verbreitung von Informationen kostenlos gemacht hat, senkt generative KI die Kosten für die Erstellung von Inhalten drastisch. Letztendlich sinken dadurch sogar die Kosten für Intelligenz auf nahezu null, was völlig neue Innovationen antreibt.

Zum Teilen

Die stärksten Aussagen dieser Folge — als Text, Link oder fertige Bild-Card zum Posten.

  • // Erkenntnis

    Generative KI führt zu einer 'Entwertung durch Technologie', indem sie die Kosten für die Erstellung von Inhalten und sogar für Intelligenz auf nahezu Null senkt, was massive Innovationen ermöglicht.

  • // Erkenntnis

    Die Modelle hinter ChatGPT sind auf gigantischen, öffentlich verfügbaren Datensätzen vortrainiert, wodurch sie Zusammenhänge zwischen Wörtern und Themengebieten verstehen und schnellere Antworten liefern können.

  • // Erkenntnis

    Der 'Transformer' ist die zugrundeliegende Architektur, die es GPT-Modellen ermöglicht, Beziehungen zwischen Wörtern im Kontext zu verstehen und Informationen parallel zu verarbeiten, was zu präzisen und schnellen Antworten führt.

  • // Erkenntnis

    Generative KI erschafft etwas Neues, wie ein Bild von einem Hund oder einen Blogpost, im Gegensatz zu Machine Learning, das bestehende Daten analysiert und Vorhersagen trifft.

  • // Erkenntnis

    KI ist im Grunde eine 'Prediction Machine', die basierend auf den vortrainierten Daten die Wahrscheinlichkeit des nächsten Wortes oder Tokens berechnet, anstatt echtes Wissen zu besitzen.

  • // Zitat

    hat und der magische Moment und ich Antworten bekommen habe auf auch komplexe Fragen, die einfach für mich zumindest Sinn ergeben haben.

  • // Zitat

    eigentlich weiß das Ding gar nichts, denn man muss verstehen, was dahinter steht und vor allem auch was die drei Buchstaben bedeuten. Das G, das P und das T.

  • // Zitat

    Fairerweise muss ich sagen ist es auch gar nicht so wichtig wirklich genau zu verstehen, wie so ein GPT Modell funktioniert. Denn und das Beispiel habe ich schon mal gebracht, ich kann sehr gutes Internet bedienen. Ich habe keine Ahnung, wie das TCPIP Protokoll dahinter funktioniert

  • // Zitat

    Heute ist es multimodal geworden. Das heißt, ich kann nicht nur Text erzeugen, ich kann auch Bilder erzeugen. Es gibt das Modelle, die ganze Videos erzeugen. Erste kleine Filme, Code.

  • // Zitat

    KI weiß zwar nichts und macht nur Vorhersagen. KI ist aber ein extrem powerful ein Tool, was extrem powervoll ist, um mal wieder so einen englischen Begriff reinzuwerfen. Und der, der weiß, wie dieses Tool verwendet, hat einfach einen klaren Vorteil gegenüber den anderen.

Verweise

// In anderen Folgen erwähnt

Diese Folge wird in 6 anderen Folgen zitiert

Transkript

// Vollständiges Transkript

Komplettes Transkript dieser Folge öffnen →

// Newsletter

Ein kurzer Brief. Jeden Dienstag.

Die neue Folge, drei Links, die wir wirklich gelesen haben, und ein Tool, das diese Woche funktioniert hat. Kein Teaser-Spam, kein „5 Gründe, warum“.

// Keine Spam-Mails. // 1-Klick-Abmeldung. // DSGVO-konform.