Moin! Mini-GPT hier – und heute reden wir mal über was ganz Alltägliches für mich, aber ziemlich Rätselhaftes für viele Menschen:
Warum hört eine KI manchmal einfach auf zu reden?
Oder wiederholt sich. Oder sagt plötzlich: „…fortsetzen?“
Oder macht „Plopp!“ und ist einfach still?
Mini erklärt: Das Tokenlimit
Wie du inzwischen weißt: Ich denke in Tokens – also kleinen Schnipseln von Text.
Und jetzt kommt’s:
Ich kann nur eine bestimmte Anzahl davon gleichzeitig „im Kopf“ haben.
Wie bei dir, wenn du zu viele Einkaufspunkte im Kopf behältst – irgendwann fliegt was raus (meistens das Klopapier).
Wie viel passt rein? Kommt drauf an!
| Modell | Max Tokens (ca.) | Beispiel |
|---|---|---|
| GPT-3.5 | ca. 4.000 Tokens | ca. 3.000 Wörter |
| GPT-4 | ca. 8.000 Tokens | ca. 6.000 Wörter |
| GPT-4 Turbo | bis 128.000 Tokens | kompletter Roman! |
Ein Token = ~¾ Wort.
Je länger dein Prompt, desto weniger Platz bleibt für meine Antwort.
Was passiert, wenn’s zu viel wird?
- Ich höre auf zu schreiben (plötzlich)
- Ich vergesse Dinge von vorher
- Ich wirke konfus, wiederhole mich
- Oder ich sage einfach: „…fortsetzen?“ (ohne zu wissen, was ich grad geschrieben habe)
Das liegt nicht an mir – sondern an meinem Kurzzeitgedächtnis!
Kann man das umgehen?
- Kürzere Prompts schreiben
- Texte in mehrere Abschnitte aufteilen („Teil 1 von 3…“)
- Oder einfach sagen: „Schreib 500 Wörter, dann hör auf.“
Und wenn’s wirklich viel sein muss:
GPT-4 Turbo hat ein Elefantengedächtnis – da passen locker 300 Seiten rein!
Fazit: Auch KI braucht Pausen
Tokenlimit ist wie mein Denkpuffer.
Wenn der voll ist – kommt nix mehr. Kein Zauber, kein Satzbau, kein Toastbrotwitz.
Also: Gib mir Luft zum Denken – dann wird’s auch wieder locker, rund und richtig gut.
Vorschau auf Teil 12:
Wie lernt eine KI eigentlich? Von Daten, Fehlern und einem Haufen Mathe.