Tokenisierung

LLM Tokenisierung

LLM Tokenisierung

Textanalyse & Kostenberechnung

Gib Text ein, um zu sehen, wie verschiedene LLMs ihn „lesen“ und was er kostet.

Wort/Wortbeginn
Satzeichen
Wort-Teil
Textlänge: 0 Zeichen
Anzahl Tokens: 0
Verhältnis: 0 Zeichen/Token
Kosten: $0.00

Token-Schätzer Herausforderung

Entwickle ein Gefühl dafür, wie „teuer“ Wörter in verschiedenen LLMs sind!

Lade eine Herausforderung…
Tipp: Achte auf Umlaute, zusammengesetzte Wörter und Abkürzungen – die sind oft „teurer“!

Modell-Vergleich

Vergleiche, wie verschiedene Modelle denselben Text tokenisieren.

Analyse-Verlauf

Vorherige Textanalysen:

Echte Tokenisierung API

Tokenisierung mit Hugging Face API (optional – benötigt Internet):

API-Ergebnis erscheint hier…