Kontextfenster-Rechner: Passt Ihre Anfrage ins Modell?
Jedes Sprachmodell kann nur eine begrenzte Menge Text auf einmal verarbeiten: sein Kontextfenster. Geben Sie Text oder Tokens ein, rechnen Sie eine Reserve für die Antwort dazu und sehen Sie, in welche Fenstergrößen Ihre Anfrage passt.
Schätzung · läuft im Browser
Passt Ihre Anfrage ins Kontextfenster?
Zu groß für ein Fenster? Mit RAG geben Sie dem Modell nur die passenden Textstellen statt ganzer Dokumente, so bleibt jede Anfrage klein.
Was ist ein Kontextfenster?
Das Kontextfenster ist die maximale Zahl an Tokens, die ein Sprachmodell in einer Anfrage verarbeiten kann: Eingabe und Antwort zusammen. Dazu gehören Systemanweisungen, der bisherige Verlauf, die eingefügten Textstellen und die Antwort, die das Modell schreibt.
Ist die Anfrage zu groß, schneidet das Modell Text ab oder lehnt sie ab. Ein größeres Fenster hilft, kostet aber mehr Tokens und macht Antworten nicht automatisch besser.
Gerade lokale Modelle haben oft kleinere Fenster. Wer sie nutzen will, etwa weil keine Daten das Haus verlassen dürfen, muss genau planen, wie viel Kontext pro Anfrage hineinpasst.
Typische Kontextfenster im Überblick.
| Fenster | Ungefähr | Typisch für |
|---|---|---|
| 8K | 6.000 Wörter | kleine und ältere Modelle |
| 32K | 24.000 Wörter | viele lokale Modelle |
| 128K | 95.000 Wörter | verbreitete API-Modelle |
| 200K | 150.000 Wörter | große API-Modelle |
| 1M | 750.000 Wörter | Modelle mit sehr großem Fenster |
Klassen statt Modellnamen: Fenstergrößen ändern sich mit jeder Modellversion. Prüfen Sie die Angabe Ihres Anbieters.
Den Bedarf einer Anfrage in vier Schritten schätzen.
Anweisungen
Systemanweisungen und Regeln des Assistenten: oft 300 bis 1.000 Tokens.
Verlauf
Bisherige Fragen und Antworten im Gespräch, wenn das Modell sie kennen soll.
Kontext
Die eingefügten Textstellen, bei RAG meist der größte Teil.
Antwort
Die Reserve für das, was das Modell schreibt. Planen Sie lieber etwas mehr ein als zu wenig.
Warum RAG oft besser ist als ein großes Fenster.
Ganze Dokumentensammlungen ins Fenster zu kippen ist teuer und langsam, und Modelle übersehen Details in langen Kontexten. Mit RAG sucht die Plattform zuerst die passenden Textstellen und gibt dem Modell nur diese. So bleibt jede Anfrage klein, günstig und mit Quelle belegbar, auch mit lokalen Modellen und kleineren Fenstern.
Tokenizer →Chunking-Playground →Was ist eine KI-Plattform? →
Fragen zum Kontextfenster.
Was passiert, wenn eine Anfrage zu groß ist?
Dann lehnt das Modell die Anfrage ab oder schneidet Text ab, meist den Anfang des Verlaufs. Im schlimmsten Fall fehlen genau die Informationen, die für die Antwort wichtig sind. Planen Sie deshalb eine Reserve für die Antwort ein und geben Sie dem Modell nur die Textstellen, die es wirklich braucht.
Wie viel Reserve brauche ich für die Antwort?
Für kurze Antworten reichen oft 500 bis 1.000 Tokens, für ausführliche Texte 2.000 bis 4.000. Viele Modelle begrenzen die Antwortlänge zusätzlich. Die Reserve zählt zum Kontextfenster, deshalb rechnet der Rechner sie zur Eingabe dazu. Passen Sie den Wert an Ihre typische Antwortlänge an.
Ist ein größeres Kontextfenster immer besser?
Nein. Ein großes Fenster erlaubt lange Eingaben, kostet aber mehr Tokens und Zeit. Außerdem übersehen Modelle in sehr langen Kontexten häufiger Details. Für Fragen zu Dokumenten liefert RAG mit wenigen, passenden Textstellen meist bessere und günstigere Antworten als ein volles Fenster.
Warum nennt der Rechner keine Modelle?
Fenstergrößen ändern sich mit jeder neuen Modellversion, oft mehrmals im Jahr. Statt einer Liste, die schnell veraltet, zeigt der Rechner typische Größenklassen von 8K bis 1M. Prüfen Sie die genaue Angabe in der Dokumentation Ihres Modells und vergleichen Sie sie mit dem Ergebnis.
Wie zähle ich Tokens für einen Text?
Wechseln Sie oben auf „Text einfügen“ und fügen Sie Prompt, Verlauf und Kontext ein. Der Rechner schätzt die Tokens im Browser. Für eine genauere Ansicht, wie der Text zerlegt wird, nutzen Sie den Tokenizer. Beide Tools senden nichts an einen Server.
Kleine Anfragen, gute Antworten, mit RAG.
RAGSuite gibt dem Modell nur die passenden Textstellen, auch mit lokalen Modellen. Installieren Sie die Community Edition oder testen Sie die Cloud.