Bei einem Chat zählt nicht die Gesamtdauer, sondern das erste Zeichen. Was in den Sekunden davor passiert und warum das stärkere Modell an der falschen Stelle die schlechtere Wahl ist.
Von der Piqit-Redaktion
Veröffentlicht am 17. August 2026 · Aktualisiert am 28. August 2026
Man tippt eine Frage, drückt Enter, und dann passiert einen Moment lang nichts. Diese Pause ist die auffälligste Eigenschaft jedes KI-Assistenten, und sie hat weniger mit Rechenleistung zu tun, als man vermutet.
Dieser Beitrag beschreibt, was in dieser Zeit tatsächlich passiert, warum das erste Zeichen wichtiger ist als das letzte und warum ein stärkeres Modell an der falschen Stelle die Antwort schlechter macht.
Eine Produktantwort im Chat entsteht in einer Kette, nicht in einer Rechnung. Zuerst muss die Anfrage eingeordnet werden: Ist das eine neue Suche, eine Verfeinerung der vorherigen, eine Frage zu den gezeigten Produkten? Aus diesem Schritt fällt die eigentliche Suchanfrage. Dann sucht ein Index nach Produkten. Und erst danach formuliert ein Sprachmodell die Antwort dazu.
Jeder dieser Schritte ist ein Aufruf über das Netz an einen anderen Dienst. Der langsamste Teil ist meistens die Suche selbst, jedenfalls dann, wenn die Anfrage neu ist und keinen Zwischenspeicher trifft. Eine Suche, die schon einmal gestellt wurde, kommt in Bruchteilen zurück; eine, die es noch nie gab, braucht ein Vielfaches davon.
Daraus folgt eine unbequeme Wahrheit über Optimierung. Wer die Wartezeit senken will, muss Schritte parallel legen oder Ergebnisse früher zeigen. Ein anderes Sprachmodell bringt an dieser Stelle wenig.
Ein Sprachmodell erzeugt Text nicht als Ganzes, sondern Stück für Stück, und es kann jedes Stück sofort weitergeben. Deshalb sehen Antworten aus, als würden sie getippt. Sie sind nicht animiert, sie entstehen wirklich in diesem Moment.
Das ist mehr als ein Effekt. Menschen lesen etwa 200 bis 250 Wörter pro Minute, ein Modell schreibt schneller. Sobald das erste Wort da ist, wartet niemand mehr, sondern liest, und der Rest der Antwort trifft rechtzeitig ein.
Genau deshalb verschiebt Streaming das Problem: Die Wartezeit fällt fast vollständig vor das erste Zeichen. Was danach kommt, spielt für das Gefühl kaum eine Rolle.
Man braucht also zwei Messungen und nicht eine: die Zeit bis zum ersten Zeichen und die Zeit bis zur fertigen Antwort.
Wie viel dabei auf dem Spiel steht, ist seit Jahrzehnten bekannt. Unter etwa 0,1 Sekunden wirkt eine Reaktion unmittelbar. Bis etwa einer Sekunde bleibt der Gedankengang ungestört, man merkt die Verzögerung, aber sie unterbricht nicht. Ab etwa zehn Sekunden ist die Aufmerksamkeit weg, und der Nutzer wendet sich anderen Dingen zu.
Daraus ergibt sich ein Fall, der oft übersehen wird: Ein System kann die kürzere Gesamtdauer haben und sich trotzdem langsamer anfühlen, weil es später anfängt. Bei einem Chat entscheidet die erste Uhr.
Mit KI erstelltes Bild. Das Motiv ist generiert und zeigt keine reale Szene.Die neueren Sprachmodelle sind unter anderem deshalb besser, weil sie vor der Ausgabe intern planen. Bei mehrschrittigen Aufgaben ist das ein deutlicher Gewinn an Qualität.
Diese Denkzeit fällt allerdings komplett vor dem ersten Zeichen an, und sie ist unsichtbar. Für den Wartenden sieht Nachdenken genauso aus wie ein Ausfall: Es steht nichts da. Ein Modell, das erst denkt, ist an einer streamenden Stelle die schlechtere Wahl, auch wenn es das bessere Modell ist.
Das ist der Punkt, an dem die naheliegende Regel kippt. Man wählt ein Modell nicht nach seiner Qualität, sondern nach seiner Position im Ablauf.
Praktisch gibt es drei Positionen, und sie stellen völlig verschiedene Anforderungen.
Der Nutzer wartet zusehend. Hier zählt jede Zehntelsekunde, und hier gehört das schnellste Modell hin, das die Aufgabe noch zuverlässig löst. Der erste Schritt eines Chatturns liegt immer hier.
Der Aufruf läuft neben etwas Langsamerem. Wer parallel zu einer Suche prüft oder einordnet, hat die Zeit dieser Suche geschenkt und kann sie ausnutzen. Hier ist zusätzliche Qualität kostenlos.
Der Aufruf läuft nachgelagert oder im Hintergrund, etwa für einen Chattitel oder eine Zusammenfassung. Hier wartet niemand, also gehört das beste Modell hin.
Dieselbe Aufgabe kann an zwei Stellen zwei verschiedene Antworten auf die Modellfrage haben. Das klingt umständlich und ist der Unterschied zwischen einem Chat, der zäh wirkt, und einem, der es nicht tut.
Der naheliegende Reflex gegen Wartezeit ist mehr Text: ein längerer Einstieg, damit der Nutzer etwas zu lesen hat. Das funktioniert nicht. Ein solcher Einstieg ist in weit unter einer Sekunde fertig geschrieben, die Wartezeit auf die Produkte bleibt unverändert, und der zweite Satz wiederholt schlimmstenfalls den ersten.
Die Ausgabe künstlich zu strecken ist ebenfalls keine Lösung, jedenfalls nicht ohne Weiteres. Wo zwei Datenströme gleichzeitig ankommen, die getrennt gelesen werden müssen, entstehen Fehler an der Naht, und der Preis für ein hübscheres Tippen ist eine kaputte Ausgabe.
Was hilft, sind echte Zwischenstände. Die Produkte erscheinen, sobald die Suche geliefert hat, unabhängig davon, ob der Text schon fertig ist. Dann sieht der Nutzer Ware, während der Rest noch entsteht. Ein Ladezustand, der ehrlich sagt, dass gesucht wird, gehört dazu.
Mit KI erstelltes Bild. Das Motiv ist generiert und zeigt keine reale Szene.Bei uns läuft zuerst der schnelle Schritt, der die Anfrage einordnet. Suche und Antwort laufen danach so weit parallel, wie es geht, und die Produkte werden gezeigt, sobald sie da sind, nicht erst mit dem fertigen Text. Der Text sortiert sich über die Kacheln ein, während er noch entsteht.
Modelle wählen wir nach der Position im Ablauf. Im ersten Schritt eines Turns steht das schnellste, das die Aufgabe hält. Für Prüfungen, die neben der Suche laufen, das gründlichere.
Zeitgrenzen haben wir, aber nur als Notausgang für eine hängende Anfrage. Eine Grenze, die eine Prüfung wegwirft, damit es schneller geht, liefert schneller ein schlechteres Ergebnis. Wartezeit ist ein Ärgernis. Eine falsche Auskunft über ein Produkt ist ein Schaden.
Finde mit Piqit dein neues Lieblingsprodukt.
Chat starten