Warum ein Assistent nicht sofort antwortet
Bei einem Chat zählt nicht die Gesamtdauer, sondern das erste Zeichen. Was in den Sekunden davor passiert und warum das stärkere Modell an der falschen Stelle die schlechtere Wahl ist.
Von der Piqit-Redaktion
Veröffentlicht am 17. August 2026 · Aktualisiert am 28. August 2026
Mit KI erstelltes Bild. Das Motiv ist generiert und zeigt keine reale Szene.Man tippt eine Frage, drückt Enter, und dann passiert einen Moment lang nichts. Diese Pause ist die auffälligste Eigenschaft jedes KI-Assistenten, und sie hat weniger mit Rechenleistung zu tun, als man vermutet.
Dieser Beitrag beschreibt, was in dieser Zeit tatsächlich passiert, warum das erste Zeichen wichtiger ist als das letzte und warum ein stärkeres Modell an der falschen Stelle die Antwort schlechter macht.
Was zwischen Absenden und erstem Wort passiert
Eine Produktantwort im Chat entsteht in einer Kette, nicht in einer Rechnung. Zuerst muss die Anfrage eingeordnet werden: Ist das eine neue Suche, eine Verfeinerung der vorherigen, eine Frage zu den gezeigten Produkten? Aus diesem Schritt fällt die eigentliche Suchanfrage. Dann sucht ein Index nach Produkten. Und erst danach formuliert ein Sprachmodell die Antwort dazu.
Jeder dieser Schritte ist ein Aufruf über das Netz an einen anderen Dienst. Der langsamste Teil ist meistens die Suche selbst, jedenfalls dann, wenn die Anfrage neu ist und keinen Zwischenspeicher trifft. Eine Suche, die schon einmal gestellt wurde, kommt in Bruchteilen zurück; eine, die es noch nie gab, braucht ein Vielfaches davon.
Daraus folgt eine unbequeme Wahrheit über Optimierung. Wer die Wartezeit senken will, muss Schritte parallel legen oder Ergebnisse früher zeigen. Ein anderes Sprachmodell bringt an dieser Stelle wenig.
Streaming: warum eine Antwort tröpfelt
Ein Sprachmodell erzeugt Text nicht als Ganzes, sondern Stück für Stück, und es kann jedes Stück sofort weitergeben. Deshalb sehen Antworten aus, als würden sie getippt. Sie sind nicht animiert, sie entstehen wirklich in diesem Moment.
Das ist mehr als ein Effekt. Menschen lesen etwa 200 bis 250 Wörter pro Minute, ein Modell schreibt schneller. Sobald das erste Wort da ist, wartet niemand mehr, sondern liest, und der Rest der Antwort trifft rechtzeitig ein.
Genau deshalb verschiebt Streaming das Problem: Die Wartezeit fällt fast vollständig vor das erste Zeichen. Was danach kommt, spielt für das Gefühl kaum eine Rolle.
