Open Responses: Der neue Standard gegen das KI-Gedächtnisproblem
KI-Modelle vergessen nach jeder Sitzung alles. Open Responses schafft einen einheitlichen Standard für KI-Agenten, unterstützt von NVIDIA, Hugging Face, Ollama und vielen mehr.
Du erklärst ChatGPT 20 Minuten lang dein Projekt, die Branche, die Zielgruppe, die Entscheidungen der letzten Monate. Die Antwort ist brauchbar. Am nächsten Tag öffnest du ein neues Fenster, und davon ist nichts mehr da.
Das ist kein Fehler, sondern Bauart. Und im Februar 2026 hat OpenAI zusammen mit 9 weiteren Anbietern einen Standard veröffentlicht, der zumindest einen Teil davon aufhebt.
Warum KI-Modelle alles vergessen
Ein Sprachmodell hat keinen dauerhaften Speicher. Es verarbeitet Text in einem Kontextfenster, also einem begrenzten Arbeitsgedächtnis, in dem alles landet, was in einer Sitzung geschrieben wird. Endet die Sitzung, ist das Fenster leer. Das Modell selbst verändert sich dabei nicht, es lernt aus dem Gespräch nichts dazu.
Jede neue Unterhaltung beginnt deshalb bei null. Was du gestern gefragt hast, welche Entscheidung dabei fiel und welchen Zusammenhang du aufgebaut hast, ist weg.
Warum das im Arbeitsalltag zum Engpass wird
Für eine schnelle Frage zwischendurch spielt das keine Rolle. Sobald KI in einem Arbeitsablauf steckt, schon.
Soll die KI Kundenanfragen beantworten, muss sie wissen, welche Produkte du führst, welche Konditionen gelten und wie eine Reklamation abläuft. In einer normalen Chat-Sitzung erklärst du das jedes Mal neu oder kopierst denselben Textblock in jedes Fenster.
Schwieriger wird es, sobald die KI handeln und nicht nur antworten soll. Ein Agent durchsucht das Postfach nach Anfragen, schlägt die Kundendaten nach, schreibt einen Antwortentwurf und legt das Ergebnis in der Kundenverwaltung ab. Das sind 4 Schritte, die aufeinander aufbauen. Was Schritt 1 gefunden hat, braucht Schritt 2, und der Zusammenhang aus Schritt 3 muss in Schritt 4 noch da sein. Die bisherigen Chat-Schnittstellen sind für Frage und Antwort gebaut, nicht für solche Ketten.
Größere Kontextfenster sind ein teures Pflaster
Die Antwort der Anbieter darauf war bisher, das Fenster zu vergrößern. Gemini von Google nimmt inzwischen über 1 Million Token entgegen, also mehrere hundert Seiten Text auf einmal. Das löst 3 Dinge nicht.
Jedes Token im Fenster wird abgerechnet. Wer bei jeder Anfrage 50 Seiten Firmenkontext mitschickt, zahlt sie bei jeder Anfrage erneut.
Mehr Kontext bedeutet außerdem nicht besseres Verständnis. Steht die entscheidende Angabe in der Mitte eines sehr langen Textes, übersieht das Modell sie häufiger als am Anfang oder am Ende. Im Fach heißt dieser Effekt Lost in the Middle.
Und das eigentliche Problem bleibt, denn auch ein riesiges Fenster ist nach der Sitzung leer.
Was fehlt, ist ein System, in dem die KI eigenständig arbeitet, Werkzeuge aufruft und Zwischenergebnisse festhält, ohne dass jemand bei jedem Schritt den ganzen Zusammenhang neu mitliefert.
Was Open Responses ist
Open Responses ist eine offene Spezifikation, die OpenAI im Februar 2026 veröffentlicht hat. Getragen wird sie von einem breiten Bündnis, nämlich NVIDIA für Hardware und Infrastruktur, Hugging Face für offene Modelle, Ollama und LM Studio für den lokalen Betrieb, Vercel für Web-Infrastruktur, Databricks für Datenplattformen, OpenRouter für die Verteilung auf mehrere Anbieter, vLLM als quelloffene Ausführungsumgebung und Llama Stack von Meta.
Dass sich Wettbewerber auf ein gemeinsames Format einigen, ist in diesem Markt nicht selbstverständlich. Bisher hatte jeder Anbieter seine eigene Schnittstellenstruktur, und wer das Modell wechselte, schrieb seinen Code um.
Die Spezifikation legt einheitlich fest, wie ein Modell Anfragen entgegennimmt, Zwischenschritte festhält und Ergebnisse zurückgibt. Anders als die bisherige Chat-Schnittstelle ist sie für Abläufe gebaut und nicht für Dialoge, und dahinter stehen 3 Konzepte.
Statt einfacher Nachrichten gibt es Items, also kleinste Einheiten, die neben Text auch Werkzeugaufrufe, deren Ergebnisse und die Denkschritte des Modells enthalten. Damit dokumentiert das Modell seinen ganzen Arbeitsweg.
Der Werkzeugaufruf ist eingebaut. Innerhalb einer einzigen Anfrage ruft die KI mehrere Werkzeuge nacheinander auf, sucht Daten, verarbeitet sie und gibt sie weiter, ohne dass ein Entwickler jeden Schritt steuert.
Und das Denken wird sichtbar. Das Modell legt seine Überlegungen offen, wahlweise als Rohtext, verschlüsselt oder als Zusammenfassung. Damit ist nachvollziehbar, warum eine Entscheidung so ausgefallen ist.
Was sich in der Praxis ändert
Nimm die Aufgabe, die Quartalszahlen aus einem Dokument zu suchen, zusammenzufassen und das Ergebnis per Mail zu verschicken.
Auf dem bisherigen Weg bist du die Schaltzentrale. Du schickst den Auftrag, die KI meldet, sie brauche Zugriff auf das Dokument. Du rufst die Dokumentensuche selbst auf und schickst das Ergebnis zurück, die KI fasst zusammen. Du nimmst die Zusammenfassung und rufst den Mailversand selbst auf. Zum Schluss schickst du die Bestätigung an die KI. Das sind 4 Aufrufe, 4-mal den bisherigen Verlauf mitschicken und 4 Stellen, an denen ein Fehler abgefangen werden muss.
Mit Open Responses schickst du den Auftrag und dazu die Liste der verfügbaren Werkzeuge, in diesem Fall Dokumentensuche und Mailversand. Danach arbeitet die KI allein. Sie ruft die Suche auf, liest das Ergebnis, fasst die Zahlen zusammen, verschickt die Mail und liefert dir am Ende das Ergebnis samt allen Zwischenschritten. Ein Aufruf statt 4, und die Steuerung liegt beim Modell.
Der Unterschied liegt nicht in der Antwortqualität, sondern in der Zuständigkeit. Bisher hat der Entwickler die Reihenfolge der Schritte gebaut und den Zusammenhang von Hand weitergereicht. Jetzt macht das Modell das selbst und protokolliert dabei, was es getan hat.
Was Unternehmen davon haben
Der Code wird unabhängig vom Anbieter. Einmal geschrieben, läuft er gegen OpenAI, Ollama, Hugging Face und jeden anderen, der die Spezifikation unterstützt. Erscheint morgen ein besseres offenes Modell, tauschst du es aus, ohne eine Zeile zu ändern.
Der Aufwand sinkt. Welche Werkzeuge wann aufgerufen werden, was bei einem Fehler passiert und wie der Zusammenhang erhalten bleibt, lag bisher beim Entwickler. Diese Logik wandert in die Schnittstelle.
Jeder Zwischenschritt ist dokumentiert. In Gesundheitswesen, Kanzleien und Finanzdienstleistung ist das die Voraussetzung dafür, ein solches System überhaupt einzusetzen.
Und lokale Modelle ziehen gleich. Weil Ollama, vLLM und LM Studio die Spezifikation unterstützen, laufen agentische Abläufe auch auf eigener Hardware und nicht nur in der Cloud. Die Daten bleiben im eigenen Netz, die Funktionen sind dieselben.
Dazu kommt, was ein gemeinsames Format überhaupt erst möglich macht. Bisher hat jeder Anbieter sein eigenes Verfahren für Werkzeugaufrufe, für die laufende Ausgabe und für mehrstufige Abläufe erfunden. Wer 2 Anbieter nebeneinander betreiben wollte, hat beide Verfahren gepflegt. Eine gemeinsame Sprache senkt diesen Aufwand und damit die Hürde für Unternehmen, die kein eigenes Entwicklerteam haben.
Was als Nächstes kommt
Kurzfristig wird der Wechsel zwischen Anbietern einfacher. Ein Unternehmen muss sich nicht mehr früh festlegen und kann reagieren, wenn sich der Markt dreht.
Mittelfristig übernehmen solche Agenten Aufgaben, die heute Handarbeit sind, also Rechnungen prüfen, Berichte erstellen, Kundendaten pflegen, eingebaut in die Software, die ohnehin läuft.
Langfristig bleibt die Frage nach dem Gedächtnis offen. Open Responses löst die Arbeitsschritte innerhalb einer Sitzung. Dass die KI sich morgen erinnert, was heute besprochen wurde, löst es nicht. Dafür braucht es Standards für dauerhaften Speicher und für Wissensgraphen, und die gibt es noch nicht.
Was in der Spezifikation noch fehlt
Ein einheitliches Format für dauerhaften Speicher fehlt, also für Wissen, das über die einzelne Anfrage hinaus bestehen bleibt.
Die Sicherheitsseite ist offen. Ruft ein Agent selbständig Werkzeuge auf, muss jemand die Berechtigungen kontrollieren, und ein Rechte- und Rollensystem für Agenten steht nicht in der Spezifikation.
Für die Überwachung im Betrieb liefert sie die Rohdaten, aber keine Vorgaben, wie daraus eine Auswertung wird, an der ein Unternehmen ablesen kann, was seine Agenten tun.
Bei der Fehlerbehandlung fehlen klare Konventionen. Was passiert, wenn ein Werkzeug nicht erreichbar ist oder eine Antwort ausbleibt, entscheidet bisher jede Umsetzung selbst.
Und die Kosten sind unbegrenzt. Ruft ein Agent in einer Anfrage 10 Werkzeuge auf, kann das teuer werden, und ein Standard für Obergrenzen wäre der naheliegende nächste Schritt.
Was du heute damit anfangen kannst
Für ein Unternehmen, das KI heute nutzt, ändert sich zunächst nichts, denn Chatoberflächen laufen weiter wie bisher. Wichtig wird der Standard bei dem, was gerade entsteht.
Steht eine eigene Anwendung mit KI an, gehört die Frage nach Open Responses in die Ausschreibung. Ein Dienstleister, der auf die Schnittstelle eines einzelnen Anbieters baut, bindet dich an dessen Preise und dessen Fortbestand.
Läuft bereits etwas Selbstgebautes, lohnt der Blick, ob es die Werkzeugsteuerung selbst enthält. Genau diese Stellen fallen beim Umstieg weg, und der Code wird kürzer statt länger.
Und wer den Weg über eigene Hardware geht, prüft beim Modellserver, ob er die Spezifikation schon spricht. Bei Ollama, vLLM und LM Studio ist das der Fall.
Open Responses ist damit nicht fertig, kommt aber zur richtigen Zeit. Ohne solche Standards bleiben KI-Agenten Vorführstücke. Wie sie in einem Unternehmen konkret aussehen, steht bei den KI-Lösungen für Unternehmen, und wer im Team die Grundlagen dafür aufbauen will, fängt beim KI-Grundlagen-Workshop an.