Wem gehört das Gedächtnis eines KI-Agenten?

Ein persönlicher KI-Agent speichert mit der Zeit mehr als Vorlieben. In seinem Gedächtnis können auch Kundenabsprachen, Zuständigkeiten und Arbeitsabläufe landen. Für ein Unternehmen stellt sich deshalb die Frage, wer diese Angaben prüfen, berichtigen und weiterverwenden kann. An Meta Muse, OpenClaw, Hermes Agent und OpenHuman lässt sich untersuchen, wie unterschiedlich solche Speicher aufgebaut sind.

Lesbare Dateien erleichtern die Kontrolle. Damit daraus verlässliches Firmenwissen wird, braucht es zusätzlich nachvollziehbare Quellen, zuständige Personen und Regeln dafür, welche Angaben der Agent selbst ändern darf. Das gilt für einen Speicher auf dem eigenen Server ebenso wie für einen Cloud-Dienst.

Was der Agent sich merkt

Ein KI-Agent kann Werkzeuge benutzen, etwa um ein Postfach zu lesen, einen Termin einzutragen oder eine Mail vorzubereiten. Welche Aufgaben er selbst ausführen darf, hängt von seinen Zugriffsrechten und den eingerichteten Freigaben ab. Ein dauerhaftes Gedächtnis ergänzt diese Funktionen: Der Agent hält Informationen fest, die ihm in späteren Sitzungen wieder zur Verfügung stehen.

Das spart wiederholte Erklärungen. Der Agent kann sich merken, wie du Antworten aufgebaut haben möchtest oder welche Begriffe ihr im Unternehmen verwendet. Aus Gesprächen und Dokumenten kann er aber auch Angaben übernehmen, auf die andere sich später verlassen sollen.

Ein gedachtes Beispiel: Der Agent merkt sich, dass du kurze Antworten bevorzugst. Ist diese Annahme falsch, lässt sie sich meist ohne größere Folgen berichtigen. Speichert er dagegen “Kunde A hat immer 30 Tage Zahlungsziel”, kann das die nächste Rechnung beeinflussen. Dann muss nachvollziehbar sein, aus welcher Vereinbarung die Angabe stammt und für welche Aufträge sie gilt. Eine Absprache zu einem einzelnen Auftrag darf nicht stillschweigend zur Regel für alle weiteren werden.

Wie die 4 Agenten ihr Gedächtnis speichern

Meta bietet Muse als persönlichen Agenten an und hat Ende September Muse for Small Business ergänzt. Muse ist laut Meta derzeit in den USA und Kanada verfügbar. Zu den Geschäftsfunktionen gehören Anbindungen an Shopify, QuickBooks und Slack. Laut Meta muss der Nutzer das Veröffentlichen, Senden und Ausgeben von Geld freigeben. Diese Kontrolle betrifft Handlungen nach außen; sie sagt noch nicht, wie gespeicherte Angaben fachlich geprüft werden. (Meta zu Muse for Small Business)

OpenClaw, Hermes Agent und OpenHuman sind offene Projekte, die sich auf eigener Hardware betreiben lassen. Für die Frage nach dem Gedächtnis sind vor allem der Speicherort und die Möglichkeiten zur Einsicht relevant.

Wer entscheidet, was als Firmenwissen gilt?

Ein Agent kann eine Unterhaltung zusammenfassen und darin vermeintlich dauerhafte Fakten erkennen. Dabei kann er eine Ausnahme verallgemeinern, eine Vermutung als Tatsache übernehmen oder beim Kürzen die Herkunft einer Angabe verlieren. Deshalb sollten persönliche Vorlieben und verbindliche Firmenangaben unterschiedlich behandelt werden.

Für das Zahlungsziel aus dem gedachten Beispiel wäre eine brauchbare Notiz genauer: Welcher Kunde und welcher Auftrag sind gemeint? Wo steht die Vereinbarung? Wer hat sie geprüft? Wenn die Information geändert wird, sollte auch erkennbar bleiben, weshalb die vorherige Fassung nicht mehr gilt. Der Agent kann diese Notiz vorbereiten. Die Bestätigung einer Vertragsbedingung braucht eine Person, die den zugrunde liegenden Vorgang beurteilen kann.

Dass menschliche Kontrolle technisch möglich ist, zeigt Hermes. Standardmäßig schreibt der Agent sein Gedächtnis selbst. Mit write_approval lassen sich Änderungen durch das eingebaute Gedächtniswerkzeug vor dem Speichern zur Freigabe vorlegen. In einer interaktiven Terminal-Sitzung erfolgt die Freigabe direkt. Auf Messenger-Plattformen und bei Hintergrundläufen werden Vorschläge zur späteren Prüfung gesammelt. Ob ein zusätzlich angebundener Speicher dieselbe Kontrolle bietet, muss gesondert geprüft werden. (Hermes-Dokumentation)

Wer darf lesen und handeln?

Ein persönlicher Agent benötigt nur die Rechte für seine jeweilige Aufgabe. Wer Mails zusammenfassen lässt, muss ihm nicht automatisch auch das Versenden erlauben. Ein Agent für Termine braucht keinen Zugriff auf das gesamte Kundenarchiv. Für einen Pilotversuch lässt sich der Umfang etwa auf ein Testpostfach, einen bestimmten Kalender oder einen abgegrenzten Dokumentbestand beschränken.

Bei der Nutzung im Team kommt eine weitere Frage hinzu: Sind die Daten verschiedener Personen oder Bereiche technisch getrennt? Unterschiedliche Gesprächsfenster oder Rollenbezeichnungen reichen als Nachweis nicht aus. OpenClaw weist selbst darauf hin, dass eine gemeinsame Installation einen gemeinsamen Vertrauensbereich bildet. Für voneinander getrennte Mandanten sieht das Projekt getrennte Installationen vor. Die Grundeinstellung ist auf einen vertrauenswürdigen einzelnen Betreiber ausgelegt; eine abgeschottete Ausführung muss gezielt eingerichtet werden. (OpenClaw zum Vertrauensmodell)

Dasselbe gilt für die Ablage des Gedächtnisses. Ein Unterordner “Personal” ist nur dann geschützt, wenn die Rechte des Speichers den Zugriff tatsächlich begrenzen. Kann der Agent mit seinem Konto den gesamten Speicher lesen, schützt eine Anweisung im Gespräch die Personalunterlagen nicht zuverlässig. Die Grenze muss dort gelten, wo Dateien gelesen oder Werkzeuge ausgeführt werden.

Was auf eigener Hardware trotzdem nach außen geht

Der Ort des Gedächtnisses und der Ort der Verarbeitung sind 2 verschiedene Fragen. Liegen die Dateien auf einem Firmenserver, kann ein angeschlossenes Cloud-Modell trotzdem Auszüge daraus erhalten. Auch Anbindungen an Postfächer, Kalender oder andere Dienste können weitere Anbieter einbeziehen.

OpenHuman beschreibt beispielsweise einen lokalen Speicher als Standard, lässt aber auch den Wechsel zu einem von TinyHumans betriebenen Speicher oder zu anderen Diensten zu. Der Name des Produkts allein sagt daher noch nicht, welche Daten in einer konkreten Installation das Unternehmen verlassen. (OpenHuman-Projektbeschreibung)

Für den Einsatz müssen die Wege getrennt nachvollzogen werden:

1. Wo liegt das Gedächtnis?
2. Welcher Anbieter erhält Inhalte zur Verarbeitung?
3. Wer vermittelt die Anbindung an andere Anwendungen?
4. Welche Daten bleiben in Protokollen oder Sicherungen zurück?

Bei Muse bietet Meta laut eigener Ankündigung eine Einstellung an, um die Nutzung von Interaktionen für das Modelltraining abzulehnen. Das ist eine einzelne Einstellung, keine Antwort auf alle Fragen zum Umgang mit Firmendaten. (Meta zu Muse)

Was bei Übergabe und Werkzeugwechsel erhalten bleiben muss

Wenn ein Agent im Alltag Kundenabsprachen oder Abläufe festhält, sollte dieses Wissen auch nach dem Ausscheiden seines Nutzers zugänglich bleiben. Dafür braucht die Firma einen geregelten Zugang zum dienstlichen Speicher. Private Vorlieben und Firmenangaben sollten getrennt sein, damit die Übergabe nicht zugleich private Informationen offenlegt.

Lesbare Dateien helfen dabei. Ein vollständiger Export muss aber auch die Herkunft der Angaben und die benötigten Verknüpfungen erhalten. Wird nur eine kurze Zusammenfassung übernommen, kann aus “gilt laut Vereinbarung für Auftrag A” wieder “gilt immer” werden. Deshalb sollte ein Werkzeugwechsel mit einigen konkreten Fragen an den übernommenen Bestand geprüft werden.

Die Pflege bleibt ebenfalls nötig. Für eine Vertragsbedingung kann jemand anderes zuständig sein als für eine technische Arbeitsanleitung. Der Speicher sollte erkennen lassen, wer eine Angabe berichtigen kann und wann eine Überprüfung fällig ist. Wie sich ein solcher Bestand aufbauen lässt, beschreibt KI-Wissensspeicher anlegen. Der Beitrag über Skills erklärt, wie wiederkehrende Abläufe als Anleitungen festgehalten werden können.

Eine nützliche Probe ist eine absichtlich geänderte Angabe in einem Testbestand: Wird die Korrektur nachvollziehbar gespeichert? Greift der Agent in einer neuen Sitzung auf die korrigierte Fassung zurück? Kann ein Kollege dieselbe Angabe und ihre Quelle finden? Daran lässt sich prüfen, ob das Gedächtnis im Arbeitsalltag verlässlich nutzbar ist.