Was Entscheidungs­modelle können
und wo sie sich im Unternehmen lohnen

Shownotes

Bisher haben wir davon abgeraten, eine KI direkt mit dem Postfach zu verbinden. In einer Mail kann eine versteckte Anweisung stehen, die eine KI für einen Auftrag von dir hält. Ein Entscheidungsmodell schreibt keinen Text und führt nichts aus. Es beantwortet nur eine vorher festgelegte Frage wie “Enthält diese Mail eine Rechnung?” und gibt dazu an, wie sicher es sich ist. Eine versteckte Anweisung kann allerdings auch seine Einordnung verfälschen. Was daraus folgt, hängt davon ab, was nach der Entscheidung mit der Mail geschieht.

Wir setzen ein solches Modell im eigenen Posteingang ein, um Rechnungen für die Umsatzsteuer zu finden. Ab welcher Sicherheit unser KI-Agent eine Mail weiterverarbeitet, legen wir selbst fest. Unsichere Fälle kommen in einen Ordner, den ein Mensch durchsieht. Mails mit sehr niedriger Wahrscheinlichkeit bleiben im Postfach. Die Folge erklärt, wo sich Entscheidungsmodelle außerdem lohnen und wie du mit einer ersten Frage anfängst.

Themen in dieser Folge

• Warum eine KI am Postfach ein Risiko ist: Prompt Injection, also versteckte Anweisungen in einer Mail
• Was ein Entscheidungsmodell von einem Sprachmodell unterscheidet: eine feste Antwort statt Text, dazu eine Wahrscheinlichkeit
• Rechnungserkennung im eigenen Posteingang mit Schwellen für Weitergabe, Durchsicht und Aussortieren
• Gedachte Beispiele aus Produktion und Straßenverkehr: Ist ein Teil Ausschuss? Ist die Ampel rot?
• Geschwindigkeit, Kosten und Betrieb auf eigener Hardware
• Fragen mit mehreren Antworten: Mails nach Abteilung sortieren und nach Dringlichkeit einordnen
• Die Faustregel: Die Frage kommt sehr oft vor und die Antwort hat wenige feste Möglichkeiten
• Vor der Verarbeitung prüfen, ob ein Dokument Gesundheitsdaten enthält
• Welche Modelle wir getestet haben, warum wir Winnow lokal auf eigener Hardware einsetzen und warum sich Clef von Cloudflare zum Ausprobieren eignet. Dazu Jev von TypeSafe AI, über das Entscheidungsmodelle bekannt wurden
• So fängst du an: eine häufige Frage wählen, Grenzfälle aufschreiben, die Schwelle schrittweise anpassen

Links

• Entscheidungsmodelle im Unternehmen am Beispiel Posteingang
• Folge 5: Agentische KI und Wissensspeicher
• Beratung vereinbaren