Guardrails
Guardrails sind die Regeln und Prüfungen rund um ein AI-Modell, die einschränken, was es entgegennehmen und was es tun darf — Eingaben filtern, Ausgaben validieren, unsichere Aktionen blockieren. So halten Sie ein unvorhersehbares Modell in einem echten Produkt innerhalb sicherer, markengerechter, rechtlicher Grenzen.
Ein Modell allein geht mitunter am Thema vorbei, erzeugt unsichere Inhalte, gibt Daten preis oder führt eine Aktion aus, die es nicht sollte. Guardrails sitzen an Ein- und Ausgaben: Eingangsfilter für bösartige oder themenfremde Anfragen, Ausgabevalidierung gegen ein Schema oder eine Richtlinie, Inhalts- und Sicherheitsfilter sowie harte Grenzen, welche Aktionen ein Agent ausführen darf und wann ein Mensch freigeben muss. Sie machen aus «meistens in Ordnung» ein «sicher auslieferbar».
Beim Bau eines Produkts sind Guardrails kein optionaler Feinschliff — sie sind die Art, wie Sie Verantwortung für eine nicht vollständig vorhersehbare Komponente übernehmen. Das richtige Design ist geschichtet und am Risiko orientiert: Ein kundennaher Assistent braucht Themen- und Tonalitäts-Guardrails; ein Agent mit Tools braucht strenge Berechtigungsgrenzen und Freigabeschritte; alles mit Personenbezug braucht Filter, die Ihren Datenschutzpflichten entsprechen. Wir bauen Guardrails als bewusste Ingenieursarbeit mit eigenen Evals, denn das Selbstvertrauen des Modells ersetzt nie eine echte Prüfung.
// faq
Häufige Fragen
- Was ist der Unterschied zwischen Guardrails und einem System-Prompt?
- Ein System-Prompt bittet das Modell, sich zu verhalten; Guardrails erzwingen es. Ein Prompt ist eine Anweisung, die das Modell ignorieren, falsch lesen oder per Prompt Injection umgehen kann. Guardrails sind Code um das Modell — Eingangsfilter, Ausgabevalidierung, Berechtigungsgrenzen, menschliche Freigabe —, der auch hält, wenn das Modell sich danebenbenimmt. Der Prompt lenkt, die Guardrails garantieren.