Was sind Guardian Agents?

Guardian Agents sind KI-Agenten, deren Aufgabe die Überwachung anderer KI-Agenten ist: Sie beobachten deren Handlungen, prüfen sie gegen Ziele, Regeln und Grenzen und können je nach Befugnis warnen, umlenken oder blockieren. Bekannt gemacht hat den Begriff das Analystenhaus Gartner, das Guardian Agents als eigene Technologiekategorie beschreibt. Die Bandbreite reicht von prüfenden Assistenten bis zu autonomen Kontrollinstanzen, die selbst eingreifen.

Warum ist das wichtig?

Wenn Agenten in großer Zahl und schneller als Menschen handeln, kann ihre Überwachung nicht mehr allein manuell erfolgen. Gartner erwartet, dass Guardian-Agent-Technologien bis 2030 mindestens 10 bis 15 % des Marktes für agentische KI ausmachen. Ihre Wirksamkeit hängt davon ab, ob sie das Soll-Verhalten kennen – also den Prozess, in dem der überwachte Agent arbeitet.

Wie sieht das konkret aus?

Ein Agent bereitet Zahlungsläufe vor. Ein Guardian Agent prüft jeden Lauf, bevor er an die Bank geht: Stimmt die Bankverbindung mit den Stammdaten überein, wurde sie in den letzten 14 Tagen geändert, liegt der Betrag im üblichen Rahmen dieses Lieferanten? Bei einer frisch geänderten IBAN hält er die Zahlung an und legt sie einer Person zur Prüfung vor.

Nicht zu verwechseln mit

Nicht mit Agent Conformance Checking zu verwechseln: das prüft im Nachhinein, ob ein Agent regelkonform gehandelt hat; ein Guardian Agent wacht während der Ausführung und kann eingreifen. Und nicht mit statischen Guardrails: die blockieren fest definierte Eingaben oder Ausgaben, ein Guardian Agent bewertet Handlungen im Kontext.