Agents@run.time: Vertrauenswürdige und souveräne Künstliche Intelligenz in digitalen Zwillingen Cyber-physischer Systeme

Im Projekt Agents@run.time entwickelt Prof. Hartmann die methodischen Grundlagen, um die Rigorosität, Sicherheit und Kontrollierbarkeit modellbasierter Systeme mit der Leistungsfähigkeit moderner KI zu verbinden. Ziel ist es, vertrauenswürdiges Verhalten, Laufzeitüberwachung und Souveränität KI-gestützter CPS-Modelle sicherzustellen.

Dazu werden KI-Constraints untersucht, damit Domänenmodelle die Entscheidungsgrenzen von KI-Komponenten eindeutig abbilden und Halluzinationen, mangelnde Generalisierbarkeit sowie Logikverletzungen verhindern. Digitale Zwillinge überwachen das KI-Verhalten in Echtzeit und erkennen sowohl Drift als auch Constraint-Verletzungen. KI-fähige digitale Zwillinge arbeiten mit Edge-Inferenz, hybrider Orchestrierung und Zugriffskontrollen auf Wissensgraphen, um einen souveränen Betrieb zu ermöglichen. Entscheidungen lassen sich dabei zurückverfolgen, auch wenn eine vollständige Erklärbarkeit nicht erreichbar ist.

Die Architektur entwickelt sich dabei von models@run.time zu agents@run.time und ermöglicht eine vertrauenswürdige, souveräne KI, die in operative Systemmodelle eingebettet und diesen gegenüber rechenschaftspflichtig ist. Validiert wird das Konzept im CPS-Labor der Hochschule Trier.