Intelligentes Vertrauen für KI-Agenten und Modelle

Unsere Redaktion im Interview mit Dr. Amit Sinha, CEO von DigiCert, über die wachsende Vertrauenskrise im Zeitalter autonomer KI-Systeme, die Bedeutung kryptografischer Verifizierung und die Frage, warum Sicherheit, Herkunft und Authentizität zu zentralen Bausteinen einer vernetzten digitalen Gesellschaft werden.

 

Herr Dr. Sinha, KI-Systeme handeln zunehmend autonom. Warum wird Vertrauen in diese Systeme gerade jetzt zur strategischen Kernfrage für Unternehmen?
KI entwickelt sich von einem Werkzeug, das Menschen unterstützt, zu einem System, das in ihrem Namen handelt. Das verändert die Risikolage grundlegend. Es geht nicht mehr um fehlerhafte Ergebnisse, sondern um autonome Aktionen in großem Maßstab, die sich direkt auf den Betrieb, die Entscheidungsfindung und das Vertrauen auswirken können. Unternehmen delegieren Entscheidungen an Maschinen – ohne Vertrauen funktioniert diese Delegation nicht. Je autonomer KI-Systeme werden, desto dringender brauchen Unternehmen kryptografisch überprüfbares Vertrauen – über KI-Agenten, Modelle und die von ihnen erzeugten Inhalte hinweg. Das wird zur Voraussetzung, um KI in geschäftskritischen Bereichen sicher skalieren zu können.

 

DigiCert hat kürzlich eine neue AI Trust Architecture für Unternehmen vorgestellt. Vor welchen Herausforderungen stehen Organisationen, wenn sie autonome KI-Systeme im großen Maßstab einsetzen?
Unternehmen bewegen sich schnell von der KI-Experimentierphase zum operativen Einsatz, doch die meisten Infrastrukturen wurden nie für autonome KI-Systeme konzipiert. Organisationen tun sich schwer damit, die Identität von KI-Agenten zu verifizieren, die Herkunft KI-generierter Inhalte nachzuweisen und die Kontrolle darüber zu behalten, wie Modelle und Daten in komplexen Umgebungen genutzt werden.
In vielen Fällen gibt es keine einheitliche Möglichkeit nachzuweisen, ob Ergebnisse authentisch sind oder welches System eine Entscheidung getroffen hat. Das schafft operative und regulatorische Risiken und erschwert es, KI sicher und effizient im Unternehmen zu skalieren. Unternehmen brauchen eine Vertrauensschicht für KI, die kryptografisch überprüfbare Kontrolle über Agenten, Modelle und KI-generierte Inhalte schafft. Das erfordert einen Plattformansatz mit zentraler Sichtbarkeit, Governance und Vertrauensmanagement über zunehmend komplexe KI-Umgebungen hinweg.

Vertrauen kann heute nicht mehr vorausgesetzt werden – es muss kryptografisch überprüfbar sein, sowohl für KI-Systeme als auch für die Inhalte, die sie erzeugen. Unternehmen fehlt zunehmend die Kontrolle darüber, was KI-Systeme sind, wozu sie berechtigt sind und was sie produzieren. DigiCert begegnet dieser Herausforderung mit einem einheitlichen Ansatz für KI-Vertrauen, der Systeme und Inhalte gleichermaßen abdeckt. Die Architektur verbindet standardbasierte Agentenidentität, hardwareverankerten Modellschutz und überprüfbare Inhaltsherkunft, damit Unternehmen Ursprung, Integrität und Authentizität nachweisen können. Zusammen definieren diese Funktionen Intelligent Trust – eine Erweiterung der bewährten Prinzipien digitalen Vertrauens auf KI-Systeme und deren Ergebnisse, die Unternehmen hilft, KI sicher und mit Zuversicht zu skalieren.

 

Sie setzen auf kryptografische Nachweisbarkeit. Warum wird mathematisch überprüfbares Vertrauen wichtiger als bloßes Systemvertrauen?
DigiCert baut seit Jahrzehnten digitales Vertrauen auf – durch PKI, die Identitäten, Geräte und Kommunikation im Internet absichert. KI ist der natürliche nächste Schritt in dieser Entwicklung. Wir erweitern bewährte PKI-Prinzipien auf KI-Agenten, Modelle und Inhalte, damit Unternehmen Identität, Integrität und Herkunft in Maschinengeschwindigkeit verifizieren können.
Herkömmliche Vertrauensmodelle, die auf Reputation oder menschlicher Aufsicht basieren, skalieren nicht für autonome Systeme. Kryptografie ermöglicht es, Vertrauen zu beweisen statt es vorauszusetzen. Sobald KI-Systeme eigenständig interagieren und Transaktionen durchführen, wird überprüfbares Vertrauen zur Voraussetzung, um Prozesse zu automatisieren, die KI-Einführung zu skalieren und mit Zuversicht zu operieren.

Autonome KI-Agenten könnten bald wie digitale Mitarbeiter agieren. Welche Regeln und Kontrollmechanismen brauchen Unternehmen dafür?
KI-Agenten entwickeln sich rasant von Assistenten zu eigenständigen operativen Akteuren in Unternehmen. Sie haben das Potenzial, die Produktivität erheblich zu steigern – aber nur, wenn Organisationen sie mit dem gleichen Maß an Kontrolle und Verantwortlichkeit steuern können, das man von menschlichen Mitarbeitern erwartet. Jeder Agent braucht eine starke, überprüfbare Identität, klar definierte Berechtigungen und eine kontinuierliche Validierung seiner Handlungen.
Darüber hinaus brauchen Organisationen vertrauenswürdige Audit-Trails und die Möglichkeit, Zugriffsrechte sofort zu entziehen, wenn etwas schiefgeht. Unternehmen benötigen zentrale Sichtbarkeit und Lifecycle-Management für KI-Agenten, die über verschiedene Geschäftsbereiche hinweg operieren. Diese Kontrollen müssen in Echtzeit und im großen Maßstab über tausende maschinelle Akteure hinweg funktionieren.

Auch KI-generierte Inhalte stellen Unternehmen vor neue Risiken. Wie lässt sich künftig sicher erkennen, was echt ist und was manipuliert wurde?
Falsche und irreführende Inhalte werden weiter zunehmen, da KI-gestützter Betrug immer raffinierter wird. Wir sehen bereits Beispiele in Branchen wie der Versicherungswirtschaft, wo gefälschte Bilder in Schadenprozessen eingesetzt werden. Die Priorität muss sein, Authentizität einfach überprüfbar zu machen. Das bedeutet, Menschen und Systemen zu ermöglichen, vertrauenswürdige von nicht vertrauenswürdigen Inhalten schnell zu unterscheiden. Gleichzeitig müssen Inhaltsersteller von Anfang an kryptografische Herkunftsnachweise einbetten können. Wir unterstützen Organisationen dabei bereits – unter anderem durch den Content Trust Manager, der überprüfbare Signale direkt in digitale Inhalte einbettet. Für Unternehmen wird das immer wichtiger, um ihre Markenreputation zu schützen und das Vertrauen in die digitale Kommunikation aufrechtzuerhalten. Der Fokus verschiebt sich damit: weg vom Aufspüren von Fälschungen, hin dazu, Authentizität zum Standard zu machen.

Wird Vertrauen in KI künftig zu einem Wettbewerbsfaktor ähnlich wie Datenschutz oder Cybersecurity?
Ja. Wir haben das bei Cybersicherheit und Datenschutz erlebt: Vertrauen wird schnell zum entscheidenden Faktor. Die gleiche Dynamik zeichnet sich bei KI ab. Organisationen, die nachweisbar vertrauenswürdige Systeme vorweisen können, werden einen Vorteil bei Kunden, Partnern und Regulierungsbehörden haben. Vertrauen reduziert Risiken, beschleunigt die Einführung und ermöglicht neue Geschäftsmodelle. In der KI-Ökonomie wird es zu einem zentralen Element des Markenwerts und der Wettbewerbspositionierung.

Viele Unternehmen integrieren KI aktuell mit hoher Geschwindigkeit. Beobachten Sie dabei mehr Innovationsdruck oder mehr Kontrollverlust?
Beides ist sichtbar. Unternehmen stehen unter Druck, KI schnell einzuführen, während Governance und Kontrolle hinterherhinken. Viele können grundlegende Fragen nicht beantworten: Welche KI-Systeme handeln in ihrem Namen? Welche Daten werden verwendet? Kann man den Ergebnissen vertrauen? Wer trägt die Verantwortung?
In vielen Fällen können Organisationen nicht kontrollieren, was sie nicht unabhängig verifizieren können. Gleichzeitig stehen Unternehmen unter Druck, die Produktivität zu steigern und Abläufe zu automatisieren – ohne das operative Risiko oder die Komplexität zu erhöhen. Viele europäische Organisationen gehen die KI-Einführung pragmatisch an: Sie wollen innovieren, aber auch klare Governance, Verantwortlichkeit und operative Resilienz. Die Lösung liegt nicht darin, Innovation zu bremsen, sondern Intelligent Trust einzubauen, damit Unternehmen KI skalieren und gleichzeitig die Kontrolle behalten können.

Welche Branchen stehen beim Thema „vertrauenswürdige KI“ besonders unter Zugzwang?
Branchen mit hohem Risiko und starker regulatorischer Aufsicht stehen unter dem größten Druck. Finanzinstitute müssen Betrugs- und Compliance-Risiken managen, das Gesundheitswesen muss Patientensicherheit und Datenintegrität gewährleisten, und Regierungen müssen das öffentliche Vertrauen aufrechterhalten. Gleichzeitig stehen Sektoren wie die Fertigungsindustrie und die Medienbranche vor Herausforderungen durch autonome Systeme und die Authentizität von Inhalten. In Europa wächst der regulatorische Druck, KI-Innovation mit Anforderungen an Governance, Transparenz und digitales Vertrauen in Einklang zu bringen. Letztlich muss jede Branche, in der KI-gestützte Entscheidungen reale Konsequenzen haben, vertrauenswürdige KI priorisieren.

Könnte sich aus kryptografisch abgesicherter KI ein neuer globaler Standard für digitale Geschäftsprozesse entwickeln?
Ja. Konkret bedeutet das: Verifizierung wird zum festen Bestandteil digitaler Geschäftsprozesse. KI-Systeme und -Agenten werden zunehmend Identität, Integrität und Autorisierung automatisch nachweisen müssen. Das Internet konnte sich kommerziell nicht ohne eine vertrauenswürdige Sicherheitsschicht entwickeln. KI wird eine ähnliche Vertrauensinfrastruktur brauchen, um sicher über Unternehmen und digitale Ökosysteme hinweg skalieren zu können. So wie sichere Websites im Internet zum Standard wurden, werden vertrauenswürdige KI-Interaktionen zum Standard in Unternehmenssystemen. Offene Standards und Interoperabilität werden entscheidend sein, damit vertrauenswürdige KI-Ökosysteme branchen- und grenzübergreifend skalieren können. Mit der Zeit wird diese Vertrauensinfrastruktur als grundlegende Plattformschicht in Unternehmensumgebungen fungieren – sie reduziert Reibung in digitalen Interaktionen und ermöglicht sichere Automatisierung im großen Maßstab.

Wenn wir auf 2030 blicken: Wie wird sich unser Verständnis von digitalem Vertrauen durch KI verändern?
Bis 2030 werden Vertrauensentscheidungen zunehmend in Maschinengeschwindigkeit getroffen. Systeme werden Identität, Integrität und Herkunft automatisch verifizieren, bevor Informationen oder Aktionen als vertrauenswürdig eingestuft werden. Für Unternehmen bedeutet das schnellere und zuverlässigere digitale Abläufe, weniger Reibung und mehr Sicherheit in automatisierten Umgebungen. Für den Einzelnen bedeutet es klarere Signale darüber, was online authentisch ist.
Digitales Vertrauen wird sich von einem rein technischen Merkmal zu einer wirtschaftlichen Notwendigkeit entwickeln. Organisationen, die vertrauenswürdige KI-Umgebungen schaffen, werden Automatisierung schneller einführen, sicherer zusammenarbeiten und mit größerer Zuversicht innovieren können.

Herr Dr. Sinha, vielen Dank für das Gespräch

 

Weiterführende Infos unter:

• DigiCert Homepage
• DigiCert AI Whitepaper