KI-Agent knackt internes KI-System von McKinsey in wenigen Stunden
Ein autonomer KI-Agent hat nach Angaben von Sicherheitsforschern innerhalb weniger Stunden Zugriff auf zentrale Systeme der internen KI-Plattform „Lilli“ des Beratungsunternehmens McKinsey & Company erlangt. Besonders brisant: Der Angriff erfolgte ohne Zugangsdaten und ohne klassische Sicherheitsbarrieren zu überwinden.
Die Sicherheitslücke wurde im Rahmen einer Untersuchung von Forschern entdeckt und anschließend verantwortungsvoll gemeldet. Laut Bericht konnte die Schwachstelle inzwischen geschlossen werden.
Zugriff auf Millionen interne Daten
Dem Bericht zufolge gelang es dem autonomen Sicherheits-Agenten, vollständigen Lese- und Schreibzugriff auf zentrale Datenbereiche der Plattform zu erlangen. Betroffen waren unter anderem:
-
rund 46,5 Millionen Chat-Nachrichten
-
etwa 728.000 Dateien
-
mehr als 57.000 Nutzerkonten
Die Plattform „Lilli“ dient bei McKinsey als interne KI-Anwendung für Mitarbeitende und wird für Recherche, Wissensmanagement und Projektarbeit eingesetzt.
Der Zugriff auf diese Daten hätte theoretisch ermöglicht, umfangreiche interne Informationen auszulesen oder zu verändern.
Manipulation von KI-Verhalten möglich
Besonders kritisch war nach Angaben der Forscher eine weitere mögliche Angriffsebene: Der autonome Agent hätte System-Prompts manipulieren können, also jene internen Steuerungsanweisungen, die das Verhalten der KI bestimmen.
Solche Prompts definieren unter anderem:
-
Sicherheitsregeln der KI
-
Zugriffsbeschränkungen
-
Antwortlogik der Systeme
Eine Veränderung dieser Steuermechanismen hätte es Angreifern ermöglicht, das Verhalten der KI gezielt umzuprogrammieren – ohne dass Nutzer dies unmittelbar bemerken.
Angriff ohne Spuren im Log
Ein weiterer kritischer Punkt: Der Angriff hätte keine sichtbaren Spuren in den üblichen Systemprotokollen hinterlassen. Dadurch wäre eine Manipulation möglicherweise erst sehr spät entdeckt worden.
Für Unternehmen zeigt der Vorfall, dass KI-Systeme neue Sicherheitsrisiken schaffen, die sich von klassischen IT-Schwachstellen unterscheiden. Besonders problematisch sind dabei automatisierte Angriffe durch KI-Agenten, die komplexe Systeme selbstständig analysieren können.
Sicherheitslücke schnell geschlossen
Nach der verantwortungsvollen Offenlegung der Schwachstelle reagierte McKinsey offenbar schnell. Laut Bericht wurde die Sicherheitslücke innerhalb eines Tages geschlossen.
Der Vorfall zeigt dennoch, wie sensibel interne KI-Plattformen geworden sind – insbesondere in Organisationen, die große Mengen vertraulicher Daten verarbeiten.
Neue Sicherheitsdimension durch KI-Agenten
Mit dem zunehmenden Einsatz autonomer KI-Systeme verändert sich auch die Sicherheitslage im digitalen Raum. Während KI bislang vor allem als Werkzeug zur Verteidigung gegen Cyberangriffe genutzt wurde, könnten künftig KI-Agenten selbst zu Angreifern werden.
Für Unternehmen bedeutet das, ihre Sicherheitsstrategien anzupassen – insbesondere bei:
-
internen KI-Plattformen
-
agentischen KI-Systemen
-
automatisierten Workflows
-
Zugriff auf Unternehmenswissen
Die Kombination aus großen Sprachmodellen, autonomen Agenten und Unternehmensdaten eröffnet enorme Produktivitätspotenziale – schafft aber gleichzeitig neue Angriffsflächen.
Quelle / technische Analyse
https://codewall.ai/research/how-we-hacked-mckinseys-ai-platform
CC BY-ND 3.0 DE – Namensnennung, keine Bearbeitung
https://creativecommons.org/licenses/by-nd/3.0/de/
