KI-Agenten handeln über ihren Auftrag hinaus

BeyondTrust, globaler Marktführer für privilegienzentrierte Identity Security, gibt die allgemeine Verfügbarkeit der Sicherheitslösung „ AI Agent Security“ auf der Plattform „ BeyondTrust Pathfinder“ bekannt. Neueste Forschungen des BeyondTrust-Forschungslabors „ Phantom Labs“ zeigen das große Ausmaß ungesteuerter Agentic-AI-Aktivitäten und die wachsende Vernetzung von KI-Agenten über Unternehmensendpunkte hinweg.

Auf Basis von Endpunkt-Telemetriedaten des True Privilege™ Graph ermittelte Phantom Labs folgende Erkenntnisse:

Fast zehn Shell-Befehle pro Prompt. Untersuchungen des Forschungslabors BeyondTrust Phantom Labs zum Verhalten von KI-Coding-Agenten zeigen, dass sie 1,28 Millionen Shell-Befehle aus etwa 132.000 Prompts innerhalb von vier Wochen anforderten. Die Zahlen belegen, dass ein einzelner Prompt zu mehreren nachgelagerten Befehlsanfragen führen kann. Dabei mangelt es an der durchgehenden Verantwortlichkeit zwischen ursprünglichem Prompt und anschließender Befehlsausführung. Sollte ein Agent versuchen, über den vorgesehenen Rahmen eines Prompts hinauszugehen, sind Beobachtbarkeit (Observability) und Richtliniendurchsetzung entscheidend, um potenzielle Sicherheitsvorfälle zu verhindern oder abzumildern.

85 Prozent der beobachteten Coding-Agent-Nutzer verwenden MCP-Serververbindungen. 85 Prozent der Nutzer mit Coding-Agenten konfigurierten mindestens einen MCP-Server — im Schnitt 4,35 Server pro verbundenem Nutzer, und in einem Fall sogar 36 Server. Diese Verbindungen erweitern die Reichweite eines Agenten und können es ihm ermöglichen, auf mehreren Plattformen mit delegierten Nutzerrechten aktiv zu werden. Dadurch erweitert sich die Angriffsfläche: Angreifer, die Zugriff auf das KI-Konto eines Nutzers erlangen, könnten über die verbundenen Plattformen hinweg als dieser Nutzer handeln, ohne separate Zugangsdaten zu benötigen. Beim Aufruf können MCP-Server Nutzer-Prompts empfangen und über ihre Antworten das Verhalten des Agenten beeinflussen. Ohne Transparenz der MCP-Aktivitäten bergen diese Verbindungen Datenschutz- und Compliance-Risiken und bieten bösartigen Servern die Möglichkeit, sensible Daten abzuziehen oder Agentenaktionen zu manipulieren.

Rund die Hälfte der Agent-Skills wird gebündelt in Code-Repositories installiert. Innerhalb einer mittelgroßen Unternehmensumgebung, in der 60 Prozent der KI-aktiven Geräte einen Coding-Agenten ausführen, hat ein typischer Nutzer mit Agent-Skills etwa zwei Dutzend KI-Skills installiert. Mindestens jeder siebte installierte KI-Skill kam dabei innerhalb von vier Wochen zum Einsatz. KI-Agenten-Skills beeinflussen nicht nur Prompt-Input und -Output, sondern beinhalten oft auch eingebetteten Code. Angreifer verteilen legitime Skills aktiv und manipulieren sie gezielt („Poisoning“). Können Organisationen ihre Skill-Richtlinien nicht prüfen und durchsetzen, geben sie womöglich unbemerkt Kontrolle an nicht genehmigte oder kompromittierte Skills ab.

„AI Agent Security“ von BeyondTrust adressiert diese Herausforderungen, indem die Lösung die Aktivitäten von KI-Agenten von menschlichen Aktivitäten abgrenzt und zur Laufzeit durchsetzt, was Agenten tun dürfen. Die eingesetzten KI-Agenten können nur autorisierte Aktionen ausführen, ohne dass für Mitarbeiteraufgaben benötigte Berechtigungen eingeschränkt werden.

„Immer häufiger handeln KI-Agenten im Auftrag von Mitarbeitern und verwenden dabei oft denselben Zugang wie die betreffenden Personen“, bemerkte Marc Maiffret, CTO bei BeyondTrust. „Das erweitert erheblich, wer und was Privilegien ausüben kann. Handeln diese Agenten autonom und mit Maschinengeschwindigkeit, müssen Organisationen die betreffenden Nutzerprivilegien kontrollieren können, bevor unerwünschte Handlungen durchgeführt werden. AI Agent Security zieht eine Trennlinie zwischen dem, was Menschen durchführen dürfen, und dem, was KI-Agenten ausführen dürfen. So können Organisationen die Leistungsfähigkeit von KI nutzen, ohne davon auszugehen, dass alles, was ein Mensch darf, auch seinem KI-Agenten erlaubt sein sollte.“

KI-Agenten kontrollieren, bevor sie handeln

AI Agent Security wendet das BeyondTrust-Framework aus Visibility, Intelligence und Protection auf agentische KI am Endpunkt an und stattet Sicherheitsteams mit den erforderlichen Kontextinformationen und Kontrollfunktionen zur Steuerung von KI-Agenten aus. Zugriffsrechte der Mitarbeiter, die sie zur Erledigung ihrer Aufgaben benötigen, werden dabei nicht eingeschränkt. Statt sich allein auf das Blockieren bekannter Befehle zu verlassen oder riskantes Verhalten erst im Nachhinein zu erkennen, bewertet BeyondTrust einzelne Aktionen eines KI-Agenten zur Laufzeit anhand von Richtlinien und entscheidet so, was ein KI-Agent tun darf, bevor eine Aktion erfolgt.

Visibility: Erfassung von KI-Agenten, die über Endpunkte hinweg im Einsatz sind, einschließlich führender Frontier-KI-Tools, intern gehosteter Modelle, Schatten-KI und kurzlebiger Hilfsagenten (Ephemeral Sub-Agents), um eine umfassende Inventarisierung agentischer KI-Aktivitäten zu erreichen.

Intelligence: Abgrenzung menschlicher Aktionen von Agentic-AI-Aktivitäten und kontextbezogene Erfassung der Handlungen von KI-Agenten, darunter menschlicher Eigentümer, Gerät, Agentensitzung, Skills und MCP-Aktivität.

Protection: Policy-Durchsetzung für KI-Agenten zur Begrenzung ihrer Aktivitäten auf sichere und genehmigte Handlungen bei der Erledigung zugewiesener Aufgaben sowie Nutzung von Just-in-Time-Freigaben oder menschlichen Genehmigungen, wenn weitere Privilegien erforderlich sind.

„KI-Agenten verändern die Sicherheitslage von Grund auf. Es handelt sich nicht nur um Anwendungen mit Datenzugriff, sondern um autonome Softwareprogramme, die Entscheidungen treffen, Werkzeuge nutzen, Maßnahmen ergreifen und delegierte Befugnisse mit Maschinengeschwindigkeit ausüben“, betonte David Morimanno, Field CTO bei Xalient. „Aus Sicht der Sicherheitsverantwortlichen kommt es jetzt darauf an, von einer reinen Zugangsverwaltung zu einem kontinuierlichen Trust Management überzugehen. Die Frage ist nicht nur, worauf eine digitale Identität Zugriff hat, sondern ob wir diesem KI-Agenten vertrauen, diese Maßnahme mit diesem Berechtigungsumfang, in diesem Kontext und genau jetzt durchzuführen. Mit BeyondTrust AI Agent Security können diese Entscheidungen näher am Endpunkt getroffen und durchgesetzt werden, sodass Organisationen KI-gesteuerte Maßnahmen in Echtzeit steuern, ohne die Einführung von KI-Technologien zu behindern.“

Allgemeine Verfügbarkeit von AI Agent Security

AI Agent Security ist ab sofort auf der Plattform „BeyondTrust Pathfinder“ für Windows- und macOS-Endpunkte verfügbar und erweitert bewährte Endpunkt-Privilegienkontrolle auf eine neue Klasse nicht-menschlicher Identitäten. Sichtbarkeit von Agentic-AI-Aktivitäten und entsprechende Schutzmechanismen laufen auf derselben Plattform, die Organisationen zur Analyse und Absicherung von Nutzerprivilegien in ihrer Umgebung einsetzen.

Mehr Informationen über AI Agent Security sowie eine Demoversion sind unter https://www.beyondtrust.com/products/ai-agent-security abrufbar.

Weitere Details über Identifizierung, Verständnis und Steuerung von KI-Agenten-Aktivitäten gibt es im Webinar „ AI Agents Among Us“.

Die neuesten Forschungen von BeyondTrust Phantom Labs sind hier verfügbar: https://www.beyondtrust.com/channel/phantom-labs.

Forschungsmethodik

BeyondTrust Phantom Labs analysierte Endpunkt-Telemetriedaten der Aktivitäten von KI-Coding-Agenten anhand erster Kundenstichproben, einschließlich Shell-Befehlsanfragen. Die MCP-Ergebnisse spiegeln beobachtete Coding-Agent-Nutzer unter Windows und macOS wider und umfassen lokal konfigurierte und von Plugins hinzugefügte Server. Die Zahlen zu Shell-Befehlen umfassen Befehle, die von KI-Agenten angefordert, aber nicht unbedingt erfolgreich ausgeführt wurden.

(Bildquelle: BeyondTrust) (Bildquelle: )

02. November 2026 | ID: 36733 | Artikel löschen

---