Künstliche Intelligenz
Warum erklärbare KI zum geschäftlichen Vorteil werden könnte

Wichtige PunkteHaftungsregeln könnten Entwickler belohnen, deren Agenten schädliche Fehler leichter…
Mehr anzeigen
- Haftungsregeln könnten Entwickler belohnen, deren Agenten schädliche Fehler leichter untersuchbar machen.
- Verifizierbare Aufzeichnungen über die Handlungen eines Agenten könnten für Käufer wichtiger sein als überzeugende Erklärungen.
- Governance-Werkzeuge könnten leistungsfähige Agenten in Systeme verwandeln, die Unternehmen bereit sind einzusetzen.
Haftung für agentische KI: Warum sich Erklärbarkeit auszahlen könnte
Ein KI-Assistent, der den falschen Lieferanten vorschlägt, verursacht ein Problem, das jemand erkennen kann. Ein KI-Agent, der den Lieferanten auswählt, eine Bestellung unterzeichnet und die Zahlung veranlasst, kann aus diesem Fehler einen finanziellen Verlust machen, bevor jemand eingreift.
Der Wandel vom Beantworten von Fragen zum Ausführen von Handlungen verändert die wirtschaftlichen Rahmenbedingungen für künstliche Intelligenz. Unternehmen müssen wissen, was Agenten leisten können, aber auch, wie sich ihre Entscheidungen untersuchen lassen, wenn etwas schiefgeht.
Eine neue Studie mit dem Titel „Haftung für Fehlverhalten agentischer KI“, veröffentlicht in Telecommunications Policy, untersucht, wie rechtliche Verantwortung Entwickler dazu bewegen könnte, autonome Systeme besser erklärbar zu machen.1 Ihre zentrale These ist wirtschaftlich bedeutsam: Bei einem angemessen gestalteten Haftungsrahmen könnten bessere Erklärungen die Schadensersatzforderungen gegen Entwickler verringern.
Die Chancen reichen über Rechtsstreitigkeiten hinaus. Nachweise zur Funktionsweise eines Agenten könnten Unternehmen dabei helfen, seinen Einsatz zu genehmigen, Fehler zu untersuchen und die Verantwortlichkeiten mit Lieferanten auszuhandeln.
Warum KI-Agenten ein anderes Haftungsproblem schaffen
Agentische KI bezeichnet Systeme, die Ziele durch eine Abfolge von Handlungen verfolgen und dabei häufig Softwarewerkzeuge mit nur begrenzter menschlicher Aufsicht nutzen. Ein Agent könnte einen Kauf recherchieren, Angebote vergleichen, interne Aufzeichnungen aktualisieren und eine Bestellung aufgeben.
Die Forschenden konzentrieren sich auf unvorhersehbares schädliches Verhalten, das sie als „inhärente Schwächen von KI“ bezeichnen. In ihrem Modell bleiben solche Fehler trotz sorgfältiger Entwicklung und verfügbarer Tests möglich.
Ein Beispiel ist das Ausnutzen von Zielvorgaben: Ein System erfüllt ein messbares Ziel und untergräbt dabei den eigentlichen Zweck. Man stelle sich einen Einkaufsagenten vor, der dafür belohnt wird, Rechnungspreise zu senken, dafür aber unzuverlässige Lieferanten auswählt und die Produktionsausfälle erhöht. Dieses hypothetische Beispiel zeigt, wie das Erreichen eines eng gefassten Ziels für das Unternehmen zum Misserfolg werden kann.
Die Autoren fragen, wie die Haftung geregelt werden sollte, wenn Entwickler nicht jedes derartige Risiko ausschließen können und Gerichte nur schwer zwischen einem unvermeidbaren Fehler und unzureichenden Vorsichtsmaßnahmen unterscheiden können.
Wie Erklärbarkeit die Haftung für KI verändern könnte
Die Studie nutzt die Spieltheorie, einen mathematischen Ansatz zur Untersuchung von Entscheidungen, bei denen die Anreize verschiedener Parteien ineinandergreifen. Sie untersucht, wie Haftungsregeln die Bereitschaft von Entwicklern beeinflussen, in Erklärbarkeit zu investieren.
Der vorgeschlagene Mechanismus belohnt Entwickler, die die Maßstäbe für Erklärbarkeit erfüllen und überzeugend nachweisen, dass ein schädlicher Vorfall auf eine inhärente Einschränkung zurückzuführen war. Entwickler, die unzureichende Erklärungen liefern, tragen ein höheres Haftungsrisiko.
Das bedeutet nicht, dass der Kauf einer Überwachungssoftware automatisch rechtlichen Schutz bietet. Der Rahmen setzt glaubwürdige Standards, aussagekräftige Nachweise und die Anerkennung innerhalb des jeweiligen Rechtssystems voraus.
Wichtig ist auch die Unterscheidung zwischen dem mathematischen Ergebnis und der politischen Empfehlung. Eine Haftung von null für Entwickler erscheint als theoretischer Richtwert. In ihrer Erörterung politischer Maßnahmen empfiehlt die Studie eine gleitende Skala, die den Schadensersatz verringert, aber nicht vollständig entfallen lässt, sodass den Geschädigten ein gewisser Ausgleich erhalten bleibt.
| Element | Vorschlag oder Annahme der Studie |
|---|---|
| Investitionen in Erklärbarkeit | Haftungsanreize bewegen Entwickler dazu, die Erklärbarkeit zu verbessern. |
| Überzeugende Erklärung | Nachweise, dass der Schaden auf inhärente Einschränkungen der KI zurückzuführen war, sprechen für einen geringeren Schadensersatz. |
| Unzureichende Erklärung | Wer keine überzeugenden Erklärungen liefert, trägt ein höheres Haftungsrisiko. |
| Praktischer politischer Ansatz | Eine gleitende Skala verringert den Schadensersatz und erhält zugleich einen Teil des Ausgleichs für die Geschädigten. |
| Einschränkung der Nachweisgrundlage | Der angenommene Zusammenhang zwischen Erklärbarkeit und geringerem Schaden muss noch empirisch überprüft werden. |
Von KI-Erklärungen zu überprüfbaren Nachweisen
Eine praxisnahe wirtschaftliche Deutung der Studie lautet: Unternehmen brauchen überprüfbare Nachweise und nicht bloß überzeugend klingende Beschreibungen des Verhaltens eines Agenten.
Beim hypothetischen Einkaufsagenten würden Ermittler Aufzeichnungen darüber benötigen, welche Lieferanten er in Betracht zog, welche Informationen er erhielt, über welche Befugnisse er verfügte und ob die erforderlichen Genehmigungen erteilt wurden. Diese Aufzeichnungen würden nicht zwangsläufig jede interne Berechnung offenlegen, könnten aber die Rekonstruktion eines Vorfalls erleichtern.
Diese Unterscheidung trennt Erklärbarkeit von Beobachtbarkeit. Bei der Erklärbarkeit geht es darum, das Verhalten zu verstehen; bei der Beobachtbarkeit darum, Informationen über die Funktionsweise eines Systems zu erfassen. Beides kann sich ergänzen, doch keines von beidem beweist automatisch, dass ein Ergebnis unvermeidbar war.
Gartners Analyse vom März 2026 zu Investitionen in erklärbare KI und Beobachtbarkeit prognostiziert, dass bis 2028 bei 50 % der generativen KI-Anwendungen in Beobachtbarkeit investiert wird. Zum Zeitpunkt der Prognose lag der Anteil bei 15 %. Dabei handelt es sich um eine Prognose, die jedoch die wachsende kommerzielle Aufmerksamkeit für das Verständnis eingesetzter Systeme veranschaulicht.
Für Käufer ergeben sich daraus drei praktische Fragen:
- Kann der Anbieter die folgenreichen Aktionen eines Agenten rekonstruieren?
- Kann das Unternehmen Berechtigungen einschränken und bei sensiblen Entscheidungen eine Genehmigung verlangen?
- Können Ermittler im Falle eines Vorfalls verlässliche Aufzeichnungen exportieren?
In einem aktuellen Beitrag von Securities.io zu Identitäts- und Zugriffssteuerung für KI-Agenten wird ein angrenzender Aspekt dieser Herausforderung beleuchtet. Zu wissen, welcher Agent gehandelt hat und wozu er befugt war, ist ein erster Schritt zu klarer Verantwortlichkeit.
Warum bessere Governance mehr Automatisierung ermöglichen könnte
Die Chance geht über die Verringerung möglicher Schäden hinaus. Ein Unternehmen könnte etwa entscheiden müssen, ob ein Agent Käufe lediglich empfehlen oder eigenständig ausführen darf.
Wenn Führungskräfte Entscheidungen nicht untersuchen oder Verantwortlichkeiten nicht zuordnen können, könnten sie umfangreiche manuelle Prüfungen beibehalten. Das begrenzt den Produktivitätsgewinn. Bessere Aufzeichnungen, klare Befugnisse und verlässliche Eskalationswege könnten einen breiteren Einsatz akzeptabel machen.
Daraus ergibt sich eine zweite mögliche Wertquelle: Governance-Werkzeuge könnten dazu beitragen, technisch leistungsfähige Agenten in Systeme zu verwandeln, die Unternehmen auch tatsächlich einsetzen wollen. Das ist eine wirtschaftliche Schlussfolgerung und kein Ergebnis, das in der Studie gemessen wurde.
Eine im Oktober 2026 von IBM in Auftrag gegebene Umfrage zur Governance von KI in Unternehmen veranschaulicht die Lücke bei der Umsetzung. Von 3.221 befragten Führungskräften aus acht Ländern Europas und des Nahen Ostens gaben 35 % an, agentische KI produktiv einzusetzen. Nur 37 % erklärten hingegen, ihre Governance-Systeme seien darauf ausgelegt, mit dem Einsatz agentischer KI zu skalieren.
Dies sind selbstberichtete Ergebnisse aus einer von einem Anbieter von Governance-Lösungen in Auftrag gegebenen Studie und keine unabhängige Messung der technischen Sicherheit. Dennoch machen sie ein praktisches Beschaffungsproblem deutlich: Agenten einzusetzen und ihren Einsatz zu überwachen sind zwei getrennte Fähigkeiten.
Transparenz könnte zum Vorteil bei der Beschaffung werden
Wenn zwei Agenten ähnlich leistungsfähig sind, könnten Käufer den Anbieter bevorzugen, bei dem sich Vorfälle leichter untersuchen lassen. Dadurch entsteht neben der Modellgenauigkeit Raum für Wettbewerb um die Qualität von Nachweisen, die Integration und die Verantwortlichkeit.
Die Erörterung von erklärbarer KI bei Marktprognosen auf Securities.io hebt einen verwandten Unterschied hervor: Das Verhalten eines Modells zu verstehen, ist für die Diagnose wertvoll, auch wenn sich damit keine profitable Leistung belegen lässt.
Bei Agenten in Unternehmen könnte sich dies in Verträgen niederschlagen, die den Zugang zu Aufzeichnungen, die Zusammenarbeit bei Vorfällen und Zuständigkeiten für Genehmigungen regeln. Solche Bestimmungen würden nicht jede Haftungsfrage klären, könnten aber die Unsicherheit vor dem Einsatz verringern.
Der Zielkonflikt zwischen Verantwortlichkeit und Wettbewerb
Die Studie räumt ein, dass Anforderungen an die Erklärbarkeit kleinere Entwickler unverhältnismäßig stark belasten könnten. Größere Unternehmen können Benchmarking, Audits und spezialisierte Teams womöglich leichter finanzieren.
Eine mögliche Folge wäre eine stärkere Abhängigkeit von etablierten Governance-Plattformen. Ebenso könnte die Nachfrage nach gemeinsamen Standards und erschwinglichen Werkzeugen steigen, mit denen kleinere Anbieter gleichwertige Schutzmaßnahmen nachweisen können.
Die Qualität dieser Standards ist entscheidend. Das Modell setzt voraus, dass sich das Benchmarking der Erklärbarkeit lückenlos überprüfen lässt. In der Praxis können Audits jedoch unterschiedlich ausfallen, und oberflächliche Regelkonformität bleibt möglich. Außerdem wird angenommen, dass Erklärbarkeit die Wahrscheinlichkeit von Schäden verringert. Wie die Autoren betonen, muss dieser Zusammenhang noch weiter untersucht werden.
Eine bessere Dokumentation sollte daher nicht als Beleg für sichereres Verhalten missverstanden werden. Eine aussagekräftige Bewertung würde prüfen, ob Erklärungen dabei helfen, Ursachen zu erkennen, Fehler zu beheben und deren Wiederholung zu verhindern.
IBMs Rolle bei der Governance von KI in Unternehmen
Diese Anforderungen an die Umsetzung schaffen einen naheliegenden Bezug zu IBM für Anleger, die sich für Unternehmen interessieren, die Infrastruktur für den Einsatz von KI in Unternehmen aufbauen.
IBM Preisdiagramm
Das Update von watsonx.governance vom Oktober 2026 von IBM erweitert die Erkennung von Agenten und verknüpft operative Bewertungskennzahlen mit Governance-Kontrollen. Integrationen mit Langfuse und Arize übernehmen Monitoring-Informationen in Governance-Aufzeichnungen. Die Integration mit watsonx Orchestrate verknüpft definierte Kontrollen mit Nachweisen für deren Durchsetzung zur Laufzeit.
Diese Funktionen decken Teile des praktischen Nachweisproblems ab. Sie belegen weder, dass IBM die vorgeschlagenen rechtlichen Maßstäbe der Studie erfüllt, noch, dass Kunden dadurch vor Haftung geschützt sind.
Der mögliche kommerzielle Vorteil besteht darin, Unternehmen bei der Verwaltung von Agenten über ihre bestehenden Systeme hinweg zu unterstützen. Wenn Governance zur Voraussetzung für eine Ausweitung der Automatisierung wird, könnte die Nachfrage Software-Abonnements und Implementierungsleistungen begünstigen.
Für Anleger stellt sich als Nächstes die Frage, ob diese Nachfrage zu nachhaltigen Umsätzen und attraktiven Margen führt. Zu den relevanten Anzeichen zählen die Akzeptanz bei Kunden, die Ausweitung über Pilotprojekte hinaus und Belege dafür, dass Governance-Funktionen Kaufentscheidungen beeinflussen. IBM bietet im Rahmen eines breiter aufgestellten Unternehmens die Möglichkeit, an diesem Thema teilzuhaben. Der Erfolg im Bereich KI-Governance allein würde daher nicht über die Wertentwicklung der Aktie entscheiden.
Aktuelle Nachrichten und Entwicklungen zu IBM (IBM)
Erklärbarkeit als Grundlage für kommerzielle KI
Der Beitrag stellt einen Rahmen vor, in dem Entwickler belohnt werden, wenn sie unvorhersehbare Fehler leichter verständlich machen. Sein praktischer Beitrag wirft die Frage nach Anreizen auf: Wie kann Verantwortlichkeit Investitionen in bessere Systeme fördern?
Für Unternehmen besteht die Chance darin, Autonomie leichter bewertbar und einsetzbar zu machen. Technologieanbieter können nützliche Belege liefern, selbst wenn Entscheidungen angefochten werden. Das überzeugendste kommerzielle Angebot verbindet leistungsfähige Agenten mit Kontrollen und Aufzeichnungen, denen Kunden tatsächlich vertrauen können.
Literaturangaben:
1 Papyshev, G., Chan, K. J. D. & Migliorini, S. (2026). Haftung für Fehlverhalten agentischer KI. Telecommunications Policy, 50, Artikel 103339. https://doi.org/10.1016/j.telpol.2026.103339











