Wer zahlt, wenn autonome Finanzsysteme versagen?

KI-Smart Contracts brauchen klare Verantwortlichkeit, um sich durchzusetzen

Ein KI-Agent bewegt Geld, nachdem er Marktdaten interpretiert hat. Ein Smart Contract führt die Transaktion genau wie angewiesen aus. Die Technologie funktioniert, doch der Kunde verliert Geld, weil die Anweisung falsch war. Wer zahlt?

Die Antwort auf diese Frage könnte mitentscheiden, ob sich autonome Finanzsysteme zu einer verlässlichen Infrastruktur entwickeln oder ein Experiment bleiben, dem Kunden nur mit Vorsicht begegnen. Eine schnellere Ausführung schafft Mehrwert, doch für die institutionelle Nutzung braucht es außerdem klare Zuständigkeiten, wirksame Schutzmaßnahmen und ein glaubwürdiges Verfahren für den Umgang mit Verlusten.

Eine konzeptionelle Studie von Kwok Tung Cheung und Sridhar Ramamoorti, veröffentlicht in AI and Ethics, untersucht die Verantwortlichkeit, wenn agentische KI mit Smart Contracts interagiert.¹ Ihre zentrale These weist einen konstruktiven Weg: Organisationen können Verantwortlichkeit bereits vor dem Einsatz festlegen, auch wenn es sich nach einem Fehler als schwierig erweist, einzelnen Personen die Schuld zuzuweisen.

Wie agentische KI das Risiko von Smart Contracts verändert

Ein herkömmlicher Smart Contract führt programmierte Bedingungen aus. Ein KI-Agent ergänzt eine Interpretationsebene: Er kann Informationen auswerten, Werkzeuge auswählen und Transaktionen mit Blick auf ein Ziel einleiten. In der Praxis kann das Modell außerhalb der Blockchain laufen und zugleich Verträge aufrufen, die seine Entscheidungen ausführen.

Dadurch ergeben sich zwei verschiedene Fragen: Wurde der Vertrag korrekt ausgeführt? Und war der Agent befugt und berechtigt, diese Aktion anzufordern? Eine technisch gültige Transaktion kann dennoch einen betrieblichen Fehler darstellen.

Die Studie veranschaulicht dies anhand eines hypothetischen Szenarios für dezentrale Kreditvergabe. Eine unerwartete Wechselwirkung mit einem Orakel – einem Dienst, der externe Preisdaten bereitstellt – veranlasst ein KI-Überwachungssystem, eine unangemessene Liquidierung von Sicherheiten auszulösen. Der daraus entstehende Verlust erstreckt sich über mehrere Bereiche: Datenbereitstellung, Modellverhalten, Protokollkonfiguration und Ausführung.

Für alle, die sich mit KI-Agenten beschäftigen, die Geld bewegen, ist dies die nächste Herausforderung für die Governance. Eine Transaktionserlaubnis legt fest, was die Software tun darf. Die Verantwortlichkeit bestimmt, wer Rechenschaft ablegen muss, wenn diese Erlaubnis Schaden verursacht.

Was die Studie zur Verantwortlichkeit von KI vorschlägt

Die Autoren unterscheiden zwischen Zurechenbarkeit, Rechenschaftspflicht und Verantwortlichkeit. Im Großen und Ganzen geht es dabei darum, wem eine Handlung zuzurechnen ist, ihre Gründe zu erläutern und einem institutionellen Verfahren mit möglichen Konsequenzen unterworfen zu sein.

Die Autoren argumentieren, dass Verantwortlichkeit auch dann bestehen kann, wenn bei den beiden anderen Punkten Unsicherheit herrscht. Ein Unternehmen kann klar definierte Pflichten für den Einsatz eines Systems übernehmen, ohne nachweisen zu müssen, dass eine bestimmte Mitarbeiterin oder ein bestimmter Mitarbeiter jedes mögliche Ergebnis vorhergesehen hat. Diese Pflichten müssen fair festgelegt und dürfen nicht erst nach einem Verlust willkürlich zugewiesen werden.

Die folgenden Bedingungen fassen zusammen, worauf sich legitime Verantwortlichkeit laut dem Vorschlag der Studie stützen sollte, auch wenn kein individuelles Verschulden nachgewiesen wird.

Diese Unterscheidung ist für Privatkunden wichtig. Wer Bedingungen akzeptiert, erhält dadurch keine Kontrolle über das Modelldesign oder die Auswahl des Orakels. Deshalb sehen die Autoren einen erheblichen Teil der Pflichten bei den vorgelagerten Akteuren. Es handelt sich um einen vorgeschlagenen Rahmen, nicht um die Aussage, dass diese Haftungsregelungen bereits in allen Rechtsordnungen gelten.

Menschliche Kontrolle braucht Zeit und Befugnisse

Die Studie befürwortet einen Ansatz, bei dem der Mensch die Führung behält: Menschen legen Ziele, akzeptables Verhalten, Eingriffsrechte und die Verantwortlichkeit für den Einsatz fest. Es reicht nicht aus, wenn eine Person die Aktivitäten überwacht, sofern Transaktionen abgeschlossen werden, bevor sie reagieren kann.

Zu den beispielhaften Schutzmaßnahmen für die Kreditvergabe gehören eine Überprüfung von Liquidierungen ab einem Schwellenwert von 250.000 $, ein Preisfeed mit einem Durchschnittswert über mindestens 15 Minuten und eine Anfechtungsfrist von mindestens 60 Minuten für bestimmte Liquidierungen. Dabei handelt es sich um vorgeschlagene Gestaltungsparameter, nicht um empirisch ermittelte Sicherheitsmaßstäbe.

Diese Einschränkung macht einen wichtigen wirtschaftlichen Zielkonflikt deutlich. Eine verzögerte Liquidierung könnte Kreditnehmer vor fehlerhaften Daten schützen, zugleich aber das Risiko für Kreditgeber erhöhen, falls der Wert der Sicherheiten tatsächlich einbricht. Unterschiedliche Vermögenswerte und Märkte erfordern unterschiedliche Kontrollen. Eine allgemeingültige Wartefrist wäre schwer zu rechtfertigen.

Eine praktische Umsetzung würde daher menschliche Entscheidungen über Richtlinien mit automatisierter Durchsetzung verbinden. Kleine, zulässige Aktionen könnten sofort ausgeführt werden; ungewöhnliche Aktionen könnten pausiert werden; in Notfällen könnten vorab festgelegte Beschränkungen greifen.

• Festlegen, auf welche Vermögenswerte, Zieladressen und Beträge ein Agent zugreifen darf.
• Die kumulierte Belastung über mehrere Transaktionen hinweg überwachen.
• Festlegen, wer eingreifen darf, und prüfen, ob dies auch unter Druck funktioniert.

Rechenschaftspflicht ist Teil der Finanzinfrastruktur

Die weiterreichende wirtschaftliche Konsequenz ist, dass autonome Finanzsysteme sowohl Transaktionskosten als auch die Kosten von Fehlern berücksichtigen müssen. Günstigere Abwicklungen bringen möglicherweise nur begrenzte Einsparungen, wenn Kundinnen und Kunden kostspielige Streitfälle, Wiederherstellungsmaßnahmen oder unerwartete Verluste selbst tragen müssen.

Nehmen wir beispielhaft einen Agenten, der Zahlungen unter 100 US-Dollar tätigen darf. Hunderte einzelne, regelkonforme Zahlungen könnten das vom Kunden vorgesehene Budget dennoch überschreiten. Entscheidend ist daher die kumulierte Ausgabe für eine Aufgabe oder einen Zeitraum – nicht allein die Höhe einer einzelnen Transaktion.

Kontrollen sollten außerdem außerhalb des Ermessensspielraums des Modells liegen. Einen Agenten aufzufordern, ein Budget einzuhalten, ist etwas anderes, als unabhängige Software anzuweisen, nicht autorisierte Ausgaben abzulehnen. So wird die Fähigkeit des Agenten, eine Handlung vorzuschlagen, von der Befugnis des Systems getrennt, sie auszuführen.

Je mehr Zahlungen zwischen Maschinen die Bandbreite der Dienstleistungen erweitern, die Software erwerben kann, desto wertvoller wird diese Trennung. Ein Agent, der Daten kauft und anschließend auf ihrer Grundlage handelt, löst eine Kette miteinander verbundener Entscheidungen aus. Die Betreiber müssen den gesamten Ablauf verstehen.

Entschädigungen brauchen eine finanzielle Absicherung

Eine weitere Konsequenz geht über die im Beitrag vorgeschlagene Zuweisung von Rollen hinaus: Eine rechenschaftspflichtige Stelle muss über die Mittel verfügen, ihren Verpflichtungen nachzukommen. Ein namentlich benannter Betreiber mit unzureichendem Kapital bietet nur begrenzten Schutz, wenn mehrere Kunden gleichzeitig Verluste erleiden.

Rücklagen, Versicherungen oder vertragliche Garantien könnten je nach Tätigkeit eine glaubwürdige Entschädigungslösung stützen. Jede dieser Möglichkeiten ist mit Kosten und Einschränkungen verbunden. Versicherungsausschlüsse könnten beispielsweise genau dort eine Lücke hinterlassen, wo ungewohntes Verhalten eines Agenten einen Verlust verursacht.

Für Anlegerinnen und Anleger bedeutet das, die Wirtschaftlichkeit auch nach Abzug der Kosten für Schutzmaßnahmen und Entschädigungspflichten zu bewerten. Das Transaktionswachstum einer Plattform erzählt nur einen Teil der Geschichte. Nachhaltige Margen hängen davon ab, was ein sicherer Betrieb kostet und welche Verluste in der eigenen Bilanz verbleiben.

Coinbase verbindet KI-Agenten mit der Finanzabwicklung

Coinbase bietet Anlegerinnen und Anlegern Zugang zu börsennotierten Unternehmen, die solche Fähigkeiten entwickeln. Die Ankündigung der agentischen Wallets beschreibt programmierbare Sitzungslimits, Einzeltransaktionslimits, die Isolierung privater Schlüssel und die Überprüfung von Transaktionen. Diese Funktionen zeigen, wie sich der Zugang zu Finanzdienstleistungen bereits auf Infrastrukturebene begrenzen lässt.

In seiner Ankündigung vom 22. September 2026 erklärte Coinbase, dass Coinbase für Agenten Aktien und x402-Zahlungen ergänzt habe. Damit werden agentengesteuerter Handel und Zahlungen für Daten- und Modelldienste miteinander verknüpft. Coinbase beschrieb konfigurierbare Zugriffsrechte auf Vermögenswerte, Ausgabenlimits und Genehmigungen für einzelne Aktionen.

In derselben Ankündigung heißt es, dass Nutzerinnen und Nutzer die Aktivitäten des Agenten steuern und das Transaktionsrisiko übernehmen. Das steht in aufschlussreichem Kontrast zur Präferenz der Studie, Modell- und Protokollrisiken den Beteiligten zuzuweisen, die Einfluss auf sie nehmen können. Produktschutzmaßnahmen und vertragliche Rechenschaftspflicht betreffen unterschiedliche Aspekte des Problems.

Coinbases Tools belegen nicht, dass das Unternehmen den Rahmen des Beitrags umsetzt. Der Zusammenhang mit der Investition ist umfassender: Die Verbreitung von Agenten könnte die Nachfrage nach Wallet-, Zahlungs- und Ausführungsdiensten steigern. Ob daraus nennenswerte Erträge entstehen, hängt von der Nutzung, der Monetarisierung, dem Wettbewerb und den Betriebskosten ab. Coinbase bleibt zudem dem breiteren Kryptomarkt ausgesetzt.

Aktuelle Nachrichten und Entwicklungen zu Coinbase (COIN)

Worauf Anleger bei autonomen Finanzsystemen achten sollten

Die Studie liefert eine Argumentation für bessere Governance, ohne die vorgeschlagenen Schutzmaßnahmen experimentell zu überprüfen. Die Durchsetzung gegenüber pseudonymen Organisationen bleibt schwierig, und das hypothetische Liquidationsszenario kann nicht belegen, wie Kontrollen während einer tatsächlichen Marktkrise funktionieren.

Dennoch bietet die Studie eine hilfreiche Orientierung, um Fortschritte zu bewerten. Anlegerinnen und Anleger können auf klare Befugnisgrenzen, erprobte Eingriffsmechanismen, eine transparente Verteilung von Verlusten und Belege dafür achten, dass Kundinnen und Kunden diese Schutzmaßnahmen schätzen.

Am erfolgreichsten könnten Unternehmen sein, die Autonomie so verlässlich machen, dass Kundinnen und Kunden ihre Angebote wiederholt in Anspruch nehmen. Klare Rechenschaftspflichten könnten dazu beitragen, eine schnellere Finanzabwicklung in einen Dienst zu verwandeln, dem Institutionen und Einzelpersonen vertrauen.

Literaturverzeichnis:

¹ Cheung, K. T. und Ramamoorti, S. (2026). Rechenschaftspflicht bei Smart Contracts und agentischer KI: Wie lässt sich die Verantwortungslücke schließen und eine wirksame menschliche Kontrolle bewahren? AI and Ethics, 6, Artikel 585. https://doi.org/10.1007/s43681-026-01434-3