„Wie bleiben Sie auf dem Laufenden, was Ihre Compliance-Pflichten und Änderungen von Gesetzen angeht?“ – Mit dieser Frage begannen die Workshops für das TRUST-Projekt, mit dem wir den Bedarf für ein KI-gestütztes Compliance-Tool ermitteln wollten. Die Antworten darauf waren ein Blumenstrauß der kreativen Lösungen: vom Newsletter-Abo über das systematische Sichten von LinkedIn-Beiträgen und selbst programmierten KI-Tools bis hin zu Informationen aus dem professionellen Netzwerk.
Doch was ist eigentlich das Ziel der Übung?
TRUST steht für „Trusted Regulatory Compliance Services for Europe“ und ist ein von der Europäischen Union gefördertes Forschungsprojekt im Bereich KI. Zusammen mit 16 Partnern aus ganz Europa entwickelt der BITMi ein System KI-gestützter Assistenten. Diese sollen die Zeit, die KMU für Compliance aufbringen müssen, um 50 Prozent reduzieren. Um sicherzustellen, dass das Endprodukt im Alltag wirklich nützlich ist, haben wir in diesem Sommer nicht nur Fokusgruppen-Workshops, sondern auch Umfragen durchgeführt.
Während der vollständige Bericht erst Anfang Oktober veröffentlicht wird, können wir an dieser Stelle schon vorab einige erste Erkenntnisse teilen.
Generell wird die regulatorische Landschaft als undurchsichtig und überwältigend wahrgenommen. Diese mangelnde Klarheit kann zu übermäßiger Vorsicht führen, die alle Datenverwendung und -auswertung verhindert, oder im anderen Extrem zu unverhältnismäßigem Aufwand, wie beispielsweise der wiederholten Einholung von Zustimmungen für geringfügige Aufgaben. Zudem wird die Verantwortung für Compliance-Aufgaben häufig zwischen Personen hin- und hergeschoben – beispielsweise zwischen der IT-Abteilung und dem Management –, bis sie schließlich bei einer Person landet, die sie nicht ablehnen kann. Die Folge ist, dass Compliance derzeit durch ad-hoc-Prozesse, Improvisationen oder personenabhängige Lösungen gemanagt wird. Die daraus resultierenden Workarounds sind oft fragil, unzuverlässig und nicht nachhaltig.
Nach den oben genannten Antworten aus den Fokusgruppen wurde schnell klar, wie wir KMU im Bereich Monitoring bei regulatorischen Anforderungen und Änderungen unterstützen können. Aus Sicht der KMU soll TRUST ein proaktives, automatisiertes System sein, das regulatorische Änderungen überwacht und in einem anpassbaren, in Arbeitsabläufe integrierten Format präsentiert. Anstelle von Newslettern und LinkedIn-Beiträgen sollen zielgerichtete E-Mail-Benachrichtigungen mit Opt-in-Themenfiltern entstehen. Diese sollen durch eine persistente, durchsuchbare Wissensdatenbank ergänzt werden.
Ein zweites Thema, bei dem die TRUST-Assistenten KMU unterstützen sollen, ist das „Übersetzen“ von Gesetzestexten in eine verständliche Sprache. Das ist nicht nur eine stilistische Vorliebe, sondern im Gegenteil eine funktionelle Anforderung zur Einhaltung von Vorgaben. Unsere Teilnehmer beschreiben die Welt der Gesetzgebung als strukturell unzugänglich. Denn juristische Texte werden in einem technischen oder rechtlichen Sprachstil verfasst, der in praxistaugliche Sprache umgewandelt werden muss. Auch hierfür haben KMU kreative Workarounds entwickelt – doch ein TURST-Assistent, der unternehmensspezifische Beispiele und die Möglichkeit bietet, zwischen offiziellen und vereinfachten Texten zu wechseln, steht für sie weit oben auf der Wunschliste. Denn so werden abstrakte rechtliche Anforderungen in konkrete, umsetzbare Geschäftsrealitäten überführt.
Im Rahmen des TRUST-Projektes haben wir unseren Befragten die Gretchenfrage gestellt: „Wie halten Sie es mit KI in einem sensiblen Bereich wie Compliance?”
Darauf haben wir durch alle Fokusgruppen und Umfragen hindurch die gleiche Antwort erhalten: „Human leads, AI supports“. In Detailfragen gibt es zwar Unterschiede – so bevorzugen einige eine vollautomatisierte Erstellung von Berichten, andere wiederum Stichpunkte als Gedankenstütze. Bei den Anforderungen an die systematische Verwendung von KI im Compliance-Bereich herrscht jedoch Einigkeit. Die Teilnehmer fordern von einem KI-basierten Tool, dass es keine Halluzinationen gibt, dass Zitate nachverfolgbar sind, dass Quellen transparent sind und dass es eine menschliche Aufsicht gibt. Zentral ist zudem, dass man KI niemals rechtlich zur Rechenschaft ziehen kann. Denn die Verantwortlichkeit ist immer persönlich oder unternehmensbezogen, sie ist nie algorithmisch. Dies wird in Kombination mit der unkritischen Übernahme von Vorschlägen als erhebliche systemische Gefahr identifiziert. Deshalb ist es unseren Befragten wichtig, dass KI eindeutig als Werkzeug wahrgenommen wird, nicht als Prozess oder Entscheidungsträger. Von unserem Tool wünschen sich KMU deshalb einen AI Self-Confidence Score, eine unabhängige sekundäre KI-Validierung, Quellenlinks zu den ursprünglichen rechtlichen Dokumenten und eine Human-in-the-Loop-Governance.
Und nun?
Wird TRUST ein kostenloses Produkt entwickeln, das all diese Anforderungen übererfüllt und alle Nutzer ausnahmslos glücklich macht?
Möglicherweise nicht. Wir stehen schließlich am Anfang der Produktentwicklung. Klar ist aber jetzt schon, dass wir nicht alle der teilweise auch widersprüchlichen Anforderungen erfüllen können. Nachdem wir die Wünsche gesammelt haben, folgt nun die Phase der Priorisierung und Umsetzung. Unser Ziel ist es dabei, nicht das perfekte, sondern das bestmögliche Produkt zu entwickeln.
Dazu zählen wir auch weiterhin auf das Wissen und die Erfahrungen von KMU, denn über den gesamten Entwicklungsprozess hinweg werden wir Co-Design-Workshops durchführen, um iteratives Feedback einzuholen und unsere Assistenten so nah an der Praxis wie möglich zu entwickeln. Das hört sich spannend an?
Dann folgen Sie den BITMi-Kanälen, um keinen Co-Design-Workshop zu verpassen. Wir werden die Veranstaltungen dort regelmäßig teilen und freuen uns über rege Beteiligung!
Kontakt
Anna Brodmann
BITMi
Projektleitung TRUST
anna.brodmann@bitmi.de