VIKING untersuchte, wie Methoden der Künstlichen Intelligenz in polizeilichen Ermittlungsverfahren verantwortungsvoll eingesetzt werden können. Bei komplexen Verfahren, beispielsweise im Bereich Organisierte Kriminalität oder Terrorismus, können große Mengen digitaler Daten anfallen. KI-basierte Verfahren können Ermittler bei der Analyse unterstützen, müssen jedoch zuverlässig, nachvollziehbar und rechtlich überprüfbar sowie gerichtsfest sein.

Ein Schwerpunkt lag daher auf der Erkennung und Reduktion algorithmischer Verzerrungen sowie der transparenten Kommunikation von Unsicherheiten modellbasierter Ergebnisse. VIKING verfolgte einen interdisziplinären Ansatz, der technische Methoden mit rechtlich-ethischen Anforderungen sowie Beiträgen zur Standardisierung und Regulierung von Test- und Bewertungsverfahren verband.

Die Universität Konstanz wirkte als technischer und wissenschaftlicher Koordinator an VIKING mit, entwickelte ein ganzheitliches Rahmenwerk für vertrauenswürdige künstliche Intelligenz in polizeilichen Anwendungen und beriet andere Arbeitspakete beim Einsatz von XAI-Techniken.

Forschungsfragen

• Wie können KI-basierte Analyseverfahren so gestaltet werden, dass ihre Ergebnisse transparent und nachvollziehbar bleiben?
• Wie lassen sich die Genauigkeit und Robustheit von KI-Systemen systematisch messen und verbessern?
• Wie können Verzerrungen in Daten und Modellen erkannt und reduziert werden?
• Welche Anforderungen ergeben sich aus rechtlichen, ethischen und institutionellen Rahmenbedingungen für den Einsatz solcher Systeme?
• Wie lassen sich überprüfbare Standards und Testverfahren für vertrauenswürdige KI entwickeln?

Ausgewählte Ergebnisse

VIKING lieferte erstmalig einen Anforderungskatalog mit konkreten, operationalisierbaren, ethischen und rechtlichen Vorgaben für Entwicklung und Einsatz von KI-Verfahren in polizeilichen Anwendungen. Weiterhin können die Ergebnisse aus VIKING zukünftig den polizeilichen Einsatz von KI-Verfahren fördern und somit zur Stärkung von Recht und Sicherheit in Europa beitragen.

Zu den Ergebnissen gehören:

• ein Rahmenwerk für vertrauenswürdige KI in polizeilichen Anwendungen (DIN SPEC 91517:2025-05),
• Methoden zur Untersuchung von Transparenz, Erklärbarkeit und Fairness,
• Beiträge zur Entwicklung von Prüfkatalogen und Testverfahren,
• Beiträge für vertrauenswürdige KI-Methoden,
• wissenschaftliche Arbeiten zu Explainable AI, Zeitreihenanalyse, Visual Analytics und der interaktiven Untersuchung komplexer Modelle.