VIKING untersucht die Entwicklung vertrauenswürdiger Künstlicher Intelligenz für den Einsatz in polizeilichen und sicherheitsrelevanten Analysekontexten. Im Mittelpunkt steht die Frage, wie KI-Systeme so gestaltet werden können, dass sie trotz komplexer und hochdimensionaler Datenlagen nachvollziehbare, robuste und zuverlässige Entscheidungen unterstützen.

Ein weiterer Schwerpunkt liegt auf der Erkennung und Reduktion algorithmischer Verzerrungen sowie der transparenten Kommunikation von Unsicherheiten modellbasierter Ergebnisse. VIKING verfolgt einen interdisziplinären Ansatz, der technische Methoden mit rechtlich-ethischen Anforderungen sowie Beiträgen zur Standardisierung und Regulierung von Test- und Bewertungsverfahren verbindet.

Die Universität Konstanz wirkte als technischer und wissenschaftlicher Koordinator an VIKING mit. Der Beitrag der Forschungsgruppe konzentrierte sich auf Visual Analytics und erklärbare KI zur Entwicklung interaktiver Verfahren. Diese ermöglichen die Exploration, Interpretation und kritische Bewertung von Modellentscheidungen durch Anwenderinnen und Anwender.

Forschungsfragen

• Wie können KI-basierte Analyseverfahren so gestaltet werden, dass ihre Ergebnisse transparent und nachvollziehbar bleiben?
• Wie lassen sich die Genauigkeit und Robustheit von KI-Systemen systematisch messen und verbessern?
• Wie können Verzerrungen in Daten und Modellen erkannt und reduziert werden?
• Welche Anforderungen ergeben sich aus rechtlichen, ethischen und institutionellen Rahmenbedingungen für den Einsatz solcher Systeme?
• Wie lassen sich überprüfbare Standards und Testverfahren für vertrauenswürdige KI entwickeln?

Ausgewählte Ergebnisse

Zu den Ergebnissen gehören:

• ein Rahmenwerk für vertrauenswürdige KI in polizeilichen Anwendungen,
• Methoden zur Untersuchung von Transparenz, Erklärbarkeit und Fairness,
• Beiträge zur Entwicklung von Prüfkatalogen und Testverfahren,
• Beiträge zur DIN SPEC 91517:2025-05 für vertrauenswürdige KI-Methoden,
• wissenschaftliche Arbeiten zu Explainable AI, Zeitreihenanalyse, Visual Analytics und der interaktiven Untersuchung komplexer Modelle.