Während große Teile der Privatwirtschaft beginnen, Cloud-Anwendungen wie ChatGPT im Wissensmanagement einzusetzen, gelten für Behörden deutlich höhere Sicherheitsanforderungen. Aus Gründen der Datensouveränität und Cyberresilienz müssen Abhängigkeiten zu externen Anbietern wie Microsoft, OpenAI und Co. minimiert werden. Ein behördliches System soll On-Premises betrieben werden, um maximale Souveränität zu gewährleisten.
SecuredGPT verfolgt die Entwicklung eines internen Wissensmanagement-Systems, das auf Large Language Models basiert und speziell für den Einsatz im öffentlichen Sektor ausgerichtet ist. Das System wird entwickelt, um Polizeikräften zu helfen, komplexe Anfragen in Echtzeit zu beantworten, indem es auf spezifische, interne Wissenskorpora wie den Kriminalistischen Leitfaden (KLF) zugreift.
Das Projekt umfasst mehrere Phasen: Zunächst erfolgt die Analyse geeigneter Sprachmodelle mit Fokus auf deutsches Sprachverständnis. Darauf aufbauend wird das System an die internen Dokumente angebunden und in einem Pilotbetrieb mit einer ausgewählten Gruppe von Testnutzer:innen evaluiert. Durch iterative Optimierung basierend auf Nutzerfeedback wird der Chatbot technisch und funktional an die Anforderungen im praktischen Betrieb angepasst.
Wesentliche Ziele des Projekts sind die Erhebung von Erfahrungswerten für einen Produktivbetrieb sowie die Sicherstellung der On-Premises-Kompatibilität. Die Schwerpunkte liegen auf Daten-Sicherheit und Transparenz hinsichtlich der Datenquellen. Der Pilotbetrieb liefert neben qualitativen Evaluierungen auch Erkenntnisse über das Laufzeitverhalten in einer On-Premises-Umgebung.
ProjektleiterIn:
Cortecs GmbH
Schottengasse 10
A-1070 Wien
Auflistung der weiteren Projekt- bzw. KooperationspartnerInnen
Bundesministerium für Inneres
Kontakt:
Markus Tretzmüller, MSc.
+43 680 3230395
markus.tretzmueller(at)cortecs.ai
https://cortecs.ai
