Polizeibehörden in den USA nutzen zunehmend KI-Tools, um Kriminalberichte zu verfassen, um Zeit zu sparen. Eines dieser Tools, Draft One von Axon, generiert Berichte auf Grundlage von Bodycam-Aufnahmen und nutzt dafür GPT-4, das auch hinter ChatGPT steht. Doch wie sicher ist der Einsatz von KI, die dafür bekannt ist, „Halluzinationen“ zu haben? Und was könnte dabei schiefgehen?

Wie funktioniert Draft One?

Draft One wurde entwickelt, um Audioaufzeichnungen von Bodycams zu analysieren und in wenigen Sekunden in Berichtsform zu übertragen. Axon positioniert das Tool als „Zeitersparnis“ und „Kraftmultiplikator“ für Polizeiabteilungen. In Oklahoma City wird es für kleinere Vorfälle verwendet – keine Gewaltverbrechen oder Vorfälle, die zu Verhaftungen führen.

Datensicherheit und Verantwortung

Axon hebt hervor, dass Draft One speziell für den öffentlichen Sicherheitsbereich entwickelt wurde. Ein wichtiger Vorteil ist, dass die Daten vollständig intern bleiben und nicht für zukünftige KI-Modelle verwendet werden. Die Lösung ist darauf ausgelegt, spekulative Inhalte zu vermeiden und nur transkribierte Fakten zu nutzen​. Zudem gibt es zahlreiche Sicherheitsmechanismen, die gewährleisten, dass Polizisten die Berichte prüfen und genehmigen müssen, bevor sie eingereicht werden.

Zeitersparnis und Effizienz

Ein weiterer Vorteil von Draft One ist die erhebliche Zeitersparnis für Polizeibeamte. Berichte zeigen, dass Beamte durch den Einsatz von Draft One bis zu 67% ihrer Zeit zurückgewinnen, die normalerweise für das Schreiben von Berichten aufgewendet wird​. Dies ermöglicht es den Beamten, mehr Zeit in die aktive Polizeiarbeit und die Interaktion mit der Gemeinschaft zu investieren.

Risiken und Bedenken

Trotz der von Axon versprochenen Sicherungen sind viele Experten skeptisch gegenüber der Automatisierung im Polizeiwesen. Andrew Ferguson, ein Rechtsexperte, äußerte seine Bedenken, dass die Bequemlichkeit der Technologie dazu führen könnte, dass Polizisten weniger sorgsam bei der Berichterstellung vorgehen. Darüber hinaus gibt es mehrere Punkte, die problematisch sein könnten:

1. Fehleranfälligkeit durch KI-Halluzinationen: Obwohl Axon behauptet, das „Kreativitätsniveau“ der KI angepasst zu haben, um Fehlinterpretationen zu minimieren, bleibt die Möglichkeit, dass die KI falsche oder ungenaue Informationen liefert. Da Polizisten die Berichte überprüfen müssen, bleibt Raum für menschliches Versagen.
2. Rassistische Vorurteile und Dialektpräferenzen: Große Sprachmodelle wie GPT-4 haben nachweislich Probleme mit verstecktem Rassismus und können sprachliche Vorurteile, insbesondere gegenüber marginalisierten Dialekten wie African American English (AAE), reproduzieren. Dies könnte zu verzerrten oder diskriminierenden Berichten führen.
3. Verstärkung systemischer Ungleichheiten: Es gibt zahlreiche Beispiele für den Einsatz von KI in Bereichen wie Personalwesen, die unabsichtlich Diskriminierung verstärken. Ähnliche Bedenken bestehen hinsichtlich der Polizeiarbeit. Wenn die zugrunde liegenden Trainingsdaten voreingenommen sind, kann dies bestehende Ungleichheiten verschlimmern.

Unterschiede zwischen Draft One und anderen generativen KI-Lösungen

Laut einem internen Bericht von Axon bietet Draft One spezifische Vorteile im Vergleich zu anderen KI-basierten Lösungen. Es wurde so entwickelt, dass es nur Fakten aus Bodycam-Transkripten übernimmt und alle kreativen Funktionen deaktiviert, um spekulative Inhalte zu vermeiden. Zudem bleibt die Datensicherheit gewährleistet, da die Informationen nicht für zukünftige Trainingsmodelle verwendet werden. Draft One wurde sorgfältig auf Vorurteile getestet und bietet Schutzmechanismen, um die Genauigkeit zu gewährleisten​.

Wie versucht Axon diese Risiken zu mindern?

Axon betont, dass alle Berichte von einem menschlichen Offizier überprüft werden müssen, bevor sie eingereicht werden. Das Unternehmen hat auch interne Studien durchgeführt, um sicherzustellen, dass Draft One keine rassischen Vorurteile zeigt. Diese Studien umfassten über 380 Berichte, und es wurde kein signifikanter Unterschied zwischen den von Draft One erstellten Berichten und den originalen Audio-Transkripten festgestellt.

Darüber hinaus arbeitet Axon daran, KI-gesteuerte Videoanalysen zu entwickeln, ist sich jedoch der damit verbundenen Sensibilitäten bewusst. CEO Rick Smith äußerte sich zurückhaltend zu diesem Thema und betonte, dass man „gründliche Arbeit leisten“ müsse, bevor solche Technologien eingeführt werden.

Größere Herausforderungen in der Polizeiarbeit

Trotz des zunehmenden Einsatzes von Bodycams und der Entwicklung solcher Tools bleibt die Wirkung dieser Technologien auf die Polizeiarbeit unklar. Laut der Datenbank der Washington Post haben Polizisten seit 2020 jedes Jahr mehr Menschen getötet, obwohl Bodycams weit verbreitet sind. Das zeigt, dass Technologien alleine das Verhalten von Polizisten nicht verändern.

Was könnte schiefgehen?

1. Falsche Berichte und Missverständnisse: Trotz menschlicher Überprüfung besteht die Gefahr, dass fehlerhafte Berichte nicht korrigiert werden. Gerade in Fällen, in denen KI „halluziniert“ und falsche Informationen generiert, könnte dies schwerwiegende Konsequenzen haben.
2. Verschärfung von Vorurteilen: Da GPT-4 auf großen Datenmengen basiert, die von menschlichen Interaktionen und Texten stammen, gibt es das Risiko, dass bestehende gesellschaftliche Vorurteile unbewusst in die Berichte einfließen.
3. Verminderung der Sorgfalt bei der Polizeiarbeit: Die Automatisierung könnte Polizisten dazu verleiten, sich weniger Mühe bei der Berichterstellung zu geben, was die Qualität der Berichte mindern könnte.

Fazit Axon Draft One: KI als zweischneidiges Schwert

Der Einsatz von KI im Polizeiwesen bietet einerseits großes Potenzial zur Effizienzsteigerung. Andererseits bringt er erhebliche Risiken mit sich, die nicht ignoriert werden dürfen. Technologien wie Draft One könnten bei geringfügigen Vorfällen hilfreich sein, sollten jedoch mit Vorsicht verwendet werden, um sicherzustellen, dass sie bestehende Probleme wie Vorurteile oder Ungenauigkeiten nicht verschlimmern. Es bleibt abzuwarten, wie sich diese Tools in der Praxis bewähren und ob sie tatsächlich zu einer Verbesserung der Polizeiarbeit beitragen oder unerwartete Probleme verursachen.

Call-to-Action

Bleiben Sie informiert über die neuesten Entwicklungen im Bereich Künstliche Intelligenz und Technologie im Polizeiwesen. Abonnieren Sie unseren Newsletter, um keine Updates zu verpassen!

Quellen und Referenzen

• Associated Press (AP)
• Axon Technologies
• Science & Technology
• ZDNet