Es wird viel über die Einsatzmöglichkeiten von KI gesprochen und darüber, dass ihr Einsatz weit über die Kreativbranche hinausgeht. Schließlich kann diese Technologie auch in der Industrie, der Analytik und im Gesundheitswesen eingesetzt werden. Doch dabei muss es noch nicht bleiben und fast jeder Beruf kann künstliche Intelligenz nutzen. 

Man muss jedoch bedenken, dass es sich immer noch manchmal um ein äußerst unzuverlässiges und unsicheres Tool handelt. Daher lohnt es sich immer, alle Ergebnisse zu berücksichtigen, die uns Tools auf Basis künstlicher Intelligenz bieten. 

Das haben amerikanische Strafverfolgungsbehörden sehr deutlich herausgefunden. Die neueste Analyse der Washington Post bestätigt, dass es zu einem echten Drama kommen kann, wenn wir Ungenauigkeiten der KI und menschliche Nachlässigkeit kombinieren. 

Fehler der künstlichen Intelligenz führten zu unrechtmäßigen Festnahmen 

Die Washington Post hat beschlossen, die Daten von Polizeiberichten, Akten und Konten von Polizisten, Anwälten und Staatsanwälten zu analysieren, um die potenzielle Beteiligung und Wirksamkeit von KI in diesen Berufen zu überprüfen. Es stellt sich heraus, dass dies kein seltenes Phänomen ist, es wird jedoch in der Öffentlichkeit nur sehr selten erwähnt. Warum? Der Grund ist prosaisch: Nicht jeder freut sich darüber, dass Strafverfolgungsbehörden solche Technologien einsetzen. 

Es zeigt sich jedoch, dass der Einsatz von KI in diesen Fällen ein erhebliches Risiko birgt. Es kam zu unrechtmäßigen Verhaftungen, und das geschah, als… Die Beamten verließen sich ausschließlich auf die Ergebnisse von Gesichtserkennungssystemen und ließen wichtige Elemente der Untersuchung aus. Daher wurden DNA-Spuren, Fingerabdrücke oft nicht genommen und das Alibi nicht einmal überprüft (!). 

Die Situation ist so bizarr, dass es sogar Fälle gab, in denen offensichtliche Beweise für die Unschuld des Verdächtigen ignoriert wurden. Ein Beispiel ist eine Situation, in der Beamte einen Mann festnahmen, der der Scheckfälschung verdächtigt wurde, obwohl seine Bankkonten nicht analysiert wurden. Das sind gewaltige Versäumnisse, die grundsätzlich inakzeptabel sind. Ein weiteres Beispiel ist der Fall einer schwangeren Frau, die wegen Autodiebstahls verhaftet wurde, und interessanterweise wiesen die Zeugen eindeutig auf eine Person hin, die nicht schwanger war. 

Doch was passierte in solchen Fällen? Es stellt sich heraus, dass dies auf eine eingeschränkte Gesichtserkennungstechnologie unter anderen Bedingungen als im Labor zurückzuführen ist. Ironischerweise ist an diesen Pannen auch etwas beteiligt, was man den „menschlichen Faktor“ nennen könnte. Das sind Situationen, in denen man automatisch zu sehr auf die Fähigkeiten der KI vertraut und andere, noch rationalere Prämissen außer Acht lässt. 

Man kann nie vorsichtig genug sein

Die beschriebenen Situationen zeigen am deutlichsten, dass selbst die am weitesten entwickelten KI-Modelle unzuverlässig sein können und die Folgen sehr schwerwiegend sind. Gleichzeitig ist es für viele Befürchtungen ein Signal, dass es noch ein langer Weg ist, bis sie durch künstliche Intelligenz ersetzt werden. 

Dennoch kann man nicht darüber hinwegsehen, dass die Sicherheitsdienste zwar solche Lösungen nutzen, sich aber nicht öffentlich damit rühmen. Solange es einem guten Zweck dient, ist es wahrscheinlich kein Problem. Noch schlimmer ist es, wenn es um eklatante Fehler und Missbräuche geht. Wir können also nur hoffen, dass es möglichst wenige davon geben werden.