In Sozialen Netzwerken etwa kursieren immer mehr Fotos, die unter Einsatz von Künstlicher Intelligenz (KI) gefälscht wurden - so genannte Deepfakes. Das stellt auch die Ermittlungsbehörden vor wachsende Herausforderungen. In Rheinland-Pfalz geht die Polizei bald mit einer selbst entwickelten KI-Anwendung gegen die Verbreitung digital manipulierter Bilder vor.
Bei der Vorstellung am Freitag sagte Innenminister Michael Ebling (SPD): "Mit dem Deepfake Detector haben wir ein modernes, leistungsfähiges Werkzeug, das digitale Ermittlungen effizienter und präziser macht."
Jeder kann von Deepfakes betroffen sein
Bei Deepfakes werden beispielsweise aus ganz normalen Fotos von Menschen Nacktbilder generiert. Oder Personen werden auf Fotos an Orten gezeigt, an denen sie sich nie aufgehalten haben. Verbreitet ist inzwischen auch, den Kopf einer Person in einer Bilddatei auf den Körper eines anderen Menschen zu montieren. Im Grunde kann jeder von Deepfakes betroffen sein, wenn es Aufnahmen in Bild oder auch Ton von ihm gibt.
Pilotprojekt startet im Polizeipräsidium Rheinpfalz
Projektleiter Jens Böhle sagte dem SWR, die KI-Anwendung erkenne unter anderem "an der Datei, am Datenformat, unter dem das Bild abgespeichert sei, und an der Anordnung der Pixel, ob ein Bild künstlich hergestellt ist".
Ab März wird der Deepfake Detector in einem Pilotprojekt im Polizeipräsidium Rheinpfalz in Ludwigshafen getestet - im Bereich Kinderpornografie. Wenn sie sich bewährt, soll die Anwendung landesweit von der Polizei eingesetzt werden.
Deepfake Detector wird in Mainz entwickelt
Entwickelt wurde und wird der Deepfake Detector in einer neuen Innovationswerkstatt der rheinland-pfälzischen Polizei in Mainz-Hechtsheim. Dort sollen auch künftig innovative digitale Anwendungen für die Polizei entstehen. "Moderne Polizeiarbeit heißt heute auch digitale Kompetenz. Wir investieren gezielt in Know-how, Technik und Strukturen, damit unsere Polizei auch im digitalen Raum handlungsfähig bleibt", sagte Ebling.
