Ist dieses Zitat wirklich so gefallen? Hat dieses Bild wirklich ein Fotograf gemacht oder wurde es digital manipuliert? Wenn Falschinformationen im Netz verbreitet werden, ist das vor allem vor einer Wahl ein großes Problem. Bevor die Menschen in Rheinland-Pfalz am Sonntag den neuen Landtag wählen, startet ein Projekt, das ihnen dabei helfen soll, manipulierte Inhalte auf Social Media zu erkennen.
Hinter dem Projekt "Check First. Vote Smart" stecken das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) aus Kaiserslautern, seine Ausgründung Gretchen AI und die Landeszentrale für politische Bildung. Das Ziel: Nutzerinnen und Nutzer sollen nicht nur vor falschen Inhalten gewarnt werden, sondern sie selbst einfacher überprüfen können.
DFKI will falsche Informationen bekämpfen, bevor sie sich verfestigen
"Bei Wahlen geht es natürlich darum, dass man informiert wählt. Und Informationen beschafft man sich oft natürlich auch aus den Sozialen Medien. Und da ist natürlich auch die Wahrscheinlichkeit groß, dass man da Informationen findet, die vielleicht nicht ganz der Realität entsprechen. Und das genau aufzudecken, bevor diese falschen Informationen verfangen, hat uns bewegt, dieses Projekt zu starten", so Projektleiter Tobias Wirth vom DFKI.
Das Projekt setzt genau dort an, wo viele politische Inhalte heute gesehen und weiterverbreitet werden: auf dem Smartphone im sozialen Netzwerk Instagram - und das oft quasi nebenbei, während man schnell mit den Fingern durch den eigenen Feed wischt. Das kann schnell problematisch werden. Denn mit frei verfügbaren Programmen lassen sich mit Hilfe von künstlicher Intelligenz mit wenigen Klicks täuschend echte Fälschungen erstellen. Einem Politiker können so Worte in den Mund gelegt werden, die er nie gesagt hat. Ein Bild kann glaubwürdig wirken, obwohl es verändert wurde. Oder ein echter Beitrag wird aus dem Zusammenhang gerissen und bekommt dadurch eine ganz andere Wirkung.
Verdächtige Inhalte werden von der KI direkt bei Instagram geprüft
Genau hier will das Projekt helfen. Der Gedanke dahinter ist einfach: Menschen sollen verdächtige Inhalte mit wenig Aufwand prüfen können - und das nicht mit einer zusätzlichen Software oder App, sondern direkt in der gewohnten Umgebung von Instagram. Für die Nutzer heißt das: Wer ein verdächtiges Bild sieht, kann es über die Teilen-Funktion per Nachricht an einen speziellen Prüf-Account weiterleiten. Danach analysiert das System automatisch im Hintergrund, ob das Material möglicherweise künstlich erstellt oder verändert wurde. Anschließend gibt es eine Einschätzung dazu, wie wahrscheinlich eine Manipulation ist und welche Hinweise dafür sprechen. Zu Beginn funktioniert das erstmal nur mit Fotos, später sollen auch Videos und Tonspuren geprüft werden können.
Warum das Projekt zunächst bei Instagram startet, hat vor allem praktische Gründe. Nach Angaben von Projektleiter Tobias Wirth ist die Plattform weit verbreitet und für die Testphase ein sinnvoller Ausgangspunkt. Andere Netzwerke wie TikTok seien zwar ebenfalls wichtig, aber zum Start könne man nicht für alle Apps gleichzeitig eine Lösung anbieten.
User sollen lernen, woran sie Deepfakes erkennen können
Das Projekt will manipulierte Inhalte nicht nur technisch erkennen, sondern auch verständlich machen. Genau das ist für den Alltag entscheidend. Denn vielen Menschen hilft eine reine Warnung wenig, wenn sie nicht nachvollziehen können, warum ein Inhalt verdächtig ist. Deshalb soll die Einschätzung nicht nur lauten "echt" oder "fake", sondern Hinweise liefern, woran die Prüfung Zweifel festmacht. So sollen nicht nur Fälschungen enttarnt, sondern auch die Menschen sensibilisiert werden. Wer weiß, wie Manipulation funktioniert und im Zweifel selbst prüfen kann, ist weniger anfällig für gezielte Täuschung.
Im Hintergrund läuft dafür eine Kombination aus mehreren Prüfungen. Vereinfacht gesagt schaut das System nicht nur auf das Bild oder den Ton selbst. Es prüft auch, ob Inhalte, Orte, Personen oder Aussagen zum bekannten Zusammenhang passen. Wenn also ein Bild echt aussieht, aber der angebliche Ort, die gezeigte Situation oder der zeitliche Ablauf nicht stimmen, kann das ein Warnsignal sein. Unterstützt wird dieser Ansatz auch durch Faktenchecks, also durch den Abgleich mit bereits geprüften Informationen.
Künstliche Intelligenz ist nicht fehlerfrei
Trotzdem betont Projektleiter Tobias Wirth, dass die Technik keine absolute Sicherheit liefern kann. "Die KI ist wie der Mensch. Auch die KI macht Fehler", so Wirth. Die Künstliche Intelligenz liefere immer Antworten mit einer Wahrscheinlichkeitsaussage. "Es ist entweder richtig oder falsch mit einer gewissen Wahrscheinlichkeit." Genau deshalb, so beschreibt er es, gehöre zur KI immer auch der Mensch dazu, "der auch Ergebnisse mit überprüft, wenn die KI sich zum Beispiel unsicher ist".
Zum Start läuft das Projekt zunächst als Testphase in Rheinland-Pfalz. Bis zu 10.000 Wählerinnen und Wähler sollen mitmachen können. Die Forschenden wollen dabei auch herausfinden, welche Arten von Fälschungen Menschen besonders überzeugen, wie hilfreich solche Prüfungen im Alltag wirklich sind und wie stark Nutzerinnen und Nutzer den Ergebnissen vertrauen. Auch das gehört zur Medienkompetenz: nicht alles sofort zu glauben, aber auch technische Hilfen nicht blind als unfehlbar zu betrachten.
Trotz aller Probleme: KI bietet viele Vorteile
"KI ist ein Werkzeug. Man darf sich natürlich nicht nur auf die KI verlassen, dass die jetzt die Wahrheit findet", so Wirth. Gleichzeitig macht er aber auch klar, dass es nicht darum geht, KI nur als Gefahr zu sehen. "Das sind immer beide Seiten einer Münze, die man da betrachten muss." KI könne zum einen zwar auch genutzt werden, um Lügen zu verbreiten. Zum anderen sei sie aber auch in der Lage, beispielsweise große Datenmengen so schnell zu bearbeiten, wie es keinem Menschen möglich wäre. "Da ist natürlich die KI sehr prädestiniert für, eben gewisse Aktivitäten in einer unterstützenden Funktion zu begleiten. Aber nicht in der Hinsicht, dass es Menschen oder Arbeit überflüssig machen soll. Das ist nie Aufgabe der KI und auch nicht, wie wir KI entwickeln."
