Der tödliche Unfall in Leingarten (Kreis Heilbronn), bei dem eine Mutter von einem Zug erfasst wurde, bewegt nicht nur Herzen, sondern auch zweifelhafte Medienschaffende. Das zeigt das Beispiel von Daniela aus Leingarten. Sie war zwei Tage nach dem Unglück zur Unfallstelle gekommen, um Blumen abzulegen. In den sozialen Medien hatte sie gesehen, dass schon viele Sträuße abgelegt wurden. Doch als sie näher an die Unglücksstelle kommt, bemerkt sie - da sind ja fast keine Blumen!
Fassungslosigkeit und Diskussion um Sicherheit Mutter stirbt an Bahnübergang in Leingarten - trotz Warnsignalen: "Der Zug hat sehr, sehr lange gehupt"
Nach dem tödlichen Unfall an einem Bahnübergang in Leingarten geht die Polizei davon aus, dass die Frau wohl bei Rot die Gleise überquert hat. Der Übergang werde dennoch untersucht.
Augenzeugin gleicht KI-Bilder mit Realität ab
Überrascht und verwirrt schaut sie nochmal auf ihr Smartphone. Zahlreiche Posts zum Thema erscheinen und sie haben eines gemeinsam: Sie sind KI-generiert, also mithilfe von künstlicher Intelligenz (KI) erstellt. Jetzt bemerkt sie auch, dass die Kinderwagen nichts mit dem Wagen zu tun haben, den sie noch selbst am Samstag vor Ort gesehen hat. "Ich war ja hier, weil ich mein Auto wenden musste und dann habe ich den schwarzen Buggy gesehen", erzählt sie. Jetzt bemerkt sie auch, dass keine Schranken vor Ort sind - anders als auf den KI-Bildern. Als sie am Wochenende mehr Informationen zu dem Fall suchte, waren ihr viele dieser Bilder begegnet.
Diese KI-generierten Bilder zeigen: Da ist schon ein riesiges Meer an Blumen! Auf dem einen Bild ist ein Zwillingswagen - totaler Quatsch [...] Hier sind gar keine Schranken. Die Schranken sind einen Bahnhof weiter!
Warum gibt es die KI-generierten Bilder nach Unglücken?
An der Hochschule der Medien in Stuttgart sind die Bilder ein bekanntes Phänomen. Doch warum erstellen die Account-Inhaber diese Bilder? Stefan Rohrbach beschäftigt sich in seiner Forschung mit Social-Media-Marketing und vermutet wirtschaftliche Zwecke hinter den Posts.
Es wird genutzt, damit ein Account wächst und der kann dann später wirtschaftlich oder auch für kommunikative Ziele entsprechend genutzt werden.
Verdienen die Accounts mit den Unglücken Geld?
Nach den Richtlinien von Facebook können Darstellungen oder Diskussionen von Themen wie Tod Auswirkungen darauf haben, ob Nutzerinnen und Nutzer mit dem Beitrag Geld verdienen können. Ob mit dem Inhalt dennoch Geld verdient wurde, lässt sich laut Rohrbach nicht einsehen. Zudem könnte der Account mit vielen Followern für wirtschaftliche oder kommunikative Ziele genutzt werden.
Bei der Recherche fällt zum Beispiel der Account Eilmeldung DE auf. Dieser hat keine aktiven Werbeanzeigen geschaltet, aber er hat Videos gepostet, die finanzielle Freiheit versprechen. "Am 23. August endet dein Finanzstress für immer. Drück auf das Herz und das Plus, um diesen Monat Glück zu haben", spricht ein KI-Wahrsager in einem Video.
Der Account Eilmeldung Aktuell hat mehrere Posts zum Zugunglück verfasst und hat damit innerhalb eines Tages mehrere Hundert Reaktionen generiert. Er wird von einer Person betrieben, die auf einer Seite für Projektverkäufe Facebook-Seiten mit über 10.000 Followern sucht. Er selbst stellt sich als Digital Creator dar. Beide Facebookseiten weisen darauf hin, dass es sich um KI-Inhalte handelt.
Auf SWR-Anfrage erklärt Eilmeldung Aktuell, dass das verwendete Bild als KI-generiertes Symbolbild gekennzeichnet wurde. Die Seite nimmt nach eigenen Angaben bewusst diese Form der Darstellung, da sie echte Unfallbilder und Originalaufnahmen vermeiden möchten. Die Leserinnen und Lesern würden das Begrüßen, weil sie Symbolbilder als angemessener empfinden. Ein Symbolbild mit Hilfe von KI schaffe bewusst Abstand zum tatsächlichen Geschehen.
Nach Posts bleibt Verwirrung und Enttäuschung
Daniela haben die Postings bewegt - vor allem die Vielzahl an Kommentaren, die sich darunter gesammelt haben. Ihr tut es weh, dass die verstorbene Mutter in den Reaktionen so schnell verurteilt wurde, als unachtsam oder abgelenkt. Genau diese Reaktionen seien die Währung für Accounts, erklärt Stefan Rohrbach. Den Schaden vermutet er in der Glaubwürdigkeit der Medien allgemein. Denn auch seriöse Medien nutzen Symbolbilder, wenn Sie berichten, ohne direkt vor Ort sein zu können.
So können KI-generierte Posts erkannt werden
Rohrbach setzt seine Hoffnungen ein Stück weit auf den "EU AI Act" - ein neues Gesetz auf EU-Ebene, das Accounts verpflichten soll, beim ersten Kontakt die KI-Generierung offenzulegen. Doch in diesem Fall haben die Accounts das sogar direkt offengelegt. Klassische KI-Fehler wie Menschen mit sechs Fingern treten immer seltener auf, sagt Rohrbach. Deshalb bleibe es dabei, die Bilder kritisch auf Sinn-Fehler abzusuchen und zu schauen, ob sie auffällig emotional darstellen.
Immer wenn die Bilder so aussehen, als würden sie provokant Emotionen ansteuern, dann ist das ein Indiz dafür, dass es eher KI-generiert ist.
Zudem können Nutzerinnen und Nutzer die Seriosität der Accounts überprüfen. Bei "Digital Creator" statt einem bekannten Unternehmen, rät Rohrbach zur Vorsicht.
