Studierende an der Universität in Mainz erzählen, dass sie gerne auf die Hilfe von KI zurückgreifen, so auch Raul. Er ist für das Studium aus Peru nach Deutschland gekommen. Das Problem bestehe für ihn darin, dass weiße Menschen oft als "normale" Menschen gelten - ohne jegliche Art des Exotismus.
Menschen mit Migrationsgeschichte werden in KI-Systemen in bestimmten Mustern dargestellt: als Problem oder Risiko, als Opfer - als hilfsbedürftig, traumatisiert oder passiv, als das kulturell Andere, als fremd und erklärungsbedürftig, so Dana Mahr. Sie forscht am Karlsruher Institut für Technologie (KIT) zu Stereotypen in KI-Systemen.
KI verbreitet vorhandene Stereotype
Problematisch sei daran vor allem, dass KIs Stereotype als Normalfall erscheinen lassen können. KI schaffe keine neuen Stereotype. Neu sei die Vielzahl, in der sie verbreitet werden. Auf diese Weise würde die Handlungsmacht der Betroffenen geringer werden, zu bestimmen, wie sie wahrgenommen werden.
Dana Mahr betont, dass sich auf diese Weise ungleiche Vorstellungen darüber verfestigen könnten, wer zu unserer Gesellschaft gehört und wer nicht.
Menschen sind verunsichert durch KI
Sarah studiert in ihrer Heimatstadt Karlsruhe. Ihre Eltern sind vor rund 35 Jahren aus dem Libanon nach Deutschland gekommen. Die Vorstellung, dass KI mit und nach Stereotypen entscheiden könnte, wer welchen Job bekommt, macht sie wütend.
Weil man ja dann wieder auf das Äußere oder den Hintergrund reduziert, statt auf die Fähigkeiten - wie es eigentlich sein sollte.
Blindes Vertrauen in die Antworten der KI
Dass Menschen Empfehlungen der KI folgen würden, ohne sie zu hinterfragen, kann sich Sarah aber nicht vorstellen. Thomas Staehelin hingegen schon. Er erforscht KI-Entwicklung und unser Nutzerverhalten. Zudem arbeitet er als freier Referent für Digitalisierung, KI und Demokratie der Landeszentrale für politische Bildung Baden Württemberg.
Forschungsergebnisse zeigen, wie stark Menschen ihre Entscheidungen durch KI-Empfehlungen beeinflussen lassen. Zudem: "Wir handeln nicht nur wie die Maschine, sondern wir glauben auch noch wir bleiben fair und autonom", so Thomas Staehelin.
Thomas Staehelin unterstützt Unternehmen, Organisationen und Behörden dabei, KI in ihre Arbeit zu integrieren. Wesentlich sei auch für die private Nutzung, die KI nicht wie einen Taschenrechner zu betrachten.
Er empfiehlt stattdessen, Fehler zu erwarten und davon auszugehen, dass die Ergebnisse nicht eindeutig seien. Thomas Staehelin rät dazu, der KI mit einer gesunden Portion Skepsis zu begegnen.
