SWR1: Ist da auch Aufregung dabei, vor dem Bundespräsidenten zu steht?
Zweig: Nein, das tatsächlich nicht. Ich kenne ihn schon. Ich war für ein Expertengespräch schon einmal im Schloss Bellevue eingeladen. Das ist nichts Neues für mich.
Professorin Katharina Zweig dankbar für Bundesverdienstkreuz
SWR1: Das Bundesverdienstkreuz am Bande, das klingt ganz schön wichtig, oder?
Zweig: Ja, vor allen Dingen ist das eine tolle Auszeichnung, die zeigt, dass die viele Zeit, die ich in den letzten Jahren dafür hergegeben habe, zu erklären, was Algorithmen sind, was man darüber wissen muss, um sie gut einsetzen zu können, gewürdigt wird.
SWR1: Informatik und KI, da sind Ihre Themen. Ihr aktuelles Buch heißt "Weiß die KI, dass sie nichts weiß?" Wie ist denn Ihre kürzeste Antwort auf diese Frage?
Zweig: Weiß sie nicht!
SWR1: Weiß sie nicht, weil es ihr noch keiner beigebracht hat?
Zweig: Die Maschine würde ihnen eine Antwort geben. Vielleicht ein Ja, vielleicht ein Nein. Aber sie drechselt eben nur Texte zusammen, die sich menschlich anhören. Dahinter ist aber kein Bewusstsein, keine Intelligenz.
SWR1: Das heißt, wenn man der KI eingeben würde "Du weißt eigentlich nichts", würde sie auch genauso antworten?
Zweig: Genau.
SWR1: Halten Sie es für schwierig, dass KI nur von Menschen "gefüttert" wird? Sowas kann ja auch missbraucht werden.
Zweig: Man braucht sehr viele Texte, um eine solche Maschine zu trainieren. Das heißt, so einfach ist das Manipulieren nicht. Aber man kann […] einen Text mitgeben, einen sogenannten "Systemprompt", und der kann beliebig manipulierend sein.
Zweig: Vertrauen zu sprechender KI in der Evolution begründet
SWR1: Sie sagen, Menschen nehmen KI-Systeme, die mit uns sprechen, als besonders clever oder vertrauenswürdig wahr. Warum sind wir da anfällig?
Zweig: Das liegt in unserer Evolution. Wir haben es bisher nur mit anderen Menschen zu tun gehabt, die mit uns sprechen. Da haben wir ein Konzept im Kopf entwickelt. Das nennt sich "Theory Of Mind".
Das heißt, wir versuchen ständig zu interpretieren, was will der andere jetzt gerade von mir und was könnte das bedeuten? Das übertragen wir auf die Maschine. Deswegen klingt die für uns ganz schön menschlich.
Zweig: KI hat Halluzinationen
SWR1: Sie sagen auch, man kann ganz einfach testen, wie schlau eine KI wirklich ist und wie viel sie weiß. Wie macht man das als Laie im Alltag?
Zweig: Ich würde die Maschine gar nicht erst etwas fragen, ob sie mir irgendwas sagen kann, was sie weiß. Denn das kann sie einfach nicht zuverlässig genug.
Ich würde sie für andere Dinge benutzen. Zum Beispiel für Übersetzungen. Da finde ich sie sehr gut geeignet. Oder als Sparringpartner, wenn man einfach mal jemanden braucht, der assoziativ auf das antwortet, was man selber sagt.
SWR1: Wie kann man eine KI testen, ob sie wirklich klug ist?
Zweig: Das hat wahrscheinlich jeder, der Chat-GPT und seine Kollegen schon mal benutzt hat, gemerkt. Da steht plötzlich etwas, was wirklich nachweisbar falsch ist. Das nennt man "Halluzination" und das merkt man eigentlich recht schnell, wenn man sich langfristig damit beschäftigt.
SWR1: Das heißt, die KI reimt sich was zusammen, wenn sie nicht weiter weiß?
Zweig: Die reimt sich eigentlich immer was zusammen, denn das ist ihr Zweck. Während des Trainings wird sie darauf trainiert, immer ein Wort aneinander zu häkeln. […] Dieses sich etwas zurechtlegen, das ist genau das, was die Maschine tun soll. Da steckt kein echtes Wissen dahinter.
Das Gespräch führte Michael Lueg.
