Weiß die KI, dass sie nichts weiß?

Warum wir ChatGPT und Co. nicht unsere Kreditkarten überlassen sollten - SPIEGEL-Bestseller

Schon bald sollen wir alle lästigen Aufgaben von intelligenten Chatbots wie ChatGPT und Co. in Form von KI-Agentensystemen erledigen lassen können. Doch wie genau funktionieren die Sprachmodelle: Haben sie intellektuelle Fähigkeiten, die denen von uns Menschen ähneln oder sie gar übersteigen? Katharina Zweig, vielfach ausgezeichnete Informatikprofessorin und Deutschlands führende KI-Erklärerin, zeigt, was ChatGPT und Co. wirklich können und was nicht. Denn Sprachmodelle können weder im menschlichen Sinne zusammenfassen, vergleichen, analysieren noch bewerten, auch wenn es oft so aussieht. Katharina Zweig zeigt, wie wichtig es ist, menschliche und maschinelle Leistungen nicht zu verwechseln und warnt eindrücklich vor spektakulären, vielleicht sogar fatalen Misserfolgen beim Einsatz von KI-Agentensystemen, die auf Sprachmodellen basieren.
“Wer die KI-Revolution verstehen will, muss Katharina Zweig lesen.” Sebastian Matthes, Chefredakteur Handelsblatt

“Katharina Zweig gehört zu den profiliertesten Wissenschaftlerinnen Deutschlands im Bereich künstliche Intelligenz.” DER SPIEGEL

“Die Informatikerin Katharina Zweig sagt: Es liegt in unserer Hand, zu steuern, wo Algorithmen sinnvoll sind – und wo nicht. Denn auch Maschinen machen Fehler.” SÜDDEUTSCHE ZEITUNG