"Ein Algorithmus hat kein Taktgefühl" von Katharina Zweig
Rezension

Warum künstliche Intelligenz uns alle betrifft: „Ein Algorithmus hat kein Taktgefühl“ von Katharina Zweig

Egal ob Navigationssysteme, Kaufempfehlungen oder Bewerbungsprozesse: Algorithmen sind längst Teil unseres Alltags geworden, auch wenn wir dies oft nicht einmal merken. Die IT-Expertin für Sozialinformatik Katharina Zweig erklärt in ihrem Buch die Unterschiede zwischen Algorithmus und künstlicher Intelligenz. Und sie plädiert dafür, dass gesellschaftlich mehr über den Einsatz von beiden diskutiert wird. Denn wenn wir verstehen, wie Algorithmen funktionieren, können wir auch gemeinsam darüber diskutieren, ob sie ihren Zweck erfüllen und wann sie wo eingesetzt werden sollten.

Algorithmen im Alltag – Zwei Beispiele

Wer glaubt, dass Algorithmen keinen Einfluss auf den Alltag haben, den belehrt Katharina Zweig sehr schnell eines Besseren. Denn von vielen unbemerkt sind Algorithmen in vielen Bereichen unseres Lebens aktiv. Zum Beispiel bei der Deutschen Bahn. Sucht man über die Website der deutschen Bahn nach einer Verbindung erhält man in Abhängigkeit zum aktuellen Interesse einen variablen Fahrpreis. Wie hoch dieser an verschiedenen Tagen zu verschiedenen Uhrzeiten ausfällt, das bestimmt ein Algorithmus. Denn die Menge an Daten, die für eine individuelle Berechnung des Preises notwendig ist, ist längst zu groß geworden um sie menschlich zu analysieren und auf ihrer Grundlage Entscheidungen zu treffen. Der Algorithmus selbst ist dabei eigentlich ziemlich simpel und damit auch ohne viele Vorkenntnisse nachvollziehbar.

Deutlich komplexer wird es, wenn wir einen durch Algorithmen gesteuerten Bewerbungsprozess betrachten. Auch hier werden im Hintergrund jede Menge Daten durch den Algorithmus analysiert. Mit dem Unterschied, dass die Daten, die als Vergleich herangezogen werden natürlich durch menschliche Personaler entstanden sind. Will heißen: Wenn Personaler zuvor überwiegend weiße, männliche Bewerber zum Vorstellungsgespräch eingeladen hatten  und diese anschließend einen Job erhielten, dann wird der Algorithmus eine solche Entwicklung noch zusätzlich verstärken. Denn warum Schwarze oder Frauen einladen, wenn diese den Job am Ende wahrscheinlicher nicht erhalten werden?

Das Märchen von der Objektivität

Wie schön wäre es, wenn Daten und vor allem deren Auswertung objektiv wären? Leider ist das mitnichten so. Wie

Caroline Criado-Perez in ihrem Buch Unsichtbare Frauen bereits gezeigt hat, sind Daten stets nur so vollständig, wie sie erhoben wurden (hier geht’s zu meiner Rezension von Unsichtbare Frauen). Und Algorithmen, so zeigt Zweig, können nur so gut arbeiten, wie sie programmiert werden. Um aber zu verstehen und vor allem infragestellen zu können, wie Algorithmen arbeiten, braucht man ein gewisses Grundverständnis. Das liefert Zweig, zusammen mit jeder Menge Vokabular und Hintergrundwissen über maschinelles Lernen, künstliche Intelligenz und den nicht zu unterschätzenden Faktor Mensch, der hinter allem steckt. Zugleich plädiert sie für eine breitere gesellschaftliche Debatte über den Einsatz von Algorithmen und vor allem deren ethischer Verwendung.

Aufgrund des Themas schadet es sicherlich nicht, wenn man eine gewisse Affinität zu Informatik mitbringt. Vorwissen ist aber nicht notwendig, denn getreu ihrem eigenen Anspruch, dass man zunächst Hintergrundwissen benötigt, um anschließend in die Diskussion eintreten zu können, erklärt Zweig sehr anschaulich und eindeutig an ein Nicht-Informatiker-Publikum gerichtet mit vielen alltagsnahen Beispielen. Nichtsdestotrotz muss man beim Lesen des Buches sehr wach sein, denn Fachbegriffe und Zusammenhänge sind durchaus komplex und eng miteinander verzahnt. Hat man sich aber durch die erklärenden Theorie-Kapitel am Anfang durchgebissen, kann man nicht nur einiges an Wissen, sondern auch spannende Impulse zur Thematik mitnehmen. Und das Verständnis wird mit jeder gelesenen Seite einfacher, vor allem, weil Zweig immer wieder auf vorhergehendes Wissen aufbaut.

Fazit: Sehr anschaulich und mit vielen alltagsnahen Beispielen erklärt Zweig Algorithmen, maschinelles Lernen und künstliche Intelligenz. Sie liefert Hintergrundwissen zu Funktion und Verwendung von Algorithmen und regt zugleich eine gesellschaftliche Debatte über den ethischen und verantwortungsbewussten Einsatz von Algorithmen an. Vorwissen ist nicht notwendig, aber ein wenig Durchhaltewillen angesichts des komplexen Themas.


[Werbung]

Ein Algorithmus hat kein Taktgefühl. Wo künstliche Intelligenz sich irrt, warum uns das betrifft und was wir dagegen tun können von Katharina Zweig
320 Seiten
Paperpack
Erschienen im Oktober 2019
Heyne

4 Kommentare

  • Konstantin

    Vielen Dank für deine Besprechung dieser absoluten Neuerscheinung 😉 Wenngleich HEYNE und SPIEGEL nicht unbedingt einladend auf mich wirken, reizt mich eine leichtgängige Einführung ins Thema. Ich erinnere mich an einen Vortrag zu Algorithmen auf der re:publica 2013 – hier ein Artikel auf ZEIT dazu: https://www.zeit.de/digital/internet/2013-05/republica-code-literacy-algorithmen-ethik – den ich schon gut und spannend fand, ganz offensichtlich auch nachhaltig. Wenn man nun bedenkt, wie lange das schon wieder her ist, wie wenig gefühlt seither geschehen ist, ist das auch schon wieder beängstigend. Ich meine, es ist für viele Menschen, selbst wenn das Interesse vorhanden ist, schwierig außerhalb der eigenen Profession die Zeit zu finden, sich selbst zu bilden. Man stelle sich vor wir würden nur 5h am Tag arbeiten und zwei Stunden für Lesen & Bildung hinzugewinnen. Das bringt mich zur Frage, hast du Rutger Bregman gelesen? Positiv ist, dass das Buch in der VOEBB als E-Book zur Verfügung steht, d.h. ich habe es mir mal auf die Merklite gesetzt, denn, als Sachbuch möchte ich es natürlich digital lesen. Sobald ich die Zeit gefunden habe, komme ich vielleicht mit einem Kommentar dazu wieder. Bis dahin, alles Gute nach Leipzig!

    • Jennifer

      Hallo Konstantin,

      ja, ich habe das Buch auch eher wegen dem Thema gelesen und weniger weil es ein Spiegel-Bestseller war 😀
      Die Vorstellung nur 5 Stunden täglich zu arbeiten und mehr Zeit für eine persönliche Entwicklung zu haben finde ich sehr reizvoll, allerdings fürchte ich, dass die Gesellschaft wohl noch einige Jahrzehnte nicht so weit sein wird. Gerade scheint der Trend ja eher wieder in die andere Richtung zu gehen, schließlich ist es ein „Privileg“, wenn man für das coole Startup ohne Betriebsrat Überstunden schuften darf.

      Tatsächlich habe ich bisher nur „Im Grunde gut“ von Bregman gelesen. „Utopien für Realisten“ steht in meiner Lesegruppe zwar auf der Wunschliste, aber bisher sind wir nicht dazu gekommen und ich möchte nicht vorgreifen und das Buch alleine lesen. Ich gehe aber davon aus, dass deine Frage eher auf das zweitere Buch abzielt.

      Herzliche Grüße aus Leipzig
      Jennifer

  • Konstantin

    Lieben Dank für die Antwort auf meinen Kommentar. Du hast es also nicht egen der Aufkleber sondern trotz dieser gelesen. Löblich 🙂 Das ist wohl bedauerlicherweise richtig, dass es nur wenigen möglich ist, viel Zeit in die eigene Bildung, Fortbildung und das Denken zu stecken und das ist eigentlich sehr schade. Ich weiß nicht, ob das mehr arbeiten nun wirklich ein Trend ist – vermutllich muss Mensch da dezidiert schauen, die Debatte geht ja zumindest subjektiv doch eher um weniger, die Praxis in einigen Bereichen agiert dann gespiegelt. So viel Gutes bringt die deutsche Start-Up-Szene dann aber auch nicht hervor, oder?

    Bei mir war es tatsächlich zuerst ‹Utopien für Realisten› das übrigens eigentlich eine Artikelsammlung seiner Publikationen auf der Plattform ‹De Correspondent› ist. [https://decorrespondent.nl/] Der Originaltitel ins Deutsche übersetzt war ‹Kostenloses Geld für alle – und fünf weitere großartige Ideen, die die Welt verändern könnten› und erst der britische Verlag hat dann den auch im Deutschen bekannten Titel ersonnen. Wenn du ‹Im Grunde Gut› spannend fandst, dann magst du den Vorgänger sicher auch. Ich fand ihn grandios und habe 2020 insgesamt 20 Ausgaben via Twitter verschenkt [https://twitter.com/koysino/status/1224726504506085376?s=21] um eine Debatte zu führen, hat leider so gar nicht geklappt, was ich sehr schade fand.

    Darf ich fragen, wie ihr euch in der Lesegruppe organisiert? Ich habe, wie ich feststellte for 10 Jahren, eine in Berlin ins Leben gerufen, mit etwas gewechselter Besetzung auch bis heute aktiv, ich bin allerdings aufgrund eines Umzugs nur noch als Gast gerade wieder dabei via ZOOM. Wir haben im März die Auswahl für die kommenden Monate gemacht… ja, ich wäre auf jeden Fall gespannt mehr von dir zu erfahren. Wie lang gibt’s eure Gruppe schon und wieviele seid ihr? Liebe Grüße aus Amsterdam.

    • Jennifer

      Hallo Konstantin,

      ich versuche eigentlich immer zu antworten, auch wenn ich manchmal zwei Wochen brauche, weil ich nicht so oft Zeit für den Blog habe, wie ich gerne hätte 🙂

      Ich habe den Lesekreis von über einem Jahr gegründet, allerdings sind wir eher demokratisch in der Auswahl unserer Bücher 🙂 Ursprünglich waren wir eine größere Gruppe und haben uns darum auch über Teams getroffen. Inzwischen sind noch fünf Leute (inklusive mir) übrig und wir treffen uns wöchentlich über Skype, da wir uns inzwischen auch alle gut persönlich kennen. Tatsächlich erinnert mich deine Frage daran, dass ich eigentlich schon länger mal über meinen Lesekreis einen Beitrag schreiben wollte, aber auch zum Schreiben komme ich leider nicht so oft wie ich gerne würde.

      Besteht euer Lesekreis denn aus einer festen Runde oder wechselt es bei euch eher je nach Thema? Und klappt das mit ZOOM wirklich? Ich kenn die Plattform nur von einigen Veranstaltungen und hab da immer das Gefühl, dass es sehr unpersönlich ist und oft technische Probleme gibt.

      Viele Grüße aus Leipzig
      Jennifer

Eine Antwort schreiben

Deine E-Mail-Adresse wird nicht veröffentlicht.