Haltet die Maschine!

September 23rd, 2015

Seine Aufzählung davon, was Algorithmen alles machen, klänge “nach den Ideen eines paranoiden Verschwörungstheoretikers”, schreibt Enno Park in der Jungle World (“Unterm Zahlenkommando”), und auch wenn weder Pathologisierung noch Typisierung meine Art von Ideologiekritik sind, mag ich mal patzig fragen: Warum nur?

«Sie bestimmen, welche Bücher uns Amazon als Empfehlung anzeigt, schlagen uns auf Netflix Serien und Filme vor, berechnen die Route im Navi unserer Autos. Sie sagen uns, mit welcher Busverbindung wir pünktlich ans Ziel kommen, entscheiden darüber, wie schnell die nächste Ampel auf rot schaltet und ob wir einen Kredit gewährt bekommen. Sie errechnen unsere Schufa-Auskunft, entscheiden mit, ob unser nächster Vermieter uns in die innere Wahl nimmt und wie hoch unsere monatliche Rate für eine Versicherung ausfällt. Sie fordern uns auf, uns mehr zu bewegen, während sie global in Bruchteilen von Sekunden mit Aktien und Derivaten handeln. Auf unseren Smartphones zeigen sie uns eigens für uns ausgewählt das örtliche Wetter, Kinoprogramm und ein paar Nachrichten. Sie sortieren Spam aus unseren E-Mail-Eingängen, entscheiden darüber, was Facebook uns an Neuigkeiten anzeigt und sagen der Polizei, in welchen Gegenden sie vermehrt Streife fahren sollte.»

Den Algorithmen unterstellt er mit den von mir hervorgehobenen Verben und Wendungen lauter intentionales Handeln, so daß diese Intention nicht mehr vom Programmierer oder von dessen Auftraggeber oder Chef kommt.

Das zieht sich durch den ganzen Artikel – Auffassungen und Ideologie derer, die die Algorithmen beauftragen und erstellen, werden heruntergespielt oder ausgeblendet; es liegt alles an den Algorithmen. Ein Algorithmus “ging davon aus, dass eine Person mit Doktortitel männlich sein müsse”; bei einem anderen könnte es “durchaus sein, dass es beispielsweise nach Hautfarbe diskriminiert, ohne dass die Entwickler das beabsichtigt hätten.” Huch! Bei der Kreditvergabe kann es aber auch “gerechter zugehen, wenn Algorithmen bestimmte Entscheidungen fällen”. (Lies: Wenn diejenigen, die sie beauftragen, entwerfen und erstellen, ihre Entscheidungen erfolgreich als die des Algorithmus ausgeben können und ihre Kundschaft nebst Presse an den gerechten Kredit und den gerechten Tausch glaubt.)

Und bei Menschen gibt’s eben Neigungen: sie “tendieren” dazu, “einfach zu glauben, was ein Computer anzeigt” (im Unterschied etwa zum gesprochenen und gedruckten Wort, dem niemand glaubt) und auch dazu, “in Mustern und Phänomenen Bedeutungen zu sehen” – das sollten sie sich wirklich endlich mal abgewöhnen!

Sonst werden sie nämlich “mit zunehmender Automatisierung eingespart”. (Lies: Ein Unternehmen feuert sie aufgrund seiner Kalkulation und schiebt das erfolgreich auf die Automatisierung.)

Und so endet denn der Artikel auch mit dem eindringlichen Appell: “Ein Computer kann uns mit Leichtigkeit schachmatt setzen. Aber nur, wenn wir nach seinen Regeln spielen.” Ein von Menschen gebauter und programmierter Computer kann uns beim Menschenspiel Schach besiegen, wenn wir es nach seinen Regeln spielen? Hä?

Nein, anders: Nur wenn wir den Computer nicht nach seinen Regeln spielen lassen, können wir seine Diskriminierungen vermeiden und für gerechte Kreditvergabe sorgen!

Enno Park – du hast dem Kampf gegen Skynet einen Bärendienst erwiesen.

9 Responses to “Haltet die Maschine!”

  1. classless Says:

    Das mit dem Kampf gegen Skynet ist nicht nur ein Scherz – siehe dazu:

    Christian Heller, Post-Privacy und die Selbstauflösung der Menschheit

  2. mspro Says:

    Den Absatz scheinst du überlesen zu haben: “ein Programm fließt immer auch das Weltbild des Programmierers ein. Kann eine Datenbank nur speichern, ob eine Person weiblich oder männlich ist, oder kennt sie auch weitere Geschlechtszuschreibungen? Und wie lässt ein Programmierer seinen Algorithmus diese Geschlechtszuschreibungen bewerten?”

  3. classless Says:

    @ mspro

    Ich zitier mich mal von Twitter: “das Verhältnis solcher Stellen zu den anderen im Text ist etwa 1:10 – also entschied ich mich für Spott”

    Und (vorsichtshalber auch schon mal): “eine Intention nicht nachvollziehen zu können, heißt nicht, daß es keine gibt & auch nicht, daß der Algorithmus ‘entscheidet’”

  4. mspro Says:

    Finde ich nicht. Wenn man diese Erkenntnis einmal klar macht, gilt sie für den gesamten Text. Der Rest ist Wortklauberei.

  5. mspro Says:

    Aber gut, klauben wir (aus Spaß an der Freud): was macht dich glauben, dass an eine Entscheidung immer eine Intention gebunden sein muss?

  6. classless Says:

    “Wenn man diese Erkenntnis einmal klar macht, gilt sie für den gesamten Text.”

    Ja, das ist ja auch sonst so.

    “Der Rest ist Wortklauberei.”

    Na dann…

    “dass an eine Entscheidung immer eine Intention gebunden sein muss”

    Hab ich das geschrieben?

  7. mspro Says:

    Deine Kritik am Text: “Den Algorithmen unterstellt er mit den von mir hervorgehobenen Verben und Wendungen lauter intentionales Handeln,…” würde sonst keinen Sinn ergeben.

  8. classless Says:

    Ähm, doch – was ich seinen Unterstellungen/Suggestionen entnehme, muß sonst darüberhinaus gar nicht für jede andere Verwendung ähnlicher Wörter und Wendungen gelten, schon gar nicht immer.

  9. a Says:

    kulla ist dir langweilig?

Leave a Reply

2MWW4N64EB9P