Zusammenfassung von Ein Algorithmus hat kein Taktgefühl

Im vorigen Blink hast du schon einige Arten von Algorithmen kennengelernt. Grundsätzlich lassen sie sich in zwei Kategorien einteilen: klassisch und selbstlernend.

Klassische Algorithmen funktionieren nach den Vorgaben eines Programmierers. Du kannst sie dir als eine Art Bauanleitung oder Fahrplan vorstellen. Ein klassischer Algorithmus löst dabei immer ein mathematisches Problem. Ein solches kann beispielsweise darin bestehen, den kürzesten Weg von A nach B zu finden oder etwas nach verschiedenen Aspekten zu sortieren. 

Nicht alle Probleme lassen sich mit einem klassischen Algorithmus lösen. Klassische Algorithmen leisten das, was Menschen vorher programmiert haben – nicht mehr und nicht weniger. Die Vorhersage menschlichen Verhaltens wurde erst durch selbstlernende Algorithmen denkbar.

Ein besonders weit verbreiteter selbstlernender Algorithmus ist der Empfehlungsalgorithmus. Ob Netflix, Amazon oder Zalando: Wenn dir online jemand etwas andrehen will, benutzt er sicher einen solchen Algorithmus. Um Empfehlungsalgorithmen zu verstehen, musst du dir klarmachen, dass sie eigentlich nur durch Herumprobieren zu ihren Ergebnissen kommen.

Hast du in letzter Zeit einen Zoo besucht und warst dir vor dem Gehege stehend unsicher, was du da gerade eigentlich siehst? Hast du dich auf dem Weg zur Informationstafel gefragt, ob du da gerade einen Seelöwen, einen Seebär oder einen Seehund vor dir hast? Schwierig wird es immer dann, wenn Experten – in diesem Fall Tierforscher – einer Sache viele kleine Unterkategorien mit spezifischen Namen zuordnen. Im Alltag braucht man solche Unterscheidungen nämlich nur selten. Wenn du Angst vor einer am Fußboden herumkriechenden Spinne bekommst, wird es dir schließlich egal sein, ob es sich um eine Feld-, Mauer- oder Waldwinkelspinne handelt.

Die Beispiele zeigen: Es ist gar nicht so leicht, alle Dinge, die wir sehen, der exakt richtigen Kategorie zuzuordnen. Genau darin sind selbstlernende Algorithmen aber besonders gut. Und sie werden immer besser. Zwischen 2010 und 2017 sank die Fehlerrate in der Bilderkennung durch selbstlernende Algorithmen von achtundzwanzig auf zwei Prozent. Menschen sind da weit weniger sicher, sie ordnen durchschnittlich fünf Prozent der Bilder falsch zu.

Sichere Fahrten mit autonomen Fahrzeugen, eine exzellente Krebserkennungsrate: selbstlernende Algorithmen können uns in vielen Bereichen sehr helfen.

Aber es gibt auch Anwendungsbereiche, in denen selbstlernende Algorithmen Probleme bereiten – etwa, weil sie diskriminieren oder vorhandene Diskriminierungen noch weiter verstärken. Ein gutes Beispiel dafür ist die Software COMPAS. Sie wird in den USA von Gerichten eingesetzt und soll bewerten, mit welcher Wahrscheinlichkeit Straftäter rückfällig werden. Der Algorithmus vergibt dafür einen Risikoscore – ähnlich wie bei den bereits erwähnten Krebsbildern. 

Hast du dir beim Lesen des vorigen Blinks vorgestellt, wie sich die falsche Zuordnung durch eine KI anfühlen würde? Möglicherweise hast du dich auch über eine gewisse Arroganz geärgert, mit der unausgereifte Algorithmen über deine Kreditwürdigkeit oder deine Qualifizierung entscheiden, als seien sie Götter, die stets objektiv richtige Entscheidungen fällen könnten. 

Vor allen Dingen ist es grob fahrlässig, die Erfolge von Algorithmen im kommerziellen Bereich einfach so auf andere Problemfelder wie das Handeln von Menschen zu übertragen. Keine KI der Welt ist nämlich imstande, absolut gültige Regeln für menschliches Verhalten zu finden, geschweige denn, es zweifelsfrei vorherzusagen. 

Es bleibt somit nur noch eine große Frage: Was können wir tun, um Missbrauch durch Algorithmen zu verhindern? Die Antwort darauf scheint relativ klar: Es sollte in unserer Hand liegen, zu steuern, wo Algorithmen sinnvoll sind – und wo nicht. Wir brauchen feste Regeln, die uns als Bürger vor diskriminierenden KI-Systemen schützen.

Eine staatliche Regulierung ist vor allem da vonnöten, wo selbstlernende Algorithmen über Menschen richten. Sobald ein Algorithmus über unseren Zugang zu wichtigen gesellschaftlichen oder ökonomischen Ressourcen entscheidet, über Kredite und Einladungen zu Bewerbungsgesprächen, müssen wir uns einmischen. Hierzu fehlen bisher jedoch noch unabhängige Prüfinstitutionen. 

Die Kernaussage dieser Blinks ist:

Zwar sind selbstlernende Algorithmen in einigen Bereichen besser als Menschen, wie beispielsweise in der Bilderkennung. Doch sie sind nicht für alle Fälle gleich gut geeignet. Wir müssen aufpassen, dass sie nicht dort über uns richten, wo wir es gar nicht wollen. Gefährlich wird es, wenn wir wegen eines Algorithmus nicht eingestellt werden oder kein Bankkonto eröffnen können: Diskriminierung ist eines der größten Probleme in der Anwendung von selbstlernenden Algorithmen. Um sie zu verhindern, müssen wir klare Regeln aufstellen, wo welche KI eingesetzt werden darf. Nur so können wir zukünftig die Kontrolle über künstliche Intelligenz behalten.