Benutzer:NetworkTobi/Algorithmic Decision Making
Algorithmic Decision making (das; zu Deutsch: „Algorithmische Entscheidungsfindung“), abgekürzt ADM, bezeichnet den durch Computer unterstützten Prozess Entscheidungen zu fällen. Häufig wird von ADM-Systemen gesprochen, welche das Zusammenspiel von ADMs und deren Auswirkungen, zum Beispiel auf die Gesellschaft, als Ganzes betrachten. ADM-Systeme nehmen inzwischen einen gewaltigen Einfluss auf unsere Gesellschaft. Deshalb gibt es inzwischen sowohl auf Deutscher, als auch auf Euroäischer Ebene Antriebe, sich verstärkt mit ethischen, rechtlichen uns sozialen Aspekten zu beschäftigen.
Allgemein
Algorithmische Entscheidungssysteme bekommen Informationen über Personen oder Objekte und deren Verhalten und benutzen eine klar definierte Handlungsanweisung (einen Algorithmus), um aus dieser Information eine einzige Zahl zu erzeugen. Diese Zahl ist die eigentliche Entscheidung. Dabei kann die Zahl beispielsweise einem Risikowert entsprechen und damit zwischen 0 und 1 liegen. Oder sie kann eine Zahl sein, die einer bestimmten Kategorie entspricht: So würde digital die Antwort auf die Frage, in welche der 39 Schadensfreiheitsklassen eine Autofahrerin eingruppiert wird, als eine Zahl zwischen 1 und 39 repräsentiert werden. Bei letzterer Form ist die Anzahl der möglichen Resultate von vornherein begrenzt – man spricht von einer Klassifikation. Wenn prinzipiell jeder Person eine andere Zahl zugewiesen bekommen kann, dann werden Personen nach ihrer Zahl geordnet und man spricht von einem Scoring. Ein Beispiel dafür wäre das Schufa-Scoring zur Bewertung der Kreditwürdigkeit einer Person.[1]
Expertensysteme
Die Entscheidungsregeln selbst können von Menschen beispielsweise in einem Entscheidungsbaum explizit festgelegt worden sein, Dann handelt es sich bei dem algorithmischen Entscheidungssystem um ein sogenannte Expertensystem. Daneben können aber die Entscheidungsregeln auch aus den Informationen über bisherige Nutzerinnen und Nutzer eines Dienstes und deren Verhalten abgeleitet werden; dann handelt es sich um Algorithmen des maschinellen Lernens, die die Entscheidungsregeln aus den Daten
abstrahieren. Ein klassisches Beispiel für ADM-Systeme, die ihre Entscheidungsregeln aus Daten lernen, ist die Gruppe der Produktempfehlungssysteme. Jeder digitale Marktplatz hat zahlreiche Informationen über seine Kunden: Dazu gehören die verwendeten Zahlungsarten, die Information, ob gezahlt wurde oder ob es jemals zu Unregelmäßigkeiten kam, und der Wohnort. Zudem konnte ihr Verhalten beobachtet werden: Welche Produktseiten sie wie oft und wie lange jeweils angesehen haben, ob das Produkt in und wieder aus dem Warenkorb genommen wurde, ob es gekauft und ob es wieder zurückgeschickt wurde. Mit diesen Daten können nun "ähnliche" Kunden bestimmt werden, also solche, die viele gleiche Produkte gekauft haben. Wenn nun Kundin A und Kundin B als ähnlich erkannt wurden, aber B einen Artikel (schon) gekauft hat, den A (noch) nicht hat, kann dieser Artikel Kundin A vorgeschlagen werden. Häufig benötigt das maschinelle Lernen eine sogenannte Grundwahrheit, um wirklich gute Entscheidungsregeln zu identifizieren. Im vorliegenden Beispiel wäre es beispielsweise hilfreich, wenn bekannt wäre, ob das empfohlene Produkt nachher auch gekauft wurde oder nicht. Dann kann basierend auf dieser Information gelernt werden, wann eine Person besonders gut auf Empfehlungen anspricht (vielleicht eher wochentags oder am Wochenende), bei welcher Produktkategorie es gut funktioniert, ob es besser ist, viele Empfehlungen oder wenige auszusprechen und so weiter und so fort. Bei dieser Art des Lernens wird mit Hilfe eines Algorithmus des maschinellen Lernens ein statistisches Modell gelernt, das für eine Kombination von Eigenschaften oder Verhalten eine Wahrscheinlichkeit für den Kauf eines Produktes berechnet. Dafür versucht der Algorithmus diejenigen Eigenschaften und Verhalten zu identifizieren, die für die vorliegenden Daten der Vergangenheit am stärksten mit dem Kaufverhalten (der Grundwahrheit) korrelieren. Die Annahmen hinter dem Einsatz solcher Methoden sind: Das vergangene Verhalten eines Kunden und/oder das Verhalten von ihm ähnlichen Kunden sagt auch sein zukünftiges Verhalten vorher.
Algorithmen des maschinellen Lernens
Wenn algorithmische Entscheidungssysteme ihre Entscheidungsregeln aus Daten gelernt haben, gilt es also zwei Algorithmen zu unterscheiden: Den Algorithmus des maschinellen Lernens, der die Entscheidungsregeln aus Daten der Vergangenheit ableitet, und der zweite Algorithmus, der mithilfe der abgeleiteten Regeln die eigentliche Entscheidung trifft. Den ersteren Algorithmus nennen wir im Folgenden auch das Lernverfahren – in den allermeisten Fällen ist es dieser Algorithmus, dessen ethische, rechtliche und soziale IMplikationen untersucht werden müssen. Der eigentliche Entscheidungsalgorithmus ist dagegen einfacher strukturiert.
Der Prozess, in dem ein algorithmisches Entscheidungssystem bzw. ADM-System geplant, entwickelt, trainiert und genutzt wird, ist gepflastert mit einer Vielzahl von Entscheidungen und Annahmen.
Ethische, rechtliche und soziale Implikationen
Durch den massiven Einfluss, den ADM-Systeme heute auf unsere Gesellschaft nehmen, ist es längst unerlässlich sich mit ethischen, rechtlichen und sozialen Implikationen auseinander zu setzen. Dabei gilt es letztendlich die jeweils geforderten Transparenzpflichten und Kontrollprozesse abzugleichen mit den entsprechenden Forderungen, die an menschliche Entscheider gestellt werden. Nicht zuletzt ist auch die Einbettung des algorithmischen Entscheidungssystems in den sozialen Prozess, für den es Entscheidungen trifft, wichtig. Daher bedarf es immer auch einer sozioinformatischen Gesamtanalyse.
Ein höherer Durchsatz führt dazu, dass die gleiche relative Fehlerhäufigkeit auch ein massiver Anstieg der absoluten Anzahl Fehler bedeutet.
Prominente Beispiele
Fabeook Newsfeed
Amazon automated hiring
Amazon Empfehlung für Material zum Bauen von Bomben[2]
Google Face recognition
Predictive Policing
Kreditscoring USA
- ↑ Sachverständigenrat für Verbraucherfragen: Verbrauchergerectes Scoring. Hrsg.: Sachverständigenrat für Verbraucherfragen. (svr-verbraucherfragen.de [PDF]).
- ↑ Anatomy of a Moral Panic (Idle Words). Abgerufen am 24. Juni 2019.
