Zeitschriftenartikel
Wertbasiertes Design von Entscheidungsunterstützungssystemen
Vorschaubild nicht verfügbar
Volltext URI
Dokumententyp
Text/Journal Article
Zusatzinformation
Datum
2022
Autor:innen
Zeitschriftentitel
ISSN der Zeitschrift
Bandtitel
Verlag
Springer
Zusammenfassung
Durch fortgeschrittenere Algorithmen in Entscheidungsunterstützungssystemen (DSS) bieten sich Unternehmen neue Möglichkeiten, um kognitive Belastungen bei Entscheidungsprozessen zu senken und bessere Ergebnisse zu erreichen. Allerdings mahnen Stimmen aus Forschung und Praxis vor damit einhergehenden Gefahren. Im Raum stehen etwa die systematische Fehlbeurteilung bestimmter Personengruppen, fehlerhafte Einschätzungen von (unternehmerischen) Risiken sowie unklare Verantwortlichkeiten im Falle personeller oder materieller Schäden. Der besseren Berücksichtigung von Werten wird diesbezüglich zunehmend Beachtung geschenkt, denn Algorithmen und die darauf aufbauenden DSS sind keine neutralen Artefakte; sie werden durch aus dem Entstehungsprozess hervorgehenden Wertvorstellungen und Wertannahmen geprägt. Das sogenannte Value Sensitive Design (VSD) wird genutzt, um dieser „Wertgeladenheit“ Rechnung zu tragen, indem Wertetabellen erhoben werden, die Nutzern und Entwicklern in Bezug auf ein DSS als wichtig erscheinen. Fernab konzeptioneller Überlegungen mangelt es aktuell allerdings noch an konkreten praktischen Operationalisierungen solcher Werttabellen. Am Beispiel der algorithmenbasierten Gefahrenerkennung beim Predictive Policing zeigen wir auf, wie sich eine Wertetabelle beim Design eines DSS konkretisieren lässt und welche Schwierigkeiten dabei auftreten können. Das vorgeschlagene dreistufige Operationalisierungsverfahren bietet Praktikern klare Richtlinien, um die Wertgeladenheit und dadurch hervorgehende Problematiken bereits bei der Entwicklung von DSS zu berücksichtigen. The implementation of complex algorithms in decision support systems (DSS) offers companies new opportunities to reduce cognitive load in decision-making processes and to achieve better outcomes. However, voices from research and practice warn of the associated dangers. These include the systematic misjudgement of certain groups, incorrect assessment of (entrepreneurial) risks, and unclear responsibilities in the event of personal or material damage. Values are an increasingly important concept in this regard because algorithms and DSS based on them are not neutral artifacts, they are rather shaped by values and value assumptions arising during the development process. Value Sensitive Design (VSD) is used to account for this “value-ladenness” by creating a list of values that is considered important by users and developers with respect to a DSS. Except conceptual considerations, however, there is currently a lack of concrete practical operationalization of such value-lists. Using predictive policing as a practical example, we detail how a value-list can be used for the design of a DSS and what difficulties can arise in this process. The employed three-step operationalization process provides clear guidelines to practitioners for considering the value-ladenness and resulting problems already during the development of DSS.