Non-Discrimination-by-Design: Handlungsempfehlungen für die Entwicklung von vertrauenswürdigen KI-Services
| dc.contributor.author | Rebstadt, Jonas | |
| dc.contributor.author | Kortum, Henrik | |
| dc.contributor.author | Gravemeier, Laura Sophie | |
| dc.contributor.author | Eberhardt, Birgid | |
| dc.contributor.author | Thomas, Oliver | |
| dc.date.accessioned | 2022-05-03T12:51:58Z | |
| dc.date.available | 2022-05-03T12:51:58Z | |
| dc.date.issued | 2022 | |
| dc.description.abstract | Neben der menschen-induzierten Diskriminierung von Gruppen oder Einzelpersonen haben in der jüngeren Vergangenheit auch immer mehr KI-Systeme diskriminierendes Verhalten gezeigt. Beispiele hierfür sind KI-Systeme im Recruiting, die Kandidatinnen benachteiligen, Chatbots mit rassistischen Tendenzen, oder die in autonomen Fahrzeugen eingesetzte Objekterkennung, welche schwarze Menschen schlechter als weiße Menschen erkennt. Das Verhalten der KI-Systeme entsteht hierbei durch die absichtliche oder unabsichtliche Reproduktion von Vorurteilen in den genutzten Daten oder den Entwicklerteams. Da sich KI-Systeme zunehmend als integraler Bestandteil sowohl privater als auch wirtschaftlicher Lebensbereiche etablieren, müssen sich Wissenschaft und Praxis mit den ethischen Rahmenbedingungen für deren Einsatz auseinandersetzen. Daher soll im Kontext dieser Arbeit ein wirtschaftlich und wissenschaftlich relevanter Beitrag zu diesem Diskurs geleistet werden, wobei am Beispiel des Ökosystems Smart Living auf einen sehr privaten Bezug zu einer diversen Bevölkerung bezuggenommen wird. Im Rahmen der Arbeit wurden sowohl in der Literatur als auch durch Expertenbefragungen Anforderungen an KI-Systeme im Smart-Living-Ökosystem in Bezug auf Diskriminierungsfreiheit erhoben, um Handlungsempfehlungen für die Entwicklung von KI-Services abzuleiten. Die Handlungsempfehlungen sollen vor allem Praktiker dabei unterstützen, ihr Vorgehen zur Entwicklung von KI-Systemen um ethische Faktoren zu ergänzen und so die Entwicklung nicht-diskriminierender KI-Services voranzutreiben. In addition to human-induced discrimination of groups or individuals, more and more AI systems have also shown discriminatory behavior in the recent past. Examples include AI systems in recruiting that discriminate against female candidates, chatbots with racist tendencies, or the object recognition used in autonomous vehicles that shows a worse performance in recognizing black than white people. The behavior of AI systems here arises from the intentional or unintentional reproduction of pre-existing biases in the training data, but also the development teams. As AI systems increasingly establish themselves as an integral part of both private and economic spheres of life, science and practice must address the ethical framework for their use. Therefore, in the context of this work, an economically and scientifically relevant contribution to this discourse will be made, using the example of the Smart Living ecosystem to argue with a very private reference to a diverse population. In this paper, requirements for AI systems in the Smart Living ecosystem with respect to non-discrimination were collected both in the literature and through expert interviews in order to derive recommendations for action for the development of AI services. The recommendations for action are primarily intended to support practitioners in adding ethical factors to their procedural models for the development of AI systems, thus advancing the development of non-discriminatory AI services. | de |
| dc.identifier.doi | 10.1365/s40702-022-00847-y | |
| dc.identifier.pissn | 2198-2775 | |
| dc.identifier.uri | http://dx.doi.org/10.1365/s40702-022-00847-y | |
| dc.identifier.uri | https://dl.gi.de/handle/20.500.12116/38639 | |
| dc.publisher | Springer | |
| dc.relation.ispartof | HMD Praxis der Wirtschaftsinformatik: Vol. 59, No. 2 | |
| dc.relation.ispartofseries | HMD Praxis der Wirtschaftsinformatik | |
| dc.subject | CRISP-DM | |
| dc.subject | Data ecosystem | |
| dc.subject | Datenökosystem | |
| dc.subject | Erklärbarkeit | |
| dc.subject | Ethical AI | |
| dc.subject | Ethische KI | |
| dc.subject | Explainability | |
| dc.subject | Fairness | |
| dc.subject | Nicht-Diskriminierung | |
| dc.subject | Non-discrimination | |
| dc.title | Non-Discrimination-by-Design: Handlungsempfehlungen für die Entwicklung von vertrauenswürdigen KI-Services | de |
| dc.type | Text/Journal Article | |
| gi.citation.endPage | 511 | |
| gi.citation.startPage | 495 |