Logo des Repositoriums

HMD 59(2) - April 2022 - Digitale Ethik im KI-Zeitalter

https://dl.gi.de/handle/20.500.12116/38632
Auflistung nach:

Auflistung HMD 59(2) - April 2022 - Digitale Ethik im KI-Zeitalter nach Erscheinungsdatum

Zu einem Punkt im Index springen:
1 - 10 von 22
  • Zeitschriftenartikel
    Der Artificial Intelligence Act – eine Praxisanalyse am Beispiel von Gesichtserkennungssoftware
    (HMD Praxis der Wirtschaftsinformatik: Vol. 59, No. 2, 2022) Wudel, Alexandra; Schulz, Michael
    Der Einsatz Künstlicher Intelligenz (KI) eröffnet ein Spannungsfeld zwischen Innovationspotentialen und Regulierungsdrang. Auf harmonisierte Richtlinien zur Regulierung dieser Technologie kann derzeit jedoch nicht zurückgegriffen werden. Gleichzeitig kommt es zu Diskriminierungsfällen, durch die der Bedarf an entsprechenden Gesetzen deutlich wird. Ein politischer Meilenstein in der Entwicklung eines Regelwerks kommt aus der Europäischen Union. Seit dem 21.04.2021 liegt der Artificial Intelligence Act der Europäischen Kommission vor. Der Gesetzesvorschlag versucht einen Spagat, um Innovationen weiter zu fördern und gleichzeitig ethische Dimensionen wie Nicht-Diskriminierung zu regulieren. Dieser Artikel stellt eine Statusanalyse von KI-Systemen in der Strafverfolgung in Europa im Vergleich zu den USA vor. Dieser soll herausstellen inwieweit derzeit ein Unterschied im Einsatz von KI aufgrund der geografischen Lage existiert und welche Chancen ebenso wie Herausforderungen ein globales Regelwerk für den ethischen Einsatz von KI aus europäischer Perspektive birgt. Da die Anwendung von Gesichtserkennungssoftware im Bereich der Strafverfolgung weit verbreitet ist, kann durch diese Untersuchung dringend notwendiger Handlungsbedarf der Gesetzgebung erkannt werden. The use of Artificial Intelligence (AI) opens up a field of tension between innovation potential and the need for regulation. However, harmonized guidelines for regulating this technology do currently not exist. At the same time, there are cases of discrimination in which the need for appropriate laws becomes clear. A political milestone in the development of a set of rules comes from the European Union. The Artificial Intelligence Act of the European Commission has been in place since April 21, 2021. The proposed law attempts a balancing act to further promote innovation and at the same time to regulate ethical dimensions such as non-discrimination. This article presents a status analysis of AI systems in law enforcement in Europe compared to the USA. This comparison is intended to highlight the extent to which there is currently a difference between the use of AI due to the geographical location and what opportunities and challenges a global set of rules for the ethical use of AI offers from a European perspective. Since the use of facial recognition software is widespread in the area of law enforcement, this investigation can identify the urgent need for legislative action.
  • Zeitschriftenartikel
    Hilfsbereit, verständnisvoll, bescheiden: Problematik und Folgen von weiblichen Voice Assistants
    (HMD Praxis der Wirtschaftsinformatik: Vol. 59, No. 2, 2022) Hefti, Sarah
    Der Artikel legt die soziale und ethische Problematik weiblich konzipierter Voice Assistants dar. Weibliche Voice Assistants, die folgsam bis unterwürfig die ihnen aufgetragenen Arbeiten erledigen und selbst bei Beleidigungen höflich bleiben, können geschlechterstereotype Erwartungen an Frauen in der Gesellschaft hervorrufen und festigen. Angesichts der weltweit starken Zunahme von Voice Assistants ist dies ein Aspekt, der unbedingt thematisiert werden sollte. Die menschliche respektive weibliche Inszenierung der Technologie fusst auf grösstenteils bewussten Entscheidungen der beteiligten Design- und Entwicklungsteams. Sie programmieren geschlechterstereotype Reaktionen, setzen auf weibliche Stimmen und Namen. Die einfach gestrickten, hilfsbereiten weiblichen Voice Assistants können als hochmoderne Technologie Geschlechterstereotype nicht nur abbilden, sondern sie auch direkt zurück an ihre Nutzer:innen spielen. Damit verfügen sie über das Potenzial, längst ausgediente Rollenbilder in der Realität zu nähren. Der Artikel erörtert diese Problematik und analysiert hierfür aktuelle Literatur- und Medienbeiträge. Abschliessend werden mögliche Handlungsfelder für Technologiekonzerne, Forschung, Gesetzgebung und Zivilgesellschaft abgeleitet. Der Weg führt über eine stärkere Sensibilisierung aller an der Entwicklung Beteiligten und der Nutzer:innen. Nur so können Alternativen zu den gängigen Voice Assistants entstehen. The article discusses the social and ethical problems of female voice assistants. Female voice assistants obediently—if not to say submissively—perform their assigned tasks. They remain polite even when insulted. Consequently, they can create and reinforce gender-stereotypical expectations of women in society. Given the significant increase in voice assistants worldwide, this is an aspect that must be addressed. The human respectively female representation of the technology is based on mostly conscious decisions of the development and design teams involved. They program gender-stereotypical reactions, choose female voices and names. The simple, helpful female voice assistants not only reproduce gender stereotypes but also play them back directly to their users as state-of-the-art technology. As a result, female voice assistants can cement outdated gender stereotypes in reality. The article discusses this topic and analyzes current literature and media coverage. Finally, possible fields of action for technology companies, research, legislation, and civil society are derived. The way forward is to raise the awareness of all those involved in developing and using the technology. Only then will it be possible to establish alternatives to the current voice assistants.
  • Zeitschriftenartikel
    Prinzipien für die ethische Nutzung künstlicher Intelligenz
    (HMD Praxis der Wirtschaftsinformatik: Vol. 59, No. 2, 2022) Barton, Marie-Christin; Pöppelbuß, Jens
    Die voranschreitende Digitalisierung im Allgemeinen und die zunehmende Anwendung von künstlicher Intelligenz (KI) im gesellschaftlichen Alltag bietet einige Vorteile. Allerdings werden von verschiedenen Interessensgruppen ethische Bedenken geäußert. Damit KI langfristig angewendet und KI-Lösungen erfolgreich vertrieben werden können, ist es daher unerlässlich, dass Organisationen eine ethisch-angemessene Richtung einschlagen. So erhält das relativ neue Feld der KI-Ethik wachsendes Interesse sowohl in der Wissenschaft als auch in der Praxis. Dieser Beitrag skizziert ethische Herausforderungen, denen Organisationen begegnen und somit auch Bedenken, die in der Gesamtgesellschaft durch die Digitalisierung im KI-Zeitalter aufkommen. Diese werden auf Basis verschiedener ethischer Modelle untersucht. Zudem wird ein modifiziertes Modell mit sechs Prinzipien für die ethische Nutzung künstlicher Intelligenz vorgeschlagen. Dieses umfasst die sechs KI-Ethik-Prinzipien: Wohltätigkeit, Transparenz, Nicht-Boshaftigkeit, Autonomie, Gerechtigkeit und Datenschutz. Basierend auf diesen sechs Prinzipien werden Handlungsanweisungen im Umgang mit KI-Anwendungen skizziert. Digitization in general and the increasing application of artificial intelligence (AI) in our everyday life offers some advantages. However, ethical concerns are raised by various stakeholders. For AI to be successfully applied in the long term, it is essential that organizations adopt an ethically appropriate direction. Thus, the relatively new field of AI ethics is receiving growing interest from both academia and practitioners. This paper outlines some of the ethical challenges faced by organizations and points to concerns raised in society related to AI. These are examined based on various ethical models. In addition, a modified model with six AI ethics principles is proposed. These include: beneficence, transparency, non-maleficence, autonomy, justice, and data privacy. We further derive directions for action in dealing with AI applications based on the six AI ethics principles.
  • Zeitschriftenartikel
    Wertbasiertes Design von Entscheidungsunterstützungssystemen
    (HMD Praxis der Wirtschaftsinformatik: Vol. 59, No. 2, 2022) Lüthi, Nick; Matt, Christian; Myrach, Thomas
    Durch fortgeschrittenere Algorithmen in Entscheidungsunterstützungssystemen (DSS) bieten sich Unternehmen neue Möglichkeiten, um kognitive Belastungen bei Entscheidungsprozessen zu senken und bessere Ergebnisse zu erreichen. Allerdings mahnen Stimmen aus Forschung und Praxis vor damit einhergehenden Gefahren. Im Raum stehen etwa die systematische Fehlbeurteilung bestimmter Personengruppen, fehlerhafte Einschätzungen von (unternehmerischen) Risiken sowie unklare Verantwortlichkeiten im Falle personeller oder materieller Schäden. Der besseren Berücksichtigung von Werten wird diesbezüglich zunehmend Beachtung geschenkt, denn Algorithmen und die darauf aufbauenden DSS sind keine neutralen Artefakte; sie werden durch aus dem Entstehungsprozess hervorgehenden Wertvorstellungen und Wertannahmen geprägt. Das sogenannte Value Sensitive Design (VSD) wird genutzt, um dieser „Wertgeladenheit“ Rechnung zu tragen, indem Wertetabellen erhoben werden, die Nutzern und Entwicklern in Bezug auf ein DSS als wichtig erscheinen. Fernab konzeptioneller Überlegungen mangelt es aktuell allerdings noch an konkreten praktischen Operationalisierungen solcher Werttabellen. Am Beispiel der algorithmenbasierten Gefahrenerkennung beim Predictive Policing zeigen wir auf, wie sich eine Wertetabelle beim Design eines DSS konkretisieren lässt und welche Schwierigkeiten dabei auftreten können. Das vorgeschlagene dreistufige Operationalisierungsverfahren bietet Praktikern klare Richtlinien, um die Wertgeladenheit und dadurch hervorgehende Problematiken bereits bei der Entwicklung von DSS zu berücksichtigen. The implementation of complex algorithms in decision support systems (DSS) offers companies new opportunities to reduce cognitive load in decision-making processes and to achieve better outcomes. However, voices from research and practice warn of the associated dangers. These include the systematic misjudgement of certain groups, incorrect assessment of (entrepreneurial) risks, and unclear responsibilities in the event of personal or material damage. Values are an increasingly important concept in this regard because algorithms and DSS based on them are not neutral artifacts, they are rather shaped by values and value assumptions arising during the development process. Value Sensitive Design (VSD) is used to account for this “value-ladenness” by creating a list of values that is considered important by users and developers with respect to a DSS. Except conceptual considerations, however, there is currently a lack of concrete practical operationalization of such value-lists. Using predictive policing as a practical example, we detail how a value-list can be used for the design of a DSS and what difficulties can arise in this process. The employed three-step operationalization process provides clear guidelines to practitioners for considering the value-ladenness and resulting problems already during the development of DSS.
  • Zeitschriftenartikel
    Wirtschaftsinformatik-Forschung für die und mit der Praxis
    (HMD Praxis der Wirtschaftsinformatik: Vol. 59, No. 2, 2022) Knoll, Matthias; Robra-Bissantz, Susanne; Grogorick, Linda
  • Zeitschriftenartikel
    Digitale Ethik aus Studierendensicht – Ethische Treiber und Barrieren zur Nutzung eines Digitalen Studienassistenten
    (HMD Praxis der Wirtschaftsinformatik: Vol. 59, No. 2, 2022) Greiff, Paul
    Die fortschreitende Digitalisierung der Hochschullandschaft führt dazu, dass sowohl Lehrende als auch Studierende sich auf den Umgang mit neuen Technologien einstellen müssen. Eine dieser neuen Technologien sind digitale Assistenten, welche bereits in anderen Bereichen des täglichen Lebens Einzug gehalten haben. Digitale Assistenten besitzen die Fähigkeit mehrere vormals unverknüpfte Daten zu verbinden, um auf dieser Grundlage Empfehlungen abzugeben oder sogar Vorhersagen zu treffen. Im Hochschulkontext kann ein Digitaler Studienassistent (DSA) Studierenden beispielsweise Vorschläge für eine Modulwahl geben, auf Grundlage der fachlichen Interessen zusätzliches Lehrmaterial zur Verfügung stellen oder auch bei der Organisation eines Auslandssemesters unterstützen. Bei all den vielfältigen Anwendungsmöglichkeiten und der mitschwingenden Euphorie, die ein solches System bei der Implementierung mit sich bringt, wird oft vergessen, die Nutzerperspektive angemessen zu berücksichtigen. Besonders der Bereich digitale Ethik hat hier bisher eher ein Schattendasein geführt. Dabei ist insbesondere ein System, welches persönliche Daten verknüpft und mit Entscheidungshinweisen in den Alltag der Nutzer eingreift, der kritischen ethischen Betrachtung der Nutzergruppe, im Falle des DSA : den Studierenden, ausgesetzt. Dieser Beitrag nimmt sich daher dieser Thematik an und untersucht die ethischen Treiber, welche eine Nutzung des DSAs begünstigen und Barrieren, welche einer Nutzung entgegenstehen. Zudem soll auch geklärt werden, was Studierende grundlegend unter digitaler Ethik verstehen. Ziel ist es, mittels einer explorativen Befragung einen Überblick über die genannten Faktoren zu geben und aufzuzeigen, wie diese von Entwicklerseite berücksichtigt werden können. The ongoing digitization of the higher education landscape implies that both teachers and students often have to adapt to new technologies. One of these new technologies are digital assistants, which have already found their way into other areas of daily life. Digital assistants have the ability to connect multiple unrelated data to make recommendations or even predictions based on that data. In the university context, a Digital Study Assistant (DSA) could give students recommendations for a module choice, provide additional teaching material based on subject-specific interests, or even support them in organizing a semester abroad. With all the diverse application possibilities and the resonating euphoria that such a system entails, the user perspective is often forgotten to be adequately considered. The area of digital ethics in particular has tended to lead a rather shadowy existence here so far. In this respect, a system that links personal data and intervenes in the everyday life of users with decision-making instructions is particularly exposed to the critical ethical consideration of the user group, in the case of the DSA: the students. This paper therefore addresses this issue and examines the ethical drivers that favor the use of the DSA and barriers that stand in the way of its use. In addition, it will also clarify what students fundamentally understand by digital ethics. The aim is to provide an overview of the factors mentioned by means of an explorative survey and to show how they can be taken into account by developers.
  • Zeitschriftenartikel
    Rezension „The Age of A.I.: And Our Human Future“
    (HMD Praxis der Wirtschaftsinformatik: Vol. 59, No. 2, 2022) Portmann, Edy
  • Zeitschriftenartikel
    KI-gestütztes Recruiting – technische Grundlagen, wirtschaftliche Chancen und Risiken sowie ethische und soziale Herausforderungen
    (HMD Praxis der Wirtschaftsinformatik: Vol. 59, No. 2, 2022) Wilke, Gwendolin; Bendel, Oliver
    Bei der Rekrutierung von neuen Mitarbeitern und Mitarbeiterinnen setzen Firmen heute vermehrt auf die Unterstützung durch künstliche Intelligenz (KI). Die technischen Möglichkeiten reichen von Vorauswahlgesprächen mit Chatbots über die automatisierte Auswertung schriftlicher Bewerbungsdossiers hinsichtlich Fachkompetenz und Erfahrung bis hin zur maschinellen Analyse von Videobewerbungen zur Bewertung von Softskills wie Selbstvertrauen, Enthusiasmus oder Kommunikationsfähigkeit. Auch Lernplattformen werden zur Vorauswahl und Überprüfung eingesetzt. Der Artikel erklärt die technischen Grundlagen und Möglichkeiten des KI-gestützten Recruitings und zeigt wirtschaftliche Chancen und Risiken auf. Ethische und soziale Herausforderungen werden diskutiert und verständliche und umsetzbare Handlungsempfehlungen für Unternehmen unterbreitet, damit sie rechtliche Vorgaben und ethische Richtlinien einhalten und auf Kritik reagieren können. When recruiting new employees, companies today increasingly rely on the support of artificial intelligence (AI). The technical possibilities range from pre-selection interviews with chatbots to the automated evaluation of written application dossiers in terms of professional competence and experience to the machine analysis of video applications to assess soft skills such as self-confidence, enthusiasm, or communication skills. Learning platforms are also used for pre-selection and review. The article explains the technical foundations and possibilities of AI-assisted recruiting and highlights economic opportunities and risks. It discusses ethical and social challenges and provides understandable and actionable recommendations for companies to comply with legal requirements and ethical guidelines and respond to criticism.
  • Zeitschriftenartikel
    drohnen fliegen wie melonen
    (HMD Praxis der Wirtschaftsinformatik: Vol. 59, No. 2, 2022) Meier, Andreas
  • Zeitschriftenartikel
    Quo Vadis: Auf dem Weg zu Ethik-Guidelines für den Einsatz KI-basierter Lern-Companions in der Lehre?
    (HMD Praxis der Wirtschaftsinformatik: Vol. 59, No. 2, 2022) Schlimbach, Ricarda; Khosrawi-Rad, Bijan; Robra-Bissantz, Susanne
    Begünstigt durch die wachsende Relevanz digitaler Unterstützungsangebote für das Lehren und Lernen, bspw. in Schulen und Universitäten, gewinnt der Forschungszweig der Conversational Agents im Bildungskontext an Bedeutung. Sogenannte Lern-Companions, also virtuelle Lern-Gefährten, bieten das Potenzial einer nutzeradaptiven sowie örtlich und zeitlich flexiblen Lernbegleitung. Da mit der Anwendung derart neuartiger Zukunftstechnologien ein hohes ethisches Verantwortungsbewusstsein einhergeht, diskutiert dieser Beitrag Chancen und Herausforderungen durch den Einsatz von Lern-Companions aus ethischer Perspektive. Basierend auf einer qualitativen Studie mit sechs Experten sowie der Diskussion der gewonnenen Erkenntnisse mit bestehender Literatur zeigt dieser Artikel sieben praktische Handlungsempfehlungen zur Gestaltung virtueller Lern-Companions aus einem ethischen Blickwinkel auf und adressiert dabei unter anderem den Umgang mit Ethik-Guidelines, aktive Nutzereinbindung und Bildungsgerechtigkeit. The growing relevance of digital support services for teaching and learning, e.g., in schools and universities, has led to an increase in the importance of Conversational Agents in educational contexts. So-called Learning Companions offer the potential of user-adaptive learning support that is flexible in terms of location and time. Since the application of such novel future technologies is accompanied by a strong sense of ethical responsibility, this paper discusses opportunities and challenges posed by the use of Learning Companions from an ethical perspective. Based on a qualitative study with six experts and the discussion of the findings with existing literature, this article presents seven practical recommendations for the design of virtual learning companions from an ethical perspective and addresses, among other aspects, the handling of ethical guidelines, active user involvement, and educational equity.