Logo des Repositoriums

Auflistung nach Autor:in "Bunzel, Niklas"

1 - 2 von 2
  • Textdokument
    Adversarial Examples zum Selbstdatenschutz? Der Fall biometrischer Gesichtserkennung im öffentlichen Raum
    (INFORMATIK 2021, 2021) Bunzel, Niklas; Zander, Neele; Landwirth, Robert; Riedel, Ann-Katrin
    Videoüberwachung im öffentlichen Raum kann zur Aufklärung von Verbrechen, Identifikation von Personen und Erkennung von Waffen oder von Gruppenbildung genutzt werden. Durch die Unterstützung von künstlicher Intelligenz (KI) können große Datenmengen automatisch und effizient erhoben und ausgewertet werden. KI-gestützte Videoüberwachung im öffentlichen Raum, insbesondere die Gesichtserkennung, intensivieren Grundrechtseingriffe und erhöhen datenschutzrechtliche Risiken. Der im April 2021 veröffentlichte Gesetzesentwurf der EU-Kommission zur Regulierung von KI-Anwendungen erkennt zwar das Risiko der biometrischen Gesichtserkennung mittels Videoüberwachung im öffentlichen Raum, sieht jedoch von einem allumfassenden Verbot ab. Dies stellt ein Problem für die Privatheit der betroffenen Bürger*innen dar. Im Rahmen des Papers diskutieren wir Adverserial Examples als Möglichkeit des Selbstdatenschutzes darauf zu reagieren.
  • Konferenzbeitrag
    Bridging the Gap: The Role of OWASP AI Exchange in AI Standardization
    (INFORMATIK 2024, 2024) Bunzel, Niklas; Göller, Nicolas
    In the rapidly evolving landscape of artificial intelligence (AI), the challenge of establishing a unified framework for AI regularization and standardization is increasingly critical. Standardization organizations worldwide, while striving to create guidelines for trustworthy AI, often diverge in their approaches and terminologies. This divergence leads to significant challenges for legislators in enacting comprehensive laws, such as the EU AI Act, and poses even greater challenges for companies expected to comply with these laws and diverse standards. Amidst this complexity, the Open Worldwide Application Security Project (OWASP) AI Exchange emerges as a pivotal solution. This initiative seeks to harmonize AI security standards and practices, thereby providing a much-needed bridge between varying regulatory expectations and practical implementation strategies for AI. This research paper delves into the role of the OWASP AI Exchange in simplifying and standardizing the realm of trustworthy AI, providing a cohesive framework that benefits legislators, industries, and the broader AI community.