Logo des Repositoriums
 

Interpretation von Black-Box-Modellen im Maschinellen Lernen

dc.contributor.authorKarim, Rezaul
dc.contributor.editorReischuk, Rüdiger
dc.date.accessioned2023-11-09T13:38:06Z
dc.date.available2023-11-09T13:38:06Z
dc.date.issued2023
dc.description.abstractKomplexe Modelle des maschinellen Lernens (ML) und tiefer neuronaler Netze (DNN) sind in der Regel weniger interpretierbar und werden zunehmend zu black-box Methoden. Bei der Verwendung eines Blackbox-Modells in vielen Situationen unakzeptabel (z. B. in klinischen Situationen, in denen KI erhebliche Auswirkungen auf das Leben von Menschen haben kann). Angesichts der sich schnell verändernden rechtlichen Rahmenbedingungen, wie z. B. der Datenschutzgrundverordnung (DSVGO) in der EU, sind Erklärbarkeit, Transparenz und Fairness wünschenswerte Eigenschaften von KI, die auch zu rechtlichen Anforderungen geworden sind. Erklärbare künstliche Intelligenz (XAI) zielt darauf ab, ML-Modelle transparenter und verständlicher zu machen, indem sie interpretiert, wie black-box Modelle Entscheidungen treffen. Ziel dieser Arbeit ist die Verbesserung der Interpretierbarkeit und Erklärbarkeit von black-box ML-Modellen. Wir schlagen einen neuro- symbolischen KI-Ansatz vor, der symbolische und konnektionistische KI-Paradigmen kombiniert: Ein konnektionistisches Modell lernt zunächst die Zuordnung von Eingaben zu Ausgaben, um die Vorhersagen zu erstellen, die dann mit Domänenwissen in einer schwach überwachten Weise validiert werden. Eine Domänenontologie und ein Wissensgraph (KG) werden durch die Integration von Fakten aus der wissenschaftlichen Literatur und Wissensdatenbanken erstellt. Eine Reasoning-Engine wird eingesetzt, um die Assoziation signifikanter Merkmale mit verwandten Klassen auf der Grundlage von Beziehungen im KG zu validieren. Schließlich werden evidenzbasierte Regeln durch die Kombination von Entscheidungsregeln, kontrafaktischen Fakten und Inferenz erstellt.de
dc.identifier.isbn978-3-88579-981-8
dc.identifier.urihttps://dl.gi.de/handle/20.500.12116/42589
dc.language.isode
dc.publisherGesellschaft für Informatik e.V.
dc.relation.ispartofAusgezeichnete Informatikdissertationen 2022 (Band D23)
dc.titleInterpretation von Black-Box-Modellen im Maschinellen Lernende
dc.typeText/Conference Paper
gi.citation.endPage140
gi.citation.publisherPlaceBonn
gi.citation.startPage131
gi.conference.date14.-17.05.2023
gi.conference.locationSchloss Dagstuhl, Deutschland

Dateien

Originalbündel
1 - 1 von 1
Vorschaubild nicht verfügbar
Name:
Rezaul-Karim.pdf
Größe:
1.24 MB
Format:
Adobe Portable Document Format