Logo des Repositoriums

Auflistung nach Schlagwort "RAG"

1 - 3 von 3
  • Workshopbeitrag
    Combining Retrieval-Augmented Generation and Few-Shot Learning for Model Synthesis of Uncommon DSLs
    (Modellierung 2024 Satellite Events, 2024) Baumann, Nils; Diaz, Juan Sebastian; Michael, Judith; Netz, Lukas; Nqiri, Haron; Reimer, Jan; Rumpe, Bernhard
    We introduce a method that empowers large language models (LLMs) to generate models for domain-specific languages (DSLs) for which the LLM has little to no training data on. Common LLMs such as GPT-4, Llama 2, or Bard are trained on publicly available data and thus have the capability to produce models for well-known modeling languages such as PlantUML, however, they perform worse on lesser-known or unpublished DSLs. Previous work focused on the usage of few-shot learning (FSL) to synthesize models but did not address or evaluate the potential of retrieval-augmented generation (RAG) to provide fitting examples for the FSL-based modeling approach. In this work, we propose a toolchain and test each building block individually: We use the MontiCore Sequence Diagram Language, which GPT-4 has minimal training data on, to assess the extent to which FSL enhances the likelihood of synthesizing an accurate model. Additionally, we evaluate how effectively RAG can identify suitable models for user requests and determine whether GPT-4 can distinguish between requests for a specific model and those for general information. We show that RAG and FSL can be used to enable simple model synthesis for uncommon DSLs, as long as there is a fitting knowledge base that can be accessed to provide the needed examples for the FSL approach.
  • Konferenzbeitrag
    Einsatz von Generativer KI im Self-service Micro-retailing
    (AKWI Jahrestagung 2024, 2024) Przewloka, Martin; Häfele, Markus
    Personallose Selbstbedienungsshops im Einzelhandel sind im Vormarsch. Die Gründe hiefür sind vielfältig und aller Voraussicht nach auch im Zusammenhang mit Veränderungen, die durch die Pandemie ausgelöst wurden, zu sehen. Personalmangel, Schaffung von Möglichkeiten einer flexiblen, dezentralen und effizienten Versorgung wie auch Aspekte der Nachhaltigkeit können hierbei aufgezählt werden. Einen besonderen Stellenwert nimmt die Vermarktung regionaler Lebensmittelprodukte ein. Die Nähe zum Erzeuger, die Schaffung einer direkten Verkaufsmöglichkeit für die Produzenten unter Ausschluss komplexer Handelsketten, Aspekte der Frische und insbesondere eines umweltgerechten Handelns stellen wesentliche Treiber dar. Beinahe zwingend ergibt sich hieraus, dass dies mittels kleinerer, dezentraler Verkaufseinheiten umgesetzt werden kann. Dem entgegen stehen Kosten der zu schaffenden Infrastruktur und für den Betrieb, die schlussendlich aus Effizienzgründen den Einsatz digitaler Technologien erfordern. So müssen zur Schaffung der Betriebsfähigkeit einfache, sichere Kassensysteme zum Einsatz kommen, Überwachungssysteme aus Gründen der Sicherheit und zur Missbrauchsreduzierung, aber auch autarke, smarte Energieversorgungssysteme. Weniger Augenmerk wurde bis dato auf den Einsatz digitaler Technologien zur Verbesserung der sogenannten Customer Experience gelegt. Im Rahmen dieser Arbeit soll ein Versuchsfeld (Living-lab) geschaffen werden, um Chancen, Risiken und Handlungsempfehlungen für den Einsatz generativer KI-Techniken innerhalb sogenannter Micro-shops zu untersuchen. Primär sollen hierbei einfache bis hin zu multimediale ChatBot-Systeme zum Einsatz kommen, mit dem primären Ziel, das Einkaufserlebnis der Kund:innen zu steigern. Das sekundäre Ziel besteht darin, einen effizienteren Betrieb dieser Verkaufsformen sicherzustellen.
  • Konferenzbeitrag
    Enhancing Chatbot-Assisted Study Program Orientation
    (Proceedings of DELFI Workshops 2024, 2024) Dieing, Thilo I.; Scheffler, Marc; Cohausz, Lea
    As university dropout rates increase, implementing innovative solutions is crucial to reduce attrition. Aligning students’ interests with their study programs enhances academic success, satisfaction, and retention. This paper presents a novel approach using open-source Large Language Models (LLM) and Retrieval-Augmented Generation (RAG) to develop a semi-open-domain knowledge chatbot. The chatbot generates informed responses and recommendations to diverse student queries by retrieving relevant data while maintaining ethical standards and avoiding biased responses. When testing five model combinations on 70 prompts partially from real study advisors, results demonstrate that the RAG approach with the Mixtral LLM and RoBERTa embedding model offers superior performance. Our method for handling critical user prompts further indicates a significantly improved response quality. These findings advance service-oriented chatbots in education, aiming to reduce student attrition through accurate and helpful program recommendations.