The intention (for now) of this page is to define the Scope (Anwendungsbereich) for the DIN-SPEC-Project on "Wissensgraphen und Ontologien in großen Sprachmodellen"
Guidelines for registration and handling the page:
Registration and login on DIN.ONE is required for collaboration!
Note: To participate in writing the DIN SPEC 91516 on DIN.ONE, you must be registered on our collaboration platform DIN.ONE. Under the following Link you can register for free here. You can find further helpful information to DIN.ONE here: Help and Documentation
- if you add something new or change something indicate the new content with red colour
- if you comment something please use the blue colour
- always followed by your name in brackets in green
→ Example: This text was added and changed (name)
This document specifies the dimensions of/a method for/the characteristics of ... . (Dieses Dokument legt die Maße von/ein Verfahren für/die Merkmale von ... fest.)
This document establishes a system for/general principles for ... . (Dieses Dokument stellt ein System für/allgemeine Grundsätze für ... auf.)
where applicable.
This document is applicable ... (Dieses Dokument ist anwendbar ...)
This document is not applicable ... (Dieses Dokument ist nicht anwendbar ...)
Next Meeting: 2024-07-12
Agenda
refine scope
what may or may not be part of the project
collating information to start application process, according to this form (German version shall be used for application, EN for reference only):
DIN SPEC Request (EN).docx
DIN SPEC Anfrage (DE).docx
Notes from 2024-07-05
Agenda
- Wrap-up
- Kennenlernrunde
- Kurze inhaltliche Diskussion des Bedarfs (gemeinsame Basis schaffen)
- Aufgaben zur SPEC-Projektinitiierung
- Arbeitstitel der DIN SPEC
- Scope (inkl. sinnvoller Erweiterungen zum Bedarf)
- Diese DIN SPEC legt … fest/beschreibt/befasst sich mit…
- Inhalt/Gliederung
- Begriffe/Definitionen à Begriffsmodell (Unifying Large Language Models and Knowledge Graphs: A Roadmap (UML)-basiertes Begriffsmodell, ISO 24156-1:2014, Graphic notations for concept modelling in terminology work and its relationship with UML — Part 1: Guidelines for using UML notation in terminology work)
- Bestehende Normen/Standards analysieren
- Umfeldanalyse und Abgrenzung
- Methoden
- Use-cases/Anwendungsfälle
- Sprachmodelle für Knowledge Graphs (Definition!?) und umgekehrt à nicht nur darauf beschränken,
- Unterscheidung von K Models und K Graphs
- Nächste Schritte/Termine
Links: https://www.poolparty.biz/semantic-retrieval-augmented-generation
From the roadmap paper, KG-enhanced LLMs:
1) KG-enhanced LLM pre-training
1.1.) Integrating KGs into training objective
1.2) Integrating KGs into LLM inputs
1.3) Integrating KGs by fusion modules
2) KG-enhanced LLM inference
2.1) Dynamic knowledge fusion
2.2) Retrieval-augmented knowledge fusion
3) KG-enhanced LLM interpretability
3.1) KGs for LLM probing
3.2) KGs for LLM analysis
Bedarf zum Nachlesen 01-17: Wissensgraphen und Ontologien in großen Sprachmodellen
Während Sprachmodelle den Stand der Wissenschaft und Technik für eine Vielzahl sprachtechnologischer Aufgaben darstellen, existieren zahlreiche Wissensbasen, Wissensgraphen und Ontologien, die symbolisches Wissen bzw. semantisches Wissen in symbolischer Repräsentation enthalten. Derzeit existieren noch keine Standards, wie derartige Wissensbasen und Ontologien in Sprachmodelle integriert und der jeweiligen Anforderung entsprechend sicher (Bewertung der „Kritikalität“) nutzbar gemacht werden können. Dieser Aspekt betrifft auch die Zusammenführung und Integrierung unterschiedlicher Wissensbasen und Wissenspakete.
Die Standardisierung von Ansätzen, wie Wissensgraphen und Ontologien in große Sprachmodelle, die integrierbar und nutzbar gemacht werden können, dient der Nutzung existierender symbolischer Wissensbestände im Rahmen der Stand der Forschung und Technik von Sprachtechnologien, die typischerweise auf großen Sprachmodellen basieren. Hierbei sollte auch die Zusammenführung, Integration und Verwaltung von Ontologien und Ontologiemodulen bzw. Ontologiepaketen aus unterschiedlichen Quellen betrachtet werden. Dabei können auch Ansätze betrachtet werden, wie (eher ontologiebasiertes) Weltwissen in (eher dokumentbasierte) Wissensgraphen integriert werden kann. Diese Aspekte sind wichtig und relevant für die Nutzung symbolischer Wissensbasen (d. h. Ontologien) im Rahmen von Knowledge-Graph-basierten Anwendungen.
Template for DIN SPEC (for reference only, you may not use this or any word file yet)