Trotz der Aufregung um Large Language Models (LLM) leiden diese Modelle unter Illusionen, d.h. sie erzeugen faktisch falschen Text. Diese Probleme schränken die Entwicklung von produktionsreifen Anwendungen ein. Das Fraunhofer IAIS erforscht und entwickelt Ansätze zur Kombination von Knowledge Graphs (KGs) mit Large Language Models (LLMs), um industrietaugliche Anwendungen zu entwickeln und dabei Illusionsprobleme in verschiedenen Phasen des LLM-Lebenszyklus zu behandeln. Diese Ansätze reichen von pragmatischen Methoden (z.B. die Verwendung von LLMs als Bestandteil von KI-Lösungspipelines) bis hin zu anspruchsvollen Herangehensweisen, die die beiden Modalitäten von Daten, d.h. Fließtext und Fakten aus KGs, während des Vortrainings von LLMs vereinigen. Fraunhofer IAIS arbeitet mit Partnern aus der deutschen Industrie zusammen und unterstützt sie bei der Einführung von LLMs unter Verwendung von Unternehmensdaten und bei der Entwicklung von Proof of Concepts.
Dialogsysteme
- Integration von Wissensgraphen In Sprachmodelle
- Neue Metrik zum Evaluieren NLG-Systemen
Wissensgraphen & Graphenrepräsentationen
- Smart Data Connector zur Erstellung von Wissensgraphen aus Unternehmensdaten
- Umfangreichste Benchmarking Studie im Bereich Knowledge Graph Embedding Modelle
- PyKEEN: Umfangreichste Library für Knowledge Graph Embedding Modelle (> 1100 Stars auf GitHub)
- Best Paper Award auf der ISWC 2021 für „Improving Inductive Link Prediction Using Hyper-Relational Facts“
Kontakt:
joachim.koehler[at]iais.fraunhofer.de
