Skip to main content

HMS Case Study

#industry #finance #lifesciences #other

Text-to-SQL: Unternehmensdaten per Chat abfragen

Ein SQL Chatbot ermöglicht Fachanwendern, quantitative Fragen an interne Daten zu stellen, Abfragen nachzuvollziehen und Ergebnisse direkt weiterzuverarbeiten.

Management Summary

Der Zugriff auf Datenbanken und Data Warehouses setzte bei der internationalen Finanzinstitution bisher SQL-Kenntnisse voraus. HMS entwickelte eine Text-to-SQL-Lösung, die natürlichsprachliche Fragen in SQL-Abfragen übersetzt und die Ergebnisse über eine interaktive Oberfläche bereitstellt. Für KPI-Berechnungen kann das LLM deterministische Funktionen aufrufen, die exakte und reproduzierbare Resultate liefern.

Projektsteckbrief

#finance
Internationale Finanzinstitution

Internationale Finanzinstitution

Branche: Banken
Projektstart: 06/2023
Schwerpunkt: Generative & Agentic AI
Use Case: Data & Analytics Assistants

Projektziel

Datenbankabfragen ohne eigene SQL-Kenntnisse ermöglichen

Wichtigste Kernfunktionen

  • Übersetzung quantitativer Geschäftsfragen in ausführbare SQL-Abfragen
  • Modulare Trennung von Chatbot-Oberfläche und LLM-Backend
  • Visualisierung, Bearbeitung und Export der ermittelten Abfrageergebnisse

Tech Stack

python langchain gpt models mlflow postgresql generative ai react

Gute Prompts allein reichen bei Text-to-SQL nicht aus. Abfragen müssen systematisch geprüft und exakte Berechnungen deterministisch ausgeführt werden.

Christoph Bergen

CoE Lead GenAI bei HMS

Die Ausgangslage

Das Unternehmen nutzte Daten aus relationalen Datenbanken und Data Warehouses für KPI-Berechnungen, Reports und explorative Analysen. Der direkte Zugriff blieb jedoch auf einen kleinen Kreis von Mitarbeitenden beschränkt, die sowohl das Datenmodell als auch SQL beherrschten.

Quantitative Rückfragen und Ad-hoc-Analysen erforderten damit die Unterstützung von Personen mit SQL-Kenntnissen. Das betraf insbesondere Detailanalysen zu Management-Reports, bei denen Quelldaten oder aggregierte KPIs interaktiv untersucht werden sollten.

Eine reine Erweiterung bestehender Reports reichte dafür nicht aus. Die möglichen Fragen waren zu vielfältig und entstanden häufig erst während der Analyse.

Die HMS-Lösung

Ein SQL Chatbot für quantitative Geschäftsfragen

HMS entwickelte und implementierte die vollständige Text-to-SQL-Anwendung einschließlich LLM-Backend, Benutzeroberfläche und Funktionen zur Weiterverarbeitung der Ergebnisse.

Geschäftsfragen in SQL übersetzen

Anwender stellen quantitative Fragen in natürlicher Sprache. Das LLM interpretiert die Eingabe, erzeugt eine passende SQL-Abfrage und führt sie gegen die angebundene relationale Datenbank aus. Fortgeschrittene Nutzer können den generierten SQL-Code einsehen.

Abfrageergebnisse weiterverarbeiten

Die Oberfläche stellt die ermittelten Daten bereit und unterstützt deren Visualisierung, Aggregation, Bearbeitung und Export. Über eine Bring-your-own-Data-Funktion können Anwender zudem eigene Daten hochladen und ad hoc analysieren.

Frontend und LLM-Backend modular verbinden

Chatbot-Oberfläche und LLM-Backend wurden als getrennte Module umgesetzt. Die Referenzimplementierung verwendet React, Python, LangChain, Azure OpenAI und PostgreSQL. Die Modellanbindung kann innerhalb von Azure OpenAI angepasst werden.

Exakte Berechnungen über Werkzeuge ausführen

Für KPI-Berechnungen kann das LLM explizite Codefunktionen aufrufen. Diese deterministischen Werkzeuge übernehmen Aufgaben, bei denen reproduzierbare Resultate erforderlich sind. MLflow unterstützt die Optimierung und Validierung der LLM-basierten Abläufe.

Der Kundennutzen

Breiterer Datenzugang durch Text-to-SQL

Die Anwendung erweitert den Zugang zu relationalen Unternehmensdaten über den bisherigen Kreis der SQL-Experten hinaus.

Direkter

Geschäftsfragen ohne SQL formulieren

Fachanwender greifen über eine Chatoberfläche auf interne Daten zu. Eigene Kenntnisse der Abfragesprache sind dafür nicht erforderlich.

Nachvollziehbarer

Erzeugte Datenbankabfragen einsehen

Die zugrunde liegende SQL-Anweisung bleibt für fortgeschrittene Nutzer sichtbar. Antworten können dadurch technisch geprüft und eingeordnet werden.

Verlässlicher

KPI-Werte reproduzierbar berechnen

Explizite Codefunktionen liefern exakte Resultate für definierte Berechnungen. Das LLM übernimmt die Auswahl und Steuerung des passenden Werkzeugs.

Die Lösung unterstützt damit sowohl explorative Datenfragen als auch Detailanalysen zu Kennzahlen aus Management-Reports.

Unsere Stärken, Ihre Vorteile

LLM und Datenzugriff zusammenführen

HMS verantwortete die vollständige technische Umsetzung von der LLM-Steuerung bis zur Benutzeroberfläche. Im Projekt verbanden wir Generative AI mit klassischem Software Engineering und relationalen Datenbanksystemen.

Was Sie von HMS erwarten können

Bei Text-to-SQL müssen Sprachmodell, Datenbankzugriff und Ergebnisprüfung als zusammenhängendes System funktionieren. HMS verbindet dafür LLM Engineering, Backend-Entwicklung und Interaction Design.

  • Umsetzung der vollständigen Text-to-SQL-Anwendung
  • Modulare Trennung von Benutzeroberfläche, LLM-Backend und Datenbankanbindung
  • Methodisches Prompt Engineering und systematische Prüfung von Abfragen und Ergebnissen
Christoph Bergen
Christoph Bergen
CoE Lead GenAI

Sie möchten ein ähnliches Projekt umsetzen?

Sprechen Sie mit HMS darüber, wie sich Ihre Daten-, KI- oder Softwarelösung fachlich einordnen, technisch umsetzen und in Ihre bestehende Systemlandschaft integrieren lässt.

Projekt besprechen

Nächste Schritte und Vertiefung

Read more

Generative & Agentic AI

Erfahren Sie, wie Generative und Agentic AI Unternehmen dabei unterstützen, Wissen effizient zu nutzen, Prozesse zu automatisieren und intelligente Anwendungen produktiv einzusetzen.

Mehr zu Generative & Agentic AI

Read more

Weitere Projekte

Entdecken Sie weitere Referenzprojekte rund um Generative AI, intelligente Dokumentenanalyse, AI Assistants und Agentic AI.

Zu unseren Projekten