Skip to main content

HMS Case Study

#industry #finance #lifesciences #other

Rollenbasierter Dokumenten-Chatbot mit Agentic RAG

Relevante Dokumente schneller finden – mit Agentic RAG rollenbasiert durchsuchen, auswerten und über ein LLM-Interface nutzbar machen.

Management Summary

Für einen global tätigen Pharmakonzern entwickelte HMS einen RAG Chatbot für rollenbasierte KI-Dokumentensuche. Die Lösung kombiniert Agentic AI, RAG, Vector Store und Zugriffskontrolle, damit Mitarbeitende freigegebene Dokumente kontextbezogen finden, abfragen und weiterverarbeiten können.

Projektsteckbrief

#lifesciences
Global tätiger Pharmakonzern

Global tätiger Pharmakonzern

Branche: Pharmazeutische Gesundheitsbranche
Projektstart: 10/2024
Schwerpunkt: Generative & Agentic AI
Use Case: Enterprise Search & Knowledge Management

Projektziel

Mitarbeitende sollen relevante Dokumente schneller finden, kontextbezogen abfragen und nur auf freigegebene Inhalte zugreifen können.

Wichtigste Kernfunktionen

  • Rollenbasierte Dokumentensuche über geteilte und persönliche Dokumente
  • Vector Store mit Zugriffskontrolle für unterschiedliche Organisationseinheiten
  • LLM-basiertes Chat-Interface zur Suche, Abfrage und Weiterverarbeitung relevanter Dokumente

Tech Stack

python agentic ai langfuse qdrant chainlit ai chatbots & conversational ai embeddings llm observability

Relevante Themen früher zu erkennen reicht nicht aus. Entscheidend ist, dass Fachbereiche Entwicklung, Quellen und Relevanz nachvollziehen können.

Christoph Bergen

CoE Lead GenAI bei HMS

Die Ausgangslage

Interne Dokumente lagen in unterschiedlichen Organisationseinheiten vor. Die bestehende Suche konnte nicht ausreichend berücksichtigen, welche Inhalte für Rollen, Abteilungen oder Aufgaben relevant und freigegeben waren.

Mitarbeitende mussten Informationen aus mehreren Quellen manuell zusammensuchen und anschließend selbst prüfen, welche Dokumente zu ihrem Kontext passten. Daraus entstand der Bedarf nach einer kontrollierten Suche mit rollenbasiertem Zugriff und nutzbarer Chat-Interaktion.

Die HMS-Lösung

Rollenbasierte Dokumentensuche mit Agentic RAG

HMS entwickelte eine Anwendung für dokumentenbasierte Suche und Verarbeitung. Die Lösung verbindet ein Chat-Interface mit einer RAG-Architektur, rollenbasierter Zugriffskontrolle und einer AWS-basierten Infrastruktur.

Dokumente als durchsuchbare Wissensbasis

Unternehmensdokumente werden in Text-Embeddings überführt und in einer Vektordatenbank bereitgestellt. Dadurch kann die Anwendung relevante Inhalte semantisch suchen, statt nur einfache Stichworttreffer zu liefern.

Rollenbasierter Zugriff auf Dokumente

Die Lösung berücksichtigt, zu welcher Organisationseinheit ein Dokument gehört und welche Nutzergruppen Zugriff erhalten sollen. So lassen sich Dokumente nach Rollen, Zuständigkeiten und Freigaben bereitstellen.

Chat-Interface für Suche und Weiterverarbeitung

Über das LLM-basierte Chat-Interface können Nutzer relevante Dokumente finden und mit den gefundenen Inhalten weiterarbeiten. Die Anwendung unterstützt damit nicht nur Retrieval, sondern auch nachgelagerte Verarbeitungsschritte.

Infrastruktur und Kernanwendung

HMS entwickelte die Kernanwendung mit Frontend und Datenbank und setzte die Infrastruktur in AWS um. Langfuse unterstützt die Beobachtbarkeit der GenAI-Anwendung im Projektkontext.

Der Kundennutzen

Besserer Informationszugriff durch rollenbasierte Dokumentensuche

Der Chatbot unterstützt Mitarbeitende dabei, relevante Dokumente schneller zu finden und im richtigen Kontext weiterzuverarbeiten.

Schneller

Relevante Inhalte im richtigen Kontext finden

Mitarbeitende können Dokumente über eine KI-gestützte Suche abfragen, statt Informationen manuell aus mehreren Quellen zusammenzustellen.

Kontrollierter

Zugriff nach Rolle und Organisationseinheit steuern

Die Lösung berücksichtigt, welche Inhalte für bestimmte Nutzergruppen freigegeben sind. So bleibt der Informationszugriff an bestehende Berechtigungen gebunden.

Nutzbarer

Dokumente direkt im Arbeitsprozess weiterverarbeiten

Das Chat-Interface macht gefundene Inhalte interaktiv verfügbar. Nutzer können mit Dokumenten arbeiten, ohne zwischen Suche, Bewertung und nächstem Arbeitsschritt zu wechseln.

Unsere Stärken, Ihre Vorteile

GenAI-Anwendungen für Dokumentenprozesse

HMS verbindet GenAI Engineering, Anwendungsentwicklung und Cloud-Infrastruktur in einem Projektansatz. In diesem Projekt lag der Schwerpunkt auf einer nutzbaren Anwendung, nicht nur auf einem technischen Prototyp.

Was Sie von HMS erwarten können

HMS übernimmt bei GenAI-Anwendungen nicht nur die technische Umsetzung einzelner Komponenten, sondern verbindet Architektur, Anwendung und Infrastruktur zu einer nutzbaren Lösung.

  • Entwicklung der Kernanwendung mit Frontend, Datenbank und AWS-Infrastruktur
  • Umsetzung von RAG-Architektur mit rollenbasierter Zugriffskontrolle
  • Verbindung von Dokumentensuche, Chat-Interface und nachgelagerter Dokumentenverarbeitung
Christoph Bergen
Christoph Bergen
CoE Lead GenAI

Sie möchten ein ähnliches Projekt umsetzen?

Sprechen Sie mit HMS darüber, wie sich Ihre Daten-, KI- oder Softwarelösung fachlich einordnen, technisch umsetzen und in Ihre bestehende Systemlandschaft integrieren lässt.

Projekt besprechen

Nächste Schritte und Vertiefung

Read more

Generative & Agentic AI

Erfahren Sie, wie Generative und Agentic AI Unternehmen dabei unterstützen, Wissen effizient zu nutzen, Prozesse zu automatisieren und intelligente Anwendungen produktiv einzusetzen.

Mehr zu Generative & Agentic AI

Read more

Weitere Projekte

Entdecken Sie weitere Referenzprojekte rund um Generative AI, intelligente Dokumentenanalyse, AI Assistants und Agentic AI.

Zu unseren Projekten