KI-Chatbots mit eigenem Wissensschatz dank RAG-Technologie

Im Rahmen eines sogenannten MicroHacks bat Microsoft statworx, ein führendes KI-Entwicklungs- und Beratungsunternehmen, eine KI-Anwendung in der Cloud-Plattform Microsoft Azure umzusetzen und zu dokumentieren. Die Herausforderung: Große Sprachmodelle (Large Language Models, LLM) erlernen zwar inhaltliche Zusammenhänge während des Trainingsprozesses. Jedoch bleibt ihr Wissensstand statisch und veraltet schnell. Zudem neigen sie dazu, Sachverhalte zu erfinden.

Hier bietet „Retrieval-augmented Generation“ (RAG) eine Lösung. Durch die Integration eines RAG-Workflows sucht ein Sprachmodell automatisiert nach passendem Datenbankwissen, wenn es eine Antwort auf einen Prompt generiert. Genau das entwickelte statworx erfolgreich im Rahmen des MicroHacks: einen KI-Chatbot, der Informationen aus eigenen Dokumenten verarbeitet und so präzise und zuverlässige Antworten liefert.

statworx dankt Microsoft für die Gelegenheit, die Möglichkeiten von Azure für einen modernen Machine-Learning-Workflow wie RAG zu testen. Die Ergebnisse des MicroHacks sind auf dem offiziellen MicroHacks-GitHub-Repository verfügbar. Die Entwicklung markiert einen wichtigen Schritt in der Anwendung von Künstlicher Intelligenz in Unternehmen und eröffnet neue Möglichkeiten für präzise Antworten aus großen Sprachmodellen.

Hier lesen Sie, wie das Team von statworx im Detail vorgegangen ist. Wenn Sie erfahren möchten, wie Sie einen intelligenten Chatbot in Ihrem Unternehmen integrieren, kontaktieren Sie statworx.