Zum Inhalt springen

· von Nedjat Nuhi

Firmenwissen per Chat: RAG-Systeme für Schweizer KMU

Kurz beantwortet

Retrieval-Augmented Generation verbindet ein Sprachmodell mit internen Dokumenten, sodass Mitarbeitende Firmenwissen im Chat präzise abfragen können. Durch standardisierte Konnektoren für gängige Dateiablagen und Cloud-Systeme gelingt die Inbetriebnahme heute innerhalb weniger Tage statt monatelanger Softwareprojekte. Die Architektur schützt Betriebsgeheimnisse, weil Daten nicht in das Training öffentlicher Modelle fliessen und bestehende Zugriffsrechte wirksam bleiben.

Kleine und mittlere Unternehmen in der Schweiz verwalten ihr Wissen in unzähligen Dokumenten, von Arbeitsanweisungen über Offerten bis hin zu technischen Handbüchern. Die Suche nach konkreten Antworten kostet im Arbeitsalltag oft viel Zeit. Retrieval-Augmented Generation, abgekürzt RAG, löst dieses Problem über eine Chat-Oberfläche. Das System durchsucht firmeninterne Speicher, findet die passende Textstelle und formuliert daraus eine präzise Antwort mit Quellenangabe.

Laut der KMU-Arbeitsmarktstudie 2026 von AXA Schweiz integrieren bereits 35 Prozent der befragten Schweizer Betriebe künstliche Intelligenz bewusst in ihre Prozesse. Ein grosser Teil dieser Anwendungen betraf bisher einfache Textentwürfe oder Übersetzungen. RAG erweitert diesen Einsatzbereich auf die eigenen Geschäftsdaten, ohne dass vertrauliche Informationen öffentlich werden.

Wie RAG internes Firmenwissen nutzbar macht

Klassische Sprachmodelle antworten ausschliesslich auf Basis der Texte, mit denen sie trainiert wurden. Sie kennen weder betriebliche Richtlinien noch aktuelle Kundendossiers. Werden sie nach internen Details gefragt, erfinden sie im Zweifel plausible Antworten. RAG trennt die Wissensbasis strikt von der Sprachfähigkeit des Modells.

Der Ablauf folgt drei festen Schritten. Stellt ein Mitarbeiter eine Frage, scannt eine semantische Suchfunktion die angebundenen Unternehmensdaten nach inhaltlich passenden Abschnitten. Diese Textstellen werden anschliessend zusammen mit der Frage an das Sprachmodell übergeben. Das Modell formuliert die Antwort ausschliesslich auf der Grundlage dieser mitgelieferten Belege. Jeder Satz lässt sich dadurch direkt auf die Originaldatei zurückführen, sei es ein PDF auf dem Firmenserver oder ein Dokument in Microsoft SharePoint.

Technischer Fortschritt senkt den Einführungsaufwand

Noch vor zwei Jahren erforderten RAG-Systeme aufwendige Eigenentwicklungen. Unternehmen mussten Vektordatenbanken von Grund auf selbst aufbauen, Dokumente manuell aufbereiten und Schnittstellen programmieren. Für die meisten KMU ohne eigene Entwicklungsabteilung war dieser Aufwand wirtschaftlich nicht darstellbar.

Im Jahr 2026 hat sich diese Ausgangslage grundlegend gewandelt. Vorgefertigte Unternehmens-Konnektoren binden Standardprogramme wie Microsoft 365, Google Workspace, Confluence oder lokale Netzlaufwerke direkt an. Die semantischen Suchmodelle erfassen Fachbegriffe und Zusammenhänge heute ohne mühsame Konfiguration. Ein Wissens-Assistent lässt sich deshalb innerhalb weniger Tage aufsetzen und im laufenden Betrieb testen.

Datenschutz und Berechtigungen nach Schweizer Recht

Beim Einsatz von KI mit Betriebsdaten steht der Schutz vertraulicher Informationen an erster Stelle. Das revidierte Schweizer Datenschutzgesetz verlangt klare Vorgaben zur Zweckbindung und Datensicherheit. RAG-Architekturen unterstützen diese Vorgaben durch ihren technischen Aufbau.

Die Firmendokumente fliessen nicht in das Training der grossen Sprachmodelle ein. Der Datenzugriff erfolgt als temporäre Abfrage über geschützte Schnittstellen, die vertraglich jegliche Weiterverwendung durch den Modellanbieter ausschliessen. Schweizer Betriebe können zudem auf Rechenzentren in der Schweiz zurückgreifen, wodurch Daten das Land zu keinem Zeitpunkt verlassen.

Ebenso wichtig ist die Übernahme bestehender Zugriffsrechte. Ein Mitarbeiter im Betrieb darf über den Chat nur Dokumente finden, für die sein Benutzerkonto freigeschaltet ist. Moderne Konnektoren synchronisieren die Rechtestruktur des Dateisystems. Hat eine Person keine Leserechte für Lohnabrechnungen oder Management-Protokolle, ignoriert die Suchfunktion diese Dokumente bei der Beantwortung vollständig.

Typische Einsatzbereiche im KMU-Alltag

In Produktions- und Handwerksbetrieben beschleunigt RAG den Zugriff auf Montageanleitungen, Normen und Wartungsprotokolle. Servicetechniker tippen eine Fehlermeldung in das Smartphone ein und erhalten sofort die passende Handlungsanweisung aus dem Handbuch. Das erspart Rückfragen in der Zentrale und verkürzt die Einsatzzeiten vor Ort.

Im Vertrieb und im Kundendienst unterstützt das System bei der Erstellung komplexer Angebote. Mitarbeitende fragen frühere Offerten zu ähnlichen Projekten ab und prüfen Garantiebestimmungen oder Preisstaffeln in Sekundenschnelle. Neue Mitarbeitende finden sich während der Einarbeitung selbstständig in Arbeitsabläufen zurecht, weil sie interne Prozessbeschreibungen per Dialog abrufen können.

Schritte zur Einführung

Die Einführung eines RAG-Systems beginnt mit der Auswahl einer klar abgegrenzten Dokumentenbasis. Statt sämtliche Datenarchive auf einmal anzubinden, startet der Testlauf mit einer Abteilung oder einer bestimmten Dokumentenart. Ein typischer Startpunkt sind technische Dokumentationen, interne Richtlinien oder HR-Dokumente.

Vor der technischen Umsetzung lohnt sich eine Bestandsaufnahme der Datenqualität und der IT-Infrastruktur. Der KI-Ready-Check von dialogis.ai analysiert diese Voraussetzungen bei Schweizer KMU und zeigt auf, welche Systeme sich für die Einbindung eignen und welche Richtlinien vorab definiert werden müssen.

Quellen

Erzählen Sie mir, was bei Ihnen liegen bleibt.

30 Minuten, kostenlos und unverbindlich. Ich sage Ihnen ehrlich, ob und wo KI bei Ihnen Nutzen bringt. Und wenn nicht, sage ich Ihnen auch das.

Erstgespräch buchen

Antwort innert 1 Arbeitstag