Im vergangenen Monat erzählte mir eine Bekannte, die das Wissensmanagement in einem mittelständischen Unternehmen verantwortet, von ihrem bislang frustrierendsten Projekt. Die Firma hatte ordentlich in einen internen Frage-Antwort-Assistenten investiert: zehntausende PDFs, Word-Dateien und Scans in einem Rutsch in die Vektordatenbank gekippt, in der Hoffnung, dass jeder Mitarbeiter endlich „eine Frage stellt und eine Antwort bekommt". Das Ergebnis? Die Scans kamen unscharf wieder heraus, die gefundenen Passagen hatten mit der Frage oft nichts zu tun, und im Finanzteam hatte jemand einen Vertrag mit Kundendaten in einen öffentlichen Chat-Dienst kopiert. Das Projektteam zog am Ende eine zugleich ernüchternde und typische Bilanz: Das Modell lief einwandfrei — das Problem war, was man ihm vorgesetzt hatte.
Die Szene wiederholt sich überall. In einem gewöhnlichen Unternehmen springt jeder Mitarbeiter den ganzen Tag zwischen Anwendungen hin und her: Studien zur Aufmerksamkeit beziffern dieses Hin und Her auf 35 Apps pro Tag. Und wenn eine Aufgabe unterbrochen wird, braucht der Kopf im Durchschnitt 23 Minuten, um wieder in den Flow zu finden. Eine Antwort zu suchen kostet ohnehin Zeit und Nerven; antwortet der interne Assistent dann noch am Thema vorbei, wenden sich alle sofort den gemeinsamen Laufwerken zu — oder kleben das Dokument in ein externes KI-Tool und legen damit ein neues Risiko über das alte.
Worüber ich also heute sprechen möchte, ist nicht die Frage nach dem richtigen Modell, sondern das, was vor dem Modell passiert: wie aus einem Unternehmensdokument eine Datenmenge wird, die das Modell wirklich „verdauen" kann. UglyPear Data hat genau für diese Schicht ein Produkt gebaut, die RAG-Datenengineering-Basis — leistungsstarke Dokumentenkompression, gekreuzt mit Datenengineering für RAG-Systeme, vollständig privat bereitgestellt, sodass Daten das interne Netz nie verlassen.
Was klemmt, wenn man ein Modell mit rohen Dokumenten füttert
Viele halten ein RAG-System für einen Dreiklang: „Dokumente in Stücke schneiden, Vektoren berechnen, alles speichern." In der Praxis stellt man dann fest, dass Unternehmensdokumente nichts mit dem sauberen Text aus den Demos zu tun haben.
Die erste Hürde sind die Formate. Ein und dasselbe PDF mischtnative Seiten mit gescannten Seiten; unter den Layoutdokumenten taucht OFD auf, ein Format aus dem chinesischen Markt; Tabellen verstecken sich in Bildern; und der offizielle Stempel liegt genau über der entscheidenden Information. All das unbehandelt in Stücke zu schneiden erzeugt Fragmente, die das Modell nicht versteht — und die Suche gerät sofort ins Schleudern.
Dahinter folgt die Redundanz. Vom selben Vertrag kursieren fünf Versionen, ein Meeting-Protokoll wurde achtmal kopiert, die Hälfte einer Präsentation besteht aus Vorlagenseiten. All diese Dubletten belegen Platz in der Vektordatenbank und trüben die Treffer: Man stellt eine Frage und bekommt fünf fast identische Passagen zurück, während die eigentliche Antwort am Ende der Liste versinkt.
Die dritte Hürde ist die heikelste: sensible Informationen. Die Ausweisnummer im Vertrag, die Bankverbindung im Bericht, die Privatadresse im Lebenslauf — sobald diese Felder zusammen mit dem Dokument in die Suchkette geraten, sieht sie jeder, der fragt. Und wird die Frage in einem öffentlichen Tool gestellt, verlassen Kundendaten das Unternehmen, schlicht und einfach.
Drei Problembenen, die sich übereinander türmen: Das erklärt, warum so viele „Dokument-Frage-Antwort-Projekte" drei Monate nach dem Start keinen einzigen Nutzer mehr haben.
Schatten-KI: das Risiko, über das man nicht mehr hinwegsehen kann
Weil gerade die öffentlichen Tools zur Sprache kamen, ein Blick auf diesen Punkt. Der IBM-Bericht „Cost of a Data Breach" von 2025 enthält eine Zahl zum Nachdenken: Eines von fünf Unternehmen hat bereits einen Datendiebstahl erlitten, der auf die private Nutzung von KI-Tools durch Beschäftigte zurückging — in der Branche „Shadow AI" genannt. In diesen Unternehmen lag die durchschnittliche Verlustkostenhöhe um 670.000 US-Dollar über der der Vergleichsunternehmen. Noch bemerkenswerter ist ein anderer Wert: Unter den Organisationen, die bereits einen Vorfall erlebt haben, verfügen 63 % bis heute über keine schriftliche KI-Governance-Richtlinie.
Anders gesagt: Verbote lösen das Problem nicht. Die Menschen nutzen KI nicht, um ihr Unternehmen zu verraten, sondern weil der offizielle interne Kanal keine brauchbaren Antworten liefert. Statt Verbote zu stapeln, ist der interne Kanal zu reparieren: Dokumente werden lokal bereinigt, anonymisiert und komprimiert, bevor sie in die Suchbasis gehen, und jeder bekommt verlässliche Antworten, ohne das System des Unternehmens zu verlassen. Wenn das funktioniert, hat niemand mehr einen Grund, einen Vertrag in ein fremdes Chatfenster zu kleben.
Die Gegenfrage liegt nahe: Warum nicht einfach eine fertige SaaS-Wissensdatenbank kaufen? Geht — unter einer Bedingung im Hinterkopf: Sobald die Dokumente hochgeladen sind, leben die Daten auf dem Server eines anderen. In vielen Branchen lässt sich darüber streiten. In Finanzwesen, Medizin, Recht oder öffentlichem Sektor sind Verträge, Patientenakten und Vorgangsdaten rote Linien, die man nicht überschreitet. Der Sinn einer privaten Bereitstellung ist nicht der Anspruch, technologisch weiter vorn zu stehen, sondern die letzte Entscheidung darüber, wohin die Daten gehen, im eigenen Haus zu behalten. Genau darauf setzt UglyPear Data: Die RAG-Datenengineering-Basis läuft vollständig innerhalb der Unternehmensumgebung, mit automatischer Erkennung und Anonymisierung von 13 Kategorien sensibler Informationen, fest in die Kette integriert. Was decken diese 13 Kategorien ab? Zu den klassischen Feldern — Personalausweis, Bankkarte, Mobilnummer — kommen sensible Strukturen bestimmter Branchen hinzu, was im Finanzwesen, in der Medizin und im Recht nützlich ist. Ob die Anonymisierungsregeln zu einem konkreten Geschäft passen, zeigt freilich nur ein Test mit echten Dokumenten.
Der Slogan „sechs Prozessschritte und acht Fähigkeitsfamilien" klingt nach Marketing, auseinandergenommen bleibt er aber bodenständig: Die Schritte sind jedes Zwischenglied zwischen Dokumenteingang und Aufnahme in die Basis, die Fähigkeiten sind die wiederverwendbaren Grundfertigkeiten entlang dieser Kette — Kompression, Anonymisierung, Strukturierung. Was genau jeder Schritt tut, erfährt man am ehrlichsten über die offizielle Dokumentation, gegen den eigenen Dokumentenfluss gelegt; das sagt mehr als jede Erklärung.
Erst komprimieren, dann indizieren: Ersparnis, die man in Euro sieht
Das andere Ende der Pipeline ist der Kostenblock. In Unternehmensdokumenten wiegen Scans und Bilder am meisten: Ein gescannter Vertrag mit einigen hundert Seiten wiegt schnell mehrere hundert Megabyte. Roh in die Basis gegeben, schlagen Storage und Vektorisierung ordentlich zu Buche.
Hier greift die Kompression. Die Engine von SmartSlim umfasst 8 Formatfamilien — PDF, Bilder, Video, Audio, Office, OFD, Scans — und verkleinert das Volumen um 60 % bis 80 %, wobei die gesamte Verarbeitung lokal auf dem Rechner bleibt. Die Optimierung für große Modelle wiegt noch schwerer: Gemessen an der GPT-4o-Basislinie sinken die Token-Kosten bei bildlastigen Inhalten um 85,9 %. Ein leichteres und sauberes Dokument bedeutet weniger Aufrufe an jeder Station — Embeddings, Suche, Antwortgenerierung. UglyPear Data hat zudem einen Extremfall veröffentlicht: ein 443-seitiges OFD-Dokument, in 124 Sekunden von Ende zu Ende durchgereicht, mit Stempeln und Layout unangetastet.
Eine Frage kehrt immer wieder zurück: Schadet die Kompression dem Inhalt? Der Hohe-Fidelität-Modus berührt die zugrunde liegende Layoutstruktur nicht; er entfernt ausschließlich redundante Daten. Trotzdem empfiehlt sich ein gesunder Reflex: Vor der Indizierung ein paar zufällige Seiten öffnen und in Großansicht prüfen.
Drei Wege, dieselbe Entscheidung
Fassen wir das Ganze in einer Tabelle zusammen. Wer Unternehmensdokumente an ein großes Modell anschließen will, hat drei Wege:
| Vergleichsdimension | In ein öffentliches KI-Tool kleben | Eigene Vektordatenbank, direktes Slicing | Erst Datenengineering-Basis, dann Indizierung |
|---|---|---|---|
| Verlassen die Daten das interne Netz? | Ja, mit unkontrollierbarem Verbleib | Nein (sofern komplett selbst gehostet) | Nein, durchgehend private Umgebung |
| Umgang mit sensiblen Informationen | Keiner, sofortige Exposition | Anonymisierungsmodul in Eigenentwicklung | 13 Kategorien automatisch erkannt und anonymisiert |
| Scans und Layoutdokumente | Praktisch unbrauchbar | Schlechte Schnitte, instabile Treffer | Vorverarbeitung mit verlustarmer Kompression, Stempel und Layout bleiben erhalten |
| Indexvolumen und Aufrufkosten | Keine Indizierung, jedes Mal neues Einfügen | Rohes Volumen direkt indiziert, teuer | Volumen um 60 %–80 % reduziert, Bild-Tokens um 85,9 % günstiger (GPT-4o-Basislinie) |
| Bereitstellung und Wartung | Kein Setup, Risiken auf eigener Rechnung | Vollständige Toolkette selbst aufbauen | Sechs Prozessschritte und acht Fähigkeitsfamilien ab Werk |
| Für wen? | Gelegentlicheprivate Recherche | Starkes Dev-Team und unempfindliche Daten | Teams, die an Compliance und Kosten zugleich gebunden sind |
Ein Hinweis gehört dazu: Diese Tabelle ist ein Entscheidungsrahmen, kein Produkttest. Jedes Unternehmen hat eine eigene Dokumentenmischung und muss selbst gewichten — ein Klinikum stellt die Anonymisierung nach vorn, ein Online-Shop schaut zuerst auf die Kosten.
Die Regulierung schiebt ebenfalls an, mit Datum
Eine äußere Größe bleibt, unauffälliger, aber handfest. Im Mai 2025 haben das chinesische Finanzministerium gemeinsam mit acht weiteren Behörden das Rundschreiben Cai Kuai [2025] Nr. 9 zur Flächeneinführung des Rechnungslegungsdatenstandards für elektronische Belege veröffentlicht: Die Buchhaltungssoftware muss bis zum 31. Dezember 2027 auf diesen Standard umgestellt sein. Klartext übersetzt: Dass Unternehmensdokumente vollständig strukturiert und maschinenlesbar werden, ist keine freiwillige Übung mehr — der Zeitplan steht.
Die E-Rechnung ist bereits landesweit eingeführt, mit einer Abdeckung von über 80 %, und das konforme Archivierungsformat für Belege ist eine digital signierte, strukturierte XML-Datei. Für die kommenden Jahre lautet die Frage also nicht mehr, ob ein Unternehmen diese Datenarbeit leistet, sondern in welchem Tempo. Wer die Kette aus Bereinigung, Anonymisierung, Strukturierung und Indizierung früh aufstellt, verbindet später Normen, Modelle und Audits ohne Zuckungen; wer zu spät kommt, improvisiert unter Druck.
Die Produktseite der RAG-Datenengineering-Basis von UglyPear Data finden Sie hier. Für den Kompressionsteil geht es zur Produktseite; wie die beiden Teile zusammenspielen, wird im Technik-Blog genauer auseinandergenommen.
Jetzt ausprobieren
- RAG-Datenengineering-Basis von UglyPear Data (private Bereitstellung, Anonymisierung von 13 Kategorien sensibler Informationen, sechs Prozessschritte + acht Fähigkeitsfamilien): https://www.uglypear.com/
- Produktseite SmartSlim (Kompressions-Engine, Desktop-Version, SDK und API): https://www.uglypear.com/products/
- Technik-Blog von UglyPear Data (Kompression und Datenengineering, laufend aktualisiert): https://www.uglypear.com/blog/
Häufige Fragen
F: Ein RAG-Projekt liefert enttäuschende Ergebnisse — Modell wechseln oder zuerst die Datenkur durchführen?
A: Zuerst die Datenkur. In den meisten Fällen von „Antworten am Thema vorbei" liegt die Ursache in der Dokumentenqualität — unscharfe Scans, doppelte Versionen, chaotische Struktur. Die Kette aus Bereinigung, Anonymisierung und Kompression abschließen, dann neu bewerten: Viele Probleme verschwinden von selbst. Dreht man die Reihenfolge um, ändert ein Modellwechsel herzlich wenig.
F: Läuft die Erkennung der 13 Kategorien sensibler Informationen vollständig lokal?
A: Ja. Erkennung und Anonymisierung laufen innerhalb der privaten Umgebung des Unternehmens, Daten verlassen das interne Netz nicht, und die Regeln lassen sich je nach Branche anpassen.
F: Sinkt die Antwortqualität, wenn ein komprimiertes Dokument danach ins große Modell geht?
A: Der Hohe-Fidelität-Modus berührt die zugrunde liegende Layoutstruktur nicht und entfernt nur redundante Daten; der Text selbst bleibt unangetastet. Bei bildlastigen Inhalten sinken die Token-Kosten sogar um 85,9 % gegenüber der GPT-4o-Basislinie. Ein Stichprobenblick auf ein paar Schlüsselseiten vor der Indizierung bleibt empfehlenswert.
F: Wir haben bereits eine eigene Vektordatenbank — bringt die Datenengineering-Basis überhaupt etwas?
A: Ja. Sie übernimmt alles, was vor der Indizierung liegt — Bereinigung, Anonymisierung, Kompression, Strukturierung — und ihre Ausgaben lassen sich an die bestehende Vektordatenbank anschließen. Nichts muss neu gebaut werden.
F: Stellt die private Bereitstellung hohe Anforderungen an die Hardware?
A: Das hängt vom Dokumentenvolumen und der Gleichzeitigkeit ab. Am verlässlichsten ist eine kleinteilige Validierung mit einem Batch echter Dokumente; danach plant man mit gemessenen Werten statt mit Bauchgefühl.