Neue Funktionen in der Midas KI erlauben den Aufbau einer Firmen internen Knowledge Database. Diese Datenbank kann laufend mit Dokumenten wie PDFs, Excel etc. erweitert werden und existiert auf Tenant Ebene. Der Inhalt wird automatisch vektorisiert und queries können per Vector Search ausgeführt werden. Das erlaubt eine einfache Integration von relevanten “Firmen Wissen” in Aufträgen an die Midas KI.
Achtung: Zum Testen ist die Knowledge derzeit ausschliesslich für den Tenant G.O.D verfügbar!
Bitte melden Sie sich an, um die Wissensdatenbank zu nutzen.
Erklärung
Der Upload erlaubt dem Tenant das hochladen von PDF oder anderen Dokumenten an die Middleware. Diese durchlaufen ein Processing in Abhängigkeit des Dokumententyps.. (ie. PDF -PDF Plumber). Das Dokument wird anschliessend um whitespace bereinigt und gechunkt. Die Chunks von AWS Titan vektorisiert. In der Tenannt Datenbank landen ein Dokuement in sys_kb_documents und die chunks in sys_kb_chunks. Auf letzteres muss ein MongoDB Vector Index liegen um die Suche zu ermöglichen
Die Abfrage erfolgt in der Vektorisierung der Frage mit Titan gegen den Vektor Index, bzw. die Vektor Suche. Die Top 5 Suchergebnisse werden dann in der Bedrock Analyse verwendet. Zum Tuning der Vektorfragen wählen wir die Bedrock Analyse ab um uns die Ergebnisse der Vektorsuche anzusehen.
Mit der Option DeepThought schicken wir nicht nur die Chunks. Vom Chunk ausgehend wird das gesamte Dokument an Bedrock geschickt. Das verteuert den Tokenverbrauch aber braucht auch länger.
Wann RAG Pipeline
Für eine User Frage “Welche aktiven Policen hat die Kenova” und “Wann laufen die aktuellen Policen der Kenova aus” ist eine herkömmliche Suche auf der Policen Collection vermutlich die bessere Wahl.
RAG Pipelines haben den Vorteil, wenn wir eine größere Bibliothek, Statuten, AVBs durchsuchen wollen. Oder man kombiniert sie mit einem bestimmten Dokument. Die Ergebnisse müssen wir testen, die Verwendung von Tags und “spezifischen” Fragen ist ebenfalls wichtig, da sonst die Ergebnisse verwaschen.