Kotaemon: Ein Offenes und Anpassbares RAG-UI für Dokumenten-Chat

Einführung

In der Welt der künstlichen Intelligenz und der Datenverarbeitung hat die Open-Source-Community eine bedeutende Rolle gespielt. Ein bemerkenswertes Projekt, das in diesem Bereich Aufsehen erregt hat, ist Kotaemon – ein offenes und anpassbares RAG-UI für das Chatten mit Dokumenten. Entwickelt von Cinnamon, bietet Kotaemon sowohl Endnutzern als auch Entwicklern eine Plattform, um Fragen zu ihren Dokumenten zu stellen und zu beantworten.

Hauptmerkmale

Kotaemon bietet eine Vielzahl von Funktionen, die sowohl für Endnutzer als auch für Entwickler attraktiv sind:

Für Endnutzer

Endnutzer, die eine saubere und minimalistische Benutzeroberfläche für RAG-basierte Fragen und Antworten benötigen, finden in Kotaemon eine geeignete Lösung. Es unterstützt verschiedene LLM-API-Anbieter wie OpenAI, AzureOpenAI, Cohere und lokale LLMs über Ollama und Llama-cpp-python. Die Installation ist einfach und schnell durchführbar.

Für Entwickler

Entwickler können ihre eigenen RAG-basierten Dokumenten-QA-Pipelines mit Kotaemon erstellen. Die Plattform bietet eine anpassbare Benutzeroberfläche, die mit Gradio aufgebaut ist, und ermöglicht es Entwicklern, ihre RAG-Pipeline in Aktion zu sehen. Kotaemon unterstützt auch eine hybride RAG-Pipeline, die sowohl Volltext- als auch Vektor-Retriever nutzt, um die beste Abrufqualität zu gewährleisten.

Installation

Die Installation von Kotaemon kann entweder mit Docker oder ohne durchgeführt werden.

Mit Docker (empfohlen)

Um den Server zu starten, verwenden Sie den folgenden Befehl:

        docker run \\
        -e GRADIO_SERVER_NAME=0.0.0.0 \\
        -e GRADIO_SERVER_PORT=7860 \\
        -p 7860:7860 -it --rm \\
        taprosoft/kotaemon:v1.0
    

Navigieren Sie zu http://localhost:7860/, um auf die Web-UI zuzugreifen.

Ohne Docker

Clone und installieren Sie die erforderlichen Pakete in einer frischen Python-Umgebung:

        # optional (setup env)
        conda create -n kotaemon python=3.10
        conda activate kotaemon

        # clone this repo
        git clone https://github.com/Cinnamon/kotaemon
        cd kotaemon

        pip install -e "libs/kotaemon[all]"
        pip install -e "libs/ktem"
    

Starten Sie den Webserver:

        python app.py
    

Die App wird automatisch in Ihrem Browser gestartet. Standardbenutzername und -passwort sind: admin / admin.

Erweiterbarkeit und Anpassbarkeit

Kotaemon ist auf Gradio aufgebaut, was bedeutet, dass Sie frei sind, beliebige UI-Elemente hinzuzufügen oder anzupassen. Das System unterstützt auch mehrere Strategien für Dokumentenindexierung und -abruf. Die Konfiguration kann über die Dateien flowsettings.py und .env angepasst werden.

Schlussfolgerung

Kotaemon stellt eine wertvolle Ressource für sowohl Endnutzer als auch Entwickler dar, die nach einer robusten und anpassbaren Lösung für Fragen und Antworten zu ihren Dokumenten suchen. Mit seiner breiten Palette an Funktionen und der Möglichkeit zur Anpassung ist es ein bemerkenswertes Beispiel für die Stärke und Flexibilität von Open-Source-Projekten im Bereich der künstlichen Intelligenz.

Bibliographie

- https://x.com/_akhaliq/status/1828892696519553309 - https://github.com/Cinnamon/kotaemon - https://x.com/gradio - https://github.com/Cinnamon/kotaemon/blob/main/libs/ktem/ktem/reasoning/simple.py