Gradio: Eine Einführung in die Erstellung von MCP-Servern für KI-Anwendungen
Artikel jetzt als Podcast anhören
Gradio: Brücke zwischen Python und KI-gesteuerten Anwendungen
Gradio, eine Python-Bibliothek, die monatlich von über einer Million Entwicklern genutzt wird, ermöglicht die Erstellung von Schnittstellen für Machine-Learning-Modelle. Neben der UI-Erstellung bietet Gradio auch API-Funktionen und die Möglichkeit, Gradio-Apps als Model Context Protocol (MCP)-Server für LLMs zu starten. Dies bedeutet, dass Ihre Gradio-App, egal ob Bildgenerator, Steuerrechner oder etwas ganz anderes, von einem LLM als Werkzeug aufgerufen werden kann.
Warum einen MCP-Server erstellen?
Ein MCP-Server bietet eine standardisierte Möglichkeit, Tools für LLMs bereitzustellen. Er kann LLMs mit zusätzlichen Funktionen ausstatten, z. B. der Möglichkeit, Bilder zu generieren oder zu bearbeiten, Audio zu synthetisieren oder spezifische Berechnungen wie die Primfaktorzerlegung von Zahlen durchzuführen.
Gradio vereinfacht die Erstellung dieser MCP-Server, indem es jede Python-Funktion in ein Werkzeug verwandelt, das von LLMs verwendet werden kann. Die Dokumentation der Funktion dient dabei zur Generierung der Beschreibung des Tools und seiner Parameter.
Funktionsweise der Gradio-MCP-Integration
Jedes API-Endpunkt in Ihrer Gradio-App wird automatisch in ein MCP-Tool mit entsprechendem Namen, Beschreibung und Eingabeschema konvertiert. Diese Informationen können über die API-Dokumentation der Gradio-App eingesehen werden.
Gradio bietet dynamische UI-Manipulation für sofortiges visuelles Feedback. Die Handhabung von Dateien, einschließlich der Konvertierung von base64-codierten Strings in Dateidaten, der Verarbeitung von Bilddateien und der Verwaltung temporärer Dateispeicher, wird automatisch vom Server übernommen. Es wird empfohlen, Eingabebilder und -dateien als vollständige URLs ("http://..." oder "https://...") zu übergeben, da MCP-Clients lokale Dateien nicht immer korrekt verarbeiten.
Die Aktivierung der MCP-Server-Funktionalität kann entweder über den Parameter mcp_server=True in der launch()-Methode oder durch Setzen der Umgebungsvariable GRADIO_MCP_SERVER auf True erfolgen.
Gehostete MCP-Server auf Hugging Face Spaces
Gradio-Anwendungen können kostenlos auf Hugging Face Spaces veröffentlicht werden, wodurch ein kostenlos gehosteter MCP-Server zur Verfügung steht. Die URL dieses Servers kann dann in den Einstellungen des MCP-Clients konfiguriert werden, um die Tools des Spaces zu nutzen.
Beispiel: Buchstaben zählen in einem Wort
LLMs haben Schwierigkeiten, die Anzahl der Buchstaben in einem Wort zu zählen. Mit einem entsprechenden Tool können sie jedoch unterstützt werden. Eine einfache Gradio-App, die die Anzahl der Buchstaben in einem Wort oder einer Phrase zählt, könnte wie folgt aussehen:
```python import gradio as gr def buchstaben_zaehlen(wort, buchstabe): """Zählt das Vorkommen eines bestimmten Buchstabens in einem Wort. Args: wort: Das zu analysierende Wort oder die Phrase. buchstabe: Der Buchstabe, dessen Vorkommen gezählt werden soll. Returns: Die Anzahl, wie oft der Buchstabe im Wort vorkommt. """ return wort.lower().count(buchstabe.lower()) demo = gr.Interface( fn=buchstaben_zaehlen, inputs=["text", "text"], outputs="number", title="Buchstabenzähler", description="Zählt, wie oft ein Buchstabe in einem Wort vorkommt." ) demo.launch(mcp_server=True) ```Durch das Setzen von mcp_server=True in demo.launch() wird die Gradio-App als MCP-Server gestartet. Die URL des MCP-Servers wird in der Konsole ausgegeben und kann dann im MCP-Client konfiguriert werden.
