Einführung von Community Tools auf HuggingChat

Veröffentlicht am 16. September 2024 von Nathan Sarrazin

Hugging Face erweitert die Möglichkeiten seiner Chat-Anwendung HuggingChat durch die Einführung der neuen Funktion „Community Tools“. Mit diesem Feature können Benutzer nun jede beliebige Space auf Hugging Face in ein Tool verwandeln, das direkt von Modellen in HuggingChat verwendet werden kann. Diese Erweiterung ermöglicht es, die Modalitäten innerhalb von HuggingChat zu erweitern und damit neue Anwendungsfälle wie Bildverarbeitung, Videoerstellung und Text-to-Speech-Modelle zu unterstützen.

Was sind Community Tools?

Community Tools sind benutzerdefinierte Funktionen, die auf Hugging Face Spaces basieren und in HuggingChat integriert werden können. Dies ermöglicht es Nutzern, ihre eigenen Tools zu erstellen oder bereits existierende Spaces zu nutzen, um die Fähigkeiten von HuggingChat zu erweitern. Die Tools sind flexibel und können je nach Bedarf verschiedene Eingabe- und Ausgabemodalitäten unterstützen, z. B. Text, Bild oder Audio.

Anwendungsfälle für Community Tools

Die Einführung der Community Tools eröffnet eine Vielzahl von neuen Möglichkeiten für Entwickler und Nutzer. Im Folgenden werden einige interessante Anwendungsfälle vorgestellt:

1. Verwandeln einer Community Space in ein Tool: Jeder kann eine öffentliche Space auf Hugging Face in ein Tool umwandeln, das dann direkt in HuggingChat genutzt werden kann. Ein Beispiel dafür ist die Nutzung von DamarJati/FLUX.1-RealismLora, einer Space für KI-gestützte Bildgenerierung. Um ein Tool zu erstellen, gibt man die URL der Space ein und definiert die Funktionen und Parameter, die von den Modellen genutzt werden können.
2. Erstellen eines benutzerdefinierten Tools: Mit grundlegenden Python-Kenntnissen kann man auch eigene Tools erstellen. Ein einfaches Beispiel ist ein Tool zum Würfeln, das zufällige Zahlen generiert. Dazu erstellt man eine neue Gradio Space auf Hugging Face und implementiert die gewünschte Funktionalität. Diese benutzerdefinierten Tools können dann wie bereits existierende Spaces in HuggingChat integriert werden.
3. Erweiterung von Assistenten mit Community Tools: Tools können nicht nur separat genutzt werden, sondern auch in Assistenten integriert werden, um deren Funktionalität zu erweitern. Bei der Erstellung eines Assistenten, der mit einem tool-kompatiblen Modell arbeitet, können bis zu drei verschiedene Tools ausgewählt werden. Ein Beispiel wäre ein „Game Master“-Assistent, der sowohl Bildgenerierung als auch Würfeln unterstützt.
4. Erstellung eines RAG-Tools für eigene Dokumente: Ein Retrieval-Augmented-Generation (RAG)-Tool kann verwendet werden, um Fragen zu eigenen Dokumenten direkt in HuggingChat zu beantworten. Dies wird erreicht, indem man eine Space dupliziert, in der die gewünschten Dokumente gespeichert sind, und diese dann als Community Tool konfiguriert.

Wie erstellt man ein Community Tool?

Um ein Tool zu erstellen, gibt es einige wichtige Schritte:

• Toolbeschreibung: Die Beschreibung sollte kurz und präzise sein, damit das Large Language Model (LLM) versteht, was das Tool leisten kann.
• AI-Funktionsname: Der Funktionsname sollte einzigartig und selbsterklärend sein.
• Argumente: Parameter können erforderlich, optional oder festgelegt sein. Es ist wichtig, die Parameter korrekt zu definieren, damit das Modell sie optimal nutzen kann.

Sobald ein Tool erstellt ist, kann es aktiviert und mit tools-kompatiblen Modellen in HuggingChat verwendet werden.

Nutzung von Gradio zur Erstellung von Tools

Gradio ist ein leistungsstarkes Framework zur Erstellung von Benutzeroberflächen für maschinelle Lernmodelle und -anwendungen. Ein einfaches Beispiel für die Erstellung eines Tools mit Gradio könnte wie folgt aussehen:

pythonCopy codeimport gradio as gr
import random

def roll_dice(sides=6):
    return random.randint(1, sides)

demo = gr.Interface(
    fn=roll_dice,
    inputs=gr.Number(value=6, label="Number of Sides"),
    outputs="text",
    title="Dice Roller",
    description="Enter the number of sides for the dice and get the roll result."
)

demo.launch()

Durch die Bereitstellung dieses Codes in einer neuen Gradio Space und das Veröffentlichen der Space kann diese direkt als Community Tool in HuggingChat genutzt werden.

Feedback und Weiterentwicklung

Hugging Face ist offen für Feedback zur neuen Funktion der Community Tools. Die Funktion befindet sich noch in der experimentellen Phase, und Benutzer sind eingeladen, ihre Erfahrungen und Verbesserungsvorschläge im Feedback-Thread zu teilen. Dies hilft dabei, die Funktion weiterzuentwickeln und mögliche Probleme zu identifizieren und zu beheben.

Fazit

Die Einführung von Community Tools auf HuggingChat ist ein spannender Schritt in Richtung einer flexibleren und anpassbaren Chat-Anwendung, die durch die Community selbst erweitert und verbessert werden kann. Die Möglichkeit, multimodale Inhalte zu integrieren und benutzerdefinierte Tools zu erstellen, eröffnet zahlreiche neue Anwendungsfälle und bietet eine großartige Plattform für Innovationen im Bereich der KI-gestützten Kommunikation.

Weitere Informationen und eine ausführliche Anleitung zur Erstellung von Community Tools finden Sie auf der offiziellen Hugging Face Blog-Seite.