Gro?e Sprachmodelle (LLMs) sind immer beliebter, wobei die Tool-Calling-Funktion ihre F?higkeiten über die einfache Textgenerierung hinaus erweitert hat. Jetzt k?nnen LLMs komplexe Automatisierungsaufgaben wie dynamische UI -Erstellung und autonome Aktionen übernehmen. Diese Modelle wurden auf massiven Datens?tzen ausgebildet und zeichnen sich aus, um strukturierte Daten zu verstehen und zu produzieren. Damit sind sie ideal für pr?zise Werkzeuganwendungsanwendungen. Dies hat ihre weit verbreitete Akzeptanz in der KI-gesteuerten Softwareentwicklung angeheizt, bei der das Werkzeuganruf-von grundlegenden Funktionen bis hin zu hoch entwickelten Agenten-jetzt zentral ist. In diesem Artikel wird die Grundlagen des LLM-Tools untersucht und zeigt, wie es mithilfe von Open-Source-Tools implementiert wird, um leistungsstarke Agenten aufzubauen.

Wichtige Lernziele

• Erfassen Sie das Konzept der LLM -Tools.
• Verstehen Sie die Grundlagen der Toolanrufe und deren Anwendungen.
• Erforschen Sie die Implementierungen von Tools in OpenAI (ChatCompletions-API, Assistenten-API, Parallel-Tool-Aufruf und strukturierte Ausgabe), anthropische Modelle und Langchain.
• Lernen Sie, effektive KI-Agenten mithilfe von Open-Source-Ressourcen zu konstruieren.

*Dieser Artikel ist Teil des *** Data Science Blogathon.

Inhaltsverzeichnis

• Was sind Werkzeuge?
• Was ist Tool Calling?
• Wie funktioniert Tool Calling?
  • Beispiel Anwendungsf?lle
• Werkzeuganruf mit OpenAI -Modellen
  • Verwendung der Assistenten -API
  • Parallele Funktion Aufruf
  • Strukturierter Ausgang
• Werkzeugaufruf mit anthropischer Klaude
• Werkzeuganruf mit Langchain
  • Schema -Definition mit pydantisch
• Geb?udeagenten mit Werkzeuganrufen
• Einführung von Composio
• Aufbau eines Github -Agenten
• H?ufig gestellte Fragen

Was sind Werkzeuge?

Werkzeuge sind Mechanismen, die es LLMs erm?glichen, mit externen Systemen zu interagieren. Diese Tools sind Funktionen für die LLM zug?nglich, die unabh?ngig ausgeführt werden, wenn die LLM ihre Verwendung für erforderlich h?lt. Eine typische Tool -Definition umfasst:

• Name: Ein beschreibender Funktion/Werkzeugname.
• Beschreibung: Ein detailliertes Werkzeug Erl?uterung.
• Parameter: Ein JSON -Schema, das die Funktions-/Werkzeugparameter definiert.

Was ist Tool Calling?

Das Aufrufen von Tools erm?glicht es dem Modell, Antworten zu generieren, die mit einem benutzerdefinierten Funktionsschema entsprechen. Wenn die LLM entscheidet, dass ein Werkzeug ben?tigt wird, erzeugt es eine strukturierte Ausgabe, die dem Argumentschema des Werkzeugs entspricht. Angesichts eines get_weather -Funktionsschemas würde beispielsweise eine Abfrage über das Wetter einer Stadt ein formatiertes Schema der Funktionsargumente zurückgeben, sodass die Ausführung die Wetterdaten abrufen kann. Wichtig ist, dass das LLM das Tool nicht ausführt. Es erzeugt die strukturierte Eingabe für die externe Ausführung.

Wie funktioniert Tool Calling?

Unternehmen wie OpenAI und Anthropic haben Modelle geschult, um geeignete Tools basierend auf dem Kontext auszuw?hlen. Jeder Anbieter behandelt das Tool -Aufruf und die Antworten unterschiedlich. Allgemein:

1. Definieren Sie Tools und geben Sie eine Eingabeaufforderung an: Definieren Sie Tools mit Namen, Beschreibungen und strukturierten Schemata zusammen mit der Eingabeaufforderung des Benutzers (z. B. "Was ist das Wetter in London?").
2. LLM -Werkzeugauswahl: Das LLM bewertet die Werkzeugbedarf. In diesem Fall stoppt es die Textgenerierung und generiert eine JSON-formatierte Antwort mit Tool-Parameterwerten.
3. Extrahieren, ausführen und zurückgeben: Extrahieren Sie Parameter, führen Sie die Funktion aus und geben Sie Ausg?nge an die LLM zurück.
4. Antwortgenerierung: Das LLM verwendet Toolausg?nge, um die endgültige Antwort zu formulieren.

Beispiel Anwendungsf?lle

• Aktionsaktivit?t: Verbinden Sie LLMs mit Anwendungen (Google Mail, Github, Discord), um Aktionen zu automatisieren (Senden von E -Mails, Erstellen von Pull -Anfragen, Senden von Nachrichten).
• Datenbereitstellung: Holen Sie Daten aus Wissensbasis (Web, Wikipedia, APIs), um LLMs spezifische Informationen bereitzustellen.
• Dynamische UIS: Aktualisieren Sie die Anwendungs ??-Benutzeroberfl?che basierend auf Benutzereingaben.

Die folgenden Abschnitte Detail-Tools-Ans?tze in OpenAI, Anthropic und Langchain. Open-Source-Modelle (wie Lama 3) und Inferenzanbieter (wie GROQ) unterstützen auch das Toolanruf.

(Der Rest des Artikels würde detaillierte Erkl?rungen des Tools in OpenAI, Anthropic, Langchain, Geb?udeagenten, Composio und einem Github -Agenten -Beispiel fortsetzen, das die Struktur und den Inhalt der ursprünglichen Eingabe widerspiegelt, jedoch mit umformulierten S?tzen und Wortschatzern.)

Das obige ist der detaillierte Inhalt vonWerkzeuganruf in LLMs. Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!