Model bahasa yang besar (LLMS) telah melonjak populariti, dengan ciri-ciri alat yang secara dramatik memperluaskan keupayaan mereka di luar penjanaan teks mudah. Sekarang, LLMS boleh mengendalikan tugas automasi yang kompleks seperti penciptaan UI dinamik dan tindakan autonomi. Dilatih dalam dataset besar-besaran, model-model ini cemerlang dalam memahami dan menghasilkan data berstruktur, menjadikannya sesuai untuk aplikasi memanggil alat yang tepat. Ini telah memacu penggunaannya yang meluas dalam pembangunan perisian yang didorong oleh AI, di mana alat memanggil-dari fungsi asas kepada agen yang canggih-kini menjadi pusat. Artikel ini meneroka asas-asas alat LLM yang memanggil dan menunjukkan cara melaksanakannya menggunakan alat sumber terbuka untuk membina ejen yang berkuasa.

Objektif pembelajaran utama

• Pegang konsep alat LLM.
• Memahami asas -asas alat panggilan dan aplikasinya.
• Terokai pelaksanaan panggilan alat di OpenAI (ChatCompletions API, API Pembantu, Panggilan Alat Selari, dan Output Struktur), model antropik, dan Langchain.
• Belajar untuk membina ejen AI yang berkesan menggunakan sumber sumber terbuka.

*Artikel ini adalah sebahagian daripada *** Data Science Blogathon.

Jadual Kandungan

• Apa itu alat?
• Apakah alat yang memanggil?
• Bagaimana alat memanggil kerja?
  • Contoh Gunakan kes
• Alat panggilan dengan model terbuka
  • Menggunakan pembantu API
  • Panggilan fungsi selari
  • Output berstruktur
• Alat panggilan dengan claude antropik
• Alat panggilan dengan langchain
  • Definisi skema dengan pydantic
• Ejen bangunan dengan alat panggilan
• Memperkenalkan Composio
• Membina ejen github
• Soalan yang sering ditanya

Apa itu alat?

Alat adalah mekanisme yang membolehkan LLM berinteraksi dengan sistem luaran. Alat ini berfungsi dengan mudah di LLM, dilaksanakan secara bebas apabila LLM menganggap penggunaannya diperlukan. Definisi alat biasa termasuk:

• Nama: Fungsi deskriptif/nama alat.
• Penerangan: Penjelasan alat terperinci.
• Parameter: Skema JSON yang menentukan parameter fungsi/alat.

Apakah alat yang memanggil?

Panggilan alat membolehkan model menjana respons yang sepadan dengan skema fungsi yang ditentukan pengguna. Apabila LLM memutuskan alat diperlukan, ia menghasilkan output berstruktur yang sesuai dengan skema argumen alat. Sebagai contoh, diberi skema fungsi get_weather , pertanyaan mengenai cuaca bandar akan mengembalikan skema format hujah fungsi, yang membolehkan pelaksanaan untuk mengambil data cuaca. Yang penting, LLM tidak melaksanakan alat itu; Ia menghasilkan input berstruktur untuk pelaksanaan luaran.

Bagaimana alat memanggil kerja?

Syarikat -syarikat seperti Openai dan Anthropic mempunyai model terlatih untuk memilih alat yang sesuai berdasarkan konteks. Setiap pembekal mengendalikan alat dan tindak balas alat yang berbeza. Umum:

1. Tentukan alat dan berikan petikan: Tentukan alat dengan nama, penerangan, dan skema berstruktur, bersama -sama dengan prompt pengguna (misalnya, "Apa cuaca di London?").
2. Pemilihan Alat LLM: LLM menilai keperluan alat. Jika ya, ia menghentikan penjanaan teks dan menghasilkan tindak balas yang diformat JSON dengan nilai parameter alat.
3. Ekstrak, laksanakan, dan kembali: Ekstrak parameter, jalankan fungsi, dan pulangkan output ke LLM.
4. Jawapan Generasi: LLM menggunakan output alat untuk merumuskan jawapan akhir.

Contoh Gunakan kes

• Pengaktifan Tindakan: Sambungkan LLMS ke Aplikasi (Gmail, GitHub, Discord) untuk mengautomasikan tindakan (menghantar e -mel, membuat permintaan tarik, menghantar mesej).
• Peruntukan Data: Ambil data dari pangkalan pengetahuan (Web, Wikipedia, API) untuk memberikan maklumat khusus kepada LLMS.
• UIS Dinamik: Kemas kini aplikasi UIS berdasarkan input pengguna.

Bahagian berikut terperinci pendekatan memanggil alat dalam Openai, Anthropic, dan Langchain. Model sumber terbuka (seperti Llama 3) dan penyedia kesimpulan (seperti Groq) juga menyokong panggilan alat.

(Selebihnya artikel akan diteruskan dengan penjelasan terperinci tentang alat yang dipanggil di OpenAI, Anthropic, Langchain, Ejen Bangunan, Composio, dan contoh ejen GitHub, mencerminkan struktur dan kandungan input asal tetapi dengan ayat -ayat dan perbendaharaan kata.)

Atas ialah kandungan terperinci Alat panggilan di LLMS. Untuk maklumat lanjut, sila ikut artikel berkaitan lain di laman web China PHP!