llamaindex: Datenrahmen, die gro?e Sprachmodelle

erm?glichen

llamaindex ist ein Anwendungsdatenrahmen, das auf gro?en Sprachmodellen (LLM) basiert. LLMs wie GPT-4 verarbeiten eine gro?e Anzahl ?ffentlicher Datens?tze, um leistungsstarke Funktionen für natürliche Sprachverarbeitung zu bieten. Ihr Versorgungsunternehmen ist jedoch ohne Zugriff auf Ihre eigenen privaten Daten begrenzt.

Mit

llamaindex k?nnen Sie Daten aus APIs, Datenbanken, PDFs und anderen Quellen über flexible Datenverbinder aufnehmen. Diese Daten werden in Zwischendarstellungen indexiert, die für LLM optimiert sind. Llamaindex erm?glicht dann über eine Abfrage-Engine, eine Chat-Schnittstelle und einen LLM-gesteuerten Agenten eine Abfrage und Konversation mit Ihren Daten mit Ihren Daten. Es erm?glicht Ihrem LLM, auf private Daten in Ma?stab zuzugreifen und zu interpretieren, ohne das Modell umzusetzen.

Egal, ob Sie ein Anf?nger sind, der nach einer einfachen natürlichen Sprachmethode sucht, um Daten abzufragen, oder ein fortschrittlicher Benutzer, der eine tiefe Anpassung ben?tigt, llamaindex verfügt über die entsprechenden Tools. Mit der erweiterten API k?nnen Sie mit nur fünf Elementen Code beginnen, w?hrend die API auf niedriger Ebene die Aufnahme, Indexierung, das Abrufen und mehr vollst?ndig kontrollieren.

Wie funktioniert llamaindex

llamaNdex verwendet ein RA -System (Abruf Enhanced Generation), das gro?e Sprachmodelle mit einer privaten Wissensbasis kombiniert. Es besteht normalerweise aus zwei Phasen: der Indexierungsphase und der Abfragephase.

Bilder stammen aus erweiterten Konzepten

Indexphase

W?hrend der Indexierungsphase wird LlamAndex private Daten effizient in Vektorindizes indexieren. Dieser Schritt hilft dabei, eine durchsuchbare Wissensbasis zu erstellen, die für Ihr Feld spezifisch ist. Sie k?nnen Textdokumente, Datenbankdatens?tze, Wissensdiagramme und andere Datentypen eingeben.

im Wesentlichen wandelt der Index die Daten in einen numerischen Vektor oder die Einbettung um, um seine semantische Bedeutung zu erfassen. Es erm?glicht schnelle Suchanfragen nach ?hnlichkeit über Inhalte hinweg.

Abfragebühne

In der Abfragephase sucht die RAG -Pipeline nach den relevantesten Informationen basierend auf der Abfrage des Benutzers. Diese Informationen werden dann der LLM mit der Abfrage zur Verfügung gestellt, um eine genaue Antwort zu erstellen.

Mit diesem Verfahren kann LLM auf aktuelle und aktualisierte Informationen zugreifen, die m?glicherweise nicht in sein erstes Training enthalten sind.

Die Hauptherausforderung in diesem Stadium besteht darin, Informationen aus mehreren Wissensbasen abzurufen, zu organisieren und zu organisieren und zu organisieren.

Erfahren Sie mehr über Rag in unserem Codes -Beispiel für erweiterte Erzeugung von Tinecone Abruf.

Einstellungen von llamaindex

Bevor wir in die Lamaindex -Tutorials und -projekte eintauchen, müssen wir das Python -Paket installieren und die API einrichten.

Wir k?nnen einfach Lamaindex mit PIP installieren.

<code>pip install llama-index</code>

standardm??ig verwendet LlamaNdex das OpenAI GPT-3-Text-Davin-003-Modell. Um dieses Modell zu verwenden, müssen Sie openai_api_key festlegen. Sie k?nnen ein kostenloses Konto erstellen und die API -Schlüssel erhalten, indem Sie sich bei OpenAs neuem API -Token anmelden.

<code>pip install llama-index</code>

Stellen Sie au?erdem sicher, dass Sie das OpenAI -Paket installiert haben.

<code>import os

os.environ["OPENAI_API_KEY"] = "INSERT OPENAI KEY"</code>

Hinzufügen personenbezogener Daten zu LLM mit Lamaindex

In diesem Abschnitt lernen wir, wie man einen Lebenslaufleser mit llamaNdex erstellt. Sie k?nnen Ihren Lebenslauf herunterladen, indem Sie die LinkedIn -Profilseite besuchen, auf "More" klicken und dann "als PDF speichern".

Bitte beachten Sie, dass wir Datalab verwenden, um den Python -Code auszuführen. Sie k?nnen auf alle relevanten Code und Ausgabe in der Lamaindex zugreifen: Fügen Sie personenbezogene Daten zur LLM -Arbeitsmappe hinzu.

Wir müssen Lama-Index, Openai und PYPDF installieren, bevor wir etwas ausführen. Wir installieren PYPDF, damit wir PDF -Dateien lesen und konvertieren k?nnen.

<code>pip install openai</code>

Daten laden und index

erstellen

Wir haben ein Verzeichnis namens "privatdaten", das nur eine PDF-Datei enth?lt. Wir werden es mit SimpledirectoryReader lesen und dann mit TreeIndex in den Index konvertieren.

<code>%pip install llama-index openai pypdf</code>

Abfrage ausführen

Sobald die Daten indiziert sind, k?nnen Sie Fragen mit AS_QUERY_ENGINE () stellen. Mit dieser Funktion k?nnen Sie Fragen zu bestimmten Informationen im Dokument stellen und die entsprechende Antwort mit Hilfe des OpenAI GPT-3-Text-Davin-003-Modells erhalten.

Hinweis: Sie k?nnen die OpenAI-API in Datalab einrichten, um die Anweisungen für die Verwendung von GPT-3.5 und GPT-4 über die OpenAI-API im Python-Tutorial zu verwenden.

Wie wir sehen k?nnen, beantwortet das LLM -Modell die Abfrage genau. Es suchte nach dem Index und fand relevante Informationen.

<code>from llama_index import TreeIndex, SimpleDirectoryReader

resume = SimpleDirectoryReader("Private-Data").load_data()
new_index = TreeIndex.from_documents(resume)</code>

<code>query_engine = new_index.as_query_engine()
response = query_engine.query("When did Abid graduated?")
print(response)</code>

Wir k?nnen weiter nach Zertifizierungsinformationen bitten. Es scheint, dass Llamaindex die Kandidaten vollst?ndig verstanden hat, was für Unternehmen, die nach bestimmten Talenten suchen, von Vorteil sein k?nnen.

<code>Abid graduated in February 2014.</code>

<code>response = query_engine.query("What is the name of certification that Abid received?")
print(response)</code>

Kontext speichern und laden

Erstellen eines Index ist ein zeitaufw?ndiger Prozess. Wir k?nnen es vermeiden, den Index durch das Speichern des Kontextes wieder herzustellen. Standardm??ig speichert der folgende Befehl den im Verzeichnis ./storage gespeicherten Indexspeicher.

<code>Data Scientist Professional</code>

Wenn wir fertig sind, k?nnen wir den Speicherkontext schnell laden und einen Index erstellen.

<code>new_index.storage_context.persist()</code>

Um zu überprüfen, ob es ordnungsgem?? funktioniert, stellen wir den Fragen der Abfrage -Engine im Lebenslauf. Es scheint, dass wir den Kontext erfolgreich geladen haben.

<code>from llama_index import StorageContext, load_index_from_storage

storage_context = StorageContext.from_defaults(persist_)
index = load_index_from_storage(storage_context)</code>

<code>query_engine = index.as_query_engine()
response = query_engine.query("What is Abid's job title?")
print(response)</code>

chatbot

Zus?tzlich zu Q & A k?nnen wir auch pers?nliche Chatbots mit llamaNdex erstellen. Wir müssen nur die Funktion as_chat_engine () verwenden, um den Index zu initialisieren.

Wir werden eine einfache Frage stellen.

<code>Abid's job title is Technical Writer.</code>

<code>query_engine = index.as_chat_engine()
response = query_engine.chat("What is the job title of Abid in 2021?")
print(response)</code>

und ohne zus?tzlichen Kontext werden wir Follow-up-Fragen stellen.

<code>Abid's job title in 2021 is Data Science Consultant.</code>

<code>response = query_engine.chat("What else did he do during that time?")
print(response)</code>

Es ist offensichtlich, dass die Chat -Engine perfekt l?uft.

Nach dem Erstellen einer Sprachanwendung besteht der n?chste Schritt in Ihrer Zeitleiste darin, über die Vor- und Nachteile der Verwendung von gro?sprachigen Modellen (LLMs) in der Cloud zu lesen und sie lokal auszuführen. Auf diese Weise k?nnen Sie feststellen, welcher Ansatz für Ihre Bedürfnisse am besten geeignet ist.

Wikitext zu Sprache mit llamaindex

bauen

Unser n?chstes Projekt beinhaltet die Entwicklung einer Anwendung, die auf Fragen von Wikipedia antworten und sie in Stimme umwandeln kann.

Codequelle und zus?tzliche Informationen finden Sie in der Arbeitsmappe von Datalab.

Website Crawling Wikipedia Seite

Zun?chst werden wir die Daten von der italienischen Wikipedia-Webseite kriechen und sie im Datenordner als italien_text.txt-Datei speichern.

<code>pip install llama-index</code>

Daten laden und Index bauen

Als n?chstes müssen wir die erforderlichen Pakete installieren. Das ElevenLabs -Paket erm?glicht es uns, Text mit der API problemlos in die Sprache umzuwandeln.

<code>import os

os.environ["OPENAI_API_KEY"] = "INSERT OPENAI KEY"</code>

Durch die Verwendung von SimpledirectoryReader werden wir die Daten laden und die TXT -Datei mit VectorStoreIndex in einen Vektorspeicher konvertieren.

<code>pip install openai</code>

Abfrage

Unser Plan ist es, allgemeine Fragen zum Land zu stellen und eine Antwort von LLM Query_Engine zu erhalten.

<code>%pip install llama-index openai pypdf</code>

text to Voice

Nach

verwenden wir das Modul llama_index.tts, um auf die Elevenlabstts -API zuzugreifen. Sie müssen den Elevenlabs -API -Schlüssel bereitstellen, um die Audio -Generierungsfunktion zu aktivieren. Sie k?nnen API -Schlüssel kostenlos auf der elfLabs -Website kostenlos erhalten.

<code>from llama_index import TreeIndex, SimpleDirectoryReader

resume = SimpleDirectoryReader("Private-Data").load_data()
new_index = TreeIndex.from_documents(resume)</code>

Wir fügen die Antwort der Funktion generate_audio hinzu, um eine natürliche Sprache zu generieren. Um das Audio anzuh?ren, werden wir die Audiofunktion von ipython.display verwenden.

<code>query_engine = new_index.as_query_engine()
response = query_engine.query("When did Abid graduated?")
print(response)</code>

Dies ist ein einfaches Beispiel. Sie k?nnen mehrere Module verwenden, um Ihren Assistenten wie Siri zu erstellen, der Ihre Fragen beantwortet, indem Sie Ihre privaten Daten interpretieren. Weitere Informationen finden Sie in der Lamaindex -Dokumentation.

Zus?tzlich zu Llamaindex erm?glicht Langchain auch, dass Sie LLM-basierte Anwendungen erstellen. Darüber hinaus k?nnen Sie die Langchain -Erste mit Daten Engineering- und Datenanwendungen lesen, um einen überblick darüber zu erfahren, was Sie mit Langchain tun k?nnen, einschlie?lich der Probleme und Datenanwendungsbeispiele, die Langchain l?st.

lamaindex Anwendungsf?lle

llamaindex bietet ein vollst?ndiges Toolkit für den Aufbau von Sprachanwendungen. Vor allem k?nnen Sie die verschiedenen Datenlader und Agenten -Tools in LLAMA HUB verwenden, um komplexe Anwendungen mit mehreren Funktionen zu entwickeln.

Sie k?nnen einen oder mehrere Plugin -Datenlader verwenden, um eine benutzerdefinierte Datenquelle mit Ihrem LLM zu verbinden.

Datenladeer aus dem Lama Hub

Sie k?nnen auch das Agent-Tool verwenden, um Tools und APIs von Drittanbietern zu integrieren.

Agistrator -Tool aus dem Lama Hub

Kurz gesagt, Sie k?nnen mit llamaindex bauen:

Dokumentbasierte Q & A
chatbot
Agenturen
strukturierte Daten
vollst?ndige Stack -Webanwendung
Private Einstellungen

Um mehr über diese Anwendungsf?lle zu erfahren, besuchen Sie die Lamaindex -Dokumentation.

Schlussfolgerung

llamaNdex bietet ein leistungsstarkes Toolkit zum Aufbau von Systemen zur Erzeugung von Abrufverst?rkungen, die die Vorteile von Modellen in gro?er Sprache und benutzerdefinierten Wissensbasis kombinieren. Es ist in der Lage, einen Indexspeicher von dom?nenspezifischen Daten zu erstellen und diese w?hrend der Inferenz zu verwenden, um einen relevanten Kontext für LLM bereitzustellen, um hochwertige Antworten zu generieren.

In diesem Tutorial haben wir etwas über Llamaindex und seine Arbeitsprinzipien erfahren. Darüber hinaus haben wir ein Projekt zur Lebenslauf- und Text-zu-Sprache-Projekt mit nur wenigen Zeilen von Python-Code erstellt. Das Erstellen einer LLM -Anwendung mit llamaNdex ist sehr einfach und bietet eine riesige Bibliothek mit Plugins, Datenladern und Agenten.

Um ein erfahrener LLM -Entwickler zu werden, besteht der n?chste Schritt darin, den Master -Kurs des gro?en Sprachmodells zu belegen. In diesem Kurs werden Sie ein umfassendes Verst?ndnis von LLMs vermitteln, einschlie?lich ihrer Anwendungen, Trainingsmethoden, ethischen überlegungen und neuesten Forschungen.

Das obige ist der detaillierte Inhalt vonLlamaindex: ein Datenrahmen für die Anwendungen der gro?en Sprachmodelle (LLMS). Für weitere Informationen folgen Sie bitte anderen verwandten Artikeln auf der PHP chinesischen Website!