Интегрирање на RAG (пронаоѓање-зголемена генерација) со модерни веб-рамки: практичен водич

Вовед

Во последниве години, полето на обработка на природни јазици (НЛП) беше сведок на значителен пораст во развојот на големи јазични модели (LLM) и нивните апликации во различни домени. Сепак, едно од главните ограничувања на LLM е нивната неспособност да се повлечат и да вклучат надворешно знаење во нивните одговори. Тука стапуваат во игра техниките за пронаоѓање-зголемена генерација (RAG). Во оваа статија, ќе ја истражиме имплементацијата на техниките RAG користејќи FastAPI и Django за да ги подобриме можностите за LLM во веб-апликациите, вклучително и оркестрација со LangChain за непречено пребарување и обработка на податоци.

Што е RAG?

RAG е техника која ги комбинира силните страни на моделите за пребарување и генерирање за да произведе попрецизни и информативни одговори. Основната идеја зад RAG е прво да се извлечат релевантни информации од база на знаење или база на податоци, а потоа да се користат овие информации за да се генерира одговор. Овој пристап им овозможува на LLM да го искористат надворешното знаење и да обезбедат попрецизни и информативни одговори.

Зошто да користите RAG со FastAPI и Django?

FastAPI и Django се две од најпопуларните веб-рамки што се користат за градење веб-апликации. Тие обезбедуваат робусна и скалабилна инфраструктура за градење веб-апликации и може лесно да се интегрираат со техниките на RAG за подобрување на способностите за LLM. FastAPI е модерна веб-рамка која обезбедува брз и ефикасен начин за градење веб-апликации, додека Django е веб-рамка на високо ниво која обезбедува архитектура, шаблони и API за градење робусни веб-апликации.

Имплементирање RAG со FastAPI

FastAPI обезбедува едноставен и ефикасен начин за имплементација на RAG техники. Еве пример блок код кој покажува како да се користи FastAPI за да се имплементира RAG:

од fastapi увоз FastAPI
од langchain увоз LLMCchain
од langchain.chains.openai увоз OpenAIApi

апликација = FastAPI()

@app.get ("/партал")
асинхронизиран def rag (прашање: ул):
    
    llm_chain = LLMCchain(
        llm=OpenAIApi(),
        retrieval=LangChainRetrieval(
            индекс=LangChainIndex(
                име = "мој_индекс",
                документи=["doc1", "doc2", "doc3"]
            )
        )
    )

    # Генерирајте одговор користејќи го синџирот LLM
    одговор = llm_chain.run(прашање)

    врати {"одговор": одговор}

Во овој пример, ние дефинираме LLM синџир користејќи ја класата LLMChain од LangChain. Потоа дефинираме компонента за пронаоѓање користејќи ја класата LangChainRetrieval, која се користи за враќање на релевантни информации од база на знаење или база на податоци. Конечно, го користиме методот run за да генерираме одговор користејќи го синџирот LLM.

Имплементирање RAG со Џанго

Django обезбедува веб-рамка на високо ниво што може лесно да се интегрира со техниките на RAG. Еве пример блок код кој покажува како да се користи Django за да се имплементира RAG:

од django.http увоз JsonResponse
од langchain увоз LLMCchain
од langchain.chains.openai увоз OpenAIApi

def rag (барање):
    # Дефинирајте го синџирот LLM
    llm_chain = LLMCchain(
        llm=OpenAIApi(),
        retrieval=LangChainRetrieval(
            индекс=LangChainIndex(
                име = "мој_индекс",
                документи=["doc1", "doc2", "doc3"]
            )
        )
    )

    # Генерирајте одговор користејќи го синџирот LLM
    answer = llm_chain.run(request.GET.get("query"))

    врати JsonResponse ({"одговор": одговор})

Во овој пример, ние ја дефинираме функцијата за преглед „раг“ која зема барање како влез и генерира одговор користејќи го синџирот LLM.

Оркестрирајќи го RAG со LangChain

LangChain обезбедува едноставен и ефикасен начин за оркестрирање на техниките на RAG. Еве еден пример блок код кој покажува како да се користи LangChain за да се оркестрира RAG:

од langchain увоз LLMCchain
од langchain.chains.openai увоз OpenAIApi

# Дефинирајте го синџирот LLM
llm_chain = LLMCchain(
    llm=OpenAIApi(),
    retrieval=LangChainRetrieval(
        индекс=LangChainIndex(
            име = "мој_индекс",
            документи=["doc1", "doc2", "doc3"]
        )
    )
)

# Генерирајте одговор користејќи го синџирот LLM
answer = llm_chain.run ("Што е RAG?")

печатење (одговор)

Во овој пример, ние дефинираме LLM синџир користејќи ја класата LLMChain од LangChain. Потоа го користиме методот run за да генерираме одговор користејќи го синџирот LLM.

** Топ 5-10 најкористени команди/парчиња**

Еве ги првите 5-10 најкористени команди/парчиња за имплементација на RAG со FastAPI и Django:

1. од langchain import LLMChain: Увезете ја класата LLMChain од LangChain.
2. llm_chain = LLMChain(llm=OpenAIApi(), retrieval=LangChainRetrieval(index=LangChainIndex(name="my_index", document=["doc1", "doc2", "doc3"]))): Дефинирајте синџир LLMкористејќи ја класатаLLMCha
3. response = llm_chain.run(query): Генерирајте одговор користејќи го синџирот LLM.
4. од fastapi import FastAPI: увезете ја класата FastAPI од FastAPI.
5. app = FastAPI(): Дефинирајте FastAPI апликација.
6. @app.get("/rag"): Дефинирајте маршрута за крајната точка RAG.
7. llm_chain = LLMChain(llm=OpenAIApi(), retrieval=LangChainRetrieval(index=LangChainIndex(name="my_index", документи=["doc1", "doc2", "doc3"]))): Дефинирајте синџир LLMкористејќи ја класатаLLMCha
8. response = llm_chain.run(query): Генерирајте одговор користејќи го синџирот LLM.
9. from django.http import JsonResponse: Увезете ја класата JsonResponse од Django.
10. return JsonResponse({"response": answer}): Вратете JSON одговор со генерираниот одговор.

Визуелизација

Еве визуелизација на гасоводот RAG користејќи Chart.js:

{
  "тип": "хоризонтална лента",
  "податоци": {
    "етикети": ["Пронаоѓање", "Генерација", "Пост-обработка"],
    "збирки на податоци": [
      {
        "етикета": "RAG Pipeline",
        "податоци": [10, 20, 30],
        "Боја на позадина": [
          "rgba(255, 99, 132, 0.2)",
          "rgba(54, 162, 235, 0.2)",
          "rgba(255, 206, 86, 0.2)"
        ],
        "borderColor": [
          "rgba(255, 99, 132, 1)",
          "rgba(54, 162, 235, 1)",
          "rgba(255, 206, 86, 1)"
        ],
        „Ширина на границата“: 1
      }
    ]
  },
  "опции": {
    "наслов": {
      „екран“: точно,
      "text": "RAG Pipeline"
    },
    "вага": {
      „yOxes“: [
        {
          "крлежи": {
            "beginAtZero": точно
          }
        }
      ]
    }
  }
}

Оваа визуелизација го прикажува гасоводот RAG со три фази: пронаоѓање, генерирање и пост-обработка.

Заклучок

Во оваа статија, ја истраживме имплементацијата на техниките RAG користејќи FastAPI и Django за да ги подобриме способностите за LLM во веб-апликациите, вклучително и оркестрација со LangChain за непречено пребарување и обработка на податоци. Обезбедивме и практичен водич за имплементација на RAG со FastAPI и Django, вклучувајќи примери на код и визуелизација на гасоводот RAG. Се надеваме дека овој напис обезбеди корисен ресурс за програмерите кои сакаат да имплементираат RAG техники во нивните веб-апликации.