Tu'ufa'atasia o le RAG ma LLMs mo le Fa'aleleia o Fa'alapotopotoga Fa'atekonolosi Galuega

** Tu'ufa'atasia le RAG ma LLMs mo le Fa'aleleia o Polokalame Fa'atekonolosi Galuega Fa'atino**

Fa'atomuaga

O le atinaʻeina o polokalame faʻatekonolosi ua vave ona faʻaleleia, faʻamalosia e le alualu i luma i le atamai faʻapitoa (AI), masini aʻoaʻoga (ML), ma le faʻaogaina o gagana masani (NLP). E lua tekinolosi autu o loʻo faʻafouina le auala tatou te atiaʻe ai polokalame o le Retrieval-Augmented Generation (RAG) ma Large Language Models (LLMs). I totonu o lenei tusiga, o le a matou suʻesuʻeina le tuʻufaʻatasia o le RAG ma LLMs e faʻatautaia faiga faʻainisinia polokalama, faʻaleleia le faʻasologa o tulafono, ma faʻaleleia le gaosiga o le atinaʻe.

O le a le Tupulaga Fa'aopoopoina Toe Fa'aleleia (RAG)?

O le RAG o se metotia e tuʻufaʻatasia ai le malosi o le toe maua mai ma faʻavae faʻavae auala ile NLP. E aofia ai le toe maua mai o faʻamatalaga talafeagai mai se vaega tele o tusitusiga ma faʻaaogaina e faʻalautele ai le fausiaina o tusitusiga fou. O lenei faiga ua faʻaalia e sili ona aoga i le tele o galuega a le NLP, e aofia ai le taliina o fesili, otootoga o tusitusiga, ma le fausiaina o tulafono.

O a Fa'ata'ita'iga Gagana Tele (LLMs)?

LLMs o se ituaiga o neural network ua mamanuina e faʻagasolo ma faʻatupuina gagana pei o tagata. E masani ona a'oa'oina i latou i le tele o fa'amaumauga o tusitusiga ma e mafai ona fa'avasega lelei mo galuega fa'apitoa e pei o le fa'aliliuga gagana, aotelega o tusitusiga, ma le fa'atupuina o tulafono. LLMs ua ausia taunuʻuga faʻaonaponei i le tele o galuega a le NLP ma e faʻaaogaina lautele i talosaga e pei o chatbots, fesoasoani faʻapitoa, ma faiga faʻaliliu gagana.

** Tu'ufa'atasia le RAG ma LLMs mo le Fa'aleleia atili o Polokalame Fa'atekonolosi Galulue**

Mea faigaluega: LangChain ma DSPy

Ina ia tuʻufaʻatasia le RAG ma LLM, matou te manaʻomia meafaigaluega faʻapipiʻi e mafai ona pulea le tafe o faʻamaumauga ma pulea le faʻatinoina o vaega RAG ma LLM. E lua meafaigaluega faʻapipiʻi taʻutaʻua e mafai ona faʻaaogaina mo lenei faʻamoemoe o LangChain ma DSPy.

LangChain

LangChain o se faletusi Python tatala-puna e maua ai se API faigofie ma faʻaogaina mo le fausiaina o talosaga faʻavae RAG. E mafai ai e le au atiaʻe ona faʻafesoʻotaʻi faʻatasi le RAG ma LLM ma isi vaega o le NLP e faʻatupu ai le malosi o le atinaʻeina o polokalame.

DSPy

O le DSPy o le isi potutusi Python tatala lea e maua ai se API maualuga mo le fausiaina o talosaga faʻavae RAG. Ua mamanuina e galulue faʻatasi ma LLMs ma isi vaega o le NLP, ma avea o se filifiliga lelei mo le tuʻufaʻatasia o le RAG ma LLMs.

** Fa'ata'ita'iga Fa'asinomaga: Tu'ufa'atasia le RAG ma LLM fa'aaoga LangChain**

O se faʻataʻitaʻiga faigofie lea e faʻaalia ai le faʻaogaina o le RAG ma LLM e faʻaaoga ai LangChain:

faaulufale mai le langchain
mai langchain.chains faaulufale mai RAGCain


ieie_model = langchain.RAG(
    index=langchain.Index(
        igoa="my_index",
        documents=["document1", "document2", "document3"],
    ),
    toe maua = langchain.Retriever(
        igoa="my_retriever",
        model="my_retriever_model",
    ),
    generator=langchain.Generator(
        igoa="my_generator",
        model="my_generator_model",
    ),
)

# Fa'amatala le fa'ata'ita'iga LLM
llm_model = langchain.LLM(
    igoa="my_llm",
    fa'ata'ita'iga="my_llm_model",
)

# Fausia se filifili RAG
rag_chain = RAGCain(
    igoa="my_rag_chain",
    fa'ata'ita'iga=rag_model,
    llm=llm_model,
)

# Faʻaaoga le filifili RAG e faʻatupu ai le code
code = rag_chain.generate(
    input_text=" Tusi se galuega e ave ai ni numera se lua e fai ma fa'aoga ma toe fa'afo'i mai a latou aofa'iga",
)

lolomi(code)

O lenei faʻataʻitaʻiga faʻataʻitaʻiga o loʻo faʻaalia ai le faʻamalamalamaina o se faʻataʻitaʻiga RAG e faʻaaoga ai le LangChain, faʻamalamalamaina se faʻataʻitaʻiga LLM, fatuina se filifili RAG, ma faʻaoga le filifili e faʻatupu ai le code.

Poloaiga/Snippets pito i luga 5-10 Fa'aaogaina

O le pito i luga 5-10 pito sili ona faʻaaogaina tulafono / snippets mo le tuʻufaʻatasia o le RAG ma LLM faʻaaoga LangChain ma DSPy:

langchain.RAG(): Fausia se fa'ata'ita'iga fa'ata'ita'iga RAG.
langchain.Index(): Fausia se fa'ata'ita'iga fa'asino mo le teuina ma le toe aumai o pepa.
langchain.Retriever(): Fausia se fa'ata'ita'iga toe aumai mo le toe aumai o pepa talafeagai.
langchain.Generator(): Fausia se fa'ata'ita'iga afi mo le fa'atupuina o tusitusiga fou.
langchain.LLM(): Fausia se fa'ata'ita'iga fa'ata'ita'iga LLM.
RAGChain(): Fausia se fa'ata'ita'iga filifili RAG.
rag_chain.generate(): Fa'aaogā le filifili RAG e fa'atupu ai le code.
llm_model.generate(): Fa'aaogā le fa'ata'ita'iga LLM e fa'atupu ai le code.
index.add_document(): Faaopoopo se pepa i le faasino igoa.
retriever.retrieve(): Toe aumai pepa talafeagai e fa'aaoga ai le toe maua.

Va'aiga

Ole fa'aaliga lea ole vaega RAG ma LLM ile fa'aogaina ole Chart.js:

{
  "type": "pa",
  "fa'amatalaga": {
    "labels": ["RAG", "LLM"],
    "fa'amaumauga": [
      {
        "label": "Igoa",
        "fa'amaumauga": [10, 20],
        "Lulu lanu": ["#4CAF50", "#FF9800"]
      }
    ]
  },
  "filifiliga": {
    "igoa": {
      "fa'aaliga": moni,
      "text": "Vaega RAG ma LLM"
    },
    "fua": {
      "yAxes": [
        {
          "fa'aaliga": moni,
          "beginAtZero": moni
        }
      ]
    }
  }
}

O lenei fa'aaliga e fa'aalia ai le numera o vaega i le RAG ma le LLM fa'ata'ita'iga.

Fa'ai'uga

O le tu'ufa'atasiga o le RAG ma LLM e mafai ona fa'afouina le auala tatou te atia'e ai polokalame. E ala i le tu'ufa'atasia o le malosi o le toe maua mai ma fa'avae fa'avae, e mafai ai e le RAG ona fesoasoani i LLM e fa'atupu ai le fa'ailoga sa'o ma talafeagai. E mafai ona o'o atu ai i ni fa'aleleia atili i le gaosiga o le atina'e, tulaga lelei o tulafono, ma le aofa'i o galuega fa'atupuina polokalame. Faatasi ai ma meafaigaluega faʻapipiʻi e pei o LangChain ma DSPy, e mafai e le au atinaʻe ona faigofie ona tuʻufaʻatasia le RAG ma LLMs ma isi vaega o le NLP e faʻatupu ai le malosi o le atinaʻeina o masini komepiuta.

Tu'ufa'atasia o le RAG ma LLMs mo le Fa'aleleia o Fa'alapotopotoga Fa'atekonolosi Galuega

Have Questions?