Ho kopanya RAG le LLMs bakeng sa Phallo e Matlafatsoang ea Tsoelo-pele ea Software

**Ho kopanya RAG le LLMs bakeng sa Ts'ebetso e Ntlafetseng ea Tsoelo-pele ea Software **

Selelekela

Sebaka sa nts'etsopele ea software se ntse se fetoha ka potlako, se tsamaisoa ke tsoelo-pele ea bohlale ba maiketsetso (AI), ho ithuta ka mochini (ML), le ts'ebetso ea puo ea tlhaho (NLP). Litheknoloji tse peli tsa bohlokoa tse ntseng li fetola tsela eo re hlahisang software ka eona ke Retrieval-Augmented Generation (RAG) le Mehlala ea Puo e Kholo (LLMs). Sehloohong sena, re tla hlahloba ho kopanngoa ha RAG le LLM ho tsamaisa mekhoa ea boenjiniere ba software, ho ntlafatsa tlhahiso ea khoutu, le ho ntlafatsa tlhahiso ea bahlahisi.

Retrieval-Augmented Generation (RAG) ke eng?

RAG ke mokhoa o kopanyang matla a mekhoa e thehiloeng ho khutlisa le ea moloko ho NLP. E kenyelletsa ho kgutlisetsa tlhahisoleseding e nepahetseng ho tswa pokellong e kgolo ya sengolwa le ho e sebedisa ho eketsa tlhahiso ya mongolo o motjha. Mokhoa ona o bontšitsoe o sebetsa haholo mesebetsing e fapaneng ea NLP, ho kenyelletsa le ho araba lipotso, kakaretso ea mongolo le tlhahiso ea khoutu.

Mehlala e Meholo ea Lipuo (LLM) ke Efe?

LLMs ke mofuta oa neural network e etselitsoeng ho sebetsa le ho hlahisa puo e kang ea motho. Hangata ba koetlisetsoa ho bokella lintlha tse ngata tsa mongolo 'me ba ka lokisoa hantle bakeng sa mesebetsi e itseng e kang phetolelo ea puo, kakaretso ea mongolo le tlhahiso ea khoutu. Li-LLM li fihletse liphetho tsa morao-rao mesebetsing e mengata ea NLP 'me li sebelisoa haholo lits'ebetsong tse kang chatbots, bathusi ba sebele, le mekhoa ea ho fetolela lipuo.

**Ho kopanya RAG le LLMs bakeng sa Ts'ebetso e Ntlafetseng ea Tsoelo-pele ea Software **

Lisebelisoa tsa Ochestration: LangChain le DSPy

Ho kopanya RAG le LLM, re hloka lisebelisoa tsa orchestration tse ka laolang phallo ea data le ho laola ts'ebetso ea likarolo tsa RAG le LLM. Lisebelisoa tse peli tse tsebahalang tsa 'mino tse ka sebelisetsoang morero ona ke LangChain le DSPy.

LangChain

LangChain ke laebrari ea Python e bulehileng e fanang ka API e bonolo le e utloahalang bakeng sa ho haha likopo tse thehiloeng ho RAG. E lumella bahlahisi ho kopanya RAG le LLMs le likarolo tse ling tsa NLP ho theha ts'ebetso e matla ea ntlafatso ea software.

DSPy

DSPy ke laebrari e 'ngoe e bulehileng ea Python e fanang ka API ea boemo bo holimo bakeng sa ho haha likopo tse thehiloeng ho RAG. E etselitsoe ho sebetsa ntle le moroallo le LLM le likarolo tse ling tsa NLP, e e etsa khetho e nepahetseng bakeng sa ho kopanya RAG le LLM.

Mohlala oa Khoutu: Ho kopanya RAG le LLM ho sebelisa LangChain

Mona ke mohlala o bonolo oa khoutu o bonts'ang mokhoa oa ho kopanya RAG le LLM ho sebelisa LangChain:

import langchain
ho tsoa ho langchain.chains import RAGChain


rag_model = langchain.RAG(
    index=langchain.Index(
        lebitso = "index_yaka",
        litokomane="document1", "document2", "document3"],
    ),
    retriever=langchain.Retriever(
        lebitso = "my_retriever",
        mohlala="my_retriever_model",
    ),
    jenereithara=langchain.Jenereithara(
        lebitso = "ka_jenereithara",
        mohlala="my_generator_model",
    ),
)

# Hlalosa mofuta oa LLM
llm_model = langchain.LLM(
    lebitso = "my_llm",
    mohlala="my_llm_model",
)

# Theha ketane ea RAG
rag_chain = RAGChain(
    lebitso = "my_rag_chain",
    mohlala=rag_mohlala,
    llm=llm_mohlala,
)

# Sebelisa ketane ea RAG ho hlahisa khoutu
khoutu = rag_chain.generate(
    input_text="Ngola tshebetso e nkang dinomoro tse pedi e le ho kenya le ho kgutlisa kakaretso ya tsona",
)

hatisa(khoutu)

Mohlala ona oa khoutu o bontša mokhoa oa ho hlalosa mohlala oa RAG o sebelisa LangChain, ho hlalosa mohlala oa LLM, ho etsa ketane ea RAG, le ho sebelisa ketane ho hlahisa khoutu.

Kaholimo ho 5-10 Litaelo/Lipotlana tse Sebelisitsoeng ka ho Fetisisa

Mona ke tse 5-10 tse sebelisoang ka ho fetesisa litaelo / likotoana tsa ho kopanya RAG le LLM ho sebelisa LangChain le DSPy:

langchain.RAG(): E etsa mohlala oa RAG.
langchain.Index(): E theha mohlala oa index bakeng sa ho boloka le ho fumana litokomane.
langchain.Retriever(): E theha mohlala oa ho khutlisa bakeng sa ho fumana litokomane tse amehang.
langchain.Generator(): E etsa mohlala oa jenereithara bakeng sa ho hlahisa mongolo o mocha.
langchain.LLM(): E etsa mohlala oa LLM.
RAGChain(): E theha mohlala oa ketane ea RAG.
rag_chain.generate(): E sebelisa ketane ea RAG ho hlahisa khoutu.
llm_model.generate(): E sebelisa mofuta oa LLM ho hlahisa khoutu.
index.add_document(): E eketsa tokomane ho index.
retriever.retrieve(): E fumana ditokomane tse amehang ka ho sebedisa morekisi.

Pono ya pono

Mona ke pono ea likarolo tsa RAG le LLM ho sebelisoa Chart.js:

{
  "type": "bar",
  "data": {
    "labels": ["RAG", "LLM"],
    "lintlha tsa boitsebiso": [
      {
        "label": "Likaroloana",
        "data": [10, 20],
        "backgroundColor": ["#4CAF50", "#FF9800"]
      }
    ]
  },
  "likgetho": {
    "sehlooho": {
      "bontša": 'nete,
      "text": "likarolo tsa RAG le LLM"
    },
    "makala": {
      "yAxes": [
        {
          "bontša": 'nete,
          "beginAtZero": 'nete
        }
      ]
    }
  }
}

Pono ena e bonts'a palo ea likarolo tsa mefuta ea RAG le LLM.

Qetello

Ho kopanngoa ha RAG le LLM ho na le monyetla oa ho fetola tsela eo re hlahisang software ka eona. Ka ho kopanya matla a mekhoa ea ho khutlisa le e thehiloeng molokong, RAG e ka thusa LLM ho hlahisa khoutu e nepahetseng le e nepahetseng haholoanyane. Sena se ka lebisa ntlafatsong e kholo tlhahisong ea bahlahisi, boleng ba khoutu, le ts'ebetso ea ntlafatso ea software ka kakaretso. Ka lisebelisoa tsa 'mino oa liletsa tse kang LangChain le DSPy, bahlahisi ba ka kopanya RAG le LLMs le likarolo tse ling tsa NLP ho theha mesebetsi e matla ea ntlafatso ea software.

Ho kopanya RAG le LLMs bakeng sa Phallo e Matlafatsoang ea Tsoelo-pele ea Software

Have Questions?