Isku-dubbaridka RAG iyo LLM-yada loogu talagalay Socodka Shaqo ee Horumarinta Software-ka ee La xoojiyey | B4N1

Isku-dubbaridka RAG iyo LLM-yada loogu talagalay Socodka Shaqo ee Horumarinta Software-ka ee La xoojiyey

9 months ago · b4n1 Tiempo de lectura: 4 min

** Isku-dubbaridka RAG iyo LLM-yada loogu talagalay Socodka Shaqo ee Horumarinta Software-ka ee La xoojiyey ***

hordhac

Muuqaalka horumarinta software-ka ayaa si degdeg ah u kobcaya, oo ay horseedayso horumarka laga gaaray sirdoonka macmal (AI), barashada mashiinka (ML), iyo habaynta luqadda dabiiciga ah (NLP). Laba teknooloji oo muhiim ah oo wax ka beddelaya habka aan u horumarinayno software waa Soo-celinta-Augmented Generation (RAG) iyo Noocyada Luuqadaha waaweyn (LLMs). Maqaalkan, waxaanu sahamin doonaa is dhexgalka RAG iyo LLMs si loo habeeyo hababka injineernimada software, loo hagaajiyo jiilka code, iyo kor loogu qaado wax soo saarka horumarinta.

Waa maxay Jiilka La Kordhiyay Dib-u-soo-celinta (RAG)?

RAG waa farsamo isku daraysa awoodaha hababka dib-u-soo-celinta iyo jiilka ku salaysan ee NLP. Waxay ku lug leedahay ka soo saarida xogta muhiimka ah ee qoraalka weyn iyo adeegsiga si loo kordhiyo jiilka qoraalka cusub. Habkan ayaa lagu muujiyay inuu aad waxtar ugu leeyahay hawlo kala duwan oo NLP ah, oo ay ku jiraan ka jawaabista su'aalaha, soo koobida qoraalka, iyo soo saarista koodka.

Waa maxay Noocyada Luuqadaha Waaweyn (LLMs)?

LLMs waa nooc ka mid ah shabakada neerfaha kaas oo loo qaabeeyey in lagu farsameeyo oo uu dhaliyo luqadda aadanaha oo kale. Caadi ahaan waxa lagu tababbaray kaydka xogta ee qoraalka ah waxaana si fiican loogu habayn karaa hawlo gaar ah sida tarjumaadda luqadda, soo koobida qoraalka, iyo curinta koodka. LLMs waxay ku guulaysteen natiijooyin casri ah hawlo badan oo NLP ah waxaana si weyn loogu isticmaalaa codsiyada sida chatbots, kaaliyeyaasha farsamada, iyo hababka tarjumaada luqadda.

** Isku-dubbaridka RAG iyo LLM-yada loogu talagalay Socodka Shaqo ee Horumarinta Software-ka la xoojiyey ***

Is dhexgalka RAG ee LLMs waxay leedahay awood ay ku beddesho habka aan u horumarino software. Marka la isku daro awoodaha dib-u-soo-celinta ku salaysan iyo habab-jiil-ku-salaysan, RAG waxay ka caawin kartaa LLM-yada inay soo saaraan kood sax ah oo habboon. Tani waxay u horseedi kartaa horumar la taaban karo ee wax soo saarka horumariyaha, tayada code, iyo guud ahaan socodka shaqada horumarinta software.

** Aaladaha Orchestration: LangChain iyo DSPy**

Si loo dhexgeliyo RAG iyo LLMs, waxaan u baahanahay qalab orchestration oo maamuli kara socodka xogta oo xakameyn kara fulinta qaybaha RAG iyo LLM. Laba qalab oo caan ah oo orchestra ah oo loo isticmaali karo ujeedadan waa LangChain iyo DSPy.

LangChain

LangChain waa maktabad Python oo furan oo bixisa API fudud oo dareen leh oo lagu dhisayo codsiyada ku saleysan RAG. Waxay u ogolaataa horumariyeyaasha inay si fudud u dhexgalaan RAG oo leh LLMs iyo qaybaha kale ee NLP si ay u abuuraan qulqulka shaqada horumarinta softiweerka.

DSPy

DSPy waa maktabad kale oo furan oo Python ah oo bixisa API heer sare ah oo lagu dhisayo codsiyada ku saleysan RAG. Waxaa loogu talagalay in ay si aan kala go 'lahayn ula shaqeyso LLMs iyo qaybaha kale ee NLP, taas oo ka dhigaysa doorasho ku habboon in lagu dhex daro RAG iyo LLMs.

** Tusaalaha Koodhka: Isku-dhafka RAG iyo LLM-yada iyadoo la adeegsanayo LangChain ***

Waa kuwan tusaale kood fudud oo tusinaya sida RAG iyo LLM-yada loogu daro LangChain: `` Python soo dejinta langchain ka langchain.chains ka soo dejiso RAGChain

rag_model = langchain.RAG ( index=langchain.Index( name="my_index", documents=["document1", "document2", "document3"], ), retriever=langchain.Retriever( name="my_retriever", model="my_retriever_model", ), dhaliye=langchain. name="my_generator", model = "my_generator_model", ), )

Qeex qaabka LLM

llm_model = langchain.LLM ( name="my_llm", model = "my_llm_model", )

Samee silsilad RAG ah

rag_chain = RAGChain ( name="my_rag_chain", model=rag_model, llm=llm_model, )

Isticmaal silsiladda RAG si aad u abuurto kood

code = rag_chain. dhalin( input_text="Qor hawl qaadata laba leydi ahaan soo gelid ahaan soona celisa wadartooda", )

daabac (kood) `` Tusaalaha koodka ayaa muujinaya sida loo qeexo qaabka RAG iyadoo la adeegsanayo LangChain, qeex model LLM, samee silsiladda RAG, oo u isticmaal silsiladda si aad u soo saarto koodka.

** 5-10ka ugu sarreeya amarada/Qodobka ugu Isticmaalka badan**

Waa kuwan 5-10ka ugu sarreeya amarada/warqadaha ugu isticmaalka badan ee loogu talagalay isku-dhafka RAG iyo LLM-yada iyadoo la adeegsanayo LangChain iyo DSPy:

  1. langchain.RAG(): Wuxuu abuuraa tusaale RAG ah.
  2. langchain.Index(): Waxay abuurtaa tusaale tusmaynta kaydinta iyo soo saarida dukumentiyada.
  3. langchain.Retriever(): Wuxuu abuuraa tusaale dib u soo celin si loo soo saaro dukumeenti khuseeya.
  4. langchain.Generator(): Wuxuu abuuraa tusaale koronto dhaliyaha qoraal cusub.
  5. langchain.LLM(): Wuxuu abuuraa tusaalaha LLM.
  6. RAGChain(): Wuxuu abuuraa tusaale silsilad RAG ah.
  7. rag_chain.generate(): Wuxuu adeegsadaa silsiladda RAG si uu u soo saaro koodka.
  8. llm_model.generate(): Wuxuu adeegsadaa qaabka LLM si uu u soo saaro koodka.
  9. index.add_document(): Wuxuu ku daraa dukumeenti tusmada.
  10. `retrieve

Muuqaalka

Halkan waxaa ah muuqaalka qaybaha RAG iyo LLM iyadoo la adeegsanayo Chart.js: json { "type": "bar", "xogta": { "labels": ["RAG", "LLM"], "datasets": [ { "label": "Components", "xogta": [10, 20], "backgroundColor": ["#4CAF50", "#FF9800"] } ] }, "doorashooyinka": { "ciwaan": { "muujin": run, "text": "RAG iyo LLM Qaybaha" }, "Miisaanka": { "yAxes": [ { "muujin": run, "beginAtZero": run } ] } } } Aragtidani waxay muujinaysaa tirada qaybaha ee moodooyinka RAG iyo LLM.

** Gabagabo**

Is dhexgalka RAG ee LLMs waxay leedahay awood ay ku beddesho habka aan u horumarino software. Marka la isku daro awoodaha dib-u-soo-celinta ku salaysan iyo habab-jiil-ku-salaysan, RAG waxay ka caawin kartaa LLM-yada inay soo saaraan kood sax ah oo habboon. Tani waxay u horseedi kartaa horumar la taaban karo ee wax soo saarka horumariyaha, tayada code, iyo guud ahaan socodka shaqada horumarinta software. Qalabka orchestration sida LangChain iyo DSPy, horumariyayaashu waxay si fudud ugu dhex dari karaan RAG LLMs iyo qaybaha kale ee NLP si ay u abuuraan qulqulo shaqo oo horumarineed oo software ah.


¿Tienes preguntas?

Hablemos

Contáctame en LinkedIn