** Isku-dubbaridka RAG iyo LLM-yada loogu talagalay Farsamaynta Software-ka Firfircoon: Hagaha Waxqabadka ***

hordhac

Sanadihii la soo dhaafay, qaybta qaab-dhismeedka software-ku waxa uu ku yimid isbeddel weyn oo ku yimid soo-saarista Hababka Luuqadaha Waaweyn (LLMs) iyo farsamooyinka dib-u-soo-celinta-Augmented Generation (RAG). Is-waafajinta labadan tignoolajiyada ayaa awood u leh in ay wax ka beddelaan habka aan u naqshadeyno oo aan u horumarino nidaamyada software. Maqaalkan, waxaanu sahamin doonaa is dhexgalka RAG iyo LLMs ee naqshadaynta software firfircoon, oo ay ku jiraan xeeladaha hirgelinta iyadoo la adeegsanayo qalabyada orchestration sida LangChain iyo DSPy.

waa maxay RAG?

RAG waa farsamo isku daraysa awoodaha moodooyinka Ku-salaysan Dib-u-noqoshada iyo Jiilka-ku-salaysan si loo soo saaro qoraallo tayo sare leh. Fikradda aasaasiga ah ee ka dambeysa RAG waa in la isticmaalo qaabka dib u soo celinta si aad u doorato dukumeenti ama marinnada ku haboon ee korpus weyn, ka dibna la isticmaalo qaabka jiilka si loo soo saaro qoraal ku salaysan marinnadan la soo saaray. Habkani waxa uu muujiyay horumaro la taaban karo oo ku saabsan hawlaha sida ka jawaabista su'aalaha, soo koobida qoraalka, iyo wada hadalka AI.

waa maxay LLM?

LLMs waa nooc ka mid ah qaabka sirdoonka macmalka ah kaas oo lagu tababaray xaddi badan oo xogta qoraalka ah si loo soo saaro wax soo saarka luqadda aadanaha oo kale. Moodooyinkani waxay caadi ahaan ku saleysan yihiin qaab-dhismeedka beddelka waxayna ku guuleysteen natiijooyin casri ah oo badan oo kala duwan oo ah hawlaha habaynta luqadda dabiiciga ah. LLM-yadu aad bay u wanagsan yihiin waxaana loo isticmaali karaa hawlo ay ka mid yihiin tarjumaada luqadda, soo koobida qoraalka, iyo wada hadalka AI.

Waa maxay sababta RAG iyo LLMs loogu dhex daro?

Ku darida RAG iyo LLMs waxay bixisaa faa'iidooyin dhowr ah oo loogu talagalay qaab dhismeedka software firfircoon:

1. ** Saxnaanta La Wanaajiyay ***: RAG waxay ka caawin kartaa LLM-yada inay doortaan dukumeentiyada khuseeya ama tuducyada ka soo baxa corpus weyn, taasoo horseedaysa soo saarida qoraalo badan oo sax ah oo xog leh.
2. ** Kordhinta Waxtarka ***: RAG waxay yarayn kartaa xisaabinta dulsaarka LLM-yada iyadoo dooranaysa kaliya dukumeentiyada ama marinnada ugu habboon, taasoo horseedaysa waqtiyo jawaab celin degdeg ah.
3. ** Dabacsanaan La Wanaajiyey ***: RAG waxaa loo isticmaali karaa in lagu beddelo dookhyada isticmaalaha iyo shuruudaha, taasoo u oggolaanaysa LLM-yada inay soo saaraan qoraallada ku habboon oo soo jiidanaya.

Xeeladaha Dhaqangelinta

Waxaa jira dhowr xeeladood oo fulineed oo lagu dhex geliyo RAG iyo LLMs, oo ay ku jiraan:

1. ** LangChain ***: LangChain waa maktabad il furan oo bixisa API fudud oo dareen leh oo lagu dhisayo moodooyinka ku saleysan RAG. Waxay taageertaa noocyo kala duwan oo LLMs waxaana loo isticmaali karaa in lagu hirgeliyo naqshadaha RAG ee adag.
2. ** DSPy ***: DSPy waa maktabad Python ah oo bixisa hab fudud oo hufan oo lagu hirgeliyo moodooyinka ku saleysan RAG. Waxay taageertaa noocyo kala duwan oo LLMs waxaana loo isticmaali karaa in lagu hirgeliyo naqshadaha RAG ee adag.

** Tusaalaha Koodhka ***

Halkan waxaa ah tusaale kood fudud oo muujinaya sida loo isticmaalo LangChain si loogu daro RAG iyo LLMs: `` Python soo dejinta langchain ka langchain.chains ka soo dejiso RAGChain laga soo dejiyo langchain.llms LLMA

llama = LLAMA()

Samee qaabka RAGChain

rag_chain = RAGChain (llama, retrival_model = "t5-yar")

Qeex degdeg

degdeg = "Waa maxay caasimadda Faransiiska?"

Samee wax soo saarka qoraalka

wax soo saarka = rag_chain.run( degdeg ah)

daabac (wax soo saar) `` Tusaalaha koodhkani wuxuu muujinayaa sida loo isticmaalo LangChain si loo abuuro nooc RAGChain ah kaas oo isku dara qaabka LLAMA oo leh nooc dib u soo celin ah. Qaabka RAGChain ayaa markaa loo istcimaalaa in lagu soo saaro wax soo saarka qoraalka ku salaysan degdeg.

** 5-10ka ugu sarreeya amarada/Qodobka ugu Isticmaalka badan**

Waa kuwan 5-10ka amarrada ugu badan ee la isticmaalo ee loogu talagalay isku-dhafka RAG iyo LLMs:

1. langchain.RAGChain(llama, retrieval_model="t5-small"): Waxay abuurtaa nooc RAGChain ah kaas oo ku dhex dara nashqada LLAMA iyo nooc soo saarid.
2. llama.run(degdeg): Waxay dhalisaa wax soo saarka qoraalka ku salaysan degdega iyadoo la isticmaalayo qaabka LLAMA.
3. rag_chain.run(degdeg): Waxay dhalisaa wax soo saarka qoraalka ku salaysan degdega iyadoo la isticmaalayo qaabka RAGChain.
4. langchain.chains.RAGChain(llama, retrieval_model="t5-small",max_length=1024): Wuxuu abuuraa moode RAGChain kaas oo ku daraya nashqada LLAMA oo leh qaab soo-celin oo dejinaya dhererka ugu badan ee qoraalka soo-saarka.
5. llama.get_input(degdeg): U soo celisa qoraalka wax gelinta ee qaabka LLAMA.
6. rag_chain.get_output(degdeg): U soo celisa qoraalka wax soo saarka ee qaabka RAGChain.
7. langchain.chains.RAGChain(llama, retrieval_model="t5-small", batch_size=32): Wuxuu abuuraa nashqada RAGChain kaaso ku dhex dara nashqada LLAMA oo leh nooc soosaar ah oo dejinaya cabbirka dufcada.
8. llama.get_output(degdeg): U soo celisa qoraalka wax soo saarka ee qaabka LLAMA.
9. rag_chain.get_input(degdeg): U soo celisa qoraalka wax gelinta ee qaabka RAGChain.
10. langchain.chains.RAGChain(llama, retrieval_model="t5-small", device="cuda"): Waxay abuurtaa nashqada RAGChain kaaso ku dhex dara nashqada LLAMA iyo qaabka soo celinta oo u dejinaya qalabka CUDA.

Muuqaalka

Halkan waxaa ah muuqaal fudud oo ah qaabka RAGChain iyadoo la adeegsanayo Chart.js: json { "type": "bar", "xogta": { "labels": ["LLaMA", "RAGChain"], "datasets": [ { "label": "Saaxsanaan", "xogta": [0.8, 0.9], "backgroundColor": ["#FF6384", "#36A2EB"] } ] }, "doorashooyinka": { "ciwaan": { "muujin": run, "text": "RAGChain Model sax ah" }, "Miisaanka": { "yAxes": [ { "ticks": { "beginAtZero": run } } ] } } } Aragtidaani waxay muujinaysaa saxnaanta qaabka LLAMA iyo qaabka RAGChain.

** Gabagabo**

is dhexgalka RAG iyo LLMs waxay bixisaa faa'iidooyin dhowr ah oo loogu talagalay qaab dhismeedka software firfircoon, oo ay ku jiraan saxnaanta la wanaajiyay, hufnaanta kordhay, iyo dabacsanaanta la xoojiyey. LangChain iyo DSPy waa laba qalab oo caan ah oo orchestra ah oo loo isticmaali karo in lagu hirgeliyo moodooyinka ku salaysan RAG. Iyadoo la raacayo xeeladaha fulinta iyo tusaalooyinka koodka ee lagu bixiyay maqaalkan, horumariyayaashu waxay abuuri karaan qaab-dhismeedyo adag oo RAG ah kuwaas oo ku daraya LLM-yada moodooyinka soo celinta. 5-10ka ugu sarreeya amarada/warqadaha inta badan la isticmaalo ee loogu talagalay isku dhafka RAG iyo LLMs ayaa sidoo kale loo bixiyaa tixraac.