RAG a chomhtháthú le LLManna le haghaidh Ailtireacht Dhinimiciúla Bogearraí: Treoir Phraiticiúil

RAG a chomhtháthú le LLManna don Ailtireacht Dhinimiciúil Bogearraí: Treoir Phraiticiúil

Réamhrá

Le blianta beaga anuas, tá claochlú suntasach tagtha ar réimse na hailtireachta bogearraí le teacht ar Mhúnlaí Móra Teanga (LLManna) agus ar theicnící Giniúint Mhéadaithe Aisghabhála (RAG). D'fhéadfadh an tsineirgíocht idir an dá theicneolaíocht seo athrú a dhéanamh ar an mbealach ina ndéanaimid córais bogearraí a dhearadh agus a fhorbairt. San Airteagal seo, déanfaimid iniúchadh ar chomhtháthú RAG le LLManna le haghaidh ailtireacht bogearraí dinimiciúil, lena n-áirítear straitéisí cur chun feidhme ag baint úsáide as uirlisí ceolfhoirne mar LangChain agus DSPy.

Cad é RAG?

Teicníc is ea RAG a chomhcheanglaíonn láidreachtaí samhlacha atá bunaithe ar Aisghabháil agus Giniúint chun aschuir téacs ar ardchaighdeán a tháirgeadh. Is é an bunsmaoineamh atá taobh thiar de RAG múnla aisghabhála a úsáid chun doiciméid nó sleachta ábhartha a roghnú as corpas mór, agus ansin múnla giniúna a úsáid chun téacs a ghiniúint bunaithe ar na sleachta aisghabhála seo. Tá feabhsuithe suntasacha léirithe ag an gcur chuige seo i dtascanna mar fhreagairt ceisteanna, achoimre téacs, agus AI comhrá.

Cad é LLM?

Is cineál de shamhail hintleachta saorga iad LLManna atá oilte ar mhéideanna móra sonraí téacs chun aschuir teanga atá cosúil le daoine a ghiniúint. Tá na samhlacha seo bunaithe go hiondúil ar ailtireachtaí claochladán agus tá torthaí úrscothacha bainte amach acu i raon leathan tascanna próiseála teanga nádúrtha. Tá LLManna thar a bheith ilúsáideach agus is féidir iad a úsáid le haghaidh tascanna mar aistriúchán teanga, achoimriú téacs, agus AI comhrá.

Cén fáth RAG a chomhtháthú le LLManna?

Tá buntáistí éagsúla ag baint le comhtháthú RAG le LLManna d’ailtireacht bhogearraí dhinimiciúla:

1. Cruinneas Feabhsaithe: Is féidir le RAG cabhrú le LLManna doiciméid nó sleachta ábhartha a roghnú as corpas mór, as a dtiocfaidh aschuir téacs níos cruinne agus níos faisnéiseach.
2. Éifeachtúlacht Mhéadaithe: Is féidir le RAG forchostas ríomhaireachtúil LLManna a laghdú trí na doiciméid nó na sleachta is ábhartha a roghnú, rud a fhágann amanna freagartha níos tapúla.
3. Solúbthacht Feabhsaithe: Is féidir RAG a úsáid chun oiriúnú do roghanna agus riachtanais athraitheacha úsáideoirí, rud a ligeann do LLM aschuir téacs a ghiniúint atá níos ábhartha agus níos tarraingtí.

Straitéisí Forfheidhmithe

Tá roinnt straitéisí cur chun feidhme ann chun RAG a chomhtháthú le LLManna, lena n-áirítear:

1. LangChain: Is leabharlann foinse oscailte í LangChain a sholáthraíonn API simplí iomasach chun samhlacha RAG-bhunaithe a thógáil. Tacaíonn sé le raon leathan LLManna agus is féidir é a úsáid chun ailtireachtaí casta RAG a chur i bhfeidhm.
2. DSPy: Is leabharlann Python í DSPy a sholáthraíonn bealach simplí agus éifeachtach chun samhlacha RAG-bhunaithe a chur i bhfeidhm. Tacaíonn sé le raon leathan LLManna agus is féidir é a úsáid chun ailtireachtaí casta RAG a chur i bhfeidhm.

Códshampla

Seo sampla cód simplí a thaispeánann conas LangChain a úsáid chun RAG a chomhtháthú le LLManna:

allmhairiú langchain
ó langchain.chains allmhairiú RAGChain
ó langchain.llms allmhairiú LLaMA


láma = LLaMA()

# Cruthaigh samhail RAGChain
rag_chain = RAGChain(llama, retrieval_model="t5-beag")

# Sainmhínigh leid
prompt = "Cad é príomhchathair na Fraince?"

# Gin aschur téacs
aschur = rag_chain.run(prioc)

prionta (aschur)

Léiríonn an sampla cód seo conas LangChain a úsáid chun samhail RAGChain a chruthú a chomhtháthaíonn samhail LLaMA le múnla aisghabhála. Úsáidtear an tsamhail RAGChain ansin chun aschur téacs a ghiniúint bunaithe ar leid.

Na 5-10 nOrd/Blúire is Mó Úsáidte

Seo iad na 5-10 n-orduithe/blúine is mó a úsáidtear chun RAG a chomhtháthú le LLManna:

1. langchain.RAGChain(llama, retrieval_model="t5-small"): Cruthaítear samhail RAGChain a chomhtháthaíonn samhail LLaMA le múnla aisghabhála.
2. llama.run(leid): Gineann sé aschur téacs bunaithe ar leid ag baint úsáide as an tsamhail LLaMA.
3. rag_chain.run(leid): Gineann aschur téacs bunaithe ar leid ag baint úsáide as an tsamhail RAGChain.
4. langchain.chains.RAGChain(llama, retrieval_model="t5-small", max_length=1024): Cruthaítear samhail RAGChain a chomhtháthaíonn samhail LLaMA le múnla aisghabhála agus a shocraíonn fad uasta an téacs aschuir.
5. llama.get_input(prompt): Seoltar ar ais an téacs ionchuir don tsamhail LLaMA.
6. rag_chain.get_output(prompt): Filleann an téacs aschuir don tsamhail RAGChain.
7. langchain.chains.RAGChain(llama, retrieval_model="t5-small", batch_size=32): Cruthaíonn sé samhail RAGChain a chomhtháthaíonn samhail LLaMA le múnla aisghabhála agus a shocraíonn méid an bhaisc.
8. llama.get_output(prompt): Seoltar ar ais an téacs aschuir don tsamhail LLaMA.
9. rag_chain.get_input(prompt): Filleann sé an téacs ionchuir don tsamhail RAGChain.
10. langchain.chains.RAGChain(llama, retrieval_model="t5-small", device="cuda"): Cruthaíonn sé samhail RAGChain a chomhtháthaíonn samhail LLaMA le múnla aisghabhála agus a shocraíonn an gléas chuig CUDA.

Amharcléiriú

Seo léirshamhlú simplí ar an tsamhail RAGChain ag baint úsáide as Chart.js:

{
  "cineál": "barra",
  "sonraí": {
    "lipéid": ["LLaMA", "RAGChain"],
    "tacair sonraí": [
      {
        "label" : "Cruinneas",
        "sonraí": [0.8, 0.9],
        "backgroundColor": ["#FF6384", "#36A2EB"]
      }
    ]
  },
  "roghanna": {
    "teideal": {
      "taispeáint": fíor,
      "text": "Cruinneas Múnla RAGChain"
    },
    "scálaí": {
      "yAiseanna": [
        {
          "ticeanna": {
            "beginAtZero": fíor
          }
        }
      ]
    }
  }
}

Léiríonn an léirshamhlú seo cruinneas an mhúnla LLaMA agus an tsamhail RAGChain.

Conclúid

cuireann comhtháthú RAG le LLManna roinnt buntáistí le haghaidh ailtireacht bogearraí dinimiciúil, lena n-áirítear cruinneas feabhsaithe, éifeachtúlacht mhéadaithe, agus solúbthacht feabhsaithe. Is dhá uirlis cheolchoirmeacha tóir iad LangChain agus DSPy is féidir a úsáid chun samhlacha RAG-bhunaithe a chur i bhfeidhm. Trí na straitéisí cur chun feidhme agus na samplaí cód a sholáthraítear san Airteagal seo a leanúint, is féidir le forbróirí ailtireachtaí casta RAG a chruthú a chomhtháthaíonn LLManna le samhlacha aisghabhála. Cuirtear na 5-10 n-orduithe/blúine is mó a úsáidtear chun RAG a chomhtháthú le LLManna ar fáil freisin le haghaidh tagartha.