Te whakauru RAG me nga LLM mo nga Reremahi Whakawhanake Pūmanawa Whakarei

Ko te whakauru RAG me nga LLM mo nga Reremahi Whakawhanake Pūmanawa Whakarei

Whakataki

Kei te tere te tipu haere o te whenua whanaketanga rorohiko, na te ahu whakamua o te matauranga mohio (AI), te ako miihini (ML), me te tukatuka reo maori (NLP). E rua nga hangarau matua e huri ana i te huarahi ki te whakawhanake i te rorohiko ko te Retrieval-Augmented Generation (RAG) me nga Tauira Reo Nui (LLM). I roto i tenei tuhinga, ka tirotirohia e matou te whakaurunga o te RAG me nga LLM hei whakamaarama i nga tukanga miihini rorohiko, whakapai ake i te hanga waehere, me te whakanui i te hua o te kaiwhakawhanake.

He aha te Retrieval-Augmented Generation (RAG)?

Ko te RAG he tikanga e whakakotahi ana i nga kaha o nga huarahi whakahoki mai me nga huarahi whakatipuranga ki te NLP. Ko te tango i nga korero e tika ana mai i te kohinga nui o te tuhinga me te whakamahi hei whakanui ake i te reanga tuhinga hou. Ko tenei huarahi kua whakaatuhia he tino whai hua i roto i nga momo mahi NLP, tae atu ki te whakautu patai, te whakarāpopototanga kuputuhi, me te hanga waehere.

He aha nga Tauira Reo Nui (LLM)?

Ko nga LLM he momo whatunga neural i hangaia hei tukatuka me te whakaputa i te reo rite te tangata. I te nuinga o te wa ka whakangunguhia ratou ki nga huinga raraunga nui o te kuputuhi, ka taea te whakarite mo nga mahi motuhake penei i te whakamaoritanga reo, te whakarāpopototanga kuputuhi, me te whakaputa waehere. Kua whakatutukihia e nga LLM nga hua hou i roto i te maha o nga mahi NLP, ka whakamahia nuitia i roto i nga tono penei i nga chatbots, nga kaiawhina mariko, me nga punaha whakamaori reo.

Ko te whakauru RAG me nga LLM mo nga Reremahi Whakawhanake Pūmanawa Whakarei

Utauta Whakaraupapa: LangChain me DSPy

Hei whakauru i te RAG me nga LLM, ka hiahia matou i nga taputapu whakahiato ka taea te whakahaere i te rere o nga raraunga me te whakahaere i te mahinga o nga waahanga RAG me te LLM. E rua nga taputapu orchestration rongonui ka taea te whakamahi mo tenei kaupapa ko LangChain me DSPy.

LangChain

Ko LangChain he puna tuwhera puna Python e whakarato ana i te API ngawari me te mohio mo te hanga i nga tono a-RAG. Ka taea e nga kaiwhakawhanake te whakauru ngawari ki te RAG me nga LLM me etahi atu waahanga NLP ki te hanga rerengamahi whanaketanga rorohiko kaha.

DSPy

Ko DSPy tetahi atu puna pukapuka Python puna tuwhera e whakarato ana i te API taumata teitei mo te hanga i nga tono a-RAG. I hoahoatia kia pai te mahi me nga LLM me etahi atu waahanga NLP, ka waiho hei whiringa pai mo te whakauru RAG me nga LLM.

Tauira Waehere: Te whakauru i te RAG me nga LLM ma te whakamahi i te LangChain

Anei tetahi tauira waehere ngawari e whakaatu ana me pehea te whakauru i te RAG me nga LLM ma te whakamahi i te LangChain:

kawemai langchain
mai i langchain.chains kawemai RAGCain


rag_model = langchain.RAG(
    taupū=langchain.Taupū(
        ingoa="my_index",
        documents=["tuhinga1", "tuhinga2", "tuhinga3"],
    ),
    retriever=langchain.Retriever(
        name="my_retriever",
        model="my_retriever_model",
    ),
    generator=langchain.Generator(
        name="my_generator",
        model="my_generator_model",
    ),
)

# Tautuhia te tauira LLM
llm_model = langchain.LLM(
    ingoa="my_llm",
    model="my_llm_model",
)

# Waihangahia he mekameka RAG
rag_chain = RAGChain(
    name="my_rag_chain",
    tauira=rag_model,
    llm=llm_tauira,
)

# Whakamahia te mekameka RAG hei whakaputa waehere
waehere = rag_chain.generate(
    input_text="Tuhia he taumahi e tango ana i nga tauoti e rua hei whakaurunga ka whakahoki mai i a raatau nama",
)

tā(waehere)

Ko tenei tauira waehere e whakaatu ana me pehea te tautuhi i te tauira RAG ma te whakamahi i te LangChain, te tautuhi i te tauira LLM, te hanga i te mekameka RAG, me te whakamahi i te mekameka ki te whakaputa waehere.

Tiki 5-10 Nga Tono Whakamahinga/Momohipi

Anei nga tono 5-10 e tino whakamahia ana mo te whakauru i te RAG me nga LLM ma te whakamahi i te LangChain me te DSPy:

langchain.RAG(): Hangaia he tauira tauira RAG.
langchain.Index(): Ka hangaia he tauira taupū mo te rokiroki me te tiki tuhinga.
langchain.Retriever(): Ka hangaia he tauira whakahoki mo te tiki tuhinga e tika ana.
langchain.Generator(): Ka hangaia he tauira whakaputa mo te whakaputa tuhinga hou.
langchain.LLM(): Hangaia he tauira tauira LLM.
RAGCain(): Waihangahia he tauira mekameka RAG.
rag_chain.generate(): Ka whakamahi i te mekameka RAG hei whakaputa waehere.
llm_model.generate(): Ka whakamahi i te tauira LLM hei whakaputa waehere.
index.add_document(): Tāpiri tuhinga ki te taupū.
retriever.retrieve(): Ka tiki i nga tuhinga e tika ana ma te whakamahi i te tiki.

Whakakitenga

Anei he tirohanga o nga waahanga RAG me LLM ma te whakamahi i te Chart.js:

{
  "type": "pae",
  "raraunga": {
    "labels": ["RAG", "LLM"],
    "raunga raraunga": [
      {
        "label": "Waihanga",
        "raraunga": [10, 20],
        "Tae papamuri": ["#4CAF50", "#FF9800"]
      }
    ]
  },
  "kōwhiringa": {
    "taitara": {
      "whakaatu": pono,
      "text": "Wahanga RAG me LLM"
    },
    "tauine": {
      "yAxes": [
        {
          "whakaatu": pono,
          "beginAtZero": pono
        }
      ]
    }
  }
}

Ka whakaatuhia e tenei tirohanga te maha o nga waahanga kei roto i nga tauira RAG me LLM.

Whakamutunga

Ko te whakaurunga o RAG me nga LLM ka kaha ki te whakarereke i te huarahi ki te whakawhanake rorohiko. Ma te whakakotahi i nga kaha o nga huarahi whakahoki-a-whakatupuranga, ka taea e te RAG te awhina i nga LLM ki te whakaputa i nga waehere tika me te whai take. Ka taea e tenei te arahi ki nga whakapainga nui o te hua kaiwhakawhanake, te kounga o te waehere, me nga rerenga mahi whanaketanga rorohiko katoa. Ma nga taputapu orchestration pera i a LangChain me DSPy, ka taea e nga kaiwhakawhanake te whakauru ngawari i te RAG me nga LLM me etahi atu waahanga NLP hei hanga rerenga mahi whanaketanga rorohiko kaha.

Te whakauru RAG me nga LLM mo nga Reremahi Whakawhanake Pūmanawa Whakarei

Have Questions?