Cruthaich RAG | B4N1

Cruthaich RAG

3 months ago · b4n1 Read time: 6 min

Innealan Orcastra leveraging airson ailtireachd bathar-bog le cumhachd AI

** Ro-ràdh**

Tha an t-iarrtas a tha a’ sìor fhàs airson ailtireachd bathar-bog le cumhachd AI air leantainn gu leasachadh grunn innealan orcastra a leigeas le bhith ag amalachadh comasan Artificial Intelligence (AI) agus Machine Learning (ML) ann an siostaman bathar-bog. San artaigil seo, nì sinn sgrùdadh air buileachadh ailtireachd bathar-bog air a stiùireadh le AI a’ cleachdadh innealan orcastra mar LangChain agus DSPy, le fòcas air a bhith ag amalachadh comasan RAG (Reasoning and Action Graph) agus LLM (Modail Cànain Mòr) airson scalability, coileanadh agus tèarainteachd nas fheàrr.

** Dè a th’ ann an Innealan Orcastra?**

Is e frèaman bathar-bog a th’ ann an innealan orcastra a bheir comas do shruth-obrach agus pròiseasan iom-fhillte fèin-ghluasad le bhith ag aonachadh grunn sheirbheisean, thagraidhean agus shiostaman. Bidh iad a’ toirt seachad àrd-ùrlar meadhanaichte airson a bhith a’ riaghladh agus a’ co-òrdanachadh na h-eadar-obrachaidhean eadar diofar phàirtean, a’ dèanamh cinnteach gun tèid gnìomhan a choileanadh gu h-èifeachdach agus gu scalable.

** LangChain: Inneal Orcastra stèidhichte air Python**

Tha LangChain na leabharlann Python le stòr fosgailte a bheir seachad frèam coileanta airson ailtireachd bathar-bog le cumhachd AI a thogail. Tha e a’ tabhann raon de fheartan, nam measg:

  • ** Amalachadh RAG (Graf Adhbhar agus Gnìomh) **: Tha LangChain a’ toirt seachad buileachadh RAG togte, a’ comasachadh cruthachadh reusanachadh iom-fhillte agus grafaichean gnìomh a ghabhas cleachdadh gus sruthan-obrach air an stiùireadh le AI a mhodaladh agus a chuir an gnìomh.
  • ** Amalachadh LLM (Modail Cànain Mòr) **: Tha LangChain a’ toirt taic do aonachadh LLMn, leithid LLaMA agus BERT, airson giullachd cànain nàdarra agus gnìomhan ginealach.
  • ** Scalability and Performance **: Tha LangChain air a dhealbhadh gus eallach obrach AI air sgèile mhòr a làimhseachadh, a’ toirt seachad coileanadh èifeachdach agus scalable de ghnìomhan.

A’ cur an gnìomh ailtireachd bathar-bog air a stiùireadh le AI le LangChain

Gus sealltainn gu bheil ailtireachd bathar-bog air a stiùireadh le AI a’ cleachdadh LangChain, leig dhuinn beachdachadh air eisimpleir shìmplidh de chatbot a bhios a’ cleachdadh RAG gus reusanachadh a dhèanamh mu cheistean luchd-cleachdaidh agus freagairtean a ghineadh.

toirt a-steach langchain
bho langchain.chains import llm


rag = langchain.RAG(
    ainm = "chatbot_rag",
    nodan =[
        { "name": "fàilte", "text": "Hello, ciamar a chuidicheas mi thu?"},
        { " name " : " beannachd leat " , " text " : " Slàn leat, bha e math a bhith a' còmhradh riut."},
    ],
    oirean =[
        { "from": "fàilte", "gu": "beannachd leat", "suidheachadh": "user_says_goodbye"},
    ],
)

# Cruthaich LLM
llm = llm.LLM(
    ainm = "chatbot_llm",
    model = "llama",
    max_tokens = 100,
)

# Cruthaich slabhraidh chatbot
slabhraidh = langchain.Chain(
    ainm = "chatbot_chain",
    llm = llm,
    rag = rag,
)

# Dèan deuchainn air a’ chatbot
user_input = "Hello, ciamar a tha thu?"
freagairt = chain.run (user_input)
clò-bhualadh (freagairt)

** DSPy: Inneal Orcastra stèidhichte air meirge**

Tha DSPy na inneal orcastra stèidhichte air Rust a bheir seachad frèam àrd-choileanaidh agus scalable airson ailtireachd bathar-bog le cumhachd AI a thogail. Tha e a’ tabhann raon de fheartan, nam measg:

  • ** Amalachadh RAG (Graf Adhbhar agus Gnìomh) **: Tha DSPy a’ toirt seachad buileachadh RAG stèidhichte, a’ comasachadh cruthachadh reusanachadh iom-fhillte agus grafaichean gnìomh a ghabhas cleachdadh gus sruthan-obrach air an stiùireadh le AI a mhodaladh agus a chuir an gnìomh.
  • ** Amalachadh LLM (Modail Cànain Mòr)**: Tha DSPy a’ toirt taic do aonachadh LLMn, leithid LLaMA agus BERT, airson giullachd cànain nàdarra agus gnìomhan ginealach.
  • ** Scalability agus Coileanadh **: Tha DSPy air a dhealbhadh gus eallach obrach AI air sgèile mhòr a làimhseachadh, a’ toirt seachad coileanadh èifeachdach agus scalable de ghnìomhan.

A’ cur an gnìomh ailtireachd bathar-bog air a stiùireadh le AI le DSPy

Gus sealltainn gu bheil ailtireachd bathar-bog air a stiùireadh le AI a’ cleachdadh DSPy, beachdaichidh sinn air eisimpleir shìmplidh de chatbot a bhios a’ cleachdadh RAG gus ceistean luchd-cleachdaidh a reusanachadh agus freagairtean a ghineadh.

``meirge cleachd dspy::chain; cleachd dspy::llm;

// Cruthaich RAG leig rag = slabhraidh ::RAG ::ùr( "chatbot_rag", caog![ slabhraidh :: Node :: new ("fàilte", "Hello, ciamar as urrainn dhomh do chuideachadh?"), chain ::Node ::new ("beannachd leat", "Slàn leat, bha e math a bhith a' còmhradh riut."), ], caog![ slabhraidh :: Edge :: ùr ("fàilte", "beannachd", "user_says_goodbye"), ], );

// Cruthaich LLM leig llm = llm ::LLM ::ùr( "chatbot_llm", "llama", 100, );

// Cruthaich slabhraidh chatbot leig slabhraidh = slabhraidh ::Slabhraidh ::ùr( "chatbot_chain", llm, rag, );

// Dèan deuchainn air a’ chatbot let user_input = "Hello, ciamar a tha thu?"; leig freagairt = chain.run (user_input); println!("{}", freagairt);


** 5-10 Òrdughan/Biotag as motha a chleachdar**
-------------------------------------

Seo cuid de na h-òrdughan agus criomagan as cumanta airson LangChain agus DSPy:

* LangChain:
    * `langchain.RAG()`: A' cruthachadh eisimpleir RAG ùr.
    * `langchain.LLM()`: A' cruthachadh eisimpleir LLM ùr.
    * `langchain.Chain()`: A' cruthachadh eisimpleir slabhraidh ùr.
    * `rag.run()`: A’ ruith an RAG agus a’ gineadh freagairt.
    * `llm.run()`: A' ruith an LLM agus a' gineadh freagairt.
* DSPy:
    * `dspy ::chain ::RAG ::new()`: A’ cruthachadh eisimpleir RAG ùr.
    *`dspy::llm::LLM::new()`: A' cruthachadh eisimpleir LLM ùr.
    * `dspy :: chain :: Chain :: new()`: A’ cruthachadh eisimpleir slabhraidh ùr.
    * `chain.run ()`: A’ ruith an t-seine agus a’ gineadh freagairt.

**Sealladh**
-------------

Seo sealladh sìmplidh de na comasan RAG agus LLM a’ cleachdadh Chart.js:

``javascript
const ctx = document.getElementById('myChart').getContext('2d');
cairt const = Cairt ùr(ctx, {
    seòrsa: 'bar',
    dàta: {
        bileagan: ['RAG', 'LLM'],
        stòran-dàta: [{
            leubail: ‘Comas’,
            dàta: [10, 20],
            cùl-dath: [
                'rgb(255, 99, 132, 0.2)',
                'rgb(54, 162, 235, 0.2)',
            ],
            dath chrìoch: [
                'rgb(255, 99, 132, 1)',
                'rgb(54, 162, 235, 1)',
            ],
            leud na crìche: 1
        }]
    },
    roghainnean: {
        lannan: {
            y: {
                tòiseachadhAtZero: fìor
            }
        }
    }
});

Co-dhùnadh

Gu crìch, tha LangChain agus DSPy nan innealan orcastra cumhachdach a leigeas le ailtireachd bathar-bog air a stiùireadh le AI a bhith a’ cleachdadh comasan RAG agus LLM. Le bhith a’ faighinn buannachd às na h-innealan sin, faodaidh luchd-leasachaidh siostaman bathar-bog scalable, dèanadach agus tèarainte a chruthachadh a làimhsicheas eallach obrach AI iom-fhillte. Le cho furasta an cleachdadh agus an sùbailteachd, tha LangChain agus DSPy nan deagh roghainnean airson ailtireachd bathar-bog le cumhachd AI a thogail.

Molaidhean

Stèidhichte air an deasbad san artaigil seo, seo cuid de mholaidhean airson luchd-leasachaidh a tha airson ailtireachd bathar-bog air a stiùireadh le AI a chuir an gnìomh a ’cleachdadh LangChain agus DSPy:

  • Tòisich le bhith ag ionnsachadh bunaitean LangChain agus DSPy, a’ toirt a-steach na comasan RAG agus LLM aca.
  • Dèan deuchainn air eisimpleirean sìmplidh, leithid eisimpleir chatbot, gus faireachdainn fhaighinn air mar a tha na h-innealan ag obair.
  • Mean air mhean gluais air adhart gu pròiseactan nas iom-fhillte, leithid togail siostam molaidh no loidhne-phìoban giollachd cànain nàdarra.
  • Cleachd an earrann 5-10 Òrdughan/Biomag as motha a chleachdar mar stiùireadh fiosrachaidh airson òrdughan is criomagan cumanta.
  • Dèan sealladh air na comasan RAG agus LLM agad a’ cleachdadh Chart.js gus tuigse nas fheàrr fhaighinn air na dàimhean eadar diofar phàirtean.

Le bhith a’ leantainn nam molaidhean sin, faodaidh luchd-leasachaidh làn chomas LangChain agus DSPy fhuasgladh agus ailtireachd bathar-bog le cumhachd AI a thogail as urrainn eallach obrach iom-fhillte a làimhseachadh agus coileanadh agus scalability air leth a thoirt seachad.


Have Questions?

Let's Talk

Contact me on LinkedIn