Cruthaigh RAG | B4N1

Cruthaigh RAG

7 months ago · b4n1 Read time: 5 min

Uirlisí Ceolfhoirne Giarála le haghaidh Ailtireachta Bogearraí AI-Powered

Réamhrá

Mar thoradh ar an éileamh méadaithe ar ailtireacht bogearraí atá á gcumhachtú le AI, forbraíodh uirlisí ceolfhoirne éagsúla a chumasaíonn comhtháthú gan uaim ar chumais Intleachta Saorga (AI) agus Foghlaim Meaisín (ML) i gcórais bogearraí. San Airteagal seo, déanfaimid iniúchadh ar chur i bhfeidhm ailtireacht bogearraí AI-tiomáinte ag baint úsáide as uirlisí ceolfhoirne mar LangChain agus DSPy, le fócas ar chomhtháthú RAG (Reasoning and Action Graph) agus LLM (Múnla Móra Teanga) cumais le haghaidh scalability feabhsaithe, feidhmíocht, agus slándáil.

Cad is Uirlisí Ceolfhoirne ann?

Is creataí bogearraí iad uirlisí ceolfhoirne a chumasaíonn sreafaí oibre agus próisis chasta a uathoibriú trí sheirbhísí, feidhmchláir agus córais iolracha a chomhtháthú. Soláthraíonn siad ardán láraithe chun na hidirghníomhaíochtaí idir comhpháirteanna éagsúla a bhainistiú agus a chomhordú, lena n-áirithítear cur i gcrích éifeachtach agus inscálaithe tascanna.

LangChain: Uirlis Ceolfhoirne bunaithe ar Python

Is leabharlann foinse oscailte Python é LangChain a sholáthraíonn creat cuimsitheach chun ailtireacht bogearraí faoi thiomáint AI a thógáil. Tairgeann sé raon gnéithe, lena n-áirítear:

  • ** Comhtháthú RAG (Graf Réasúnúcháin agus Gníomhaíochta)**: Soláthraíonn LangChain cur i bhfeidhm RAG ionsuite, rud a chumasaíonn cruthú graif réasúnaíochta agus gníomhaíochta casta is féidir a úsáid chun sreafaí oibre atá tiomáinte ag AI a shamhaltú agus a fheidhmiú.
  • LLM (Samhail Mhór Teanga) Comhtháthú: Tacaíonn LangChain le comhtháthú LLManna, mar LLaMA agus BERT, le haghaidh próiseála teanga nádúrtha agus tascanna giniúna.
  • ** Inscálaitheacht agus Feidhmíocht**: Tá LangChain deartha chun ualaí oibre AI ar scála mór a láimhseáil, ag soláthar cur i gcrích éifeachtach agus inscálaithe tascanna.

Ailtireacht Bogearraí atá Tiomáinte ag AI a chur i bhfeidhm le LangChain

Chun cur i bhfeidhm ailtireacht bogearraí AI-tiomáinte a léiriú ag baint úsáide as LangChain, déanaimis machnamh ar shampla simplí de chatbot a úsáideann RAG chun réasúnaíocht a dhéanamh ar cheisteanna úsáideoirí agus freagraí a ghiniúint.

allmhairiú langchain
ó langchain.chains allmhairiú llm


rag = langchain.RAG(
    ainm = "chatbot_rag",
    nóid=[
        { "name": "beannacht", "text": "Dia duit, conas is féidir liom cabhrú leat?"},
        { "name": "beannacht", "text": "Slán, bhí sé go deas comhrá a dhéanamh leat."},
    ],
    imill=[
        { "ó": "beannacht", "go": "beannacht", "coinníoll": "user_says_goodbye"},
    ],
)

# Cruthaigh LLM
llm = llm.LLM(
    ainm = "chatbot_llm",
    samhail="llama",
    max_tokens=100,
)

# Cruthaigh slabhra chatbot
slabhra = langchain.Chain(
    ainm = "chatbot_chain",
    llm=llm,
    rag = rag,
)

# Tástáil an chatbot
user_input = "Dia duit, conas atá tú?"
freagra = chain.run(user_input)
cló (freagra)

DSPy: Uirlis Cheolfhoirne atá Bunaithe ar mheirge

Is uirlis cheolfhoirneachta Rust-bhunaithe é DSPy a sholáthraíonn creat ardfheidhmíochta agus inscálaithe chun ailtireacht bogearraí atá á gcumhachtú ag AI a thógáil. Tairgeann sé raon gnéithe, lena n-áirítear:

  • ** Comhtháthú RAG (Graf Réasúnúcháin agus Gníomhaíochta)**: Soláthraíonn DSPy cur i bhfeidhm RAG ionsuite, a chumasaíonn cruthú graif chasta réasúnaíochta agus gníomhaíochta is féidir a úsáid chun sreafaí oibre atá tiomáinte ag AI a shamhaltú agus a fheidhmiú.
  • LLM (Samhail Mhór Teanga) Comhtháthú: Tacaíonn DSPy le comhtháthú LLManna, mar LLaMA agus BERT, le haghaidh próiseáil teanga nádúrtha agus tascanna giniúna.
  • Inscálaitheacht agus Feidhmíocht: Tá DSPy deartha chun ualaí oibre AI ar mhórscála a láimhseáil, ag soláthar cur i gcrích éifeachtach agus inscálaithe tascanna.

Ailtireacht Bhogearraí AI-tiomáinte a chur i bhfeidhm le DSPy

Chun cur i bhfeidhm ailtireacht bogearraí AI-tiomáinte a léiriú ag baint úsáide as DSPy, déanaimis machnamh ar shampla simplí de chatbot a úsáideann RAG chun ceisteanna úsáideoirí a réasúnú agus freagraí a ghiniúint.

úsáid dspy::chain;
úsáid dspy::llm;

// Cruthaigh RAG
lig rag = slabhra ::RAG ::nua(
    "chatbot_rag",
    vec![
        slabhra::Nód::nua("beannacht", "Dia duit, conas is féidir liom cabhrú leat?"),
        slabhra::Node::new("beannacht", "Slán, bhí sé go deas ag comhrá leat."),
    ],
    vec![
        slabhra :: Imeall :: nua ( "beannacht", "beannacht", "user_says_goodbye"),
    ],
);

// Cruthaigh LLM
lig llm = llm ::LLM ::nua(
    "chatbot_llm",
    "llama",
    100,
);

// Cruthaigh slabhra chatbot
lig slabhra = slabhra ::Slabhra::nua(
    "chatbot_chain",
    llm,
    rag,
);

// Tástáil an chatbot
let user_input = "Dia duit, conas atá tú?";
ligean freagra = chain.run(user_input);
println!("{}", freagra);

Na 5-10 nOrd/Blúire is Mó Úsáidte

Seo cuid de na horduithe agus na gearrthóga is coitianta a úsáidtear le haghaidh LangChain agus DSPy:

  • LangChain:
    • langchain.RAG(): Cruthaítear ásc RAG nua.
    • langchain.LLM(): Cruthaítear sampla nua LLM.
    • langchain.Chain(): Cruthaítear ásc slabhra nua.
    • rag.run(): Ritheann sé an RAG agus gineann sé freagra.
    • llm.run(): Ritheann an LLM agus gineann sé freagra.
  • DSPy: *dspy::chain::RAG::nua(): Cruthaíonn sé shampla RAG nua. *dspy::llm::LLM::nua(): Cruthaíonn sé shampla LLM nua.
    • dspy::chain::Slabhra::nua(): Cruthaíonn sé sampla slabhra nua.
    • chain.run(): Ritheann sé an slabhra agus gineann sé freagra.

Amharcléiriú

Seo léirshamhlú simplí ar na cumais RAG agus LLM ag baint úsáide as Chart.js:

const ctx = document.getElementById('myChart').getContext('2d');
chairt const = Cairt nua(ctx, {
    cineál: 'barra',
    sonraí: {
        lipéid: ['RAG', 'LLM'],
        tacair shonraí: [{
            lipéad: 'Cumais',
            sonraí: [10, 20],
            dath cúlra: [
                'rgb(255, 99, 132, 0.2)',
                'rgb(54, 162, 235, 0.2)',
            ],
            dath teorann: [
                'rgb(255, 99, 132, 1)',
                'rgb(54, 162, 235, 1)',
            ],
            teorann Leithead: 1
        }]
    },
    roghanna: {
        scálaí: {
            y: {
                startAtZero: fíor
            }
        }
    }
});

Conclúid

Is uirlisí ionstraimíochta cumhachtacha iad LangChain agus DSPy a chuireann ar chumas ailtireacht bogearraí AI-tiomáinte a chur i bhfeidhm ag baint úsáide as cumais RAG agus LLM. Trí na huirlisí seo a ghiaráil, is féidir le forbróirí córais bogearraí inscálaithe, feidhmíochta agus slán a chruthú ar féidir leo ualaí oibre AI casta a láimhseáil. Leis an éascaíocht úsáide agus solúbthachta, is roghanna iontacha iad LangChain agus DSPy chun ailtireacht bogearraí faoi thiomáint AI a thógáil.

Moltaí

Bunaithe ar an bplé san Airteagal seo, seo roinnt moltaí d'fhorbróirí atá ag iarraidh ailtireacht bogearraí AI-tiomáinte a chur i bhfeidhm ag baint úsáide as LangChain agus DSPy:

  • Tosaigh trí bhunghnéithe LangChain agus DSPy a fhoghlaim, lena n-áirítear a gcumas RAG agus LLM.
  • Bain triail as samplaí simplí, mar shampla an chatbot, chun tuiscint a fháil ar an gcaoi a n-oibríonn na huirlisí.
  • Téigh ar aghaidh de réir a chéile chuig tionscadail níos casta, mar shampla córas moltaí a thógáil nó píblíne próiseála teanga nádúrtha.
  • Bain úsáid as an rannóg 5-10 Ordú/Blúire is Mó Úsáidte mar threoir thagartha le haghaidh orduithe agus míreanna coitianta.
  • Amharc ar do chumas RAG agus LLM ag baint úsáide as Chart.js chun tuiscint níos fearr a fháil ar na caidrimh idir comhpháirteanna éagsúla.

Trí na moltaí seo a leanúint, is féidir le forbróirí lánacmhainneacht LangChain agus DSPy a dhíghlasáil agus ailtireacht bogearraí faoi thiomáint AI a thógáil a fhéadfaidh ualaí oibre casta a láimhseáil agus feidhmíocht eisceachtúil agus scalability a sholáthar.


Have Questions?

Let's Talk

Contact me on LinkedIn