RAG-ê çêbikin | B4N1

RAG-ê çêbikin

7 months ago · b4n1 Read time: 5 min

Bikaranîna Amûrên Orkestrasyonê ji bo Mîmariya Nermalava Bi Hêza AI-ê

Destpêk

Zêdebûna daxwaza ji bo mîmariya nermalava bi AI-ê hêzdar bûye sedema pêşkeftina amûrên orkestrasyonê yên cihêreng ên ku di pergalên nermalavê de yekbûna bêkêmasî ya îstîxbarata artificial (AI) û Fêrbûna Makîneyê (ML) pêk tîne. Di vê gotarê de, em ê pêkanîna mîmariya nermalava AI-ê bi karanîna amûrên orkestrasyonê yên mîna LangChain û DSPy vekolînin, bi baldarî li ser yekkirina kapasîteyên RAG (Rasoning û Action Graph) û LLM (Modelê Zimanek Mezin) ji bo mezinbûn, performans û ewlehiyê.

Amûrên Orkestrasyonê çi ne?

Amûrên orkestrasyonê çarçoweyên nermalavê ne ku bi yekkirina gelek karûbar, serîlêdan û pergalan ve otomasyona kar û pêvajoyên tevlihev dikin. Ew platformek navendî peyda dikin ji bo rêvebirin û hevrêzkirina danûstendinên di navbera pêkhateyên cihêreng de, dabînkirina pêkanîna karûbar û berbelavkirî ya karan.

LangChain: Amûrek Orkestrasyona Bingeha Python

LangChain pirtûkxaneyek Python-çavkaniyek vekirî ye ku ji bo avakirina mîmariya nermalava bi AI-ê hêzdar çarçoveyek berfireh peyda dike. Ew cûrbecûr taybetmendiyan pêşkêşî dike, di nav de:

  • **RAG (Rason û Grafika Çalakiyê) Yekbûn **: LangChain pêkanîna RAG-ya xwemalî peyda dike, ku diafirîne grafikên raman û çalakiyê yên tevlihev ên ku dikarin werin bikar anîn ji bo modelkirin û bicihanîna tevgerên xebatê yên AI-ê têne bikar anîn.
  • ** LLM (Modela Ziman a Mezin) Yekbûn **: LangChain yekbûna LLM-an, wek LLaMA û BERT, ji bo pêvajokirina zimanê xwezayî û karên nifşkirinê piştgirî dike.
  • ** Scalability and Performance **: LangChain hatiye dîzaynkirin ku bargiraniyên mezin ên AI-ê bi rê ve bibe, pêkanîna peywirên bikêr û berbelav peyda dike.

Bi LangChain re Bicihkirina Mîmariya Nermalava AI-Driven

Ji bo ku pêkanîna mîmariya nermalava AI-ê bi karanîna LangChain-ê nîşan bide, bila em mînakek hêsan a chatbotek ku RAG-ê bikar tîne da ku li ser pirsên bikarhêneran bihizire û bersivan biafirîne.

`` python zincîra îthalatê ji langchain.zincîran import llm

rag = langchain.RAG( name = "chatbot_rag", nodes=[ {"name": "silav", "text": "Silav, ez çawa dikarim alîkariya te bikim?"}, {"name": "bi xatirê te", "text": "Bi xatirê te, sohbeta bi te re xweş bû."}, ], kevî =[ {"from": "silav", "to": "bi xatirê te", "şert": "user_says_goodbye"}, ], )

LLM biafirînin

llm = llm.LLM( name = "chatbot_llm", model = "llama", max_tokens=100, )

Zincîrek chatbotê biafirînin

zincîre = langchain.Chain( name = "chatbot_zincîra", llm=llm, rag = çîçek, )

Chatbot ceribandin

user_input = "Silav, tu çawa yî?" bersiv = chain.run(bikarhêner_input) çapkirin (bersiv)


** DSPy: Amûrek Orkestrasyona Bingeha Rûst**


DSPy amûrek orkestrasyonê ya Rust-ê ye ku ji bo avakirina mîmariya nermalava bi AI-ê hêzdar çarçoveyek performansa bilind û berbelav peyda dike. Ew cûrbecûr taybetmendiyan pêşkêşî dike, di nav de:

* **RAG (Rason û Grafika Çalakiyê) Yekbûn**: DSPy pêkanîna RAG-ê ya çêkirî peyda dike, ku diafirîne grafikên raman û çalakiyê yên tevlihev ên ku dikarin ji bo modêlkirin û bicihanîna tevgerên xebatê yên AI-ê werin bikar anîn.
* **LLM (Modela Ziman a Mezin) Yekbûn **: DSPy yekbûna LLM-an, wek LLaMA û BERT, ji bo karên hilberandina zimanê xwezayî û peywiran piştgirî dike.
* **Scalability and Performance**: DSPy ji bo birêvebirina bargiraniyên mezin ên AI-ê hatî çêkirin, pêkanîna peywirên bikêr û berbelav peyda dike.

** Bi DSPy re Bicihkirina Mîmariya Nermalava AI-Driven **


Ji bo ku pêkanîna mîmariya nermalava AI-ê ya bi karanîna DSPy-ê nîşan bide, ka em mînakek hêsan a chatbot-ê ku RAG-ê bikar tîne da ku li ser pirsên bikarhêneran bihizire û bersivan çêbike.

`` rust
dspy bikar bînin::zincîra;
dspy::llm bikar bînin;

// RAGek çêbikin
bila rag = zincîr::RAG:: nû(
    "chatbot_rag",
    vec![
        zincîr:: Node:: nû ("silav", "Silav, ez çawa dikarim alîkariya te bikim?"),
        chain::Node::new("bi xatirê te", "Bi xatirê te, sohbeta bi te re xweş bû."),
    ],
    vec![
        zencîre::Derx::new("silav", "bi xatirê te", "user_says_goodbye"),
    ],
);

// LLM çêbikin
bila llm = llm::LLM::new(
    "chatbot_llm",
    "llama",
    100,
);

// Zincîreke chatbotê biafirîne
bila zincîr = zincîr::Zincîr::nû(
    "chatbot_chain",
    llm,
    rag,
);

// Chatbot ceribandin
let user_input = "Silav, tu çawa yî?";
bila bersiv = chain.run(user_input);
println!("{}", bersiv);

Serê 5-10 Fermanên Herî Bikaranîn / Parçeyên

Li vir ji bo LangChain û DSPy çend ferman û hûrgelên herî gelemperî têne bikar anîn hene:

  • LangChain:
    • langchain.RAG(): Nimûneyek RAG ya nû diafirîne.
    • langchain.LLM(): Nimûneyek LLM ya nû diafirîne.
    • langchain.Chain(): Mînaka zincîra nû diafirîne.
    • rag.run(): RAG-ê dimeşîne û bersivek çêdike.
    • llm.run(): LLM-ê dimeşîne û bersivek çêdike.
  • DSPy:
    • dspy::zincîra::RAG::new(): Nimûneyek RAG ya nû diafirîne.
    • dspy::llm::LLM::new(): Nimûneyek LLM-ya nû diafirîne.
    • dspy::zincîr::Zincîre::new(): Mînaka zincîra nû diafirîne.
    • chain.run(): Zincîrê dimeşîne û bersivekê çêdike.

**Visualization **

Li vir dîmenek hêsan a kapasîteyên RAG û LLM bi karanîna Chart.js heye:

``javascript const ctx = document.getElementById('myChart').getContext('2d'); nexşeya const = nexşeya nû(ctx, { type: 'bar', data: { etîket: ['RAG', 'LLM'], Daneyên daneyan: [{ etîket: 'Kabîlît', data: [10, 20], PaşReng: [ 'rgba(255, 99, 132, 0.2)', 'rgba(54, 162, 235, 0.2)', ], sînorReng: [ 'rgba(255, 99, 132, 1)', 'rgba(54, 162, 235, 1)', ], Firehiya sînor: 1 }] }, vebijark: { pîvan: { y: { DestpêkAtZero: rast } } } });


** Encam **


LangChain û DSPy amûrên orkestrasyonê yên hêzdar in ku pêkanîna mîmariya nermalava AI-ê bi karanîna kapasîteyên RAG û LLM-ê pêk tîne. Bi karanîna van amûran re, pêşdebir dikarin pergalên nermalava berbelav, performans û ewledar biafirînin ku dikarin barkêşên AI-ê yên tevlihev birêve bibin. Bi karanîna hêsan û nermbûna xwe, LangChain û DSPy ji bo avakirina mîmariya nermalava bi AI-ê vebijarkên îdeal in.

** Pêşniyarên **


Li ser bingeha nîqaşa di vê gotarê de, li vir çend pêşniyar hene ji bo pêşdebiran ku dixwazin mîmariya nermalava AI-ê bi karanîna LangChain û DSPy bicîh bikin:

* Bi fêrbûna bingehên LangChain û DSPy, tevî kapasîteyên wan ên RAG û LLM dest pê bikin.
* Bi mînakên sade, wek mînaka chatbotê, biceribîne da ku hîs bikin ka amûr çawa dixebitin.
* Hêdî hêdî ber bi projeyên tevlihevtir ve biçin, wek mînak avakirina pergalek pêşniyarê an boriyek hilberandina zimanê xwezayî.
* Beşa 5-10 Fermanên Herî Bikaranîn / Parçeyên Serûpelê wekî rêbernameyek referansê ji bo ferman û perçeyên hevpar bikar bînin.
* Kapasîteyên xwe yên RAG û LLM bi karanîna Chart.js-ê bibînin da ku têgihîştinek çêtir a têkiliyên di navbera pêkhateyên cihêreng de bistînin.

Bi şopandina van pêşnîyaran, pêşdebiran dikarin potansiyela tevahî ya LangChain û DSPy vekin û mîmariya nermalava bi AI-ê-hêzdar ava bikin ku dikare barkêşên xebata tevlihev bi rê ve bibe û performansa awarte û mezinbûnê peyda bike.

Have Questions?

Let's Talk

Contact me on LinkedIn