Waihangahia he RAG | B4N1

Waihangahia he RAG

3 months ago · b4n1 Read time: 6 min

Whakamahia i nga Utauta Whakaraupapa mo te Hanganga Pūmanawa Whakakaha AI

Whakataki

Ko te piki haere o te hiahia mo te hoahoanga rorohiko a AI kua puta ki te whakawhanaketanga o nga momo taputapu whakahiato e taea ai te tuitui i nga mana o Artificial Intelligence (AI) me te Ako Miihini (ML) ki nga punaha rorohiko. I roto i tenei tuhinga, ka tirotirohia e matou te whakatinanatanga o te hoahoanga rorohiko a AI ma te whakamahi i nga taputapu orchestration rite LangChain me DSPy, me te arotahi ki te whakauru i nga kaha o te RAG (Reasoning and Action Graph) me te LLM (Tauira Reo Nui) mo te whakarei ake i te tauineine, te mahi, me te haumaru.

He aha nga Utauta Whakaraupapa?

Ko nga taputapu orchestration he anga raupaparorohiko e taea ai te mahi aunoatanga o nga rerengamahi uaua me nga tukanga ma te whakauru i nga ratonga maha, tono me nga punaha. Ka whakaratohia e ratou he papaa matua mo te whakahaere me te ruruku i nga taunekeneke i waenga i nga waahanga rereke, me te whakarite i te mahi pai me te tauine o nga mahi.

LangChain: He Utauta Whakakotahi i te Python

Ko LangChain he puna pukapuka Python puna tuwhera e whakarato ana i te anga matawhānui mo te hanga hoahoanga rorohiko a AI. He maha nga waahanga e tuku ana, tae atu ki:

  • RAG (Reasoning and Action Graph) Whakauru: Ka whakarato a LangChain i te whakatinanatanga RAG i hangaia, ka taea te hanga i nga whakaaro uaua me nga kauwhata mahi ka taea te whakamahi hei whakatauira me te mahi i nga rerenga mahi a AI.
  • LLM (Tauira Reo Nui) Whakauru: Ka tautoko a LangChain i te whakauru o nga LLM, penei i te LLaMA me te BERT, mo te tukatuka reo maori me nga mahi whakatipuranga.
  • Te Whakanuia me te Mahinga: I hangaia a LangChain ki te hapai i nga taumahatanga AI nui-nui, e whakarato ana i nga mahi pai me te tauineine o nga mahi.

Te Whakatinana i te Hanganga Pūmanawa Aki-Ai me te LangChain

Hei whakaatu i te whakatinanatanga o te hoahoanga rorohiko a AI ma te whakamahi i te LangChain, me whakaaro tatou ki tetahi tauira ngawari o te chatbot e whakamahi ana i te RAG ki te whakaaro mo nga patai a nga kaiwhakamahi me te whakaputa whakautu.

kawemai langchain
mai i langchain.chains kawemai llm


tawhetawhe = langchain.RAG(
    ingoa="chatbot_rag",
    kōpuku=[
        {"name": "greeting", "text": "Kia ora, me pehea taku awhina i a koe?"},
        {"name": "goodbye", "text": "Kia ora, he pai te korerorero ki a koe."},
    ],
    tapa=[
        {"from": "te mihi", "to": "poroporoaki", "condition": "kaiwhakamahi_poroporoaki"},
    ],
)

# Waihangahia he LLM
llm = llm.LLM(
    ingoa="chatbot_llm",
    tauira="llama",
    max_tokens=100,
)

# Waihangahia he mekameka chatbot
mekameka = langchain.Chain(
    ingoa="chatbot_chain",
    llm=llm,
    tawhetawhe = tawhetawhe,
)

# Whakamatauhia te chatbot
user_input = "Kia ora, kei te pehea koe?"
whakautu = chain.run(user_input)
tā(whakautu)

DSPy: He Utauta Whakakotahi i te Waikura

Ko te DSPy he taputapu whakahiato i runga i te waikura e whakarato ana i te anga mahi teitei me te tauine mo te hanga hoahoanga rorohiko a AI. He maha nga waahanga e tuku ana, tae atu ki:

  • RAG (Reasoning and Action Graph) Integration: Ka whakaratohia e DSPy he whakatinanatanga RAG i roto, e taea ai te hanga i nga whakaaro matatini me nga kauwhata mahi ka taea te whakamahi hei whakatauira me te whakahaere i nga rerenga mahi a AI.
  • LLM (Tauira Reo Nui) Whakauru: Ka tautoko a DSPy i te whakauru o nga LLM, penei i te LLaMA me te BERT, mo nga mahi tukatuka reo maori me nga mahi whakatipuranga.
  • Te Whakanuia me te Mahinga: I hoahoatia a DSPy ki te hapai i nga taumahatanga AI nui-nui, e whakarato ana i nga mahi pai me te tauineine.

Te Whakatinana i te Hanganga Pūmanawa Ahu-Ai me DSPy

Hei whakaatu i te whakatinanatanga o te hoahoanga rorohiko a AI ma te whakamahi i te DSPy, me whakaaro tatou ki tetahi tauira ngawari o te chatbot e whakamahi ana i te RAG ki te whakaaro mo nga patai a nga kaiwhakamahi me te whakaputa whakautu.

whakamahia dspy::chain;
whakamahia dspy::llm;

// Waihangahia he RAG
kia tawhetawhe = mekameka::RAG::hou(
    "chatbot_rag",
    vec![
        chain::Node::new("te mihi", "Kia ora, me pehea taku awhina i a koe?"),
        chain::Node::new("poroporoaki", "Kia ora, he pai te korerorero ki a koe."),
    ],
    vec![
        chain::Edge::new("te mihi", "poroporoaki", "kaiwhakamahi_poroporoaki"),
    ],
);

// Waihangahia he LLM
kia llm = llm::LLM::hou(
    "chatbot_llm",
    "lama",
    100,
);

// Waihangahia he mekameka chatbot
kia mekameka = mekameka::mekameka::hou(
    "chain_chatbot",
    llm,
    tawhetawhe,
);

// Whakamatauhia te chatbot
let user_input = "Kia ora, kei te pehea koe?";
kia whakautu = chain.run(user_input);
println!("{}", whakautu);

Tiki 5-10 Nga Tono Whakamahinga/Momohipi

Anei etahi o nga whakahau e whakamahia nuitia ana mo LangChain me DSPy:

  • LangChain:
    • langchain.RAG(): Hangaia he tauira RAG hou.
    • langchain.LLM(): Hangaia he tauira LLM hou.
    • langchain.Chain(): Hangaia he tauira mekameka hou.
    • rag.run(): Whakahaerehia te RAG me te whakaputa whakautu.
    • llm.run(): Whakahaerehia te LLM me te whakaputa whakautu.
  • DSPy:
    • dspy::chain::RAG::new(): Waihangahia he tauira RAG hou.
    • dspy::llm::LLM::new(): Waihangahia he tauira LLM hou.
    • dspy::chain::Chain::new(): Hangaia he tauira mekameka hou.
    • chain.run(): Ka whakahaere i te mekameka me te whakaputa whakautu.

Whakakitenga

Anei he tirohanga ngawari o te RAG me te LLM ma te whakamahi i te Chart.js:

const ctx = document.getElementById('myChart').getContext('2d');
tūtohi const = Tūtohi hou(ctx, {
    momo: 'pa',
    raraunga: {
        tapanga: ['RAG', 'LLM'],
        huingararaunga: [{
            tapanga: 'Taukaha',
            raraunga: [10, 20],
            papamuriTae: [
                'rgba(255, 99, 132, 0.2)',
                'rgba(54, 162, 235, 0.2)',
            ],
            Tae Tae: [
                'rgba(255, 99, 132, 1)',
                'rgba(54, 162, 235, 1)',
            ],
            TaitapaWhanui: 1
        }]
    },
    kōwhiringa: {
        pauna: {
            y: {
                beginAtZero: pono
            }
        }
    }
});

Whakamutunga

Hei whakamutunga, ko LangChain me DSPy nga taputapu whakahiato kaha e taea ai te whakatinanatanga o te hoahoanga rorohiko a AI ma te whakamahi i nga kaha RAG me te LLM. Ma te whakamahi i enei taputapu, ka taea e nga kaiwhakawhanake te hanga i nga punaha raupaparorohiko e taea te whakahaere i nga mahi uaua AI. Na te ngawari o te whakamahi me te ngawari, ko LangChain me DSPy nga whiringa pai mo te hanga hoahoanga rorohiko a AI.

Tautohu

I runga i nga korero i roto i tenei tuhinga, kei konei etahi tohutohu mo nga kaiwhakawhanake e hiahia ana ki te whakatinana i te hoahoanga rorohiko a AI ma te whakamahi LangChain me DSPy:

  • Me timata ma te ako i nga kaupapa o LangChain me DSPy, tae atu ki o raatau kaha RAG me LLM.
  • Whakamatau ki nga tauira ngawari, penei i te tauira chatbot, kia mohio ai koe ki te mahi o nga taputapu.
  • Ka neke haere ki nga kaupapa uaua ake, penei i te hanga i te punaha tohutohu, i te paipa tukatuka reo maori.
  • Whakamahia te waahanga Top 5-10 Whakamahinga Whakahau/Snippets hei aratohu tohutoro mo nga whakahau noa me nga waahanga.
  • Whakaarohia to kaha RAG me te LLM ma te whakamahi i te Chart.js kia pai ake te maarama ki nga hononga i waenga i nga waahanga rereke.

Ma te whai i enei tohutohu, ka taea e nga kaiwhakawhanake te whakatuwhera i te kaha katoa o LangChain me DSPy me te hanga hoahoanga rorohiko a AI-powered e taea te hapai i nga mahi uaua me te whakarato i nga mahi tino pai me te tauine.

Have Questions?

Let's Talk

Contact me on LinkedIn