Mampiasa fitaovana Orkestra ho an'ny Architecture Lozisialy AI-Powered

Fampidirana

Ny fitomboan'ny fangatahana ho an'ny maritrano rindrambaikon'ny AI dia nitarika ny fivoaran'ny fitaovana orkestra isan-karazany izay ahafahana mampiditra tsy misy dikany ny fahaiza-manao Artificial Intelligence (AI) sy Machine Learning (ML) amin'ny rafitra rindrambaiko. Ato amin'ity lahatsoratra ity, dia hijery ny fampiharana ny AI-driven rafitra rindrambaiko mampiasa fitaovana orkestra toy ny LangChain sy DSPy, miaraka amin'ny fifantohana amin'ny fampidirana ny RAG (Reasoning and Action Graph) sy LLM (Large Language Model) ho an'ny fanatsarana ny scalability, fampisehoana ary fiarovana.

Inona no atao hoe Fitaovana Orkestra?

Ny fitaovana orkestra dia rafitra rindrambaiko ahafahan'ny automatique ny fizotran'ny asa sy ny dingana sarotra amin'ny alàlan'ny fampidirana serivisy, fampiharana ary rafitra maro. Izy ireo dia manome sehatra afovoany amin'ny fitantanana sy fandrindrana ny fifandraisana eo amin'ireo singa samihafa, miantoka ny fanatanterahana asa mahomby sy azo ekena.

LangChain: Fitaovana Orkestra Miorina amin'ny Python

LangChain dia tranomboky Python open source izay manome rafitra feno ho an'ny fananganana rindrambaiko rindrambaiko AI. Manolotra endri-javatra maromaro izy io, ao anatin'izany:

Fampidirana RAG (Raisoning and Action Graph): LangChain dia manome fampiharana RAG naorina, mamela ny famoronana sarin-tsarin-kevitra sarotra sy hetsika izay azo ampiasaina amin'ny famolavolana sy fanatanterahana ny workflows avy amin'ny AI.
LLM (Modely amin'ny fiteny lehibe) fampidirana: LangChain dia manohana ny fampidirana ny LLM, toy ny LLaMA sy BERT, ho an'ny fanodinana ny fiteny voajanahary sy ny asa famoronana.
Scalability and Performance: LangChain dia natao hifehezana ny enta-mavesatry ny AI lehibe, manome fanatanterahana asa mahomby sy azo esorina.

Fampiharana ny Architecture Software entin'ny AI miaraka amin'ny LangChain

Mba hampisehoana ny fampiharana ny maritrano rindrambaiko entin'ny AI amin'ny fampiasana LangChain, andeha hojerentsika ohatra tsotra amin'ny chatbot izay mampiasa RAG mba hisaintsainana momba ny fanontanian'ny mpampiasa sy hiteraka valiny.

import langchain
avy amin'ny langchain.chains import llm


rag = langchain.RAG(
    anarana="chatbot_rag",
    nodes=[
        {"name": "greeting", "text": "Manahoana, ahoana no azoko anampiana anao?"},
        {"name": "veloma", "text": "Veloma, mahafinaritra ny miresaka aminao."},
    ],
    sisiny=[
        {"from": "greeting", "to": "veloma", "conditions": "user_says_goodbye"},
    ],
)

# Mamorona LLM
llm = llm.LLM(
    anarana="chatbot_llm",
    model="llama",
    max_tokens=100,
)

# Mamorona rojo chatbot
rojo = langchain.Chain(
    anarana="chatbot_chain",
    llm=llm,
    rag = rag,
)

# Andramo ny chatbot
user_input = "Manahoana, manao ahoana ianao?"
valiny = chain.run(user_input)
fanontana (valiny)

DSPy: Fitaovan'ny Orkestra mifototra amin'ny harafesina

DSPy dia fitaovana orkestra miorina amin'ny Rust izay manome rafitra avo lenta sy azo esorina amin'ny fananganana rafitra rindrambaiko enti-miasa AI. Manolotra endri-javatra maromaro izy io, ao anatin'izany:

Fampidirana RAG (Raisoning and Action Graph): DSPy dia manome fampiharana RAG naorina, mamela ny famoronana sarin-tsarin-kevitra sarotra sy hetsika azo ampiasaina amin'ny famolavolana sy fanatanterahana ny workflows avy amin'ny AI.
Fampidirana LLM (Modely amin'ny fiteny lehibe): DSPy dia manohana ny fampidirana LLM, toy ny LLaMA sy BERT, ho an'ny fanodinana ny fiteny voajanahary sy ny asa famoronana.
Scalability and Performance: DSPy dia natao hikarakarana ireo enta-mavesatry ny AI midadasika, manome fanatanterahana asa mahomby sy azo esorina.

Fampiharana ny Architecture Software entin'ny AI miaraka amin'ny DSPy

Mba hampisehoana ny fampiharana ny maritrano rindrambaiko entin'ny AI amin'ny fampiasana DSPy, andeha isika handinika ohatra tsotra amin'ny chatbot izay mampiasa RAG handinihana ny fanontanian'ny mpampiasa sy hamokatra valiny.

mampiasa dspy::chain;
mampiasa dspy::llm;

// Mamorona RAG
avelao rag = rojo::RAG::vaovao(
    "chatbot_rag",
    vec![
        chain::Node::new("arahaba", "Manahoana, ahoana no azoko anampiana anao?"),
        chain::Node::new("veloma", "Veloma, mahafinaritra ny miresaka aminao."),
    ],
    vec![
        chain::Edge::new("arahaba", "veloma", "mpampiasa_milaza_veloma")),
    ],
);

// Mamorona LLM
avelao llm = llm::LLM::vaovao(
    "chatbot_llm",
    "llama",
    100,
);

// Mamorona rojo chatbot
avelao rojo = rojo:: rojo::vaovao(
    "chain_chatbot",
    llm,
    vorodamba,
);

// Andramo ny chatbot
let user_input = "Manahoana, manao ahoana ianao?";
avelao valiny = chain.run(user_input);
println!("{}", valiny);

Didy/Snippet 5-10 ambony indrindra

Ireto ny sasany amin'ireo baiko sy snippet fampiasa matetika indrindra ho an'ny LangChain sy DSPy:

LangChain:
- langchain.RAG(): Mamorona ohatra RAG vaovao.
- langchain.LLM(): Mamorona ohatra LLM vaovao.
- langchain.Chain(): Mamorona ohatra rojo vaovao.
- rag.run(): Mampandeha ny RAG ary miteraka valiny.
- llm.run(): Mampandeha ny LLM ary miteraka valiny.
DSPy:
- dspy::chain::RAG::new(): Mamorona ohatra RAG vaovao.
- dspy::llm::LLM::new(): Mamorona ohatra LLM vaovao.
- dspy::chain::Chain::new(): Mamorona ohatra rojo vaovao.
- chain.run(): Mampandeha ny rojo ary miteraka valiny.

Visualization

Ity misy sary tsotra momba ny fahaiza-manao RAG sy LLM mampiasa Chart.js:

const ctx = document.getElementById('myChart').getContext('2d');
tabilao const = tabilao vaovao(ctx, {
    karazana: 'bar',
    data: {
        etikety: ['RAG', 'LLM'],
        angon-drakitra: [{
            etikety: 'fahaiza-manao',
            data: [10, 20],
            loko: [
                'rgba(255, 99, 132, 0.2)',
                'rgba(54, 162, 235, 0.2)',
            ],
            sisintanyColon: [
                'rgba(255, 99, 132, 1)',
                'rgba(54, 162, 235, 1)',
            ],
            sisin-tany: 1
        }]
    },
    safidy: {
        mizana: {
            y: {
                beginAtZero: marina
            }
        }
    }
});

Famaranana

Ho fehin-kevitra, LangChain sy DSPy dia fitaovana orkestra mahery vaika ahafahan'ny fampiharana ny maritrano rindrambaiko entin'ny AI mampiasa ny fahaiza-manao RAG sy LLM. Amin'ny alàlan'ny fampiasana ireo fitaovana ireo, ny mpamorona dia afaka mamorona rafitra rindrambaiko azo ekena, mahomby ary azo antoka izay mahazaka ny enta-mavesatra AI. Miaraka amin'ny fahamoran'ny fampiasana sy ny fahafahany, LangChain sy DSPy dia safidy tsara indrindra amin'ny fananganana rafitra rindrambaiko mampiasa AI.

Torohevitra

Mifototra amin'ny fifanakalozan-kevitra ato amin'ity lahatsoratra ity, ireto misy soso-kevitra vitsivitsy ho an'ny mpamorona izay te hampihatra ny maritrano rindrambaiko entin'ny AI amin'ny fampiasana LangChain sy DSPy:

Atombohy amin'ny fianarana ny fototry ny LangChain sy DSPy, ao anatin'izany ny fahaizany RAG sy LLM.
Manandrama ohatra tsotra, toy ny ohatra amin'ny chatbot, mba hahafantarana ny fomba fiasan'ny fitaovana.
Miroso tsikelikely amin'ny tetikasa sarotra kokoa, toy ny fananganana rafitra fanolorana na fantsona fanodinana fiteny voajanahary.
Ampiasao ny fizarana Didy/Snippet Top 5-10 be mpampiasa indrindra ho toy ny torolalana ho an'ny baiko mahazatra sy sombintsombiny.
Alaivo sary an-tsaina ny fahaiza-manao RAG sy LLM amin'ny fampiasana Chart.js mba hahazoana fahatakarana tsara kokoa ny fifandraisana misy eo amin'ireo singa samihafa.

Amin'ny fanarahana ireo tolo-kevitra ireo, ny mpamorona dia afaka manokatra ny fahafaha-manaon'ny LangChain sy DSPy feno ary manangana rafitra rindrambaiko enti-manana AI izay afaka mitantana ny enta-mavesatry ny asa ary manome fampisehoana miavaka sy scalability.

Mamorona RAG