Dirbtinio intelekto agentų suderinimas su „LangChain“ ir „DSPy“, kad būtų sukurta keičiama ir atspari programinės įrangos architektūra

Įvadas

Didėjant programinės įrangos sistemų sudėtingumui, buvo kuriamos dirbtinio intelekto valdomos architektūros, kurios gali efektyviai valdyti ir organizuoti kelis AI agentus. „LangChain“ ir „DSPy“ yra dvi galingos sistemos, leidžiančios sukurti keičiamo dydžio ir atsparias programinės įrangos architektūras, suteikdamos tvirtą AI agentų orkestravimo platformą. Šiame straipsnyje mes išnagrinėsime AI pagrįstos programinės įrangos architektūros įgyvendinimą naudojant LangChain ir DSPy, daugiausia dėmesio skirdami mastelio keitimui, atsparumui ir integracijai su DevOps įrankiais, tokiais kaip Ansible ir AWS Kiro.

Kas yra LangChain ir DSPy?

„LangChain“ yra „Python“ sistema, leidžianti kurti pokalbio AI agentus naudojant natūralios kalbos apdorojimo (NLP) ir mašininio mokymosi (ML) metodus. Tai suteikia paprastą ir intuityvią API, skirtą AI agentams kurti ir integruoti su įvairiomis programomis ir paslaugomis.

Kita vertus, DSPy yra „Rust“ pagrindu sukurta sistema, kuri suteikia didelio našumo ir keičiamo dydžio platformą AI agentų orkestravimui. Tai leidžia kurti sudėtingas AI sistemas, nes suteikia tvirtą ir lanksčią architektūrą, skirtą integruoti kelis AI agentus.

LangChain ir DSPy naudojimo pranašumai

LangChain ir DSPy naudojimas AI valdomoje programinės įrangos architektūroje suteikia keletą privalumų, įskaitant:

• Mastelio keitimas: „LangChain“ ir „DSPy“ leidžia kurti keičiamo dydžio AI sistemas, suteikdamos tvirtą platformą AI agentų orkestravimui.
• Atsparumas: „LangChain“ ir „DSPy“ naudojimas užtikrina, kad dirbtinio intelekto sistemos būtų atsparesnės gedimams ir klaidoms, nes jas galima lengvai perkonfigūruoti ir perskirstyti.
• Integracija: „LangChain“ ir „DSPy“ užtikrina sklandų integravimą su įvairiais „DevOps“ įrankiais, įskaitant Ansible ir AWS Kiro, todėl dirbtinio intelekto sistemas lengviau valdyti ir įdiegti.

Dirbtiniu intelektu pagrįstos programinės įrangos architektūros įdiegimas naudojant „LangChain“ ir „DSPy“.

Norėdami įdiegti AI valdomą programinės įrangos architektūrą naudodami „LangChain“ ir DSPy, turime atlikti šiuos veiksmus:

1. Įdiekite „LangChain“ ir „DSPy“: įdiekite „LangChain“ ir „DSPy“ sistemas naudodami atitinkamai „pip“ ir „cargo“.
2. Sukurti AI agentus: kurkite AI agentus naudodami „LangChain“ ir „DSPy“ ir integruokite juos su įvairiomis programomis bei paslaugomis.
3. Orchestrate AI Agents: naudokite DSPy AI agentams orkestruoti ir sudėtingoms AI sistemoms kurti.
4. Integruokite su DevOps įrankiais: integruokite LangChain ir DSPy su DevOps įrankiais, tokiais kaip Ansible ir AWS Kiro, kad galėtumėte valdyti ir diegti AI sistemas.

Kodo pavyzdys: AI agento sukūrimas naudojant „LangChain“.

importuoti langchain

# Sukurkite kalbos modelį
modelis = langchain.LMModel("kalbos_modelis")

# Sukurkite pokalbio AI agentą
agentas = langchain.ConversationalAgent(modelis)

# Apibrėžkite vartotojo įvesties apdorojimo funkciją
def handle_input(input_text):
    # Naudokite AI agentą, kad atsakytumėte į vartotojo įvestį
    atsakymas = agent.respond(įvesties_tekstas)
    grąžinti atsakymą

# Išbandykite AI agentą
input_text = "Sveiki, kaip sekasi?"
atsakymas = rankena_įvestis(įvesties_tekstas)
spausdinti (atsakymas)

Kodo pavyzdys: AI agentų surengimas naudojant DSPy

naudokite dspy::{Agentas, Orchestration};

// Sukurkite AI agentus
tegul agent1 = Agentas::new("agentas1");
tegul agent2 = Agentas::new("agentas2");

// Sukurkite orkestravimo egzempliorių
tegul orkestravimas = Orchestration::new();

// Pridėkite AI agentus prie orkestruotės
orkestravimas.add_agent(agent1);
orkestravimas.add_agent(agent2);

// Apibrėžkite funkciją, kuri tvarkytų vartotojo įvestį
fn hand_input(input_text: String) -> String {
    // Norėdami atsakyti į vartotojo įvestį, naudokite orkestravimo egzempliorių
    tegul atsakymas = orkestracija.atsakyti(įvesties_tekstas);
    atsakymą
}

// Išbandykite orkestravimą
let input_text = "Sveiki, kaip sekasi?".to_string();
tegul atsakymas = rankena_įvestis(įvesties_tekstas);
println!("{}", atsakymas);

5–10 dažniausiai naudojamų komandų / fragmentų

Čia yra 5–10 dažniausiai naudojamų „LangChain“ ir „DSPy“ komandų / fragmentų:

1. langchain.LMModel("language_model"): sukuria kalbos modelio egzempliorių.
2. langchain.ConversationalAgent(modelis): sukuria pokalbio AI agento egzempliorių.
3. dspy::Agent::new("agent1"): sukuria AI agento egzempliorių.
4. dspy::Orchestration::new(): sukuria orkestravimo egzempliorių.
5. orchestration.add_agent(agent1): į orkestravimą prideda AI agentą.
6. orchestration.respond(input_text): atsako į vartotojo įvestį, naudodamas orkestravimą.
7. langchain.model.respond(input_text): reaguoja į vartotojo įvestį naudojant kalbos modelį.
8. dspy::Agent::respond(input_text): atsako į vartotojo įvestį naudojant AI agentą.
9. langchain.ConversationalAgent.handle_input(input_text): tvarko vartotojo įvestį naudodamas pokalbio AI agentą.
10. dspy::Orchestration.handle_input(input_text): tvarko vartotojo įvestį, naudodamas orkestravimą.

Vizualizacija

Štai LangChain ir DSPy architektūros vizualizacija naudojant Chart.js:

{
  "tipas": "juosta",
  "duomenys": {
    "labels": ["LangChain", "DSPy"],
    "duomenų rinkiniai": [
      {
        "label": "Mastelio keitimas",
        "duomenys": [8, 9],
        "backgroundColor": ["rgba(255, 99, 132, 0.2)", "rgba(54, 162, 235, 0.2)"],
        "borderColor": ["rgba(255, 99, 132, 1)", "rgba(54, 162, 235, 1)"],
        "borderWidth": 1
      },
      {
        "label": "Atsparumas",
        "duomenys": [9, 8],
        "backgroundColor": ["rgba(255, 99, 132, 0.2)", "rgba(54, 162, 235, 0.2)"],
        "borderColor": ["rgba(255, 99, 132, 1)", "rgba(54, 162, 235, 1)"],
        "borderWidth": 1
      },
      {
        "label": "Integracija",
        "duomenys": [8, 9],
        "backgroundColor": ["rgba(255, 99, 132, 0.2)", "rgba(54, 162, 235, 0.2)"],
        "borderColor": ["rgba(255, 99, 132, 1)", "rgba(54, 162, 235, 1)"],
        "borderWidth": 1
      }
    ]
  },
  "parinktys": {
    "svarstyklės": {
      „yAxes“: [
        {
          "erkės": {
            "beginAtZero": tiesa
          }
        }
      ]
    }
  }
}

Ši vizualizacija parodo LangChain ir DSPy mastelio keitimą, atsparumą ir integravimo galimybes.

Išvada

Apibendrinant galima pasakyti, kad „LangChain“ ir „DSPy“ yra galingos sistemos, leidžiančios sukurti keičiamo dydžio ir atsparias programinės įrangos architektūras, suteikdamos tvirtą AI agentų orkestravimo platformą. Naudodami „LangChain“ ir „DSPy“, kūrėjai gali sukurti sudėtingas AI sistemas, kurios yra efektyvios, keičiamo dydžio ir atsparios. „LangChain“ ir „DSPy“ naudojimas taip pat leidžia sklandžiai integruotis su įvairiais „DevOps“ įrankiais, todėl lengviau valdyti ir įdiegti AI sistemas.