Sukurkite DSPy dujotiekį | B4N1

Sukurkite DSPy dujotiekį

6 months ago · b4n1 Read time: 3 min

** Dirbtiniu intelektu pagrįstos programinės įrangos pristatymo organizavimas naudojant DSPy ir LangChain: Techninis automatizuotų programinės įrangos pristatymo vamzdžių vadovas**

Įvadas

Programinės įrangos apibrėžtos transporto priemonės (SDV) revoliucija keičia automobilių pramonę, žadėdama padidinti efektyvumą, sumažinti išlaidas ir pagerinti našumą. Tačiau SDV sistemų sudėtingumas reikalauja sudėtingesnio požiūrio į programinės įrangos pristatymą, kuris išnaudoja dirbtinio intelekto (AI) ir automatizavimo galią. Šiame straipsnyje mes išnagrinėsime, kaip organizuoti DI pagrįstą programinės įrangos pristatymą naudojant DSPy ir LangChain – dvi pažangiausias technologijas, kurios leidžia integruoti AI agentus, reliacinius abstrakčius grafikus (RAG) ir didelių kalbų modelius (LLM) su DevOps automatizavimo įrankiais.

Programinės įrangos pristatymo SDV įrenginiuose iššūkiai

Programinės įrangos apibrėžtos transporto priemonės remiasi sudėtingu tarpusavyje sujungtų sistemų tinklu, įskaitant autonominį vairavimą, informacijos ir pramogų sistemą ir transporto priemonių valdymą. Dėl didžiulio šių sistemų masto ir sudėtingumo tradiciniai programinės įrangos pristatymo metodai yra netinkami. Iššūkiai apima:

  • Mastelio keitimas: SDV sistemas reikia greitai įdiegti ir keisti, kad atitiktų kintančius vartotojų poreikius.
  • Našumas: programinės įrangos pristatymas turi užtikrinti optimalų našumą, patikimumą ir saugumą.
  • Sudėtingumas: SDV sistemose dalyvauja daug suinteresuotųjų šalių, technologijų ir procesų, todėl sunku valdyti ir koordinuoti programinės įrangos pristatymą.

Pristatome DSPy ir LangChain

DSPy ir LangChain yra dvi naujoviškos technologijos, sprendžiančios programinės įrangos pristatymo SDV įrenginiuose iššūkius. DSPy yra „Python“ pagrindu sukurta sistema, skirta dirbtiniu intelektu pagrįstų programinės įrangos tiekimo vamzdynų kūrimui ir diegimui, o „LangChain“ yra „Rust“ pagrindu sukurta biblioteka, skirta kurti ir valdyti LLM ir RAG.

DSPy: „Python“ pagrindu sukurta AI pagrįsta programinės įrangos pristatymo sistema

DSPy teikia išsamų įrankių ir bibliotekų rinkinį, skirtą dirbtiniu intelektu pagrįstų programinės įrangos pristatymo vamzdynų kūrimui ir diegimui. Tarp pagrindinių jo savybių yra:

  • Vedmenų suderinimas: DSPy leidžia kurti ir valdyti sudėtingus programinės įrangos tiekimo vamzdynus, įskaitant užduotis, darbo eigas ir priklausomybes.
  • AI integravimas: DSPy užtikrina sklandų integravimą su populiariomis AI sistemomis, tokiomis kaip TensorFlow ir PyTorch.
  • DevOps automatizavimas: DSPy palaiko integraciją su populiariais DevOps įrankiais, tokiais kaip Jenkins ir GitLab.

LangChain: rūdžių pagrindu sukurta biblioteka, skirta LLM ir RAG

LangChain yra rūdžių pagrindu sukurta biblioteka, skirta kurti ir valdyti LLM ir RAG. Tarp pagrindinių jo savybių yra:

  • LLM integracija: „LangChain“ užtikrina sklandų integravimą su populiariomis LLM, pvz., BERT ir RoBERTa.
  • RAG valdymas: „LangChain“ leidžia kurti ir valdyti RAG, kurios pateikia struktūrizuotą žinių grafikų vaizdą.
  • AI samprotavimas: „LangChain“ palaiko AI samprotavimus ir išvadas naudojant LLM ir RAG.

DSPy ir LangChain integravimas dirbtiniu intelektu pagrįstai programinei įrangai pristatyti

Norėdami integruoti DSPy ir LangChain, kaip pavyzdį galime naudoti šį kodo bloką:

importuoti dspy
iš langchain importo LLM, RAG


vamzdynas = dspy.Pipeline(
    name="ai-driven-software-delivery",
    užduotys=[
        dspy.Task("build", "build-software"),
        dspy.Task("testas", "bandymo programinė įranga"),
        dspy.Task("diegti", "diegti programinę įrangą")
    ]
)

# Sukurkite LLM ir RAG
llm = LLM ("bert-base-necased")
rag = RAG("programinės įrangos pristatymas")

# Integruokite LLM ir RAG su DSPy vamzdynu
pipeline.add_task(dspy.Task("ai-reasoning", "ai-reasoning", llm, rag))

# Paleiskite dujotiekį
pipeline.run()

Šis kodo blokas parodo, kaip sukurti DSPy konvejerį, integruoti LLM ir RAG naudojant LangChain ir paleisti konvejerį naudojant DSPy.

5–10 dažniausiai naudojamų komandų / fragmentų

Čia yra 5–10 dažniausiai naudojamų DSPy ir LangChain komandų / fragmentų:

DSPy + dspy.Pipeline(): sukurkite naują DSPy konvejerį. + dspy.Task(): sukurkite naują užduotį konvejeryje. + pipeline.add_task(): pridėkite užduotį prie konvejerio. + pipeline.run(): paleiskite konvejerį. LangChain + LLM(): sukurkite naują LLM. + RAG(): sukurkite naują RAG. + "llm.train()": mokykite LLM. + rag.build(): Sukurkite RAG.

Vizualizacija

Štai DSPy dujotiekio vizualizacija naudojant Chart.js:

{
  "tipas": "juosta",
  "duomenys": {
    "labels": ["Sukurti", "Test", "Deploy", "AI Reasoning"],
    "duomenų rinkiniai": [
      {
        "label": "Vamzijos užduotys",
        "duomenys": [10, 20, 30, 40],
        "backgroundColor": ["#4CAF50", "#FF9800", "#2196F3", "#8BC34A"]
      }
    ]
  },
  "parinktys": {
    "pavadinimas": {
      "display": tiesa,
      "text": "DSPy Pipeline Tasks"
    },
    "svarstyklės": {
      „yAxes“: [
        {
          "erkės": {
            "beginAtZero": tiesa
          }
        }
      ]
    }
  }
}

Ši vizualizacija rodo konvejerines užduotis, įskaitant kūrimą, testavimą, diegimą ir AI samprotavimus.

Išvada

Šiame straipsnyje mes ištyrėme, kaip organizuoti AI pagrįstą programinės įrangos pristatymą naudojant DSPy ir LangChain. Aptarėme programinės įrangos pristatymo SDV įrenginiuose iššūkius ir pristatėme pagrindines DSPy ir LangChain funkcijas. Taip pat pateikėme kodo bloką, rodantį, kaip integruoti DSPy ir LangChain, taip pat DSPy konvejerio vizualizaciją. Išnaudodami dirbtinio intelekto ir automatizavimo galią, galime pagerinti programinės įrangos apibrėžtų transporto priemonių mastelį ir našumą.


Have Questions?

Let's Talk

Contact me on LinkedIn