Kupanga Mawakala wa AI kwa kutumia LangChain na DSPy kwa Usanifu Ulioboreshwa wa Programu

Kupanga Mawakala wa AI na LangChain na DSPy kwa Usanifu Ulioboreshwa wa Programu

Utangulizi

Katika mazingira ya kisasa ya kidijitali yenye kasi, mifumo ya programu inazidi kuwa changamani, kwa kuunganishwa kwa Akili Bandia (AI) na uwezo wa Kujifunza Mashine (ML). Kwa hivyo, kubuni mifumo inayoweza kubadilika na thabiti ambayo inaweza kupanga mawakala wa AI ipasavyo imekuwa jambo la kusumbua kwa wahandisi wa programu. Makala haya yanachunguza makutano ya AI, uhandisi wa programu, na zana za upangaji ili kubuni usanifu bora wa programu, kwa kuzingatia kutekeleza mawakala wa AI kwa kutumia LangChain na DSPy.

Haja ya Ochestration ya AI

Mifumo ya programu ya kitamaduni mara nyingi hutengenezwa kwa usanifu wa monolithic, ambapo vipengele vyote vimeunganishwa vyema na hufanya kazi pamoja kwa mtindo wa mstari. Hata hivyo, pamoja na ujio wa AI na ML, mifumo ya programu inazidi kusambazwa na kugatuliwa, huku mawakala wengi wakifanya kazi pamoja ili kufikia lengo moja. Hii imesababisha hitaji la upangaji wa AI, ambao unahusisha kubuni mifumo ambayo inaweza kusimamia na kuratibu kwa ufanisi mwingiliano kati ya mawakala wengi wa AI.

LangChain: Mfumo wa Kujenga Mawakala wa AI

LangChain ni mfumo wa Python wa kujenga mawakala wa AI ambao wanaweza kuingiliana na kila mmoja na kwa mifumo ya nje. Inatoa seti ya zana na maktaba zinazowawezesha wasanidi programu kuunda mawakala ambao wanaweza kufikiria, kujifunza na kukabiliana na mabadiliko ya mazingira. LangChain imejengwa juu ya lugha ya programu ya Rust na hutoa API ya kiwango cha juu ya kujenga mawakala wa AI.

DSPy: Mfumo wa Okestration

DSPy ni mfumo wa Python wa kujenga mifumo iliyosambazwa ambayo inaweza kupanga mawakala wengi wa AI. Inatoa seti ya zana na maktaba zinazowawezesha wasanidi kubuni na kupeleka mifumo mikubwa na dhabiti ambayo inaweza kudhibiti mwingiliano changamano kati ya mawakala wengi. DSPy imeundwa juu ya mfumo wa ujumbe wa Apache Kafka na hutoa API ya kiwango cha juu ya kujenga mifumo inayosambazwa.

Kutekeleza Mawakala wa AI na LangChain na DSPy

Ili kutekeleza mawakala wa AI kwa kutumia LangChain na DSPy, tunahitaji kufuata hatua hizi:

Fafanua Usanifu wa Wakala: Bainisha usanifu wa wakala wa AI, ikijumuisha ingizo, matokeo, na mwingiliano na mawakala wengine.
Tekeleza Mantiki ya Wakala: Tekeleza mantiki ya wakala wa AI kwa kutumia LangChain, ikijumuisha mbinu za kufikiri, kujifunza na kukabiliana.
Panga Mwingiliano wa Wakala: Tumia DSPy kupanga mwingiliano kati ya mawakala wengi wa AI, ikijumuisha itifaki za mawasiliano na taratibu za kubadilishana data.
Tekeleza Mfumo: Sambaza mfumo kwa kutumia jukwaa la wingu au mfumo wa uwekaji vyombo, kama vile Docker.

Mfano wa Kanuni: Utekelezaji Rahisi wa Wakala wa AI na LangChain

Hapa kuna mfano rahisi wa nambari inayoonyesha jinsi ya kutekeleza wakala wa AI kwa kutumia LangChain:

kuagiza langchain
kutoka kwa langchain.chains kuagiza LLMChain


wakala = langchain.Agent(
    input_schema={"text": str},
    output_schema={"text": str},
    mnyororo=LLMChain(
        model="davinci:instructix",
        max_length=2048,
        joto=0.7,
    ),
)

# Tekeleza mantiki ya wakala
def agent_logic(input_text):
    output_text = agent.run(input_text)
    rudisha maandishi_ya_toto

# Mtihani wakala
input_text = "Nini maana ya maisha?"
output_text = agent_logic(input_text)
chapisha(output_text)

Mfano huu wa msimbo unaonyesha jinsi ya kufafanua wakala wa AI kwa kutumia LangChain, ikijumuisha taratibu za kuingiza na kutoa, na mantiki ya wakala. Wakala hutekelezwa kwa kutumia Msururu wa Muundo wa Lugha Kubwa (LLM), ambayo ni aina ya wakala wa AI ambayo inaweza kusababu na kutoa maandishi.

Amri/Vijisehemu 5-10 vya Juu Vinavyotumika kwa LangChain na DSPy

Hapa kuna amri/vijisehemu 5-10 vya juu vinavyotumika zaidi kwa LangChain na DSPy:

langchain.Agent(): Huunda mfano mpya wa wakala wa AI.

wakala = langchain.Agent(
    input_schema={"text": str},
    output_schema={"text": str},
    mnyororo=LLMChain(
        model="davinci:instructix",
        max_length=2048,
        joto=0.7,
    ),
)

agent.run(): Huendesha wakala wa AI kwa ingizo fulani.

output_text = agent.run(input_text)

DSPy.create_cluster(): Huunda kundi jipya la nodi za mfumo unaosambazwa.

nguzo = DSPy.create_cluster(
    nambari_nodi=5,
    nodi_type="mfanyakazi",
)

DSPy.create_agent(): Huunda mfano mpya wa wakala wa AI kwa mfumo unaosambazwa.

wakala = DSPy.create_agent(
    nguzo=kundi,
    agent_type="LLM",
)

DSPy.deploy_agent(): Hupeleka wakala wa AI kwenye mfumo unaosambazwa.

DSPy.deploy_agent(
    wakala=wakala,
    nguzo=kundi,
)

DSPy.get_agent_status(): Hurejesha hali ya wakala wa AI.

hali = DSPy.get_agent_status(
    wakala=wakala,
    nguzo=kundi,
)

DSPy.update_agent(): Inasasisha wakala wa AI kwa data au vigezo vipya.

DSPy.sasisha_wakala(
    wakala=wakala,
    nguzo=kundi,
    new_data={"text": "maandishi mapya"},
)

DSPy.delete_agent(): Hufuta wakala wa AI kutoka kwa mfumo unaosambazwa.

DSPy.futa_wakala(
    wakala=wakala,
    nguzo=kundi,
)

DSPy.create_chain(): Huunda msururu mpya wa mawakala wa AI kwa mfumo unaosambazwa.

mnyororo = DSPy.create_chain(
    mawakala=[wakala1, wakala2, wakala3],
)

DSPy.deploy_chain(): Hupeleka msururu wa mawakala wa AI kwenye mfumo unaosambazwa.

DSPy.deploy_chain(
    mnyororo=mnyororo,
    nguzo=kundi,
)

Taswira

Huu hapa ni taswira ya usanifu wa LangChain na DSPy kwa kutumia Chart.js:

{
  "type": "pieChart",
  "data": {
    "labels": ["LangChain", "DSPy"],
    "seti za data": [
      {
        "label": "AI Agents",
        "data": [50, 50],
        "backgroundColor": ["#4CAF50", "#FF9800"]
      }
    ]
  },
  "chaguo": {
    "kichwa": {
      "onyesha": kweli,
      "text": "LangChain na Usanifu wa DSPy"
    },
    "hadithi": {
      "onyesha": kweli
    }
  }
}

Taswira hii inaonyesha usambazaji wa mawakala wa AI kati ya LangChain na DSPy, huku 50% ya mawakala wanaotumia LangChain na 50% wakitumia DSPy.

Hitimisho

LangChain na DSPy hutoa mfumo madhubuti wa kujenga na kupanga mawakala wa AI, kuwezesha wasanidi kubuni mifumo inayoweza kupanuka na thabiti ambayo inaweza kudhibiti kwa ufanisi mwingiliano changamano kati ya mawakala wengi. Kwa kufuata hatua zilizoainishwa katika makala hii, watengenezaji wanaweza kutekeleza mawakala wa AI kwa kutumia LangChain na DSPy, na kuzipeleka kwenye mfumo unaosambazwa kwa kutumia DSPy. Mifano ya msimbo na taswira iliyotolewa inaonyesha uwezo wa LangChain na DSPy, na amri/vijisehemu 5-10 vya juu vinavyotumiwa zaidi hutoa marejeleo ya haraka kwa watengenezaji.

Kupanga Mawakala wa AI kwa kutumia LangChain na DSPy kwa Usanifu Ulioboreshwa wa Programu

Have Questions?