Mandrindra ny AI Agents miaraka amin'i LangChain sy DSPy ho an'ny Architecture Software Enhanced | B4N1

Mandrindra ny AI Agents miaraka amin'i LangChain sy DSPy ho an'ny Architecture Software Enhanced

8 months ago · b4n1 Read time: 4 min

Mandrindra ny Agent AI miaraka amin'i LangChain sy DSPy ho an'ny Architecture Software Enhanced

Fampidirana

Amin'izao tontolo nomerika haingana izao, mihasarotra ny rafitra rindrambaiko, miaraka amin'ny fampidirana ny fahaiza-manao Artificial Intelligence (AI) sy Machine Learning (ML). Vokatr'izany, nanjary olana lehibe ho an'ny injeniera rindrambaiko ny famolavolana rafitra miendrika sy miorim-paka izay afaka mandrindra tsara ireo mpiasan'ny AI. Ity lahatsoratra ity dia mikaroka ny fihaonan'ny AI, ny injeniera rindrambaiko, ary ny fitaovana orkestra hamolavola rafitra rindrambaiko mahomby, miaraka amin'ny fifantohana amin'ny fampiharana ireo mpiasan'ny AI mampiasa LangChain sy DSPy.

Ny filana AI Orchestration

Ny rafitra lozisialy nentim-paharazana dia matetika novolavolaina miaraka amin'ny maritrano monolithic, izay ampifandraisina mafy ny singa rehetra ary miara-miasa amin'ny fomba tsipika. Na izany aza, miaraka amin'ny fahatongavan'ny AI sy ML, ny rafitra rindrambaiko dia miha-mizara sy mizarazara, miaraka amin'ireo masoivoho marobe miara-miasa mba hahatratrarana tanjona iraisana. Izany dia nitarika ho amin'ny filana ny orkestra AI, izay misy ny famolavolana rafitra afaka mitantana sy mandrindra tsara ny fifandraisana misy eo amin'ireo mpiasan'ny AI marobe.

LangChain: Rafitra ho an'ny fananganana mpiasa AI

LangChain dia rafitra Python ho an'ny fananganana mpiasa AI izay afaka mifandray amin'ny tsirairay sy amin'ny rafitra ivelany. Izy io dia manome fitaovana sy trano famakiam-boky ahafahan'ny mpamorona mamorona mpandraharaha afaka manjohy hevitra, mianatra ary mampifanaraka amin'ny tontolo miova. LangChain dia naorina eo an-tampon'ny fiteny fandaharana Rust ary manome API avo lenta amin'ny fananganana mpiasa AI.

DSPy: Rafitra ho an'ny Orkestra

DSPy dia rafitra Python amin'ny fananganana rafitra zaraina izay afaka mandrindra ireo mpiasan'ny AI marobe. Izy io dia manome fitaovana sy tranomboky izay ahafahan'ny mpamorona mamolavola sy mametraka rafitra azo havaozina sy mahazaka izay afaka mitantana fifandraisana sarotra eo amin'ny mpiasa marobe. DSPy dia naorina teo an-tampon'ny rafitra fandefasana hafatra Apache Kafka ary manome API avo lenta amin'ny fananganana rafitra mizara.

Mampihatra AI Agents miaraka amin'i LangChain sy DSPy

Mba hampiharana ireo mpiasan'ny AI mampiasa LangChain sy DSPy dia mila manaraka ireto dingana ireto isika:

  1. Farito ny Architecture Agent: Farito ny maritrano an'ny mpiasan'ny AI, ao anatin'izany ny fampidirana, ny vokatra ary ny fifandraisana amin'ny mpiasa hafa.
  2. Ampiharo ny Lojikan'ny Agent: Ampiharo ny lojikan'ny mpiasan'ny AI amin'ny fampiasana LangChain, ao anatin'izany ny fomba fisainana, fianarana ary fampifanarahana.
  3. Mandrindra ny Fifandraisana amin'ny Agent: Mampiasà DSPy handrindrana ny fifaneraserana eo amin'ny mpiasan'ny AI marobe, ao anatin'izany ny protocole fifandraisana sy ny fomba fifanakalozana angona.
  4. Alefaso ny Rafitra: Ampidiro ny rafitra amin'ny alàlan'ny sehatra rahona na rafitra fanamoriana, toy ny Docker.

Ohatra Code: Mametraka Agent AI Tsotra miaraka amin'ny LangChain

Ity misy ohatra kaody tsotra mampiseho ny fomba fampiharana ny mpiasan'ny AI mampiasa LangChain:

import langchain
avy amin'ny langchain.chains import LLMChain


agent = langchain.Agent(
    input_schema={"text": str},
    output_schema={"text": str},
    chain=LLMChain(
        model="davinci:instructix",
        lava_mahatratra=2048,
        maripana=0.7,
    ),
)

# Ampiharo ny lojika mpandraharaha
def agent_logic(input_text):
    Output_text = agent.run(input_text)
    avereno output_text

# Andramo ny mpandraharaha
input_text = "Inona no dikan'ny fiainana?"
Output_text = agent_logic(input_text)
printy (voavoaka_soratra)

Ity ohatra kaody ity dia mampiseho ny fomba hamaritana mpiasan'ny AI amin'ny fampiasana LangChain, ao anatin'izany ny drafitra fampidirana sy famoahana, ary ny lojikan'ny mpandraharaha. Ny mpandraharaha dia ampiharina amin'ny alàlan'ny rojo Large Language Model (LLM), izay karazana mpiasa AI afaka manjohy hevitra sy mamorona lahatsoratra.

** Didy/Snippets 5-10 ambony indrindra ho an'ny LangChain sy DSPy**

Ireto ny baiko / snippets 5-10 ambony indrindra ho an'ny LangChain sy DSPy:

  1. langchain.Agent(): Mamorona ohatry ny mpandraharaha AI vaovao.
agent = langchain.Agent(
    input_schema={"text": str},
    output_schema={"text": str},
    chain=LLMChain(
        model="davinci:instructix",
        lava_mahatratra=2048,
        maripana=0.7,
    ),
)
  1. agent.run(): Mampandeha ny mpiasa AI miaraka amin'ny fidirana nomena.
Output_text = agent.run(input_text)
  1. DSPy.create_cluster(): Mamorona andiana node vaovao ho an'ny rafitra zaraina.
cluster = DSPy.create_cluster(
    num_nodes=5,
    node_type="worker",
)
  1. DSPy.create_agent(): Mamorona ohatry ny mpandraharaha AI vaovao ho an'ny rafitra zaraina.
agent = DSPy.create_agent(
    cluster = cluster,
    agent_type="LLM",
)
  1. DSPy.deploy_agent(): Mametraka ny AI agent amin'ny rafitra zaraina.
DSPy.deploy_agent(
    agent=agent,
    cluster = cluster,
)
  1. DSPy.get_agent_status(): Maka ny satan'ny mpiasa AI.
status = DSPy.get_agent_status(
    agent=agent,
    cluster = cluster,
)
  1. DSPy.update_agent(): Manavao ny mpiasan'ny AI miaraka amin'ny angona na masontsivana vaovao.
DSPy.update_agent(
    agent=agent,
    cluster = cluster,
    new_data={"text": "New input text"},
)
  1. DSPy.delete_agent(): Mamafa ny mpiasa AI amin'ny rafitra zaraina.
DSPy.delete_agent(
    agent=agent,
    cluster = cluster,
)
  1. DSPy.create_chain(): Mamorona rojom-pifandraisana AI vaovao ho an'ny rafitra zaraina.
rojo = DSPy.create_chain(
    agents=[agent1, agent2, agent3],
)
  1. DSPy.deploy_chain(): Mametraka ny rojo mpiasan'ny AI amin'ny rafitra zaraina.
DSPy.deploy_chain(
    rojo = rojo,
    cluster = cluster,
)

Visualization

Ity misy sary mampiseho ny maritrano LangChain sy DSPy mampiasa Chart.js:

{
  "type": "Chart pie",
  "data": {
    "labels": ["LangChain", "DSPy"],
    "datasets": [
      {
        "label": "Agent AI",
        "data": [50, 50],
        "loko loko": ["#4CAF50", "#FF9800"]
      }
    ]
  },
  "safidy": {
    "lohateny": {
      "fampisehoana": marina,
      "text": "LangChain sy DSPy Architecture"
    },
    "angano": {
      "fampisehoana": marina
    }
  }
}

Ity sary ity dia mampiseho ny fizarana ireo mpiasan'ny AI eo amin'ny LangChain sy DSPy, miaraka amin'ny 50% amin'ny mpiasa miasa amin'ny LangChain ary 50% mandeha amin'ny DSPy.

Famaranana

LangChain sy DSPy dia manome rafitra matanjaka ho an'ny fananganana sy fandrafetana ireo mpiasan'ny AI, ahafahan'ny mpamorona mamolavola rafitra azo havaozina sy maharitra izay afaka mitantana tsara ny fifandraisana sarotra eo amin'ny mpiasa marobe. Amin'ny fanarahana ireo dingana voatanisa ato amin'ity lahatsoratra ity, ny mpamorona dia afaka mampihatra ireo mpiasan'ny AI amin'ny fampiasana LangChain sy DSPy, ary mametraka azy ireo amin'ny rafitra fizarana mampiasa DSPy. Ny ohatra kaody sy ny sary aseho omena dia mampiseho ny fahaiza-manaon'ny LangChain sy DSPy, ary ny 5-10 ambony indrindra ny baiko / snippets dia manome reference haingana ho an'ny mpamorona.


Have Questions?

Let's Talk

Contact me on LinkedIn